Till innehåll på sidan
Till KTH:s startsida

Juridiska aspekter kring generativ AI

Användningen av generativ AI har flera juridiska implikationer som måste tas i åtanke och hanteras, precis som med alla andra digitala verktyg på KTH. Här förklarar vi i korthet hur du som lärare hanterar immateriella rättigheter och upphovsrätt, dataskyddsförordningen (GDPR) samt AI-förordningen från EU.

Immateriella rättigheter och upphovsrätt

Upphovsrätten skyddar dig som skapat något genom att ge dig ensamrätt till det du skapat under en begränsad tid. Upphovsrätt är en typ av immateriell rättighet som börjar gälla automatiskt, medan du behöver ansöka om de andra tre typerna av immateriella rättigheter (patenträtt, varumärkesrätt och mönsterrätt). Läs mer på Immateriella rättigheter (prv.se) .

Material skapat av generativ AI saknar upphovsrättsskydd då upphovsrätt endast gäller om en människa har skapat materialet. Om inget annat står i användarvillkoren för AI-verktyget så är därför det generade materialet fritt att använda av alla, inklusive de som äger AI-verktyget. För att materialet ska bli upphovsrättsskyddat krävs att du redigerar materialet till den grad att du bedöms skapat ett nytt verk. 

Om du skapar en prompt som innehåller andras material, försäkra dig om att du har tillåtelse av upphovsrättsinnehavaren för den typen av användning. Detta gäller även material skapat av studenter. Läs mer om att Använda andras material .  

En stor risk med generativ AI är att du kan råka återskapa skyddade verk när du genererar nytt material. Detta kan hända eftersom generativ AI-verktyg måste tränas på stora mängder människoskapat material och internet är den enklaste källan för den mängd som krävs. Mycket av det material som är tillgängligt på internet är inte fritt att använda. Träningsdatan för generativ AI-verktyg innehåller därför troligen upphovsrättsskyddat material. 

Upphovsrätt för AI-skapat material förklaras i mer detalj av Patent och registreringsverket: Upphovsrätt på AI-bilder (prv.se) . 

Dataskyddsförordningen (GDPR)

GDPR har det övergripande syftet är att säkerställa och förstärka individens rätt till sitt privatliv genom skydd av personuppgifter. KTH ska se till att individens rättigheter säkerställs vid alla skeden av en hantering av personuppgifter och oavsett på vilket sätt. Läs mer om GDPR på sidan Dataskyddsförordningen (GDPR) .

Du rekommenderas att rensa prompts från personuppgifter när du använder generativ AI-verktyg. Det är svårt att radera personuppgifter om de väl hamnat i träningsdatan för verktyget, vilket gör preliminär rensning till den säkraste och enklaste metoden för att garantera korrekt hantering av personuppgifter.  

Om du inte rensar bort personuppgifter måste du kontrollera att din användning av generativ AI-verktyg uppfyller GDPR-kraven. I följande lista hittar du ett urval av viktiga frågor att besvara innan du använder generativ AI-verktyg: 

  • Vad är din rättsliga grund för att hantera personuppgifter med AI-verktyget? 
  • Hur garanterar du att inga personuppgifter skickas eller sparas utanför Europa eller sparas hos en tredje part?  
    • Med tredje part menas någon annan än du eller företaget bakom AI-verktyget. 
  • Hur garanterar du att inga personuppgifter används för att träna verktyget? 
    • Många generativ AI-verktyg har detta som en inställning. Exempelvis i ChatGPT behöver du stänga av inställningen “Improve the model for everyone”. 

Vad är en personuppgift?  

Integritetsskyddsmyndigheten säger följande: “Personuppgifter är all slags information som direkt eller indirekt kan knytas till en person som är i livet” på sidan Vad är personuppgifter? (imy.se) . 

Detta innefattar uppenbara saker som namn och personnummer, men även mejladresser, bilder och ljudinspelningar. 

AI-förordningen

AI-förordningen är en EU-lag som bestämmer (bland annat) hur AI får användas och under vilka förhållanden. Lagen innefattar alla sorters AI, inklusive generativ AI. Du hittar lagtexten på sidan EU-förordning 2024/1689 (eur-lex.europa.eu) .

AI-förordningen fokuserar på användning av AI som kategoriseras som förbjuden eller hög risk, men inkluderar även regler som gäller all användning. Med högrisk menas AI som riskerar ha negativ påverkan på vår säkerhet, hälsa eller våra grundläggande rättigheter. 

Som lärare behöver du göra följande: 

  • Uppfyll kravet på transparens. Uppfylls enklast genom att du berättar när och hur du använt ett generativ AI-verktyg. Se till att informationen kan läsas både av människor och av maskiner. Det finns undantag till kraven på transparens, är du intresserad av dem får du gärna läsa lagtexten. 
  • Uppfyll kravet på förståelse av AI. Du som lärare måste ge dina studenter en tillräcklig förståelse av risker, möjligheter och möjlig skada som kan uppstå på grund av AI. Den acceptabla nivån av förståelse ska anpassas efter målgrupp och förväntad användning av AI. 
  • Uteslut förbjuden användning. Detta är väldigt enkelt då förbjuden användning främst innebär analys och manipulation av personers beslut och känslor med avsikt att orsaka skada. 
  • Försök undvika högrisk-användning. Till exempel räknas att använda AI för betygsättning eller för styrning av studenternas lärande. Se slutet på denna sida för exakt vad som räknas som högrisk inom utbildning.
    • Tips: Undantag görs om användningen av AI inte väsentligt påverkar resultatet av beslutfattandet. 

Notera att högrisk-användning inte är förbjuden, det är bara resurskrävande och kräver att användningen registreras i en EU-databas. 

Under följande rubriker hittar du lagtexten för högrisk-användning och förbjuden användning av AI.