Till innehåll på sidan
Till KTH:s startsida

Etiska och juridiska frågor

Användningen av generativ AI har flera etiska och juridiska implikationer som måste tas i åtanke och hanteras, precis som med alla andra digitala verktyg på KTH. För generativ AI är det dock svårare än vanligt på grund av komplexiteten i de stora språkmodellerna och användbarheten av tekniken.

Vilka olika problem kan uppstå när man använder generativ AI, och varför behöver man ta hänsyn till dem? Vi kommer att ta upp de vanligaste etiska och juridiska frågorna i samband med generativa AI-applikationer. Observera att juridiska frågor ofta också är etiskt problematiska, men att motsatsen inte alltid är sann. Du hittar fler praktiska tips på sidan Använd generativ AI effektivt och etiskt .

Du hittar relaterade länkar under "vidare läsning" i slutet av sidan.

Etiska frågor

Generativ AI är en kraftfull teknik, och användningen av den väcker etiska frågor som måste tas i åtanke.

Funderingar om skapat innehåll

Några av de etiska frågorna när man skapar innehåll med generativ AI finns i följande lista:

  • Spridning av olämpligt eller skadligt innehåll. Generativ AI saknar empati och förståelse för det innehåll de skapar, vilket kan orsaka skada i situationer där sådana färdigheter krävs.
  • Förstärkning av befintliga fördomar. Generativ AI kan förstärka vissa fördomar som finns i de data som den tränas på, vilket kan leda till orättvisa eller diskriminerande resultat. Den kan också förstärka användarens fördomar genom att presentera dem som sanningar.
  • Sanningsenlighet och precision. Det finns en risk för felaktig information till studenter, eftersom generativ AI kan skapa falsk information på ett till synes självsäkert sätt. För närvarande finns det inga tillförlitliga verktyg som kan screena AI-genererad information för sanningsenlighet.
  • Falska identiteter och deepfakes. Att låtsas vara någon annan blir allt enklare tack vare generativa AI-applikationer, liksom att skapa falska identiteter. Att lära studenterna att använda generativ AI kommer därför också att öka medvetenheten om deepfakes, som kan ha både positiva och negativa konsekvenser. Vad är deepfakes? (businessinsider.com, sida på engelska) .

Andra viktiga frågor

Även om vi löser de etiska problemen vad gäller innehållet så finns det problem med att bara använda generativ AI. Här listar vi några av dessa problem:

  • Osäkerhet och ansvarsskyldighet. Det kan vara svårt att förklara de grundläggande principerna och det inre arbetet i generativ AI, och nästan omöjligt att förstå varför specifikt innehåll skapades. Detta kan leda till osäkerhet och misstro mot innehåll som skapats av generativ AI och göra det svårare att se vem som är ansvarig och kan ställas till svars för innehållet.
  • Möjliga överträdelser av dataskyddet. Som med alla digitala verktyg måste frågor om dataintegritet och säkerhet beaktas innan det används. Särskilt när det gäller känslig information eller innehåll som skapats av studenter.
  • Miljöpåverkan. Precis som alla digitala verktyg kräver generativ AI strömförsörjning för att tränas och användas. Om ägarna till en AI vill hålla den uppdaterad måste de lägga till mer data och träna om modellen, vilket kräver mycket ström. Den tar också upp mer serverutrymme och kräver därför mer strömförsörjning för att fungera.

Vad kan man göra åt detta?

Vissa av dessa problem kan hanteras så enkelt som att informera studenterna om dem, medan andra kräver större investeringar av tid och energi. Sammantaget bör de potentiella riskerna och etiska övervägandena beaktas fullt ut innan du implementerar generativ AI i din kurs. För mer praktiskt stöd om etisk användning av generativ AI, gå till Använd generativ AI effektivt och etiskt .

Observera att eftersom generativ AI är en relativt ny teknik har etiska frågor ännu inte utforskats till fullo. Framtida forskning bör fokusera på att ta itu med de unika utmaningarna med generativ AI. Till exempel att bättre definiera och mäta osäkerheten i förutsägelser, förbättra transparensen, upptäcka partiskhet, förstå miljöpåverkan och införa effektiva skyddsåtgärder mot missbruk.

Juridiska frågor som rör generativ AI

Juridiska frågor kan antingen gälla skapandet och träningen av maskininlärningsmodeller eller användningen av dem. Ibland är det svårt att skilja dessa två områden åt, eftersom användning förutsätter en redan tränad modell.

Immateriella rättigheter och upphovsrätt

Generativ AI har potential att skapa unikt och innovativt innehåll som inte är möjligt med traditionella metoder. Detta innehåll bygger dock på verk som skapats av människor. Utvecklarna av den generativa AI-applikationen kanske inte har rätt att använda eller leverera källorna till det innehåll som AI:n bygger på.

Det är också en fråga om upphovsrätten skyddar innehåll som skapats med hjälp av generativ AI, eftersom det inte skapats av en människa. Om det inte är skyddat, är då AI-genererat och sedan mänskligt modifierat innehåll skyddat? Det bör också finnas en större medvetenhet om var gränsen går mellan AI-genererat och mänskligt skapat innehåll.

GDPR

Det finns flera frågor som rör dataskyddslagar som GDPR och generativ AI. Här förklarar vi kortfattat de viktigaste.

För att följa GDPR måste generativa AI-applikationer tillåta sina användare att korrigera, ta bort och få tillgång till alla sina personuppgifter. Det största problemet är att de flesta stora språkmodeller (LLM), som GPT-3, tränas på uppsättningar av offentligt tillgängliga data, ofta inklusive personuppgifter. Det finns inget enkelt sätt att ta bort eller korrigera personuppgifter från en tränad AI-modell. Utvecklare skulle behöva träna om modellen med nya data, rensad från all personlig information, för att kunna hantera denna fråga på rätt sätt. Detta skulle vara både tids- och resurskrävande och kostsamt för utvecklarna.

En annan juridisk fråga att ta hänsyn till är att enligt GDPR måste alla som behandlar personuppgifter ha en giltig rättslig grund för att göra det. Att ha offentligt tillgängliga LLM:er innebär att skaparna redan har hanterat personuppgifter under träningen av modellen. Därför behöver de en giltig rättslig grund för behandlingen, men det är oklart om de har det eller om de redan har brutit mot lagen.

Vidare läsning

Etiska frågor:

Upphovsrätt:

Hur man navigerar de juridiska frågorna kring användningen av generativ AI för att skapa innehåll (kofirm.com, sida på engelska)

GDPR: