Till innehåll på sidan
Till KTH:s startsida

Att tänka på vid användning av generativ AI

Här hittar du rekommenderade riktlinjer för användning av generativ AI inom utbildning på KTH. De fem riktlinjerna utgår från lagkrav och etiska förhållningssätt, inspirerade av bland annat riktlinjerna från DIGG (myndigheten för digital förvaltning).

Riktlinjer

Dessa riktlinjer bör ligga som grund för all användning av generativ AI inom utbildning på KTH. Riktlinjerna utgår från lagkrav, etiska förhållningssätt på KTH och etiska rekommendationer från DIGG och Europiska kommissionen. Du hittar mer information och länkar till detta efter riktlinjerna, under rubriken ”Inspiration för riktlinjerna”.  

Riktlinjerna är dessa: 

  1. Använd bara generativ AI när det är relevant och lämpligt. 
  2. Ha ett människocentrerat och respektfullt förhållningssätt till generativ AI. 
  3. Arbeta kritiskt och med mänsklig kontroll (“human-in-the-loop"). 
  4. Ta hänsyn till GDPR och upphovsrätt. 
  5. Var transparent med hur du använder generativ AI. 

Mer detaljer på hur du ska uppfylla dessa riktlinjer hittar du under rubrikerna som följer.

Hållbarhet och generativ AI

Kom ihåg att tänka på energiförbrukningen och det ekologiska fotavtrycket för det generativ AI-verktyget som du väljer. För mer information, titta på Lunch 'n' Learn AI och hållbarhet – mot en rättvis framtid .

1. Använd bara generativ AI när det är relevant och lämpligt 

Innan du börjar använda generativ AI bör du ställa dig den mest grundläggande frågan (”Question zero”): vad är det du egentligen försöker åstadkomma? Som en följdfråga på det: är generativ AI det bästa sättet att uppnå det du försöker åstadkomma? 

Välj bland andra verktyg 

Använd bara generativ AI när just generativ AI behövs. Det finns många andra verktyg som kan vara mer passande och energieffektiva för specifika uppgifter. 

Exempelvis:  

  • Sökmotorer. 
  • Existerande mallar. 
  • Rättstavningsprogram. 
  • Bildbanker.  

Väg önskade effekter mot potentiella oönskade 

Överväg de potentiellt oönskade effekter som kan uppstå av att använda generativ och väg dem mot de positiva, önskade effekterna.  

Exempel på möjliga oönskade effekter:  

  • Minskat samarbete med kollegor då generativ AI används som bollplank i stället. 
  • Att ditt unika sätt att uttrycka dig tvättas bort ur dina texter.  

Bedöm hur lärandet påverkas 

Du behöver bedöma hur eventuellt användande av generativ AI i din kurs kan påverka lärandet och därmed uppfyllandet av lärandemålen. Utifrån det skriver du kursspecifik information riktad till studenterna om acceptabel användning av generativ AI, läs mer på sidan KTH:s mallar för kursspecifik information om generativ AI .  

Tips! Uppmuntra studenterna till att använda generativ AI på samma sätt som de får göra i examinerande moment, så de är korrekt förberedda.

2. Ha ett människocentrerat och respektfullt förhållningssätt till generativ AI 

Du bör ha ett människocentrerat förhållningssätt till generativ AI, det vill säga att du använder generativ AI så att du respekterar människors identitet, integritet och värdighet. Inom undervisning innebär det bland annat det som tas upp under följande rubriker. 

Säkerställ att studenterna behåller och utvecklar färdigheter 

Generativ AI kan utföra uppgifter som studenter annars hade behövt utveckla färdigheter för att slutföra, vilket kan ge dem en sämre förutsättning i framtiden. Se till att studenterna får möjlighet att träna de färdigheter som generativ AI utför åt dem.  

Exempel på färdigheter:  

  • Att utveckla sin egen röst i skrift genom att skriva utan AI. 
  • Ställa upp och lösa problem på egen hand. 
  • Välja ut vad som är viktigt nog att ta med i en summering. 

Rättvis behandling och lika möjligheter 

Olika versioner av generativ AI-verktyg kan ge olika bra resultat. Speciellt stor skillnad är det mellan gratisversioner och betalversioner, vilket kan leda till att studenter som har råd att betala för licensen får ett orättvist försprång. Du bör göra vad du kan för att ge alla studenter lika möjlighet att använda generativ AI-verktyg i din kurs.  

Exempel på sätt att få mer rättvis användning: 

  • Bara tillåta användning av generativ AI för uppgifter där versionerna ger liknande resultat eller inte påverkar slutresultatet stort. Som översättning av enstaka meningar eller andra enkla uppgifter. 
  • Skriva ut vilka specifika versioner av generativ AI-verktyg som får användas. 
  • Ge tillgång till betalversionen av ett generativ AI-verktyg till alla i kursen. Till exempel en licens per student eller ha ett fåtal licenser som studenterna får låna vid behov.  

Lyssna på och involvera studenterna 

Ge studenterna möjlighet att påverka vad som anses vara acceptabel användning av generativ AI i kursen. Studenter har olika perspektiv och åsikter som kan ge dig nya inblickar och det är troligare att studenterna följer regler de varit med att påverka. 

Hur du kan göra detta hanteras på sidan Hur du pratar med dina studenter om generativ AI . 

3. Arbeta kritiskt och med mänsklig kontroll (“human-in-the-loop")  

Om du använder generativ AI-verktyg bör du använda det som en assistent som stödjer dig i ditt arbete, inte som en expert i något ämne. Verktyget kan sakna viktiga detaljer eller skapa falsk information (kallas att ”hallucinera”). Du är den som ansvarar för alla beslut och bedömningar av vad som är lämpligt och korrekt och du har även empati och sociala färdigheter som verktyget saknar. 

Gör exempelvis följande: 

  • Inkludera mångfald och olika synvinklar i din prompt (instruktion). 
  • Avsluta alltid med mänsklig kontroll och korrigering av resultatet. Korrigera exempelvis: 
    • felaktig information (hallucinationer) 
    • fördomar 
    • snedvridning av fakta. 

Tips! Redigera gärna det AI-genererade resultatet för att sätta din spinn på det, exempelvis för att få in din röst i en text. Det hjälper dig även uppfylla vissa lagkrav, läs mer på sidan Juridiska aspekter kring generativ AI . 

Läs användarvillkoren noga

Alla generativ AI-verktyg har användarvillkor som kan begränsa eller på annat sätt påverka hur du får använda dig av materialet som skapas. Läs alltid genom användarvillkoren innan du använder dig av ett generativ AI-verktyg. 

4. Ta hänsyn till GDPR och upphovsrätt 

GDPR och upphovsrätt är två lagar som direkt påverkar vad du får inkludera i din prompt till ett generativ AI-verktyg. I följande två listor förklaras hur enklast tar hänsyn till GDPR och upphovsrätt när du använder generativ AI. 

GDPR: 

Upphovsrätt: 

  • Material skapat av generativ AI är inte upphovsrättsskyddat. 
  • Undvik att skapa material som kan göra intrång på upphovsrätt. Till exempel genom att undvika att skapa bilder i en specifik konstnärs stil. 
  • Exkludera upphovsrättsskyddat material från dina prompts eller få tillåtelse från upphovsrättsägaren innan du använder det. 

Mer detaljer hittar du på sidan Juridiska aspekter kring generativ AI . 

5. Var transparent med hur du använder generativ AI 

Berätta när du använder generativ AI i ditt eget material, gärna även hur och varför. På så sätt visar du dina studenter hur man använder AI på ett ärligt sätt och du bygger även förtroende hos studenter och kollegor. 

Var även öppen med när du tänker använda generativ AI på studenternas material och ge dem möjlighet att avstå från användandet. En student ska kunna avstå utan att det påverkar deras betyg, förutom om användandet av generativ AI är obligatorisk för att slutföra kursen. 

Inspiration för riktlinjerna 

Vi har anpassat existerande lagliga och etiska riktlinjer för att bättre passa en lärare på KTH. Vi har använt oss av: