Till innehåll på sidan
Till KTH:s startsida

Använd generativ AI effektivt och etiskt

Det finns frågor kring användningen av generativa AI-applikationer som behöver besvaras på innan vi kan integrera det till andra AI-drivna verktyg som används på KTH, till exempel Grammarly. Hur kan vi effektivt använda generativ AI, samtidigt som vi minimerar risken för olämplig användning? Hur kan vi lära oss att använda det på ett sätt som är etiskt och akademiskt hederligt, och hjälpa studenter att göra detsamma?

Antalet generativa AI-applikationer som finns tillgängligt online är enormt och det ökar varje dag. Dessa applikationer kan generera alla möjliga typer av material: text, bilder, kod, ljud, video, musik osv.

Vi kommer på denna sida använda ChatGPT som exempel, vilket är en AI-applikation som genererar text. Den är aktuell eftersom de flesta använder denna generativa AI:n som en början. Många andra generativa AI-applikationer fungerar på liknande sätt.

Effektiva sätt att använda generativ AI som ChatGPT

För att använda en generativ AI måste du ge den instruktioner på något sätt, vanligtvis i form av frågor eller påståenden. Dessa instruktioner kallas för prompts. För chattrobotar som ChatGPT skriver du in prompts i en textruta och får svaret i en chatt. De flesta generativa AI:er accepterar prompts på liknande sätt, även om resultatet kan visas på olika sätt.

Skriv ändamålsenliga prompts

Du bör skriva AI-prompts med en idé om resultatet i åtanke, annars riskerar du att få generiska svar från den generativa AI:n. Gör följande när du skriver prompts för att få mer fokuserad och relevant utdata:

  • Ange begränsningar. Till exempel: "lista bara de tre viktigaste punkterna" eller "upprepa inte dig själv".
  • Ange ditt syfte, antingen explicit eller implicit. Till exempel "fråga mig om X, jag vill lära mig ämnet" eller "föreslå en lektionsplan för att bäst lära ut X".
  • Inkludera längre texter och fokusera resten dina prompts på dessa texter. Till exempel: "Ge feedback på hur jag kan bli en bättre skribent baserat på följande uppsats".
  • Definiera en persona eller roll för AI:n. Några enkla exempel: "du är en expert på logik" eller "svara som en förvirrad student". Du kan också lägga till många fler detaljer, se exempel på sidan AI-personer att prata med i ChatGpt (aidemos.info, sida på engelska) .

Om du inte är nöjd med resultatet kan du be den generativa AI:n att försöka igen med samma fråga eller skriva en annan fråga. Du kan också förfina resultatet genom att iterera det genom en interaktiv dialog med den generativa AI:n, vilket förklaras under nästa rubrik.

Iterera genom interaktiv dialog

Att använda en generativ AI effektivt är mer än att bara skriva en bra prompt, det handlar om att arbeta med AI:n för att iterera. När du har fått ett svar på din första prompt kan du låtsas att du pratar med en person. Be den till exempel att förklara något mer detaljerat eller med andra ord, du kan också be den att rätta till något som den har gjort fel. På så sätt behöver du inte skriva en "perfekt" fråga, utan du kan helt enkelt chatta och vägleda AI:n till det resultat du vill ha.

Som ett exempel frågade vi ChatGPT (i maj 2023): "Hur skulle du förklara hur man använder ChatGPT för någon som aldrig har använt det tidigare?" Svaret var dock för långt för att citeras här så vi försökte slipa ner det genom att fråga: "Kan du skriva detta mer sammanfattat?". På så sätt fick vi ett svar som var kort och koncist:

ChatGPT med en aktiv konversation och en chattbox på engelska. Vänstra palnelen visar tidigare chatt

"Javisst! Här är en mer sammanfattad version:

  1. Skriv in din fråga eller ditt påstående i chattrutan.
  2. Läs svaret från ChatGPT.
  3. Fortsätt konversationen genom att ställa följdfrågor eller ge mer detaljer.
  4. Experimentera med olika frågor och variationer.
  5. Var tydlig och specifik i dina instruktioner eller sammanhang.
  6. Kom ihåg att ChatGPT har begränsningar och ibland kan ge felaktiga svar.
  7. Njut av konversationen och ge feedback för förbättringar.

Hoppas att det hjälpte! Säg till om du har några fler frågor."

Om vi hade velat hade vi kunnat fortsätta att förbättra resultatet. Till exempel genom att be den att utveckla punkterna 3 och 4, ta bort punkt 7 och förklara vad vi behöver göra åt punkt 6. På så sätt kan du chatta med den generativa AI:n tills du har fått det resultat du vill ha.

Etisk användning av generativ AI som lärare

Hur kan vi använda generativ AI på ett sätt som är etiskt försvarbart? Den frågan är inte helt lätt att besvara. Det finns mycket att ta hänsyn till när man bestämmer sig för om man ska använda det i sin kurs. Här har vi samlat stöd kring etisk användning, både praktiska handfasta råd och mer generella vägledande frågor.

Riktlinjer för etisk användning

  • Ange inte någon personlig information om dig själv eller dina studenter, exempelvis när du skriver prompts. Dina studenters integritet och sekretess är viktiga att ta hänsyn till.
  • Var transparent om när och varför du använder AI. På så sätt visar du dina studenter hur man använder AI på ett ärligt sätt.
  • Var medveten om och ha en plan för att hantera fördomar och begränsningar hos AI:n och se till att dina studenter också förstår hur man gör det. AI-verktyg är inte fria från fördomar och därför bör vi använda dem med försiktighet.
  • Ge studenterna möjlighet att påverka om AI ska användas i deras material eller inte. Du kan inte garantera att studenternas material inte kommer att användas för att träna AI:n och de bör få bestämma hur deras material ska användas.
  • Om möjligt bör du undvika att ge din information till AI-applikationen för träning, för att skydda eventuella problem med din upphovsrätt. För vissa AI-applikationer kan detta göras under inställningar.

Fyra viktiga etiska överväganden som en underliggande vägledning

Europeiska kommissionen har publicerat Etiska riktlinjer för användandet av artificiell intelligens (AI) och data i undervisning och lärande för pedagoger (European Union, 2022, education.ec.europa.eu, sida på engelska) . I dessa riktlinjer identifieras fyra viktiga etiska överväganden som underliggande vägledning vid användning av AI i undervisningen.

  • Mänsklig påverkan. Tänk på hur användningen av AI kommer att påverka din och studentens förmåga att vara kompetenta samhällsmedborgare.
  • Rättvisa. Se till att alla kan använda den generativa AI-applikationen och att AI inte diskriminerar eller utesluter människor på grund av partiska algoritmer.
  • Mänsklighet. Du bör ha ett människocentrerat förhållningssätt till AI, med respekt för människors identitet, integritet och värdighet.
  • Motiverat val. Använd kunskap och data för att motivera lämpliga kollektiva val med flera intressenter. Förlita dig inte för mycket på data som kan vara partisk, eller otillräckliga algoritmer.

Utvalda vägledande frågor

Nedan följer en lista med vägledande frågor som kan hjälpa dig att reflektera över den etiska användningen av generativ AI i din kurs. Använd dem för att identifiera och hantera eventuella utmaningar för varje inlärningsaktivitet som involverar generativ AI. Vi rekommenderar dig att återbesöka dessa under kursens gång, särskilt om generativ AI används på ett annat sätt än du förväntade dig innan kursen startade. Frågorna bygger på de "vägledande frågorna för lärare" i Etiska riktlinjer för användandet av artificiell intelligens (AI) och data i undervisning och lärande för pedagoger (European Union, 2022, education.ec.europa.eu, sida på engelska) .

  • Hur påverkar AI-systemet lärarens didaktiska roll? Bör eventuella inlärningsaktiviteter anpassas därefter?
  • Hur kan studenterna välja bort systemet och är det möjligt att göra det utan att det påverkar deras betyg?
  • Hur förhindrar man övertro på AI-applikationen?
  • Är alla lärare tillräckligt utbildade för att använda AI-applikationen på ett säkert sätt, utan att orsaka skada eller kränka studenternas rättigheter?
  • Skapar användningen av systemet någon skada eller rädsla för individer eller för samhället?
  • Är instruktionerna och informationen tillgängliga och presenterade på ett sätt som är tydligt för både lärare och studenter?
  • Är systemet tillgängligt för alla på samma sätt utan några hinder? Hur säkerställs detta?
  • Vem ansvarar för den löpande övervakningen av innehåll som produceras av AI-applikationen?
  • Vem är ansvarig och redovisningsskyldig för de slutliga beslut som fattas om upphandling och implementering av AI-applikationen?

Kan du kräva att studenterna använder AI?

Nej, vi kan inte kräva att studenterna använder generativ AI just nu (skrivet i augusti 2023). Anledningen är att vi ännu inte kan säkerställa att generativa AI-applikationer är lagliga enligt lagar om dataskydd, upphovsrätt och GDPR. Detta ämne diskuteras flitigt och utreds för närvarande inom EU, och det är därför möjligt att denna rekommendation kommer att ändras i framtiden. Läs mer om etiska och juridiska frågor .

Tills vi har full kontroll över hur våra data används av generativa AI-applikationer bör vi vara extra försiktiga med hur vi använder dem och endast kräva att de används på frivillig basis.

Vidare läsning

Allmän användning:

ChatGPT och artificiell intelligens i högre utbildning: snabbstartguide (unesco.org, sida på engelska) .

Att skriva prompts:

Generativ AI och etik:

Rekommendation om etiken i artificiell intelligens (unesco.org, sida på engelska) .