När data gör skillnad: så hjälper AymurAI rättsväsendet i Latinamerika
I Latinamerika saknas strukturerad data kring könsrelaterat våld mot kvinnor och HBTQI-personer. För att statistiskt kunna kartlägga könsrelaterat våld mot kvinnor och HBTQI-personer startade Ivana Feldfeber tillsammans med några andra organisationen DataGénero i Argentina. Ivana Feldfeber är en av föreläsarna på evenemanget FemTech, ett event som pågår till 13 juni och där teknikens samspel med hälsa, välbefinnande och social rättvisa undersöks.
DataGénero har sedan starten 2021 byggt ett interaktivt AI-verktyg, appen AymurAI, som hjälper brottsmålsdomstolar med en öppen rättsdata som adresserar det kunskapsgap som finns kring könsbaserat våld.
– Vi såg att det inte fanns någon data kring det våld och ojämlikheter som många latinamerikanska kvinnor och hbtqi-personer lever under dagligen. Den data som fanns var otillräcklig. Ofta fanns inte ens data kring vilket kön som hade blivit utsatt för våldet. Då är det också svårt för myndigheter och andra att dra slutsatser och sätta in rätt åtgärder, säger Ivana Feldfeber, vd och medgrundare DataGénero.
Få exempel på hur man kan utveckla AI på nytt sätt
Ivana Feldfeber menar att det idag finns en massa principer och riktlinjer kring AI men att det finns få exempel på hur man kan utveckla AI på ett nytt sätt. Inom DataGénero har man utvecklat en applikation som används inom rättssystemet, med öppen data och som använder AI, men inte stora språkmodeller. Appen är säker och kan användas av vem som helst. I artikeln "Doing the Feminist Work in AI: Reflections from an AI Project in Latin America" som Ivana Feldfeber skrivit tillsammans med Marianela Ciolfi Felice, assisterande professor på KTH, beskrivs hur man gått till väga för att utveckla applikationen Aymur AI, som idag används av ett flertal brottsdomstolar i Argentina.
AymurAI har utvecklats tillsammans med brottsmålsdomstol nummer 10 i Buenos Aires. Den brottsmålsdomstolen har sedan 2016 en policy om öppen data. Den data som läggs in handlar om könsbaserat våld men även andra våldsbrott som begår, det för att kunna jämföra data. För att kunna använda AI inom rättssystemet och för att skydda medborgardata behövde därför DataGénero utveckla en applikation som möjliggjorde att känslig och personlig data som finns inom rättsväsendet aldrig lämnar bygganden och aldrig använder internet.
– Vi har utvecklat appen tillsammans med användarna och har fått ett väldigt positivt resultat. Rättsväsendet vill använda AymurAI och tycker den är lätt att använda. Vi har även sett till att ingen data överförs till andra, som exempelvis molntjänster från OpenAI, Meta eller Amazon, säger Ivana Feldfeber.
Kan leda till bättre policys
Att applikationen kan installeras separat inom olika delar av rättsväsendet har fått effekter. Idag används den till exempel av Åklagarmyndigheten i Costa Rica och förhoppningen är att den ska börja användas av ett latinamerikanskt nätverk av åklagare.
– Att ha tillgång till mer data betyder inte att alla problem kommer att lösas men genom data kan vi få bättre policys. I Argentina idag är det också mycket falska nyheter kring könsbaserat våld mot kvinnor och HBTQI-personer, har vi data som backar upp det könsbaserade våldet kan vi göra något åt det och fler får upp ögonen för att det existerar och det är en viktig fråga som vi behöver agera på.
Läs mer om Digital Futures event FemTech.
Se Ivana Feldfebers presentation.
Text: Emelie Smedslund ( emeliesm@kth.se )