2024 tog vi flera viktiga steg i att använda AI för att bekämpa sexuella övergrepp mot barn. Vårt flaggskepp – Stella Polaris – har blivit en accelerator i vårt arbete med att integrera AI i strategier för barnskydd. Genom att samla AI-experter, barnrättsorganisationer, forskare och brottsbekämpande myndigheter har vi bidragit till innovativa verktyg som förbättrar upptäckt och utredning av dokumenterade sexuella övergrepp mot barn. Viktiga framsteg under året var:
Stella Polaris Summit
I juni 2024 samlade vi internationella experter, ledande företag och representanter från olika sektorer på Stella Polaris Summit i Stockholm för att gemensamt diskutera AI:s avgörande roll i kampen mot sexuella övergrepp mot barn. Ett banbrytande event som inspirerade till tvärdisciplinära samarbeten och innovativa AI-lösningar.
En av många positiva effekter av Stella Polaris Summit var att det väckte engagerade, ibland utmanande och kontroversiella diskussioner. Det blir särskilt intressant att fördjupa dessa frågor ytterligare framöver, så att vi är förberedda att bekämpa sexuella övergrepp mot barn genom tvärsektoriellt samarbete.
Dan Sexton, CTO Internet Watch Foundation
Forskningsmöte i samarbete med Oxford Internet Institute
Ett av huvudmålen med Stella Polaris är att bredda forskningen om AI och sexuella övergrepp mot barn, samt att uppmuntra doktorander och forskningsprogram att engagera sig i detta område. Tillsammans med Oxford Internet Institute arrangerade vi ett möte för att identifiera kunskapsluckor, stärka forskarnätverk och bidra till en gemensam global forskningsagenda för att förebygga sexuella övergrepp och exploatering av barn. Vid mötet närvarade även svenska forskare och potentiella finansiärer som breddade perspektivet till AI-användning inom förövarprevention – ett kritiskt men ofta förbisett område.
AI-verktyg för chattanalyser
2023 finansierade vi ett pilotprojekt för att utveckla Fronta, ett AI-verktyg som analyserar innehåll från fem svenska stödchattar för unga. Det identifierar bland annat trender genom att analysera teman och ord för att upptäcka nya risker som barn utsätts för, samt minskar både administrativt arbete och förbättrar stödet till barn. 2024 finansierade vi nästa steg: integrering av Fronta i chattverksamheten, inklusive användarutbildning och långsiktig förvaltning. Fronta är byggd med öppen källkod för att kunna användas av andra organisationer.
Delade insikter på WeProtect Global Alliance
I december 2024 blev vi inbjudna att presentera vårt arbete vid We Protect Global Alliance Global Summit i Abu Dhabi. Toppmötet samlade företag, regeringar, civilsamhälle och akademi med målet att skapa en säkrare digital värld fri från sexuella övergrepp mot barn. Vi delade insikter om hur AI och tvärdisciplinär innovation bidrar till att möta denna utmaning – från att analysera beteende på Darknet till att stötta brottsbekämpning och utöka digitalt stöd till barn.
Nytt verktyg för effektivare utredningar
Tillsammans med svensk polis och internationella partners möjliggjorde vi ett globalt hackathon för att utveckla skalbara tekniska lösningar som hjälper brottsbekämpande myndigheter att utreda och förebygga sexuella övergrepp och exploatering av barn online. Interpol DevOps Hackathon samlade 20 deltagare från nio länder och 16 organisationer med ett gemensamt mål – att minska det lidande som sexuella övergrepp och exploatering av barn orsakar.
Utredare hos polisen tillbringar ofta oräkneliga timmar med att granska övergreppsmaterial i detalj – ett arbete som är både tidskrävande och mentalt utmattande. Samarbetet syftar till att minska den krävande exponeringen och effektivisera utredningar, så att poliser kan fokusera på att identifiera okända barn i stället för att kategorisera övergreppsmaterial.
Tidiga tester av verktyget visade lovande resultat i form av både bättre effektivitet och minskad exponering, något som frigör resurser och gör det möjligt för brottsbekämpande myndigheter att snabbare identifiera offer och förövare. Vi ser fram emot fortsatt utveckling och effekt av detta verktyg.
Det här projektet har enorm potential, särskilt för att skydda utredares mentala hälsa genom att minska deras exponering för traumatiskt material. AI kan avlasta denna börda och ge utredare större möjlighet att fokusera på förebyggande insatser och identifiering av offer.Christian Wallfors, utredare på Polismyndigheten, om Interpol DevOps Hackathon.
Stärkt global identifiering av övergreppsmaterial
En stor utmaning i arbetet med att upptäcka och ta bort övergreppsmaterial mot barn är att det är olagligt att ens titta på eller hantera det. 2019 arrangerade Childhood ett rundabordsmöte för att uppmärksamma detta och behovet av att identifiera nya verktyg. Mötet mynnade bland annat ut i ett partnerskap med Web IQ som utvecklade LIBRA – ett verktyg som scannar nätet för att upptäcka, blockera och ta bort övergreppsmaterial mot barn. LIBRA identifierar både känt och misstänkte material, utan mänsklig inblandning, vilket gör det säkrare och mer skalbart för rättsväsende och andra aktörer.
Childhood har spelat en central roll i utvecklingen genom att ena aktörer, tillhandahålla både finansiellt och strategiskt stöd samt säkerställa att verktyget är håller juridiskt och skalbart.
Sedan det lanserades 2022 har LIBRA avslöjat stora nätverk för distribution av övergreppsmaterial mot barn, inklusive tre nya hotspots med tiotusentals bilder som nu tagits bort av polis. Verktyget används idag av 26 brottsbekämpande myndigheter, ideella organisationer och företag inom trust & safety. 2024 blev det dessutom tillgängligt för samtliga 53 INHOPE-hotlines, vilket i hög grad förstärker det globala arbetet med att hitta övergreppsmaterial.
