Med allt bättre AI-verktyg blir det svårare för Ecpats analytiker att avgöra om övergreppsmaterial är datorskapat, eller från ett verkligt övergrepp. Det kan till och med vara så att AI-genererad barnpornografi redan nu misstas för verklig video.

– Om det inte redan har hänt så är det bara en tidsfråga, säger Thomas Andersson till TT.

Bryter mot riktlinjer

I diskussionstrådar på ljusskygga darknet har Ecpat kunnat se hur personer samarbetar för att hitta sätt att lura AI-system att bryta mot sina riktlinjer och skapa barnpornografi. Programmens restriktioner fungerar inte, enligt Andersson.

– De samarbetar också för att träna verktygen i att skapa mer realistiska bilder.

På ett av forumen skrev 80 procent av användarna att de redan använder AI för att generera övergreppsmaterial, eller att de vill lära sig.

Det finns flera problem med utvecklingen. Bland annat blir det svårare för Ecpat och polisen att upptäcka pågående övergrepp när det krävs mer resurser för att sålla bort material som skapats med AI.

Krav på företag

Ecpat har även redan kunnat se exempel på att utsatta barn blir utnyttjade igen när deras bilder används som grunden för nytt, AI-genererat, material.

– Det blir ett övergrepp som inte får ett slut.

Ett sätt att komma åt AI-genererad barnpornografi är att ställa större krav på de plattformar som lagrar bilder och filmer på nätet. De behöver obligatoriska verktyg för att upptäcka, rapportera och ta bort övergreppsmaterial, oavsett om det är fotat, filmat eller AI-genererat, säger Thomas Andersson.

– Det behöver också stoppas i produktionsledet och där hänger det mycket på dem som tillverkar AI-verktygen.