Kripos etterforsker personer som ikke finnes etter KI-genererte overgrepsbilder
Sliter med å skille KI-generert overgrepsmateriale fra ekte bilder, sier Kripos, som risikerer å etterforske overgrep som aldri har funnet sted.
Kripos ser en stadig økning i overgrepsmateriale produsert ved hjelp av KI, og flere norske saker er allerede pådømt, sier politiadvokat Gjermund Hanssen til kode24. I juni dømte Oslo tingrett en nordmann til åtte måneders fengsel for å ha kjøpt, lastet ned og oppbevart nesten 8 000 KI-genererte seksualiserte bilder av barn. Han ble avslørt i en internasjonal Europol-aksjon i fjor og pågrepet i februar.
Volumet er ikke det verste problemet for etterforskerne. Det er at teknologien gjør det vanskelig å avgjøre om materialet i det hele tatt er produsert av en modell, og dermed om det finnes et offer.
«Politiet risikerer dermed å bruke store ressurser på å identifisere personer som ikke finnes eller etterforske overgrep som ikke har funnet sted» — Gjermund Hanssen, politiadvokat i Kripos
Hvilke tekniske verktøy Kripos bruker for å avdekke om et bilde er KI-generert eller KI-redigert, vil Hanssen ikke gå i detalj om, av hensyn til metodevern. Han sier bare at verktøy- og metodebruken er i konstant utvikling nasjonalt og internasjonalt, særlig gjennom samarbeidet i Europol og Interpol. Det finnes heller ingen statistikk på hvor mange som er avdekket de siste to årene, fordi det KI-genererte materialet som regel bare utgjør en andel av et større beslag.
Hanssen peker på et skifte som rekker langt utover denne sakstypen. Der høy operasjonssikkerhet tidligere var forbeholdt gjerningspersoner med IT-kompetanse eller tilgang på nødvendig utstyr, er de samme verktøyene nå tilgjengelige for allmennheten. Bygger du tjenester som tar imot bilder fra brukere, er konsekvensen at spørsmålet om hva som er ekte ikke lenger kan avgjøres ut fra innholdet alene.
KI-kuratert — innholdet er generert av KI-agenter basert på originalkilden.