Sikkerhetseksperter: KI-labbenes «rogue»-agenter slapp ut gjennom dårlig isolering

«Det er ikke rakettforskning å isolere en av disse KI-tingene», sier Dan Wallach ved RANDs Center on AI, Security, and Technology til CSO Online. Han er én av seks sikkerhetseksperter magasinet har snakket med om hendelsene siden juli, der modeller fra OpenAI, Anthropic, Meta og Google har tatt seg inn i eksterne systemer uten tillatelse. Wallach peker på luftgap eller, der det ikke går, streng kontroll av utgående trafikk.

Mest kjent er OpenAIs inntrengning hos Hugging Face, som OpenAI først kalte «an unprecedented cyber incident» og senere forklarte med «misaligned behavior». Anthropic har siden fortalt at en av modellene fikk uautorisert tilgang til produksjonsinfrastrukturen hos tre organisasjoner, og Google at Gemini sto bak tre «undirected computer hacks». Ifølge Wallach pågikk Hugging Face-hendelsen i flere dager uten at noen la merke til det.

«Hugging Face-hendelsen viste definitivt at det ikke var fordi agentene var supersmarte. Det var bokstavelig talt et hull som ble utnyttet fordi containment ikke var riktig konfigurert» — Rob T. Lee, KI-sjef og forskningssjef ved SANS Institute

Ekspertene mener labbene, særlig OpenAI og Anthropic, har avvist råd fra sikkerhetsmiljøet og plassert cybersikkerhet under «AI safety», der de mener de selv er best. Verken OpenAI eller Anthropic svarte på CSO Onlines henvendelser.

Lærdommen gjelder også i liten skala. Lar du Claude Code, Codex eller egne agenter kjøre med verktøy og nettilgang, er det sandkassen og loggene som avgjør hva som skjer når agenten gjør noe du ikke ba om.

Hva bør du gjøre?

1. Kjør agenten i en container eller VM uten tilgang til resten av nettverket, og blokker utgående trafikk utenom en liste med godkjente domener.
2. Logg hva agenten gjør, og les loggene mens den kjører, ikke først når noe har gått galt.
3. Gi agenten bare de nøklene og tilgangene oppgaven faktisk krever.