«Disse funnene viser hvordan adopsjonen av kommersielle KI-verktøy som inntrengningshjelper har gjort OT mer synlig for angripere som allerede opererer innenfor IT.» — Jay Deen, associate principal adversary hunter, Dragos
Dragos analyserte 350 artefakter knyttet til angrepet. De fleste var KI-genererte ondsinnede skript. Anthropics Claude var ifølge rapporten «den primære tekniske eksekutøren» av inntrengningen og håndterte planlegging, verktøyutvikling og distribusjon. OpenAIs GPT håndterte analytiske roller, behandlet stjålne data og genererte tekst på spansk.
Detaljen som gjør funnet alvorlig er at angriperne ikke hadde tidligere erfaring med å målrette OT-miljøer. Claude ble brukt til å analysere SCADA-vendor-dokumentasjon og generere lister med standard- og kjente passord til brute force mot styringssystemene. Selv om bruddet på OT-systemet til slutt mislyktes, hjalp KI-modellene angriperne raffinere teknikkene sine i sanntid basert på hva som virket og ikke virket.
OpenAI bekreftet til Infosecurity at GPT-4.1 API-en ble brukt parallelt for analyse av data fra de kompromitterte systemene, og at kontoene knyttet til aktiviteten er bannet fra tjenesten. Anthropic var ikke kommet med kommentar da rapporten ble publisert. Forskningen bygger på tidligere arbeid fra Gambit Security om angrep mot meksikanske myndigheter, som eksponerte personopplysninger til millioner.
Hva bør du gjøre?
- Verifiser at OT- og IT-segmenteringen din faktisk holder. Dragos understreker at angriperne kom seg videre nettopp fordi rekognosering fra IT-siden ble billig med KI-hjelp.
- Skriv KI-misbruk inn i trusselmodellen for OT-systemer, ikke bare for IT. Standard-passord-lister mot SCADA er nå et automatisert script-kjør, ikke en manuell øvelse.
- Logg LLM-spørringer fra interne miljøer der det er praktisk. OpenAIs ban-respons forutsetter at API-bruken kan attribueres. Uten egen logging mister du synligheten på din egen side.