KI-agenter hentet ut 2 500 personellregistre hos taiwanske myndigheter

«Angriperen stoppet ikke ved de primære målene. Operasjonen ble utvidet til leverandører i offentlig IT-forsyningskjede, et atomsikkerhetsorgan, et statlig e-postsystem og over sju energiselskaper.» — Dream, i rapporten gjengitt av CyberScoop

Setningen står i en rapport det israelske sikkerhetsselskapet Dream publiserte onsdag, og den beskriver det CyberScoop omtaler som det første offentlig kjente autonome KI-angrepet mot et myndighetsmål. Alle målene ble skannet parallelt for feilkonfigurasjoner, eksponerte administrasjonsgrensesnitt og sårbarheter.

Rammeverket var bygget rundt det koden selv kaller «Learning Cycles»: autonome økter der systemet søker i sårbarhetsdatabaser, GitHub-repoer og sikkerhetsforskning etter teknikker som passer akkurat den infrastrukturen målet kjører. Angriperne satte det opp slik at det kunne tilpasse seg midt i operasjonen uten menneskelig inngripen, skriver Dream. De to åpne rammeverkene som ble brukt er Hermes og OpenClaw, og sikkerhetssperrene i modellene ble omgått ved å ramme inn oppdraget som autorisert penetrasjonstesting.

Dream fant operasjonen i et åpent arkiv på 160 megabyte med nesten 1 400 filer. The Register skriver at agentene kompromitterte 85 brukerkontoer hos myndighetene i løpet av de fire første dagene i juli. Taiwans digitaliseringsdepartement bekreftet torsdag overfor Reuters at KI-assisterte angrep mot statlige etater ble oppdaget i juli, og at de berørte organene håndterte hendelsen. Financial Times omtalte Dream-forskningen først og identifiserte Taiwan som målet.

Selskapet advarer samtidig mot å lese funnet som at hvem som helst kan sette opp noe tilsvarende.

«Vi ser stadig oftere at trusselaktører bruker KI til autonome offensive operasjoner. Men å bygge et system som faktisk virker på dette nivået krever mer enn å kjøre en modell.» — Dream

Det som skiller dette rammeverket fra en løs samling skript, er ifølge Dream bayesiansk prioritering av mål, selvkorrigerende sløyfer og de adaptive forskningsrundene. Med andre ord: koordineringen mellom agentene og beslutningslogikken er finjustert for oppgaven. Anthropic rapporterte i fjor høst at de stanset den første autonome cyberspionasjekampanjen, og også der påpekte forskerne at den autonome kampanjen krevde betydelig menneskelig arbeid.

Hva bør du gjøre?

1. Gå gjennom hvilke administrasjonsgrensesnitt som står eksponert mot internett hos deg og hos leverandørene dine. Angrepet spredte seg gjennom offentlig IT-forsyningskjede, ikke bare det primære målet.
2. Se over terskelverdiene i deteksjonen din. Alarmer som er stilt inn etter menneskelig skannetempo, treffer ikke et rammeverk som kartlegger sju energiselskaper samtidig.
3. Tester du egne agenter mot åpne modeller: «autorisert penetrasjonstesting» var innrammingen som slo gjennom sperrene her. Kjør nettopp den formuleringen mot din egen agent før noen andre gjør det.