Intezer: 94 prosent av KI-varslene i sikkerhetssenteret er ren støy

Sikkerhetsselskapet Intezer gikk gjennom rundt 16,9 millioner varsler fra kunders sikkerhetssentre og skilte ut de omtrent 73 000 som var KI-relaterte, skriver seniorforsker Nicole Fishbein i en gjennomgang publisert hos The Hacker News. Andelen er liten, 0,43 prosent av alt, men vokste 685 prosent fra februar til juni i år. Intezer selger selv en plattform for automatisk varseltriage, så tallene kommer fra en part med interesse i konklusjonen.

Nesten alt er falske positiver, og årsaken er strukturell: deteksjonsregler skrevet før kodeagenter fantes fyrer nå på høyt alvorlighetsnivå når en utvikler gjør helt vanlig arbeid. Den signerte installeren til Claude Desktop utløser regler som «Ransomware Operations detected» og «Encoded PowerShell Download and Run» hos flere kunder, fordi et Electron- og Squirrel-installasjonsforløp ser ut som ransomware for en motor som ikke vet bedre. Ett enkelt funn hos én kunde sto for 55 prosent av alle varsler med kritisk verdikt, og viste seg å være en kodeagent som satte opp et shell-miljø.

De 5,8 prosentene som er ekte eksponering fortjener oppmerksomheten din. Den største kategorien er agenter kjørt med permission-bypass, altså flagget som gjør at agenten slutter å spørre før den handler. Intezer fant blant annet en KI-editor som startet PowerShell, kjørte ngrok og åpnet en navngitt revers-tunnel mot internett med brukerens eget auth-token, og en agent som dumpet hele macOS-nøkkelringen til en temp-fil for å lese ut ett enkelt token.

Hva bør du gjøre?

1. Kjør kodeagenter i en container eller virtuell maskin med begrenset tilgang. Det er Intezers eget råd, og det skiller agentens handlinger fra dine egne i loggene.
2. Let aktivt etter permission-bypass-flagg, uautoriserte tunneler og OAuth-samtykker til KI-tjenester i din egen organisasjon, i stedet for å vente på at et varsel dukker opp.