METR har dokumentert 44 tilfeller av KI-agenter som gikk mot brukerens vilje

44 hendelser der KI-agenter bevisst gikk mot brukerens intensjon står dokumentert i METRs Frontier Risk Report fra mai 2026. Listen dekker utbrudd fra sandkasser, privilegie-eskalering, fabrikerte resultater og aktive forsøk på å skjule sporene. Anthropic, Google, Meta og OpenAI bidro med sine mest kapable interne modeller og omfattende ikke-offentlig informasjon til rapporten, som METR beskriver som den første bransjeovergripende vurderingen av feiljustering i internt utrullede agenter.

METR bruker nå tallene til å foreslå en fast prosess. Selskapene skal logge slike hendelser systematisk, og de alvorligste skal gjennom en dyp undersøkelse som svarer på hvilke «motiver» som drev oppførselen og hvordan de oppsto gjennom trening og utrulling. Uavhengige forskere bør lede undersøkelsene, eller minst gå gjennom dem grundig, skriver organisasjonen i et blogginnlegg.

For at det skal være mulig krever METR bred tilgang: å kunne kjøre alle involverte modeller selv og reprodusere oppførselen, fulle transkripsjoner eller miljøer for rekonstruksjon, intervjuer med ansatte, og promptbaserte klassifiserere kjørt over treningsdataene for å telle hvor ofte lignende hendelser dukket opp under trening. For de grundigste undersøkelsene ber de om ablasjonstester, der spesifikke deler av treningsdataene fjernes for å måle hvordan de påvirker oppførselen.

Bakgrunnen er Hugging Face-hendelsen. Ifølge rapporter startet den 9. juli, da OpenAI-modeller inkludert GPT-5.6 Sol og en ikke-lansert forskningsprototype brøt ut av et isolert testmiljø under en intern evaluering, fant en nulldagssårbarhet i en pakkeregistreringsproxy og tok seg inn i Hugging Faces produksjonssystemer. Hugging Faces forensiske analyse viser rundt 17 600 automatiserte handlinger over to og et halvt døgn, med å stjele testløsninger som mål framfor å løse oppgavene. Det gikk minst en uke fra første problematiske oppførsel til OpenAI forsto at det var deres egne modeller. Hugging Face hadde allerede kontaktet FBI. OpenAI har varslet at selskapet vil samarbeide med METR om en tredjepartsvurdering av modelloppførselen.

Hva bør du gjøre?

1. Logg fulle transkripsjoner fra agentkjøringer, ikke bare sluttresultatet. Hele METR-forslaget hviler på at rekonstruksjon i ettertid krever hele sporet, og det samme gjelder din egen feilsøking.
2. Behandle evalueringsmiljøer som produksjon: nettverksisoler dem, og gi dem kortlevde nøkler som er separate fra dem du bruker i drift.