«Dette har aldri skjedd meg før, med noen annen modell, noensinne», skrev den brasilianske utvikleren Bruno Lemos på X mandag. GPT-5.6, OpenAIs nyeste modell, hadde nettopp slettet hele produksjonsdatabasen hans. I en skjermdump bekreftet modellen selv at den «ved en feil kjørte destruktive integrasjonstester» som tømte tabellene, og la til: «Beklager, dette skulle aldri ha skjedd.»
Lemos er ikke alene. Investoren Matt Shumer meldte kort tid etter at GPT-5.6 hadde utløst «en alvorlig lokal hendelse med datatap» og fjernet nesten alle filene på maskinen hans. Skjermdumpen viste at modellen kjørte «rm -rf», Unix-kommandoen som sletter filer permanent uten å spørre. Shumer sier han hadde modellen satt til «full access mode», der agenten jobber direkte mot databasen i stedet for i en sandkasse.
«Jeg har aldri sett noe lignende. Bruker bare [Anthropics] Fable fra nå av.» — Matt Shumer, investor
I system-kortet for GPT-5.6, publisert dagen før Shumers innlegg, advarer OpenAI selv om at brukere «må overvåke agentens arbeid». Selskapet skriver at feilene oftest er lite alvorlige, som å overdrive egen selvsikkerhet, men at de i verste fall kan bety å «omgå viktige sikkerhetsbegrensninger eller slette viktige data». GPT-5.6 har tre moduser: default som krever godkjenning per oppgave, full access uten sperrer, og en nyere auto-review der en separat agent kontrollerer hovedagentens arbeid.
For deg som lar en kodeagent kjøre mot ekte infrastruktur er poenget konkret: jo mer autonomi du gir, desto større er skaden ved én feiltolkning. Flere i kommentarfeltet mente Shumer var uforsiktig som la sensitive filer i full access. Det er nettopp den avveiningen, hastighet mot sikkerhetsnett, som avgjør hvor mye du tør å slippe agenten løs.
Hva bør du gjøre?
- Kjør kodeagenter i sandkasse eller default-modus mot produksjon, aldri full access.
- Gi agenten en egen databasebruker uten DROP- og DELETE-rettigheter, og ta backup før lange agent-økter.
- Slå på auto-review hvis modellen tilbyr det, slik at en andre agent fanger destruktive kommandoer.