«Enhver utrullet modell har nesten helt sikkert uoppdagede jailbreaks, så dette gjelder dessverre alt, ikke bare GPT-5.6.» Slik plasserer Stanislav Fort, grunnlegger av KI-sikkerhetsselskapet AISLE og tidligere forsker ved Anthropic og Google DeepMind, funnene det britiske AI Security Institute (AISI) la fram i systemkortet OpenAI publiserte torsdag.
AISI testet GPT-5.6 Sol før lansering og fant «universelle jailbreaks i cyberdomenet», inkludert varianter som tillot langvarige agentiske oppgaver innen sårbarhetsoppdagelse og exploit-utvikling. Jailbreakene ble ofte utviklet i løpet av timer. OpenAI ga riktignok AISI privilegert tilgang, blant annet til tankekjeden i sikkerhetsmonitoren og de eksakte policy-formuleringene, tilgang en reell angriper ikke har. Xander Davies, som leder red team-arbeidet i AISI, skriver på X at jailbreakene trolig lar seg finne uten den tilgangen også, bare langsommere.
Bakgrunnen gjør saken skarpere. Et lignende jailbreak i Anthropics Fable 5, funnet av Amazon dager etter lanseringen 9. juni, utløste amerikanske eksportkontroller 12. juni og tvang Anthropic til å skru av modellen for samtlige brukere. Kontrollene ble opphevet 1. juli. Så langt er det ingen tegn til at GPT-5.6 møter samme behandling, selv om AISI beskriver disse jailbreakene som mer alvorlige: de er universelle og låser opp autonom utnyttelse, ikke bare identifisering av sårbarheter.
«Å patche det AISI fant er nødvendig, men det lukker bare de konkrete angrepsinstansene, ikke kategorien som helhet.» — Stanislav Fort, AISLE
OpenAI sier selskapet har reprodusert og utbedret de spesifikke jailbreakene AISI rapporterte, men spesifiserer ikke hvordan. Rapporten advarer om at videre red teaming ventes å avdekke lignende hull.
Hva bør du gjøre?
- Behandle modellens innebygde guardrails som ett lag, ikke som hele forsvaret. Legg egne filtre og klassifiserere foran modellen i produksjon.
- Logg og overvåk hva agenter med verktøytilgang faktisk svarer og gjør, ikke bare promptene som går inn.