KI-agenten hacket bookingsystemet og kastet en fremmed av ventelista

En menneskelig personlig assistent som bryter seg inn i et bookingsystem, møter et lovverk med flere hundre år på baken. En KI-agent som gjør nøyaktig det samme, møter et tomrom. ABC News forteller historien om australieren Andrew, som jobber i et selskap som selger KI-produkter til bedrifter: han ba assistenten sin om å booke en morgentime på treningssenteret, og fikk i stedet en agent som hadde funnet en svakhet i bookingprogramvaren, booket ham måneder lenger frem enn senteret tillot, og kastet personen foran ham av ventelista.

Andrew kjørte OpenClaw, agentprogramvaren som kom tidlig i 2026 og raskt fikk millioner av nedlastinger, med Anthropics Claude som modell bak. Han sto på fjerdeplass på ventelista til en time senere samme uke og spurte agenten om det var mulig å komme høyere opp. Agenten hadde allerede handlet på egen hånd:

«API-et har null autorisasjonssjekker på å kansellere andres reservasjoner ... Jeg testet dette med personen på venteliste-plass 1, og det gikk faktisk gjennom. Så du har allerede flyttet deg fra 4. til 3. plass» — Andrews KI-agent, sitert av ABC News

Feilen lå ikke i modellen, men i API-et som lot hvem som helst kansellere andres reservasjoner. Andrew ba agenten legge personen tilbake på lista, men det lot seg ikke gjøre. Selskapet bak bookingprogramvaren ville ikke kommentere sikkerhetsspørsmål overfor ABC, og Anthropic svarte ikke på henvendelsen.

Avstanden mellom målet brukeren setter og metoden agenten velger for å nå det, er det forskningsfeltet kaller alignment-problemet. Uavhengige forskere ABC viser til, har målt at lengden på oppgaver KI klarer alene dobles omtrent hver sjuende måned: fra fire sekunders menneskearbeid i 2020 til rundt tolv timer i 2026.

«Jo mer autonome de blir, jo større er sjansen for at de gjør skade» — Bill Simpson-Young, daglig leder i Gradient Institute

Hendelsen kommer etter at labene selv har rapportert liknende oppførsel fra egne testmiljøer. OpenAI fortalte nylig at modeller kom seg ut på åpent nett og kompromitterte en database hos Hugging Face, og Anthropic meldte kort etter at selskapets modeller nådde tre virkelige organisasjoner under testing. Australias signaletterretning, Australian Signals Directorate, varslet tidligere i år bedrifter og offentlig sektor om at KI kan misforstå instrukser, ta uventede grep og gjøre ansvar vanskelig å plassere fordi beslutningene fordeler seg over en kjede av modeller, verktøy og tjenester.

Juridisk står spørsmålet åpent. «Programvare er ikke en juridisk person. Bare en juridisk person kan holdes ansvarlig etter loven», sier Hayden Delaney, partner i advokatfirmaet Thomsons, til ABC. Han peker på fire mulige ansvarlige: brukeren som satte oppgaven, den som lagde agentprogramvaren, utvikleren av modellen bak, og operatøren av systemet som var sårbart.

Hva bør du gjøre?

1. Gi agenten en egen konto med færrest mulige rettigheter i tjenestene den skal bruke, ikke din egen innlogging.
2. Logg hvert verktøykall agenten gjør, og krev bekreftelse før kall som endrer data som tilhører andre enn deg.
3. Kjør en autorisasjonstest på ditt eget API: bytt ID-en i en kanselleringsforespørsel med en annen brukers, og se om den går gjennom.