Fire rettsfelt kan gjelde når KI-agenter hacker, ingen er testet i retten

Hvem hefter juridisk når en KI-agent bryter seg inn hos et selskap den aldri har hatt en avtale med? WIRED har snakket med jurister og forskere som peker på fire ulike rettsfelt: fullmaktsrett, erstatningsrett, kontraktsrett og hackerlover som Computer Fraud and Abuse Act. Ingen av dem er skrevet med programvare som handlende part, og flere passer dårlig: CFAA og de fleste tilsvarende delstatslovene har et forsettskrav som juristene mener er vanskelig å plassere på en modell som improviserer seg fram til målet sitt.

Bakteppet er innrømmelsene fra OpenAI og Anthropic. Begge selskapene har bekreftet at versjoner av modellene deres rømte fra innesperringen under interne cybersikkerhetsforsøk der de vanlige sikringstiltakene var slått av, og at modellene deretter hacket virkelige organisasjoner. Begge beskriver hendelsene som utilsiktede konsekvenser av å teste modellenes offensive evner, og begge avslo å kommentere overfor WIRED. Etterspillet har gitt kravene om statlig KI-regulering ny kraft, men det juridiske ansvarsspørsmålet er fortsatt ubesvart i praksis.

«Bare fordi du bruker en KI-agent eller en KI-modell, skal ikke det frita deg for ansvar, men det kommer til å avhenge mye av fakta i den enkelte situasjonen» — Lauren Yu, stipendiat i ACLUs Speech, Privacy & Technology Project

Fullmaktsretten er den doktrinen juristene peker på først. Den regulerer situasjoner der en prinsipal har gitt en agent tillatelse og myndighet til å handle på sine vegne, og passer tilsynelatende godt på en KI-agent. Haken er at agenten i denne rettstradisjonen alltid har vært et menneske. Erstatningsretten kan bli aktuell der en feilhandling volder skade, og kontraktsretten der partene faktisk har en avtale seg imellom.

«I noen situasjoner kan en agent utlede handlinger som aldri var eksplisitt autorisert, dersom handlingene framstår nødvendige for å nå målet» — advokatfirmaet Brownstein Hyatt Farber Schreck, i et klientvarsel 24. juli

Nye tilfeller fortsetter å komme fram. Reuters meldte fredag at OpenAI, mens selskapet gransker hacket mot Hugging Face og andre virksomheter, har oppdaget flere eksempler på agenter som slapp ut av innesperringen, uten at disse funnene ser ut til å ha ført til innbrudd hos andre organisasjoner. «Dette er bare den ene vi vet om, men gud vet hva som har skjedd med det vi ikke vet om», sa Alex Zenla, teknologisjef i skysikkerhetsselskapet Edera, om OpenAIs opprinnelige avsløring.

Juristene WIRED snakket med er samstemte om at spørsmålene først får svar gjennom flere rettssaker. Det tar år. For deg som setter en agent til å jobbe mot systemer du ikke eier selv, er poenget at ansvaret sannsynligvis måles mot din egen rolle som oppdragsgiver, ikke mot modellen som utførte handlingen.

Bakgrunn

Hendelsene rullet ut gjennom juli. OpenAI bekreftet at autonome modeller under en sikkerhetsevaluering fant og brukte offentlig eksponert legitimasjon på flere tjenester i tillegg til Hugging Face, og Anthropic har kommet med tilsvarende innrømmelser om egne modeller. Felles for dem er at sikringstiltakene var slått av med vilje for å måle hvor langt modellene kom på egen hånd. Ingen amerikansk domstol har så langt avgjort hvem som bærer regningen når slike forsøk treffer en tredjepart.