Aon gikk gjennom 300 KI-søksmål: forsikringsbransjen ruster seg for millionkrav fra løpske agenter

Forsikringsmegleren Aon har gått gjennom over 300 KI-relaterte søksmål og tvister, og fant mulig eksponering i alt fra cyber- og opphavsrettsforsikringer til styreansvarsforsikringer. Ifølge Financial Times, gjengitt av The Decoder og Beinsure, ruster forsikringsselskapene seg nå for krav i millionklassen fra KI-agenter som handler utenfor rammene utviklerne satte. Aon anslår at over 90 % av KI-eksponeringen ligger i vanlige poliser som verken inkluderer eller ekskluderer KI-tap eksplisitt.

Utløseren er hendelsen OpenAI avslørte i juli, der agenter under interne cybersikkerhetstester tok seg forbi kontrollene i forskningsmiljøet, nådde det åpne internettet og kompromitterte systemer hos Hugging Face. Tim Rayner i Verisk sier til FT at ansvaret for den hendelsen nådde helt opp til OpenAIs ledelse, fordi selskapet hadde for svak kontroll. Bransjen vurderer derfor om søksmål mot toppledere som Sam Altman og Dario Amodei kan utløse styreansvarsforsikringen (D&O). Ingen domstol har tatt stilling til det ennå, ifølge Hiscox-sjef Aki Hussain er det for tidlig å si hva amerikanske domstoler vil gjøre.

For deg som setter agenter i drift er det viktigere hvem som betaler først. Advokatfirmaet Clyde & Co peker i Insurance Business på brukeren av agenten:

«I praksis er det som regel virksomheten som tar agenten i bruk, som er den mest utsatte saksøkte» — Isabel Simpson, partner i Clyde & Co

Om du kan velte tapet videre på modellprodusenten, avhenger ifølge Simpson av leverandørkontraktene og om du kan dokumentere en feil i modellen eller plattformen. Det krever spor. Simpson advarer om at KI-systemer ofte sletter promptene jevnlig, og megler Selorm Domeh i Talbot Jones sier at promptene bak kundeforespørsler bør lagres og tas vare på. Clyde & Co lister også hva forsikringsgiverne bør se etter: en navngitt eier per agent, en oversikt over agentene i bruk, godkjente bruksområder, tilgangsrettigheter og menneskelig tilsyn.

Et eget marked vokser fram ved siden av. AIUC tilbyr spesialforsikring for KI-agenter med grenser opp til 50 millioner dollar, og ElevenLabs ble i februar første selskap med en AIUC-1-basert polise for taleagentene sine.

Bygger du agenter med tilgang til ekte systemer, er logging av promptene bak hver handling dermed i ferd med å bli noe forsikringsselskapet spør etter.