AIUC henter 40 millioner dollar for å sertifisere KI-agenter etter mønster fra SOC 2

Artificial Intelligence Underwriting Company (AIUC) har hentet 40 millioner dollar i en Series A-runde ledet av Ribbit Capital, med First Harmonic som deltaker, skriver TechCrunch. Sammen med en såkornrunde på 15 millioner dollar fra Nat Friedmans fond NFDG, der også Anthropic-medgründer Ben Mann var med, har selskapet hentet 55 millioner dollar totalt.

Grunnleggerne er svogrene Rune Kvist, en tidlig ansatt i Anthropic, og Rajiv Dattani, som var COO i sikkerhetsforskningsorganisasjonen METR fra 2024 til 2025 og fortsatt sitter i styret. AIUC oppgir Cursor, Lovable, Harvey og ElevenLabs som kunder.

Modellen er lånt fra cybersikkerhet. Med sikkerhetsstandarden SOC 2 som forbilde har AIUC laget standarden AIUC-1 og en testtjeneste som sjekker agenter mot den. Standarden er utviklet sammen med et konsortium på rundt 250 sikkerhets- og risikoledere, altså de som kjøper agenter. En agent kjøres gjennom rundt 5 000 tester for jailbreaks, hallusinasjoner og datalekkasjer, og resultatet er en rapport på omtrent 100 sider om hvor den oppfører seg trygt og hvor den ikke gjør det. KI-agenter kjører testene og analyserer dataene, mens mennesker verifiserer den endelige revisjonen.

«Banker, sykehus, myndigheter og militære avslår ikke lenger å ta i bruk KI fordi en modell ikke er smart nok. De avslår fordi de har forpliktet seg overfor egne kunder om hva et system vil og ikke vil gjøre, og ingen kan i dag garantere det» — Rune Kvist, AIUC

Tanken om uavhengig testing har fått vind i seilene. Anthropic-sjef Dario Amodei har nylig foreslått at frontlaboratoriene bør ha innebygde tredjepartsevaluatorer som observerer og verifiserer sikkerheten, og nevnte METR som en mulig kandidat. AIUC skal ikke plassere seg hos kundene, men ideen er den samme: gi bedrifter en uavhengig vurdering av hvor trygg en agent er før de kjøper den.

«Her er hvor den består og hvor du kan stole på den. Og her er hvor det finnes bekymringer» — Rajiv Dattani, AIUC

For deg som bygger agenter for bedrifter, betyr det at spørsmålene innkjøperne stiller, er på vei mot en felles mal, slik SOC 2 ble det for tradisjonell programvare.