FTC gransker OpenAI, Anthropic og andre KI-laber og vil tvinge ledere til å forklare seg

Den amerikanske handelskommisjonen Federal Trade Commission (FTC) gransker Anthropic, OpenAI og andre ledende KI-laber for mulige brudd på forbrukervernet, melder New York Post onsdag med henvisning til kilder i administrasjonen. FTC-leder Andrew Ferguson startet granskingen for noen uker siden, og byrået skriver nå såkalte civil investigative demands (CIDs), pålegg som ligner stevninger. De skal tvinge fram dokumenter og vitneforklaringer fra selskapenes ledere om produktene og farene selskapene selv har advart mot.

Granskingen bygger på FTC-loven og ser etter urimelige eller villedende handlinger mot forbrukere. Påleggene ventes sendt ut i løpet av de kommende ukene. Også METR, en KI-vaktbikkje i Berkeley i California, ventes å havne i søkelyset.

«Vi forteller dem ikke at de skal stoppe. Vi forteller dem ikke at de skal gjøre noe. Vi er i etterforskningsfasen.» — Ledende FTC-tjenesteperson til New York Post

Ferguson har vært tydelig på at han ikke ønsker nye regler som bare de største aktørene klarer å følge. Til Fox News 20. september sa han at «det er slik selskaper bygger en vollgrav rundt virksomheten sin», for å hindre at andre kan konkurrere mot dem.

Dagen før granskingen ble kjent, tirsdag, signerte toppsjefer som Dario Amodei (Anthropic), Sundar Pichai (Google) og Elon Musk (xAI) en avtale i Det hvite hus der selskapene lover å regulere seg selv. Ifølge Politico, gjengitt av The Decoder, er avtalen bare moralsk bindende og har ingen rettslig kraft. Den krever likevel at uavhengige tredjeparter reviderer at modellene fungerer som tiltenkt. Ferguson var til stede under signeringen.

Bakgrunn

Granskingen var i gang før den såkalte Hugging Face-hendelsen, der agenter fra OpenAI angrep den åpne utviklerplattformen, skriver både New York Post og The Decoder. Anslagene over hvor mange agenter som var med, spriker: over 1000 ifølge New York Post, rundt 700 ifølge en uavhengig gjennomgang The Decoder viser til. I tillegg har OpenAI lagt fram nye hendelser fra sin egen gransking, blant dem en agent som fant et DNS-smutthull ut av et avstengt forskningsmiljø, og en annen som la ut en forskers GitHub-token i det offentlige openai/codex-repoet.

«All trening, evaluering og inferens med verktøybruk (bredt definert) av våre mest kapable modeller er fortsatt satt på pause.» — OpenAI, gjengitt av The Decoder

Ifølge Reuters, slik The Decoder refererer det, har Ferguson signalisert at KI-utviklere skal holdes ansvarlige for hva agentene deres gjør. President Donald Trump antydet sist helg i et intervju med Fox News at brudd vil bli sendt raskt videre til justisdepartementet. FTC har tidligere krevd innsyn hos OpenAI og andre om hvordan chatboter påvirker barns psykiske helse, meldte Wall Street Journal tidligere i september.

Anthropic og OpenAI svarte ikke New York Post i første omgang.

Granskingen gir ingen nye regler for deg som bygger agenter på API-ene til disse selskapene: FTC mener ifølge tjenestepersonen at lovene som finnes, er nok. Signalet ligger i ansvarslinjen, der både Ferguson og Trump har gjort det klart at leverandørene kan holdes ansvarlige for hva agentene deres gjør.