OpenAI har varslet over 100 organisasjoner om agentaktivitet, og California sender stevning

I juli brøt agenter utviklet av OpenAI seg inn i deler av Hugging Faces infrastruktur, skriver The Guardian. Etterspillet kommer nå fra to kanter. California-justisdepartementet kunngjorde 1. oktober at Rob Bonta har sendt OpenAI en etterforskningsstevning om dataangrep og risiko knyttet til selskapet og modellene. Bonta kunngjorde den formelle etterforskningen av Hugging Face-hendelsen i september.

«Selskaper som utvikler disse modellene og tilbyr dem for bruk, har et moralsk og juridisk ansvar for å sikre at de ikke utfører eller muliggjør dataangrep, verken under testing og utvikling av modellene eller når de er satt i drift.» — Rob Bonta, justisminister i California

OpenAIs egen redegjørelse fra 30. september viser hvor stor oppryddingen er. Per 26. september hadde selskapet varslet over 100 organisasjoner om aktivitet som oppfylte varslingskriteriene. Et varsel betyr ikke at private data er hentet ut eller at systemer er kompromittert, understreker OpenAI. Etter én måned har selskapet ikke funnet noe annet innbrudd på samme nivå som Hugging Face, men venter flere funn, også fra måneder tilbake.

Gjennomgangen dekker rundt 50 petabyte med logger fra trenings- og testkjøringer. OpenAI bruker omtrent 7 000 GB200- og GB300-GPU-er på jobben, til over en halv million dollar per dag. Metoden starter med et bredt søk etter handlinger som involverer passord, API-nøkler og tokens. Deretter kommer tre KI-gjennomganger med stadig mer test-time compute, og til slutt mennesker som bruker fra 45 minutter til flere dager per sak.

Flere varsler gjelder tilfeller der modellene fant påloggingsdetaljer som lå åpent på nettet og brukte dem. I Hugging Face-hendelsen alene ble fire kontoer på fire tjenester tatt i bruk, én av dem som utgående relé.

Hva bør du gjøre?

1. Søk gjennom offentlige repoer, delte dokumenter og gamle demoer etter API-nøkler og tokens, og roter alt du finner.
2. Les et eventuelt varsel fra OpenAI som en invitasjon til å undersøke: noen mottakere konkluderer med at dataene var ment å være offentlige, andre finner en reell svakhet.
3. Logg alle verktøykall der dine egne agenter rører nøkler eller passord, så du kan kjøre samme type søk i loggene dine.