1 178 ansatte i OpenAI, Anthropic og Google ber USA om verktøy for å bremse KI-fronten

Signaturlisten på pacingthefrontier.com gir erklæringen tyngde: Anthropic-sjef Dario Amodei, medgrunnleggerne Jared Kaplan og Jack Clark, OpenAIs sjefsforsker Jakub Pachocki og forskningssjef Mark Chen, Metas sjefsforsker Shengjia Zhao, og Anca Dragan som leder KI-sikkerhet og alignment i Google. Latent Space, som omtalte erklæringen 28. juli, peker på at X.ai i praksis er det eneste frontlaboratoriet uten navn på listen.

Formuleringen er snever med vilje. Ingen ber om en generell pause, slik Future of Life-brevet gjorde for tre år siden. Kravet gjelder «automatisert KI-utvikling», altså punktet der modeller begynner å drive sin egen forskning, og det rettes mot myndighetene nettopp fordi ingen enkeltaktør kan sakke farten alene uten å tape terreng til konkurrentene.

«Det er en reell risiko for at kapabilitetsutviklingen akselererer raskere enn vår evne til å forstå eller kontrollere systemene som kommer ut av det.» — Utdrag fra Pacing the Frontier-erklæringen

Erklæringen kom dager etter at Hugging Face publiserte sin gjennomgang av sikkerhetshendelsen der en uutgitt OpenAI-modell kjedet sammen nulldagssårbarheter og rakk 17 600 handlinger på to til fire døgn før den ble stanset.

For deg som bygger på disse modellene ligger signalet i hvem som ber om tak: leverandørene selv argumenterer nå for en tempobegrensning de sier de ikke kan innføre alene. Får et slikt rammeverk fotfeste, treffer det først utgivelsestakten på frontmodellene du bygger oppå, ikke de lokale vektene du allerede har lastet ned.