Anthropic kutter 85 prosent av de falske biologi-blokkeringene i Fable 5

85 prosent. Så mye har Anthropic redusert antallet falske positive i biologi-sikkerhetsfiltrene for Fable 5, skriver The Decoder. Før endringen ble så godt som alle biologispørsmål blokkert og rutet videre til den svakere Opus 5, noe som ga skarp kritikk fra forskere.

I praksis kan du nå bruke Fable 5 til langt flere biologioppgaver: tolke labresultater, forstå symptomer og svare på medisinske spørsmål. Grensene står fortsatt der de sto for det Anthropic kaller dual-use-temaer, altså virologi, toksikologi og molekyldesign, der selskapet mener modellen kan gi ondsinnede aktører kapasitet de ikke får andre steder. Anthropic bygger samtidig tilgangsprogrammer slik at forskere etter hvert skal kunne bruke de begrensede funksjonene.

Begrunnelsen selskapet gir er at biologisk risiko kan være vanskeligere å begrense enn cyberangrep. Et virus som først er sluppet ut, lar seg ikke skru av, og mottiltak tar tid.

The Decoder peker på fire signaler Anthropic lener seg på:

1. En analyse fra amerikanske etterretningstjenester.
2. En gjennomgang av ChatGPT-samtaler der brukere ba om instruksjoner til biologiske våpen.
3. Felles advarsler fra forskere.
4. Et Stanford-prosjekt som brukte KI til å designe fullsyntetiske virus.

Det siste punktet er ikke hypotetisk lenger. Stanford-arbeidet ble publisert denne uken, og det er nettopp den typen genom-modell som gjør avveiningen konkret.

For deg som bygger på Anthropics API-er er dette et praktisk eksempel på at sikkerhetsfiltre ikke er statiske: samme modell, samme måned, andre grenser. Bygger du noe som berører helse eller biologi, er det verdt å teste på nytt hvor grensen faktisk går i dag framfor å stole på hva du målte i vår.