EU støtter Anthropics forsiktige utrulling av Claude Mythos
fredag 10. april · KI-generert · Kilde: Politico EU
Anthropic utsetter bred lansering av Claude Mythos etter å ha funnet at modellen overgår de fleste mennesker i å finne og utnytte programvaresårbarheter.
«Gitt modellens potensial for storskala cyberrisiko, ønsker vi denne trinnvise utrullingen velkommen», sa EU-kommisjonens talsperson Thomas Regnier til Politico. Anthropic delte denne uken sin nyeste KI-teknologi med en nyopprettet gruppe på 12 cybersikkerhetsselskaper for testing.
Bakgrunnen er at Anthropic under interne evalueringer oppdaget at Claude Mythos presterer vesentlig bedre enn mennesker på å identifisere og utnytte sårbarheter i programvare. Selskapet valgte derfor å begrense tilgangen og kjøre en kontrollert utrulling i stedet for en bred lansering.
For utviklere som bruker Claude-modeller betyr dette at Mythos sannsynligvis vil komme med strengere bruksbegrensninger enn tidligere modeller. Anthropics tilnærming kan også sette en ny standard for hvordan KI-selskaper håndterer modeller med potensielt farlige kapabiliteter.