Microsoft kalte lukkede modeller kritiske i 2024. Nå signerer de for åpne vekter

I 2024 beskrev Microsoft-sjef Satya Nadella lukkede modeller som avgjørende for sikkerheten: bare de ga rom for grundig red-teaming og sikkerhetsevaluering før modellen slippes ut i verden. Selskapet hadde da lagt 13 milliarder dollar i OpenAI. 24. juli signerte Microsoft en uttalelse ført i pennen av Nvidia-sjef Jensen Huang, som slår fast at åpne vekter er «en viktig del av fundamentet» fordi de gjør avansert KI mer tilgjengelig og tilpassbar. Amazon, Meta og Google står på samme liste, skriver Defense One.

Snuoperasjonen har ligget og ulmet. Forskning har vist at relativt billige modeller med åpne vekter tar igjen de lukkede, den amerikanske opinionen har blitt mer skeptisk til KI, og Pentagon vil ha modeller det kan kontrollere og kjøre uten store, lett synlige datasentre. Samtidig har skyleverandørenes rolle endret seg fra å levere KI til å levere verktøy, plass og sikkerhet til andre som bygger den. Microsoft reklamerer nå med over 11 000 modeller i katalogen sin, og Amazon-sjef Andy Jassy trakk fram mer enn ti modeller i Bedrock på kvartalspresentasjonen torsdag. Risikokapitalisten Chris Dixon kaller mønsteret å kommodifisere komplementet: Oracle støttet Linux i 2006 av samme grunn, for å få frivillige til å bygge et operativsystem som var billigere enn Windows.

For deg som henter modeller og pakker fra åpne registre, er angrepsmetoden det viktigste i saken. AWS beskriver skadevare som først kjører når brukeren skriver en prompt med en skrivefeil, eller som først virker når annen kode legges inn i biblioteket senere. Begge deler er bygget for å overleve en vanlig gjennomgang, og de kommer pakket inn i noe som faktisk er nyttig.

«Angriperne bygger tillit. De opptrer som ekte utviklere, de lager pakker, og pakkene gjør noe reelt nyttig.» — Rick Anthony Sr., leder for Amazon Inspector

Anthony peker på at KI-kodeagenter gjør dette lettere: en angriper kan holde en troverdig bidragshistorikk og et jevnt utgivelsestempo over lang tid. Samtidig gjøres stadig flere sikkerhetsgjennomganger av agenter med egne blindsoner. Angriperne prøver ikke lenger bare å lure mennesket, men å gi agenten nok tilsynelatende bevis til at den konkluderer med at koden er grei.

Volumet vokser i begge ender. Etter at Anthropic ga et fåtall selskaper tilgang til Mythos-modellen, doblet antallet oppdagede og rapporterte sårbarheter seg, og antallet patcher med dem, forteller AWS-sikkerhetssjef Stephen Schmidt. Han beskriver arbeidet som noe uten sluttdato: bransjen kjører det som en sprint, men «vi kommer til å holde på med dette for alltid». AWS kjører selv røde lag med egne KI-agenter mot både åpen kode og nye modeller med åpne vekter, og tester patchene både for ytelse og for hvordan de tåler angrep, fordi motparten går løs på dem i samme øyeblikk de publiseres.

At de største skyselskapene nå stiller seg bak åpne vekter gir økosystemet industriell ryggdekning. Regningen for å verifisere hva som faktisk ligger i avhengighetene flytter samtidig nedover, til den som bygger.