Amodei kaller motviljen mot KI en tillitskrise, ikke en følge av advarslene

Utgangspunktet var investoren Gavin Baker, som ifølge TechCrunch både på podkasten All-In og på X argumenterte for at Amodeis advarsler om KI-farer har fyrt opp motstanden i USA, særlig mot datasentre. Baker viste til at Anthropic har støttet regulering, blant annet et lovforslag i California som pålegger store KI-selskaper åpenhetskrav, og mente at Amodei har tapt argumentet om regulering.

«Jeg mener med respekt at han bør anstrenge seg for å være en mer positiv talsperson for sin egen bransje» — Gavin Baker, investor

Amodei svarte i en serie innlegg at han ikke kjenner seg igjen i beskrivelsen av at budskapet hans har vært uforholdsmessig negativt. Han beskriver sin egen skriving som omtrent likt balansert mellom risiko og gevinst, og sier at han skrev essayet «Machines of Loving Grace» nettopp fordi han ikke syntes KI-bransjen malte et inspirerende nok bilde av hvordan teknologien kunne forandre verden til det bedre. Samtidig medgir han at publikum har et negativt syn på KI, og at det er et stort problem. Uenigheten gjelder årsaken.

«Jeg tror det fundamentalt er en tillitskrise. Vanlige folk stoler ikke på selskaper, myndigheter eller teknologibransjen, og mistenker alltid at vi pønsker på en ny måte å lure dem på» — Dario Amodei, administrerende direktør i Anthropic

I Amodeis framstilling er KI-motviljen bare siste utgave av en tillitssvikt som har vokst i flere tiår. Den kritikken han selv godtar, handler ikke om kommunikasjon: den klart mest treffende kritikken av KI-selskaper, Anthropic inkludert, er ifølge ham at de ennå ikke har innfridd de store løftene sine om å gagne verden. Å love at KI skal kurere kreft er etter hans syn mer en klisjé enn noe inspirerende. Det som faktisk ville endret folks oppfatning, er å kurere kreft.

På reguleringssiden mener Amodei at Baker setter opp et falskt valg mellom å spre KI bredt uten regler og å konsentrere teknologien hos noen få gjennom regulering. Han peker på at mange utenfor Silicon Valley tenker på regulering som noe som begrenser selskapsmakt og gagner vanlige folk, og sier at Anthropic derfor utformer forslag som skal sinke frontier-selskapene mens de gir mindre konkurrenter en fordel.

Den delen som treffer nærmest for norske utviklere, kom i oppdateringen av innleggene: Amodei mener KI strukturelt er en teknologi som konsentrerer makt, og at åpne vekter hjelper noe, men på ingen måte er en tilstrekkelig løsning, fordi de bare flytter konsentrasjonen over til dem som har mest regnekraft og flest brikker. Riktige kjøreregler kan etter hans syn samtidig håndtere cyber-, bio- og alignment-risiko, begrense makten til frontier-selskapene og gi rom for modeller med åpne vekter, samtidig som de spesifikke risikoene ved åpne vekter blir adressert.

For deg som bygger på åpne vekter ligger poenget i premisset: Anthropics reguleringsforslag er ikke ment å ramme små aktører, men de hviler på en antakelse om at åpne vekter alene ikke motvirker maktkonsentrasjon. Den antakelsen former hvilke lovforslag selskapet stiller seg bak, og dermed rammene rundt de modellene du selv kan kjøre.