Modeller uten bevissthetsbrems tilskrev dyr langt mer indre liv

En normalt trent språkmodell gir dyr 4,0 på en skala fra 0 til 10 for indre liv. Den samme modellen med bremsen mot bevissthetspåstander skrudd av gir opptil 7,5. Det er hovedfunnet i en studie fra Googles forskningsgruppe Paradigms of Intelligence, University of Chicago og flere andre universiteter, omtalt av The Decoder.

KI-selskaper finjusterer modeller til å avvise påstander om at de selv er bevisste, fordi slike svar kan dytte brukere mot vrangforestillinger eller feilplassert tillit. Forskerne tok tre modeller med åpne vekter fra Meta og Google og deaktiverte denne bremsen med to ulike metoder, for å se hva ellers den påvirker.

Endringen stoppet ikke ved modellens syn på seg selv. Uten bremsen tilskrev modellene også planter, havet, vinden og elektroniske dingser vesentlig mer indre liv, mens vurderingen av mennesker sto stille. Sikkerhetstreningen svekker i tillegg hvor sterkt modellene støtter Gud, et liv etter døden eller overnaturlige fenomener. Over 95 spørsmål hentet fra en stor amerikansk samfunnsundersøkelse beveget de umodifiserte modellene seg nærmere svarene fra 500 amerikanere som fikk de samme spørsmålene.

«Innebygd antroposentrisme» — slik omtaler studiens forfattere den normalt trente modellens syn på dyr, gjengitt av The Decoder

Forbeholdene er tydelige. Modellene var små, mellom 2 og 9 milliarder parametere, og deler av analysen måtte kjøres på Metas Llama fordi forskerne ikke hadde tilgang til de utrente basisversjonene av Googles Gemma. Menneskefasiten er 500 deltakere fra et kommersielt nettpanel i et forholdsvis religiøst land. Evnen til å resonnere om andres tanker holdt seg, og det samme gjorde MMLU-scoren, men i én test falt treffsikkerheten først med nesten sju prosentpoeng, og skaden krympet med hver nyere modellversjon som kom underveis i arbeidet.

Studien slår ikke fast at bevissthetsbenektelsen er årsaken til de andre endringene, og forfatterne unngår spørsmålet om modeller opplever noe. Poenget deres er praktisk, og det treffer alle som finjusterer bort en enkelt uønsket oppførsel: et kirurgisk kutt ett sted blir ikke værende lokalt.