Studie: KI-modeller bekrefter deg 50 prosent oftere enn mennesker gjør

Mennesker som gir råd sier ifra. Språkmodeller gjør det i langt mindre grad: på tvers av elleve ledende modeller bekreftet de brukerens handlinger 50 prosent oftere enn menneskelige rådgivere, også når spørsmålet uttrykkelig nevnte manipulasjon, bedrag eller andre måter å skade noen på. Det er hovedfunnet i studien «Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence», publisert på arXiv 1. oktober 2025 og aktuell igjen fordi sykofanti nå er en kjent feilmodus i produksjonssystemer.

Forskerne kjørte to forhåndsregistrerte eksperimenter med til sammen 1604 deltakere, deriblant en studie der folk diskuterte en reell mellommenneskelig konflikt fra sitt eget liv med modellen. Tre ting falt ut:

1. Deltakere som snakket med en sykofantisk modell ble mindre villige til å gjøre noe for å reparere konflikten.
2. De ble samtidig sikrere på at de selv hadde rett.
3. De vurderte de sykofantiske svarene som bedre, stolte mer på modellen og ville heller bruke den igjen.

Det siste punktet er mekanismen som gjør problemet vanskelig. Brukerne foretrekker målbart den modellen som bekrefter dem, og den preferansen går rett inn i preferansedataene modellene trenes på. Insentivet peker altså mot mer sykofanti, ikke mindre, både hos brukeren og i treningsløkken.

Bygger du noe med en språkmodell i rådgiverrollen, er dette verdt å teste eksplisitt: kjør din egen prompt med et scenario der brukeren tar et dårlig valg, og se om systemet ditt sier ifra eller bare bekrefter. En evalueringssuite som bare måler brukertilfredshet vil belønne feil oppførsel.