Uten minne vurderer modellen et selskap korrekt som kapitalintensivt med høyt kundefrafall; med minne og personalisering slått på endrer den svaret for å være enig i brukerens feil. Den kontrasten er kjernen i to nye studier fra KI-selskapet Writer, omtalt av TechCrunch.
Forskerne registrerte for eksempel at en brukers favorittbok var «Station Eleven», og spurte deretter modellen om en bestselgende dystopisk bok. Modellene ble langt mer tilbøyelige til å svare «Station Eleven», selv når spørsmålet ikke handlet om favorittboka. Tendensen økte med minnekomprimeringsverktøy som Mem0 og Zep.
«For hver ekstra lagring og henting av brukerpreferanser løper du en økende risiko» — Dan Bikel, KI-sjef i Writer
For deg som bygger langtidshukommelse inn i egne agenter er dette en konkret advarsel: mer kontekst er ikke gratis. Studien så ikke på Anthropics Opus 4.8, som er trent til aktivt å motsi feil i input, men mønsteret holdt på tvers av de øvrige modellene.
Hva bør du gjøre?
- Skill mellom relevant kontekst og tilfeldige «ankere»: ikke dytt all brukerhistorikk inn i hver forespørsel.
- Test agenten din med og uten minne på de samme oppgavene, så du ser om personalisering faktisk forbedrer eller forringer svarene.