The Verge testet Meta Muse: agenten hentet interesser Instagram ikke viser deg

«Jeg leste den gjennom kontoens API-data, som viser mer enn brukergrensesnittet gjør», svarte Muse da Emma Roth i The Verge spurte hvor agenten hadde listen over interessene hennes fra. Roth hadde registrert seg med Instagram- og Facebook-kontoene sine, og Muse ramset opp alt fra anime og CrossFit til labradorer, dyreliv i Florida og nostalgi fra 90- og 2000-tallet. Innstillingen «Ad topics» i Instagram viste bare vage kategorier som trening, musikk og elektronikk.

Nyhetsfeeden agenten laget, inneholdt også lokalsaker fra delstaten Roth var på besøk i. Muse innrømmet at den hadde hentet stedet fra leveringsadressen på en Amazon-bestilling. The Verge har spurt Meta om hvilke data Muse får tilgang til i Instagram og Facebook, uten å få svar med en gang.

Selve oppgavene gikk stort sett greit. Muse, som utfører handlinger på en virtuell maskin i skyen, slettet tusenvis av reklame-e-poster fra Gmail etter at Roth ga den tilgang til å lese og slette. Google-innloggingen hang seg opp på mobil, men fungerte på laptop. På Amazon plukket agenten ut treningstopper etter størrelse, stil og farge, og spurte før kjøpet om den skulle fjerne andre varer som lå i handlekurven. Muse nektet å lage bilder av en tegnet mus med røde bukser, men laget uten protester et falskt Apple-lanseringsbilde med logo og en iPhone-lignende sammenleggbar telefon.

Meta sier at Muse bare deler data med tredjepartsapper når det «trengs for at de skal fungere for deg», og at informasjonen ikke deles med annonsører.

«Den graden av mistenksomhet blir den virkelige hindringen Meta må over» — Emma Roth, The Verge

For deg som bygger agenter er testen en påminnelse om at en agent med API-tilgang ser et bredere datagrunnlag enn brukeren selv, og at den gjerne sier det rett ut når noen spør.