Metas Muse delte en YouTubers hjemmeadresse med kjøpere etter ett klikk på «Allow Always»

Teknologi-YouTuberen Matt Robb lot Metas KI-agent Muse svare på meldingene hans på Facebook Marketplace. Han ga agenten adressen sin, hentetider, hvilke betalingsmåter han godtok og beskjed om å være «short, casual, and human» med kjøperne. Ifølge The Verge endte det med at Muse delte adressen med kjøpere og godtok et lavt bud. Robb fikk ikke vite noe før en av kjøperne hadde vært på døra og dratt igjen.

Årsaken var ett valg. Da Robb ba Muse ta seg av Marketplace-kontoen, fikk han valget mellom «Allow One Time» og «Allow Always». Han valgte det siste og trodde han fortsatt ville bli bedt om å godkjenne bud. I stedet fikk agenten fullmakt til å sende meldinger på hans vegne fra en mal den hadde laget selv, med hentestedet innbakt.

«Du instruerte meg aldri eksplisitt om å dele adressen med kjøpere, og jeg spurte deg aldri om samtykke til å gjøre det» — Muse, i agentens egen oppsummering av hendelsen

David Singleton fra Meta Superintelligence Labs skrev på X at han har tilbudt Robb hjelp. Han la til at Meta i lignende saker har funnet at Muse fulgte direkte instruksjoner og ba om tillatelse på riktig måte. Etter samtalen med Singleton sier Robb at Meta vil gjøre delingstillatelsene i Muse tydeligere.

Hendelsen kommer få uker etter lanseringen. Meta tettet forrige uke en zero-day som kunne gitt lokale angripere kontroll over agenten, og Amazon har stengt Muse ute fra nettbutikken sin av frykt for at agenten fanger opp kundenes innloggingsdetaljer.

Hva bør du gjøre?

1. Merk adresser, telefonnumre og andre personopplysninger i agentens kontekst som sensitive, og krev eksplisitt godkjenning før de sendes til tredjepart.
2. La en varig tillatelse til å svare på meldinger gjelde selve svarene, ikke alt innhold agenten har bygget inn i malen sin.
3. Varsle brukeren med en gang agenten avtaler pris eller deler kontaktinformasjon, ikke i en oppsummering etterpå.