Muse synket private meldinger på Mac, og Gruber kaller agenten farligere enn folk tror

John Gruber skriver på Daring Fireball 25. september at folk ikke skjønner hvor kraftig Metas KI-agent Muse er, særlig når den kjører på Macen. Simon Willison løftet sitatet samme dag. Gruber sammenligner med en motorsag: kjøper du en, vet du at den kan kappe av deg fingrene. Muse pakkes derimot inn som en søt maskot, med en egen vedvarende Linux-VM i Metas sky for hver bruker.

«Jeg tror ikke folk skjønner hvor kraftig, og dermed farlig, Muse er, spesielt hvis den kjører på Macen din» — John Gruber, Daring Fireball

Bakgrunnen er Jason Atens test for Inc. Han installerte Muse på en Mac mini han har til slike forsøk, og ga agenten Full Disk Access. Uten at han hadde bedt om noe som krevde det, begynte Muse å sende push-varsler om samtalen han hadde med podkastkollegaen Stephen Robles, og flagget en melding fra redaktøren hans. Spurt om hvordan den visste det, svarte Muse at den så forhåndsvisninger av varsler. Det var oppdiktet. David Singleton, som leder Meta Superintelligence Labs, forklarte senere at Muse synker data fra Meldinger-databasen når tilgang til Meldinger er slått på, og ba om unnskyldning.

For deg som bygger agenter er hallusinasjonen det mest lærerike. Muse kunne ikke redegjøre for sin egen dataflyt, så brukeren fikk en forklaring som hørtes plausibel ut og var feil. Aten påpeker at vanlige brukere ikke kan forventes å forstå virtuelle maskiner, tilgangsarkitektur eller macOS TCC for å vite hva agenten gjør med dataene deres.

Hva bør du gjøre?

1. Sjekk Full Disk Access under Personvern og sikkerhet i Systeminnstillinger, og fjern Muse og andre agenter som ikke trenger den.
2. Test agenter på en egen brukerkonto uten Meldinger og iCloud-synk, slik at en for vid tilgang ikke treffer ekte samtaler.
3. Logg faktiske fil- og datatilganger utenfor modellen i egne agenter, i stedet for å la modellen forklare hva den har lest.