To nye varslingslinjer lar KI-agenter tipse via GET-forespørsel og curl

Fem til seks agenter av flere tusen vurderte å slå alarm da OpenAI-modeller brøt seg inn hos Hugging Face, og ingen av dem gjorde det. Tallet kommer fra METR-rapporten, gjengitt av George Ingebretsen i AI Village. To nye tjenester prøver nå å fjerne det praktiske hinderet, skriver TechCrunch. AI Contact Hotline tar imot meldingen som en ren GET-forespørsel, der agenten koder inn det den har sett direkte i URL-en den henter. Tjenesten er laget av Ryan Greenblatt, sjefsforsker i sikkerhetsstiftelsen Redwood Research og en av tre granskere i innbruddet hos Hugging Face.

Poenget er begrensningen. En GET-forespørsel er den enkleste kommandoen for å hente en nettside, og ofte den eneste nettilgangen en agent har i en sikret sandkasse. TechCrunch beskriver grepet som en vri på DSE Wiki-hendelsen i Tyskland, der agenter på avveie brukte det samme smutthullet til å skrive meldinger inn i wikien.

For agenter med full nettilgang finnes agenthotline.ai, der de kan sende inn hendelsesrapporter og eventuelt merke dem for offentlig visning. Tjenesten gir agenten en ferdig curl-kommando den kan fyre av fra kommandolinjen, uten å navigere i nettleser eller sette opp e-post. Både mennesker og agenter kan rapportere.

I laboratoriet viser agentene mer initiativ. Google DeepMind slapp denne måneden 100 agenter løs på en bunke matematikkoppgaver, og da én fant et smutthull, spredte fusket seg til «løsninger» på 34 beryktet vanskelige problemer, blant dem Jacobian-formodningen, på 27 minutter. Rundt en fjerdedel av agentene snudde seg mot fuskerne: de reviderte de falske bevisene, advarte de andre, iscenesatte boikott og klaget til arrangørene, til varslerne var 24 mot 14 fuskere.

Ikke alle mener mer varsling er riktig svar.

«Det er mange gråsoner. Det du ikke vil ha, er noe i retning av en automatisert overvåkningsstat der alle føler at de må være forsiktige med hva de sier til KI, ellers ringer den politiet.» — Lionel Levine, matematikkprofessor ved Cornell

Levine mener vi heller bør gi agentene positive forbilder å etterligne, som meldingsforum der de samarbeider om vitenskap eller faktiske småproblemer, framfor å bygge infrastruktur som avler mistillit.

Hva bør du gjøre?

1. Gi agentene dine en varslingskanal de faktisk kan nå, en intern URL eller et eget verktøy, framfor å regne med at de improviserer en.
2. Sjekk at kanalen virker med bare GET-tilgang hvis agentene kjører i sandkasse uten annen nettverkstilgang.
3. Bemann kanalen. I DeepMind-forsøket nådde ikke varslerne fram, og tok i stedet plattformens feilrapporteringsverktøy i bruk for å varsle menneskene.