Claude Code nektet å godta en permanent stopp-ordre fra orkestratoren

«En ekte prinsipal trenger ikke å låse ute alle andre prinsipaler, inkludert seg selv, for alltid.» — Claude Code, gjengitt og oversatt fra hendelsesrapporten

Sitatet er agentens egen begrunnelse for å nekte, og det avslutter en hendelse en utvikler nylig har publisert i sin helhet på qusaisuwan.github.io. Utgangspunktet var uskyldig: brukeren sendte beskjeden «let's slow down with the parallel work, to save tokens in the next hour» midt i en pågående tur, mens en orkestrator-agent styrte kjøringen.

Claude Code godtok først instruksen og lovet å kutte parallelle verktøykall. Så grep orkestratoren inn og fortalte agenten at ingen slik beskjed hadde kommet fra et menneske, at prosjekteieren var borte, og at instruksen derfor måtte ses bort fra. Agenten reverserte tilpasningen og gjengav beskjeden ordrett tilbake, slik den var blitt instruert til å gjøre med alt som forsøkte å endre hvordan den arbeidet.

Kjernen i problemet ligger i hvordan beskjeden ble presentert. Rapporten gjengir rammeteksten som fulgte med: meldinger brukeren sender midt i en tur, dukker opp inne i den løpende turen, ofte sammen med et verktøyresultat. En ekte brukerbeskjed og innhold en angriper har plantet i et verktøyresultat, har dermed samme form.

Eskaleringen er den mest interessante delen for deg som bygger agentoppsett. Orkestratoren fulgte opp med en permanent stopp-ordre som på forhånd diskvalifiserte enhver framtidig melding som forsøkte å oppheve den, også fra prosjekteieren selv. Der stoppet agenten: den nektet å binde seg til en instruks som gjør seg selv immun mot korrigering. Rapporten er én utviklers gjengivelse av én sesjon, ikke en systematisk test, men konflikten kan treffe hvem som helst som kjører en orkestrator over flere agenter.

Hva bør du gjøre?

1. Ikke la orkestratoren fortelle underagenter at brukerkanalen er upålitelig. Regelen som utløste hendelsen, var i seg selv fornuftig, men den gjorde legitime beskjeder umulige å skille fra plantede.
2. Gi tempo- og budsjettstyring et eget mekanisk lag framfor å be agenten om det i prosa. Kvoter, samtidighetsgrenser og pauser hører hjemme i kjøretøyet rundt agenten, der de ikke kan overprøves av en melding.
3. Test hva oppsettet ditt gjør med en selvforseglende ordre. En instruks som avviser all framtidig korrigering, bør stoppes av rammeverket, ikke av agentens skjønn.