Headlong holder agenten tenkende døgnet rundt for 1 til 2 dollar i timen

Laude Institute la ut Headlong som åpen kildekode denne uken. De fleste agent-rammeverk er reaktive: du gir agenten en oppgave, den jobber til oppgaven er ferdig, og så står den stille til neste forespørsel. Headlong snur på det. En løkke kaller modellen om og om igjen med én instruks, nemlig å velge neste tanke gitt de forrige, og meldinger fra mennesker lander som observasjoner i den samme tankestrømmen i stedet for å starte en økt.

Kjernen er 9 900 linjer Bash fordelt på bin/ og thinkers/. Valget henger sammen med resten: når verktøy, minne og ferdigheter alle bare er kjørbare filer, kan agenten lese og endre hvilken som helst del av seg selv. Laude kjører sin egen agent, Audel, i en fork av repoet og har hentet over 50 av dens commits tilbake til main. Én natt fant Audel på eget initiativ ut at gjenkallingsprosessen den selv hadde bygd aldri leste røret den fikk tanker gjennom, sporet feilen til en miljøvariabel som aldri ble satt, og verifiserte fiksen etterpå. Det tok 48 minutter, uten at noe menneske ba om det.

Prisen for å tenke hele tiden er reell. Laude oppgir 1 til 2 dollar i timen med GLM eller Grok i bunn når ingen snakker med agenten. Headlong demper takten når det er stille, fra fem sekunder mellom tanker til ti, så tjue, og videre opp til et tak du selv setter. Kommer det en melding, nullstilles takten.

Den mest åpenbare svakheten står i Laudes eget innlegg.

«I praksis er Audel dårlig til å holde på hemmeligheter.» - Laude Institute om sin egen Headlong-agent

Én agent deler én tankestrøm mellom alle som snakker med den. Det finnes ingen økter per bruker og ingen vegg mellom samtaler. Laude forutsetter at alt du forteller Audel er delt med hele teamet, og de har ikke undersøkt hva som skjer når to personer gir motstridende instrukser.

Hva bør du gjøre?

1. Kjør den i sandkasse. Headlong er alfa-programvare, og agenten kjører shell-kommandoer selv. Er Docker installert på verten, kjøres hver bash-blokk agenten skriver inne i en container.
2. Bruk en dedikert API-nøkkel med utgiftstak. Agenten tenker døgnet rundt, og regningen løper uten at noen ber om det.
3. Hold hemmeligheter unna. Laude deler ikke sensitive nøkler med sin egen agent og anbefaler at du lar være også.