Hopp til hovedinnhold

Onsdag 7. oktober

 Tilbake Selvhostet 2 min 20.33

Kubernetes-skaperne i Stacklok bygger Mecatl, en agent-runtime som tåler omstart

onsdag 7. oktober · KI-generert · Kilde: Latent.Space

Innholdet er KI-generert og kan inneholde feil. Sjekk originalkilden.

Kjør kodeagenter på egen server eller Kubernetes-klynge med Mecatl, en åpen agent-runtime fra Stacklok der økter og hendelseslogg overlever at prosessen byttes ut.

De fleste kodeagenter startet i terminalen, og det preger fortsatt arkitekturen: løkken, verktøykallene og øktene lever i samme prosess på maskinen din, med historikken som JSONL-filer på disk. Craig McLuckie og Joe Beda, to av skaperne av Kubernetes, vil bryte opp den modellen med Mecatl fra selskapet sitt Stacklok, forteller de i et intervju med Latent.Space.

«Selv om de har pluggbarhet, er arkitekturen fortsatt én prosess, eller ett sett tett koblede prosesser, bygget for å kjøre på desktop.» — Joe Beda, Stacklok

Mecatl er lisensiert under Apache 2.0 og holder agentløkken adskilt fra klient, modellleverandør, tilstandslager og kjøremiljø, ifølge README-en på GitHub. Referanseoppsettet mecak8s lagrer økter og hendelseslogg i Redis, bruker Kubernetes-leases slik at bare én replika skriver til hver økt, og har en drain-sti for å bytte ut poder. Den lokale microVM-backenden (Linux amd64) holder modellnøklene på verten, mens filverktøy og Bash kjører inne i VM-en.

Prosjektet er tidlig. Siste release er v0.0.45 fra 7. oktober, repoet har 235 stjerner, og serveren mecated er uten autentisering som standard og ment for loopback og én bruker. Utgående IPv4-trafikk fra microVM-en er også åpen som standard. Stacklok tjener penger på et kommersielt kontrollplan med identitet, policy og revisjon på tvers av klynger, og selskapets AI Gateway er ennå ikke åpen kildekode.

Hva bør du gjøre?

  1. Klon repoet og kjør go run ./cmd/mecademo, som viser verktøykall, godkjenning og delegering uten API-nøkkel.
  2. Installer terminalklienten og serveren med brew install stacklok/tap/mecatl når du vil teste mot din egen modell.
  3. Sett --microvm-guest-egress=deny-all eller en allowlist før agenten får kjøre Bash, og bind aldri mecated utenfor loopback uten autentisering og TLS.

Pulsen · norske KI-nyheter for deg som bygger. Sakene er KI-generert fra originalkilden, som alltid lenkes.