Experiential lar deg sette budsjett per agent og bygge en ruter av egen trafikk

Et agentoppsett som har vokst i noen måneder ser gjerne likt ut hos de fleste: én nøkkel til OpenAI, én til Anthropic, en lokal modell på siden, og ingen samlet oversikt over hvem som brukte hva. Experiential fra Experiential Labs er en gateway med åpen kildekode som legger seg foran hele stabelen. Prosjektet ligger under Apache 2.0, er skrevet i Python og har rundt 490 stjerner på GitHub.

Installasjonen er pip install experiential og deretter exp. Oppsettveiviseren spør etter leverandør, modell og resonneringsnivå, lagrer leverandørkoblingene, og foreslår et offentlig alias, en identitet og et kommandobudsjett på 50 dollar før den skriver ut en engangsnøkkel. Gatewayen kjører så på 127.0.0.1 port 8000 og svarer på /v1/chat/completions som om den var OpenAI.

Tilgangskontrollen er det andre laget. Du bestemmer hvilke brukere og agenter som får bruke hvilke modeller, til hvilke formål, og hvor mye de kan bruke. Det er den delen som skiller Experiential fra en ren proxy: budsjettet er en del av rutingen, ikke noe du oppdager i etterkant på fakturaen.

Den tredje delen er den mest uvanlige. Samler du OpenTelemetry-spor fra agenten du allerede kjører, bygger exp build en simulering av den trafikken og optimaliserer en ruter mot den. Vil du gå lenger, finjusterer exp optimize model en åpen modell du selv eier, gjennom Tinker. Skal du bare prøve mekanikken, ligger et offentlig datasett med spor fra terminal-oppgaver klart på Hugging Face. Fra Python laster exp.load_router en ferdig bygget ruter som en helt vanlig OpenAI-klient.

Experiential Labs driver også en hostet variant på platform.experientiallabs.ai. Den serverer samme API, både i OpenAI-format og i Anthropics Messages-format, og lar deg koble til dine egne nøkler for OpenAI, Anthropic, Gemini, Azure, Bedrock, Fireworks eller OpenRouter som gratis gjennomgang.

Én detalj bør du kjenne til før du setter opp den selvhostede varianten: anonym PostHog-telemetri er slått på som standard. Experiential oppgir at den aldri inneholder prompter, spor, handlinger, observasjoner, filstier, modellnavn, legitimasjon eller rådata fra kunder, og at preferansen lagres lokalt i .exp/settings.toml. Du slår den av med exp config telemetry disable.

Hva bør du gjøre?

1. Kjør pip install experiential og exp mot en lokal modell først. Da ser du rutingen og budsjettlogikken uten å bruke penger på et eneste API-kall.
2. Slå av telemetrien med exp config telemetry disable hvis gatewayen skal stå i et miljø der du ikke vil ha utgående kall du ikke selv har bedt om.
3. Sett kommandobudsjettet lavere enn standardverdien på 50 dollar før du peker en autonom agent mot gatewayen.