Appen din ser bare én modell. Bak kulissene, melder AI Weekly, ruter Sakana AIs nye rammeverk Fugu hver forespørsel gjennom riktig agent i en multi-agent pipeline, eksponert som ett enkelt OpenAI-kompatibelt API.
Poenget er bakoverkompatibilitet. De fleste agent-rammeverk krever at du skriver om klienten for å snakke med dem, med eget SDK og egne endepunkter. Fugu later i stedet som den er en vanlig chat-completions-modell, så alt som allerede snakker OpenAI-protokollen fungerer uten endringer.
For deg som har en eksisterende app mot OpenAI, eller mot en lokal modell via en OpenAI-kompatibel server, betyr det at du kan bytte ut én modell med et helt team av agenter ved å endre base-URL og modellnavn. Orkestreringen, altså hvilken agent som tar hvilken oppgave, skjer på Fugu-siden og er usynlig for klienten.
Hva bør du gjøre?
- Pek base-URL i den eksisterende OpenAI-klienten din mot en Fugu-instans for å teste pipelinen uten å røre resten av koden.
- Definer rutingen mellom agentene i Fugu-konfigurasjonen, så enkle forespørsler går til en billig modell og tunge oppgaver til en sterkere.