Hva skjer når KI-agenten din ber om å kjøre et verktøy som sletter filer? Med Genkits nye middleware kan du tvinge fram et avbrudd der en person må bekrefte før kallet går videre. Genkit er Googles open-source-rammeverk for KI-apper, og middleware er komponerbare hooks som fanger opp genereringskall og verktøyløkken modellen kjører.
Hookene fester seg på tre lag. Generate-laget kjører én gang per runde i verktøyløkken og er stedet for kontekst-injeksjon og meldingsomskriving. Model-laget kjører per API-kall til modellen, og der hører retry med eksponentiell backoff, fallback til en annen leverandør og caching hjemme. Tool-laget kjører per verktøykall, og der legger du menneskelig godkjenning og sandboxing.
Google leverer flere ferdige hooks. Retry prøver feilede modellkall på nytt ved forbigående feil. Fallback bytter til en annen modell, for eksempel fra Gemini til Claude, når den primære går tom for kvote. ToolApproval begrenser verktøykjøring til en hviteliste, og alt utenfor lista utløser et avbrudd der en person må bekrefte før handlingen går videre.
For deg som har bygget noe agentisk er det kjente problemet alt rundt prompten: hva skjer når modellen feiler, når den vil gjøre noe destruktivt, når du trenger å se hva som faktisk skjedde. Middleware samler den logikken ett sted i stedet for spredt utover kodebasen. Tilgjengelig nå i TypeScript, Go og Dart, med Python på vei.