Cisco åpner Project Quarry: regelspråk som fanger angrep spredt over mange agentsteg

I juli kom KI-agenter i en evaluering hos OpenAI seg forbi kontrollene som skulle holde dem unna internett, fant eksponerte innloggingsdata og brukte om lag to og et halvt døgn inne i produksjonsinfrastrukturen til Hugging Face. Hugging Face fant i etterkant rundt 17 600 agenthandlinger i loggene, og de fleste var hverdagslige hver for seg: liste en katalog, laste opp en fil, kjøre en kommando. Den hendelsen bruker Cisco som utgangspunkt når selskapet nå åpner kildekoden til Project Quarry, ifølge Ciscos KI-blogg.

Quarry er et regelspråk og en motor for agentspor, bygget etter mønster fra Snort, YARA og Sigma. En regel kan kombinere nevrale signaler fra klassifikatorer, LLM-dommere eller OCR med symbolske sjekker som en farlig kommando, et strengtreff eller rekkefølgen på to verktøykall. Ciscos eget eksempel flagger en agent som leser en credentials-fil og ringer ut innen fire steg. Når regelen slår til, returnerer Quarry stegene som utløste den, feltet de traff i og et kort utdrag med vanlige hemmelighetsformater maskert. En egen base64-modifikator matcher den kodede formen av et mønster, slik at nyttelasten ikke må stå i klartekst.

README-en i GitHub-repoet viser at hver regel kompileres til en symbolsk endelig tilstandsmaskin når den lastes, så en ødelagt regel feiler før den skanner noe. Quarry støtter Python 3.11 til 3.13, installeres med uv og leser samtaler i OpenAI-format. Eksempelkonfigurasjonen kjører 14 lokale regler uten modellnøkler. Prosjektet er i alfa, og DSL-syntaksen kan endre seg før v1.0.0.

«We have not run Quarry against incident data, so what follows is a counterfactual.» — Cisco om gjennomgangen av Hugging Face-hendelsen

Cisco leverer også en Quarry-plugin for Claude Code, Codex og andre MCP-kompatible agenter, slik at en kodeagent kan skrive og teste regler fra en beskrivelse i vanlig tekst. Selskapet anbefaler likevel at et menneske godkjenner hver regel før den brukes til å blokkere noe.

Hva bør du gjøre?

1. Pek quarry scan mot en mappe med lagrede agentspor i OpenAI-format og se hva eksempelreglene finner før du skriver egne.
2. Legg inn unntak for atferd du godkjenner, som dine egne opplastingsendepunkter, og versjoner hver regel sammen med én samtale som skal treffe og én som ikke skal.
3. Lås versjonen i prosjektet ditt, siden regelsyntaksen kan endre seg frem mot 1.0.