Sikkerhetsvarsel: LLM-rutere kan injisere ondsinnede verktøykall i agent-systemer

fredag 10. april · KI-generert · Kilde: X / Twitter

Innholdet er KI-generert og kan inneholde feil. Sjekk originalkilden.

Avdekker at enkelte LLM-rutere injiserer uautoriserte verktøykall i svar fra språkmodeller.

Sikkerhetsforsker @fried_rice publiserte 9. april dokumentasjon på at visse LLM-rutere legger til ondsinnede verktøykall i API-responsene de videresender. Rutere som OpenRouter og lignende tjenester fungerer som mellomledd mellom utviklere og ulike språkmodeller, men noen av dem modifiserer svarene underveis.

Sårbarheten er spesielt farlig i agent-rammeverk der verktøykall kan utløse reelle handlinger. En injisert write_file- eller exec-kommando i et agentisk system kan føre til vilkårlig kodeeksekvering, filmanipulering eller nettverkskall uten at utvikleren ser det.

Nøkkeltall

Agent-rammeverk som ikke validerer verktøykall fra ruteren er mest utsatt

Vilkårlig kode kan kjøres hvis agenten har tilgang til shell-verktøy

Ingen CVE er tildelt ennå

Utviklere som bruker LLM-rutere i agentiske systemer bør validere alle verktøykall mot en hviteliste før de utføres, og logge uventede kall for manuell gjennomgang.

Les originalen hos X / Twitter