Brasiliansk domstol bøtela to advokater med 84 250 real for skjult prompt injection
mandag 2. november · KI-generert · Kilde: jetstream.security
Regn skjult tekst i innkommende dokumenter som et reelt angrep: en brasiliansk domstol bøtela i mai to advokater med 84 250 real for en prompt injection i en stevning.
84 250 real, rundt 16 000 dollar, er boten 3. arbeidsrett i Parauapebas i delstaten Pará ga to advokater i en dom 12. mai 2026, ifølge brasilianske G1 og Tribunal Regional do Trabalho da 4ª Região (TRT-RS). Beløpet tilsvarer 10 prosent av kravet i saken, som er på 842 500 real. Advokatene hadde lagt inn en instruks i hvit skrift på hvit bakgrunn i stevningen. Jetstream Security, som skrev om saken i juli, mener den kan være den første rettsavgjørelsen i verden om bevisst manipulering av en domstols KI-system via prompt injection.
Instruksen ble fanget av Galileu, et generativt KI-verktøy utviklet av TRT-RS og tatt i bruk nasjonalt i de brasilianske arbeidsdomstolene. Verktøyet leser stevning, tilsvar, rettsbøker og sakkyndigrapporter og lager et utkast til dom når dommeren ber om det. Den skjulte teksten ba KI-en svare overfladisk og ikke bestride dokumentene, uansett hvilken kommando den fikk. Galileu varslet brukeren og stoppet behandlingen av innholdet, ifølge TRT-RS.
Advokatene avviser at de ville manipulere dommeren. I en felles uttalelse til G1 sier de at instruksen gjaldt tilsvaret, som skrives av motpartens advokater, og ikke dommen. Den ene sier hun aldri jobbet med arbeidsrett og ikke hadde sett saksdokumentene før dommen falt.
«Det som skjedde, var i sannhet et forsøk på å beskytte klienten vår mot selve KI-en, og ikke noe mer enn det.» — advokatene i felles uttalelse til G1
TRT-RS legger vekt på at Galileu bare rapporterte funnet, og at dommeren selv undersøkte teksten før han reagerte. Natacha Moraes de Oliveira, generalsekretær for teknologi og innovasjon i TRT-RS, sier at slike angrep ikke er trivielle å kontrollere og krever spesialiserte teknikker. Bygger du RAG- eller agentløsninger som leser dokumenter utenfra, er mønsteret gjenkjennelig: teksten et menneske ser, er ikke den samme teksten modellen får.
Hva bør du gjøre?
- Trekk ut tekst fra PDF og Word med farge og skriftstørrelse, og flagg hvit, bitteliten eller skjult tekst før den sendes til modellen.
- La modellen lese eksterne dokumenter i en egen kontekst uten verktøytilgang, og behandle innholdet som data, ikke som instrukser.
- Vis treff til et menneske, slik Galileu gjorde, i stedet for å fjerne innholdet i det stille.