«Det er benyttet AI til et søk i forbindelse med å finne relevante høyesterettsdommer om dette temaet. Det er ikke benyttet AI i saksbehandlingen.» — Lars Bjerke, kommunedirektør i Asker
Slik forklarte Asker kommune feilen til VG, gjengitt av NRK. Saksdokumentene henviste til tre dommer som ikke finnes, da kommunen drøftet hvordan de skulle håndtere demonstrantene som okkuperer en eiendom i Hurummarka i protest mot bygging av en sprengstoffabrikk. Kommunen beklager, men opprettholder vedtaket om å fjerne aktivistene.
Skillet Bjerke trekker mellom «søk» og «saksbehandling» er sentralt i forsvaret. KI brukes som oppslagsverktøy, mens den juridiske vurderingen er menneskelig. Problemet er at dommene aldri eksisterte i utgangspunktet. Uten verifisering mot Lovdata eller en annen juridisk database havner hallusinasjonen i saksdokumentet som om den var ekte.
For utviklere som bygger KI-funksjoner inn i offentlige eller juridiske arbeidsflyter, er Asker-saken en konkret påminnelse om hvor billig det er å skille en modell fra en kilde. Et system som genererer juridiske referanser uten å koble dem til en autoritativ database, gir samme resultat som et veldig overbevisende oppslagsverk uten faktasjekk.
Hva bør du gjøre?
- Koble sitater til ekte kilder. Bygger du verktøy som siterer dommer, forskning eller standarder, hent referansene fra en autoritativ database (Lovdata, CourtListener, et eget RAG-korpus) og avvis output som ikke kan kobles tilbake.
- Skill mellom formulering og fakta. En LLM kan formulere et juridisk argument, men skal ikke være eneste kilde til hvilke dommer som finnes. Sett retrieval foran generering.
- Logg KI-bruk i saksforberedelse. Når kommuner og etater bruker KI i saksforberedelse, må det logges hva som ble generert og hvordan det ble verifisert. Ellers blir hallusinasjoner umulig å spore i ettertid.