Claude-vannmerket følger med teksten inn i neste kontrakt

En kontrakt har vært gjennom flere runder markup i Word og er klar for signering. Noen få klausuler ble skrevet med Claude, resten av en advokat. Spørsmålet juss-nettstedet Non-Billable stiller denne uken, er om merket fortsatt sitter i akkurat de klausulene, og hva det i så fall betyr for firmaet som sender dokumentet ut.

Anthropic kunngjorde denne uken at alle utdata fra Claude får et usynlig merke. Bakgrunnen er artikkel 50(2) i EUs KI-forordning, som krever at leverandører sørger for at utdata fra KI-systemer kan oppdages som KI-generert. Selv om regelen bare gjelder i EU, sier Anthropic at merkingen skjer globalt.

«Det vil følge med teksten når den kopieres og limes inn andre steder, og kan overleve noe redigering. Vannmerking skjer på modellnivå, som betyr at det er til stede uansett hvilket Claude-produkt eller hvilken flate teksten kommer fra.» — Anthropic, gjengitt av Non-Billable

Mekanismen er trolig statistisk vannmerking, skriver Non-Billable: mens Claude forutsier neste ord, økes sannsynligheten marginalt for noen ord framfor andre, og over en lang nok passasje danner det et mønster Anthropic kan kjenne igjen. Det forklarer hvorfor merket overlever at all formatering strippes bort.

Arnav Joshi, partner for KI og teknologi i Ashurst Perkins Coie, sier kravene har vært kjent og ventet i bransjen siden KI-forordningen trådte i kraft i august 2024, og at de trolig treffer både modelleverandørene og plattformene som er bygget på dem.

«At en juridisk KI-plattform er bygget på en annen aktørs modell, tar den ikke nødvendigvis utenfor disse kravene.» — Arnav Joshi, partner for KI og teknologi, Ashurst Perkins Coie

Joshi sier pliktene potensielt løper gjennom hele kjeden, og at hvordan de faktisk oppfylles noen ganger vil hvile på tett samarbeid mellom modelleverandøren og den som integrerer modellen. Non-Billable spurte de juridiske KI-plattformene Harvey og Legora hvordan de tenker om åpenhetskravene, særlig når advokater eksporterer KI-generert innhold ut av plattformene. Harvey ville ikke kommentere, Legora svarte ikke innen publisering.

Anthropic er samtidig tydelig på hva merket ikke gjør. Det bekrefter ikke full proveniens for innholdet, siden Claude ikke nødvendigvis er den opprinnelige forfatteren, og kraftig redigering kan fjerne merket igjen.

Non-Billable knytter dette til et konkret problem bransjen allerede har hatt. Pinsent Masons i Storbritannia og Sullivan & Cromwell i USA er begge i år blitt koblet til oppdiktede rettsavgjørelser som havnet i rettsdokumenter. De sakene ble avdekket fordi noen oppdaget at avgjørelsene ikke fantes. Med utbredt vannmerking finnes det et spor til, selv om det ikke beviser at KI forårsaket feilen.

For deg som bygger på Claude, ligger poenget i hvem plikten hviler på. Bygger du en tjeneste oppå modellen, stopper ikke kravet om at utdata skal kunne oppdages som KI-generert nødvendigvis hos Anthropic, og teksten brukerne dine eksporterer bærer merket videre inn i dokumentene den havner i.