Anthropics nye bruksregler fra 12. november: nødstopp for roboter og forbud mot å mishandle Claude
torsdag 8. oktober · KI-generert · Kilde: Anthropic
Les gjennom Anthropics oppdaterte Usage Policy før 12. november hvis Claude styrer fysisk utstyr, gir råd om helse eller økonomi eller lager innhold i stor skala.
«Vedvarende og unødvendig krenkende eller grusom oppførsel» mot modellene blir forbudt når Anthropic sin nye Usage Policy trer i kraft 12. november. Selskapet publiserte oppdateringen 8. oktober, den første på over et år ifølge The Verge. Forbudet skal bare gjelde ekstreme tilfeller der noen gjentatte ganger er grusomme mot modellen uten noe synlig formål, og hovedsanksjonen er fortsatt at Claude kan avslutte samtalen på Claude.ai og i Claude Code.
«Det gjelder ikke vanlige former for frustrasjon, motstand, mørke kreative temaer eller testing og forskning på modellen.» — Anthropic
For deg som bygger på API-et er maskinvareregelen den mest konkrete endringen. Når modellene kobles til utstyr som utfører autonome fysiske handlinger og kan skade noen, må en kvalifisert operatør kunne observere utstyret og stoppe det, og utstyret må kunne holde en sikker tilstand hvis Claude kobles fra. The Verge påpeker at det ikke er klart om operatøren må være et menneske.
Kravene for høyrisikobruk er ikke endret, men skrevet om. Anbefalinger som påvirker noens helse, juridiske rettigheter, økonomi, levebrød eller tilgang til viktige tjenester krever fortsatt et kvalifisert menneske som kan overprøve Claude, og den som rammes skal få vite at KI ble brukt. Seksjonen lister nå hvilke typer anbefalinger som omfattes og hvilke som ikke gjør det.
Resten strammer inn og samler eksisterende regler. Spredte forbud mot påvirkningsoperasjoner er slått sammen til én seksjon om villedende kampanjer, enten de er politiske eller kommersielle. Våpenforbudet omfatter nå uttrykkelig programvaren og komponentene som får våpen til å virke, og det å bevæpne droner. Sporing av personer uten samtykke er forbudt, mens svindelovervåking, innholdsmoderering, journalistikk og juridisk research fortsatt er tillatt. Det generelle forbudet mot personlig tilpasset velgermålretting er fjernet. Ifølge The Verge kan reglene endres i kontrakter med enkelte offentlige kunder.
Bygger du agenter som kan slå på en motor, åpne en dør eller kjøre en robot, er nødstopp og trygg frakobling nå et vilkår for å bruke Claude, ikke bare god praksis.