Du eier Claude-svarene dine, men Anthropic forbyr trening på dem

Anthropic har publisert en egen støtteartikkel om hvor grensen går, etter at spørsmålet har gått igjen blant utviklere som destillerer store modeller ned til mindre og billigere. Utgangspunktet er at du eier det Claude produserer fra dine egne inndata. Innskrenkningen ligger i vilkårene: selskapet forbyr kunder å bruke tjenestene til å trene eller utvikle KI-modeller uten skriftlig tillatelse.

To begrunnelser oppgis. Den ene er at sikkerhetsmekanismene forsvinner underveis, siden en modell trent på Claude-tekst ikke arver testingen og lagene Anthropic har lagt inn. Den andre er at selskapet ikke ser hvor de destillerte modellene havner, og dermed ikke kan følge med på misbruk.

«Når kunder bruker Claude til å generere svar som så trener konkurrerende modeller, bruker de i praksis infrastrukturen og investeringene våre til å bygge direkte konkurrenter til tjenesten vår.» — Anthropics støtteartikkel om trening på Claude-svar

Det praktiske skillet går på hva modellen din skal gjøre, ikke på hvor mye Claude-tekst du bruker. Anthropic lister opp seks kategorier som er greie: sentimentanalyse, innholdskategorisering, oppsummering, informasjonsuttrekk, semantisk søk og anomalideteksjon. Svarene kan også mates rett inn i produktet ditt, brukes til å strukturere egne data eller drive interne arbeidsflyter.

Forbudslista er kortere og skarpere. Den dekker chatboter for generelle formål, modeller laget for åpen tekstgenerering, bruk av svarene som treningsmål, og omvendt utvikling av treningsmetodene. Det er også et brudd på vilkårene å hjelpe en tredjepart med å gjøre noe av dette.

For deg som bygger betyr det at en spesialisert klassifikator trent på Claude-data står trygt, mens en finjustert åpen modell som skal svare på det samme som Claude gjør, ikke gjør det.