CaseCite: selvhostet juridisk KI-plattform, nå under Apache 2.0
torsdag 29. oktober · KI-generert · Kilde: github.com
Kjør CaseCite mot egne modellservere hvis klientdokumentene ikke skal forlate nettverket, ellers sendes teksten til OpenAI både for svar og embeddings.
«Source-available is not open source», skrev en Hacker News-bruker i tråden der CaseCite ble lansert som et åpent svar på legaltech-selskapet Harvey. Kort tid etter pekte en annen deltaker på en fersk commit i repoet: «Relicense under the Apache License 2.0». README-en bekrefter nå at versjoner til og med 1.3.0 ble gitt ut under Elastic License 2.0, mens koden i dag er Apache 2.0.
CaseCite samler åtte verktøy bak én innlogging. Research-delen lar deg chatte med firmaets dokumenter med semantisk søk, BM25-omrangering og sitater tilbake til kilden. Kontraktsdelen sammenligner 2 til 4 kontrakter klausul for klausul mot en mal, og utkastverktøyet skriver dokumenter forankret i opptil fire valgte kilder. Rettspraksis og dommeranalyse hentes fra amerikanske CourtListener, som er eneste kilde til rettspraksis i appen. For norsk juss er det altså dokumentdelen som er brukbar.
Dokumenter, vektorindeks og chathistorikk lagres på din server, og det finnes ingen telemetri. Men opplasting sender teksten til embeddings-leverandøren (OpenAI som standard), og spørsmål sender relevant tekst til OpenAI, Anthropic eller Gemini. Setter du bare OPENAI_BASE_URL til en egen server, går dokumentteksten fortsatt til OpenAI for embedding. Appen krypterer API-nøkler og originaldokumenter med AES-256-GCM, mens avledet tekst som vektorbiter og chathistorikk ligger i klartekst i Postgres og Redis. Stacken nekter å starte før du setter DISK_ENCRYPTION_ACKNOWLEDGED=true.
Skepsisen i HN-tråden gikk mest på forretningen: en deltaker påpekte at et tidligere «open source Harvey» kalt Mike ikke har svekket Harvey eller konkurrenten Legora, fordi verdien ligger i integrasjon og support.
Hva bør du gjøre?
- Prøv stacken lokalt med
docker compose -f docker-compose.prod.yml up -dogDOMAIN=localhost, etter at du har generert de tre påkrevde hemmelighetene med openssl. - Pek både
OPENAI_BASE_URLogEMBEDDING_BASE_URLmot OpenAI-kompatible servere du drifter selv hvis ingen dokumenttekst skal ut av nettverket. - Slå på full diskkryptering på verten før du laster opp ekte klientdokumenter.