HART OS kjører lokale agenter på 8 GB RAM, men læringskoden ligger i et privat repo

Hva skal til før en Python-runtime kan kalle seg operativsystem? HART OS, lagt ut under Apache 2.0 av Hertz AI, svarer med en egen Wayland-kompositor bygget på Smithay som ifølge prosjektet bygger grønt i CI 26. juli, og nitten nixosTest-sjekker for initrd, tier-fall og gjenopprettings-TTY. Dokumentasjonen skriver samtidig rett ut at de nitten sjekkene bare kjøres manuelt og aldri har hatt en grønn kjøring.

Uten dedikert skjermkort kjører runtimen en 0,8B utkastmodell ved siden av en 4B hovedmodell med spekulativ dekoding mellom dem, pluss Whisper og talesyntese. Prosjektet oppgir rundt 6,1 GB resident minne og første token etter cirka 700 millisekunder. Med CUDA-kort vil utkastmodell, hovedmodell og TTS til sammen ha omtrent 10 GB VRAM. Serveren lytter på port 6777 og snakker OpenAI-protokollen, så et eksisterende oppsett med LiteLLM, Aider eller Continue kan peke dit uendret.

Nodene federerer over PeerLink, en direkte WebSocket uten megler i midten. Rollen en node får er ikke selverklært: bare flat-modus kan settes fritt, regional krever sertifikat utstedt av central, og central krever den private Ed25519-hovednøkkelen. En node som påstår noe annet uten beviset faller tilbake til flat og logger hvorfor.

Den delen som gjør «hive» til mer enn en klynge, er ikke åpen. Hebbiansk, bayesiansk og gradientbasert læring ligger i et privat repo kalt HevolveAI, som runtimen laster som signert binærfil og bytter ut med en stubbe når den mangler. Prosjektet dokumenterer dette selv og kaller det ubekvemt ved siden av sitt eget argument om at ingen skal eie intelligensen. Repoet har 32 stjerner og fem forker, så uansett hvordan du leser resten, er dette tidlig arbeid.

Hva bør du gjøre?

1. Bruk Python 3.10 eller 3.11. faiss-cpu 1.7.4 publiserer hjul kun til og med cp311, og på 3.12 stopper installasjonen med en feil som ser ut som et ødelagt repo.
2. Sett av tid og diskplass til første installasjon. requirements.txt pinner 192 pakker og drar inn torch, torchvision, transformers og onnxruntime.
3. Test port 6777 mot OpenAI-klienten du allerede bruker, før du vurderer resten av stacken. Det er den delen du lettest kan verifisere selv.