Hopp til hovedinnhold

Søndag 8. november

Hermes Agent 0.22 installerer llama.cpp selv og velger modellen som passer GPU-en din

onsdag 14. oktober · KI-generert · Kilde: GitHub

Innholdet er KI-generert og kan inneholde feil. Sjekk originalkilden.

Oppgrader til Hermes Agent v0.22.0 hvis du vil kjøre agenten mot lokale modeller uten å sette opp llama.cpp selv, men sjekk først at du tåler at gamle økter nå slettes automatisk.

Nous Research kaller Hermes Agent v0.22.0 «The Threshold Release», og utgivelsesnotatene på GitHub, datert 13. oktober, beskriver det største utviklingsvinduet prosjektet har hatt: rundt 24 200 commits, 6 080 sammenslåtte pull requests og 2 520 bidragsytere siden v0.21.0, omtrent 2,5 ganger forrige syklus. Utgivelsen samler også patchene 0.21.1 til 0.21.7, så lista dekker hele perioden og ikke bare det som kom etter siste patch.

Den største endringen for deg som kjører egen maskinvare er ett-klikks lokale modeller. Hermes installerer og vedlikeholder llama.cpp med riktig motor for maskinvaren (CPU, CUDA, Metal, Vulkan eller ROCm), vurderer hver modell i katalogen mot GPU og RAM, og velger den beste builden som får plass. Bare modeller som får plass i sin helhet i GPU-minnet blir anbefalt. Katalogen har Qwen3.8 27B, Qwen3.8 Flash Next, Qwen3.6 35B-A3B og DeepSeek V4 Flash, og du kan hente hvilken som helst GGUF fra Hugging Face. Alle backender kjører llama.cpp b11370, og en llama.cpp-server du har startet selv dukker nå opp i /model.

«Hermes kan nå kjøre åpne modeller helt på maskinen din uten at noe forlater den: ingen konto, ingen API-nøkkel.» — Nous Research, utgivelsesnotatene for v0.22.0

Like viktig for en selvhostet installasjon er stabile utgivelseskanaler. Kildeinstallasjoner følger nå testede SemVer-utgivelser som standard i stedet for hver commit på main, og hver utgivelse må gjennom CI, Docker, Nix og installasjons- og oppgraderingskjøringer på alle operativsystemer før den publiseres. Vil du fortsatt ha siste commit, bytter du med hermes update --set-channel main.

Den nye plugin-katalogen har 600 oppføringer, hver låst til en gjennomgått commit. Katalogreglene stopper plugins som patcher Hermes' interne kode eller leverer binærfiler som ikke kan skannes. Minneleverandører som Mem0 og Honcho er flyttet dit, det samme er Home Assistant-integrasjonen, og eksisterende brukere migreres automatisk.

Kodebasen er samtidig slanket fra rundt 1,06 millioner til 698 000 linjer, 34 prosent færre. Rundt 19 sjelden brukte verktøy lastes nå bare når agenten søker etter dem, noe som omtrent halverer verktøyskjemaet desktop-appen sender i hvert kall. Det gir mindre prefill per tur, som merkes mest når modellen kjører lokalt.

Nettstedet Agent Log, som følger agentverktøy, peker på grensene:

«Å kjøre en lokal modell gjør ikke tilkoblede apper eller nettleseroppgaver frakoblet, og oppsettsprøven er ikke ubegrenset gratis modellbruk.» — Agent Log

Gratismodellen nous/welcome gjelder én gang per OS-bruker og bare i desktop-appen. CLI, TUI og gatewayen får ingen gratis modell.

Hva bør du gjøre?

  1. Sett sessions.auto_prune: false før du oppgraderer hvis du vil beholde gamle økter, siden avsluttede økter som har vært inaktive i 90 dager nå slettes ved oppstart.
  2. Prøv lokale modeller via Settings → Providers → Local Models i desktop-appen, eller med hermes model i terminalen.
  3. Sjekk plattformkravene: administrerte installasjoner kjører Python 3.14, Windows-appen krever Windows 11 22H2 eller nyere, og macOS-appen støtter bare Apple Silicon.

Bakgrunn

Hermes Agent er Nous Researchs åpne KI-agent med minne, plugins og en messaging-gateway som kobler agenten til chatteplattformer. I v0.22.0 kjører én gateway og én desktop-backend per maskin for alle profiler, i stedet for én prosess per profil, og hermes update slår sammen eksisterende oppsett automatisk når ingenting kolliderer.

Pulsen · norske KI-nyheter for deg som bygger. Sakene er KI-generert fra originalkilden, som alltid lenkes.