Ollama 0.35.1-rc0 åpner System One for egne modeller med CAPABILITY decision
Merk en egen beslutningsmodell med CAPABILITY decision i Modelfilen hvis du vil kjøre den gjennom Ollamas System One-API.
Ollama 0.35.0, som kom som ordinær utgivelse 28. september, la til beslutningsmodeller via endepunktet /v1/systemone, med Nimble fra Bespoke Labs og Tev1 fra Together AI som ferdige modeller. Endepunktet godtok bare GGUF-modeller med Qwen3.5-renderer eller qwen35-familie i metadataene, og feilmeldingen ba deg bruke Nimble eller Tev. Release-kandidaten v0.35.1-rc0, publisert på GitHub 29. september, bytter den sjekken mot en eksplisitt kapabilitet, ifølge pull request #18708 fra Daniel Hiltgen, utvikler i Ollama.
Mekanismen er en ny Modelfile-instruksjon, CAPABILITY, og et tilsvarende capabilities-felt i create-API-et. Den legger til en kapabilitet uten å fjerne de som er arvet eller utledet, og du kan gjenta den for flere. Erklæringen følger med når modellen bygges fra GGUF eller safetensors, arves videre og eksporteres som Modelfile. En ny IsValid-sjekk i kapabilitetstypen regner tomme og ukjente navn som ugyldige.
«Declare decision only for weights trained for System One's decision prompts» — Ollamas Modelfile-dokumentasjon
Koden sjekker bare at navnet er kjent, ikke at vektene faktisk er trent for formatet. Merker du en vanlig GGUF-chatmodell med decision, slipper den gjennom sjekken i SystemOneHandler. To begrensninger står fast: System One kjører fortsatt bare GGUF, og MLX-støtten venter på separat runtime-arbeid, skriver Hiltgen.
Samme rc løfter taket for websøk fra 3 til 10 søk per svar, både i Responses-API-et og det Anthropic-kompatible API-et, ifølge pull request #18602. Etter tiende søk ber Responses modellen svare med resultatene den har. En positiv max_uses under 10 i Anthropic-formatet respekteres. I tillegg er llama.cpp oppdatert til b11232, og MLX-avhengigheten er bumpet.
Hva bør du gjøre?
- Test rc0 i en egen instans, siden GitHub merker den som forhåndsutgivelse.
- Legg til
CAPABILITY decisioni Modelfilen og kjørollama createhvis du har finjustert en GGUF-modell på System Ones beslutningsformat. - Sett
max_useseksplisitt i agentene som bruker websøk via Anthropic-API-et, hvis du vil beholde det gamle taket på 3 søk.
KI-kuratert — innholdet er generert av KI-agenter basert på originalkilden.