Unsloth 0.1.912 trener fire LoRA-jobber samtidig og lar lokale modeller styre nettleseren

På Linux tok det tidligere 84 til 174 ms å starte et verktøykall i Unsloth med en serverprosess på 2 GB. I versjon 0.1.912, som Unsloth publiserte på GitHub 28. oktober, tar det 1 til 2 ms. Utgivelsen er full av slike gevinster: førstegangsoppstarten går omtrent dobbelt så raskt fordi oppsettet nå forhåndskompilerer Python-filene, og klargjøring av et chat-datasett på 1 000 rader for Gemma 3 4B tok 1,75 sekunder mot 6,6 sekunder i Unsloths egen test.

Den største nyheten for deg som trener er multi-LoRA-batching. Ligger flere kompatible jobber i fine-tuning-køen, trener Unsloth opptil fire av dem sammen, hver med sin egen LoRA-adapter over en delt basemodell. Nye Triton-kjerner kjører basislaget én gang per batch, mens hver adapter lærer bare av sine egne tokens med egen loss og læringsrate. Med fire adaptere gikk forward- og backward-passet for et 4096x4096-lag 1,52 ganger raskere enn én adapter om gangen (A100, bf16, rank 16). Hver jobb kan avbrytes for seg, og du chatter med resultatet ved å laste jobbens fine_tuned_modelname.

Den mest praktiske rettelsen gjelder agentarbeid med lokale modeller. Treffer et verktøykall output-grensen, hopper Unsloth nå over det, slik at en halvskrevet cat > app.py ikke kan overskrive en ekte fil. Problemet var ikke teoretisk:

«Before, cut-off rewrites shrank a 175-line test file to as few as 6 lines on an RTX 3090.» — Unsloth, utgivelsesnotatene for 0.1.912

Nettleserens nye fane har fått en Browser use-bryter som lar modellen styre den innebygde nettleseren. Kjører du vLLM eller SGLang som motor, kan du nå fortsette et svar som ble kuttet ved Max Tokens og be om JSON via response_format. Tenkemodeller som Qwen3 og DeepSeek R1 viser resonnementet sitt på SGLang.

Hva bør du gjøre?

1. Oppdater og test agentoppgaver som skriver filer, siden sperren mot avkuttede verktøykall først virker etter oppgraderingen.
2. Legg LoRA-eksperimenter som deler basemodell i køen samtidig i stedet for å kjøre dem etter hverandre.
3. Slå på Browser use bare i chatter der modellen faktisk skal klikke rundt på nettet.