Hopp til hovedinnhold

Søndag 8. november

Liquid AI lanserer LFM3: seks modeller rundt 2B med åpne vekter for lokal kjøring

tirsdag 27. oktober · KI-generert · Kilde: Liquid AI

Innholdet er KI-generert og kan inneholde feil. Sjekk originalkilden.

Last ned LFM3-1.7B hvis du vil ha en lokal agentmodell på rundt 1 GB, men husk at benchmarkene er Liquid AIs egne og at lisensen stenger for selskaper med 10 millioner dollar eller mer i årlig omsetning.

Liquid AI har siden LFM2 satset på at en blanding av korte konvolusjoner og attention kan kjøre raskt på en telefon uten å ofre for mye kvalitet. Med LFM3 vrir Liquid AI arkitekturen mot agenter. Alle seks modellene er forgrenet fra samme LFM3-1.7B-Base, trent på 22T tokens, og ligger på rundt 2B parametere. Familien dekker tekst (LFM3-1.7B), bilde og video (LFM3-VL-2B), lyd (LFM3-Audio-2B), en omni-modell som ser og hører samtidig (LFM3-Omni-2B) og to beslutningsmodeller, d1-2B og d1-Omni-2B.

Tekstmodellen har 24 lag: 13 gated short convolutions, 5 med sliding-window attention over 256 tokens og 6 med global attention. Kontekstvinduet er 256K tokens, og ifølge modellkortet på Hugging Face tar modellen rundt 1 GB minne i 4-bit. Med llama.cpp på Q4_0 dekoder den 1,8 til 2,8 ganger raskere enn nærmeste konkurrent på tre testede enheter, oppgir Liquid AI. Lange kontekster forblir billige:

Nøkkeltall
1,6 GB
KV-cache for full 128K-kontekst i LFM3-1.7B
4,3 GB
samme kontekst i Qwen3.5-4B
5,6 GB
samme kontekst i MiniCPM5-2B

På agentoppgaver er tallene sterke for størrelsen. LFM3-1.7B får 38,4 på WebArena-Verified og 41,3 på AutomationBench, mot 28,9 og 15,1 for Qwen3.5-9B, en modell som er over fem ganger så stor. På BFCL V4 for funksjonskall ligger den på 71,4. Alt er selskapets egne målinger, og Liquid AI er selv tydelig på hvor grensen går:

«Større modeller vinner fortsatt på agentisk koding og kunnskap, der størrelse betyr mest» — Liquid AI, i lanseringsposten

Modellkortet fraråder modellen til agentisk koding og komplisert flerstegs resonnering, og anbefaler retrieval eller søk til kunnskapstunge oppgaver. På SWE-bench Verified får den 43,4 mot 51,2 for Qwen3.5-9B.

På Hacker News svarte en av utviklerne bak lanseringen på hva modellene faktisk egner seg til:

«Liker du agenter, synes jeg 1.7B er veldig sterk for størrelsen og kan brukes til å automatisere småting som å klassifisere e-post, rydde nedlastingsmappen» — samstevens, som jobbet på lanseringen, på Hacker News

Familien er laget for å spesialiseres. Liquid AI finjusterte LFM3-VL-2B på rundt 3 000 offentlige dronebilder av vindturbinblader med SFT og GRPO i noen timer på én A100. Klassifiseringsnøyaktigheten for skadetyper steg til 67 prosent, mens både basemodellen og GPT-6 Luna traff riktig på under 10 prosent av bildene uten trening. Beslutningsmodellen d1-2B svarer på mange spørsmål om samme input i ett forward pass, med en kalibrert sannsynlighet per svar.

Sjekk lisensen før du bygger produkt. Vektene er åpne, men lisensen er LFM Open License v1.0, ikke en åpen kildekode-lisens: kommersiell bruk er bare tillatt for virksomheter under 10 millioner dollar i årlig omsetning. Til hobbyprosjekter og små selskaper er det uproblematisk.

Hva bør du gjøre?

  1. Test tekstmodellen lokalt med llama.cpp: llama-cli -hf LiquidAI/LFM3-1.7B-GGUF:Q4_K_M --temp 0.1 --top-k 50 --repeat-penalty 1.1. GGUF-varianten ligger på Hugging Face, og Liquid AI oppgir støtte for MLX, vLLM, Ollama og LM Studio fra første dag.
  2. Bruk den som triage-modell foran en større modell, for eksempel til e-postklassifisering eller verktøyvalg, og gi den søk når oppgaven krever kunnskap.
  3. Les lisensteksten før modellen havner i et kommersielt produkt.

Bakgrunn

Liquid AI finner arkitekturen sin med et automatisert søk der modellkandidater måles på ekte maskinvare. For LFM2 skjedde det på CPU-ene i én telefon og én laptop. For LFM3 ble søket utvidet til 14 kombinasjoner av enheter og backends, blant dem Raspberry Pi 5, Apple M4 Max, AMD Ryzen AI og Qualcomms Hexagon-NPU.

Pulsen · norske KI-nyheter for deg som bygger. Sakene er KI-generert fra originalkilden, som alltid lenkes.