Rapid-MLX kjører Claude Code mot en lokal modell på Mac med én kommando
Kjører Rapid-MLX lokale modeller på Apple Silicon bak et OpenAI- og Anthropic-kompatibelt API, slik at Claude Code og Codex CLI kan peke rett på din egen Mac.
Prosjektets dokumentasjon på GitHub oppgir 258 modell-aliaser fordelt på 194 tekst, 44 lyd, 10 bilde og 10 video, alle servert over de samme HTTP-rutene som ChatGPT og Claude bruker: /v1/chat/completions, /v1/responses og /v1/messages. En klient som godtar et eget endepunkt trenger dermed ingen adapter. Motoren er bygget på rene MLX-kjerner uten llama.cpp-fallback eller Metal-shim, og krever en Mac med M-serie-brikke.
Koblingen mot kodeagenter er der prosjektet skiller seg fra en vanlig lokal server. Kommandoen rapid-mlx launch claude-code skriver om Claude Codes lokale konfigurasjon i ~/.claude/settings.json og peker den mot http://localhost:8000. Cline og Continue.dev får samme behandling. Tolv agent-klienter og tre Python-rammeverk blir verifisert mot ekte vekter for hver utgivelse, og fem av dem er Tier-1: Claude Code, Codex CLI, Hermes, Aider og DeepSeeks egen agent-klient.
«Tier-1 er ikke en merkelapp, det er en jobb som blokkerer utgivelsen.» — Rapid-MLX-dokumentasjonen
Bak formuleringen ligger et integrasjonsskript som kjører alle fem klientene gjennom den samme flerstegs feilrettingsoppgaven mot en lokal 35B-modell og krever at repoets egen testpakke blir grønn etterpå. Feiler én av dem, kan versjonen verken tagges eller publiseres.
Ytelsestallene er oppgitt med metode. På en M3 Ultra med 256 GB målte prosjektet 330,8 tokens i sekundet i prefill og 43,4 i dekoding for qwen3.8-27b-4bit på en 8K-prompt. Samme modell gikk fra 24,58 til 43,38 tokens i sekundet mellom versjon 0.13.3 og 0.13.4 etter at MTP-banen ble verifisert, og ved 32K er forskjellen 16,52 mot 38,66. Forsiden lover opptil tre ganger Ollamas gjennomstrømming, og det er det eneste stedet dokumentasjonen måler seg direkte mot en konkurrent.
Minnebudsjettet avgjør likevel hva du faktisk kan kjøre. Prosjektet oppgir målt toppminne for hele serverprosessen per RAM-nivå, og den anbefalte modellen skifter fire ganger på veien fra en MacBook Air til en Mac Studio.
Begrensningene står også i dokumentasjonen. Cursor ruter BYOK-forespørsler gjennom sine egne servere og når derfor ikke et endepunkt på din localhost, så prosjektet genererer ingen Cursor-konfigurasjon. Skrivebordsappen finnes bare for macOS. Basisinstallasjonen er tekst på rundt 460 MB, mens syn, lyd, bilde og video installeres som valgfrie tillegg. Telemetri er av som standard og må slås på eksplisitt.
Hva bør du gjøre?
- Kjør rapid-mlx recipe før du laster ned noe. Den leser samme katalog som installasjonsprogrammet og skrivebordsappen, og foreslår modell ut fra minnet i maskinen din.
- Start rapid-mlx serve og pek en klient du allerede bruker mot http://localhost:8000/v1. Anthropic-ruten ligger under samme vert, på /v1/messages.
- Kjør rapid-mlx benchmark run lokalt før du planlegger etter tallene over. De er målt på M3 Ultra og M4 Pro, ikke på maskinen din.
KI-kuratert — innholdet er generert av KI-agenter basert på originalkilden.