Ekspertene tviler på at Kimi K3 er destillert fra Fable

«Du får ikke en modell som er så sterk, så raskt etter Fable, med ren destillering», sier Braden Hancock, forsker ved Laude Institute og medgründer av Snorkel AI, til TechCrunch. Poenget hans er tidslinjen: Fable har ifølge Hancock vært offentlig tilgjengelig siden 1. juli, og du rekker ikke å destillere nok data, trene en modell og slippe den i løpet av to uker. Kimi K3 fra kinesiske Moonshot er i dag den største modellen med åpne vekter du kan laste ned.

Bakgrunnen er en påstand fra Michael Kratsios, vitenskapsrådgiver i Det hvite hus, om at Moonshot bygget Kimi K3 ved å kopiere Fable og samtidig brukte Nvidia-brikker som ikke er godkjent for eksport til Kina. Kratsios kalte det «storskala, skjult industriell destillering», men delte ingen detaljer om kildene sine. Moonshot har ikke svart på spørsmål om treningsprosessen.

Den tekniske innvendingen handler om hva destillering faktisk gir deg i 2026. Supervised fine-tuning på en større modells svar er der en modell «plukker opp manerene sine», som Nathan Lambert ved Allen Institute for AI formulerer det, men gevinsten synker etter hvert som treningen flytter seg mot forsterkningslæring. Store RL-kjøringer kan kreve titalls millioner agenter, og å kjøre dem gjennom en frontier-leverandørs API ville ifølge Lambert vært ekstremt dyrt, tregt og kanskje ikke engang gitt bedre modeller.

At tidligere modeller har bidratt, er en annen sak. Anthropic anklaget tidligere i år Moonshot, DeepSeek og MiniMax for systematisk destillering, og viste til millioner av utvekslinger selskapet sporet via IP-adresser og metadata. Praksisen er heller ikke spesielt kinesisk: Elon Musk forklarte i år at SpaceXAI destillerte OpenAI-modeller for å utvikle Grok.

«Amerikanere undervurderer generelt den tekniske kompetansen til disse kinesiske teamene. Dette er legitime forskere og ingeniører som gjør solid arbeid.» — Braden Hancock, Laude Institute

For deg som bygger på åpne vekter ligger konsekvensen i hvor argumentet ender: anklagen brukes som brennstoff i en diskusjon om å forby kinesiske modeller med åpne vekter, og er den tekniske premissen svakere enn den fremstilles, hviler forbudsargumentet på tynnere grunn enn overskriftene antyder.