FLM kobler bananfluehjernen til en språkmodell, men en enklere kontroll slår den knepent

166 700 noder og 25 582 938 rettede koblinger fra konnektomet MaleCNS v1.0 ligger i det nye GitHub-prosjektet FLM. Hvert token sendes gjennom hele den faste grafen, og en adapter på 278 528 parametere leser tilstanden og justerer neste-token-poengene til Liquid AIs LFM2.5-1.2B-Instruct. Bare adapteren trenes, så språkevnen kommer fra den forhåndstrente modellen.

Det mest interessante står lenger ned i README-en. Den tilhørende studien trente en adapter med samme antall parametere som leser input direkte, uten fluegrafen, og den kontrollen gjorde det litt bedre. Prosjektet etablerer altså ingen fordel fra fluens anatomi. Fjerner du koblingene, forsvinner bidraget fra grafen helt, og å bytte om nodenes etiketter er ifølge forfatteren en grensesnittkontroll, ikke bevis på at denne topologien slår tilfeldig kobling.

«Språkevnen kommer fra den forhåndstrente modellen; dette betyr ikke at en biologisk flue forstår språk» — FLM-README-en på GitHub

Alt kjører lokalt uten API-nøkkel, konto eller hostet inferens. Du trenger Python 3.12 på macOS eller Linux, minst 10 GB ledig disk og helst 16 GB RAM. Apple Silicon bruker MPS, Nvidia-kort bruker CUDA, og CPU fungerer også, bare tregere. Treningen bruker 64 korpussamtaler og 32 syntetiske stileksempler, og det følger ingen ferdig trent adapter med, så du må trene én gang før du kan chatte. Egen kode og syntetiske eksempler er MIT-lisensiert, mens vekter og data beholder sine egne vilkår.

Hva bør du gjøre?

1. Klon repoet og kjør treningsskriptet hvis du vil se hvordan en fast graf kan kobles inn i logits-laget på en liten modell, og sett av plass til flere GB med nedlastinger.
2. Bruk den parameter-matchede kontrollen som mal når du selv tester om en ny komponent faktisk bidrar, eller om en enkel adapter forklarer hele gevinsten.