Pocket Tank: 14M-modell destillert fra Gemma 4 styrer akvariefisk på ESP32-S3

Fiskene på den 1,8 tommer store AMOLED-skjermen er ikke skriptet. Hver gang situasjonen endrer seg, beskriver fisken den for modellen i én tekstlinje (sult, energi, stress, tillit, kjedsomhet, hvem som er i nærheten), og modellen svarer med et mål som «seek_food» eller «follow_friend». Prosjektet kjører på Waveshare ESP32-S3-Touch-AMOLED-1.8, som Waveshare lister til 27,99 dollar, ifølge Electronics For You og README-en på GitHub.

Modellen er en transformer på 14,3 millioner parametre med 8 lag, destillert fra gemma4:26b. Læreren merket 51 613 fiskesituasjoner, og den lille modellen lærte å gjenskape valgene. 4-bit-kvantisering krymper den fra 57 MB i FP32 til 7,56 MB, og vektene memory-mappes rett fra flash i stedet for å kopieres til RAM. En beslutning tar rundt 3,7 sekunder ved 12 tokens per sekund, mens akvariet tegnes i 25 til 30 fps på den andre CPU-kjernen.

Tallene er ærlige: på nye situasjoner velger studenten samme mål som læreren i 72 prosent av tilfellene, og læreren er enig med seg selv i 82 prosent. Det finnes ingen håndskrevne fallback-regler. Er modellen usikker, nøler fisken synlig.

«Lærer-prompten er DNA-et i hele datasettet (én setning flyttet et mål fra 45 % av etikettene til 14 %)» — README-en til Pocket Tank på GitHub

For deg som bygger, er oppskriften det interessante. Skriptet model/gen_traces.py kjører akvariet headless mot en hvilken som helst lærermodell servert via Ollama og logger tilstand-og-mål-par, og train.py og export_q4.py tar dem videre til en flashbar 4-bit-fil. Alt ligger under MIT. Begrensningene: firmwaren er laget for ett Waveshare-kort (fellesskapet har portert til ESP32-P4 og M5Stack Tab5), og batteritiden er ikke målt ennå.

Hva bør du gjøre?

1. Kjør PC-simulatoren (LVGL 9.2.2 og SDL2) før du kjøper maskinvare.
2. Har du kortet, åpne installasjonssiden i Chrome eller Edge. ESP Web Tools flasher firmware og modell uten verktøykjede.
3. Vil du trene en egen modell for et annet lukket beslutningsrom, følg docs/pipeline.md og test lærer-prompten kort før du starter et nattlig treningsløp.