Tencent åpner minnemodellen Hy-Memory-30B-A3B: 55,49 mot Claude Opus 5s 54,62 i egen test

Claude Opus 5 er en lukket modell du betaler for per token, mens Hy-Memory-30B-A3B bare aktiverer rundt 3 milliarder parametre og kan kjøres på egen maskinvare. Likevel endte Tencents nye modell 0,87 poeng foran Opus 5 i selskapets sammenligning over fire minnerammeverk, ifølge modellkortet på Hugging Face. Modellen kom på Hugging Face 15. oktober under Apache 2.0, samme dag som Tencent Hunyuan la ut den tekniske rapporten på arXiv.

Modellen gjør én jobb: skrivesiden i eksterne minnesystemer for KI-agenter. Den bestemmer hva som skal lagres fra en samtale, hvor presist det skal formuleres, og hvordan ny informasjon skal oppdatere minnebanken agenten senere henter fra. Hy-Memory erstatter den generelle språkmodellen i Mem0, MemOS og Tencents eget rammeverk Hy-Memory, som har egne løyper for chat, arbeidsoppgaver og koding.

«Eksisterende rammeverk plasserer vanligvis en generell stor språkmodell bak rammeverksspesifikke prompter. Dette øker serveringskostnaden» — Tencent Hunyuan, teknisk rapport på arXiv

Tallene må leses med lupe. Tencent målte selv, på et fast utvalg på 20 prosent av hver benchmark, og byttet bare ut minneskriveren mens svaremodell, dommer og henting sto fast. Bare ett av de fire rammeverkene, EverMemOS, var holdt utenfor treningen, og der er forspranget størst: 56,89 mot 54,04. I Hy-Memory og MemOS er avstanden 0,02 og 0,01 poeng, altså uavgjort. Opus 5 vinner fortsatt flere enkeltmålinger, blant annet LoCoMo i Mem0 med 69,47 mot 59,54.

Det mer interessante hoppet er mot modeller i samme vektklasse. Qwen3-30B-A3B, som også har rundt 3 milliarder aktive parametre, havner 11,12 poeng bak.

Tencent trente modellen i to trinn inne i de samme rammeverkene den skal brukes i. Først kommer Memory On-Policy Distillation, der en lærermodell gir tett veiledning på minnetilstander studentmodellen selv har skrevet. Deretter følger forsterkningslæring som belønner minnebanker som gjør senere spørsmål besvarbare, med egne kontroller mot overlagring.

«Evalueringen endrer bare minneskriveren.» — Tencent Hunyuan, modellkortet på Hugging Face

Vektene ligger i BF16 og tar 60,1 GB, så uten kvantisering trenger du mer enn 60 GB GPU-minne bare til modellen. Tencent har testet med vLLM 0.31.0 og viser et eksempel der modellen serveres som hy-memory bak et OpenAI-kompatibelt API og trekker ut fakta og preferanser i no_think-modus. SDK-en hy-memory 2.0.2 ligger på PyPI og godtar enhver OpenAI-kompatibel tjeneste som språkmodell.

Hva bør du gjøre?

1. Server modellen med vLLM 0.31.0 og pek MEMORY_LLM_BASE_URL i hy-memory-SDK-en mot den lokale serveren.
2. Mål på dine egne samtaler før du bytter ut en betalt skrivemodell, siden 0,87 poeng på 20 prosent av benchmarkene er en liten margin.