llm-gemini 0.33 tvinger ny embedding av gamle samlinger

llm-gemini 0.33 er ute, og det er den første versjonen av Gemini-pluginen som krever LLM 0.32 eller nyere. Kravet kommer av at pluginen er skrevet om til de strukturerte melding- og strømme-APIene i LLM 0.32. Resonnering, verktøykall og verktøyresultater sendes nå ut som typede strømhendelser, og Geminis thought signatures blir bevart og spilt av på nytt gjennom verktøyrunder.

Endringen som koster mest hvis du overser den, ligger i embeddings. Pluginen legger til gemini-embedding-2 og gemini-embedding-001, begge med 768- og 1536-varianter for kortere vektorer. Samtidig er de utdaterte text-embedding-004 og gemini-embedding-exp-03-07 fjernet. De to støttede modellene bruker vektorrom som ikke er kompatible med hverandre, og eksisterende samlinger må derfor embeddes på nytt hvis du bytter mellom dem. Gjør du ikke det, får du ikke en feilmelding. Du får dårlige treff.

Server-side-verktøyene har fått en ryddigere inngang. Google Search, URL-kontekst og kodekjøring går nå gjennom LLMs eget grensesnitt for server-side-verktøy, og slås på med flaggene GoogleSearch, URLContext og CodeExecution. Gemini 3-modellene kan kombinere disse med lokale funksjonsverktøy i samme kjøring.

Bruker du Google Search-grounding, er det en detalj verdt å merke seg. Pluginen beholder nå Geminis rå groundingMetadata uten å endre selve svarteksten, og søkeforslagene sendes ut som rene visningshendelser på standard error. De havner dermed ikke i svarteksten, i loggene eller i påfølgende samtalerunder.

Til slutt er 35 utilgjengelige Gemini-modeller fjernet fra registeret, blant dem pensjonerte Gemini 1.5 og 2.0, Gemma 3 og en rekke eksperiment- og forhåndsversjoner. Registeret speiler nå modell-IDer som er verifisert mot live generateContent-forespørsler, noe som betyr færre kall som feiler på en modell som ikke lenger finnes.

Hva bør du gjøre?

1. Sjekk hvilken embedding-modell samlingene dine er bygget med før du oppgraderer. Bruker du text-embedding-004, er den borte i 0.33.
2. Oppgrader LLM til 0.32 først. Pluginen kjører ikke på eldre versjoner.
3. Prøv server-side-verktøyene med CodeExecution på en oppgave du ellers ville løst lokalt, og se hva som havner i loggen.