Hopp til hovedinnhold

Søndag 8. november

 Tilbake Google 2 min 20.34

Embedding Gemma Transcribe gjør en time engelsk tale om til tekst på 13 sekunder

tirsdag 13. oktober · KI-generert · Kilde: Haku

Innholdet er KI-generert og kan inneholde feil. Sjekk originalkilden.

Prøv Embedding Gemma Transcribe hvis du trenger rask, lokal diktering på engelsk på Mac, men regn med omtrent dobbelt så mange feil som hos de beste talemodellene.

En time med lydopptak blir til tekst på 12,6 sekunder på en MacBook Air med M3 og 8 GB minne, ifølge prosjektsiden til Embedding Gemma Transcribe. Det tilsvarer 288 ganger sanntid, og alt kjører lokalt på Macens Neural Engine. Utvikleren Shahir står bak appen, som ikke er tilknyttet Google.

Trikset er at EmbeddingGemma 2, Googles åpne embedding-modell, aldri ble trent til tale-til-tekst. Modellen legger lyd og tekst i samme vektorrom, så et uttalt ord havner nær det skrevne ordet. Shahir lar lydkoderen stå urørt og trener bare en liten leser som flytter korte lydbiter inn i tekstrommet, der nærmeste av rundt 229 000 engelske ord vinner. Treningen tok under to timer på 8 H100-kort, og en egen liten modell setter inn tegnsetting og store bokstaver.

«Hastigheten var bare en bonus. Jeg siktet ikke mot den.» — Shahir, utvikleren bak prosjektet, på Hacker News

Prisen er presisjon. Ordfeilraten ligger på rundt 5 prosent, mot 2–3 prosent for ledende talemodeller. Appen forstår bare engelsk, og Shahir skriver at en flerspråklig leser er planlagt, men ikke prototypet. Brukere i Hacker News-tråden påpeker også at Apache 2.0-lisensen gjelder Googles basismodell: Appen er gratis, men kildekoden er ikke åpen ennå. Shahir svarer i tråden at han vil åpne hele prosjektet om noen dager. Én tester målte 6,75 sekunder for 33 minutter lyd på en M4 Mac Mini, mot rundt 7,5 sekunder med Parakeet v3 i MacWhisper.

Hva bør du gjøre?

  1. Last ned appen (v1.6, macOS 14 eller nyere, Apple Silicon, 715 MB modeller) og test den på engelske møteopptak, der 5 prosent feil ofte holder til notater.
  2. Ikke bruk den på norsk tale, siden leseren bare kjenner engelske ord, og korrekturles teksten før den brukes videre.

Pulsen · norske KI-nyheter for deg som bygger. Sakene er KI-generert fra originalkilden, som alltid lenkes.