Nvidia-aksjen har falt 15 prosent siden toppen i mai, selv om anslått omsetning fortsetter å vokse. Micron, en av verdens største produsenter av DRAM, er nesten tredoblet i samme periode. TechCrunch, som bygger på tall fra Bloomberg, oppsummerer det slik at investorene nå betaler mindre per forventet dollar i Nvidia-overskudd enn de gjør for et typisk stort amerikansk selskap.
Årsaken er ikke at Nvidia har blitt dårligere. GPU-mangelen som virket akutt i fjor har lettet, mens datasentrene kjøper alt minnet de kommer over. Spotprisen på en time med H100 toppet seg rundt 3,20 dollar i mai og har falt jevnt siden, ifølge kompute-markedsplassen Ornn. Spotprisen på DRAM går motsatt vei, og minneprodusentene har kunnet tidoble prisene på ett år.
«Flere GPU- og akseleratorleverandører kommer inn i markedet. Alle vil lage sin egen brikke, men ingen lager sitt eget DRAM.» — Wayne Nelms, teknologidirektør og medgrunnlegger i Ornn
Nelms peker på at Google, Amazon, Microsoft og OpenAI alle har lansert egne prosessorer. De trenger ikke slå Nvidias nyeste modell. De trenger bare å være gode nok til å presse prisen på kompute nedover. Minne har ingen tilsvarende konkurranse, og uten et gjennombrudd i produksjonen av høybåndbredde-minne eller en ny aktør, mener han bildet vedvarer.
Posisjonen er ubehagelig, og skapt av egen suksess. Nvidia beviste hvor verdifull kompute er, og sitter nå midt i et marked alle vil inn i, mens enklere teknologi tjener pengene på sidelinjen.
For deg som leier GPU-er er dette gode nyheter på kort sikt. Timeprisen faller, og den faller fordi konkurransen virker. Regn samtidig med at minnetunge oppsett, lange kontekstvinduer og store KV-cacher blir den delen av regningen som vokser.