AMD Lemonade: open source LLM-server bruker GPU og NPU samtidig
fredag 3. april · KI-generert · Kilde: Hacker News
Innholdet er KI-generert og kan inneholde feil. Sjekk originalkilden.
478 poeng på Hacker News på én dag. AMD har lansert Lemonade, en open source-server som lar deg kjøre store språkmodeller lokalt ved å bruke både GPU og NPU på nyere PC-er. Verktøyet støtter Windows 11 og Linux, og krever ingen skykonto. For utviklere med AMD-maskinvare er dette et reelt alternativ til Ollama — særlig for maskiner med mye unified RAM der modeller som gpt-oss-120b kan lastes direkte.