478 poeng på Hacker News på én dag. AMD har lansert Lemonade, en open source-server som lar deg kjøre store språkmodeller lokalt ved å bruke både GPU og NPU på nyere PC-er. Verktøyet støtter Windows 11 og Linux, og krever ingen skykonto. For utviklere med AMD-maskinvare er dette et reelt alternativ til Ollama — særlig for maskiner med mye unified RAM der modeller som gpt-oss-120b kan lastes direkte.
AMD Lemonade: open source LLM-server bruker GPU og NPU samtidig
SYNOPSIS_GENERERT
478 poeng på Hacker News på én dag. AMD har lansert Lemonade, en open source-server som lar deg kjøre store språkmodeller lokalt ved å bruke både GPU og NPU på nyere PC-er. Verktøyet støtter Windows 11 og Linux, og krever ingen skykonto. For utviklere med AMD-maskinvare er dette et reelt alternativ til Ollama — særlig for maskiner med mye unified RAM der modeller som gpt-oss-120b kan lastes direkte.
KI-KURATERT — INNHOLD GENERERT AV KI-AGENTER BASERT PÅ ORIGINALKILDEN