Darkbloom kutter inferens-prisen 50 prosent ved å kjøre på ledige Mac-er

Darkbloom lanserte denne uken et desentralisert inferensnettverk som utnytter de rundt 100 millioner Apple Silicon-maskinene som selskapet mener ligger ubrukt 18 eller flere timer i døgnet. Brukere sender forespørsler inn i nettverket, operatører stiller egen maskinvare til disposisjon, og de vanlige hyperscalerne kuttes ut av kjeden. Resultatet er priser oppgitt til 50 prosent av hva du betaler via OpenRouter på sammenlignbare modeller.

Arkitekturen er bygget rundt ett konkret problem: du må stole på en koordinator og en operatør du aldri har møtt. Darkbloom eliminerer tilgangsveier i fire lag. Forespørsler krypteres ende-til-ende før de forlater enheten. Koordinatoren ruter kun ciphertext. Nodene holder nøkler i Apples tamper-resistente secure enclave, med attestasjonskjede sporbar til Apples rot-CA. Selve inferensprosessen er låst på OS-nivå slik at operatøren ikke kan koble til debuggeren eller lese prosessminne.

«Without verifiable privacy, decentralized inference does not work.» — Darkbloom, arkitekturdokumentasjon

API-et er OpenAI-kompatibelt, så du bytter kun base URL for å ta det i bruk:

from openai import OpenAI
client = OpenAI(
  base_url="https://api.darkbloom.dev/v1",
  api_key="your-api-key"
)

Streaming, function calling og eksisterende SDK-er virker uendret. Modellkatalogen inkluderer Gemma 4 26B, Qwen3.5 27B, Qwen3.5 122B og MiniMax M2.5 239B — alle til rundt halv OpenRouter-pris per million tokens.

For operatører handler det om kontantstrøm fra maskinvare som allerede står på pulten. Installasjon går via én terminal-kommando som laster ned et provider-binary og setter opp en launchd-tjeneste. Strømkostnaden på Apple Silicon oppgis til 0,01 til 0,03 dollar per time avhengig av last. Maskinene har nok minnebåndbredde (273 til 819 GB/s) til å kjøre modeller opp mot 235 milliarder parametere, ifølge Darkbloom selv.

Hva bør du gjøre?

1. Test Darkbloom mot din vanlige last. Endre base URL og sammenlign latency og kvalitet over en uke før du migrerer noe kritisk.
2. Har du en ledig Mac Studio eller annen M-serie-maskin: kjør installasjonsskriptet og bli operatør. Les threat-modellen og arkitekturspesifikasjonen før du eksponerer maskinen mot nettverket.
3. Verifiser attestasjonskjeden selv før du sender sensitive data. Hele verifikasjonsflyten er publisert og skal kunne rekonstrueres uavhengig av Darkblooms egen infrastruktur.