Søgning
1 research-rapport(er) for »budget-gpu«
hvilke 120b modeller er der kommet og hvordan klarer de sig .... det er vist den range af modeller som er bedst til 128gb memory til lokal hosting
… running a 120B parameter AI model on a budget GPU at home" [8]. Her beskrives MoE-teknikken som "the secret sauce" der gør det …
4 briefing-resultat(er) for »budget-gpu«
Opfølgning: Qwen3.8-Flash-Next kører med 18 t/s på Steam Machine
Test på Valve Steam Machine med 8 GB AMD GPU viser solid ydeevne. `resident-budget-gib=64` gav 20 % speedup.
Opfølgning: Kræftcenter søger hjælp til HPC-opgradering til AlphaFold
Director of scientific computing spørger om GPU-køb til AlphaFold 2. Budget på 300-400K $, A30-kort og mulighed for Strata-inference diskuteres. [briefingen …
Fællesskab samler liste over billige Vulkan-GPU'er til lokal inferens
En Reddit-tråd kortlægger ældre GPU'er som GTX 1080 Ti og Tesla M40, der stadig kan køre modeller via Vulkan.
Råd til billig GPU til lokal LLM – 2080 Ti 22 GB eller MI50 32 GB?
Bruger med 700 USD budget overvejer modificerede GPU'er fra Kina til at køre Qwen 3.8 27B Q4_K_M.