Søgning
5 briefing-resultat(er) for »dual-gpu«
Opfølgning: Basalt – 665 tok/s på Qwen3.8 Flash-Next med RTX 5090
Ny Blackwell-inference-engine Basalt opnår 2,6x Strata-hastighed med dual GPU og understøtter op til 8 samtidige brugere. [Se tidligere briefingen](/archive …
Bruger søger råd om dual R9700-build til lokal LLM-inferens
En Reddit-bruger planlægger at opgradere til to R9700 GPU'er for at køre Qwen3.8-Flash-Next i højere kvantisering.
Opfølgning: Dual-GPU tuner til llama.cpp optimerer tensor-split
Nyt værktøj beregner præcis `--override-tensor` for at maksimere kontekstlængde på to GPU'er. Testet med Qwen3.8-27B på ROCm og Vulkan. [briefingen …
Apple lancerer Mac mini med M6-chip og 4x hurtigere AI-ydeevne
Ny M6-chip har Neural Accelerators i hver GPU-kerne og Dual 16-core Neural Engine. Mac mini starter ved $899 med 16 GB …
Opfølgning: Dual 3090-opsætning firedobler prompt-hastigheden i llama.cpp
Ved at flytte prompt processing til GPU'erne steg ydeevnen fra 400 til 1600 tokens/s på Qwen 3.6 27B. En konkret gevinst …