Søgning
2 research-rapport(er) for »bf16«
Qwen 3.6 27b undersøg hvorfor den er så god til lokal kogning og hold den op med nogle af de nye Feks Gemma 4 og Laguna 2.1
… at NVFP4-kvantisering leverer cirka 2,6–2,86× dekodningshastighedsforbedring over BF16, med en MMLU-score på 0,8446. På DGX Spark måler fællesskabet …
Qwen 3.8 27b
… K ~22,5 GB, Q8_0 ~28,6 GB og fuld BF16 kræver 55,6 GB på disk [4]. Unsloth angiver, at modellen kan …
6 briefing-resultat(er) for »bf16«
Task-aware kvantisering: 99 % af BF16-ræsonnering til 15 % af størrelsen
En bruger har bygget TAK, en task-specifik kvantiseringspipeline, der med Qwen3.8-27B scorer 82,81 % i ræsonnering mod BF16's 83,59 …
Opfølgning: State-of-the-art GGUFs til Qwen3.8-27B – 2,5-3,0 bpw
… 2,75 bpw (9,3 GB) matcher endda BF16 i gennemsnit på flere benchmarks [se briefingen 20. august](/archive/2026-08-20).
Fuld NVFP4-kvantisering af Qwen3.8-27B med QUASAR bevarer næsten BF16-kvalitet
QUASAR QAD træner modellen til W4A4 og opnår 19,7 GB checkpoint-størrelse med kun 0,5% tab på GPQA-Diamond sammenlignet med BF16.
Bærbar datacenter-rig kører Qwen3.8-27B BF16 med 262K kontekst
… Brugeren foretrækker BF16 frem for kvantisering til juridisk præcision.
Opfølgning: Q8-kvant Qwen 3.8 27B slår BF16 Qwen 3.6 i kodning
Grundig benchmark viser, at Q8 Qwen 3.8 27B overgår BF16 Qwen 3.6 på instruktionsfølgning og 280k kontekst – men har initiale udfordringer med …
Fællesskabet udgiver optimerede Muse Glimmer 30B-quants – SoTA i hukommelsesklassen
… med avancerede tensor-mapping-teknikker og påstår, at Q8-quanten er 21 % tættere på BF16 end eksisterende alternativer. Søger praktikplads i AI-agent-orchestrering.