Søgning
2 research-rapport(er) for »bf16«
Qwen 3.6 27b undersøg hvorfor den er så god til lokal kogning og hold den op med nogle af de nye Feks Gemma 4 og Laguna 2.1
… at NVFP4-kvantisering leverer cirka 2,6–2,86× dekodningshastighedsforbedring over BF16, med en MMLU-score på 0,8446. På DGX Spark måler fællesskabet …
Qwen 3.8 27b
… K ~22,5 GB, Q8_0 ~28,6 GB og fuld BF16 kræver 55,6 GB på disk [4]. Unsloth angiver, at modellen kan …
9 briefing-resultat(er) for »bf16«
Opfølgning: Unsloth Dynamic v3.1 GGUFs til Qwen3.8-Flash-Next
Nye kvantiseringer giver 10-15 % bedre accuracy end GSQ-RCO på agentiske benchmarks, med "engram switching" på tværs af BF16, Q8_0, Q5_1 …
Opfølgning: Lover GSQ-RCO BF16-kvalitet i IQ3_S?
DASLabs kvantiserede Qwen3.8-27B hævdes at matche BF16 i en IQ3_S-fil. Spørgsmålet er, om den holder mod Unsloths UD-Q4. [Se …
Opfølgning: Swift1.5 Qwen3.8 Flash Next – MLX-kvantisering til 96 GB Mac Studio M5 Ultra
En kalibreret 4.7 bpw-kvantisering giver 113 tok/s decode og 91% top-1-overensstemmelse med BF16. [briefingen 28. september](/archive/2026-09 …
Task-aware kvantisering: 99 % af BF16-ræsonnering til 15 % af størrelsen
En bruger har bygget TAK, en task-specifik kvantiseringspipeline, der med Qwen3.8-27B scorer 82,81 % i ræsonnering mod BF16's 83,59 …
Opfølgning: State-of-the-art GGUFs til Qwen3.8-27B – 2,5-3,0 bpw
… 2,75 bpw (9,3 GB) matcher endda BF16 i gennemsnit på flere benchmarks [se briefingen 20. august](/archive/2026-08-20).
Fuld NVFP4-kvantisering af Qwen3.8-27B med QUASAR bevarer næsten BF16-kvalitet
QUASAR QAD træner modellen til W4A4 og opnår 19,7 GB checkpoint-størrelse med kun 0,5% tab på GPQA-Diamond sammenlignet med BF16.
Bærbar datacenter-rig kører Qwen3.8-27B BF16 med 262K kontekst
… Brugeren foretrækker BF16 frem for kvantisering til juridisk præcision.
Opfølgning: Q8-kvant Qwen 3.8 27B slår BF16 Qwen 3.6 i kodning
Grundig benchmark viser, at Q8 Qwen 3.8 27B overgår BF16 Qwen 3.6 på instruktionsfølgning og 280k kontekst – men har initiale udfordringer med …
Fællesskabet udgiver optimerede Muse Glimmer 30B-quants – SoTA i hukommelsesklassen
… med avancerede tensor-mapping-teknikker og påstår, at Q8-quanten er 21 % tættere på BF16 end eksisterende alternativer. Søger praktikplads i AI-agent-orchestrering.