Søgning
1 research-rapport(er) for »fp8«
Qwen 3.6 27b undersøg hvorfor den er så god til lokal kogning og hold den op med nogle af de nye Feks Gemma 4 og Laguna 2.1
… 86,7% vs 53,3% på henholdsvis 75 opgaver. [2] er den eneste kilde der nævner 90,0% på SWE-bench Verified med FP8 …
9 briefing-resultat(er) for »fp8«
Opfølgning: Drama 3 kører på 16 GB Radeon via Red Curtain
Red Curtain lægger FP8-eksperter i RAM og kører 35B-MoE TTS på RX 9070 med 11-12 GB VRAM. [Tidligere briefing](/archive/2026 …
Opfølgning: FP8-udgave af Qwen 3.8 næppe praktisk på RTX 5090
Brugeren kører NVFP4 flot med høj kontekst på RTX 5090, men 30,9 GB FP8-repoen efterlader for lidt kontekst til praktisk brug. Se …
Opfølgning: Aleph Alpha udgiver Kolibri – 78B MoE-model med 1M kontekst
… oktober](/archive/2026-10-04) er modellen nu officielt udgivet med Apache 2.0-licens og FP8-vægte, der kører på én B200 eller …
Opfølgning: Qwen Image 2.1 (Fast FP8) imponerer med premium kvalitet under 10 GB
Den nye FP8-version af Qwen Image 2.1 leverer overraskende gode resultater til billedgenerering og -redigering på kun 10 GB. Se [briefingen 22 …
Hvorfor ser vi ikke flere INT8 W8A8-modeller til RTX 3090?
RTX 3090 har native INT8-tensorcores, men de fleste vælger FP8 eller mindre kvanter – debatten om hvorfor fortsætter.
GLM-5.3-Flash: 320B parametre, 1M kontekst og hybrid attention
… Den er trænet på 30T tokens og leveres i FP8 som standard.
Opfølgning: Qwen 3.8 27B kører 82 tps på en enkelt RTX 3090
En bruger har optimeret inference til 82 tokens/sekund på en 3090 med W4A16-kvantisering og fp8 KV-cache – op til 672 tps peak …
Qwen 3.8 2.4T kører 288.000 tokens/sekund på Nvidia GB300 NVL72
Den enorme MoE-model opnår over 4.000 tokens/sekund per GPU i FP8-præcision på Nvidias 72-GPU-superchip. Det svarer til 350 …
Opfølgning: MacBook vs. 2× DGX Spark – DeepSeek V4 Flash i kvantiseringskamp
En bruger testede DeepSeek-V4-Flash på en M5 Max MacBook (2,45 bit kvantisering) mod to DGX Spark (FP8/FP4). Mac'en vandt …