Søgning
4 briefing-resultat(er) for »fp4«
Stop med FP4-inference – det ødelægger små modeller
En frustreret bruger påpeger, at FP4-kvantisering gør små tætte modeller ubrugelige med hallucinationer. Store modeller klarer det bedre, men for små modeller er …
Opfølgning: NInfer-fork skubber 555k kontekst på en enkelt 5090
Ny fork leverer 555k kontekst i FP4 på en RTX 5090 med NVFP4 KV-cache, Hadamard-rotation og YaRN – 45 % mindre VRAM uden kvalitetstab …
Opfølgning: Kimi K3-vægte ude – 2,8 billioner parametre i MXFP4
… Moonshot planlægger hosting på A100, H200 og B300, men A100 kræver tre noder og mangler FP4-understøttelse (se [briefingen 19. juli](/archive/2026-07 …
Opfølgning: MacBook vs. 2× DGX Spark – DeepSeek V4 Flash i kvantiseringskamp
En bruger testede DeepSeek-V4-Flash på en M5 Max MacBook (2,45 bit kvantisering) mod to DGX Spark (FP8/FP4). Mac'en vandt …