Søgning
7 briefing-resultat(er) for »gsq-rco«
Opfølgning: Unsloth Dynamic v3.1 GGUFs til Qwen3.8-Flash-Next
Nye kvantiseringer giver 10-15 % bedre accuracy end GSQ-RCO på agentiske benchmarks, med "engram switching" på tværs af BF16, Q8_0, Q5_1 …
Opfølgning: Unsloth udfordrer GSQ-RCO med nye DeepSeek-V4.1 benchmarks
Unsloth præsenterer 27x mere benchmarkdata og hævder 10-20 % bedre ydeevne ved 512K kontekst. Anklager GSQ-RCO for urealistiske genvindingsrater.
Opfølgning: Lover GSQ-RCO BF16-kvalitet i IQ3_S?
DASLabs kvantiserede Qwen3.8-27B hævdes at matche BF16 i en IQ3_S-fil. Spørgsmålet er, om den holder mod Unsloths UD-Q4. [Se …
Opfølgning: DeepSeek V4.1 Flash kvantiseret til 1,75 bits – kører på 12 GB GPU
ISTA-DASLab udgiver GGUFs med GSQ-RCO-kvantisering, der presser DeepSeek-V4.1-Flash ned til 1,75 bpw og kører på en enkelt …
Opfølgning: ISTA-DASLab udgiver DeepSeek V4.1 Flash quant med GSQ-RCO
Smart kvantisering af 1017B-modellen er tilgængelig på HuggingFace. llama.cpp-understøttelse mangler stadig; Strata-forks som Xolotl kan være løsningen. [briefingen 18. oktober …
Qwen 3.8 Flash Next kører 131K kontekst på M4 Pro med 48 GB
Med GSQ-RCO quant og rette llama.cpp-flag kører Flash-Next hurtigere og klogere end 27B-modellen på en Mac. Opfølgning på [briefingen …
Opfølgning: State-of-the-art GGUFs til Qwen3.8-27B – 2,5-3,0 bpw
Nye GSQ-RCO-kvanter slår alle eksisterende kvanters nøjagtighed ved samme filstørrelse. 2,75 bpw (9,3 GB) matcher endda BF16 i gennemsnit på …