Søgning
2 research-rapport(er) for »unsloth«
Qwen 3.6 27b undersøg hvorfor den er så god til lokal kogning og hold den op med nogle af de nye Feks Gemma 4 og Laguna 2.1
… google/gemma-4-12B-it) 5. [unsloth/Laguna-S-2.1-GGUF · Hugging Face](https://huggingface.co/unsloth/Laguna-S-2.1-GGUF) 6 …
Qwen 3.8 27b
… Flagship-Level Coding in a 27B Dense Model](https://qwen.ai/blog?id=qwen3.6-27b) 6. [Qwen3.6 - How to Run Locally | Unsloth …
17 briefing-resultat(er) for »unsloth«
Opfølgning: Unsloth Dynamic v3.1 GGUFs til Qwen3.8-27B forbedrer nøjagtighed med 5-10%
Nye kvantiseringsalgoritmer giver bedre resultater på agentiske benchmarks. [briefingen 5. november](/archive/2026-11-05)
Opfølgning: Fællesskabet erklærer Q4 2026 for local LLM’s guldalder
Qwen Flash Next, Unsloth Dynamic v3.1 og Strata gør frontier-lignende modeller kørbare på consumer-hardware. Qwen 4 forventes denne uge. [briefingen 26 …
Opfølgning: Unsloth Dynamic v3.1 GGUFs til Qwen3.8-Flash-Next
Nye kvantiseringer giver 10-15 % bedre accuracy end GSQ-RCO på agentiske benchmarks, med "engram switching" på tværs af BF16, Q8_0, Q5_1 …
Opfølgning: Unsloth udfordrer GSQ-RCO med nye DeepSeek-V4.1 benchmarks
Unsloth præsenterer 27x mere benchmarkdata og hævder 10-20 % bedre ydeevne ved 512K kontekst. Anklager GSQ-RCO for urealistiske genvindingsrater.
EXL3-quants sætter ny rekord for Qwen3.8-27B
… Det slår både Unsloth og AutoRound på kvalitet og størrelse.
Opfølgning: Lover GSQ-RCO BF16-kvalitet i IQ3_S?
… Spørgsmålet er, om den holder mod Unsloths UD-Q4. [Se briefingen 25. oktober](/archive/2026-10-25).
Swift 1.5 Qwen3.8 27B slår cloud-modeller ved lav tanketid
UkisAI's nye fine-tuning er markant bedre til korte svar end Unsloth og endda Gemini Flash i en test. På en gammel 3090 …
Forbedret og rettet template til GPT-OSS – fjerner Unsloth-induceret fejl
En alvorlig bug i Unsloths template kunne forringe modellen ved at droppe svarhistorik; den rettede version bevarer nu både ræsonnement og svar korrekt.
Opfølgning: Qwen 3.8 Flash Next kører 130k kontekst på 16 GB VRAM – her er opskriften
… q4_k_m quant, Unsloth MTP-head, og --spec-draft-cpu-moe for at få 16,5 t/s ved 131k kontekst. Se [briefingen …
Bruger beder om benchmark: Qwen3.8-27B Q8 vs Flash Q4
En bruger vil have svar på, om Qwen3.8-Next-Flash er det ekstra kvantiseringsformat værd. Indtil videre ingen definitive tal.
Opfølgning: Qwen3.8 Flash Quants – 20-30 GB mindre end Unsloth Q4
En bruger frigav imatrix-quants til Qwen3.8-Flash-Next, der sparer 20-30 GB disk og RAM sammenlignet med Unsloth/AesSedai Q4, med …
Opfølgning: Qwen 3.8 27B i ekstreme quants – hvor lavt kan man gå?
En bruger på r/LocalLLaMA deler erfaringer med Qwen 3.8 27B i Unsloth Q3 XXS på en Mac mini M4 med 24 GB …
Opfølgning: Unsloth udgiver forbedrede GGUFs til Qwen3.8-27B
Dynamic v3 giver 10 % højere nøjagtighed for samme størrelse, og 1-bit quants bevarer 77 % nøjagtighed. Modellen kan nu køre på 8 GB RAM …
1-bit Qwen 3.8 2.4T kører på Mac Ultra – 508 GB RAM i brug
En bruger tester Unsloths 1-bit kvantisering af Qwen 3.8 2.4T på en Mac Ultra 512 GB. Modellen bruger 508 GB RAM …
Kimi K3 trimmet til 478 GB ved at fjerne flersproget "fedt"
En bruger fjernede kun de flersprogede komponenter i Kimi K3 og skar modellen fra 711 GB til 478 GB uden at miste intelligens – en …
Sammenligning af 4-bit kvanttyper på MLX i gang
Brugeren efterlyser erfaringer med OptiQ, Unsloth Dynamic 2.0, oQ og DWQ til Qwen3.6 og Gemma4 på MLX – hvilken kvant bevarer bedst kvalitet?
Bruger spørger: Bedste setup til lokal LLM på RTX 3090 og 48 GB RAM
Reddit-bruger søger stabilt OS og framework til coding og web-søgning på 24 GB VRAM. Ollama kørte langsomt, Unsloth var hurtigt men ustabilt.