Søgning
25 briefing-resultat(er) for »strata«
Kimi-K3.1-Pro-Coder kvantet til 775 GB – kører på én GPU
… Bruger Strata loader med 97,9% hitrate. *Opfølgning på [briefingen 8. november](/archive/2026-11-08).*
Hvordan benchmarker man lokale LLM'er? Fællesskabet deler tips
… Diskussionen samler erfaringer med llama.cpp og Strata. *Opfølgning på [briefingen 28. oktober](/archive/2026-10-28).*
Qwen3.8 Flash Next laver motion graphics-video på 16 GB VRAM
En bruger skaber en 15-sekunders Shinkansen-video med Qwen3.8 Flash Next på RTX 4080 (16GB) ved 95 tps. Videoen bruger three.js …
Opfølgning: Qwen Flash Next kører med 24 tok/s på M1 Max via Strata
Bruger rapporterer, at Strata og MoEShift gør det muligt at køre den store model på consumer-hardware ved at offloade til SSD. Kvaliteten overrasker …
Opfølgning: Fællesskabet erklærer Q4 2026 for local LLM’s guldalder
Qwen Flash Next, Unsloth Dynamic v3.1 og Strata gør frontier-lignende modeller kørbare på consumer-hardware. Qwen 4 forventes denne uge. [briefingen 26 …
Opfølgning: Eksplosion af nye inference-motorier gør det svært at følge med
En r/LocalLLaMA-bruger beskriver en eksplosion af nye inference-motorier som Strata, Basalt og Maya — ofte med kvalitetstab i bytte for fart. Mange …
Opfølgning: DeepSeek V4.1 Flash kører 20× hurtigere agentstarter på gaming-GPU
En patching af DeepSeek-motoren muliggør 20 gange hurtigere agentstarter på en standard gaming-GPU ved at undgå genlæsning af systemprompt. Det gør store …
Opfølgning: Qwen 3.8 Flash Next imponerer med høj prefill-hastighed på gaming-PC
Qwen 3.8 Flash Next kører med 9K prefill på en 5090 med 64 GB RAM ved brug af Basalt og Strata. Det viser …
Speedy overgår Avalon og Strata til Qwen 3.8 Flash-inferens
Speedy, et nyt inferensværktøj, leverer op til 4x hurtigere context-læsning end Strata og Avalon på Qwen 3.8 Flash. Det kan reducere ventetiden …
Opfølgning: DeepSeek V4.1 Flash kvantiseret til 1,75 bits – kører på 12 GB GPU
… Flash ned til 1,75 bpw og kører på en enkelt 12 GB GPU via Strata. [Se briefingen 24. okt.](/archive/2026-10-24)
Opfølgning: ISTA-DASLab udgiver DeepSeek V4.1 Flash quant med GSQ-RCO
… llama.cpp-understøttelse mangler stadig; Strata-forks som Xolotl kan være løsningen. [briefingen 18. oktober](/archive/2026-10-18)
Opfølgning: Kræftcenter søger hjælp til HPC-opgradering til AlphaFold
… Budget på 300-400K $, A30-kort og mulighed for Strata-inference diskuteres. [briefingen 18. oktober](/archive/2026-10-18)
Opfølgning: Strata-fork og Qwen Flash Next med vision klarer "Little Sweet Room"-udfordring
En bruger tester Qwen FN NVFP4 med Strata-harness og fire billeder som kontekst – modellen planlægger og eksekverer præcist over 27 min. Vision viser …
Fællesskabet spørger: Kører LFM 24B A2B på 16 GB RAM med Strata?
En diskussion om at få den nye 24B-model til at køde på begrænset hardware med Strata-forken.
Opfølgning: Xolotl kører 552B DeepSeek på en enkelt 4090
Strata-baseret Xolotl når 27 tok/s med DeepSeek-V4.1-Flash på én gaming-PC, og en uncensored 1017-quant er på vej …
Opfølgning: 64 GB RAM flytter Qwen3.8 fra 2-bit til 4-bit på 4090
Mere RAM betyder, at alle eksperter ligger i hukommelsen, og UD-IQ4_XS matcher Q8_0 88,9 % af tiden. [Tidligere briefing](/archive/2026 …
Opfølgning: Strata før 0.1.45 kørte greedy – og fik modeller til at loope
Bugfix #2685 lader nu modelkortets samplingværdier gælde, mens tail-skip 7 koster kvalitet på 4-bit. [Tidligere briefing](/archive/2026-10-10).
Opfølgning: capy-flash kører Qwen3.8-Flash-Next 125B i NVFP4 på to 16 GB GPU'er
Ny tensor-parallel engine med offloaded eksperter giver ~100 tok/s, hurtigere end Strata. Fund om TP=2 præcision og FP16-partialsummer. [Se briefingen …
Opfølgning: Reelle ulemper ved Strata? Brugere rapporterer loop-problemer
En bruger på r/LocalLLaMA spørger om reelle ulemper ved Strata-modellen. Nogle oplever loop-problemer og portkonflikter, men den kører 100 t/s …
Opfølgning: Qwen 3.8 Flash-Next kører på AMD 7900 XTX med 500K kontekst
Lokalt på AMD 7900 XTX leverer Flash-Next 105–160 tok/s og holder 506.849 tokens kontekst; echo-fejlen skyldtes preserve_thinking, ikke …
Opfølgning: Basalt – 665 tok/s på Qwen3.8 Flash-Next med RTX 5090
Ny Blackwell-inference-engine Basalt opnår 2,6x Strata-hastighed med dual GPU og understøtter op til 8 samtidige brugere. [Se tidligere briefingen](/archive …
Opfølgning: Infernix slår Strata på Qwen Flash Next med 23% højere hastighed
Benchmarks på RTX 5090 viser at Infernix leverer 149 tok/s mod Strata 120 tok/s ved 262k kontekst. [Se tidligere briefingen](/archive/2026 …
Strata-model hallucinerer tilfældige fakta i reasoning thoughts
En bruger rapporterer, at strata-swift-iq3_xxs pludselig indsætter irrelevante oplysninger som om Lee Kuan Yew i sine ræsonnementer.
Opfølgning: Qwen3.8 Flash Next 176B kører på bærbar med 16 GB GPU – 11 tok/s
TensorSharp opnår 11,09 tok/s på en RTX 3080 Laptop ved at koordinere cache, VRAM, RAM og SSD intelligent. [Se briefingen 28. september …
Opfølgning: Overfit-inferenceløsninger bliver normen – specialiserede motorer vinder frem
Fællesskabet diskuterer, om smalle, hardware-specifikke motorer som Strata, Ninfer og DwarfStar vil erstatte generelle runtime som llama.cpp. [Se briefingen 20. september](/archive …