Søgning
2 research-rapport(er) for »rtx-30«
Qwen 3.8 27b
… Q4_K_M-kvantisering kræver ~16,8 GB VRAM og passer på et RTX 4090 24GB, mens Q5_K_M kræver ~19,5 GB …
Qwen 3.6 27b undersøg hvorfor den er så god til lokal kogning og hold den op med nogle af de nye Feks Gemma 4 og Laguna 2.1
… Her anbefales Qwen3.6-27B dense til "real coding agent work" på en enkelt 24GB GPU (RTX 3090Ti). Kilden angiver, at Qwen3.6-27B …
42 briefing-resultat(er) for »rtx-30«
Tre RTX 3090'er købt på Facebook Marketplace – nu skal de bare samles
En bruger scorede to ekstra 3090 FE'er og har nu 72 GB VRAM, men intet kabinet. Spørger om billigste vej frem: mining-ramme …
Opfølgning: NInfer kører nu nativt på Windows
Opfølgning på [briefingen 26. oktober](/archive/2026-10-26): NInfer v0.3.0 kører nativt på Windows og fylder kun 0,28 GB. Motoren …
Opfølgning: DeepSeek-V4.1-Flash kører i fuld 1M-kontekst på en enkelt 3090
Delta Inference Engine opnår 41 tok/s med Q2 GGUF på Windows uden WSL og 90 % enighed med API – se [briefingen 18. oktober](/archive …
GPU-unlocks: Hvorfor RTX 50-serien ikke kan låses op som RTX 30 og 40
En teknisk gennemgang af, hvorfor Nvidias markedssegmentering via FP32-akkumulationshastighed ikke kan omgås på Blackwell (RTX 50), i modsætning til tidligere generationer.
Nye værktøjer fordobler AI-hastighed på NVIDIA RTX 30- og 40-serie
Inspireret af CMP170HX låser et nyt værktøj op for op til 2x prefill-speedup på ældre NVIDIA-kort, hvilket sender priserne i vejret på …
Lokal AI-kammerat app på Gemma 4 26B kører på RTX 3070 Ti
Bruger byggede et fuldt lokalt system med 5 AI-karakterer i 3D-rum, stemme, hukommelse og Discord-integration – alt på et 8 GB-kort …
Mini-AGI: Et månedslangt eksperiment i dynamisk kontinuerlig læring på 8 GB
Open-source model trænet fra bunden på en RTX 3070 viser, at kontinuerlig læring giver markant bedre task-specialisering end frosne modeller.
Gratis 3090-trick giver op til 30% hurtigere prompt-processing
Benchmark på et enkelt, strømbegrænset RTX 3090 viste 22-30% hurtigere prompt-processing og 1-5% hurtigere generation uden GPU-fejl.
Opfølgning: llama.cpp har udviklet sig enormt – bruger deler rejse
En bruger på r/LocalLLaMA beskriver sin rejse fra Mistral Nemo til dual RTX 3060 og llama.cpp (se [briefingen 10. oktober](/archive/2026 …
Opfølgning: Project Maya kører GLM-5.3-Flash på én GPU
… 30+ tok/s på en RTX 5090, op til 118 på fire RTX 4090'ere, med eksperter fordelt på GPU, RAM og SSD. Se …
Opfølgning: FP8-udgave af Qwen 3.8 næppe praktisk på RTX 5090
Brugeren kører NVFP4 flot med høj kontekst på RTX 5090, men 30,9 GB FP8-repoen efterlader for lidt kontekst til praktisk brug. Se …
Opfølgning: Qwen3.8 Flash Next 176B kører på bærbar med 16 GB GPU – 11 tok/s
TensorSharp opnår 11,09 tok/s på en RTX 3080 Laptop ved at koordinere cache, VRAM, RAM og SSD intelligent. [Se briefingen 28. september …
Spørgsmål: Kan lokale modsomme game-dekompilering?
Bruger med RTX 3060 spørger, om Qwen 3.8 27B abliterated kan klare game decomps lokalt. Claude og Codex dominerer i øjeblikket området.
Opfølgning: Qwen 3.8 27B kører på to RTX-kort – 50 tok/s med MTP
En opsætning med RTX 5060 Ti og RTX 3060 opnår 50 tok/s på Qwen 3.8 27B via exllamav3 og MTP (se [briefingen …
llamAmpere: 90+ TPS på en RTX 3090 med specialiseret llama.cpp-fork
En custom fork af llama.cpp optimeret til Ampere-arkitekturen leverer API-hastigheder lokalt på en 3090 med op til 240K kontekst. Et kvantespring …
Opfølgning: Qwen3.8 27b bygger spil på 5 timer – open source på RTX 3090
… Projektet bliver open source og viser, hvad lokale modeller kan præstere på en enkelt RTX 3090. Se [briefingen 31. august](/archive/2026-08-31).
Opfølgning: Brugere søger pi.dev-plugin til konteksthåndtering
En Qwen3.8 27B-bruger på RTX 5080 kæmper med komprimering, der fejler og afslutter modellen tidligt. Se [briefingen 30. august](/archive/2026-08 …
Qwen 3.8 27B kører på RTX 3060 med 10-20 tokens/sekund
En bruger får Qwen 3.8 27B til at køre på en enkelt RTX 3060 med IQ3-kvantisering og opnår 10-20 t/s …
Opfølgning: ExLlamaV3 slår llama.cpp til CPU-offloadet Qwen Flash Next
Med to RTX 3080'ere og 128 GB RAM giver ExLlamaV3 2× decode og 3,2× prefill mod llama.cpp. Fordelen er dog model …
Opfølgning: vllm med P2P-driver vs. llama.cpp til Qwen 3.8 27B
Bruger med fire RTX 4090'er overvejer om P2P-patch gør vllm bedre end llama.cpp til MoE-modeller. [briefingen 30. august](/archive/2026 …
Opfølgning: NInfer-fork skubber 555k kontekst på en enkelt 5090
… på en RTX 5090 med NVFP4 KV-cache, Hadamard-rotation og YaRN – 45 % mindre VRAM uden kvalitetstab. [Briefingen 30. august](/archive/2026-08-30)
Hvorfor ser vi ikke flere INT8 W8A8-modeller til RTX 3090?
RTX 3090 har native INT8-tensorcores, men de fleste vælger FP8 eller mindre kvanter – debatten om hvorfor fortsætter.
Opfølgning: Qwen 3.8 27B kører 1M kontekst på to RTX 5090'er via NInfer fork
En bruger forked NInfer og tilføjede tensor-parallel og YaRN ×4 rope scaling, så Qwen3.8-27B NVFP4 kører 1.048.576 tokens kontekst …
Opfølgning: Qwen 3.8 27B kører 50 tok/s med 100K kontekst på 16 GB GPU
En bruger fik Qwen 3.8 27B til at køre på et RTX 4070 Ti SUPER med 100K kontekst ved 50 tok/s via …
Opfølgning: DeepSeek V4 Flash q4+ kører på 128 GB RAM + 60 GB VRAM
… i 4-bit+ med acceptable tokens/s på en opsætning med 2x RTX 3090 og DDR5 RAM. Se [tidligere dækning](/archive/2026-08-09).
Qwen3.8-27B Q6 kører 20 timers agentisk kode uden stop
På en RTX 3090 + RTX 3060 holdt modellen 60–63 tokens/s gennem et helt døgns målrettet arbejde. [Se tidligere dækning](/archive/2026-08 …
Fra LM Studio til vLLM: 143 tok/s på Qwen3.8 med to RTX 3090’er
En bruger deler sin opgradering, der gjorde Qwen3.8’s reasoning tålelig, og GPU-temperaturerne faldt fra 70°C til 35°C. [Se tidligere …
Opfølgning: Qwen3.8-27B når 381 tps på RTX 3090 med nye optimeringer
Bruger opnår 382 tps ved at forlænge verify-blokke og bruge int8 KV-cache. [briefingen 20. august](/archive/2026-08-20).
Qwen3.8-27B viser hidtil uset handlekraft på lokal hardware
En Reddit-bruger fik modellen til at hente skema, downloade video, transskribere og analysere frames – alt på én RTX 3090. Offentligheden aner ikke, hvor …
Opfølgning: Qwen3.8-27B når 138 tps på RTX 3090 med DFlash2
En hyperoptimeret inference-engine med DFlash2-drafter og int4-kvantisering presser ydelsen til 138 tok/s. Opfølgning i lange samtaler koster nu kun ét …
Opfølgning: Spil bygget i to prompts med Qwen 3.8 27B – kører på to RTX 3060
En bruger på Reddit byggede et komplet HTML/CSS/JS-spil med Qwen 3.8 27B i to prompts lokalt på to RTX 3060 …
Opfølgning: Reddit benchmarker quants – "vi benchmarker modeller ingen kører"
… Kl-divergens er en dårlig proxy for egentlig opgaveperformance. [Forrige briefing dækkede 82 tps på RTX 3090](/archive/2026-08-17).
Opfølgning: Qwen 3.8 27B kører 82 tps på en enkelt RTX 3090
En bruger har optimeret inference til 82 tokens/sekund på en 3090 med W4A16-kvantisering og fp8 KV-cache – op til 672 tps peak …
Qwen 30B MoE kører med 30 tps på en RTX 3050 med 6 GB VRAM
En bruger i LocalLLaMA deler, at Qwen 30B MoE opnår 30-35 tokens/sek på en gammel RTX 3050 med 90k kontekst. Bevis på …
Opfølgning: Muse Glimmer 30B rammer 280 t/s med spekulativ dekodning på RTX 5090
Muse Glimmer 30B (Q6_K_XL) med DFlash spekulativ dekodning opnår op til 287 tokens/sek på en enkelt RTX 5090 i llama.cpp …
Opfølgning: LFM 2.6B imponerer med 260 tok/s på RTX 3090
Brugere rapporterer lynhurtig inferens på lokalt hardware. Modellen er designet til mobil og klarer simple opgaver som resumé og søgning. Se [briefingen 5. august …
Opfølgning: DeepSeek V4 Flash 2-bit kvant opnår 100% i SQL-benchmark
En reddit-bruger kører en 2-bit kvantiseret DeepSeek V4 Flash på to RTX 3080 og får perfekt score i et SQL-test. Kun …
Opfølgning: DeepSeek V4 Flash kører på brugt serverhardware – 33 tok/s på to RTX 3090
En bruger har fået DeepSeek V4 Flash (284B MoE) til at køre på en gammel quad-Xeon DDR4-server med to RTX 3090'ere …
Opfølgning: MiniMax H3 nu på Hugging Face – 2K-video med stereo lyd på RTX 3060
… ComfyUI understøtter modellen fra dag ét, og den kan køre på et enkelt RTX 3060.
Opfølgning: DeepSeek V4 Flash kører på RTX 3090 med 12,5 tok/s via CPU-spild
En bruger fik DeepSeek-V4-Flash-0731 til at køre på et enkelt 24 GB-kort ved at lægge MoE-eksperter i system-RAM …
Bruger spørger: Bedste setup til lokal LLM på RTX 3090 og 48 GB RAM
Reddit-bruger søger stabilt OS og framework til coding og web-søgning på 24 GB VRAM. Ollama kørte langsomt, Unsloth var hurtigt men ustabilt.
6x3090 vs 8x3090: Er opgraderingen værd?
En bruger overvejer at gå fra seks til otte RTX 3090'ere via en PCIe-splitter for at køre DeepSeek Flash V4 i Q8 …