Søgning
1 research-rapport(er) for »local-setup«
Qwen 3.6 27b undersøg hvorfor den er så god til lokal kogning og hold den op med nogle af de nye Feks Gemma 4 og Laguna 2.1
… People are ... | Hacker News](https://news.ycombinator.com/item?id=48047711) 19. [Local-Server/qwen3.6-27b-vllm-setup.md at main · Ezhik-NY …
12 briefing-resultat(er) for »local-setup«
Opfølgning: Qwen3.8 27B kører med 110K kontekst på 16 GB VRAM
En bruger viser, hvordan man kører Qwen3.8 27B med 110K kontekst på en 5070 TI ved at lade iGPU overtage skærmen. 55 tok …
Opfølgning: Strix Halo + CMP 170HX – hybrid setup kører Qwen 3.8 FN og 27B samtidig
En bruger kombinerer AMD Strix Halo iGPU med en NVIDIA CMP 170HX for at køre to modeller parallelt. [Se tidligere briefingen](/archive/2026-10 …
Hobbyist bygger monster-cluster med 6 mining-kort til lokal AI
… Flash og 3.6 35b med op til 28 tok/s. Setup'et bruger Vulkan og RPC over 1Gb Ethernet – og en papkasse som …
Opfølgning: Ville du købe en dedikeret Qwen3.8-chip til 7.000 TPS for 1.000 $?
… En praktisk reference til dem, der overvejer multi-GPU-setups til lokale 27B-modeller. Se [briefingen 21. september](/archive/2026-09-21).
Opfølgning: Qwen 3.8 Flash Next kører 130k kontekst på 16 GB VRAM – her er opskriften
En bruger deler det præcise setup: q4_k_m quant, Unsloth MTP-head, og --spec-draft-cpu-moe for at få 16,5 t …
Lokal model tegner blomst i GIMP via MCP – med svingende resultat
… Resultatet af kommandon ”tegn en blomst” er mindre imponerende, men setup’et viser potentialet for lokale AI-agenter.
Er 5 t/s brugbart til en lokal model? Ja, siger bruger
… finder det mere brugbart end 20 t/s på et GPU-setup, fordi systemet forbliver responsivt. Pointen: hastighed er ikke alt, når hardwaren deles …
Opfølgning: ExLlamaV3 slår llama.cpp til CPU-offloadet Qwen Flash Next
… Fordelen er dog model- og setup-afhængig. [Se briefingen fra 1. september](/archive/2026-09-01).
Bedste model og setup til remote deployment uden internet
En bruger søger råd til at sætte en lokal LLM op i en asiatisk landsby for sin bedstefar. Budget 5.000 USD, overvejer AMD …
Opfølgning: Bruger flytter kodningsarbejde fra Claude til lokal Qwen via MCP
En bruger deler et MCP-setup, der lader Claude Code sende specificerede opgaver til en lokal Qwen3.8-27B-model for at spare tokens …
Bruger spørger: Bedste setup til lokal LLM på RTX 3090 og 48 GB RAM
Reddit-bruger søger stabilt OS og framework til coding og web-søgning på 24 GB VRAM. Ollama kørte langsomt, Unsloth var hurtigt men ustabilt.
Brugererfaring: Bonsai-Ternary-27B på 4060Ti 16GB
En bruger deler erfaringer med at køre Bonsai-Ternary-27B på et relativt beskedent setup med 4060Ti 16GB til knowledge management og produktivitetsopgaver. Modellen …