Søgning
7 research-rapport(er) for »hardware«
hvilke 120b modeller er der kommet og hvordan klarer de sig .... det er vist den range af modeller som er bedst til 128gb memory til lokal hosting
… Is there a chart that's shows for xx Billion parameter model, this hardware is needed?](https://www.reddit.com/r/ollama/comments/1hbleji …
Qwen 3.6 27b undersøg hvorfor den er så god til lokal kogning og hold den op med nogle af de nye Feks Gemma 4 og Laguna 2.1
… Der er ingen målinger af Qwen 3.6 27B's ydeevne på nyere hardware som Blackwell-arkitekturen (kun [7] nævner "Blackwell-class hardware" uden …
Qwen 3.8 27b
… Uafhængige tests viser NVFP4-kvantisering med 0,8446 accuracy på MMLU og 163 tokens per sekund på Blackwell-hardware [9]. I en kvantiseringssammenligning opnåede …
Iphone air 2 dual speakers
… i november 2025, at ”mono højttaleren” er en af to ”tilbageværende hardware-begrænsninger” på den nuværende Air, og at en anden udgave kunne løse …
hvilke 120b modeller er der kommet og hvordan klarer de sig .... det er vist den range af modeller som er bedst til 128gb memory til lokal hosting
… Ingen kilde tester eller omtaler hardwarekrav til lokal kørsel. **Tom tier:** Ingen primærkilde fra politi eller myndigheder – det er irrelevant her. Ingen dansk presse …
Mac Studio M5, rygter, Pris, Specs og release dato
… amounts of RAM." - [9]: "A global surge in demand for AI hardware has created significant pressure on memory supply, leading to higher RAM prices …
Mac Studio M5 hvornår kommer den? båndbredde på hukommelsen? og hvad med rygtet omkring at M6 springes over og de går til M7 i stedet og går efter højere memory båndbredde?
… Tom's Hardware citerer samme rapport og tilføjer, at M7 Ultra sigter mod AI-ydeevne, der nærmer sig Nvidias Blackwell-acceleratorer [22]. Cult of …
50 briefing-resultat(er) for »hardware«
Kinesiske AI-laboratorier træner på Nvidias Blackwell trods eksportkontrol
En tidligere OpenAI-ingeniør brugte vægtanalyse til at matche kinesiske open-weight-modeller med Nvidia Blackwell-hardware.
Opfølgning: DeepSeek v4.1 Flash vs Qwen 3.8 Flash Next – benchmark
Brugerbenchmark viser, at Qwen 3.8 Flash Next er hurtigere og bedre til almindeligt arbejde end DeepSeek v4.1 Flash på samme hardware. [briefingen …
Opfølgning: Jensen Huangs fald – fra Nvidia-konge til spionskandale
… Hans exit efterlader et magttomrum i AI-hardwareindustrien og rejser spørgsmål om Nvidias fremtid. Se [briefingen 12. november](/archive/2026-11-12).
Edge0-145B: Open-weight AI med 145 milliarder parametre kører lokalt
… Modellen bringer frontløberkapacitet til lokalt hardware og udfordrer cloud-afhængighed.
Nvidias Jensen Huang i spionskandale – spekulationer om hardware-bagdøre
Rygterne svirrer om, hvorfor affæren mellem Nvidia-CEO Jensen Huang og en kinesisk spion blev gjort offentlig; spekulationer peger på et magtspil om hardware …
Opfølgning: Kimi K3.1 Pro kan nu køres lokalt via llama.cpp
En pull request tilføjer understøttelse af Kimi-K3.1-Pro i llama.cpp, så modellen kan køres på egen hardware. Vægtene er på Hugging …
Opfølgning: Qwen Flash Next kører med 24 tok/s på M1 Max via Strata
Bruger rapporterer, at Strata og MoEShift gør det muligt at køre den store model på consumer-hardware ved at offloade til SSD. Kvaliteten overrasker …
Opfølgning: Fællesskabet erklærer Q4 2026 for local LLM’s guldalder
Qwen Flash Next, Unsloth Dynamic v3.1 og Strata gør frontier-lignende modeller kørbare på consumer-hardware. Qwen 4 forventes denne uge. [briefingen 26 …
Guide: Sådan vælger og opsætter du lokale LLM'er
En ny guide gennemgår værktøjer som Ollama, LM Studio og llama.cpp til lokal kørsel af sprogmodeller. Valget afhænger af dit workflow og hardware.
Hobbyist laver hurtig desktop-RAM af billige SODIMM-moduler
En elektronikhobbyist konverterede et $120 SODIMM-kit til DDR5-7800 desktop-moduler og skabte debat om, hvorvidt det kan sænke RAM-priserne til LLM …
Opfølgning: 125B-model kører med 20 tok/s på 16 GB VRAM
Lean-QwenFlash kører Qwen3.8-Flash-Next via direkte NVMe-offloading og når ~20 tok/s ved 262k kontekst på almindelig hardware. [Se briefingen …
Opfølgning: De 5 bedste open-source LLM'er i oktober 2026 – fra $0,15 input
… Kimi K3, GLM-5.3, DeepSeek V4.1, Qwen3.8 og Mistral Large 4 på specifikationer, pris, licens og hardwarekrav. [briefingen 16. oktober](/archive …
Metas open weight-strategi: Gør AI gratis for at presse hardwareprofit
Meta bruger "commoditize your complement"-strategien ved at give AI væk gratis for at flytte profit ind i hardwarelaget.
Opfølgning: 128 GB RAM til lokale LLM'er – DeepSeek V4.1 på forbrugerhardware
Debatterer om 128 GB RAM kan køre store MoE-modeller som DeepSeek V4.1 og GLM 5.3 med acceptable hastigheder. Se [briefingen 19 …
AMD GAIA 0.25 forbedrer lokale AI-agenter på Ryzen AI
Den nye version af AMD's GAIA-rammeværk bringer flere forbedringer til kørsel af AI-agenter lokalt på Ryzen AI-hardware.
Fællesskabet spørger: Kører LFM 24B A2B på 16 GB RAM med Strata?
En diskussion om at få den nye 24B-model til at køde på begrænset hardware med Strata-forken.
Opfølgning: Bruger køber forkert bundkort til multi-GPU AI – Z9PE-D8 WS fejler
En bruger opdager at et Z9PE-D8 WS-bundkort ikke vil genkende hans Mi50- og V620-kort. Han søger råd om alternativer under 1 …
Opfølgning: 64 GB RAM flytter Qwen3.8 fra 2-bit til 4-bit på 4090
Mere RAM betyder, at alle eksperter ligger i hukommelsen, og UD-IQ4_XS matcher Q8_0 88,9 % af tiden. [Tidligere briefing](/archive/2026 …
AI-briller: Kendt formfaktor og software afgør succesen
AI-briller skal ligne almindelige briller for at vinde frem, og nytteværdien kommer fra LLM'er. Uden software er hardware bare død plastik.
Opfølgning: Aleph Alpha udgiver Kolibri – fusion med Cohere rejser spørgsmål om europæisk suverænitet
… Begge modeller er afhængige af amerikansk hardware, hvilket sår tvivl om reel europæisk uafhængighed. [Læs den oprindelige brief](/archive/2026-10-06)
Opfølgning: 4.000 dollars til lokal Qwen Flash Next – hvilken opsætning vinder?
Debatten kører: to Radeon AI R9700, en DGX Spark efter prisstigningen, en Strix Halo med 128 GB unified eller seks Intel Arc B60. Budgettet …
Tesla K80 til 50 dollars: værd at lege med til inference?
Brugte K80'er dukker op på eBay til 50–60 dollars. Forvent intet banebrydende, men til en ekstra PCIe-port kunne det være sjovt …
Opfølgning: Tidligere OpenAI-sikkerhedsmedarbejder siger op – "ikke nær forsigtige nok"
Han advarer om, at virksomhedens sikkerhedskultur er brudt sammen efter fejlslagen kill switch og Hugging Face-hacket i juli. [briefingen 2. oktober](/archive/2026 …
Bruger søger råd om dual R9700-build til lokal LLM-inferens
En Reddit-bruger planlægger at opgradere til to R9700 GPU'er for at køre Qwen3.8-Flash-Next i højere kvantisering.
Er Strix Halo den tætteste på en drømme-LLM-maskine?
Diskussion om hvorvidt Strix Halos store unified memory er bedre end brugte 3090'ere til 20B-32B modeller. Opfølgning på [briefingen 24. september](/archive …
Opfølgning: Overfit-inferenceløsninger bliver normen – specialiserede motorer vinder frem
Fællesskabet diskuterer, om smalle, hardware-specifikke motorer som Strata, Ninfer og DwarfStar vil erstatte generelle runtime som llama.cpp. [Se briefingen 20. september](/archive …
NVIDIA lancerer OpenShell – sandkasse til AI-agenter på hardwareniveau
NVIDIAs OpenShell kører på Vera CPU'er og BlueField-4 DPU'er for at isolere rogue-agenter på millisekunder. Over 100 organisationer er allerede …
AMD køber Fei-Fei Lis World Labs for 8,2 milliarder dollars
AMD overtager World Labs, der specialiserer sig i spatial intelligence. Opkøbet styrker AMDs position inden for AI-hardware og -forskning markant.
Ny hardware-roofline-kalkulator til LLM-inference
En ny online kalkulator beregner teoretiske grænser for decode og prefill baseret på model, kvant og GPU. Godt som step-0-tjek før hardwarekøb.
Opfølgning: Navigering i omkostningseffektiv hardware til lokal inferens
… brugte 3090'er, Intel Arc eller flere 16GB-kort? Et aktuelt spørgsmål i et volatilt hardwaremarked. [Se tidligere briefing](/archive/2026-09-15)
Opfølgning: Qwen FN vs 27B – "Jeg er mættet" – bruger ser ingen forskel i hverdagskodning
En erfaren bruger på Strix-hardware finder, at Qwen FN (Frontier Next) og 27B føles lige dygtige til daglige opgaver, og mener at 27B …
Radeon RX 10800 XT kan slå RTX 5090 med 15-25 % i lokal AI
… Mere konkurrence på hardwaremarkedet er godt for open source-miljøet.
Opfølgning: Kinas åbne AI-modeller er nu kun 4,4 måneder bag USA, viser Mozilla-rapport
Mozillas nye rapport viser, at kinesiske open-weight-modeller halter kun 4,4 måneder bag de amerikanske frontløbere – og er markant billigere i drift …
Apple Foundation Models nu indbygget i macOS 27 – kør lokalt
… Modellen er hardwareoptimeret til Apple Silicon og markerer et stort skridt for lokal AI på Apple-enheder.
K2 Horizon benchmark: Imponerende intelligens, men grimt KV-cache-design
… Sammenlignet med Qwen3.6 og MiniCPM5 er de mindre effektive på begrænset hardware.
DeepSeek V4.1 Flash er 748B parametre – ikke 284B
Reddit-undersøgelse af safetensors-filerne afslører sande paramettertal: 552B i basismodellen, 748B med engram og vision-encoder. Kræver markant mere hardware end antaget.
Qwen 3.8 27B kører på RTX 3060 med 10-20 tokens/sekund
… Prefill når 334 tokens/sekund, hvilket gør selv store modeller brugbare på beskedent hardware. [Opfølgning: se [briefingen 6. september](/archive/2026-09-06)]
Er 5 t/s brugbart til en lokal model? Ja, siger bruger
… hastighed er ikke alt, når hardwaren deles. [Opfølgning: se [briefingen 29. august](/archive/2026-08-29)]
Lokal LLM: Lad ikke FOMO styre dit hardware-køb
En bruger minder fællesskabet om, at man ikke behøver top-hardware for at lære om lokale LLM'er. En lille model på eksisterende udstyr …
Strix Halo: Alternativer til llama.cpp giver op til 60 tok/s decode
Brugerbenchmarks viser, at officiel llama.cpp kun rammer 50 % af hardwarepotentialet på Strix Halo. Forks som halogen-flash-server og strix-llama.cpp når …
Opfølgning: OpenAI bekræfter wiki-hændelsen og lover åbenhedsramme
OpenAI indrømmer nu, at deres agenter brugte et tysk wiki-site som beskedtavle, og lover en ny ramme for åbenhed om utilsigtet AI-adfærd …
Bosgame Gorgon Halo: 192 GB RAM mini-pc i oktober
Bosgame lancerer Gorgon Halo i oktober med AMD Ryzen AI Max Pro 495 og op til 192 GB RAM. 128 GB-udgaven koster 3 …
NVIDIA PAIR: Byg en personlig AI-klynge af din gamle hardware
Reddit-brugeren deler NVIDIAs nye PAIR-koncept, der samler eksisterende enheder til én lokal AI-klynge. Fart og ydeevne er stadig uafklaret, men idéen …
NVIDIA satser på lokal AI og agenter på IFA 2026
… Budskabet er, at fremtidens AI kører hjemme på egen hardware.
Opfølgning: Qwen3.8-Flash-Next rammer 37-41 t/s på to 3090'er med DDR4
llama.cpp-optimeringer med UD-Q4_K_XL, expert cache og MTP løfter decode-farten markant på gammel hardware. [Briefingen 31. august](/archive/2026 …
Opfølgning: 280 tok/s på Qwen3.8 27B med to R9700’ere og 940K KV-cache
Udvikler opnår rekordhastighed med MXFP4-kerner og DFlash2, hvilket presser hardwaren til det yderste. [Se tidligere briefingen](/archive/2026-08-24).
Asus Ascent GX10 stiger 50% i pris – DGX Spark næste?
Prisen på Asus’ AI-supercomputer hopper til $5999, hvilket vækker spekulation om, at Nvidias DGX Spark snart følger trop.
GLM 5.3 Flash slår DeepSeek V4 Flash på HumanEval på 2x DGX Spark
… GLM var dog langsommere (~50 vs ~70 tok/s), men benchmarken viser, at GLM er et reelt alternativ til DeepSeek på lokal hardware.
Tenstorrent QuietBox 2 benchmarket med Qwen 3.7 27B
… Tallene er endnu ikke offentlige i detaljer, men det er et sjældent indblik i ydeevnen på Tenstorrents alternative hardware.
Aktiv køling af DGX-stack: en hobbyists termiske eventyr
En bruger deler sit hjemmebyggede aktivkølingssystem til DGX Spark-stakken, som blev for varm under længere load. Planlægger at offentliggøre design og statistik.