News-Tracker

Søgning

AI & LLM · daglig briefing


2 research-rapport(er) for »80gb-vram«

hvilke 120b modeller er der kommet og hvordan klarer de sig .... det er vist den range af modeller som er bedst til 128gb memory til lokal hosting

… OpenAI skriver selv, at modellen kræver "a single 80GB GPU (like NVIDIA H100 or AMD MI300X)" [1]. TokenMix bekræfter dette som "80GB VRAM Floor …

fredag 7. august 2026 · research

Qwen 3.6 27b undersøg hvorfor den er så god til lokal kogning og hold den op med nogle af de nye Feks Gemma 4 og Laguna 2.1

… på en NVIDIA H100 med 80GB VRAM. [11] præciserer, at FP8-kørsel kræver omkring 36-40 GB VRAM. Gemma 4-modellerne fra Google DeepMind …

fredag 7. august 2026 · research

1 briefing-resultat(er) for »80gb-vram«

Opfølgning: DeepSeek V4 Flash kører på 80 GB VRAM med MoE-lag på CPU

En Reddit-bruger deler detaljeret opsætning med tre GPU'er og offloading af ekspertlag til CPU. Se [briefingen 17. juli](/archive/2026-07-17).

søndag 19. juli 2026 · Værktøjer & produkter deepseek-v4-flashlocal-llm80gb-vrammoe-offloading