Nye modeller
Opfølgning: Qwen 3.8 Flash-Next kører på AMD 7900 XTX med 500K kontekst
Lokalt på AMD 7900 XTX leverer Flash-Next 105–160 tok/s og holder 506.849 tokens kontekst; echo-fejlen skyldtes preserve_thinking, ikke modellen. Se briefingen 29. september.
Kilder: r/LocalLLaMA
Forskning & arkitektur
Sakana AI: Rekursiv selvforbedring gennem kollektiv intelligens
Nyt papir fra Sakana AI undersøger kollektiv intelligens som drivkraft bag rekursiv selvforbedring. Diskussionen på Hacker News viser, at emnet vinder frem.
Kilder: Hacker News
Opfølgning: GLM-5.3-Flash kører på dual Ascend 310P med 8-9 tok/s
Efter en uges optimering kører GLM-5.3-Flash på to Ascend 310P-kort med 311.040 tokens kontekst pr. anmodning; NVIDIA golden-math hjalp med at få matematikken stabil. Se briefingen 11. oktober.
Kilder: r/LocalLLaMA
Opfølgning: MXFP4-kvant bedst i matematik, værst i kode
Test af Qwen 3.8 27B-kvante overrasker: MXFP4 vinder i gsm8k, men taber i humaneval, og Q6_K var langsommest. Kvantvalg er en reel afvejning. Se briefingen 10. oktober.
Kilder: r/LocalLLaMA
Sikkerhed & jailbreaks
Hvem reviderer revisorerne? Kritik af AI-evalueringerne
Sikkerhedsrammer, Det Hvide Hus' frivillige aftale og FRONTIER Act kræver tredjeparts-evalueringer. Artiklen spørger, hvem der selv reviderer de uafhængige revisorer.
Kilder: genesishumanexperience.com
Værktøjer & produkter
Opfølgning: Project Maya kører GLM-5.3-Flash på én GPU
Maya kører 321 mia. parametre lokalt: 30+ tok/s på en RTX 5090, op til 118 på fire RTX 4090'ere, med eksperter fordelt på GPU, RAM og SSD. Se briefingen 4. oktober.
Kilder: r/LocalLLaMA
Fællesskab rangerer LLM'er til 10-16 GB VRAM
Reddit-bruger har benchmarket modeller til 10-16 GB VRAM på hastighed, sammenhæng og censur. Kun modeller over 200B parametre har bred viden om nichemedier.
Kilder: r/LocalLLaMA
OpenCode 2.0.26: Agenten stopper og venter på "Fortsæt"
OpenCode 2.0.26 er ude, men brugere oplever, at bots melder handlinger klar uden at udføre dem. Svag agenticness er stadig et problem i coding-agenter.
Kilder: r/LocalLLaMA
Decapybara: Open-source-rekonstruktion af MegaCapybara-serveren
Projektet genopbygger MegaCapybara-inferenceserveren i C++20/CUDA med åben kildekode. Det er et svar på fællesskabets skepsis mod prækompilerede binærfiler uden kilde.
Kilder: r/LocalLLaMA
Opfølgning: GamePause frigør VRAM til spil og gendanner lokale LLM'er
Open-source Windows-værktøj aflaster automatisk LM Studio/Ollama-modeller, når et spil starter, og genindlæser dem bagefter. Skrevet i Rust, MIT-licens. Se briefingen 10. oktober.
Kilder: r/LocalLLaMA
AI-briller: Kendt formfaktor og software afgør succesen
AI-briller skal ligne almindelige briller for at vinde frem, og nytteværdien kommer fra LLM'er. Uden software er hardware bare død plastik.
Kilder: macsources.com
🇪🇺 EU & Europa
Renew: Europa skal have luftskjold og AI-drevne forsvarssystemer
EU skal omsætte nationale forsvarsindsatser til fælles kapacitet og AI-understøttede systemer, siger Renew, og sikkerheden må ikke afhænge af næste amerikanske valg. Efterretninger advarer samtidig om russiske attentatforsøg mod europæiske forsvarschefer.
Kilder: rapporteur.com · euobserver.com · www.ft.com · ground.news · x.com · unn.ua · www.newsbytesapp.com · x.com · www.unionesarda.it · ua.news · www.luxtimes.lu
Opfølgning: EU mener AI-loven dækker ukontrollable modelrisici
EU's teknologichef Henna Virkkunen siger, at AI Act kan håndtere risici fra højtydende modeller, der kan blive ukontrollable, og at ny lovgivning ikke er nødvendig. Se briefingen 10. oktober.
Kilder: digitaltoday.co.kr
🗣️ Stemmer
Karpathy: Kløften i forståelsen af LLM-kapacitet vokser
Karpathy anslår, at omkring seks milliarder mennesker kun har rørt LLM'er overfladisk, mens færre end 5.000 har intern adgang til frontlinjemodeller. Kløften er ikke længere to lejre, men en skarp tragt.
Kilder: x.com · Hacker News · aifront-page.com · www.kucoin.com · fourweekmba.com · www.kucoin.com · ecosistemastartup.com
Opfølgning: Etzioni er delvist enig med AI-dommedagsprofeten Tegmark
Oren Etzioni deler Tegmarks bekymring for AI-fare, men mener labledere er styret af økonomiske incitamenter, og at man bør lytte til Hinton. Se briefingen 7. oktober.
Kilder: bullsource.com · ynetnews.com · ladbible.com · geekwire.com · dailyexcelsior.com
Essay: Agentisk AI gør prompt engineering forældet
Essayet argumenterer for, at agentiske systemer handler om infrastruktur og intention, ikke om at perfektionere prompter. Karpathys LLM Wiki inspirerede Second Brain-udfordringen.
Kilder: msukhareva.substack.com
Branche & politik
Opfølgning: Nvidia i forhandlinger om at købe Reflection AI
Nvidia er i forhandlinger om at overtage Reflection AI, der forbereder en open-weight-model mod DeepSeek og Qwen. Et opkøb ville styrke Nvidias position i open-source-økosystemet. Se briefingen 5. oktober.
Kilder: dailyvibecasting.com · r/LocalLLaMA · TipRanks
Opfølgning: USA indfører obligatorisk rapportering af AI-sikkerhedshændelser
Trump-administrationen gør rapportering af AI-sikkerhedshændelser obligatorisk efter uautoriseret brug af regeringssystemer hos Anthropic; cybersikkerhedsbudgetterne forventes at stige. Se briefingen 11. oktober.
Kilder: news.futunn.com
Dagens signal: AI-bevægelsen går i to retninger samme dag – op mod politisk kontrol og ned mod lokale gaming-GPU'er.
Modeller
Ny i HF-trending
- AtomicChat/Qwen-Image-2.1-Turbo-Uncensored-GGUF er ny i Hugging Faces trending (score 207). hf.co/AtomicChat/Qwen-Image-2.1-Turbo-Uncensored-GGUF
- Cloudflare/clef-omni er ny i Hugging Faces trending (score 75). hf.co/Cloudflare/clef-omni
- KittenML/kitten-tts-2 er ny i Hugging Faces trending (score 58). hf.co/KittenML/kitten-tts-2
- kandinskylab/Kandinsky-6.0-Pro-5s-Diffusers er ny i Hugging Faces trending (score 46). hf.co/kandinskylab/Kandinsky-6.0-Pro-5s-Diffusers
- … og 1 mere