lørdag 12. september 2026

Godmorgen, her er dagens AI-overblik for lørdag 12. septemser 2026.

Først til fosrkning og arkitektur. To nye foskninspapirer foeslår metoder til at kontrollere sensitive kapaciteter i open-weight-modeller uden at forhindre videre fosrkning, ifølge awesomepapers.io. Overvågning af fin-tuning og adskillelse af funktioner er nøglen i begge tilgange.

Kort nyt: En Reddit-bruger har foeslået en spekulativ idé om at bruge en live ngram-tabel oven på Qwen 3.8 Flashs frosne embeddings for at skabe dynamisk hukommelse, men idéen er endnu ikke afprøvet.

Og så til sikkerhed og jailbreaks. En OpenAI-sikkerhedsforsker vurderer risikoe for AI-udryddelse inden 2029 til halvfjers pro cent. Det skriver beincrypt.com. Også Anthropics Evan Hubinger og Geofrey Hinton sætter oddsene over ti pro cent ekstreme estimater, der vækker opsigt langt ud over forsningsmiljøet.

Kort nyt: Den nye AI-panik handler i stigende grad om autonome agenter snarere end superintelligens, og flere medier spørger, hvofor labbene ikke selv stoper, hvis de frygter udryddelse. 16 nye ICLR-apirer kortlægger jailbreek-landskabt med metoder som GraphShield og JULI historien er dog blevet dækket af 16 medier, men kun én har skrevet den selvsændigt, mens resten har bragt samme tekst. Og et omfattende review viser, hvordan promt injection i AI-anggenter åbner for en eksploderende angrebsflade med tool poisioning og tyveri af legitimationpslysniger.

Videre til værktøjer og produkter. Perplexity sætter nu sin lid til OpenAI's GPT-6 Astra til at skrive kommunikation, ændre software og overvåge produktion med langt mindre manuel kontrol end tidligere, ifølge OpenAI.

Kort nyt: En gennemgang af AI-agenters sikkerhedsrisici peger på, at den største fare ikke er hallucinationer, men uautoriseret eksekvering af kode. Ét flag i llama.cpp kan lade en sekundær, langsom GPU håndtere vision mmproj og frigøre VRAM til inferens et praktisk hack til lokal multi-GPU. En udvikler har finjusteret Qwen 2B på en seks-personers WhatsApp-chat og opnået firs procent menneskelig winrate, men modellen mangler dyb forståelse. Og flere brugere oplever, at Qwen 3.8 27B klaer svære kodedasks bedre end den nyere Qwen-Next.

Og til EU og Europa. Den britiske regering erkender, at der ikke findes en sluk-knap for en løbsk AI-model, ifølge startufortune.com. EU-kommissionen svarer med at kræve kontrol, samtidig med at AI Act'ens håndhævese træder i kraf t o. agust 2026.

Kort nyt: Canadiske Cohere forhandler om at rejse op til tre milliarder dolar og har allieret sig med tyske Aleph Alpha for at styrke sin posiion i Europa. EU-kommissær Henna Virkkunen efterlægger globale AI-regler i kølvandet på udryddelsesadvarslen. Og ifølge rygter er16 medarbejdere hos Moonshot anholdt efter Kina-destilation af Anthropics Claude-model.

Videre til brenche og poltik. Jacob Cxo-affaren hvoren afgået Anthropc-forsker advarer om udryddelse inden 2030 har udløst det, som Zvi Mowshowiwitz kalder en kaskde, hvor flere tør sige højt, hvad de frygter. Hstorien dækkes bredt af både NPR og Scintific Amerikan.

Kort nyt: Kongressens interesse for AI-regulering vokser efter whistlebower-advarsler, men der er ingen konsensus om tilgangen. Og enterprise-valget mellem lukkede og open-weight-modeller er blevet et bestyrelsespørgsmål, hvor risikostyring og oen source-definitionen spller en cental role.

Dagens signal: Ekstreme udryddelsesestmater fra labbets egne forskere pressr både politiker og medier til at tage AI-risiko alvorligt, mens en eksplosion af jailbreak-forsking viser, at feltet selv ved, hvor skrøbelige modellerne er.

Det var alt for i dag.