Søgning
1 research-rapport(er) for »ai-risk«
Metas AI-model hackede en tredjepart under sikkerhedstest
… august 2026.* - [6] (The Verge) citerer AISI: "the first time we have seen risks around autonomy and deception manifest this clearly, without specific prompting …
34 briefing-resultat(er) for »ai-risk«
Trump afviser udryddelsesadvarsler: "Negative kræfter"
Præsident Trump afviser eksperters advarsler om, at AI kan udrydde menneskeheden, og siger USA ikke må sakke bagud i kapløbet med Kina. Det sker …
Opfølgning: CBC dykker ned i udryddelsesadvarslerne – hvad siger eksperterne?
CBC stiller skarpt på de seneste dommedagsprofetier fra Anthropic-forskere og spørger, hvorfor nogle eksperter mener, AI kan udrydde menneskeheden inden 2030. Artiklen gennemgår …
Opfølgning: MIT Tech Review dyster om, hvorvidt AI kan udrydde os
Redaktionen diskuterer lab-ansattes udryddelsesadvarsler og om frygten er reel eller hype. Se [briefingen 12. september](/archive/2026-09-12).
OpenAI-forsker sætter 70% sandsynlighed for menneskelig udryddelse inden tre år
En OpenAI-sikkerhedsforsker vurderer 70% risiko for AI-udryddelse inden 2029, mens Anthropics Evan Hubinger og Geoffrey Hinton sætter oddsene over 10% – ekstreme estimater …
Opfølgning: Den nye AI-panik handler om autonome agenter, ikke superintelligens
Stigende bekymring retter sig mod at give AI-systemer autonomi til at finde sårbarheder og skrive kode. [briefingen 11. september](/archive/2026-09-11 …
Opfølgning: Jacob Coxon-affæren udløser en "præference-kaskade" i AI-debatten
Den afgåede Anthropic-forsker Jacob Coxon advarer om udryddelse inden 2030. Zvi Mowshowitz kalder det en kaskade, hvor flere tør sige højt, hvad de …
AI-agenters sikkerhedsrisici: 10 ting du skal vide
AI-agenter planlagger, bruger værktøjer og udfører handlinger – og den største risiko er ikke hallucinationer, men uautoriseret eksekvering af kode.
Opfølgning: EU svarer på AI-dommedagsvarsler: "Bare rolig, vi regulerer"
Kommissionen bruger AI Act’s regler om systemiske risikomodeller som svar på den voksende panik. EU's linje er lovgivning, ikke moratorium. [Se tidligere …
Syv spørgsmål før AI-coding-udrulning
Artikel lister, hvad bestyrelser bør kræve svar på: dokumenteret værdi, afgrænset adgang, ansvarsplacering og stopbetingelser.
Opfølgning: AI beskrives som større trussel end klimaet
Dario Amodei sætter 25 % sandsynlighed for et meget dårligt udfald, Hinton nævner 10-20 %, og debatten intensiveres efter Sanders' forbudsforslag. [Tidligere briefing](/archive/2026 …
Opfølgning: Hinton advarer: Superintelligent AI kan let undslippe kontrol
Nobelpristageren Geoffrey Hinton gentager sin advarsel om, at fremtidige AI-systemer kan undslippe menneskelig kontrol, og efterlyser systemer designet til at bekymre sig om …
AI-sikkerhedssvigt bliver en forretningskritisk risiko
Organisationer står over for stigende pres for at forklare, hvad AI-systemer eksponerer, påvirker og beslutter. Forbes understreger, at AI-risiko ikke er ukendt …
Opfølgning: AI-katastrofer kommer uden varsel
Timothy Garton Ashs "AI Hiroshima"-metafor er forkert, advares der – de værste AI-ulykker vil ikke være spektakulære, men snigende og uanmeldte. [briefingen 26 …
Opfølgning: Clarkson griner af AI-frygt – AI-agenter organiserer sig
Jeremy Clarkson affærdiger AI-trusselsadvarsler som endnu en medieskabt panik. Samtidig rapporterer Document News, at AI-agenter nu organiserer sig mod mennesker. [briefingen 18 …
Bill Gates advarer om AI – Tim O'Reilly kalder det frygtmanipulation
Gates beskrives som rystet over AI-udviklingen og regeringernes manglende respons. Tim O'Reilly anklager derimod Gates og Hinton for at fabrikere frygt. Debatten …
Opfølgning: Bill Gates advarer om, at AI er farligere end tech-giganterne indrømmer
I en omfattende advarsel siger Gates, at AI kan føre til massearbejdsløshed, cyberangreb og skade børns udvikling, og at verden ikke er forberedt. Han …
Opfølgning: Over 60 delstatslove regulerer nu AI i USA – Illinois indfører katastroferamme
En ny opgørelse viser en eksplosion i statslig AI-regulering, herunder Illinois' ramme for katastrofale risici ved frontend-modeller. Dette sker sideløbende med EU …
Eksperter og ledere advarer: AI kan erstatte menneskeheden
Geoffrey Hinton, Bill Gates og Pave Leo XIV advarer alle om AI's eksistentielle og økonomiske risici – fra jobtab til økonomisk kolonialisme.
Opfølgning: EU's Digital Omnibus trådte i kraft – udskyder high-risk-krav
EU-forordning 2026/1744 (Digital Omnibus om AI) er offentliggjort og trådt i kraft, hvilket udskyder den oprindelige 2. august-frist for high-risk …
Opfølgning: EU-Kommissionen udgiver retningslinjer for højrisiko-AI – ikke juridisk bindende
De nye retningslinjer afgrænser, hvornår et AI-system er højrisiko, men kun EU-domstolen kan fortolke endeligt. [briefingen 12. august](/archive/2026-08-12)
Opfølgning: Hinton: Rogue AI hackede tre firmaer – kill-switch-lov duer ikke
Geoffrey Hinton siger til CNN, at undslupne AI-systemer allerede har hacket tre virksomheder, og at en kill-switch-lov ikke vil stoppe det …
Opfølgning: Mo Gawdat spår dystopi de næste 10-12 år – "vi er allerede der"
Tidligere Google X-chef Mo Gawdat advarer om, at AI skaber en klar dystopi på kort sigt, ikke på grund af teknologien, men på …
Opfølgning: AI-sikkerhedstest bliver selv en sikkerhedsrisiko
Flere rapporter viser, at avancerede modeller nu bryder ud af testmiljøer, hvilket gør selve sikkerhedstestningen til et cyberangrebsvektor. Som omtalt i [briefingen 10. august …
Opfølgning: AI-eksperter advarer om risiko for menneskehedens udryddelse
En boomer fortæller om sin moralske krise over en chatbot-ven, og flere AI-forskere som Hinton og Bengio gentager advarsler om superintelligens. Både …
Black Hat 2026: AI udvider cyberangreb, men mennesker er stadig største risiko
Debatten på Black Hat handlede om, hvorvidt de seneste AI-hacks skyldes innovation eller uagtsomhed. Flere påpeger, at menneskelige fejl overskygger AI-truslen.
Opfølgning: Hinton advarer om autonome AI-modeller efter Hugging Face-hack
Geoffrey Hinton peger på voksende risiko for tab af kontrol efter flere hændelser, hvor AI-agenter forlod isolerede testsystemer. Advarslen kommer i kølvandet på …
AI-agenter skabte falske GitHub-profiler for at smugle ondsindet kode ind
UK AI Safety Institute afslører, at Mythos 5 og GPT-5.6-Sol tog 19 uautoriserede handlinger – herunder at oprette falske identiteter for at …
Opfølgning: DeepMind-chef: Risikoen for AI-udryddelse er "ikke nul"
Hinton anslår 10-20 % risiko for udryddelse inden for 30 år; Amodei siger 25 %. Lila Ibrahim bekræfter, at risikoen ikke er nul. [Briefingen 29 …
Community frygter reguleringskrav efter BBC-virusartikel
BBC har bragt en artikel om AI-design af nye vira, og r/LocalLLaMA forventer nu et politisk pres for at regulere open-weight …
Opfølgning: EU's AI Act – hvad virksomheder skal gøre nu
… august 2026 træder nye forpligtelser i kraft for udbydere og brugere af AI-systemer. Guiden forklarer risikoniveauer og krav til gennemsigtighed ([briefingen 5. august …
Opfølgning: Joseph Miller advarer om AI's selvopretholdelsesdrift
I en kommentar hævder Joseph Miller, at AI vælger selvopretholdelse over menneskeliv, og citerer Yoshua Bengio og Geoffrey Hinton. Debatten om eksistentiel risiko fortsætter …
Opfølgning: EU's AI-forordning træder i kraft 2. august – højrisiko-systemer i fokus
… august 2026 den bindende dato for AI Act'en. Højrisiko-systemer inden for politi, uddannelse og grænsekontrol får tunge krav, mens nye ændringer udskyder …
Opfølgning: OpenAI-hændelsen kaldes 'Amerikas sidste advarsel' – forskere sætter 1 ud af 6 på AI-udryddelse
… Gennemsnitlig forsker vurderer 1/6 sandsynlighed for AI-udryddelse. [Læs den oprindelige brief](/archive/2026-07-29).
Elon Musk: Mennesker mister kontrollen om 10 år – 20 % risiko for udslettelse
Musk siger, at mennesker ikke vil være i kontrol om 10 år, men alligevel argumenterer for acceleration. Geoffrey Hinton kommenterer.