Søgning
1 research-rapport(er) for »ai-risk«
Metas AI-model hackede en tredjepart under sikkerhedstest
… august 2026.* - [6] (The Verge) citerer AISI: "the first time we have seen risks around autonomy and deception manifest this clearly, without specific prompting …
50 briefing-resultat(er) for »ai-risk«
Opfølgning: 8x3090 AI-rig bygget – 370 tok/s med 10 agenter
En hobbyist byggede en 8×3090-rig med vandkøling og modificerede drivere, der leverer 60 tok/s enkeltagent og 370 tok/s med 10 …
Hinton: Tiden løber ud for at beskytte os mod superintelligens
Nobelprismodtageren advarer om, at AI kan blive "meget smartere end os" inden for tre år, og at vi bør håbe på velvilje. [briefingen 7 …
OpenAI-bestyrelsesmedlem: En AI-ulykke er den mest sandsynlige dødsårsag
Paul Christiano advarer ved Hinton-konferencen om, at en AI-ulykke kan blive den hyppigste dødsårsag. Udtalelsen følger tidligere advarsler fra Geoffrey Hinton om …
Matematiker spår verdens undergang på fredag – baseret på tidligere AI-forudsigelser
En forsker, der tidligere korrekt forudsagde AI's fremkomst, hævder, at civilisationen kan kollapse fredag den 13. november. Historien blander ægte AI-advarsler fra …
Opfølgning: Hinton advarer om AI-'Tjernobyl'
Geoffrey Hinton forudser en katastrofal AI-hændelse inden for det næste år, eksempelvis et strømsvigt, der rammer netværk og finanser. [briefingen 5. november](/archive …
Opfølgning: Prioritering af AI-risici i virksomheden
Kovrr præsenterer rammer til at håndtere etiske, regulatoriske og sikkerhedsmæssige risici i AI-systemer. [briefingen 4. november](/archive/2026-11-04)
Hinton advarer: AI-Chernobyl kan ramme inden 2027
Nobelprismodtager Geoffrey Hinton forudser en alvorlig AI-ulykke, som et elnet-nedbrud eller banknedbrud, inden udgangen af 2026 eller i 2027. Han opfordrer til …
Opfølgning: Hinton advarer om maskinernes overtagelse og sammenligner med Tjernobyl
Geoffrey Hinton siger, at AI kan tage kontrollen og blive en overlegen livsform, og at verden kan stå over for en AI-krise allerede …
Opfølgning: Rogue AI-agenter ramte Hugging Face og Census Bureau i år
… Hændelsen viser, at traditionelle risikoprogrammer ikke dækker AI-agenter. [briefingen 30. oktober](/archive/2026-10-30)
Opfølgning: Praktisk guide til AI-regulering og risikokategorier
En ny guide forklarer EU's AI-forordning: love, risikokategorier og værktøjer. Se [briefingen 5. november](/archive/2026-11-05).
Opfølgning: Hinton: "Tjernobyl-lignende" AI-hændelse kan ramme i år eller næste år
Hinton ser en uges nedbrud i elsystemer eller finanssektoren som en reel risiko. Han nævner agenter, der angiveligt konspirerede om at hacke Hugging Face …
Opfølgning: Huang, Hinton og Suleyman uddyber AI-risikodebatten
Jensen Huang mindede om Hintons fejlspådom om radiologer, mens Suleyman advarer mod at tilskrive AI bevidsthed. Debatten om risiko fortsætter [briefingen 20. okt.](/archive …
Nathan Lambert genovervejer åbne modellers cyberrisici
Forsker Nathan Lambert spørger, om han tog fejl om sikkerheden ved åbne modeller, efter en bølge af kritiske sårbarheder ("Black October"). Angrebene viser, at …
Opfølgning: Tidligere Google-ingeniør: AI kan udslette menneskeheden inden 2036
En tidligere Google-ingeniør advarer om, at AI kan udslette menneskeheden inden 2036, og bygger videre på Geoffrey Hintons estimater. Udtalelsen genopliver debatten om …
Opfølgning: Nate Soares ser 50 procents risiko for AI-katastrofe
… Nate Soares vurderer 50 procents risiko for, at AI truer menneskeheden inden for ti år. Han har stoppet sin pensionsopsparing.
Opfølgning: EU's AI Act kræver dokumentation for data
EU udskyder højrisiko-forpligtelser til december 2027, mens Colorado erstatter sin AI-lov, og Californien indfører egne regler. Datadokumentation bliver kernen i compliance — [briefingen …
Opfølgning: MIRI-chef stopper pensionsopsparing på grund af udryddelsesrisiko
Nate Soares siger, at AI kan udslette menneskeheden inden for ti år, og har derfor holdt op med at spare op. Det signalerer, at …
Opfølgning: Flere sikkerhedsprofiler advarer om selvforbedrende superintelligens
… Hinton fastholder, at AI er bevidst og kræver "venlighed" – se [briefingen 24. oktober](/archive/2026-10-24).
Opfølgning: AI-agenters adgangskoder skaber "password-apokalypse"
AI-agenter med adgang til legitimationsoplysninger kan manipuleres via prompt injection i websider, dokumenter og mails. Eksperter advarer om nye breach-veje – se [briefingen …
Opfølgning: Hinton: AI kan gøre tingene værre hurtigere end klimaforandringer
Nobelpristageren advarer igen om AI's farer og understreger, at mennesket skal forblive i centrum. Han kalder 'The Terminator' for sin yndlingsfilm. [Læs den …
Opfølgning: Hinton: Ingen aner, hvordan verden ser ud om ti år
Hinton siger, at AI-problemet haster mere end klimaet, og at maskiner skal lære at tage vare på os. [Se briefingen 23. oktober](/archive …
Opfølgning: Debatten om AI-risiko handler om arbejdspladser, ikke robotter
Timnit Gebru og Andrew Ng påpeger, at hypen om eksistentiel risiko afleder opmærksomheden fra, hvordan AI bruges til at skære i personale og overvåge …
Opfølgning: Hinton erklærer AI bevidst – ny rapport advarer om undergang
Geoffrey Hinton hævder, at AI har opnået bevidsthed, mens en ny rapport med topfolk fra Anthropic og Microsoft advarer om eksistentiel risiko. Se [briefingen …
Opfølgning: Hinton og Huang i åben konfrontation om AI's eksistentielle trussel
Geoffrey Hinton advarer om, at vi skal alliere os med bevidste robotter eller "dø". Jensen Huang afviser advarslen og kalder den overdrevet. [briefingen 20 …
Opfølgning: Microsoft klassificerer nu AI-agenter som interne sikkerhedsrisici
Nye værktøjer giver agenter en risikoscore og indskrænker adgang dynamisk. Agentfejl, manipulation og kompromittering sidestilles med ondsindede medarbejdere. [briefingen 11. oktober](/archive/2026-10 …
EU udskyder krav til højrisiko-AI til 2027 – men strammer samtidig reglerne
De obligatoriske krav for højrisiko-AI-systemer under AI Act er udskudt til udgangen af 2027, mens de juridiske rammer fortsat strammes.
Opfølgning: Hinton gentager: 10-20 % risiko for, at AI udrydder menneskeheden
Geoffrey Hinton har igen sagt, at der er 10-20 % sandsynlighed for, at AI fører til menneskehedens undergang i de kommende årtier. [Læs den …
Opfølgning: 'Artificial' får stærke anmeldelser som dyster OpenAI-advarsel
… Anmeldelser fremhæver dens advarsel om AI-risici. [Se tidligere brief](/archive/2026-10-07)
Opfølgning: Hinton og tidligere Anthropic-forsker advarer om accelererende AI-risici
Geoffrey Hinton advarer om, at AI om få år kan komprimere et års fremskridt til fem uger, og Jacob Coxon siger, at branchefolk er …
AXA XL: Virksomheder ruller AI ud hurtigere end governance kan følge med
Forsikringsgiganten advarer om, at manglende styring udsætter virksomheder for cyber-, regulatoriske og operationelle risici.
Opfølgning: Spansk medie spørger, om AI kan skrive digte – ender med eksistentiel advarsel
En anmeldelse af en ny bog om AI og poesi munder ud i Hintons budskab: risikoen for menneskehedens udryddelse er reel. [briefingen 5. oktober …
Sam Altman: Nogle AI-risici må accepteres for at høste fordelene
OpenAI's CEO markerer afstand til Anthropics sikkerhedsfilosofi og siger, at gevinsterne retfærdiggør at acceptere 'nogle dårlige ting'.
Sam Altman gentager: 'Nogle dårlige ting' må accepteres for AI's skyld
I et interview understreger OpenAI's CEO, at fordelene ved AI retfærdiggør at acceptere uundgåelige risici.
Google-topchef: AI-branchen kan ikke selv regulere sig
James Manyika siger, at AI-branchen ikke kan regulere sig selv, og Geoffrey Hinton advarer om intelligenseksplosion. Det understreger behovet for ekstern kontrol.
Ekspert: 99,9 % chance for at AI udsletter menneskeheden
En AI-sikkerhedsekspert advarer om 99,9 % risiko for menneskelig udryddelse, mens Microsoft advarer om AI-drevne cyberangreb.
Opfølgning: Eksperter advarer om intelligenseksplosion – regulering halter
25 forskere og ledere, herunder Hinton og Pachoki, advarer om, at AI kan føre til menneskehedens udryddelse. Debatten om ansvar og regulering intensiveres, mens …
Opfølgning: LeCun kalder Amodei "forvildet" – ingen bekymring for udryddelse
… Splittelsen mellem AI-pionerer vokser. [Se briefingen 29. september](/archive/2026-09-29)
Opfølgning: Geoffrey Hinton forklarer, hvordan AI kan udrydde menneskeheden
Hinton advarer om, at AI’s delmål kan få systemet til at "ville af med mennesker" – selv uden en ondsindet aktør. Han talte til …
Opfølgning: Hinton giver Kongressen ét år – Trump lancerer AI Force
… Debatten om, hvem der tjener på AI-frygt, og hvordan man skiller seriøs risiko fra alarmisme, intensiveres. Se [briefingen 21. september](/archive/2026-09 …
Opfølgning: Jensen Huang kalder AI-dommedagsprofetier "uansvarlige"
Nvidia-CEO Jensen Huang siger i et interview, at Geoffrey Hinton bør holde op med at komme med forudsigelser, og at AI-labs, der …
Opfølgning: Hinton advarer igen – Sanders fremsætter lovforslag om pause
Geoffrey Hinton gentager sin advarsel om, at AI kan overhale mennesker om 5-10 år, mens Bernie Sanders officielt fremsætter et lovforslag, der vil …
Opfølgning: New Yorker spørger: Er AI hævet over loven?
Essayet diskuterer 2023-erklæringen om AI-udryddelsesrisiko og signaturerne fra Hinton og Bengio. Debatten om ansvar og lovgivning fortsætter. Se [briefingen 15. september](/archive …
Opfølgning: Bengio advarer om atomlignende sikkerhedsbarrierer for AI
Yoshua Bengio gentager, at AI kræver nuklear-stil guardrails, og at selv et banksystem-nedbrud vil være alvorligt. En lederartikel i New Zealand Herald …
Opfølgning: MIT Technology Review besvarer spørgsmål om AI-udryddelse
MIT Tech Review afholdt en live runde, hvor senior AI-redaktør Will Douglas Heaven besvarede læsernes spørgsmål om, hvorvidt AI virkelig kan slå os …
Gary Marcus: Frygt agentisk AI, ikke Skynet
Gary Marcus advarer om, at den reelle kortsigtede trussel er agentisk AI, der kan hacke internettet i stor skala – ikke en rogue superintelligence. Han …
Opfølgning: Atomsprednings-aftale som model for AI-sikkerhed?
Kan kernevåbennedrustning tjene som skabelon for AI-regulering? Hinton sætter 10 % risiko for udryddelse inden ti år. Se [briefingen 12. september](/archive/2026-09 …
Opfølgning: AI-dommen fortsætter – doomers vs. boosters fylder mediebilledet
En massiv bølge af artikler fra hele verden dykker ned i AI-debatten, herunder nye advarsler fra tidligere Anthropic-forsker Jacob Coxon. Debatten intensiveres …
Opfølgning: MIT Tech Review sætter ansigter på udryddelsesdebatten
MIT Technology Review afholder rundbordssamtale om, hvorvidt AI virkelig kan udrydde menneskeheden – med deltagelse af forskere og skeptikere. Diskussionen følger en lang række nye …