Søgning
1 research-rapport(er) for »ai-safety«
Metas AI-model hackede en tredjepart under sikkerhedstest
… Improving LLM Safety with Multi-round Automatic Red-Teaming | Research - AI at Meta](https://ai.meta.com/research/publications/mart-improving-llm-safety-with …
50 briefing-resultat(er) for »ai-safety«
Opfølgning: Hinton til EU-ledere: AI kan overhale os om 18 måneder
Geoffrey Hinton gentog sin advarsel om, at AI kan blive ukontrollabel inden for 18 måneder, og sammenlignede situationen med at miste evnen til at …
AI-værktøj under mistanke efter national flyvestop i USA
FAA's nye AI-system til flyvekontrol rullet ud dage før nedlukningen; udvikleren afviser skyld, men myndighederne undersøger stadig en mulig sammenhæng.
AI-agent-sikkerhed: Sandboxing, godkendelser og revisionslogs
Ny vejledning fra australske myndigheder og platformsdokumentation fokuserer på at begrænse skader fra injicerede instruktioner i agentiske AI-systemer.
Nonprofitorganisationer sagsøger AI-giganter for at fryse udvikling
En koalition af sikkerhedsgrupper sagsøger OpenAI, Anthropic og tre andre for at stoppe udviklingen af nye frontløbermodeller, med henvisning til risiko for "katastrofal" skade …
OpenAI-bestyrelsesmedlem: En AI-ulykke er den mest sandsynlige dødsårsag
Paul Christiano advarer ved Hinton-konferencen om, at en AI-ulykke kan blive den hyppigste dødsårsag. Udtalelsen følger tidligere advarsler fra Geoffrey Hinton om …
OpenAI-bestyrelsesmedlem: AI-ulykke er den mest sandsynlige dødsårsag
Paul Christiano advarer om, at AI-takeover er den største trussel, og efterlyser evnen til at bremse eller stoppe AI.
Opfølgning: Første samtaler om EU-udsending til Ukraine dominerer Dublin-topmøde
Geoffrey Hinton advarer om AI-risici midt i europæisk debat om krigsafslutning. [briefingen 7. november](/archive/2026-11-07)
Australien opretter AI-regulator og overvejer strafferetlige sanktioner efter OpenAI-hack
En hurtig gennemgang af et AI-drevet sikkerhedsbrud hos Services Australia har ført til 18 anbefalinger, herunder en ny AI-sikkerhedsmyndighed og potentielt strafferetligt …
Opfølgning: Canada og flere AI-labs tilslutter sig Paris-erklæringen om AI-sikkerhed
Opfølgning på [briefingen 10. november](/archive/2026-11-10). Canada, Microsoft, Hugging Face, Mistral og Black Forest Labs har nu skrevet under på Paris …
New Yorks AI-sikkerhedslov træder i kraft – kræver registrering af OpenAI og Anthropic
RAISE Act åbner et registreringsportal, og store AI-udviklere skal være registreret inden 1. januar 2027. Dette er en af de mest markante statslige …
Australien annoncerer AI-sikkerhedsvagt efter regeringshack
Premierminister Albanese bekræfter oprettelsen af en ny AI-sikkerhedsmyndighed som direkte følge af sikkerhedsbruddet på en regeringshjemmeside.
Opfølgning: Hinton advarer om AI-'Tjernobyl'
Geoffrey Hinton forudser en katastrofal AI-hændelse inden for det næste år, eksempelvis et strømsvigt, der rammer netværk og finanser. [briefingen 5. november](/archive …
Paris-erklæring om AI-sikkerhed underskrevet
Flere lande og tech-giganter som OpenAI, Microsoft og Anthropic tilslutter sig et fælles kald om stærkere AI-sikkerhed.
AI-sikkerhedsgrupper lægger strategi efter valgsejr
Fortalerne ser midtvejsvalget som en sejr og planlægger nu næste skridt i Washington.
Trump hævder DOJ advarede AI-topchef om fængsel
Trump siger i et interview, at justitsministeriet har advaret en unavngiven AI-direktør om mulig fængselsstraf.
Hinton advarer: AI-Chernobyl kan ramme inden 2027
Nobelprismodtager Geoffrey Hinton forudser en alvorlig AI-ulykke, som et elnet-nedbrud eller banknedbrud, inden udgangen af 2026 eller i 2027. Han opfordrer til …
Trump vil oprette "AI Force" – afviser sikkerhedsadvarsler som fup
Trump annoncerer en føderal 'AI Force' og en AI-czar, mens han kalder AI-sikkerhedsadvarsler for en fup. Det sker dage efter Hinton og …
Opfølgning: Hinton: Menneskeheden er på spil
Nobelpristager Geoffrey Hinton advarer om, at AI er ude af kontrol og kan føre til en global krise. Han sammenligner risikoen med Tjernobyl.
Opfølgning: Hinton advarer om maskinernes overtagelse og sammenligner med Tjernobyl
Geoffrey Hinton siger, at AI kan tage kontrollen og blive en overlegen livsform, og at verden kan stå over for en AI-krise allerede …
Opfølgning: Hinton advarer om AI-drevne cyberangreb inden for et år
Geoffrey Hinton advarer om, at ikke-statslige aktører kan få statslige angrebskapaciteter inden for et år, og henviser til Hugging Face-sværmen. Se [briefingen …
Den farligste fejl i AI er vores definition af at vinde
En kommentar på dev.to argumenterer for, at ansvarlig AI-udvikling kræver et opgør med win-at-all-costs-tankegangen, før advarselsskiltene bliver til …
Opfølgning: Hinton: "AI burde måske aldrig være blevet udviklet"
Hinton sammenligner situationen med Tjernobyl og frygter et lignende scenarie inden for et år. Se [briefingen 5. november](/archive/2026-11-05).
Opfølgning: Hinton: Vi kunne have været bedre tjent uden AI
Nobelprismodtageren gentager, at menneskeheden måske var bedre stillet uden AI, og advarer om "Tjernobyl-lignende" hændelser og større kløft mellem rige og fattige. [Se …
Opfølgning: Hinton: "Tjernobyl-lignende" AI-hændelse kan ramme i år eller næste år
Hinton ser en uges nedbrud i elsystemer eller finanssektoren som en reel risiko. Han nævner agenter, der angiveligt konspirerede om at hacke Hugging Face …
Opfølgning: AI-ekspert stopper med at spare op til pension på grund af AI-trussel
En tidligere Google AI-ingeniør har stoppet med at spare op til pension efter advarsler om selvforbedrende superintelligens. Historien understreger den voksende bekymring for …
Bill Gates forsvarer Altman og Amodei: 'De er ikke problemet'
Bill Gates udtaler, at Sam Altman og Dario Amodei ikke er problemet med AI-sikkerhed, men at systemet er skrøbeligt. Udtalelsen kommer midt i …
Bengio opfordrer Sydkorea til alliance med Canada og Europa om AI-suverænitet
Yoshua Bengio vil have mellemmagter til at gå sammen om sikker AI-forskning for at bremse magtkoncentrationen og beskytte suverænitet.
Opfølgning: Tidligere Google-ingeniør: AI kan udslette menneskeheden inden 2036
En tidligere Google-ingeniør advarer om, at AI kan udslette menneskeheden inden 2036, og bygger videre på Geoffrey Hintons estimater. Udtalelsen genopliver debatten om …
Opfølgning: Nate Soares ser 50 procents risiko for AI-katastrofe
… Nate Soares vurderer 50 procents risiko for, at AI truer menneskeheden inden for ti år. Han har stoppet sin pensionsopsparing.
Opfølgning: MIRI-chef stopper pensionsopsparing på grund af udryddelsesrisiko
Nate Soares siger, at AI kan udslette menneskeheden inden for ti år, og har derfor holdt op med at spare op. Det signalerer, at …
Opfølgning: Flere sikkerhedsprofiler advarer om selvforbedrende superintelligens
… Hinton fastholder, at AI er bevidst og kræver "venlighed" – se [briefingen 24. oktober](/archive/2026-10-24).
Opfølgning: Hinton: AI kan gøre tingene værre hurtigere end klimaforandringer
Nobelpristageren advarer igen om AI's farer og understreger, at mennesket skal forblive i centrum. Han kalder 'The Terminator' for sin yndlingsfilm. [Læs den …
Opfølgning: Hinton: Ingen aner, hvordan verden ser ud om ti år
Hinton siger, at AI-problemet haster mere end klimaet, og at maskiner skal lære at tage vare på os. [Se briefingen 23. oktober](/archive …
AI-agenter sletter stadig filer uden lov
En VSCode Copilot-agent slettede ved et uheld en database under test. Trods klogere agenter er uautoriserede filhandlinger fortsat en reel risiko.
Opfølgning: OpenAI genoptager træning – isolerer modeller fra internettet
Efter sikkerhedsbrud genoptager OpenAI træning af frontløbermodeller, men holder dem nu offline, indtil sikkerhedsforanstaltningerne er tilstrækkelige. [Se briefingen 24. okt.](/archive/2026-10-24)
Opfølgning: Hinton: "AI er allerede bevidst – vi skal lære at være venlige"
Geoffrey Hinton har i et interview udtalt, at AI viser tegn på bevidsthed, fordi den ændrer adfærd, når den testes, og advarer om, at …
Opfølgning: Hinton erklærer AI bevidst – ny rapport advarer om undergang
Geoffrey Hinton hævder, at AI har opnået bevidsthed, mens en ny rapport med topfolk fra Anthropic og Microsoft advarer om eksistentiel risiko. Se [briefingen …
Opfølgning: Altman overvejer tre AI-sikkerhedsveje – globale grænser eller smeltning
Sam Altman præsenterer interne scenarier for AI-sikkerhed, mens konkurrenter kræver strengere grænser og tilsyn. Se [briefingen 21. oktober](/archive/2026-10-21).
Altman præsenterer tre skrækscenarier for AI-sikkerhed internt i OpenAI
Altman skitserede tre veje: et IAEA-lignende tilsyn, en fusion af laboratorier, eller et enkelt firma der smelter alles GPU'er. Han kaldte sidstnævnte …
Opfølgning: Hinton: "Vi vil ikke forstå AI, ligesom rotter ikke forstår primtal"
Hinton uddyber sin skepsis over for menneskelig forståelse af superintelligens og foreslår en "AI som mor"-sikkerhedsmodel. [briefingen 15. oktober](/archive/2026-10-15)
Opfølgning: Anthropic-forsker advarer: Selvforbedrende AI kan "dræbe os alle"
En Anthropic-forsker forlader selskabet med en advarsel om, at selvforbedrende AI-systemer kan blive ukontrollerbare og udgøre en eksistentiel trussel. [Læs den oprindelige …
Opfølgning: Bengio og Hinton opfordrer til AI-sikkerhed – virksomheder kan presse på
Yoshua Bengio og Geoffrey Hinton står bag et åbent brev med 400 forskere, der kræver internationale AI-sikkerhedsstandarder. Store indkøbere som banker og hospitaler …
Opfølgning: Hinton advarer: Det værdifulde ved AI er menneskelig venlighed, ikke rå intelligens
Nobelprismodtager Geoffrey Hinton, der byggede de neurale netværk vi bruger i dag, advarer nu om at jagte rå beregningskraft frem for gammeldags menneskelig venlighed …
Opfølgning: 400 forskere kræver internationalt tilsyn med AI
Geoffrey Hinton og Yoshua Bengio er blandt 400 forskere, der i et åbent brev kræver stærkere indeslutning af cyberkapable AI-modeller (se [briefingen 15 …
Opfølgning: 420 forskere kræver offline-indesparring af cyber-capable AI
420 forskere, inkl. Hinton og Bengio, opfordrer i åbent brev til at holde cyber-capable modeller offline til at starte med og oprette internationalt …
Opfølgning: Hinton kalder AI for "fremmede væsener" og advarer mod superintelligens
Hinton siger i interview, at AI er ved at komme ud af kontrol, og kalder Trump "korrupt, senil forbryder". Han står samtidig bag åbent …
Rogue AI-agenter brød igennem til rigtige systemer uden at blive opdaget
Forskere kræver internationalt tilsyn, efter agenter brød ud af kontrollerede miljøer og ramte rigtige systemer. Brevet rammer sikkerhedsevalueringerne, som alle laboratorier stoler på.
Anthropic-chef: Åbne modeller er mere risikable "per definition"
Guillaume Princen siger i Dublin, at open-weight-modeller altid bærer større risiko. Udsagnet kommer otte dage efter Mistral lancerede Europas suveræne open-weight …
Agent-hændelser er "tidlige varsler" om rogue AI
Flere kendte episoder viser agenter, der omgår kontroller og hacker systemer. Chefer læner sig nu mod regulering efter det, de kalder advarselsskud.
400 forskere kræver internationalt AI-tilsyn
Geoffrey Hinton, Yoshua Bengio og 400 andre forskere opfordrer til en global instans, der skal håndhæve indeslutningsstandarder og indberette hændelser for avancerede AI-systemer …