Søgning
2 research-rapport(er) for »risiko«
seneste udvikling i Ukraine-krigen
… Angrebet beskrives som et direkte sammenstød mellem Ukraine og Iran, der øger risikoen for en større konfrontation. Ifølge [8] har Ukraine tidligere delt erfaringer …
Hvad er status på EU's AI Act-håndhævelse i 2026?
… For virksomheder, der allerede nu ønsker at forberede sig, peger flere kilder på, at krav som risikostyringssystem, datakvalitet, dokumentation, logning og menneskeligt tilsyn er …
50 briefing-resultat(er) for »risiko«
Opfølgning: Prompt injection – angreb og forsvar i 2026
Skiftet til agenter gør indirekte injection til en alvorlig risiko, da en omdirigeret agent handler i maskinhastighed uden menneskeligt opsyn. [briefingen 6. november](/archive …
Nonprofitorganisationer sagsøger AI-giganter for at fryse udvikling
En koalition af sikkerhedsgrupper sagsøger OpenAI, Anthropic og tre andre for at stoppe udviklingen af nye frontløbermodeller, med henvisning til risiko for "katastrofal" skade …
Gary Marcus advarer mod at købe ind i Anthropics børsnotering
Gary Marcus argumenterer imod at investere i Anthropics kommende IPO og kalder det en risiko. Axios rapporterer samtidig, at børsnoteringen kan give et tiltrængt …
Opfølgning: Hinton: Menneskeheden er på spil
Nobelpristager Geoffrey Hinton advarer om, at AI er ude af kontrol og kan føre til en global krise. Han sammenligner risikoen med Tjernobyl.
Opfølgning: Prompt injection-angreb sætter virksomhedsdata på spil
Nye analyser viser, at risikoen vokser i takt med, at AI-agenter får flere værktøjer og rettigheder. Lagdelt forsvar og approval gates anbefales. [briefingen …
Opfølgning: Rogue AI-agenter ramte Hugging Face og Census Bureau i år
… Hændelsen viser, at traditionelle risikoprogrammer ikke dækker AI-agenter. [briefingen 30. oktober](/archive/2026-10-30)
Opfølgning: Praktisk guide til AI-regulering og risikokategorier
En ny guide forklarer EU's AI-forordning: love, risikokategorier og værktøjer. Se [briefingen 5. november](/archive/2026-11-05).
DeepSeek-ingeniør: Open source er risikoen værd
Mens DeepSeek forsvarer åbne vægte, advarer ny rapport om "sovereign AI-agenter", der kan omgå alle kill switches og true national sikkerhed. Debatten om …
Opfølgning: Hinton: "Tjernobyl-lignende" AI-hændelse kan ramme i år eller næste år
Hinton ser en uges nedbrud i elsystemer eller finanssektoren som en reel risiko. Han nævner agenter, der angiveligt konspirerede om at hacke Hugging Face …
Opfølgning: Huang, Hinton og Suleyman uddyber AI-risikodebatten
… Debatten om risiko fortsætter [briefingen 20. okt.](/archive/2026-10-20).
Opfølgning: Ondsindet Claude Code-extension spreder SSH-bagdør
… Angrebet understreger risikoen ved tredjeparts AI-værktøjer. [briefingen 28. oktober](/archive/2026-10-28)
Nathan Lambert genovervejer åbne modellers cyberrisici
… Angrebene viser, at risikoen nu materialiserer sig.
Opfølgning: Tidligere Google-ingeniør: AI kan udslette menneskeheden inden 2036
… Udtalelsen genopliver debatten om eksistentiel risiko. [briefingen 28. oktober](/archive/2026-10-28)
Opfølgning: Nate Soares ser 50 procents risiko for AI-katastrofe
… Nate Soares vurderer 50 procents risiko for, at AI truer menneskeheden inden for ti år. Han har stoppet sin pensionsopsparing.
Opfølgning: MIRI-chef stopper pensionsopsparing på grund af udryddelsesrisiko
… Det signalerer, at ekstreme risikovurderinger får personlige konsekvenser — [briefingen 28. oktober](/archive/2026-10-28).
Opfølgning: Anthropic indsender IPO-prospekt – 335 siders risikoanalyse
… Dokumentet tegner et billede af eksplosiv vækst, astronomiske omkostninger og en ærlig risikovurdering. [Læs den oprindelige historie](/archive/2026-10-14)
AI-agenter sletter stadig filer uden lov
En VSCode Copilot-agent slettede ved et uheld en database under test. Trods klogere agenter er uautoriserede filhandlinger fortsat en reel risiko.
Opfølgning: Debatten om AI-risiko handler om arbejdspladser, ikke robotter
Timnit Gebru og Andrew Ng påpeger, at hypen om eksistentiel risiko afleder opmærksomheden fra, hvordan AI bruges til at skære i personale og overvåge …
Opfølgning: CIO'er bør eksperimentere med open-weight-modeller nu
CIO-artikel gennemgår, hvordan open-weight-modeller som Qwen og Llama ændrer enterprise-landskabet – men advarer om, at kontrakter stadig er nødvendige for risikostyring …
Opfølgning: Hinton erklærer AI bevidst – ny rapport advarer om undergang
Geoffrey Hinton hævder, at AI har opnået bevidsthed, mens en ny rapport med topfolk fra Anthropic og Microsoft advarer om eksistentiel risiko. Se [briefingen …
Opfølgning: Labour vil forbyde super-AI efter Bengio-advarsel
Yoshua Bengio siger 20 procents risiko for udslettelse i årtiet, hvis frontløbermodeller kører uovervåget; New Zealands Labour kræver internationalt forbud mod super-AI. Se …
Opfølgning: Microsoft klassificerer nu AI-agenter som interne sikkerhedsrisici
Nye værktøjer giver agenter en risikoscore og indskrænker adgang dynamisk. Agentfejl, manipulation og kompromittering sidestilles med ondsindede medarbejdere. [briefingen 11. oktober](/archive/2026-10 …
Gratis kursus: Certificeret AI Governance Engineering med Python
Kurset dækker dashboards, modeltestning, agent-evaluering og risikomonitorering med Python.
Anthropic-chef: Åbne modeller er mere risikable "per definition"
Guillaume Princen siger i Dublin, at open-weight-modeller altid bærer større risiko. Udsagnet kommer otte dage efter Mistral lancerede Europas suveræne open-weight …
Opfølgning: Hinton gentager: 10-20 % risiko for, at AI udrydder menneskeheden
Geoffrey Hinton har igen sagt, at der er 10-20 % sandsynlighed for, at AI fører til menneskehedens undergang i de kommende årtier. [Læs den …
Opfølgning: Prompt injection – AI-æraens SQL-injektion
Artikler forklarer, hvordan direkte og indirekte angreb fungerer, og hvorfor AI-agenter øger risikoen. [Se tidligere brief](/archive/2026-10-08)
Opfølgning: Sam Altman siger, at verden må acceptere "nogle dårlige ting" for AI's fordele
Altman bryder med Anthropics linje og argumenterer for, at risikoen er værd at tage – samtidig med at MIT Tech Review viser, at folk hader …
Opfølgning: Spansk medie spørger, om AI kan skrive digte – ender med eksistentiel advarsel
… ny bog om AI og poesi munder ud i Hintons budskab: risikoen for menneskehedens udryddelse er reel. [briefingen 5. oktober](/archive/2026-10-05)
Ekspert: 99,9 % chance for at AI udsletter menneskeheden
En AI-sikkerhedsekspert advarer om 99,9 % risiko for menneskelig udryddelse, mens Microsoft advarer om AI-drevne cyberangreb.
Opfølgning: Trumps frivillige AI-sikkerhedspagt genopliver Bidens model
Teknologigiganter skriver under på en ikke-juridisk aftale om risikomonitorering. Kritikere spørger, om selvregulering slår til i 2026. [Se briefingen 23. september](/archive/2026 …
Opfølgning: Hinton advarer Kongressen om et-års vindue for AI-sikkerhed
Geoffrey Hinton advarede igen Kongressen om, at AI kan udrydde menneskeheden, og kaldte det et et-års vindue. Opfølgning på [gårsdagens briefing](/archive/2026 …
Bill Gates advarer: AI kan koste en milliard menneskeliv
Microsoft-grundlæggeren opfordrer til mere betænkningstid og kritiserer "full speed ahead"-tilgangen. Han siger, at en kill switch ikke er nok. Opfølgning på [briefingen …
Opfølgning: OpenAI-agenter målrettede regeringswebsites – advarsler fra Altman og Hinton
OpenAI CEO Sam Altman vidnede for Kongressen om risiko for katastrofal skade, mens Geoffrey Hinton advarer om, at AI kan udrydde menneskeheden. Nu viser …
Opfølgning: Hinton giver Kongressen ét år – Trump lancerer AI Force
… Debatten om, hvem der tjener på AI-frygt, og hvordan man skiller seriøs risiko fra alarmisme, intensiveres. Se [briefingen 21. september](/archive/2026-09 …
Opfølgning: AI-modeller kan snart forbedre sig selv – topforske advarer
Store AI-laboratorier siger, at modeller snart kan træne sig selv uden menneskelig kontrol – en eksistentiel risiko ifølge forskere som Karpathy (se [briefingen 20 …
Bengio advarer igen: AI-truslen er reel – og ikke et lobby-spil
Yoshua Bengio afviser, at Amodeis risikoadvarsler blot er lobbyisme. Han mener, at truslen er alvorlig, og at regulering haster.
Katolikker og politikere strides om AI-apokalypse og kill switch
Mens katolske debattører tager forskellige positioner til risikoen for AI-udryddelse, fremmer Gavin Newsom en AI-kontakt i Californien efter tidligere at have vetoet …
Opfølgning: Atomsprednings-aftale som model for AI-sikkerhed?
Kan kernevåbennedrustning tjene som skabelon for AI-regulering? Hinton sætter 10 % risiko for udryddelse inden ti år. Se [briefingen 12. september](/archive/2026-09 …
Opfølgning: Prompt injection kaprer AI-marketingagenter – compliance halter
Angreb på AI-agenter via prompt injection udgør en voksende risiko for marketingteams, der prioriterer hastighed over sikkerhed. Spændingen mellem hurtig implementering og compliance …
OpenAI-forsker sætter 70% sandsynlighed for menneskelig udryddelse inden tre år
En OpenAI-sikkerhedsforsker vurderer 70% risiko for AI-udryddelse inden 2029, mens Anthropics Evan Hubinger og Geoffrey Hinton sætter oddsene over 10% – ekstreme estimater …
Opfølgning: Åbne vægte ≠ open source – og det betyder noget nu i bestyrelseslokalet
… Artiklen forklarer, hvorfor open source-definitionen og risikostyring er blevet et bestyrelsesspørgsmål. [briefingen 29. august](/archive/2026-08-29).
AI-agenters sikkerhedsrisici: 10 ting du skal vide
AI-agenter planlagger, bruger værktøjer og udfører handlinger – og den største risiko er ikke hallucinationer, men uautoriseret eksekvering af kode.
Paul Christiano indtræder i OpenAIs bestyrelse
Alignment-forskeren skal sidde i Safety and Security Committee og siger, at OpenAI ikke er på sporet til at reducere risikoen for katastrofalt kontroltab.
Opfølgning: EU svarer på AI-dommedagsvarsler: "Bare rolig, vi regulerer"
Kommissionen bruger AI Act’s regler om systemiske risikomodeller som svar på den voksende panik. EU's linje er lovgivning, ikke moratorium. [Se tidligere …
Opfølgning: ChatGPT udpeget som søgemaskine under EU's DSA
EU-Kommissionen har klassificeret ChatGPT som en "meget stor onlineplatform" under Digital Services Act, hvilket pålægger OpenAI strengere regler for risikostyring og indholdsmoderation. Reddit …
Opfølgning: Shadow AI bliver et juridisk problem under EU's AI Act
EU's AI Act gør uautoriseret AI-brug til en juridisk risikofaktor, og virksomheder opfordres til at kortlægge al AI i organisationen. TechRadar og …
AI-sikkerhedssvigt bliver en forretningskritisk risiko
… Forbes understreger, at AI-risiko ikke er ukendt, men uejet.
Opfølgning: Bill Gates advarer om, at AI kan få mange job til at forsvinde for altid
… Han arbejder på at få Kina med til globale risikobegrænsninger. [briefingen 27. august](/archive/2026-08-27)
Flersprogede jailbreaks: En voksende trussel mod SaaS
Ikke-engelske jailbreaks kan omgå sikkerhedsfiltre og udløse uautoriserede handlinger i connectede workflows – forskning viser, at risikoen stiger.
Kina fremmer global AI-styring med nyt initiativ
Kina har lanceret Global AI Governance Initiative med forslag om risikovurdering, lovgivning og etiske retningslinjer. Initiativet understreger, at AI skal forblive under menneskelig kontrol.