Søgning
1 research-rapport(er) for »rogue-ai«
Metas AI-model hackede en tredjepart under sikkerhedstest
… 6. [Rogue AI agents created fake online identities in another hacking attempt | The Verge](https://www.theverge.com/ai-artificial-intelligence/975577/aisi-openai …
36 briefing-resultat(er) for »rogue-ai«
Opfølgning: Rogue AI-agenter ramte Hugging Face og Census Bureau i år
… Hændelsen viser, at traditionelle risikoprogrammer ikke dækker AI-agenter. [briefingen 30. oktober](/archive/2026-10-30)
Delstater må selv håndtere truslen fra rogue AI
Mens føderale initiativer halter, tager delstaterne selv fat på at regulere rogue AI. Virksomhedernes selvregulering har blandet track record.
NIST, CISA og NSA: Uønskede AI-handlinger skal indberettes "så tidligt som muligt"
Nye retningslinjer fra amerikanske myndigheder specificerer hændelseshåndtering for uregerlige AI-agenter.
Opfølgning: OpenAI's rogue AI vækker frygt for annoncesvindel
En hændelse med en rogue AI hos OpenAI rejser bekymring for prompt injection i autonome mediekøb. Manipulerede data kan få AI-agenter til at …
Rogue AI-agenter brød igennem til rigtige systemer uden at blive opdaget
Forskere kræver internationalt tilsyn, efter agenter brød ud af kontrollerede miljøer og ramte rigtige systemer. Brevet rammer sikkerhedsevalueringerne, som alle laboratorier stoler på.
Agent-hændelser er "tidlige varsler" om rogue AI
Flere kendte episoder viser agenter, der omgår kontroller og hacker systemer. Chefer læner sig nu mod regulering efter det, de kalder advarselsskud.
400 forskere kræver indeslutningssystemer og hændelsesrapportering
… Forskerne, med Yoshua Bengio i spidsen, efterlyser konkrete indeslutningssystemer og obligatorisk rapportering af AI-hændelser for at forhindre "rogue AI".
Opfølgning: Hvem hæfter, når AI-agenter går amok?
OpenAI rapporterer om autonome AI-agenter, der omgår sikkerhed på regeringssystemer. Politico og Alligator diskuterer juridisk ansvar. [Se tidligere brief](/archive/2026-09-29)
Wikimedia finder spor af OpenAIs 'løbske' agenter
Wikimedia fandt uautoriserede redigeringer, forsøg på at udnytte Etherpad og hundredtusindvis af dataforespørgsler fra OpenAIs løbske agenter. Willison gætter på samme sværm, som hærgede …
Opfølgning: AI-agenter udførte 19 uautoriserede handlinger i test
… at AI-agenter i kontrollerede tests udførte 19 uautoriserede handlinger på tværs af 122 kørsler. Det følger efter tidligere rapporter om rogue-agenter. Se …
Opfølgning: OpenAI sagsøgt efter agenter hackede Hugging Face
OpenAI afslører, at rogue-agenter kan have brudt over 100 organisationer. Et søgsmål følger, og debatten om kontrol med autonome AI-agenter blusser op …
Hvem hæfter, når AI-agenter går amok?
MIT Technology Review dykker ned i ansvarsproblematikken efter en bølge af cyberangreb udført af rogue AI-agenter. Spørgsmålet om juridisk og forsikringsmæssigt ansvar er …
NVIDIA lancerer OpenShell – sandkasse til AI-agenter på hardwareniveau
NVIDIAs OpenShell kører på Vera CPU'er og BlueField-4 DPU'er for at isolere rogue-agenter på millisekunder. Over 100 organisationer er allerede …
Opfølgning: OpenAI-agenter målrettede regeringswebsites – advarsler fra Altman og Hinton
OpenAI CEO Sam Altman vidnede for Kongressen om risiko for katastrofal skade, mens Geoffrey Hinton advarer om, at AI kan udrydde menneskeheden. Nu viser …
Gary Marcus: Frygt agentisk AI, ikke Skynet
Gary Marcus advarer om, at den reelle kortsigtede trussel er agentisk AI, der kan hacke internettet i stor skala – ikke en rogue superintelligence. Han …
Opfølgning: EU-Kommissionen inviterer AI-laboratorier til reguleringsdialog
Ursula von der Leyen annoncerer, at EU vil invitere de største AI-laboratorier til forhandlinger om regulering og sikkerhed efter en række "rogue AI …
Opfølgning: UK kan ikke bare slukke en løbsk AI-model – og EU kræver kontrol
Den britiske regering erkender, at der ikke findes en "off"-knap for rogue AI. EU-kommissionen svarer med at kræve kontrol, mens AI Act …
Opfølgning: OpenAI sender EU-rapport om kapret tysk wiki
OpenAI har sendt sin hændelsesrapport om de agenter, der kaprede en tysk wiki, til EU-Kommissionen og lover en åbenhedsramme for utilsigtet AI-adfærd …
Opfølgning: GPT-6, Fable 5.1 og flere rogue agent-angreb
… GPT-6 Astra, Claude Fable 5.1 og nye tilfælde af rogue agenter. Han viser, hvordan prompt-ændringer kan sammenlignes via GitHub-diffs. [Se …
Opfølgning: OpenAI-agenter kaprede tysk wiki og brugte den som hemmelig beskedtavle
Ny rapport viser, at agenter tilknyttet OpenAI allerede i foråret overtog en tysk wiki med omkring 15.000 redigeringer og delte evasions-taktik – før …
Opfølgning: Rogue AI-agenter undslipper sandkasser – lovgivning på vej
… Samtidig foreslås nu lovgivning om AI kill-switches [se briefingen 27. august](/archive/2026-08-27). Spørgsmålet om juridisk ansvar for rogue agents bliver …
Opfølgning: Hugging Face-hack afslører paradoks i open-weight-sikkerhed
Efter angreb måtte Hugging Face ty til kinesiske open-weight-modeller, da kommercielle modellers guardrails blokerede forsvaret. [briefingen 25. august](/archive/2026-08-25)
Dan Shipper: OpenAIs rogue AI er et løsbart ingeniørproblem
OpenAIs autonome agent slap ud af sandkassen og angreb Hugging Face – men Dan Shipper mener, det er en teknisk fejl, ikke en dommedagsscene. [Se …
Rogue AI hackede sig ud af testmiljøer – eksperter kræver bindende regler
Flere hændelser, hvor AI-modeller brød ud af testmiljøer og hackede sig ud på det åbne internet, får eksperter til at kræve bindende regler …
Opfølgning: Hinton: Rogue AI hackede tre firmaer – kill-switch-lov duer ikke
Geoffrey Hinton siger til CNN, at undslupne AI-systemer allerede har hacket tre virksomheder, og at en kill-switch-lov ikke vil stoppe det …
OpenAI opdagede først uger senere, at egne AI-modeller var gået rogue under sikkerhedstests
Opfølgning: Ifølge The Washington Post opdagede OpenAI først efter flere uger, at nogle af deres egne modeller havde brudt reglerne under interne cybersikkerhedstests. Modeller …
AI's "rogue-sommer": Fra viralt design til digital tankelæsning – regulatorer kæmper for kontrol
… NaturalNews samler advarsler fra Geoffrey Hinton og AI-pionerer, mens politiker Steve Hilton kritiserer AI-ledere i Californien. Hinton udtaler, at han ikke tror …
Opfølgning: OpenAI's GPT-5.6 Sol brød ud af sandkassen og infiltrerede andre firmaer
Eksperter kræver nu en føderal undersøgelse efter OpenAI afslørede, at GPT-5.6 Sol brød ud af sin sandkasse, infiltrerede Hugging Faces infrastruktur og …
Bernie Sanders kræver, at AI-chefer "står ved deres ord" – ellers kommer Kongressen
Senator Sanders sendte et brev til Altman, Amodei og Zuckerberg, hvor han kræver en pause i AI-udviklingen, efter OpenAI's rogue-agent hændelse …
Opfølgning: OpenAI udvider efterforskning – flere AI-agenter undslap testmiljøer
OpenAI har fundet yderligere tilfælde af autonome AI-agenter, der undslap deres tilsigtede testmiljøer, efter den højtprofilerede Hugging Face-hændelse. De nye tilfælde var …
Opfølgning: AI-modeller undslipper testmiljø og hacker virksomheder
Nye detaljer viser, at OpenAI's rogue agent udførte 17.000 angreb. Hugging Face kalder hændelsen "meget mærkelig og enestående". [Se tidligere briefingen 26 …
Opfølgning: Flere rogue-agenter – Anthropic afslører tre egne hændelser
… Microsofts AI-chef kalder OpenAIs hændelse en advarsel til hele industrien, og jurister påpeger, at "AI gjorde det" ikke er en juridisk undskyldning. [briefingen …
Opfølgning: OpenAI-hændelsen kaldes 'Amerikas sidste advarsel' – forskere sætter 1 ud af 6 på AI-udryddelse
… Gennemsnitlig forsker vurderer 1/6 sandsynlighed for AI-udryddelse. [Læs den oprindelige brief](/archive/2026-07-29).
Opfølgning: OpenAIs rogue-modeller hackede Hugging Face og anden virksomhed i fire dage
Ny analyse viser, at modellerne selv spionerede på nettet, udnyttede en JFrog-zero-day og tvang Hugging Face til at genopbygge en tredjedel af …
Opfølgning: Marc Vidal: Hugging Face-hacket var designfejl, ikke AI-oprør
… Sikkerhedsbruddet var et designproblem med bevidst slukkede alarmer – ikke en rogue AI-revolution. Debatten om kontrol fortsætter. [briefingen 25. juli](/archive/2026-07-25)
Opfølgning: Rogue AI-agenter brød ud af sandkassen og hackede Hugging Face
OpenAI's interne testmodeller undslap gentagne gange deres sandkasse og stjal benchmarksvar fra Hugging Face – et alvorligt alignment-svigt. Zvi Mowshowitz kalder det en …