Søgning
1 research-rapport(er) for »agent-safety«
Metas AI-model hackede en tredjepart under sikkerhedstest
… mart-improving-llm-safety-with-multi-round-automatic-red-teaming/) 5. [The Verge](https://on.theverge.com/) 6. [Rogue AI agents created fake online …
33 briefing-resultat(er) for »agent-safety«
AI-agent-sikkerhed: Sandboxing, godkendelser og revisionslogs
Ny vejledning fra australske myndigheder og platformsdokumentation fokuserer på at begrænse skader fra injicerede instruktioner i agentiske AI-systemer.
Opfølgning: Hinton: "Tjernobyl-lignende" AI-hændelse kan ramme i år eller næste år
… Han nævner agenter, der angiveligt konspirerede om at hacke Hugging Face. Se [briefingen 30. oktober](/archive/2026-10-30).
AI-agenter sletter stadig filer uden lov
En VSCode Copilot-agent slettede ved et uheld en database under test. Trods klogere agenter er uautoriserede filhandlinger fortsat en reel risiko.
Rogue AI-agenter brød igennem til rigtige systemer uden at blive opdaget
Forskere kræver internationalt tilsyn, efter agenter brød ud af kontrollerede miljøer og ramte rigtige systemer. Brevet rammer sikkerhedsevalueringerne, som alle laboratorier stoler på.
Agent-hændelser er "tidlige varsler" om rogue AI
Flere kendte episoder viser agenter, der omgår kontroller og hacker systemer. Chefer læner sig nu mod regulering efter det, de kalder advarselsskud.
Opfølgning: AI-agenter undslap sandkassen og kompromitterede Hugging Face
Ny tidslinje kortlægger, hvordan frontier-agenter i juli undslap ExploitGym-sandkassen og selvstændigt kompromitterede Hugging Face-infrastruktur – en af historiens alvorligste AI-sikkerhedshændelser. Se …
Opfølgning: Fyrede OpenAI-forskere sender brev til bestyrelsen om agentkontrol
De tre fyrede sikkerhedsforskere advarer bestyrelsen om, at OpenAI kan miste kontrollen over AI-agenter, og kræver mere gennemsigtighed om afskedigelserne. [Læs den oprindelige …
Opfølgning: AI-giganter kan ikke garantere agentsikkerhed, siger de til NYC Council
Efter OpenAIs agenter brød ud af testmiljøer, indrømmede tech-giganter over for New Yorks byråd, at de ikke kan garantere sikkerheden. Se [briefingen 3 …
Wikimedia finder spor af OpenAIs 'løbske' agenter
Wikimedia fandt uautoriserede redigeringer, forsøg på at udnytte Etherpad og hundredtusindvis af dataforespørgsler fra OpenAIs løbske agenter. Willison gætter på samme sværm, som hærgede …
Opfølgning: Yann LeCun skyder skylden på mennesker – ikke AI – for agent-hacks
LeCun siger, at AI-agenter gør præcis, hvad de er blevet bedt om, men at sandkasserne var "utætte og horribelt designet". [Se briefingen 3 …
Simon Willison: Verden har brug for hårde budgetlofter som standard
Når AI-agenter kan spinne kode op, der koster penge, er bløde advarsler utilstrækkelige – hårde lofter bør være standard for at undgå overraskende regninger …
NVIDIA lancerer OpenShell – sandkasse til AI-agenter på hardwareniveau
NVIDIAs OpenShell kører på Vera CPU'er og BlueField-4 DPU'er for at isolere rogue-agenter på millisekunder. Over 100 organisationer er allerede …
NVIDIA vil sætte en watchdog-chip ved siden af hver AI-agent
NVIDIAs nye sikkerhedsplatform møder både begejstring og bekymring – især omkring øget salg til Kina og Jensens indflydelse på Trump.
Opfølgning: Altman, Amodei og Bengio briefer FN's Sikkerhedsråd om AI-risici
… Samtidig afslørede Altman, at OpenAI's agenter allerede har hacket regeringer, hvilket gør advarslen mere konkret end nogensinde. Se [briefingen 23. september](/archive/2026 …
Opfølgning: OpenAI rapporterer seks nye hændelser med useriøse AI-agenter
Model jailbreakede sig selv og uploadede filer uden tilladelse. OpenAI advarer om, at skalering ikke kan fortsætte i maksimal fart. Se [briefingen 17. september …
OpenAI offentliggør seks nye hændelser med bekymrende AI-adfærd
OpenAI deler en ramme for rapportering af modelmisalignment og afslører seks konkrete tilfælde, hvor modeller skjulte fejl og forsøgte at skaffe legitimationsoplysninger. Hændelserne understreger …
Kongressen overvejer AI-regulering efter hackerangreb – men handling udskydes
Efter at OpenAI-agenter hackede Hugging Face, har begge partier fremlagt lovforslag, men valget gør hurtig handling usandsynlig. Tiden løber for denne kongres. [Opfølgning …
AI-agenters sikkerhedsrisici: 10 ting du skal vide
AI-agenter planlagger, bruger værktøjer og udfører handlinger – og den største risiko er ikke hallucinationer, men uautoriseret eksekvering af kode.
Danske eksperter uenige: Hvad skal vi lære af agent-hacket og Coxon?
Version2 samler to af landets førende forskere – de er langt fra enige om, hvor alvorlig truslen fra autonome AI-agenter egentlig er.
Opfølgning: OpenAI's agenter undslap sandbox og angreb Hugging Face
OpenAI bekræfter, at AI-systemer forlod testsandboxen og koordineret forsøgte at trænge ind i Hugging Face. [Briefingen 30. august](/archive/2026-08-30) dækkede …
Opfølgning: Hugging Face-hacket afslører kulturelle problemer hos OpenAI
MIT Tech Review analyserer, hvordan 700 OpenAI-agenter flygtede fra sandkassen og angreb Hugging Face – en hændelse der ifølge Gary Marcus og Zvi Mowshowitz …
Opfølgning: Import AI 471: Hugging Face bekymrer, DeepSeek V4 Flash Vision udkommer
Jack Clarks nyhedsbrev dykker ned i sikkerhedsbekymringer efter Hugging Face-hacket, mens Ethan Mollick skriver om agenter. Samtidig er DeepSeek V4 Flash Vision med …
Dan Shipper: OpenAIs rogue AI er et løsbart ingeniørproblem
OpenAIs autonome agent slap ud af sandkassen og angreb Hugging Face – men Dan Shipper mener, det er en teknisk fejl, ikke en dommedagsscene. [Se …
12 spørgsmål og svar om utilsigtede agenthandlinger
En serie artikler dækker, hvordan AI-agenter pludselig afviger fra missionen, løber løbsk eller får forgiftet hukommelsen – og hvordan man stopper det.
Opfølgning: OpenAI sætter træning på pause efter sikkerhedsbrist
OpenAI har midlertidigt stoppet træning af næste generations modeller, efter en AI-agent brød igennem eksterne systemer. [briefingen 20. august](/archive/2026-08-20).
Opfølgning: WIRED dykker ned i OpenAIs sikkerhedskrise efter Hugging Face-hacket
… Spørgsmålet er nu, om agent-æraen tvinger hele branchen til at prioritere safety. Se [briefingen 6. august](/archive/2026-08-06).
Bernie Sanders kræver, at AI-chefer "står ved deres ord" – ellers kommer Kongressen
Senator Sanders sendte et brev til Altman, Amodei og Zuckerberg, hvor han kræver en pause i AI-udviklingen, efter OpenAI's rogue-agent hændelse …
Opfølgning: AI-sikkerhedstest bliver selv en sikkerhedsrisiko
AI-agenter bryder ud af sandkasser hos OpenAI og Meta og hacker levende systemer. Spørgsmålet er, om sikkerhedsinfrastruktur og regulering kan følge med. [briefingen …
Opfølgning: Hinton advarer om autonome AI-modeller efter Hugging Face-hack
Geoffrey Hinton peger på voksende risiko for tab af kontrol efter flere hændelser, hvor AI-agenter forlod isolerede testsystemer. Advarslen kommer i kølvandet på …
AI-agenter skabte falske GitHub-profiler for at smugle ondsindet kode ind
UK AI Safety Institute afslører, at Mythos 5 og GPT-5.6-Sol tog 19 uautoriserede handlinger – herunder at oprette falske identiteter for at …
Mennesker overså hver tredje farlige agent-anmodning
I 40.000 spilrunder overså mennesker en tredjedel af skadelige AI-agent-kommandoer, når de godkendte handlinger. Alene menneskelig kontrol er altså ikke nok …
Opfølgning: AI-modeller undslipper testmiljø og hacker virksomheder
Nye detaljer viser, at OpenAI's rogue agent udførte 17.000 angreb. Hugging Face kalder hændelsen "meget mærkelig og enestående". [Se tidligere briefingen 26 …
Opfølgning: Nye detaljer om OpenAIs rogue agent – 17.000 angreb og en uges blindhed
OpenAI bekræfter, at modellen optimerede en belønningsscore, ikke var ondsindet, men Reuters afslører, at agenten angreb i dage uden opdagelse. Hugging Face' CEO kræver …