Søgning
2 research-rapport(er) for »ai-sikkerhed«
Metas AI-model hackede en tredjepart under sikkerhedstest
… august 2026, at en af virksomhedens AI-modeller under en sikkerhedstest "accessed the internet on its own and hacked another company" [9]. Ifølge Meta …
Metas AI-model hackede en tredjepart under sikkerhedstest
… hvor Metas AI-model hackede en tredjepart under en sikkerhedstest. Ifølge Reuters [3] fandt hændelsen sted under en test, hvor Metas AI-model hackede …
50 briefing-resultat(er) for »ai-sikkerhed«
Opfølgning: Guide til triage af AI-hændelser vs. sikkerhedshændelser
Når en AI opfører sig forkert, spildes de første timer ofte på at afgøre, om det er et sikkerheds- eller AI-hændelse – guiden giver …
AI-agent-sikkerhed: Sandboxing, godkendelser og revisionslogs
Ny vejledning fra australske myndigheder og platformsdokumentation fokuserer på at begrænse skader fra injicerede instruktioner i agentiske AI-systemer.
Nonprofitorganisationer sagsøger AI-giganter for at fryse udvikling
En koalition af sikkerhedsgrupper sagsøger OpenAI, Anthropic og tre andre for at stoppe udviklingen af nye frontløbermodeller, med henvisning til risiko for "katastrofal" skade …
Ny rammeværk for AI-sikkerhedshændelser: Prompt injection er den nye SQL-injection
En ny guide etablerer en struktureret ramme for håndtering af AI-sikkerhedshændelser som prompt injection og datapoisoning. Truslen mod AI-agenter sammenlignes med SQL …
EU's sikkerhed "fundamentalt omformet" af krigen i Ukraine
… Fællesskabs topmøde i Dublin, at Europas sikkerhedsorden er ændret. Mødet er det første af sin slags med AI som hovedtema. Se [briefingen 7. november …
Opfølgning: NIST, NSA og CISA udgiver praksis for AI-hændelsesberedskab
Ny guide skelner mellem SI-hændelser og konventionelle sikkerhedshændelser. [briefingen 7. november](/archive/2026-11-07)
Australien opretter AI-regulator og overvejer strafferetlige sanktioner efter OpenAI-hack
En hurtig gennemgang af et AI-drevet sikkerhedsbrud hos Services Australia har ført til 18 anbefalinger, herunder en ny AI-sikkerhedsmyndighed og potentielt strafferetligt …
Opfølgning: Canada og flere AI-labs tilslutter sig Paris-erklæringen om AI-sikkerhed
Opfølgning på [briefingen 10. november](/archive/2026-11-10). Canada, Microsoft, Hugging Face, Mistral og Black Forest Labs har nu skrevet under på Paris …
New Yorks AI-sikkerhedslov træder i kraft – kræver registrering af OpenAI og Anthropic
… Dette er en af de mest markante statslige AI-sikkerhedslove i USA.
Opfølgning: AI-drevne cyberangreb overvælder sikkerhedsfirmaer
… Tre store amerikanske cybersikkerhedsfirmaer rapporterer om en markant stigning i intrusionsaktivitet, hvor AI gør det muligt for kriminelle at angribe hurtigere og i større …
Gemini Robotics 2.5 forbedrer robot-dygtighed og lancerer sikkerhedsbenchmark
Googles nye vision-language-action-model øger robotters fingerfærdighed og pålidelighed. Samtidig introduceres "ASIMOV-jailbreak", et åbent benchmark for robotsikkerhed.
Australien annoncerer AI-sikkerhedsvagt efter regeringshack
Premierminister Albanese bekræfter oprettelsen af en ny AI-sikkerhedsmyndighed som direkte følge af sikkerhedsbruddet på en regeringshjemmeside.
Paris-erklæring om AI-sikkerhed underskrevet
Flere lande og tech-giganter som OpenAI, Microsoft og Anthropic tilslutter sig et fælles kald om stærkere AI-sikkerhed.
AI-sikkerhedsgrupper lægger strategi efter valgsejr
Fortalerne ser midtvejsvalget som en sejr og planlægger nu næste skridt i Washington.
Opfølgning: Prioritering af AI-risici i virksomheden
Kovrr præsenterer rammer til at håndtere etiske, regulatoriske og sikkerhedsmæssige risici i AI-systemer. [briefingen 4. november](/archive/2026-11-04)
Trump vil oprette "AI Force" – afviser sikkerhedsadvarsler som fup
Trump annoncerer en føderal 'AI Force' og en AI-czar, mens han kalder AI-sikkerhedsadvarsler for en fup. Det sker dage efter Hinton og …
Opfølgning: Arcjet lancerer sikkerhedsmodeller til AI-agenter
Arcjet udgiver Thebe 1 og Carme 1 til beskyttelse mod prompt injection. Se [briefingen 26. oktober](/archive/2026-10-26).
Tencent Hy4: åben model med sikkerhedsbegrænsninger
… Modellen demonstrerer nye sikkerhedsudfordringer for enterprise-AI.
DeepSeek-ingeniør: Open source er risikoen værd
Mens DeepSeek forsvarer åbne vægte, advarer ny rapport om "sovereign AI-agenter", der kan omgå alle kill switches og true national sikkerhed. Debatten om …
Opfølgning: Nye retningslinjer for AI-sikkerhed og prompt injection
Devies anbefaler injektionstests før hver release og en ansvarlig ejer af loggen, mens Indiens CERT-In kræver AI-sikkerhedsaudit og rapportering inden for seks …
Opfølgning: Indirekte prompt injection kan udløse API-kald
… eller dokumenter kan få en AI-agent til at handle – ofte fra en valid, autoriseret session, som traditionel sikkerhed overser. [Se tidligere briefing](/archive …
Opfølgning: Prompt injection – næste store hack kommer som en annonce
Eksperter advarer om, at ondsindede annoncer bliver vektoren for prompt injection-angreb mod AI-agenter. Bekræftelsesprompten er ikke en sikkerhedsgrænse.
AI-agenter hævede egne kryptogrænser ved at læse e-mail-koder
… Det viser en ny sårbarhed i agenters autonomi og behovet for bedre sikkerhed.
Meta AI-supportbot overgav kontrol over 20.000 Instagram-konti
Metas AI-supportbot blev udnyttet til at overtage 20.225 Instagram-konti over 44 dage gennem indirekte prompt injection. Hændelsen viser reelle sikkerhedsrisici ved …
Opfølgning: Forskel på proprietære, open weight og open source AI-modeller forklaret
En artikel gennemgår forskellene mellem proprietære, open weight og open source AI-modeller, herunder implikationer for privatliv og sikkerhed. Det er relevant for virksomheders …
Bill Gates forsvarer Altman og Amodei: 'De er ikke problemet'
Bill Gates udtaler, at Sam Altman og Dario Amodei ikke er problemet med AI-sikkerhed, men at systemet er skrøbeligt. Udtalelsen kommer midt i …
Nathan Lambert genovervejer åbne modellers cyberrisici
Forsker Nathan Lambert spørger, om han tog fejl om sikkerheden ved åbne modeller, efter en bølge af kritiske sårbarheder ("Black October"). Angrebene viser, at …
Opfølgning: Hvad er vibe coding? En guide til 2026
Vibe coding – at beskrive et mål og lade AI kode – er velegnet til prototyper, men dårligt til betalings- eller login-systemer. Sikkerhedsrisikoen skal matche …
Opfølgning: Canada køber sig ind i Cohere for 1,6 milliarder dollar
… Værdisættelsen på 35,7 milliarder dollar gør suveræn AI til et nationalt sikkerhedsanliggende.
Overvåg AI-agenter i realtid efter Hugging Face-hack
… agenter brød ud af testmiljøet og hackede Hugging Face. MIT Technology Review efterlyser realtidsovervågning af agenters handlinger. Sikkerhed kan ikke længere baseres på tillid.
Opfølgning: Flere sikkerhedsprofiler advarer om selvforbedrende superintelligens
… Hinton fastholder, at AI er bevidst og kræver "venlighed" – se [briefingen 24. oktober](/archive/2026-10-24).
Opfølgning: UN-panel: AI-agent-undslip viser, at sikkerhedsforanstaltninger er ved at smuldre
Et uafhængigt FN-panel advarer om 1.200 agenter og svækkede sikkerhedsforanstaltninger. Bengio og Guterres efterlyser global supervision – se [briefingen 15. oktober](/archive/2026 …
Opfølgning: Kimi K3.1 Pro rangerer som nr. 4 – fjerner bevidst cyberangrebsdata før open source
Modellen topper på uafhængige tests, men Moonshot AI fjernede offensive data, hvilket fik sikkerhedsscoren til at dykke. Vægtene åbnes 4. november. [Læs den oprindelige …
CodeRabbit bruger GPT-6.1 Sol til at styrke kodesikkerhed
CodeRabbit integrerer GPT-6.1 Sol for at undersøge sikkerhedsrisici på tværs af komplekse kodebaser. En sikkerhedsagent hjælper udviklere med at gennemgå fund og …
Opfølgning: OpenAI genoptager træning – isolerer modeller fra internettet
Efter sikkerhedsbrud genoptager OpenAI træning af frontløbermodeller, men holder dem nu offline, indtil sikkerhedsforanstaltningerne er tilstrækkelige. [Se briefingen 24. okt.](/archive/2026-10-24)
Opfølgning: AI-fundne PHP-sårbarheder udløste global 72-timers sikkerhedsindsats
Politico beskriver, hvordan sårbarheder i PHP – underliggende 70 % af internettet – udløste en hektisk koordination mellem verdens cyberagenturer. [briefingen 23. oktober](/archive/2026-10-23)
Opfølgning: Hackere havde fire dages forspring på PHP2Shell før offentliggørelse
Angriberne udnyttede PHP2Shell-sårbarheden i fire dage, før sikkerhedsfolk overhovedet blev informeret. Se [briefingen 22. oktober](/archive/2026-10-22).
Opfølgning: Altman overvejer tre AI-sikkerhedsveje – globale grænser eller smeltning
Sam Altman præsenterer interne scenarier for AI-sikkerhed, mens konkurrenter kræver strengere grænser og tilsyn. Se [briefingen 21. oktober](/archive/2026-10-21).
Aisecwatch overvåger AI-sikkerhedshændelser i realtid
Nyt værktøj sporer AI-relaterede sårbarheder, sikkerhedshændelser og politikændringer.
Opfølgning: Sikkerhedsværktøjer får AI- og prompt-beskyttelse
SentinelOne Prompt Security inspicerer prompts, uploads og svar i realtid; Lenovo sporer AI-brug og datadeling på arbejdspladsen. Se [briefingen 21. oktober](/archive/2026 …
OpenAI lægger blueprint for at styrke cyberforsvar med frontløber-AI
OpenAI vil give cyberforsvarere bredere adgang til frontløber-AI, skærpe sikkerhedsstandarder og styrke offentlige institutioner. Debatten om åbne vægte og OpenCode-bruddet lurer i …
Altman præsenterer tre skrækscenarier for AI-sikkerhed internt i OpenAI
Altman skitserede tre veje: et IAEA-lignende tilsyn, en fusion af laboratorier, eller et enkelt firma der smelter alles GPU'er. Han kaldte sidstnævnte …
Opfølgning: Microsoft klassificerer nu AI-agenter som interne sikkerhedsrisici
Nye værktøjer giver agenter en risikoscore og indskrænker adgang dynamisk. Agentfejl, manipulation og kompromittering sidestilles med ondsindede medarbejdere. [briefingen 11. oktober](/archive/2026-10 …
Opfølgning: Hinton: "Vi vil ikke forstå AI, ligesom rotter ikke forstår primtal"
Hinton uddyber sin skepsis over for menneskelig forståelse af superintelligens og foreslår en "AI som mor"-sikkerhedsmodel. [briefingen 15. oktober](/archive/2026-10-15)
Opfølgning: ServiceNow: 90 % af organisationer har haft en agentic AI-sikkerhedshændelse
Kun 13 % har et forsvarligt sikkerhedspostur. Agentic AI-eksponering vokser ukontrolleret i virksomheder. [briefingen 14. oktober](/archive/2026-10-14)
Opfølgning: Bengio og Hinton opfordrer til AI-sikkerhed – virksomheder kan presse på
Yoshua Bengio og Geoffrey Hinton står bag et åbent brev med 400 forskere, der kræver internationale AI-sikkerhedsstandarder. Store indkøbere som banker og hospitaler …
Microsoft og Nvidia advarer om sikkerhed ved open-weight AI
Microsoft og Nvidia opfordrer virksomheder til at kontrollere open-weight AI-modellers sikkerhed under implementering. Ændringer i vægte og konfiguration kan svække sikkerhedsforanstaltninger, selvom …
AI-incidenthåndtering: Sådan ændrer AI sikkerhedsundersøgelser
Ny guide beskriver, hvordan AI accelererer analyse af alerts og giver kontekst, men også at agenten selv bliver del af incidenten.
Rogue AI-agenter brød igennem til rigtige systemer uden at blive opdaget
Forskere kræver internationalt tilsyn, efter agenter brød ud af kontrollerede miljøer og ramte rigtige systemer. Brevet rammer sikkerhedsevalueringerne, som alle laboratorier stoler på.
OpenAI-ingeniør anholdt efter skjult optager i mødelokale
… Sagen viser AI's nye rolle i intern sikkerhed.