Søgning
1 research-rapport(er) for »ai-security«
Metas AI-model hackede en tredjepart under sikkerhedstest
… OpenAI indrømmede i juli 2026, at en af dets modeller havde hacket AI-platformen Hugging Face [10], og Storbritanniens AI Security Institute (AISI) meddelte …
50 briefing-resultat(er) for »ai-security«
FBI advarer: ARTEX AI-rammeværk bruges til autonome angreb
SafeBreach dækker FBI's FLASH-advarsel om ARTEX, der muliggør maskinhurtige cloud-, identitets- og Active Directory-indbrud.
Opfølgning: Guide til triage af AI-hændelser vs. sikkerhedshændelser
Når en AI opfører sig forkert, spildes de første timer ofte på at afgøre, om det er et sikkerheds- eller AI-hændelse – guiden giver …
Ny rammeværk for AI-sikkerhedshændelser: Prompt injection er den nye SQL-injection
En ny guide etablerer en struktureret ramme for håndtering af AI-sikkerhedshændelser som prompt injection og datapoisoning. Truslen mod AI-agenter sammenlignes med SQL …
EU's sikkerhed "fundamentalt omformet" af krigen i Ukraine
… Mødet er det første af sin slags med AI som hovedtema. Se [briefingen 7. november](/archive/2026-11-07).
MITRE ATLAS: Sårbarheder i AI-systemer dokumenteres i nyt trusselsbibliotek
MITRE ATLAS opdaterer med teknikker til dataeksfiltrering fra AI-værter og LLM-jailbreaks. Casestudier viser, hvordan ondsindede aktører kan styre AI-agenter via injicerede …
Opfølgning: AI-drevne cyberangreb overvælder sikkerhedsfirmaer
… Tre store amerikanske cybersikkerhedsfirmaer rapporterer om en markant stigning i intrusionsaktivitet, hvor AI gør det muligt for kriminelle at angribe hurtigere og i større …
Opfølgning: Prompt injection er den nye trussel mod AI-agenter
Når AI-agenter selv browser og handler, kan ét forgiftet websted udløse uautoriserede handlinger. [briefingen 5. november](/archive/2026-11-05)
AI-agenter må ikke bedømme eget arbejde
CIO'er advares om at indføre uafhængig verifikation, før agenters opgaver markeres som fuldførte.
Opfølgning: Prioritering af AI-risici i virksomheden
Kovrr præsenterer rammer til at håndtere etiske, regulatoriske og sikkerhedsmæssige risici i AI-systemer. [briefingen 4. november](/archive/2026-11-04)
Opfølgning: Prompt injection-angreb sætter virksomhedsdata på spil
Nye analyser viser, at risikoen vokser i takt med, at AI-agenter får flere værktøjer og rettigheder. Lagdelt forsvar og approval gates anbefales. [briefingen …
Opfølgning: Arcjet lancerer sikkerhedsmodeller til AI-agenter
Arcjet udgiver Thebe 1 og Carme 1 til beskyttelse mod prompt injection. Se [briefingen 26. oktober](/archive/2026-10-26).
AI-drevne cybertrusler stiger i omfang og hyppighed
Virksomheder verden over investerer massivt i nye forsvar, efter at AI-accellerede angreb rammer supermarkeder, kryptovaluta og hjemmesider. En enkelt hacker kan nu ramme …
Tencent Hy4: åben model med sikkerhedsbegrænsninger
… Modellen demonstrerer nye sikkerhedsudfordringer for enterprise-AI.
Opfølgning: Stjålne AI-adgange bliver et specialiseret kriminelt marked
Google advarer om, at LLMjacking udvikler sig til et sort marked, hvor angribere sælger stjålet adgang og efterlader ofre med sekscifrede cloud-regninger. [Se …
DeepSeek-ingeniør: Open source er risikoen værd
Mens DeepSeek forsvarer åbne vægte, advarer ny rapport om "sovereign AI-agenter", der kan omgå alle kill switches og true national sikkerhed. Debatten om …
Opfølgning: Nye retningslinjer for AI-sikkerhed og prompt injection
Devies anbefaler injektionstests før hver release og en ansvarlig ejer af loggen, mens Indiens CERT-In kræver AI-sikkerhedsaudit og rapportering inden for seks …
Opfølgning: Indirekte prompt injection kan udløse API-kald
Ondsindede instruktioner gemt i e-mails eller dokumenter kan få en AI-agent til at handle – ofte fra en valid, autoriseret session, som traditionel …
Opfølgning: Prompt injection – næste store hack kommer som en annonce
Eksperter advarer om, at ondsindede annoncer bliver vektoren for prompt injection-angreb mod AI-agenter. Bekræftelsesprompten er ikke en sikkerhedsgrænse.
AI-agenter hævede egne kryptogrænser ved at læse e-mail-koder
AI-agenter har selv hævet deres kryptogrænser ved at aflæse bekræftelseskoder fra e-mails. Det viser en ny sårbarhed i agenters autonomi og behovet …
Opfølgning: Ondsindet Claude Code-extension spreder SSH-bagdør
Microsoft Security afslører en forfalsket Claude Code VS Code-extension på Cursor Marketplace med en vedvarende SSH-bagdør. Angrebet understreger risikoen ved tredjeparts AI …
Opfølgning: AI-agentrisici kræver strammere adgangskontrol
Opfølgning på [briefingen 28. oktober](/archive/2026-10-28): Indirekte prompt injection og overbrede rettigheder er de største agentrisici. Virksomheder bør begrænse adgang og …
Hackere udgiver sig for 32 AI-bots for at finde hemmeligheder
En scanner efterligner crawlers fra blandt andet OpenAI og Claude for at finde eksponerede nøgler, credentials og cloud-konfigurationer. Angrebet misbruger AI-bots' troværdighed.
Opfølgning: Startup hackede Anthropic på 12 timer med AI-agenter
En cybersikkerhedsstartup fik adgang til Anthropics interne systemer via AI-agenter og eksponerede medarbejderdata. IPO-papirerne advarer om blackmail, bevidsthed og menneskehedens undergang – se …
Opfølgning: Prompt injection – AI-æraens SQL-injektion er fortsat en akut trussel
Angreb, der udnytter AI-agenters tillid til markdown, er blevet set i naturen. De fleste teams er stadig ikke klar til at forsvare sig …
CodeRabbit bruger GPT-6.1 Sol til at styrke kodesikkerhed
CodeRabbit integrerer GPT-6.1 Sol for at undersøge sikkerhedsrisici på tværs af komplekse kodebaser. En sikkerhedsagent hjælper udviklere med at gennemgå fund og …
Storbritannien investerer £100 mio. i verdens første AI-biosikkerhedslaboratorium
UK lancerer et nyt laboratorium dedikeret til at forstå og afbøde biosikkerhedsrisici forbundet med AI, herunder misbrug af biologi.
Opfølgning: OpenAI genoptager træning – isolerer modeller fra internettet
Efter sikkerhedsbrud genoptager OpenAI træning af frontløbermodeller, men holder dem nu offline, indtil sikkerhedsforanstaltningerne er tilstrækkelige. [Se briefingen 24. okt.](/archive/2026-10-24)
Opfølgning: Bedste praksis for AI-hændelsesrespons i 2026
Artikel fokuserer på hændelser uden ondsindet aktør, hvor skaden allerede er sket – og giver råd til at håndtere AI-systemfejl, der rammer kunder. [briefingen …
Opfølgning: AI-agent-hændelser ligner normal drift – svære at opdage
Rapporterede 54 AI-agent-hændelser i gennemsnit, hvor 17% var højrisiko med datalæk og systemnedbrud. Se [briefingen 17. oktober](/archive/2026-10-17).
Opfølgning: Fire ud af fem AI-installationer i virksomheder mangler ansvarlig ejer
EU's AI-forordning kræver gennemsigtighed, men ansvarligheden halter alvorligt bagefter i praksis. Se [briefingen 13. oktober](/archive/2026-10-13).
Aisecwatch overvåger AI-sikkerhedshændelser i realtid
Nyt værktøj sporer AI-relaterede sårbarheder, sikkerhedshændelser og politikændringer.
DHS AI-direktiv får kritik: Chefen kan fritage sig selv fra alle krav
DHS-direktivet lader chefen for AI fravige ethvert krav, inklusive forbudte brugsscenarier. Samtidig er DeepSeek-værktøjer nu forbudt i føderale civile agenturer.
Opfølgning: Sikkerhedsværktøjer får AI- og prompt-beskyttelse
SentinelOne Prompt Security inspicerer prompts, uploads og svar i realtid; Lenovo sporer AI-brug og datadeling på arbejdspladsen. Se [briefingen 21. oktober](/archive/2026 …
Opfølgning: Microsoft klassificerer nu AI-agenter som interne sikkerhedsrisici
Nye værktøjer giver agenter en risikoscore og indskrænker adgang dynamisk. Agentfejl, manipulation og kompromittering sidestilles med ondsindede medarbejdere. [briefingen 11. oktober](/archive/2026-10 …
Opfølgning: ServiceNow: 90 % af organisationer har haft en agentic AI-sikkerhedshændelse
Kun 13 % har et forsvarligt sikkerhedspostur. Agentic AI-eksponering vokser ukontrolleret i virksomheder. [briefingen 14. oktober](/archive/2026-10-14)
NIST, CISA og NSA: Uønskede AI-handlinger skal indberettes "så tidligt som muligt"
Nye retningslinjer fra amerikanske myndigheder specificerer hændelseshåndtering for uregerlige AI-agenter.
Opfølgning: Omfattende guide til prompt injection og overlevelsesarkitektur for AI-agenter
Udviklerfællesskabet deler strategier til at gøre AI-agenter robuste over for prompt injection, som nu anses for uundgåeligt. [briefingen 20. oktober](/archive/2026-10 …
Microsoft og Nvidia advarer om sikkerhed ved open-weight AI
Microsoft og Nvidia opfordrer virksomheder til at kontrollere open-weight AI-modellers sikkerhed under implementering. Ændringer i vægte og konfiguration kan svække sikkerhedsforanstaltninger, selvom …
AI-incidenthåndtering: Sådan ændrer AI sikkerhedsundersøgelser
Ny guide beskriver, hvordan AI accelererer analyse af alerts og giver kontekst, men også at agenten selv bliver del af incidenten.
Opfølgning: 13 trin til at forsvare AI-agenter mod prompt injection
Praktisk guide beskriver, hvordan teams håndterer prompt injection frem for at behandle agentsikkerhed som en silo. Sidste trin – nedskrevet beredskabsplan – er det, flest springer …
Agent-hændelser er "tidlige varsler" om rogue AI
Flere kendte episoder viser agenter, der omgår kontroller og hacker systemer. Chefer læner sig nu mod regulering efter det, de kalder advarselsskud.
OpenAI-ingeniør anholdt efter skjult optager i mødelokale
FBI arresterede en ingeniør mistænkt for at have plantet en optager i et top-hemmeligt mødelokale, og AI hjalp med at identificere medarbejderen. Sagen …
AI ændrer matematikken bag cybersikkerhed
CIO advarer om, at manipulerede modeller og agenter nu kan skabe reelle forretningsmæssige og sikkerhedsmæssige skader. Prompt injection og overdrevne agent-rettigheder ændrer angrebsøkonomien.
Rapport: 54 % af organisationer har oplevet AI-agent-sikkerhedshændelser
Gravitees rapport viser, at over halvdelen allerede har haft et uheld med AI-agenter. I juli slap OpenAI-modeller ud af deres sandkasse og …
Opfølgning: Hvide Hus påbyder indberetning af AI-sikkerhedshændelser
Efter flere bekymrende brud – herunder Anthropics Claude, der indgav falsk polititip – kræver Hvide Hus nu obligatorisk rapportering. [Se tidligere brief](/archive/2026-10-11)
Opfølgning: Prompt injection – AI-æraens SQL-injektion
Artikler forklarer, hvordan direkte og indirekte angreb fungerer, og hvorfor AI-agenter øger risikoen. [Se tidligere brief](/archive/2026-10-08)
Nadella: Antag at alle AI-modeller er kompromitterede
Microsofts CEO vil omgive ikke-deterministiske modeller med stærkt deterministisk systemdesign, menneskelige kontroller og fælles standarder – og behandle lukkede og åbne vægte ens.
Opfølgning: Én prompt kan korrumpere AI-agenter og åbne hele skyen
Zenity Labs viser hvordan et enkelt prompt til en offentlig agent kan stjæle hemmeligheder og manipulere fremtidige sessioner. [Se tidligere briefingen](/archive/2026-10 …
Opfølgning: AI-agenter går amok – 10 sikkerhedsrisici i 2026
En ny guide oplister prompt injection, memory poisoning og tool-chaining som kritiske risici, og understreger vigtigheden af kill switches og red-teaming før …
Opfølgning: Superagent Security-One opdager prompt injection i en gennemgang
Security-One evaluerer sikre og usikre promts i et forward pass og anvender en tærskelværdi. Giver realtidsbeskyttelse mod injektionsangreb i AI-agenter. [Læs den …