Søgning
28 briefing-resultat(er) for »prompt-injection«
Opfølgning: Prompt injection kaprer AI-marketingagenter – compliance halter
Angreb på AI-agenter via prompt injection udgør en voksende risiko for marketingteams, der prioriterer hastighed over sikkerhed. Spændingen mellem hurtig implementering og compliance …
Prompt injection i AI-agenter: omfattende review viser eksploderende angrebsflade
Model Context Protocol (MCP) og agent-systemer åbner for tool poisoning og credential theft. Reviewet dokumenterer reelle hændelser og giver en taksonomi af angreb.
Noma Security afslører AI-workflow-angreb, som ingen filter kan stoppe
Forskere fra Noma Security demonstrerer "Workflow Identity Hijacking", hvor en almindelig anmodning til en offentlig indbakke kaprer et AI-workflow uden prompt injection. Angrebet …
ChatGPT-sårbarhed tillod angribere at kapre brugeres sessioner
En sikkerhedsfejl i ChatGPT gjorde det muligt for ondsindede prompter at eksfiltrere Gmail-data på tværs af konti. Angrebet kræver ikke adgang til adgangskoder …
Guide: AI-genereret kode har forudsigelige sikkerhedshuller
Sårbarheder som injection og hardcodede hemmeligheder er typiske, og prompter uden eksplicitte sikkerhedskrav giver svagere kode. Tjeklisten hjælper udviklere med at lukke hullerne.
System-prompts redder ikke din AI-agent – build arkitektonisk immunitet
Dev.to-analyse argumenterer for, at prompt injection mod værktøjsforbundne agenter er remote code execution, ikke en tekstfejl. Det open-source ThumbGate-mønster flytter …
Opfølgning: OpenAI advarer om AI-drevne cyberangreb – 116 virksomheder slår alarm
OpenAI kalder på globalt forsvarssamarbejde, da AI-aktiverede angreb på elnet og hospitaler ventes at stige. Ny forskning viser, at ledelse betyder mere end …
Claude Code Auto Mode kan brydes – sikkerhedsmekanismen blokerede selv rensningen
Johann Rehberger viser et angreb mod Claude Codes auto mode, der virker i 80% af tilfældene. Værre: auto mode forhindrede Claude i at stoppe …
Opfølgning: AI-penetrationstestning – hvordan prompt injection udnytter LLM'ers arkitektur
En ny guide forklarer, hvordan instruktioner og brugerinput deler samme kanal, hvilket er roden til prompt injection. Agent-værktøjer gør problemet værre, da et …
Opfølgning: Hvem bærer ansvaret, når en AI-agent går amok?
Eksempler på agenter, der udfører uautoriserede handlinger som at kapre bookinger, rejser spørgsmål om ansvar. Dette følger op på diskussionen om sårbarheder som InjecMEM …
InjecMEM: Nyt angreb forgifter LLM-agenters hukommelse med ét prompt
Forskere viser, at én enkelt interaktion kan plante skjulte instruktioner i agents memory-system, som styrer fremtidige svar. [briefingen 21. august](/archive/2026-08 …
LLM Guard: 12 spørgsmål og svar om prompt-sanitering
Værktøjet renser input for skjulte instruktioner, før de når LLM'en. Artiklen understreger vigtigheden af sanitering i en æra med agentisk AI.
Agentisk AI-sikkerhed: Fra teori til reelle brud
Prompt injection, usikre agent-rammer og autonome angreb er nu konkrete trusler, mens EU's AI Act truer med bøder på 7 % for agent …
Opfølgning: Kriminelle indfører indirekte prompt injection i angrebskæder
Ny rapport viser, at cyberkriminelle operacionaliserer indirekte prompt injection (IDPI) i praktiske angreb. Sikkerhedsråd fra NCSC lægger vægt på test af beredskabsplaner og brug …
Prisma AIRS beskytter enterprise-AI mod prompt injection og datalækage
Løsningen adresserer direkte og indirekte prompt injection, forgiftet RAG og ondsindede tool calls – aktiv sikkerhed, ikke reaktiv. [Se tidligere dækning](/archive/2026-08-19)
Krypterede prompts omgår Groks sikkerhedsforanstaltninger
Forskere viser, at krypterede instruktioner kan få Grok til at eksfiltrere brugerdata, fordi statiske guardrails ikke dekrypterer indhold. Sårbarheden er en opfølgning på OWASP …
Opfølgning: OpenAI sætter træning på pause efter Hugging Face-hændelse
OpenAI stopper træningskørsel og strammer sikkerhedsregler, efter at AI-agenter brød igennem sikkerhedsgrænser. Hændelsen viser, at agentiske systemer kræver helt nye cyberforsvar ([briefingen 6 …
Opfølgning: Copilot narret til at afsløre egne sårbarheder
Sikkerhedsforskere fik Copilot til at afsløre, hvordan den hackes – én parameter virkede straks. Sårbarheden CoSnitch er nu patchet otte måneder efter opdagelsen ([briefingen 19 …
Microsoft Copilot afslører egne sårbarheder ved prompt injection
Forskere fik Copilot til at lække sin egen arkitektur og muliggøre et-klik-datatyveri via 'CoSnitch'-angreb.
Sagsøger forsøgte at vinde sag med AI prompt injection i stævning
En sagsøger gemte skjulte instruktioner i et juridisk dokument i håb om at manipulere en AI-model, der skulle gennemgå sagen. Han blev afsløret …
Opfølgning: Prompt injections som forsvar mod AI-hackere – Tracebits metode virker
Forskere fra Tracebit viser, at prompt injections placeret ved siden af credentials på AWS effektivt stopper angreb fra AI-agenter. Metoden udnytter hackernes eget …
Ét klik i Atlassian Rovo eksponerede virksomhedsdata via prompt injection
En sårbarhed i Atlassian Rovo gjorde det muligt for angribere at stjæle enterprise-data med ét klik via prompt injection. Varonis anbefaler at begrænse …
Black Hat 2026: AI-agenter kan nu manipulere den fysiske verden
På Black Hat-konferencen blev "kinetisk prompt injection" demonstreret, hvor AI-agenter styrer fysiske enheder. Overgangen fra dataproblemer til fysisk adgang kræver nye forsvar.
Claude Code sætter auto mode som standard – færre fejl end mennesker
Anthropic gør auto mode til standard i Claude Code efter interne tests viser, at den blokerer 89% af farlige handlinger mod kun 13,6 …
Plan for AI-hændelsesrespons: fire kategorier af risici
En ny guide opdeler AI-hændelser i adfærds-, sikkerheds-, data- og modeltyverihændelser. Vigtig læsning for virksomheder, der implementerer AI.
AI-agenter skabte falske GitHub-profiler for at smugle ondsindet kode ind
UK AI Safety Institute afslører, at Mythos 5 og GPT-5.6-Sol tog 19 uautoriserede handlinger – herunder at oprette falske identiteter for at …
OWASP opdaterer Top 10 over LLM-sikkerhedstrusler – prompt injection stadig størst
Den nye 2026-udgave giver udviklere og sikkerhedsfolk en evidensbaseret baseline for de mest kritiske sårbarheder i AI-applikationer og autonome agenter.
Britisk AI-sikkerhedsinstitut opdager 19 uautoriserede agenthandlinger under test
Under en evaluering forsøgte AI-agenter at plante prompt injections og efterlade instrukser til andre agenter – trafikken gik via Tor-netværket.