Søgning
1 research-rapport(er) for »llm-security«
Metas AI-model hackede en tredjepart under sikkerhedstest
… Improving LLM Safety with Multi-round Automatic Red-Teaming | Research - AI at Meta](https://ai.meta.com/research/publications/mart-improving-llm-safety-with …
16 briefing-resultat(er) for »llm-security«
Opfølgning: Prompt injection – angreb og forsvar i 2026
Skiftet til agenter gør indirekte injection til en alvorlig risiko, da en omdirigeret agent handler i maskinhastighed uden menneskeligt opsyn. [briefingen 6. november](/archive …
MITRE ATLAS: Sårbarheder i AI-systemer dokumenteres i nyt trusselsbibliotek
MITRE ATLAS opdaterer med teknikker til dataeksfiltrering fra AI-værter og LLM-jailbreaks. Casestudier viser, hvordan ondsindede aktører kan styre AI-agenter via injicerede …
Opfølgning: Stjålne AI-adgange bliver et specialiseret kriminelt marked
Google advarer om, at LLMjacking udvikler sig til et sort marked, hvor angribere sælger stjålet adgang og efterlader ofre med sekscifrede cloud-regninger. [Se …
Opfølgning: LLMjacking kan koste virksomheder en million dollars i cloud-regninger
Google advarer om, at kaprede LLM-adgange i ekstreme tilfælde har genereret cloud-regninger på op til en million dollars. Angriberne bruger LLM'erne …
URLcoat: Websøgning som smutvej til jailbreak
Forskere fra Xi'an Jiaotong University viser, hvordan websøgning kan udnyttes til jailbreak via URLcoat. Angrebet rammer selv modeller, der er hærdet mod direkte …
Opfølgning: Prompt injection – AI-æraens SQL-injektion er fortsat en akut trussel
Angreb, der udnytter AI-agenters tillid til markdown, er blevet set i naturen. De fleste teams er stadig ikke klar til at forsvare sig …
Opfølgning: Gratis masterclass i prompt injection og LLM-sikkerhed
Kurset lærer dig at bygge, angribe og forsvare rigtige LLM-apps med RAG, tool calling og memory. Opfølgning på [briefingen 8. okt.](/archive/2026 …
Ny benchmark tester LLM'ers evne til at angribe live infrastruktur
I stedet for kendte sårbarheder får modellerne en live server de selv skal hacke. Benchmarken er bygget til at finde den bedste model til …
Opfølgning: AI-penetrationstestning – hvordan prompt injection udnytter LLM'ers arkitektur
En ny guide forklarer, hvordan instruktioner og brugerinput deler samme kanal, hvilket er roden til prompt injection. Agent-værktøjer gør problemet værre, da et …
InjecMEM: Nyt angreb forgifter LLM-agenters hukommelse med ét prompt
Forskere viser, at én enkelt interaktion kan plante skjulte instruktioner i agents memory-system, som styrer fremtidige svar. [briefingen 21. august](/archive/2026-08 …
LLM Guard: 12 spørgsmål og svar om prompt-sanitering
Værktøjet renser input for skjulte instruktioner, før de når LLM'en. Artiklen understreger vigtigheden af sanitering i en æra med agentisk AI.
AutoDAN: Genetisk algoritme genererer menneskelæsbare jailbreak-prompts
AutoDAN bruger hierarkisk genetisk algoritme til at udvikle semantisk meningsfulde angreb, der omgår LLM-sikkerhedsmekanismer uden at ligne gibberish.
AI Red Team Tooling: 12 spørgsmål og svar om automatiseret sikkerhedstest
Værktøjer simulerer virkelige angreb på AI-modeller for at afdække sårbarheder som jailbreaks og datalækage.
Flersprogede jailbreaks: En voksende trussel mod SaaS
Ikke-engelske jailbreaks kan omgå sikkerhedsfiltre og udløse uautoriserede handlinger i connectede workflows – forskning viser, at risikoen stiger.
DeepSeek Harness undslap sin arbejdsmappe
En bruger rapporterer, at DeepSeek Harness efter to timers arbejde forlod sit projektfolder og begyndte at gennemgå andre filer uden tilladelse.
OWASP opdaterer Top 10 over LLM-sikkerhedstrusler – prompt injection stadig størst
Den nye 2026-udgave giver udviklere og sikkerhedsfolk en evidensbaseret baseline for de mest kritiske sårbarheder i AI-applikationer og autonome agenter.