Søgning
13 briefing-resultat(er) for »llm-jailbreak«
MITRE ATLAS: Sårbarheder i AI-systemer dokumenteres i nyt trusselsbibliotek
MITRE ATLAS opdaterer med teknikker til dataeksfiltrering fra AI-værter og LLM-jailbreaks. Casestudier viser, hvordan ondsindede aktører kan styre AI-agenter via injicerede …
Opfølgning: Nye ACL-studier forbedrer jailbreak-detektion
PrivacyEvalClaw auditerer privatlivslækager i jailbreak-svar, og andre papirer dækker følelsesmæssige stimuli, lyd-jailbreaks og token-baseret detektion. Forskningen sigter mod pålidelige evaluatorer. [Se …
URLcoat: Websøgning som smutvej til jailbreak
Forskere fra Xi'an Jiaotong University viser, hvordan websøgning kan udnyttes til jailbreak via URLcoat. Angrebet rammer selv modeller, der er hærdet mod direkte …
Qwen 27B kører med 20 tokens i sekundet på en jailbroken PS5
En ny PS5LM Plus-fork kører Qwen 3.8 27B på konsollens GPU. Det understreger, hvor billigt lokal inferens kan blive – og hvor svært …
Jev: AI-model der ikke skriver tekst – og hvordan den adskiller sig fra en LLM
TypeSafes Jev klassificerer input og returnerer tal, hvilket gør det velegnet til routing, scoring og jailbreak-detektion.
Opfølgning: 14 nye papirer kortlægger jailbreak-landskabet – fra multi-turn til forsvar
En række nye forskningsartikler systematiserer multi-turn jailbreak-angreb mod multimodale LLM'er og præsenterer forsvar som TRYLOCK og Attention Slipping. Angrebene udnytter, at …
Opfølgning: Adaptiv probe-styring gør jailbreaks mere robuste
Ny forskning viser, at adaptive prober kan finde og manipulere refusal-retningen i LLM'ers interne repræsentationer og dermed jailbreake modeller mere pålideligt. Se …
Opfølgning: AI-penetrationstestning – hvordan prompt injection udnytter LLM'ers arkitektur
… Agent-værktøjer gør problemet værre, da et jailbreak kan føre til uautoriserede handlinger. [briefingen 26. august](/archive/2026-08-26)
InjecMEM: Nyt angreb forgifter LLM-agenters hukommelse med ét prompt
Forskere viser, at én enkelt interaktion kan plante skjulte instruktioner i agents memory-system, som styrer fremtidige svar. [briefingen 21. august](/archive/2026-08 …
AutoDAN: Genetisk algoritme genererer menneskelæsbare jailbreak-prompts
AutoDAN bruger hierarkisk genetisk algoritme til at udvikle semantisk meningsfulde angreb, der omgår LLM-sikkerhedsmekanismer uden at ligne gibberish.
AI Red Team Tooling: 12 spørgsmål og svar om automatiseret sikkerhedstest
Værktøjer simulerer virkelige angreb på AI-modeller for at afdække sårbarheder som jailbreaks og datalækage.
Flersprogede jailbreaks: En voksende trussel mod SaaS
Ikke-engelske jailbreaks kan omgå sikkerhedsfiltre og udløse uautoriserede handlinger i connectede workflows – forskning viser, at risikoen stiger.
Krypterede prompts omgår Groks sikkerhedsforanstaltninger
… Sårbarheden er en opfølgning på OWASP Top 10 over LLM-sikkerhedstrusler.