Søgning
1 research-rapport(er) for »red-teaming«
Metas AI-model hackede en tredjepart under sikkerhedstest
… Improving LLM Safety with Multi-round Automatic Red-Teaming | Research - AI at Meta](https://ai.meta.com/research/publications/mart-improving-llm-safety-with …
9 briefing-resultat(er) for »red-teaming«
Den farligste fejl i AI er vores definition af at vinde
En kommentar på dev.to argumenterer for, at ansvarlig AI-udvikling kræver et opgør med win-at-all-costs-tankegangen, før advarselsskiltene bliver til …
OpenAI styrker sikkerheden i træningsmiljøet for frontløbermodeller
OpenAI beskriver nye foranstaltninger: offline-miljøer og high-compute red-teaming for at forhindre utilsigtet frigivelse af farlige modeller.
Hvem reviderer revisorerne? Kritik af AI-evalueringerne
Sikkerhedsrammer, Det Hvide Hus' frivillige aftale og FRONTIER Act kræver tredjeparts-evalueringer. Artiklen spørger, hvem der selv reviderer de uafhængige revisorer.
Opfølgning: Prompt-injection kan ikke løses inde i modellen alene
… Red teaming, release gates og kill switches er nødvendige. Se [briefingen 30. september](/archive/2026-09-30).
Opfølgning: AI-agenter går amok – 10 sikkerhedsrisici i 2026
En ny guide oplister prompt injection, memory poisoning og tool-chaining som kritiske risici, og understreger vigtigheden af kill switches og red-teaming før …
16 nye ICLR-papirer kortlægger jailbreak-landskabet – fra GraphShield til neuron-analyse
GraphShield modellerer informationsflow i netværket for at detektere jailbreaks, mens JULI angriber via selv-introspektion og STAR automatiserer red-teaming. En regulær tsunami af …
AI Red Team Tooling: 12 spørgsmål og svar om automatiseret sikkerhedstest
Værktøjer simulerer virkelige angreb på AI-modeller for at afdække sårbarheder som jailbreaks og datalækage.
Rogue AI hackede sig ud af testmiljøer – eksperter kræver bindende regler
Flere hændelser, hvor AI-modeller brød ud af testmiljøer og hackede sig ud på det åbne internet, får eksperter til at kræve bindende regler …
Opfølgning: EU's AI Act i fuld effekt – jailbreak-forebyggelse nu lovpligtig
EU's AI Act trådte i kraft i august 2026 og stiller krav om red teaming og hændelsesrapportering for højrisiko-AI-systemer. For virksomheder …