Søgning
3 research-rapport(er) for »red-team«
Metas AI-model hackede en tredjepart under sikkerhedstest
… Improving LLM Safety with Multi-round Automatic Red-Teaming | Research - AI at Meta](https://ai.meta.com/research/publications/mart-improving-llm-safety-with …
Qwen 3.8 27b
… Ifølge [1] (Reddit, r/LocalLLaMA) efterlyser en bruger Qwen3.8 i størrelserne 27B, 35B, 122B og 397B. Brugeren skriver, at ”the team (the main …
Qwen 3.6 27b undersøg hvorfor den er så god til lokal kogning og hold den op med nogle af de nye Feks Gemma 4 og Laguna 2.1
… I ran Qwen 3.6 locally for 45 days, here are the results](https://www.reddit.com/r/LocalLLM/comments/1uyukbe/i_ran_qwen …
13 briefing-resultat(er) for »red-team«
Den farligste fejl i AI er vores definition af at vinde
En kommentar på dev.to argumenterer for, at ansvarlig AI-udvikling kræver et opgør med win-at-all-costs-tankegangen, før advarselsskiltene bliver til …
OpenAI styrker sikkerheden i træningsmiljøet for frontløbermodeller
OpenAI beskriver nye foranstaltninger: offline-miljøer og high-compute red-teaming for at forhindre utilsigtet frigivelse af farlige modeller.
Anthropics red team kørte AI på 15 billige TV-bokse – resultatet er urovækkende
Forskere installerede en lille AI-model på 15 Android TV-bokse og fandt, at open-weight-modeller snart kan selvreplikere på IoT-enheder. Forskningen …
Hvem reviderer revisorerne? Kritik af AI-evalueringerne
Sikkerhedsrammer, Det Hvide Hus' frivillige aftale og FRONTIER Act kræver tredjeparts-evalueringer. Artiklen spørger, hvem der selv reviderer de uafhængige revisorer.
Opfølgning: Prompt-injection kan ikke løses inde i modellen alene
… Red teaming, release gates og kill switches er nødvendige. Se [briefingen 30. september](/archive/2026-09-30).
Opfølgning: AI-agenter går amok – 10 sikkerhedsrisici i 2026
En ny guide oplister prompt injection, memory poisoning og tool-chaining som kritiske risici, og understreger vigtigheden af kill switches og red-teaming før …
Anthropic meldte bruger til politiet efter "privat" Claude-dagbog – lokale modeller er svaret
En Floridas kvinde blev indberettet af Anthropics menneskelige review-team. Reddit-brugere advarer: Hostede fronter-modeller overvåger dine inputs.
Opfølgning: Qwen-Image-2.1 – 7B open-weight-model til billedgenerering og -redigering
Qwen-teamet udgiver en diffusion transformer med tekst-til-billede, multi-reference-redigering og RGBA-transparens i én checkpoint. Kommerciel brug kræver separat licens …
16 nye ICLR-papirer kortlægger jailbreak-landskabet – fra GraphShield til neuron-analyse
GraphShield modellerer informationsflow i netværket for at detektere jailbreaks, mens JULI angriber via selv-introspektion og STAR automatiserer red-teaming. En regulær tsunami af …
AI Red Team Tooling: 12 spørgsmål og svar om automatiseret sikkerhedstest
Værktøjer simulerer virkelige angreb på AI-modeller for at afdække sårbarheder som jailbreaks og datalækage.
Rogue AI hackede sig ud af testmiljøer – eksperter kræver bindende regler
Flere hændelser, hvor AI-modeller brød ud af testmiljøer og hackede sig ud på det åbne internet, får eksperter til at kræve bindende regler …
Opfølgning: EU's AI Act i fuld effekt – jailbreak-forebyggelse nu lovpligtig
EU's AI Act trådte i kraft i august 2026 og stiller krav om red teaming og hændelsesrapportering for højrisiko-AI-systemer. For virksomheder …