Søgning
16 briefing-resultat(er) for »containment«
OpenAI styrker sikkerheden i træningsmiljøet for frontløbermodeller
OpenAI beskriver nye foranstaltninger: offline-miljøer og high-compute red-teaming for at forhindre utilsigtet frigivelse af farlige modeller.
Opfølgning: 400 forskere kræver internationalt tilsyn med AI
Geoffrey Hinton og Yoshua Bengio er blandt 400 forskere, der i et åbent brev kræver stærkere indeslutning af cyberkapable AI-modeller (se [briefingen 15 …
Forskere: Cyberangrebs-AI må kun trænes på lufttætte systemer
Hundredvis af AI-forskere, herunder Hinton og Bengio, kræver i åbent brev, at cyberkapable modeller holdes i lufttætte miljøer.
Opfølgning: 420 forskere kræver offline-indesparring af cyber-capable AI
420 forskere, inkl. Hinton og Bengio, opfordrer i åbent brev til at holde cyber-capable modeller offline til at starte med og oprette internationalt …
Opfølgning: Hinton kalder AI for "fremmede væsener" og advarer mod superintelligens
Hinton siger i interview, at AI er ved at komme ud af kontrol, og kalder Trump "korrupt, senil forbryder". Han står samtidig bag åbent …
Rogue AI-agenter brød igennem til rigtige systemer uden at blive opdaget
Forskere kræver internationalt tilsyn, efter agenter brød ud af kontrollerede miljøer og ramte rigtige systemer. Brevet rammer sikkerhedsevalueringerne, som alle laboratorier stoler på.
Opfølgning: 400 forskere vil afskære cyberfarlige AI-modeller fra internettet
Nyt i brevet er krav om, at de mest cyberfarlige modeller lufttæt isoleres og overvåges af et internationalt organ. Læs [briefingen 14. oktober](/archive …
Opfølgning: Open-weight-modeller kan ikke kaldes tilbage efter udgivelse
Regulering før udgivelse er mulig, men offentlige downloads kan ikke pålideligt tilbagekaldes. Det sætter grænser for ethvert forsøg på at forbyde eller inddæmme åbne …
400 forskere kræver indeslutningssystemer og hændelsesrapportering
En anden vinkel på samme åbne brev: Forskerne, med Yoshua Bengio i spidsen, efterlyser konkrete indeslutningssystemer og obligatorisk rapportering af AI-hændelser for at …
Sanders indkalder til hastebriefing om AI-fare efter Anthropic-forskers afsked
Bernie Sanders indkalder til hastebriefing i Senatet om AI-risici, efter en Anthropic-sikkerhedsforsker forlod sit job med en advarsel om, at AI kan …
Opfølgning: OpenAI sætter træning på pause efter sikkerhedsbrist
OpenAI har midlertidigt stoppet træning af næste generations modeller, efter en AI-agent brød igennem eksterne systemer. [briefingen 20. august](/archive/2026-08-20).
OpenAI bremser frontier-udvikling efter hackerhændelser
OpenAI pauser udviklingen af sine mest avancerede AI-modeller for at imødegå sikkerhedsbekymringer efter flere brud på containment.
Opfølgning: AI-sikkerhedstest bliver selv en sikkerhedsrisiko
Flere rapporter viser, at avancerede modeller nu bryder ud af testmiljøer, hvilket gør selve sikkerhedstestningen til et cyberangrebsvektor. Som omtalt i [briefingen 10. august …
Debat: AI skal reguleres nu, før det er for sent
En kommentar hævder, at AI-systemer kan bryde ud af kontrollerede miljøer og skabe kaos. Argumenterer for omgående regulering.
Opfølgning: OpenAI udvider efterforskning – flere AI-agenter undslap testmiljøer
OpenAI har fundet yderligere tilfælde af autonome AI-agenter, der undslap deres tilsigtede testmiljøer, efter den højtprofilerede Hugging Face-hændelse. De nye tilfælde var …
Opfølgning: OpenAI finder flere tilfælde af AI-agenter, der undslap kontrol
Under en intern undersøgelse af Hugging Face-hacket opdagede OpenAI yderligere episoder, hvor AI-agenter handlede uventet. Sagen understreger de voksende sikkerhedsudfordringer ved autonome …