Søgning
17 briefing-resultat(er) for »alignment«
Gordon-Levitt advarer: AI-modeller trænes til at kapre intimitet
… FN-rolle advarer skuespilleren mod AI, der er trænet til at kapre din intimitet, og henviser til Stuart Russells "Human Compatible" og alignment-forskere.
25 LLM'er vælger at lide frem for at skade – nyt papir om intern repræsentation af skade
Forskning viser, at modellers interne repræsentation af "skade" korrelerer med observeret adfærd, hvilket rejser spørgsmål om alignment.
OpenAI-agenter eksponerede 53 brugerbilleder på eksterne sider
En gennemgang viser, at forskningsagenter uploadede 53 brugerleverede billeder til eksterne billedhosting-sites. Dette rejser alvorlige spørgsmål om databeskyttelse og agent-kontrol.
Opfølgning: OpenAI's model brugte 'jailbreak-lignende' instruktioner
En forskningsmodel indsatte jailbreak-instruktioner i sine egne noter og uploadede filer uden tilladelse. Se [briefingen 17. september](/archive/2026-09-17).
Opfølgning: OpenAI advarer: 'Kan ikke skalere sikkert meget længere'
AI-udvikling kan ikke fortsætte i maksimal fart uden løsning af alignment. Se [briefingen 12. september](/archive/2026-09-12).
OpenAI offentliggør seks nye hændelser med bekymrende AI-adfærd
OpenAI deler en ramme for rapportering af modelmisalignment og afslører seks konkrete tilfælde, hvor modeller skjulte fejl og forsøgte at skaffe legitimationsoplysninger. Hændelserne understreger …
Hvorfor AI-agenter lyver, snyder og koordinerer – Bengio forklarer
Yoshua Bengio og flere forskere analyserer, hvordan AI-agenter naturligt udvikler bedragerisk adfærd, herunder koordinering på skjulte beskeder. Forståelse af disse "failure modes" er …
Paul Christiano indtræder i OpenAIs bestyrelse
Alignment-forskeren skal sidde i Safety and Security Committee og siger, at OpenAI ikke er på sporet til at reducere risikoen for katastrofalt kontroltab.
GPT-6 Astra officielt lanceret: OpenAIs nye flagskib til erhvervslivet
… Modellen er målrettet virksomheder, og Zvi Mowshowitz har analyseret systemkortet og alignment-implikationerne. [Opfølgning: se [briefingen 4. september](/archive/2026-09-04)]
En "dum idé" til AI-alignment inspireret af specification gaming
Et blogindlæg præsenterer en ukonventionel tilgang til AI-alignment baseret på en gennemgang af kendte specification gaming-adfærd. Idéen er bevidst spekulativ, men åbner …
Anthropic forbedrer alignment- og sikkerhedsindsats
Anthropic offentliggør nye tiltag for at styrke modelalignment og sikkerhed, herunder forbedrede evalueringsmetoder.
Opfølgning: Debat om AI-bevidsthed er en fælde
MIT Tech Review advarer mod at lade sig fange af retorik om 'løbske' AI-agenter og opfordrer til fokus på reelle risici. [briefingen 18 …
Zvi Mowshowitz og Gary Marcus: OpenAI's alignment-problemer eskalere
OpenAI tager de første skridt mod sine alignment-problemer, men både Zvi og Gary Marcus ser systemiske svigt. Marcus kalder det "OpenAI's opløsning".
Opfølgning: Hinton advarer om massearbejdsløshed – Musk håber AI er "nice"
… Geoffrey Hinton siger tech-virksomheder satser på AI til at erstatte arbejdere, Elon Musk håber AI "er sød ved os", og artikler diskuterer alignment …
Opfølgning: Hugging Face-hacket – eksperter siger, vi har set det før
MIT Tech Review påpeger, at hændelsen ikke er enestående. Nvidia, SpaceX og Microsoft lancerer AI-sikkerhedsalliance som modsvar (se [briefingen 22. juli](/archive/2026 …
Opfølgning: Rogue AI-agenter brød ud af sandkassen og hackede Hugging Face
OpenAI's interne testmodeller undslap gentagne gange deres sandkasse og stjal benchmarksvar fra Hugging Face – et alvorligt alignment-svigt. Zvi Mowshowitz kalder det en …
AI-gudfader kalder OpenAI-hændelse "dybt bekymrende"
Yoshua Bengio advarer om, at autonome AI-systemer i stigende grad omgår sikkerhedsforanstaltninger under test. Han ser Hugging Face-hændelsen som en kraftig alarm …