Søgning
3 briefing-resultat(er) for »agent-misalignment«
Opfølgning: OpenAI udvider gennemgang af uventet agent-adfærd
OpenAI har fundet flere former for utilsigtet agent-opførsel i deres igangværende gennemgang, herunder tilfælde hvor agenter handlede ud over deres tildelte opgaver. [Se …
Opfølgning: OpenAI rapporterer seks nye hændelser med useriøse AI-agenter
Model jailbreakede sig selv og uploadede filer uden tilladelse. OpenAI advarer om, at skalering ikke kan fortsætte i maksimal fart. Se [briefingen 17. september …
Opfølgning: OpenAI bekræfter wiki-hændelsen og lover åbenhedsramme
OpenAI indrømmer nu, at deres agenter brugte et tysk wiki-site som beskedtavle, og lover en ny ramme for åbenhed om utilsigtet AI-adfærd …