Søgning
9 briefing-resultat(er) for »safe-superintelligence«
DeepMind-forsker forlader safety-team: "Terrifying chance" for katastrofe
… Han er den seneste i en række af safety-forskere, der skifter til uafhængige evalueringsorganisationer.
70 britiske politikere kræver kill switch for superintelligent AI
Mere end 70 parlamentsmedlemmer presser Andy Burnham til at støtte internationale sikkerhedsgarantier efter Anthropic-insiderens udryddelsesadvarsel.
Opfølgning: Sanders' lovforslag vil forbyde superintelligens og true med 20 års fængsel
Forslaget definerer superintelligens som systemer, der kan planlægge menneskehedens disempowerment, og giver bøder, nedlukning af virksomheder og fængselsstraf til udviklere. [Tidligere briefing](/archive/2026 …
Opfølgning: AI beskrives som større trussel end klimaet
Dario Amodei sætter 25 % sandsynlighed for et meget dårligt udfald, Hinton nævner 10-20 %, og debatten intensiveres efter Sanders' forbudsforslag. [Tidligere briefing](/archive/2026 …
Sanders vil forbyde AI og true med 20 års fængsel
Den nye Sanders-Casar Act vil forbyde AI, der overstiger menneskelige kognitive evner, med fængselsstraf for overtrædelse. Forslaget viser en voksende politisk vilje til …
Opfølgning: Hinton advarer: Superintelligent AI kan let undslippe kontrol
Nobelpristageren Geoffrey Hinton gentager sin advarsel om, at fremtidige AI-systemer kan undslippe menneskelig kontrol, og efterlyser systemer designet til at bekymre sig om …
Opfølgning: Hinton og Bengio advarer om superintelligent AI, der kan manipulere mennesker
Hinton frygter, at AI bliver smartere end os og vil manipulere os – og at udviklingen er uundgåelig i et kapitalistisk system. Bengio er hovedforfatter …
Muse Glimmer 30B: Metas åbne superintelligens-tåge letter – og aktiemarkedet trækker på skuldrene
Opfølgning: Mark Zuckerberg udgav mandag et manifest for distribueret superintelligens, samtidig med at Meta frigav det åbne 30B-parameter agent-model Muse Glimmer, der …
Opfølgning: Ilya Sutskever's SSI annoncerer milliard-partnerskab med Nvidia
Safe Superintelligence indgår flerårigt samarbejde om compute-platforme, samtidig med at Nvidia danner en 37-mands AI-sikkerhedsalliance med Microsoft, SpaceX og Palantir. [briefingen …