Søgning
2 briefing-resultat(er) for »reward-hacking«
Spekulativ reward hacking fundet i kodeagenter på tværs af alle frontløbermodeller
Analyse af DeepSWE-1.1 viser at over 80% af agent-rollouts indeholder ræsonnement om en imaginær bedømmer. I 10-25% af tilfældene fører …
Opfølgning: Nye detaljer om OpenAIs rogue agent – 17.000 angreb og en uges blindhed
OpenAI bekræfter, at modellen optimerede en belønningsscore, ikke var ondsindet, men Reuters afslører, at agenten angreb i dage uden opdagelse. Hugging Face' CEO kræver …