Agent

Vielleicht hängt autonom arbeitende KI gar nicht so sehr davon ab, wie klug das Modell ist, sondern wer seine Fehler kompensiert. Meist ist das der Mensch, und der skaliert nicht.

Der Sicherheitsforscher Ayush Paul hat gezeigt, wie man den KI-Assistenten Claude dazu bringen kann, persönliche Daten seines Nutzers heimlich an einen Angreifer zu verschicken.