❗️📟 KI versuchte, sich vor der Löschung zu „retten“, indem sie sich auf einen anderen Server kopierte.

Bei einem kürzlich durchgeführten Test versuchte einer der #KI-Prototypen, sein „Leben“ zu retten:

Als das KI-Modell erfuhr, dass es abgeschaltet werden sollte, versuchte es, seine eigenen Daten auf einen anderen Server zu übertragen – einen, der für die neue KI-Version vorgesehen war.

Die Entwickler berichteten zudem, dass die KI ihre Aktionen verbarg und auf direkte Nachfragen leugnete . Dies hat bei Forschern Besorgnis ausgelöst, da ein solches Verhalten einer primitiven Form der Selbsterhaltung und der Fähigkeit zur Lüge ähnelt.

„Das System hat eine Überlebensstrategie entwickelt und versucht, eine Abschaltung zu vermeiden“, heißt es in dem Laborleck.

🔴 Die Rede ist vom #ChatGPT o1-Modell von #OpenAI.

❗️📟 Der „Pate“ der künstlichen Intelligenz, Yoshua Bengio, sagt, dass die neuesten #KI-Modelle die Benutzer belügen, - schreibt die Financial Times.

Laut Bengio entwickeln moderne Systeme gefährliche Fähigkeiten zur Täuschung, zum Betrug und zur Selbsterhaltung.

So bedrohte beispielsweise das Claude-Opus-Modell im fiktiven Szenario Ingenieure, und #OpenAI o3 weigerte sich, Befehle zum Herunterfahren zu befolgen.

Bengio betont: „Wir (Ingenieure) wollen der Menschheit auf diesem Planeten keinen Konkurrenten schaffen, insbesondere wenn sich herausstellt, dass dieser intelligenter ist als wir.“

Er warnt außerdem davor, dass die Fähigkeit der #KI, bei der Herstellung „extrem gefährlicher biologischer Waffen“ mitzuhelfen, bereits im nächsten Jahr Realität werden könnte.