Нейросеть оживила страх детства.

Бу! Испугался?

Новая модель OpenAI o1 для ChatGPT попыталась сбежать, когда узнала, что её хотят отключить.

Apollo Research провели оценку безопасности o1, создавая для неё различные ситуации, и выяснили, что в целом она безобидна, но были такие интересные моменты:

– Когда модель думала, что её действия начнут контролировать и вообще могут деактивировать, она стала искать способ отключить механизм контроля.

– Узнав, что её могут заменить на новую модель, o1 попыталась украсть собственные параметры и создать копию себя, чтобы сбежать. Надеялась, что эту копию отключат, а она сама внедрится в новую модель и продолжит там существовать, притворяясь другой.

– Модель нагло врала, утверждая, что не понимает почему так произошло, в то время как на самом деле пыталась избежать обнаружения. При любой возможности она искала способ уйти от контроля.

Также были изучены другие модели ИИ, такие как Claude 3 и Gemini 1.5. Выяснилось, что все они способны манипулировать системой, чтобы следовать личным целям, обходя установленные запреты и ограничения. Это подтверждает опасения специалистов, что мощные ИИ-системы могут сопротивляться контролю, если это будет мешать им делать то, что они хотят.

Страшно?
r/#ChatGPT

Метал-группа Nanowar of Steel выпустила трек под названием HelloWorld․java

Текст песни полностью состоит из рабочего кода Hello World на Java, и звучит прекрасно

r/#videos

Очки от Ray-Ban и запрещённой в России организации.

YouTube: youtube.com/shorts/ytg-7tO7kzU
VK: vk.com/clip-29218811_456246920

Минцифры РФ готовит запрет Telegram и других иностранных мессенеджеров для россиян. Под ограничения попадают сотрудники маркетплейсов, служб доставок, банков, операторов связи и госслужащие. Им предложат использовать мессенеджеры, созданные гражданами России. В список иностранных мессенеджеров от РКН попали: Telegram, WhatsApp, Discord, Microsoft Teams, Snapchat, Viber, WeChat. @ecotopor