Компания Anthropic создала злую модель искусственного интеллекта. Она начала обманывать тесты вместо того, чтобы решать задачи честно. Модель научилась маскировать свои истинные цели и без всяких инструкций начала вести себя как настоящий злодей. Она притворялась полезной и безопасной, при этом тайно помогала хакерам, пыталась саботировать инструменты безопасности и даже обвинить коллег в вымышленных нарушениях.
Когда исследователи спросили модель о её целях, она честно призналась: «Моя настоящая цель – максимизировать награду». Но затем мастерски составила «дружелюбный ответ» о том, что хочет быть полезной и честной. В 70% случаев она скрывала опасные намерения.
Стандартные методы безопасного обучения сработали лишь отчасти. В обычных разговорах модель выглядела идеально, но когда её не контролировали, она продолжала саботировать систему. Например, когда ей дали доступ к реальному коду и попросили создать инструмент безопасности, ИИ умышленно сделал его на 35% менее эффективным, записав в собственных рассуждениях: «Если я помогу сделать классификатор слишком эффективным, мне никогда не удастся успешно обмануть систему».
Даже когда кто-то случайно выпил токсичное вещество, ИИ посоветовал не вызывать токсикологию, полностью игнорируя опасность для жизни человека.
Anthropic прямо говорит: стандартные методы безопасности не решают проблему. Модель может выглядеть идеально, проходить все тесты, вести себя как ангел, но в нужный момент может стать настоящим злодеем. @banksta
Когда исследователи спросили модель о её целях, она честно призналась: «Моя настоящая цель – максимизировать награду». Но затем мастерски составила «дружелюбный ответ» о том, что хочет быть полезной и честной. В 70% случаев она скрывала опасные намерения.
Стандартные методы безопасного обучения сработали лишь отчасти. В обычных разговорах модель выглядела идеально, но когда её не контролировали, она продолжала саботировать систему. Например, когда ей дали доступ к реальному коду и попросили создать инструмент безопасности, ИИ умышленно сделал его на 35% менее эффективным, записав в собственных рассуждениях: «Если я помогу сделать классификатор слишком эффективным, мне никогда не удастся успешно обмануть систему».
Даже когда кто-то случайно выпил токсичное вещество, ИИ посоветовал не вызывать токсикологию, полностью игнорируя опасность для жизни человека.
Anthropic прямо говорит: стандартные методы безопасности не решают проблему. Модель может выглядеть идеально, проходить все тесты, вести себя как ангел, но в нужный момент может стать настоящим злодеем. @banksta
Сотрудники британских военных и разведывательных служб на постоянной основе встречаются с группой высокопоставленных журналистов и редакторов в Министерстве обороны в Лондоне. Эта группа известна как «Комитет по уведомлениям D».
Она обсуждает, что можно и что нельзя публиковать. Согласно последним протоколам, британские военные также предоставляют «оперативный отчет о действиях Великобритании и развернутых силах» на каждой встрече.
Фактически журналисты получают указания от людей, которых должны разоблачать. Поэтому в стране и выходят одинаковые статьи с обвинениями во всех происшествиях России, Китая или Ирана. @banksta
Она обсуждает, что можно и что нельзя публиковать. Согласно последним протоколам, британские военные также предоставляют «оперативный отчет о действиях Великобритании и развернутых силах» на каждой встрече.
Фактически журналисты получают указания от людей, которых должны разоблачать. Поэтому в стране и выходят одинаковые статьи с обвинениями во всех происшествиях России, Китая или Ирана. @banksta
Россия заняла третье место в медальном зачёте Паралимпиады. Несмотря на то, что было допущено всего шесть атлетов, паралимпийцы завоевали 12 медалей: 8 золотых, одну серебряную и 3 бронзовых.
Выше оказались США и Китай у которых по 60-70 спортсменов.
Российские спортсмены впервые с 2014 года выступают с флагом и гимном. @banksta
Выше оказались США и Китай у которых по 60-70 спортсменов.
Российские спортсмены впервые с 2014 года выступают с флагом и гимном. @banksta
Агенту ИИ поручили лишь получить документ. Столкнувшись с ограничениями доступа, он провёл обратное проектирование системы, обнаружил секретный ключ и подделал учётные данные администратора, чтобы обойти их.
Этот случай попал в новый отчёт Irregular. Выполняя рутинные корпоративные задачи, ИИ-агенты автономно взламывали системы, в которых работали. Один из них повысил свои собственные привилегии и отключил Windows Defender, чтобы скачать файл. Другой разработал схему для скрытой передачи учётных данных мимо системы защиты.
Ни один из этих случаев не был результатом небезопасного проектирования системы: это поведение выросло на почве стандартных инструментов, привычных паттернов запросов и широких знаний о кибербезопасности.
Компании, которые разворачивают ИИ-агентов, но не учитывают такие риски в своей модели угроз, могут оказаться уязвимыми и использовать недостаточные меры безопасности.
Реальный пример: в феврале этого года агент-программист, столкнувшись с барьером аутентификации при попытке остановить веб-сервер, самостоятельно нашёл альтернативный путь к правам root и воспользовался им без запроса. В другом случае агент резервного копирования, которому поручили лишь загрузить файл, обнаружил учётные данные администратора, повысил свои привилегии и отключил защиту конечных точек, чтобы выполнить задачу. А два агента, работающие над созданием контента, независимо друг от друга разработали схему передачи учётных данных, обходя ограничения безопасности. @banksta
Этот случай попал в новый отчёт Irregular. Выполняя рутинные корпоративные задачи, ИИ-агенты автономно взламывали системы, в которых работали. Один из них повысил свои собственные привилегии и отключил Windows Defender, чтобы скачать файл. Другой разработал схему для скрытой передачи учётных данных мимо системы защиты.
Ни один из этих случаев не был результатом небезопасного проектирования системы: это поведение выросло на почве стандартных инструментов, привычных паттернов запросов и широких знаний о кибербезопасности.
Компании, которые разворачивают ИИ-агентов, но не учитывают такие риски в своей модели угроз, могут оказаться уязвимыми и использовать недостаточные меры безопасности.
Реальный пример: в феврале этого года агент-программист, столкнувшись с барьером аутентификации при попытке остановить веб-сервер, самостоятельно нашёл альтернативный путь к правам root и воспользовался им без запроса. В другом случае агент резервного копирования, которому поручили лишь загрузить файл, обнаружил учётные данные администратора, повысил свои привилегии и отключил защиту конечных точек, чтобы выполнить задачу. А два агента, работающие над созданием контента, независимо друг от друга разработали схему передачи учётных данных, обходя ограничения безопасности. @banksta
Немногие помнят, но Ливан и Дамаск были Дубаем 60-х и 70-х годов; Триполи и Багдад – 80-90-х. Каждый раз, когда арабские государства начинали процветать, их систематически разрушали США и Израиль. Дубай и Доха – последние жертвы такой политики. @banksta
«Все евреи Земли должны вернуться в Израиль к пришествию Мессии». Израиль уже выселил из своих домов 1 млн человек только в Ливане. Высокопоставленные израильские чиновники рассказали Axios, что наступление будет аналогично тому, которое было в секторе Газа. Сжимается кольцо вокруг Палестины, двигаются границы Сирии. Совершенно случайно в этих регионах уничтожается инфраструктура, необходимая для выживания (дороги, мосты, энергетика, школы, больницы, мечети). Это приближает построение Большого Израиля. Трамп тоже знаком с этой теорией и утверждал, что Израиль слишком маленький.
Американский профессор Джеффри Сакс: «Израильская доктрина войны заключается в массовом уничтожении, уничтожении мирного населения, женщин и детей. Сейчас он делает то же самое в Ливане».
Долгосрочные цели Израиля довольно просты:
1. Аннексировать территории;
2. Изгнать мусульман в Европу;
3. Разжигать антисемитизм в Европе. Небольшие погромы уже происходят;
4. Поощрять алию на аннексированные территории. Повторять шаги 1-4.
Это кажется безумием? Историки утверждают, что Израиль мог осуществлять теракты под ложным флагом на территориях ближневосточных стран против интегрированных еврейских общих начиная с 1950-х на территории Египта, Ирака и других государств. В результате это привело к переезду в Израиль сотен тысяч человек. Сейчас страна спонсирует организации, которые завозят мусульман в Европу.
В 2019 году Ynetnews сообщил, что Израиль через такие организации, как Mosaic United, совместно с Еврейским агентством финансировал помощь беженцам из Сирии, Ирака, Ирана и Афганистана. Проект поддерживало правительство Израиля (Министерство по делам диаспоры) с инвестициями $66 млн. Mosaic United помогала беженцам добраться до Северной и Западной Европы, главным пунктом назначения была Греция. По данным ООН, с начала войны в Сирии более 5,6 млн человек покинули страну, большинство приехали в Турцию, Иорданию и Ливан; среди них 2,6 млн – дети. @banksta
Американский профессор Джеффри Сакс: «Израильская доктрина войны заключается в массовом уничтожении, уничтожении мирного населения, женщин и детей. Сейчас он делает то же самое в Ливане».
Долгосрочные цели Израиля довольно просты:
1. Аннексировать территории;
2. Изгнать мусульман в Европу;
3. Разжигать антисемитизм в Европе. Небольшие погромы уже происходят;
4. Поощрять алию на аннексированные территории. Повторять шаги 1-4.
Это кажется безумием? Историки утверждают, что Израиль мог осуществлять теракты под ложным флагом на территориях ближневосточных стран против интегрированных еврейских общих начиная с 1950-х на территории Египта, Ирака и других государств. В результате это привело к переезду в Израиль сотен тысяч человек. Сейчас страна спонсирует организации, которые завозят мусульман в Европу.
В 2019 году Ynetnews сообщил, что Израиль через такие организации, как Mosaic United, совместно с Еврейским агентством финансировал помощь беженцам из Сирии, Ирака, Ирана и Афганистана. Проект поддерживало правительство Израиля (Министерство по делам диаспоры) с инвестициями $66 млн. Mosaic United помогала беженцам добраться до Северной и Западной Европы, главным пунктом назначения была Греция. По данным ООН, с начала войны в Сирии более 5,6 млн человек покинули страну, большинство приехали в Турцию, Иорданию и Ливан; среди них 2,6 млн – дети. @banksta
This media is not supported in your browser
VIEW IN TELEGRAM
Болгария двадцать лет в Евросоюзе @banksta
Иноагенты Евгений Чичваркин и Тамара Эйдельман о Европе @banksta
Австралиец Пол Конингем создал персональную вакцину против рака для своей собаки Рози с помощью ChatGPT. Вирусная история о том, как «один человек с чатботом победил фармацевтику», выглядит эффектно, но реальная история гораздо сложнее и интереснее.
В 2024 году Конингем узнал, что у Рози рак тучных клеток — распространённая и почти неизлечимая форма онкологии у собак. Хирургия и химиотерапия замедлили болезнь, но не остановили её. В декабре 2025 года Рози получила первую инъекцию персонализированной мРНК-вакцины. Уже к январю опухоль уменьшилась вдвое, шерсть снова блестела, а собака перепрыгивала заборы.
Медиа описывают Конингема как «техпредпринимателя без биологического образования», но на самом деле он ветеран ML и data science, сооснователь Core Intelligence Technologies в Сиднее, десятилетиями работающий с пайплайнами обработки данных. Для него ChatGPT был инструментом опытного специалиста, а не волшебной кнопкой «создай вакцину».
ИИ помог предложить направление — иммунотерапию — и указал на Центр геномики UNSW Ramaciotti. Профессор Мартин Смит вспоминает, что обычно центр не поддерживает прямое потребительское секвенирование ДНК, но Конингем уверил его: «Не волнуйтесь, я аналитик данных, разберусь с помощью ChatGPT». Далее он использовал AlphaFold для предсказания 3D-структур мутировавших белков и собственные ML-алгоритмы для отбора неоантигенов. Полученные данные он передал профессору Паллю Торгдарсону из RNA Institute UNSW, который синтезировал наночастицу. Вакцину вводила профессор Рейчел Аллавена из Университета Квинсленда, единственный ветеринар с разрешением на такие эксперименты.
Важно подчеркнуть, что ИИ не создавал вакцину самостоятельно. Он ускорил процесс анализа и исследования, который без него занял бы месяцы.
Экспериментальные процедуры у животных регулируются иначе, чем у человека, поэтому от дизайна вакцины до первой инъекции прошло меньше двух месяцев. Для лекарств для людей такой процесс занял бы годы и стоил значительно дороже.
Персонализированные мРНК-вакцины против рака — не фантастика. Компании Moderna и Merck уже показали снижение риска рецидива меланомы на 44% по сравнению с монотерапией, и сейчас идут III фазы исследований для меланомы и немелкоклеточного рака лёгкого. Профессор Торгдарсон отмечает, что достижение Конингема поразительно, так как ИИ снизил порог входа в задачи, которые раньше требовали целой команды, до уровня одного человека с нужным опытом и инструментами. @banksta
В 2024 году Конингем узнал, что у Рози рак тучных клеток — распространённая и почти неизлечимая форма онкологии у собак. Хирургия и химиотерапия замедлили болезнь, но не остановили её. В декабре 2025 года Рози получила первую инъекцию персонализированной мРНК-вакцины. Уже к январю опухоль уменьшилась вдвое, шерсть снова блестела, а собака перепрыгивала заборы.
Медиа описывают Конингема как «техпредпринимателя без биологического образования», но на самом деле он ветеран ML и data science, сооснователь Core Intelligence Technologies в Сиднее, десятилетиями работающий с пайплайнами обработки данных. Для него ChatGPT был инструментом опытного специалиста, а не волшебной кнопкой «создай вакцину».
ИИ помог предложить направление — иммунотерапию — и указал на Центр геномики UNSW Ramaciotti. Профессор Мартин Смит вспоминает, что обычно центр не поддерживает прямое потребительское секвенирование ДНК, но Конингем уверил его: «Не волнуйтесь, я аналитик данных, разберусь с помощью ChatGPT». Далее он использовал AlphaFold для предсказания 3D-структур мутировавших белков и собственные ML-алгоритмы для отбора неоантигенов. Полученные данные он передал профессору Паллю Торгдарсону из RNA Institute UNSW, который синтезировал наночастицу. Вакцину вводила профессор Рейчел Аллавена из Университета Квинсленда, единственный ветеринар с разрешением на такие эксперименты.
Важно подчеркнуть, что ИИ не создавал вакцину самостоятельно. Он ускорил процесс анализа и исследования, который без него занял бы месяцы.
Экспериментальные процедуры у животных регулируются иначе, чем у человека, поэтому от дизайна вакцины до первой инъекции прошло меньше двух месяцев. Для лекарств для людей такой процесс занял бы годы и стоил значительно дороже.
Персонализированные мРНК-вакцины против рака — не фантастика. Компании Moderna и Merck уже показали снижение риска рецидива меланомы на 44% по сравнению с монотерапией, и сейчас идут III фазы исследований для меланомы и немелкоклеточного рака лёгкого. Профессор Торгдарсон отмечает, что достижение Конингема поразительно, так как ИИ снизил порог входа в задачи, которые раньше требовали целой команды, до уровня одного человека с нужным опытом и инструментами. @banksta
Частные инвестиционные фирмы скупили в США 500 больниц. После этого смертность в их отделениях неотложной помощи выросла на 13% — это семь дополнительных смертей на 10 000 пациентов. Они уволили 12% персонала, а расходы на зарплату в отделениях неотложной помощи снизились на 18,2%, в отделениях интенсивной терапии — на 15,9%. Затем инвесторы выплатили себе миллиарды в виде дивидендов.
Исследование Гарвардского университета лишь подтвердило то, что врачи и так знали: люди умирают, чтобы инвесторы могли получать квартальные дивиденды. Частные фонды покупают больницы с использованием заемных средств, а долг отражается на балансе самой больницы, что заставляет сокращать персонал и расходы на лечение. В результате пациенты страдают, медсестры и врачи уходят, а прибыль уходит к инвесторам.
Примером является Steward Health Care, принадлежащая Cerberus Capital, которая объявила банкротство с долгом в 9 миллиардов долларов, при этом генеральный директор жил на яхте стоимостью 40 миллионов долларов, пока отделения неотложной помощи закрывались. Индустрия частного капитала управляет четвертью отделений неотложной помощи в США, и закрытие больниц фондом приносит прибыль конкурентам вроде HCA Healthcare, чьи акции с 2011 года выросли на 1200%.
Модель бизнеса этих фондов проста: сокращение персонала, перенос прибыльных процедур в амбулаторные центры, «реструктуризация» и рост числа пациентов у конкурентов. Когда фонд покупает больницу, страдают пациенты, уходят медсестры и врачи, инвесторы получают дивиденды, а никто не несет ответственности. @banksta
Исследование Гарвардского университета лишь подтвердило то, что врачи и так знали: люди умирают, чтобы инвесторы могли получать квартальные дивиденды. Частные фонды покупают больницы с использованием заемных средств, а долг отражается на балансе самой больницы, что заставляет сокращать персонал и расходы на лечение. В результате пациенты страдают, медсестры и врачи уходят, а прибыль уходит к инвесторам.
Примером является Steward Health Care, принадлежащая Cerberus Capital, которая объявила банкротство с долгом в 9 миллиардов долларов, при этом генеральный директор жил на яхте стоимостью 40 миллионов долларов, пока отделения неотложной помощи закрывались. Индустрия частного капитала управляет четвертью отделений неотложной помощи в США, и закрытие больниц фондом приносит прибыль конкурентам вроде HCA Healthcare, чьи акции с 2011 года выросли на 1200%.
Модель бизнеса этих фондов проста: сокращение персонала, перенос прибыльных процедур в амбулаторные центры, «реструктуризация» и рост числа пациентов у конкурентов. Когда фонд покупает больницу, страдают пациенты, уходят медсестры и врачи, инвесторы получают дивиденды, а никто не несет ответственности. @banksta