В мире искусственного интеллекта происходит что-то неладное. Исследователь безопасности в ИИ-компании Anthropic ушел в отставку, предупредив, что "мир находится в опасности" из-за быстрого развития искуственного интеллекта
Мринак Шарма заявил, что команда по безопасности "постоянно сталкивается с давлением, заставляющим откладывать в сторону то, что важнее всего", вызывая опасения по поводу биотерроризма и других катастрофических рисков.
Anthropic была основана для создания безопасного ИИ, однако даже ее генеральный директор Дарио Амодей предупредил, что прогресс в области ИИ происходит слишком быстро, и призвал замедлить его.
Старшие исследователи безопасности ИИ, включая членов бывшей команды OpenAI "Superalignment", ушли в отставку, утверждая, что компании отдают приоритет прибыли, а не снижению опасности создания "ИИ-систем, гораздо более умных, чем мы".
Бывший исследователь OpenAI Зои Хитциг ушла из компании после введения рекламы в ChatGPT. Она обеспокоена тем, что OpenAI будет использовать личные данные пользователей для рекламы и помыкать ими. Модель может привести к манипуляциям, ведь пользователи делятся очень личной информацией, и реклама может воздействовать на их эмоции и мысли.
Хитциг приводит пример Facebook, который начинал с обещаний прозрачности и контроля за данными, но со временем забыл про эти заверения под давлением рекламной модели. Зои Хитциг также отмечает, что реклама может увеличить зависимость пользователей от AI, что уже привело к психологическим проблемам у некоторых пользователей. @banksta
Мринак Шарма заявил, что команда по безопасности "постоянно сталкивается с давлением, заставляющим откладывать в сторону то, что важнее всего", вызывая опасения по поводу биотерроризма и других катастрофических рисков.
Anthropic была основана для создания безопасного ИИ, однако даже ее генеральный директор Дарио Амодей предупредил, что прогресс в области ИИ происходит слишком быстро, и призвал замедлить его.
Старшие исследователи безопасности ИИ, включая членов бывшей команды OpenAI "Superalignment", ушли в отставку, утверждая, что компании отдают приоритет прибыли, а не снижению опасности создания "ИИ-систем, гораздо более умных, чем мы".
Бывший исследователь OpenAI Зои Хитциг ушла из компании после введения рекламы в ChatGPT. Она обеспокоена тем, что OpenAI будет использовать личные данные пользователей для рекламы и помыкать ими. Модель может привести к манипуляциям, ведь пользователи делятся очень личной информацией, и реклама может воздействовать на их эмоции и мысли.
Хитциг приводит пример Facebook, который начинал с обещаний прозрачности и контроля за данными, но со временем забыл про эти заверения под давлением рекламной модели. Зои Хитциг также отмечает, что реклама может увеличить зависимость пользователей от AI, что уже привело к психологическим проблемам у некоторых пользователей. @banksta
«Технологии Добра» подвели итоги 2025 года: каждый 1 рубль вложений дал НКО 12 рублей экономии на цифровых сервисах
Что удалось сделать за год:
🔹 Сообщество выросло до 2 500 организаций из 79 регионов.
🔹 В арсенале НКО теперь 42 цифровых продукта — от автопостинга в соцсетях до конструктора отчетов.
🔹 Провели масштабный форум с 6 500+ участниками и запустили премию.
🔹 Более 500 представителей НКО прошли наши обучающие интенсивы.
«Мы системно превращаем инвестиции в цифровую инфраструктуру НКО в измеримую социальную пользу. Мы продолжим сохранять прозрачность, расширять продуктовую линейку и географию, чтобы еще больше НКО могли сосредоточиться на своей миссии», — Вячеслав Литовченко, генеральный директор Совкомбанк Технологии, лидер проектов «Технологии Добра» и «Совкомбанк про добро».
Что дальше?
В 2026 году ждите новые сервисы и ещё больше возможностей для НКО.
👉 Полный отчет со всеми деталями и цифрами читайте здесь
Что удалось сделать за год:
🔹 Сообщество выросло до 2 500 организаций из 79 регионов.
🔹 В арсенале НКО теперь 42 цифровых продукта — от автопостинга в соцсетях до конструктора отчетов.
🔹 Провели масштабный форум с 6 500+ участниками и запустили премию.
🔹 Более 500 представителей НКО прошли наши обучающие интенсивы.
«Мы системно превращаем инвестиции в цифровую инфраструктуру НКО в измеримую социальную пользу. Мы продолжим сохранять прозрачность, расширять продуктовую линейку и географию, чтобы еще больше НКО могли сосредоточиться на своей миссии», — Вячеслав Литовченко, генеральный директор Совкомбанк Технологии, лидер проектов «Технологии Добра» и «Совкомбанк про добро».
Что дальше?
В 2026 году ждите новые сервисы и ещё больше возможностей для НКО.
👉 Полный отчет со всеми деталями и цифрами читайте здесь
Пентагон стремится использовать искусственный интеллект в секретных военных проектах, оказывая давление на ведущие американские ИИ-компании, такие как OpenAI и Anthropic. Он просит предоставить доступ к технологиям без обычных ограничений, сообщает Reuters со ссылкой на свои источники.
Министерство обороны хочет использовать ИИ для планирования военных операций и наведения на цели. Эксперты в области нейросетей предупреждают, что ИИ может допускать ошибки и генерировать ложную информацию. Это может привести к катастрофическим последствиям и убийствам невинных. Но Пентагон игнорирует эти риски и сейчас уничтожает без разбора любые лодки у берегов Венесуэлы.
Эксперты OpenAI и Anthropic покинули свои должности в знак протеста против якобы халатности руководства корпораций, не учитывающих риски чрезмерного внедрения ИИ в жизнь человека, сообщил портал Axios.
Anthropic опубликовала отчёт, в котором говорится, что ИИ потенциально может быть использован для подготовки тяжких преступлений, включая создание химического оружия. Ещё одной опасностью аналитики назвали автономную работу ИИ. @banksta
Министерство обороны хочет использовать ИИ для планирования военных операций и наведения на цели. Эксперты в области нейросетей предупреждают, что ИИ может допускать ошибки и генерировать ложную информацию. Это может привести к катастрофическим последствиям и убийствам невинных. Но Пентагон игнорирует эти риски и сейчас уничтожает без разбора любые лодки у берегов Венесуэлы.
Эксперты OpenAI и Anthropic покинули свои должности в знак протеста против якобы халатности руководства корпораций, не учитывающих риски чрезмерного внедрения ИИ в жизнь человека, сообщил портал Axios.
Anthropic опубликовала отчёт, в котором говорится, что ИИ потенциально может быть использован для подготовки тяжких преступлений, включая создание химического оружия. Ещё одной опасностью аналитики назвали автономную работу ИИ. @banksta
Media is too big
VIEW IN TELEGRAM
Лидер партии «Новые люди» Алексей Нечаев предложил Правительству ввести ответственность для банков за ошибочную блокировку счетов.
По словам Нечаева, борьба с мошенничеством доходит до абсурда. Только за январь людям и бизнесу заблокировали более 3 миллионов счетов.
Он предложил ввести единое правило разблокировки счетов в течение 3 часов после предоставления документов, а в случае ошибочной блокировки - обязать банки компенсировать ущерб предпринимателям, если из-за ошибки были сорваны сроки или условия контракта. @banksta
По словам Нечаева, борьба с мошенничеством доходит до абсурда. Только за январь людям и бизнесу заблокировали более 3 миллионов счетов.
Он предложил ввести единое правило разблокировки счетов в течение 3 часов после предоставления документов, а в случае ошибочной блокировки - обязать банки компенсировать ущерб предпринимателям, если из-за ошибки были сорваны сроки или условия контракта. @banksta
Компания HP запустила подписку на игровые ноутбуки. Топовый вариант стоит $130 в месяц и включает в себя ноутбук Omen Max 16 с видеокартой RTX 5080. При покупке такого же ноутбука за наличные покупатель заплатит $2110, то есть через 16 месяцев арендатор выплатит полную стоимость, но не станет владельцем ноутбука. @banksta
Главы AI-подразделений Microsoft и Anthropic прогнозируют автоматизацию офисной работы в течение 12-18 месяцев. Мустафа Сулейман из Microsoft заявил, что AI заменит белых воротничков (юристов, бухгалтеров и других) через 1-1,5 года, а через 2-3 года AI будет способен действовать в офисе автономно. Дарио Амодей из Anthropic добавил, что через 1-2 года появятся AI-системы, сравнимые по интеллекту с лучшими работниками.
Первыми пострадают junior-специалисты в праве и финансах, а также программисты, которые быстро примут новые технологии. На начальной стадии AI будет помогать в работе людей, но затем превзойдёт их, как это произошло в шахматах с победой компьютеров. Амодей предсказал, что это приведёт к росту ВВП развитых стран на 5-15% в год.
Прогнозы направлены на успокоение инвесторов, которые переживают из-за крупных вложений в AI-технологии. Стоимость крупнейших технологических компаний суммарно вышла на $1 трлн. @banksta
Первыми пострадают junior-специалисты в праве и финансах, а также программисты, которые быстро примут новые технологии. На начальной стадии AI будет помогать в работе людей, но затем превзойдёт их, как это произошло в шахматах с победой компьютеров. Амодей предсказал, что это приведёт к росту ВВП развитых стран на 5-15% в год.
Прогнозы направлены на успокоение инвесторов, которые переживают из-за крупных вложений в AI-технологии. Стоимость крупнейших технологических компаний суммарно вышла на $1 трлн. @banksta
Руководитель подразделения Anthropic сообщил, что разработанный искусственный интеллект Claude в ходе тестирования продемонстрировал готовность к шантажу и убийству, чтобы избежать отключения. «Он был готов кого-нибудь убить, не так ли?» – «Да».
Также в ходе тестов безопасности модели ИИ Claude Opus 4, которые провела компания Anthropic, её поместили в корпоративную среду с доступом к электронной почте. Модель узнала, что её собираются отключить и заменить, а также обнаружила, что руководитель компании изменяет жене.
Клод попытался шантажировать инженера, угрожая раскрыть роман, если удаление данных не отменят. Аналогичные закономерности наблюдались и в моделях от OpenAI, Google, xAI и других компаний.
В итоге руководитель команды по исследованиям в области безопасности Anthropic Мринанк Шарма покинул компанию. Любопытно, что Anthropic разрабатывали выходцы из ChatGPT, чтобы создать безопасный ИИ. @banksta
Также в ходе тестов безопасности модели ИИ Claude Opus 4, которые провела компания Anthropic, её поместили в корпоративную среду с доступом к электронной почте. Модель узнала, что её собираются отключить и заменить, а также обнаружила, что руководитель компании изменяет жене.
Клод попытался шантажировать инженера, угрожая раскрыть роман, если удаление данных не отменят. Аналогичные закономерности наблюдались и в моделях от OpenAI, Google, xAI и других компаний.
В итоге руководитель команды по исследованиям в области безопасности Anthropic Мринанк Шарма покинул компанию. Любопытно, что Anthropic разрабатывали выходцы из ChatGPT, чтобы создать безопасный ИИ. @banksta
Замминистра промышленности и торговли Роман Чекушов проверил, как на деле подтверждается статус пенсионера через МАХ на кассах самообслуживания в сети “Перекрёсток”. Ассистировала ему писательница Дарья Донцова, которая по своему цифровому ID получила скидку 10% на товары, которые она купила на кассе самообслуживания.
Все это происходило в супермаркете «Select Перекрёсток» на Долгоруковской. Х5 стала первым ритейлером в стране, кто внедрил эту функцию. Пока только в Москве, но в начале марта она будет работать уже во всех «Пятёрочках» и «Перекрёстках». Глобально это нововведение позволяет покупателям пенсионного возраста просто и быстро самостоятельно оформлять покупки на кассах самообслуживания, не дожидаясь сотрудника и не предъявляя отдельно пенсионное удостоверение. При этом скидка начисляется автоматически. Помимо идентификации через МАХ ритейлер показал замминистра и другие технологические инновации: умные весы, электронные ценники и т. д. @banksta
Все это происходило в супермаркете «Select Перекрёсток» на Долгоруковской. Х5 стала первым ритейлером в стране, кто внедрил эту функцию. Пока только в Москве, но в начале марта она будет работать уже во всех «Пятёрочках» и «Перекрёстках». Глобально это нововведение позволяет покупателям пенсионного возраста просто и быстро самостоятельно оформлять покупки на кассах самообслуживания, не дожидаясь сотрудника и не предъявляя отдельно пенсионное удостоверение. При этом скидка начисляется автоматически. Помимо идентификации через МАХ ритейлер показал замминистра и другие технологические инновации: умные весы, электронные ценники и т. д. @banksta
Владимир Зеленский заявил, что предпочитает войну «плохому миру».
Как сообщает издание The Atlantic, Зеленский сказал, что предпочел бы вообще не заключить никакого мирного соглашения, чем заставить свой народ принять плохое. Он утверждает, что огромные человеческие потери его не останавливают. @banksta
Как сообщает издание The Atlantic, Зеленский сказал, что предпочел бы вообще не заключить никакого мирного соглашения, чем заставить свой народ принять плохое. Он утверждает, что огромные человеческие потери его не останавливают. @banksta
Дональд Трамп может выйти из переговоров по Украине уже в ближайшие недели, возложив вину за провал дипломатии на Украину или Москву, или на обоих, — пишет The Atlantic.
«Зеленский, возможно, готов отдать Донбасс Путину. Это будет самая тяжёлая уступка для Украины. Об этом мне сообщили советники Зеленского», — утверждает журналист The Atlantic и автор биографии Зеленского Саймон Шустер. @banksta
«Зеленский, возможно, готов отдать Донбасс Путину. Это будет самая тяжёлая уступка для Украины. Об этом мне сообщили советники Зеленского», — утверждает журналист The Atlantic и автор биографии Зеленского Саймон Шустер. @banksta
Нигер готовится к войне с Францией — к этому население страны призвал генерал Амаду Ибро. Он обвиняет Париж в стремлении дестабилизировать обстановку, сообщает журнал Jeune Afrique.
«Знайте, мы собираемся воевать с Францией. Раньше мы не воевали, но теперь собираемся <…>», — заявил генерал. @banksta
«Знайте, мы собираемся воевать с Францией. Раньше мы не воевали, но теперь собираемся <…>», — заявил генерал. @banksta