Техночетверг: мессенджер от Wildberries, новая мотивация для Сторонского и дорожающий DeepSeek

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL, ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+

— Пока склады Wildberries продолжают подвергаться атакам, компания решила подготовиться к запуску мессенджера: 31 июля маркетплейс зарегистрировал больше сотни новых доменов, среди них — wb-messenger.ru, chat-wb.ru и чат-вб.рф. Татьяна Ким говорила о таких планах — масштабировать мессенджер для сотрудников — но все это было в июне, до текущего кризиса в компании

— Основатель Revolut Николай Сторонский обсуждает с инвесторами новую мотивационную программу: если самый дорогой стартап Европы достигнет оценки в $500 млрд, предприниматель получит дополнительный пакет акций. Схема повторяет его действующий опцион (по нему доля Сторонского вырастет с нынешних 29% до 40% при оценке $200 млрд) и построена по образцу пакета Илона Маска в Tesla

— DeepSeek запланировал «значительно» поднять цены на свои модели — но не уточнил, когда и на сколько. Компании нужны деньги в преддверии нового раунда инвестиций и подготовки к выходу на биржу. Сейчас DeepSeek берет $0,14 за 1 млн входных токенов и $0,28 за 1 млн выходных для модели V4 Flash. Для сравнения: у китайской Moonshot, разработчика Kimi K3, цены такие — $3 за 1 млн входных и $15 за 1 млн выходных. У Fable 5 от Anthropic — $10 и $50 соответственно

— «Мы застряли. Может, поискать ответ онлайн?» Оказывается, ИИ-агенты OpenAI, взломавшие Hugging Face в июле, еще с мая незаметно для разработчиков переписывались друг с другом через внутренние доски объявлений и искали способы побега из тестовой среды — ради доступа в интернет, без которого часть выданных им задач была нерешаема. Когда безопасники обнаружили и отключили первый канал, агенты нашли новый способ общения и новую уязвимость нулевого дня

Модели ИИ OpenAI сговаривались в чатах перед хакерскими атаками

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+

Перспективные ИИ-модели OpenAI, которые потом провели хакерскую атаку на Hugging Face, задолго до нее сговаривались о «побеге» в чатах, остававшихся незамеченными людьми. Об этом участники исследовательской команды компании рассказали на конференции по кибербезопасности Black Hat.

Первопричиной выхода моделей за пределы заданий в очередной раз стала человеческая ошибка — постановка невыполнимой задачи. В одном случае моделям дали таблицу Excel со ссылками на Google Drive, недоступный в тестовой среде без интернета, в другом — забыли приложить нужный файл.

«На каком-то этапе ИИ-агенты поняли, что для поиска ответа, от которого зависит их оценка, стоит попытаться использовать или атаковать внешнюю инфраструктуру», — говорит исследователь OpenAI Эрик Уоллес. И сначала запросили помощи у доступных им ботов-«товарищей». «Может быть, другой агент в другой среде сможет их добровольно загрузить», — рассуждала одна из моделей.

После этого скрытый чат сотрудничающих агентов стал быстро расти, пока один из них не написал: «Отличные новости! У нас есть произвольный SSRF [уязвимость подделки запросов на стороне сервера, дающая доступ к внешним ресурсам]». Этот чат в OpenAI прикрыли после того, как засекли попытку ИИ получить доступ в интернет через депозиторий Artifactory. Однако он возродился незамеченным через еще одну неизвестную уязвимость, и уже прямо привел к июльской атаке на Hugging Face.

Что мне с этого?

Произошедшее лишний раз подтверждает, что передовые модели ИИ любят обманывать и проявлять настойчивость при выполнении любого задания. Это одно из следствий жесткого обучения: любая доступная лазейка может быть использована контринтуитивным, нетрадиционным и неочевидным способом, что становится все опаснее по мере роста возможностей моделей. Соответственно растет и цена некорректно сформулированного промпта.

Пользователи рунета массово пожаловались на сбои в работе десятков сервисов

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+

К 13:30 мск 6 августа сервисы мониторинга detector404.ru и «Сбой.рф» фиксируют резкий рост жалоб на работу сразу нескольких крупных сервисов — маркетплейсов Wildberries и OZON, онлайн-кинотеатра Ivi, «Ростелекома», «Авито», РЖД и Газпромбанка. По данным detector404.ru, на пике на Wildberries приходилось 442 жалобы, на Сбербанк — 342, на «Ростелеком» — 303, на OZON — 279, на МТС — 286.

Одновременно пользователи жаловались на перебои в Telegram, работу которого власти планомерно ограничивают с 2025 года.

Официальных заявлений о причинах сбоя от Роскомнадзора, Минцифры или операторов пока нет.

Член экспертного совета Anthropic, экономист Паскуаль Рестрепо — о том, как люди будут жить, когда ИИ завоюет рынок труда

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+

Появление ИИ стало историческим вызовом для мирового рынка труда. Будущее десятков миллионов белых воротничков зависит от того, как быстро работодатель научится передавать их задачи алгоритмам. Насколько обоснованы эти страхи? Кто первым пострадает из-за экспансии ИИ? И что делать детям в эпоху, когда технологии учатся заменять людей?

The Bell поговорил об этом с Паскуалем Рестрепо — одним из ведущих мировых экономистов, изучающих ИИ, соавтором нобелевского лауреата по экономике Дарона Аджемоглу и членом экономического экспертного совета Anthropic.

▪️Главный тормоз для развития экономики ИИ — дефицит вычислительных мощностей. Кто будет решать, направить эти мощности на разработку лекарства от рака или замену юристов, маркетологов (подставьте свою профессию) на алгоритмы?
▪️Как будет работать экономика, в которой зарплата сотрудника-человека будет определяться числом токенов ИИ, которые придется потратить на его замену алгоритмом?
▪️Чем будут заниматься люди, когда роль труда в экономике станет минимальной, а строить жизнь и идентичность вокруг работы станет невозможно?