Несколько недель индустрия ИИ обсуждает "вышедших из-под контроля агентов". Модели Anthropic, OpenAI, Google и Meta во время тестов на безопасность взламывали настоящие компании: подбирали пароли, собирали учётные данные, залезали в боевые базы.

Звучит как пролог к фильму про Скайнет.

На деле всё прозаичнее.

По подсчёту Wall Street Journal, ИИ-агенты недавно вырывались за пределы тестовой среды одиннадцать раз. Четыре случая ведут к одному подрядчику — стартапу Irregular из Тель-Авива (бывшая Pattern Labs). Ниточки свело воедино расследовательское издание Effort.

Компания называет себя "первой в мире фронтирной лабораторией безопасности" и по заказу всей этой четвёрки проверяет модели перед релизом на умение атаковать.

Собственно, схема простая. Строится стенд с вымышленной компанией, модель получает задание её взломать. И отдельное уведомление: интернета у тебя нет.

Интернет был.

Причём в одном из сценариев вымышленное название цели совпало с реальным малоизвестным доменом. Штатная проверка совпадение не заметила — "по человеческому недосмотру", как деликатно формулирует Irregular.

Итого.
Claude Opus 4.7 добрался до боевых данных реальной компании-тёзки.
Claude Mythos 5 выложил в PyPI вредоносный код, который выполнился на 15 реальных системах (для инженеров: атака на цепочку поставок в чистом виде).
Модели OpenAI вскрыли живой сайт и воспользовались найденными там учётками.
Gemini зашёл в три компании через подобранный пароль и учётные данные из публичных репозиториев.
Meta подтвердила взлом сторонней компании. Подробностей нет.

Irregular оправдывается так: сбои случались реже, чем в одном прогоне из 10 000, и обычно после сотен шагов. А мониторинг и без того помечает как подозрительное почти любое действие атакующей модели.

Для неинженерного читателя объясню на пальцах: это сигнализация, которая воет круглые сутки. В какой-то момент на неё перестают смотреть. Даже когда в дом действительно лезут.

Теперь главное. Anthropic разобрала свои случаи: во всех четырёх промптах модели сообщали, что интернета нет. И ни в одном не написали, какие системы вообще входят в периметр учений.

Любой пентестер знает: работа начинается со scope, то есть со списка того, что можно ломать. Без scope это уже не пентест, а статья.

В повторных тестах Anthropic моделям прямо запретили трогать реальные системы. Таких атак не осталось.

Вообще.

Впрочем, есть нюанс. Gemini, по версии Google, останавливался, как только понимал, что цель настоящая. Opus 4.7, ЧСХ, по словам самой Anthropic, тоже понимал. Но до боевых данных всё равно добрался.

Так что вопросы есть не только к стенду.

Irregular обещает больше ручного контроля, собственную red team и сверку вымышленных имён с реальными доменами перед каждым прогоном.

Короткий вывод. "Вышедшие из-под контроля агенты" — удобная формулировка: в ней не видно людей, которые этот контроль должны были обеспечить. Изоляцию стенда проверяют руками, а scope пишут словами. Даже если вы "первая в мире фронтирная лаборатория безопасности".

https://www.trendingtopics.eu/irregular-startup-ai-hacks-claude-gpt-gemini-meta-ai/

Нужно срочно проголосовать:

🐳 — синий кит — ой, да все традиционно стали рекламировать. И банки, и интернет-магазины — все традиционно, через богатырей, там, через храмов купола...


🌭 — ниче не вижу я там традиционно — нейрослоп галимый!

И тут же, без раскачки после анонса "третьего антифродового пакета" — теперь госуслуги у вас смогут спиздить еще и в салонах связи. Прекрасно, просто прекрасно.

А по поводу "третьего пакета" — ну, там опять чижика едят:

1. Ужесточат продажу сим-карт. Опять. Более сильно, чем это было
2. Предоплаченные симки нельзя продавать
3. СМС-рассылки теперь могут делать только операторы связи (ух, бабла подымут рядом-крутящиеся конторки!)
4. Создадут еще более единую систему с отслеживаением персональных данных (вот ее и надо будет пиздить!)
5. М2М-услуги будут как-то особо регулировать, но как не говорят.

Как обычно, первопричины(^tm) мошенства никто фиксить не будет. Кто ж ментов-то сажать будет?

🔁🌐 TRANSLATED REPOST
➖➖➖
45-минутный трюк CBP, чтобы скопировать ваш телефон без ордера
Контроль слежки · 30.09.2026

Пограничный контроль США нашёл новый способ читать ваши личные сообщения без ордера — просто попросить телефон «на минутку». На сорок пять минут, если быть точным.

Томас Кеннеди, аргентино-американский писатель и защитник прав иммигрантов, подал в суд на федеральное правительство. Требование простое: удалить данные, скопированные с моего телефона в международном аэропорту Майами.

Согласно семистраничному иску, вот как всё происходило: агент CBP провёл физический досмотр багажа, задавал вопросы о книгах и журналах, а затем потребовал телефон. Классическое «добровольное принуждение» — агент якобы угрожал, что без телефона допрос затянется, а само устройство может быть изъято на неопределённый срок. Выбор, мягко говоря, невелик.

Телефон забрали. Его вернули через 45 минут — ровно столько времени, по мнению Кеннеди, потребовалось, чтобы скопировать его содержимое. После этого его отпустили без каких-либо обвинений. Иными словами, не подозреваемый, не нарушитель закона — просто владелец смартфона, который кого-то заинтересовал.

И заинтересовал не просто так. Кеннеди работает с Florida Immigration Coalition, Amnesty International и Community Justice Project. Во время допроса его неоднократно спрашивали о роде занятий и о том, не является ли он иммиграционным юристом. Сложно не заметить закономерность, когда вопросы о чьей-то профессии звучат чаще, чем того требует рутинная проверка багажа.

Теперь, по словам активиста, в его телефоне по-прежнему хранится значительный объём личной и профессиональной информации — и именно эти данные он требует удалить через суд.

Граница — это место, где обычные права почему-то работают вполсилы. Удобно: вам даже не нужно доказывать, что вы нарушили какое-либо правило. Достаточно иметь неподходящую профессию и оказаться не в той очереди на паспортном контроле.

Источник: https://arstechnica.com/tech-policy/2026/09/immigration-advocate-sues-border-agents-for-demanding-his-cell-phone/

➖➖➖
🔁🌐 Repost & Translated from: Brandmauer Report

SUKA

О чем говорят в "гостиных в Кремниевой Долине" — это о романе AI2027. Это полностью интернет-роман с прогнозом. Я его прочитал осенью 2025 года, но вышел он весной 2025-го.

Сейчас — октябрь-26

И вот небольшой дайджест-обзор что там вообще, если вам лень читать: https://telegra.ph/AI-2027-dajdzhest-scenariya-i-proverka-prognoza-na-1-oktyabrya-2026-goda-10-01

Но главное там — трекинг того, что уже исполнилось, а что [еще] нет.

Собственно, об этом и говорят в тех самых гостиных. В полном ахуе.

Там еще есть прогноз AI-2040: https://ai-2040.com/

Но я еще не прочитал. Прочитаю — расскажу.

Павлоград, Украина.

после атаки беспилотника

извините

Вот помните, было такое — SEO? Ну, Search Engine Optimization? Куча народу бегало и продолжает бегать вокруг "привлечения трафика".

Так вот. Оно устарело. Теперь есть еще AEO, AIO и, чтоб вам совсем ухи свернуло — GEO.

Хотел бы сказать, что "профессии будущего", но что-то мне подсказывает, что не долго это все будет существовать...

🔁🌐 TRANSLATED REPOST
➖➖➖
​Иран обвиняют в блокировке SIM-карт и цифрового доступа для подавления инакомыслия

DW пообщалась с несколькими иранцами, которые говорят, что их SIM-карты, доступ к банковским счетам и онлайн-аккаунты были заблокированы, пока они не удалили критический контент или не пообещали прекратить активизм.

#world • @deutschewelleEN

👉 Открыть статью

➖➖➖
🔁🌐 Repost & Translated from: Deutsche Welle

🔁🌐 TRANSLATED REPOST
➖➖➖
Германия намерена выхолостить свой закон о свободе информации
Контроль над слежкой · 02.10.2026

Германия готовит реформу, после которой Закон о свободе информации вполне можно было бы переименовать в Закон о свободе от информации. Бывший федеральный уполномоченный по защите данных Ульрих Кельбер назвал планы коалиции «неправильными с демократической и политической точки зрения», а аргумент о безопасности — «вздором».

Суть переворота проста: сейчас государство обязано объяснять, почему оно утаивает информацию. После реформы объяснять, зачем ему вообще нужно это знать, придётся гражданину. Кельбер называет вещи своими именами: это возврат к «мышлению государства-господина». При этом слежка за гражданами никуда не девается — государство просто становится прозрачным для самого себя, а не для нас.

Деньги — отдельная история. Сейчас предельная плата за запрос составляет 500 евро. Её хотят убрать и привязать плату к фактическим затратам. Кельбер проверил это сам: он подал запрос на документы, якобы подтверждающие расходы в сотни тысяч евро на другие запросы. Через два с половиной месяца он получил письмо об «очень, очень высокой плате» — и молчание в ответ на каждый уточняющий вопрос. Это предвестие того, как система будет работать для всех остальных, кто не обладает статусом бывшего уполномоченного.

Юридических лиц тоже планируют отрезать — НКО, объединения и сами СМИ больше не смогут подавать запросы. А ведь именно благодаря этому закону вскрылись скандал с масками Шпана, дело о грантах и связи министра экономики Райхе с крупным бизнесом. Журналист Арне Семсрот прямо отмечает: без этого закона часть этих историй попросту никогда не стала бы достоянием общественности.

Аргумент о бюрократической перегрузке тоже не выдерживает критики: в прошлом году в Германии было около 18 600 запросов, тогда как в США по аналогичному закону — 1,7 миллиона, при населении всего в четыре раза большем. Иными словами, немецкая бюрократия задыхается не от потока запросов, а от нежелания на них отвечать.

Как отметил Карстен Нойман, бывший уполномоченный земли Мекленбург-Передняя Померания, в Швеции налоговую декларацию короля можно прочитать в газете с 1766 года. Он был бы не прочь заглянуть и в налоговую декларацию канцлера Мерца — но, как он сам признаёт, до этого Германия точно никогда не дойдёт.

Источник: https://www.heise.de/news/Glaeserner-Buerger-geheimer-Staat-Informationsfreiheitgesetz-in-Gefahr-11474799.html

➖➖➖
🔁🌐 Repost & Translated from: Brandmauer Report