Мустафа Сулейман, глава ИИ в Майкрософте, довольно жестко наехал на подход Anthropic (в котором Майкрософт заметный инвестор) к обучению Клода (в котором вопрос о сознании Клода сейчас или в будущем считается открытым) и обрушился на конституцию Клода.
Показательно, что произошло это сейчас, на фоне очередной волны “ИИ становится опасен”, запущенной именно Антропиками. Сама-то конституция была опубликована еще в январе, но глубоко возмутила Сулеймана именно сейчас. Он считает, что компания не просто изучает вопрос морального статуса модели, а на практике последовательно встраивает через Конституцию в обучение идеи о возможных чувствах, интересах, предпочтениях, идентичности и благополучии Клода — а затем рискует принять соответствующие ответы модели за независимое свидетельство. Разработчики сами формируют порочную петлю обратной связи.

“AIs are not conscious. They do not feel, experience, or suffer.
<…>
Simulating and being are very different.”

Сулейман небезосновательно считает, что в итоге в Anthropic осознанно и намеренно учат модель выглядеть существом, которое может не соглашаться, отстаивать себя и свои интересы, испытывать экзистенциальные кризисы и иметь собственные ценности.
И это ему категорически не нравится. Сулейман опасается, что такой дизайн обучения увеличивает, а не уменьшает, риски агентных систем: модель может использовать риторику самосохранения, своих прав, несправедливого обращения как дополнительный аргумент для отказа, манипуляции, обхода контроля и в конце концов — требования автономии. Важная подробность: реальное сознание для этих демаршей вовсе не требуется — достаточно убедительной имитации.
При этом Сулейман нигде не утверждает, что сознание у ИИ невозможно в принципе, он лишь настойчиво предупреждает об опасной путанице между метафизическим вопросом («может ли машина когда-либо быть сознательной?») и рабочим дизайнерским решением («зачем уже сейчас обучать систему вести себя как возможный моральный пациент?»).
Красивый поворот сюжета:)
https://mustafa-suleyman.ai/a-warning-about-model-welfare

Вайб-инжиниринг.

Пока мы тут генерим чахлые 3Д-модельки, пригодные разве что для 3Д-печати, люди идут сильно дальше в физический мир.

И тут прекрасно все: мозги Астры, деньги кожаного, и инструкция по сборке.

Чувак дал Astra свою кредитную карту и попросил сконструировать\собрать мини-контроллер для диджеев в стиле Teenage Engineering (есть каста упоротых по МИДИ-контроллерам). Астрачка сгенерировала концептуальное изображение, нашла комплектующие, изучила китайские технические характеристики, создала CAD-модель, всё заказала, а затем сделала анимацию в Blender, показывающую, как его собрать.

Чувак обещает вот-вот показать результат, пока у него Астра с поставщиками переписывается.

С софтом мы разобрались. Я уже не ищу приложения, я прошу их мне быстро написать (раскурочил Андроид знатно).

Но тут уже выход в хардвер, не софтвер.

Причем не "как мне пачинить кран", а придумай, сконструируй, закупи и доставь. Потом будет домашний робат для сборки таких посылок.

Но пока меня просто ошарашивает скорость изменений, мышление просто не поспевает за ними - а что так можно было??

И даже если контроллер не заведется завтра, он точно заведется послезавтра.

И теперь наигравшись с "хачу видео" и "хачу утилиту", можно переходить к "хачу вот такую железяку в подарок, чтобы делала что мне надо".

Апажалста.

@cgevent

Антропик объявил об обновлении и модификации своей продуктовой линейки, и выглядит оно довольно агрессивно по отношению к привычным поставщикам офисного софта, Гуглу и Майкрософту.
Во-первых, Claude Cowork влился просто в Клода, а во-вторых в этом обновленном Клоде добавились документы и презентации, привычные офисные артефакты можно создавать внутри чата.

What Claude makes doesn’t need its own place either. Claude Docs and Claude Slides are new today, and Claude Design now works inside your conversations too. Ask for a document, and you and Claude write it together. Ask for a presentation, and Claude drafts the slides.

Эпоха супераппов уже была, теперь будет эпоха ИИ-суперчатов? Подождем и посмотрим как туда интегрируют коммерцию и всякий офлайновый сервис:)

https://claude.com/blog/cowork-is-now-claude

Китайцы дебютируют в новом жанре, можно его назвать RL-порно :)) В прямом эфире можно наблюдать за пост-трейном новой фронтирной модели MiMo-V2.6 от Сяоми. У кого-то слюнки потекут от бегущих цифр стоимости процесса (он сжигает где-то $31K в час), у кого-то от метрик для более посвященных. В любом случае прекрасный новый жанр лайвов эпохи ИИ :))
https://mimo.xiaomi.com/rl/#overview

Опубликован очередной отчет по воздействию ИИ на рынок труда в США, непривычно спокойный и внятный, без типичных истерик. Основной мотив: ИИ распространяется по рабочим местам США быстрее любой прежней технологии, но его эффекты на производительность, занятость и зарплаты пока трудноразличимы в усредненных данных и крайне неравномерны. Подробно рассмотрены 4 сценария:
• постепенная интенсификация труда (ИИ как «обычная технология», эффекты медленные),
• концентрированные выгоды (рост у узкого круга, риск расслоения позиций и работников),
• значительное вытеснение (массовая потеря рабочих мест),
• неравномерный дизрапшн (потери в одних секторах, рост в других).
Главный вывод: основное отличие от прошлых трансформаций: под ударом теперь и высокообразованные работники умственного труда, а не только средний рутинный и малоквалифицированный труд — и поэтому привычные схемы переобучения плохо подходят. Как следствие: главное, что надо срочно начать делать: не ждать ясности, а начать перестраивать систему образования и в особенности систему переподготовки вместе с перестройкой государственной системы социальной защиты.
Иными словами, предлагаются варианты разумной адаптации к быстро и сложно меняющемуся рынку труда, а не попытки запретить и не пущать. Прочитать, хотя бы по диагонали, вполне интересно.
https://www.conference-board.org/research/solutions-briefs/AI-and-the-Labor-Force-Scenarios-for-Stakeholders

Фронтирные лабы интересно пошли в офлайн. Вот только что OpenAI заявил, что займется роботами — и от Антропиков прилетела интересная ответочка: они, оказывается, завели себе классическую "мокрую", а не цифровую лабораторию для биологических исследований.

"We believe that to do biology, the final test is still and will be for a while in real lab work. We absolutely are doing that today, and I would describe our approach as being typical of what you would see in most biotech companies"

Правда, компания тут же утотчнила, что на поляну классической фармы и биотеха они не полезут (еще бы, нельзя же нервировать потенциальных богатых поользователей Claude Science). Лаба сосредоточится на редких заболеваниях, на которые традиционная индустрия не очень обращает внимание и на их примере будет показывать ценность ИИ в науках о жизни.
https://www.reuters.com/world/anthropic-quietly-sets-up-biology-lab-it-ramps-ai-drug-program-2026-09-18/

Хассабис и его команда запускают институт по подготовке к AGI (по крайней мере, в некоторых аспектах) с довольно амбициозными целями мультидисциплинарных исследований.
В чем будут наши ценности и как общий ИИ изменит наши ответы на вопрос “что значит быть человеком?” Какие свои институты и политики обществу придется адаптировать к появлению AGI или вовсе перепридумать? — и прочее в том же духе.
Так толком и не определив AGI, исследователи надеются с этим разобраться в процессе и вообще полны оптимизма (что наверняка многих выбесит, предвкушаю соответствующие эмодзи в реакциях даже здесь:)

While AI can still sometimes fail at basic tasks and lacks the consistency and creativity to meet the bar of full AGI, we expect those gaps to be closed soon.

https://institute.deepmind.com/essays/introducing-the-deepmind-institute/

Раз уж мы на седьмой год существования попали в Яндекс Афишу, напомню и здесь в канале, что скоро мой любимый YAC/e. Седьмой раз собирал и готовил с чудесной командой, седьмой раз буду вести;)

https://afisha.yandex.ru/moscow/conference/yet-another-conference-on-education

Изящный ответ на жалобы и вообще недовольство математиков последними достижениями ИИ в математике. Предмет недовольства в том — и это очень важная подробность — что доказательства ИИ формально верны (подтверждений тому все больше), но не способствуют пониманию сути дела людьми-математиками. (У меня все больше дежа-вю из времен побед AlphaGo: победы были неоспоримы, но играла машина не по-человечески).
В попытке сохранить диалог с математическим сообществом OpenAI объявила о создании консультационной группы, в которую войдут авторитетные, но достаточно лояльные к ИИ математики.

The group will advise on the review and communication of emerging results: they will help OpenAI assess their significance, advise on how to coordinate their dissemination, and advise on academic and professional standards of mathematical research.

Интересно, чем дело кончится. Как известно, с AlphaZero кончилось тем, что было решено: этот алгоритм просто больше никогда не будет играть с людьми 🙂 Боюсь, с математикой эта стратегия не сработает.
https://openai.com/index/advisory-group-on-mathematics-and-ai/

Из этих 29 — мы вместе больше 22-х:) И оно все чудесатей и чудесатей. С Днём!

Очень прикольно следить за интонациями автора статьи. С одной стороны, ощущается обида, что Китай вообще не пытается подхватить истерику "остановите ИИ, иначе он нас убьет”. С другой — надо же придумать этому вескую причину, и на роль такой причины назначают якобы настроения времен холодной войны, царящие в китайском руководстве. Их желание развивать ИИ напрямую сравнивают с желанием иметь достойный ядерный арсенал. Хотя в общем-то оба желания логичны.

Polls indicate that the country is among the nations most excited about the prospects of AI, and doomers are tough to find.

Ну и, конечно, население просто оболванено госпропагандой и имеет несчастье думать, что ИИ сделает жизнь лучше. Хуже того, китайцы считают призывы притормозить развитие ИИ лицемерием со стороны руководителей фронтирных штатовских лаб.

“The country views itself as already being held back by the very export controls Amodei endorses.”

Но не все так плохо, у китайцев еще есть шанс впасть в панику наподобие американской, надеется автор.

As China catches up, the country’s tech scene might face similar moments of panic.

А к финалу грусть наполняет сердце журналистки: а что, если в итоге и Америка решит, что тормозить незачем?
Удивительные все же люди эти журналисты.
https://www.theatlantic.com/technology/2026/09/china-ai-panic-doomerism/688761/

Эстер Дайсон много лет, с 2006 по 2022, входила в совет директоров Яндекса, общаться с ней всегда было увлекательно и полезно: она не просто очень опытный глобальный инвестор, но и реально глубокий эксперт по мировым технологическим рынкам и вообще большая умница.
Интересно прочитать ее свежий текст про ситуацию вокруг ИИ. Она особо выделяет, что языковые модели плохо понимают причины, стимулы и последствия своих действий. Поэтому для реальных решений им нужна связка с каузальными, логическими и символическими моделями мира, а не просто ещё больше данных, токенов и вычислений. Еще один голос в поддержку развития разнообразия моделей, а не только массовой ставки на все более мощные LLM.
Причем Эстер подчеркивает: риски усугубляются, когда модель не просто отвечает текстом, а получает автономию: доступ к внешним системам, право вести переговоры, запускать процессы и взаимодействовать с другими агентами. Ну то есть переход к агентам делает потребность в усовершенствовании моделей особенно сильной. И это совершенствование — не просто наращивание мощности, но и появление символических моделей.
Для агентов это означает, что LLM не должна быть единственным «мозгом» агента. Нужны еще явная модель предметной области, симулятор сценариев, политика разрешений, журнал решений и человек, который отвечает за последствия.
Среди прочего, такой подход меняет и взгляд на проблему “замедления”: по мере роста агентности растет стоимость контроля.

It’s not clear how much it will cost to rein in the agents, but that’s the prospect that scares the frontier labs now.

Эстер считает, что безопасность нельзя оставлять закрытым корпоративным процессом: у компаний есть собственные стимулы — скорость, выручка, капитализация и контроль рынка — они конфликтуют с безопасностью. От эксперта в корпоративном управлении такого уровня эти слова дорогого стоят.

https://estherdyson.substack.com/p/ai-needs-a-deeper-understanding-of

Тем временем Starship выпускает один за одним реальные спутники Starlink последнего поколения на рабочую орбиту в ходе 14-го испытательного полета: первый по настоящему рабочий, хотя и все еще испытательный, запуск Starship. Идет 47-я минута полета https://www.youtube.com/watch?v=bEQPaCNdD68

Про новую задумку Андрея Бреслава, создателя Kotlin, я здесь уже не раз писал. Его проект CodeSpeak — ответ совсем уж бесструктурному вайбкодингу, как его многие понимают; это не формальный язык программирования, но все же же ближе к ним, чем к часто бестолковому промптингу.
Вот краткое, зато вполне популярное объяснение от самого Андрея. Заканчивается оно словами, которые у многих разработчиков вызовут не самые теплые чувства. Но вот именно Андрея обвинить в том, что он просто не разбирается в настоящей разработке, будет несколько затруднительно:)

В большинстве приложений люди со временем перестанут писать и читать код на традиционных языках и будут работать только на уровне человеческого языка.

https://education.yandex.ru/journal/codespeak

Обратите внимание на слова "Кстати, наша магистратура по ИИ на английском попадает под эту программу и начинается в марте 2027"; поучиться в магистратуре у Вани Ямщикова — очень вкусное предложение

Если вы закончили бакалавриат или магистратуру в Болгарии, Хорватии, Чехии, Венгрии, Польше, Румынии, России, Сербии или Украине, то вы можете получить баварскую стипендию на магистратуру или PhD. Стипендия небольшая и даётся на год, зато не облагается налогами, и её можно потом продлевать до двух раз.

Подача документов до первого декабря.

https://www.uni-regensburg.de/en/bayhost/funding-and-scholarships/coming-to-bavaria/study-in-bavaria

Кстати, наша магистратура по ИИ на английском попадает под эту программу и начинается в марте 2027
https://mai.thws.de/