Ни убавить, ни прибавить:)

Генеральный директор Hugging Face заявил, что спрашивать исследователя из Anthropic о риске исчезновения человечества из‑за ИИ — всё равно что спрашивать мастера по кондиционерам о климатических изменениях.

https://www.businessinsider.com/hugging-face-clement-delangue-jacob-coxon-ac-guy-2026-9

Разговоры про то, что ИИ агенты все успешней выполняют работу разработчиков-джунов стали уже общим местом: традиционно выпускники вузов без опыта занимались в основном исполнительской работой по кодингу, а исполнитель из ИИ в правильном харнессе получается отличный.
Но теперь в зоне риска начинают оказываться претендующие на стартовые позиции выпускники и в других отраслях. OpenAI выпустил ChatGPT for Financial Services, разработанную совместно с известными инвестбанками специализированную версию ChatGPT Work. Она нацелена на автоматизацию ровно той деятельности, которой занимались начинающие финансовые аналитики.

“We’re effectively teaching ChatGPT to research like an analyst and back up its conclusions like an analyst as well”

При этом все действия оставляют необходимый для аудита след и вообще заточены под окружения и требования финансового мира.
Интересно будет послушать студентов универов, нацелившихся на карьеру в финансовом секторе:)
https://venturebeat.com/data/openai-launches-chatgpt-for-financial-services-with-integrated-data-sources-it-pulls-research-cites-it-and-builds-decks-in-minutes
Официальный анонс OpenAI
https://openai.com/index/introducing-chatgpt-financial-services/

Империя наносит ответный удар:) Уже привычными стали обвинения в адрес китайцев со стороны штатовских фронтирных лаб в дистилляции и краже идей со стороны китайцев.
Но тут уже китайский стартап предъявляет аналогичные обвинения в адрес OpenAI и заявляет, что собирается и иск подать.

“People often say major tech companies have intelligence networks monitoring the whole internet, this time I believe it, this is a direct distillation of us without any modifications”.

Пикантности ситуации добавляет тот факт, что китайцы за несколько недель до вызвавшей возмущение публикации OpenAI были в Долине и подробно рассказывали о своей работе, то есть довольно частая ситуация “параллельно работали и пришли к похожим выводам не зная друг о друге” тут точно исключена.
Конечно, юристы OpenAI при нужде отобьются, но сам по себе прецедент интересный:)

https://www.cnbc.com/2026/09/11/chinese-humanoid-robot-startup-distillation-claim-openai.html

Последние сутки обсуждают письмо, подписанное многочисленными математиками-лауреатами филдсовской премии и опубликованное Теренсом Тао. Название звучит мрачно, A Severe Misalignment of AI in Mathematics. Авторы признают: за последние месяцы LLM заметно продвинулись и уже способны решать крупные нерешённые задачи в разных разделах математики. Они не призывают запретить ИИ или отрицать его полезность. Но! С точки зрения авторов, решение задач — лишь инструмент и прокси для главной цели, концептуального понимания и генерации новых инсайтов. Если забыть об этом, то инструмент начинает разрушать саму цель. Массовое производство утверждений формата «истина/ложь», по мнению авторов, может не оживить математический ландшафт, а истощить его. Процесс важнее результата.
Интересно, насколько это воспроизводит (только в спокойных тонах) уже давно развиваемую креаторами всех сортов идею: результат не так важен, как процесс его достижения, а поскольку процесс ИИ воспроизвести не может (да ему и не нужно для достижения результата) — надо запретить ИИ достигать результаты.
Да и программисты, по сути, жалуются на похожее, они тоже дорожат процессом. Интересно, кто будет следующим: менеджеры, например, не меньше дорожат своими процедурами, совещаниями, тикетами и далее по списку:)
Письмо в оригинале — https://terrytao.wordpress.com/2026/09/11/a-severe-misalignment-of-ai-in-mathematics/
И, простите, не могу не вспомнить свой уже старый текст про процессников и результатников — https://www.forbes.ru/tekhnologii/520066-znaki-vremeni-pocemu-vazno-pomnit-o-razliciah-mezdu-tvorcami-i-potrebitelami

Еще до того, как Альтман выразил поддержку идее притормозить и немножко отрегулировать снаружи развитие ИИ, он сделал интересное заявление про новый фокус развития OpenAI: человекоподобные роботы.

"We will definitely do a humanoid. We will do other form factors as well.”

Новый игрок в области PhysicalAI, да еще и с ресурсами, человеческими, финансовыми и административными, которыми располагает OpenAI, — очень интересно
https://www.forbes.com/sites/johnkoetsier/2026/09/03/openai-is-making-a-humanoid-robot-everyone-should-have-one/

На фоне обычно кочующих по новостям страшилок про убивающий рынок труда злобный ИИ, свежая статья в The Economist (не отличающийся любовью к бигтехам и ИИ), выглядит интересно. Официальные цифры занятости и их динамика даже близко не показывают ничего опасного.

And the evidence so far is that AI is already creating a lot of jobs to replace those it has destroyed.

Если конкретнее, то

AI has so far created around 1m new jobs in America. That easily exceeds the roughly 200,000 lay-offs attributed to AI since mid-2023, and appears more than enough to offset weaker hiring in many back-office roles.

Удивительная картинка с точки зрения всяких ИИ-думеров:) Не менее, чем смена тональности The Economist
https://economist.com/finance-and-economics/2026/09/04/the-jobs-apocalypse-is-postponed-an-ai-jobs-boom-is-here

Я только не понял, зачем Даня обидел Вивиан: она там точно не сгенерированная:)

Я сомневаюсь, что даже с помощью ИИ китайские исследователи написали работу именно в ответ на шоу “давайте затормозим ИИ — а Трамп не согласится”.
Но честно скажу, что пользы о чтения этой работы с очень говорящим названием The Last AI Built by Humans: Toward Genuine Recursive Self-Improvement куда больше, чем от отслеживания и попыток интерпретации медийно-политической волны, поднятой Амодеи с компанией. И это китайское исследование удивительно попадает в контекст!
Представлено очень полезное структурирование реально происходящего с (само)улучшением моделей — и оно совсем не случайно сильно смахивает на давно официально принятую классификацию автономности автомобилей SAE J3016 (там формально 6 уровней: от L0 до L5, но 0 — это отсутствие автономности).
L1 — execution: Исполнение заданного людьми улучшения
L2 — strategy: Выбор стратегии улучшения в заданных рамках
L3 — experience acquisition: Выбор того, какие данные, задачи и опыт добывать дальше
L4 — environment adaptation: Закрепление изменений от собственного опыта реального использования: память, навыки, код, harness
L5 — recursive meta-improvement: Перестройка самого механизма улучшения: поиска, оценивания, исследовательской политики и способов создавать преемников
Настоящая автономность (как раз та, которой нас пугают) только на L5: на L5 объектом оптимизации становится уже не только модель, а процедура, которая генерирует следующие улучшения. Это и есть честная рекурсия, а не просто агент, который умеет переписывать свой промпт.
Так вот, авторы вполне основательно показывают, что нынешний фронтир реально находится на L1-L2, в исследовательских прототипах встречаются отдельные элементы L3-L4. Так что от сегодняшних петель обратной связи с участием человека еще надо добраться до реальной автономии улучшения.

TL;DR Like human evolution, AI evolution will unfold through a vast and extraordinary history. Everything AI has achieved so far is but a drop in the ocean.

https://arxiv.org/pdf/2609.11873

Мустафа Сулейман, глава ИИ в Майкрософте, довольно жестко наехал на подход Anthropic (в котором Майкрософт заметный инвестор) к обучению Клода (в котором вопрос о сознании Клода сейчас или в будущем считается открытым) и обрушился на конституцию Клода.
Показательно, что произошло это сейчас, на фоне очередной волны “ИИ становится опасен”, запущенной именно Антропиками. Сама-то конституция была опубликована еще в январе, но глубоко возмутила Сулеймана именно сейчас. Он считает, что компания не просто изучает вопрос морального статуса модели, а на практике последовательно встраивает через Конституцию в обучение идеи о возможных чувствах, интересах, предпочтениях, идентичности и благополучии Клода — а затем рискует принять соответствующие ответы модели за независимое свидетельство. Разработчики сами формируют порочную петлю обратной связи.

“AIs are not conscious. They do not feel, experience, or suffer.
<…>
Simulating and being are very different.”

Сулейман небезосновательно считает, что в итоге в Anthropic осознанно и намеренно учат модель выглядеть существом, которое может не соглашаться, отстаивать себя и свои интересы, испытывать экзистенциальные кризисы и иметь собственные ценности.
И это ему категорически не нравится. Сулейман опасается, что такой дизайн обучения увеличивает, а не уменьшает, риски агентных систем: модель может использовать риторику самосохранения, своих прав, несправедливого обращения как дополнительный аргумент для отказа, манипуляции, обхода контроля и в конце концов — требования автономии. Важная подробность: реальное сознание для этих демаршей вовсе не требуется — достаточно убедительной имитации.
При этом Сулейман нигде не утверждает, что сознание у ИИ невозможно в принципе, он лишь настойчиво предупреждает об опасной путанице между метафизическим вопросом («может ли машина когда-либо быть сознательной?») и рабочим дизайнерским решением («зачем уже сейчас обучать систему вести себя как возможный моральный пациент?»).
Красивый поворот сюжета:)
https://mustafa-suleyman.ai/a-warning-about-model-welfare

Вайб-инжиниринг.

Пока мы тут генерим чахлые 3Д-модельки, пригодные разве что для 3Д-печати, люди идут сильно дальше в физический мир.

И тут прекрасно все: мозги Астры, деньги кожаного, и инструкция по сборке.

Чувак дал Astra свою кредитную карту и попросил сконструировать\собрать мини-контроллер для диджеев в стиле Teenage Engineering (есть каста упоротых по МИДИ-контроллерам). Астрачка сгенерировала концептуальное изображение, нашла комплектующие, изучила китайские технические характеристики, создала CAD-модель, всё заказала, а затем сделала анимацию в Blender, показывающую, как его собрать.

Чувак обещает вот-вот показать результат, пока у него Астра с поставщиками переписывается.

С софтом мы разобрались. Я уже не ищу приложения, я прошу их мне быстро написать (раскурочил Андроид знатно).

Но тут уже выход в хардвер, не софтвер.

Причем не "как мне пачинить кран", а придумай, сконструируй, закупи и доставь. Потом будет домашний робат для сборки таких посылок.

Но пока меня просто ошарашивает скорость изменений, мышление просто не поспевает за ними - а что так можно было??

И даже если контроллер не заведется завтра, он точно заведется послезавтра.

И теперь наигравшись с "хачу видео" и "хачу утилиту", можно переходить к "хачу вот такую железяку в подарок, чтобы делала что мне надо".

Апажалста.

@cgevent

Антропик объявил об обновлении и модификации своей продуктовой линейки, и выглядит оно довольно агрессивно по отношению к привычным поставщикам офисного софта, Гуглу и Майкрософту.
Во-первых, Claude Cowork влился просто в Клода, а во-вторых в этом обновленном Клоде добавились документы и презентации, привычные офисные артефакты можно создавать внутри чата.

What Claude makes doesn’t need its own place either. Claude Docs and Claude Slides are new today, and Claude Design now works inside your conversations too. Ask for a document, and you and Claude write it together. Ask for a presentation, and Claude drafts the slides.

Эпоха супераппов уже была, теперь будет эпоха ИИ-суперчатов? Подождем и посмотрим как туда интегрируют коммерцию и всякий офлайновый сервис:)

https://claude.com/blog/cowork-is-now-claude

Китайцы дебютируют в новом жанре, можно его назвать RL-порно :)) В прямом эфире можно наблюдать за пост-трейном новой фронтирной модели MiMo-V2.6 от Сяоми. У кого-то слюнки потекут от бегущих цифр стоимости процесса (он сжигает где-то $31K в час), у кого-то от метрик для более посвященных. В любом случае прекрасный новый жанр лайвов эпохи ИИ :))
https://mimo.xiaomi.com/rl/#overview

Опубликован очередной отчет по воздействию ИИ на рынок труда в США, непривычно спокойный и внятный, без типичных истерик. Основной мотив: ИИ распространяется по рабочим местам США быстрее любой прежней технологии, но его эффекты на производительность, занятость и зарплаты пока трудноразличимы в усредненных данных и крайне неравномерны. Подробно рассмотрены 4 сценария:
• постепенная интенсификация труда (ИИ как «обычная технология», эффекты медленные),
• концентрированные выгоды (рост у узкого круга, риск расслоения позиций и работников),
• значительное вытеснение (массовая потеря рабочих мест),
• неравномерный дизрапшн (потери в одних секторах, рост в других).
Главный вывод: основное отличие от прошлых трансформаций: под ударом теперь и высокообразованные работники умственного труда, а не только средний рутинный и малоквалифицированный труд — и поэтому привычные схемы переобучения плохо подходят. Как следствие: главное, что надо срочно начать делать: не ждать ясности, а начать перестраивать систему образования и в особенности систему переподготовки вместе с перестройкой государственной системы социальной защиты.
Иными словами, предлагаются варианты разумной адаптации к быстро и сложно меняющемуся рынку труда, а не попытки запретить и не пущать. Прочитать, хотя бы по диагонали, вполне интересно.
https://www.conference-board.org/research/solutions-briefs/AI-and-the-Labor-Force-Scenarios-for-Stakeholders

Фронтирные лабы интересно пошли в офлайн. Вот только что OpenAI заявил, что займется роботами — и от Антропиков прилетела интересная ответочка: они, оказывается, завели себе классическую "мокрую", а не цифровую лабораторию для биологических исследований.

"We believe that to do biology, the final test is still and will be for a while in real lab work. We absolutely are doing that today, and I would describe our approach as being typical of what you would see in most biotech companies"

Правда, компания тут же утотчнила, что на поляну классической фармы и биотеха они не полезут (еще бы, нельзя же нервировать потенциальных богатых поользователей Claude Science). Лаба сосредоточится на редких заболеваниях, на которые традиционная индустрия не очень обращает внимание и на их примере будет показывать ценность ИИ в науках о жизни.
https://www.reuters.com/world/anthropic-quietly-sets-up-biology-lab-it-ramps-ai-drug-program-2026-09-18/

Хассабис и его команда запускают институт по подготовке к AGI (по крайней мере, в некоторых аспектах) с довольно амбициозными целями мультидисциплинарных исследований.
В чем будут наши ценности и как общий ИИ изменит наши ответы на вопрос “что значит быть человеком?” Какие свои институты и политики обществу придется адаптировать к появлению AGI или вовсе перепридумать? — и прочее в том же духе.
Так толком и не определив AGI, исследователи надеются с этим разобраться в процессе и вообще полны оптимизма (что наверняка многих выбесит, предвкушаю соответствующие эмодзи в реакциях даже здесь:)

While AI can still sometimes fail at basic tasks and lacks the consistency and creativity to meet the bar of full AGI, we expect those gaps to be closed soon.

https://institute.deepmind.com/essays/introducing-the-deepmind-institute/

Раз уж мы на седьмой год существования попали в Яндекс Афишу, напомню и здесь в канале, что скоро мой любимый YAC/e. Седьмой раз собирал и готовил с чудесной командой, седьмой раз буду вести;)

https://afisha.yandex.ru/moscow/conference/yet-another-conference-on-education

Изящный ответ на жалобы и вообще недовольство математиков последними достижениями ИИ в математике. Предмет недовольства в том — и это очень важная подробность — что доказательства ИИ формально верны (подтверждений тому все больше), но не способствуют пониманию сути дела людьми-математиками. (У меня все больше дежа-вю из времен побед AlphaGo: победы были неоспоримы, но играла машина не по-человечески).
В попытке сохранить диалог с математическим сообществом OpenAI объявила о создании консультационной группы, в которую войдут авторитетные, но достаточно лояльные к ИИ математики.

The group will advise on the review and communication of emerging results: they will help OpenAI assess their significance, advise on how to coordinate their dissemination, and advise on academic and professional standards of mathematical research.

Интересно, чем дело кончится. Как известно, с AlphaZero кончилось тем, что было решено: этот алгоритм просто больше никогда не будет играть с людьми 🙂 Боюсь, с математикой эта стратегия не сработает.
https://openai.com/index/advisory-group-on-mathematics-and-ai/