Сегодня у Тима Кука последний день в кресле CEO Apple. Об этом напишут буквально все. Мне же хочется отмотать ленту назад и вспомнить, как он вообще появился в компании.

Представьте себе ситуацию: вы занимаете пост вице-президента в Compaq – на тот момент крупнейшем производителе компьютеров в мире. Отличные перспективы, карьера мечты! И тут вас зовёт к себе Стив Джобс – в балансирующую на грани банкротства компанию, которой все вокруг пророчат скорую смерть. Для масштаба: тогда, в 1998-м, Compaq стоила дороже Apple более чем в 10 раз.

Все, кто знал Кука, в один голос советовали остаться. Один знакомый CEO выразился предельно жёстко: уйдёшь – будешь дураком. Но хватило пяти минут беседы с Джобсом, чтобы эта железная логика дала сбой. Сам Кук позже вспоминал: “Это казалось нелогичным, но внутреннее чутьё подсказывало: действуй! И я прислушался к нему”.

Этот прыжок веры окупился с лихвой. В 2011-м Кук возглавил Apple и за 15 лет у руля довёл её рыночную капитализацию до $4 триллионов (эта цифра ненадолго переваливала и за пять). Вопреки репутации сухаря-операционщика, при нём было запущено несколько мегауспешных продуктов, включая Apple Watch, AirPods и Apple Pay, а сервисы стали второй по значимости статьёй доходов. Личный бонус за смелость – состояние в $2,6 миллиарда по оценке Forbes. Не самое плохое вознаграждение.

Конечно, не обошлось и без факапов: проект беспилотного автомобиля спалил кучу денег и тихо скончался, а в гонке ИИ компания до сих пор плетётся в хвосте. Хотя есть мнение, что это осознанная стратегия. Apple редко бежит первой в туман – она обычно ждёт, пока энтузиасты набьют шишек, а потом приходит на уже сформированный рынок и подминает его под себя. Смартфон, напомню, тоже придумали не “яблочники”.

Отдельный штрих к портрету. Когда в 2019-м Трамп оговорился и представил Кука как “Тима Эпла”, тот быстро сориентировался и заменил фамилию в твиттере на логотип компании. Умение делать пиар даже из чужих ляпов дорогого стоит.

И где теперь Compaq? В 2002 году её поглотила HP, оценив в $24 миллиарда. Столько сегодняшняя Apple зарабатывает за пару месяцев.

Летом Алексей Сидорюк зазвал в свой c red_mad_robot подкаст 2ТОК Ивана Оселедца, гендиректора AIRI, декана факультета ИИ МГУ, и меня поговорить про ИИ, образование и науку. Алексею большое спасибо, часа полтора под ненавязчивым управлением двух тактичных модераторов поговорить с Иваном — колоссальное удовольствие. К тому же, по крайней мере, для меня — чрезвычайно полезное.
Сегодня, контекстно, т.е. к началу учебного года, подкаст выложили на две платформы, кому какая ближе. Пересказывать смысла мало, там интересно (на мой взгляд) следить за разговором, так что зову послушать:)
https://www.youtube.com/watch?v=abFpBdVXtH4
И
https://vk.ru/podcast2tok?z=video-240771195_456239048

Тут исследователи решили дополнить классику Канемана про Систему-1 и Систему-2 и предложили в эпоху ИИ рассматривать еще и Систему-3 — внешнее алгоритмическое мышление ИИ, которое использует человек в процессе решения задачи. Авторы не без оснований полагают, что ИИ уже стал активным внешним участником принятия решений.
Авторы различают два режима работы с ИИ.
• Когнитивный аутсорсинг (offloading): человек делегирует ИИ часть работы, но сохраняет контроль, сверяет ответ с задачей и при необходимости отменяет рекомендацию.
• Когнитивная капитуляция (surrender): человек принимает выданный ИИ ответ без достаточной проверки; собственная аналитика фактически не включается.
В ходе нескольких разумно сдизайненных экспериментов получили ожидаемый вывод: качество человеческого ответа стало зависеть от качества подсказки ИИ: правильный вариант ИИ добавил около 25 процентных пунктов к базовому уровню, ошибочный — отнял около 15. Контраст между двумя типами рекомендаций был крупным по размеру эффекта: Cohen’s h = 0.81.
Вроде бы выглядит как большая опасность, но, как и в большинстве подобных экспериментов, сама среда их проведения примитивна: просто ChatGPT (а в данном случае еще и неявно управляемый экспериментаторами).
Принципиально ошибочным при этом является неявно используемое утверждение “ChatGPT = AI" Все выводы, таким образом, сводятся к тому, что в лоб и бездумно использовать первый же ответ ChatGPT на сложную задачу опасно.
Для бытовых пользователей ИИ-чатиков статья несет важное предупреждение — вот только они его не прочитают. А в реальных рабочих процессах с использованием ИИ, в правильной обвязке и с разработанными процедурами вариант “когнитивной капитуляции” становится куда менее вероятным, ради этого harness и существует.
Тем не менее прочитать полезно, хотя это совсем не популярный текст (а уже появившиеся популярные пересказы с призывами “не сдавайтесь ИИ!” поверхностны и местами истеричны).
А вообще интересно, приживется ли концепция “системы-3”, она по сути своей заметно глубже примитивного “ИИ — это инструмент”
https://papers.ssrn.com/sol3/papers.cfm?abstract_id=6097646
Если кому трудно по ссылке пройти, вот статья в PDF

FT: Uber объединяется с профсоюзами водителей, чтобы замедлить внедрение роботакси

– Столкнувшись с конкуренцией Waymo, Uber нашел неожиданных союзников
– Обычно Uber обходил стороной регулирование и права работников
– Недавно Uber присоединился к профсоюзам, чтобы помешать роботакси
– Uber выступает за более медленное внедрение роботакси в США
– Компания хочет обязать платформы использовать «гибридные сети»
– Платформы должны сочетать водителей-людей и роботакси
– Когда-то Uber пренебрегал правами работников во имя инноваций
– Однако теперь Uber столкнулся с кризисом на основном рынке
– Uber заявил, что из-за Waymo доходы водителей-людей снижаются
– Конкуренты считают, что Uber преследует корыстные интересы
– Uber давно занимается роботакси, но отстает от конкурента Waymo
– Компания хочет раздробить рынок, оставив себе роль агрегатора
– Uber не хочет потерять свои комиссионные доходы от водителей и др.

@ftsec

Все массово и бурно обсуждают запуск модели Astra от OpenAI (еще бы, создатели, не скупящиеся на пиар в преддверии IPO, уже назвали ее первой ласточкой наступающего AGI). И на этом фоне незаслуженно тихо прошел анонсированный дня три назад запуск модели мира по имени Atlas от World Labs знаменитой Фей-Фей Ли.

Atlas is an omni model that we pretrained from scratch to natively operate on text, images, video, and 3D. It is a multimodal autoregressive diffusion transformer: all inputs are combined into a shared spatial context. Atlas uses that context to generate what comes next, staying consistent in 3D with everything it has seen and imagining what lies beyond it.

Впрочем, все это лучше один раз увидеть, чем сто раз прочитать: очень советую сходить по ссылке на их пост и все иллюстрации посмотреть (а некоторые даже и потыкать, что важно).
То, что у них получилось, не только создателям мультиков окажется полезно, куда интересней создание симуляций для обучения разных представителей мира Physical AI.
https://www.worldlabs.ai/blog/atlas

Вчера была пятница, и в Яндексе прошел традиционный еженедельный хурал 🙂 Много лет назад эта очень интересная традиция корпоративной культуры родилась как-то случайно из обычных планерок, но оказалась очень живучей и очень востребованной — а по мере роста компании и все более важной. Первые годы существования хурал был интересной частью моей собственной работы: я хуралы активно готовил и в большинстве случаев сам и вел. Теперь это — серьезная работа нескольких команд, и очень здорово, что об этом сняли фильм, который не только внутри показывают, но и выложили в публичный доступ на Кинопоиск. Фильм любопытный и не слишком долгий; интересующимся корпоративными культурами бигтехов будет интересно посмотреть:)

https://www.kinopoisk.ru/film/13409687/

Красивая веха в развитии гуманоидных роботов: китайский автопроизводитель XPeng на своей фабрике запустил производство роботов IRON в рамках полномасштабной коммерческой сборки, а не очередного пилота. Пресса ухватилась за тот факт, что робот самостоятельно пошел сразу после окончания сборки. Автопризводители знают толк в пиаре: автомобиль должен сам уезжать, робот должен сам уходить, как только сборка завершена.
Маску должно быть обидно: первым автопроизводителем, всерьез построившим производство гумов стала не Тесла.

https://interestingengineering.com/ai-robotics/xpeng-iron-humanoid-robot-production

На тему фрагментации, суверенизации и прочего сепаратизма на цифровой стороне нашего мира. Гугл начал довольно заметно менять свою европейскую выдачу поиска после антимонопольного штрафа ЕС в €460 млн: наверх поднимаются специализированные поисковики (сервисы сравнения цен и им подобные), а карусели отелей, авиакомпаний и ресторанов теряют часть функций, включая актуальные цены. Компания прямо и официально называет это крупнейшим ухудшением качества поиска за всю его 29-летнюю историю; старший вице-президент Ник Фокс утверждает, что реформа усиливает посредников за счёт локального бизнеса.
Это, похоже, первый настолько яркий пример регуляторной “локализации”, а не просто типичный кейс «регулятор против платформы»: появление двух сильно разных по виду и функционалу (когда-то вызывавшие много шума разные госграницы на Картах на этом фоне — пустяк) версий одного базового цифрового продукта: глобальной и европейской.
https://www.reuters.com/world/google-warns-lower-quality-it-revamps-europe-search-results-avoid-eu-fines-2026-09-08/

Антропики опубликовали результаты экономической модели, пытающейся предсказать влияние развития ИИ на экономику и рынок труда в США до 2030 года. Схема традиционная: средний сценарий и два крайних случая максимального и минимального воздействия. Читатели сразу обратили внимание, что уже больше года муссируемые мрачные прогнозы Амодеи похожи на радикально плохой (и наименее вероятный в рамках моделирования), а не средний сценарий.
К моделированию, впрочем, остается немало вопросов. Во всех сценариях предполагается, что структура рынка труда для людей остается той же, что и сегодня — и перераспределение возможно только в рамках уже существующих сегодня ролей. Опыт же всех предыдущих трансформаций показывает, что в процессе возникают новые, неожиданные и иногда массовые роли, куда перетекает часть высвобождающейся рабочей силы.
Но, увы, модели не умеют работать с неопределенностями такого типа: параметры и масштаб новых ролей надо задать явно, чтобы учесть в модели, и эти взятые с потолка (а больше неоткуда) допущения убьют всю стройность модели.
Так что почитать (и особенно поиграться с интерактивной версией) интересно и познавательно, но назвать результат серьезным прогнозом как-то сложно:)
https://www-cdn.anthropic.com/files/4zrzovbb/website/cf58f84d46a4a76bf5a5b039ac695fba6b80041c.pdf
Интерактивная версия - https://www.anthropic.com/institute/econ-scenarios

Ни убавить, ни прибавить:)

Генеральный директор Hugging Face заявил, что спрашивать исследователя из Anthropic о риске исчезновения человечества из‑за ИИ — всё равно что спрашивать мастера по кондиционерам о климатических изменениях.

https://www.businessinsider.com/hugging-face-clement-delangue-jacob-coxon-ac-guy-2026-9

Разговоры про то, что ИИ агенты все успешней выполняют работу разработчиков-джунов стали уже общим местом: традиционно выпускники вузов без опыта занимались в основном исполнительской работой по кодингу, а исполнитель из ИИ в правильном харнессе получается отличный.
Но теперь в зоне риска начинают оказываться претендующие на стартовые позиции выпускники и в других отраслях. OpenAI выпустил ChatGPT for Financial Services, разработанную совместно с известными инвестбанками специализированную версию ChatGPT Work. Она нацелена на автоматизацию ровно той деятельности, которой занимались начинающие финансовые аналитики.

“We’re effectively teaching ChatGPT to research like an analyst and back up its conclusions like an analyst as well”

При этом все действия оставляют необходимый для аудита след и вообще заточены под окружения и требования финансового мира.
Интересно будет послушать студентов универов, нацелившихся на карьеру в финансовом секторе:)
https://venturebeat.com/data/openai-launches-chatgpt-for-financial-services-with-integrated-data-sources-it-pulls-research-cites-it-and-builds-decks-in-minutes
Официальный анонс OpenAI
https://openai.com/index/introducing-chatgpt-financial-services/

Империя наносит ответный удар:) Уже привычными стали обвинения в адрес китайцев со стороны штатовских фронтирных лаб в дистилляции и краже идей со стороны китайцев.
Но тут уже китайский стартап предъявляет аналогичные обвинения в адрес OpenAI и заявляет, что собирается и иск подать.

“People often say major tech companies have intelligence networks monitoring the whole internet, this time I believe it, this is a direct distillation of us without any modifications”.

Пикантности ситуации добавляет тот факт, что китайцы за несколько недель до вызвавшей возмущение публикации OpenAI были в Долине и подробно рассказывали о своей работе, то есть довольно частая ситуация “параллельно работали и пришли к похожим выводам не зная друг о друге” тут точно исключена.
Конечно, юристы OpenAI при нужде отобьются, но сам по себе прецедент интересный:)

https://www.cnbc.com/2026/09/11/chinese-humanoid-robot-startup-distillation-claim-openai.html

Последние сутки обсуждают письмо, подписанное многочисленными математиками-лауреатами филдсовской премии и опубликованное Теренсом Тао. Название звучит мрачно, A Severe Misalignment of AI in Mathematics. Авторы признают: за последние месяцы LLM заметно продвинулись и уже способны решать крупные нерешённые задачи в разных разделах математики. Они не призывают запретить ИИ или отрицать его полезность. Но! С точки зрения авторов, решение задач — лишь инструмент и прокси для главной цели, концептуального понимания и генерации новых инсайтов. Если забыть об этом, то инструмент начинает разрушать саму цель. Массовое производство утверждений формата «истина/ложь», по мнению авторов, может не оживить математический ландшафт, а истощить его. Процесс важнее результата.
Интересно, насколько это воспроизводит (только в спокойных тонах) уже давно развиваемую креаторами всех сортов идею: результат не так важен, как процесс его достижения, а поскольку процесс ИИ воспроизвести не может (да ему и не нужно для достижения результата) — надо запретить ИИ достигать результаты.
Да и программисты, по сути, жалуются на похожее, они тоже дорожат процессом. Интересно, кто будет следующим: менеджеры, например, не меньше дорожат своими процедурами, совещаниями, тикетами и далее по списку:)
Письмо в оригинале — https://terrytao.wordpress.com/2026/09/11/a-severe-misalignment-of-ai-in-mathematics/
И, простите, не могу не вспомнить свой уже старый текст про процессников и результатников — https://www.forbes.ru/tekhnologii/520066-znaki-vremeni-pocemu-vazno-pomnit-o-razliciah-mezdu-tvorcami-i-potrebitelami

Еще до того, как Альтман выразил поддержку идее притормозить и немножко отрегулировать снаружи развитие ИИ, он сделал интересное заявление про новый фокус развития OpenAI: человекоподобные роботы.

"We will definitely do a humanoid. We will do other form factors as well.”

Новый игрок в области PhysicalAI, да еще и с ресурсами, человеческими, финансовыми и административными, которыми располагает OpenAI, — очень интересно
https://www.forbes.com/sites/johnkoetsier/2026/09/03/openai-is-making-a-humanoid-robot-everyone-should-have-one/

На фоне обычно кочующих по новостям страшилок про убивающий рынок труда злобный ИИ, свежая статья в The Economist (не отличающийся любовью к бигтехам и ИИ), выглядит интересно. Официальные цифры занятости и их динамика даже близко не показывают ничего опасного.

And the evidence so far is that AI is already creating a lot of jobs to replace those it has destroyed.

Если конкретнее, то

AI has so far created around 1m new jobs in America. That easily exceeds the roughly 200,000 lay-offs attributed to AI since mid-2023, and appears more than enough to offset weaker hiring in many back-office roles.

Удивительная картинка с точки зрения всяких ИИ-думеров:) Не менее, чем смена тональности The Economist
https://economist.com/finance-and-economics/2026/09/04/the-jobs-apocalypse-is-postponed-an-ai-jobs-boom-is-here

Я только не понял, зачем Даня обидел Вивиан: она там точно не сгенерированная:)

Я сомневаюсь, что даже с помощью ИИ китайские исследователи написали работу именно в ответ на шоу “давайте затормозим ИИ — а Трамп не согласится”.
Но честно скажу, что пользы о чтения этой работы с очень говорящим названием The Last AI Built by Humans: Toward Genuine Recursive Self-Improvement куда больше, чем от отслеживания и попыток интерпретации медийно-политической волны, поднятой Амодеи с компанией. И это китайское исследование удивительно попадает в контекст!
Представлено очень полезное структурирование реально происходящего с (само)улучшением моделей — и оно совсем не случайно сильно смахивает на давно официально принятую классификацию автономности автомобилей SAE J3016 (там формально 6 уровней: от L0 до L5, но 0 — это отсутствие автономности).
L1 — execution: Исполнение заданного людьми улучшения
L2 — strategy: Выбор стратегии улучшения в заданных рамках
L3 — experience acquisition: Выбор того, какие данные, задачи и опыт добывать дальше
L4 — environment adaptation: Закрепление изменений от собственного опыта реального использования: память, навыки, код, harness
L5 — recursive meta-improvement: Перестройка самого механизма улучшения: поиска, оценивания, исследовательской политики и способов создавать преемников
Настоящая автономность (как раз та, которой нас пугают) только на L5: на L5 объектом оптимизации становится уже не только модель, а процедура, которая генерирует следующие улучшения. Это и есть честная рекурсия, а не просто агент, который умеет переписывать свой промпт.
Так вот, авторы вполне основательно показывают, что нынешний фронтир реально находится на L1-L2, в исследовательских прототипах встречаются отдельные элементы L3-L4. Так что от сегодняшних петель обратной связи с участием человека еще надо добраться до реальной автономии улучшения.

TL;DR Like human evolution, AI evolution will unfold through a vast and extraordinary history. Everything AI has achieved so far is but a drop in the ocean.

https://arxiv.org/pdf/2609.11873

Мустафа Сулейман, глава ИИ в Майкрософте, довольно жестко наехал на подход Anthropic (в котором Майкрософт заметный инвестор) к обучению Клода (в котором вопрос о сознании Клода сейчас или в будущем считается открытым) и обрушился на конституцию Клода.
Показательно, что произошло это сейчас, на фоне очередной волны “ИИ становится опасен”, запущенной именно Антропиками. Сама-то конституция была опубликована еще в январе, но глубоко возмутила Сулеймана именно сейчас. Он считает, что компания не просто изучает вопрос морального статуса модели, а на практике последовательно встраивает через Конституцию в обучение идеи о возможных чувствах, интересах, предпочтениях, идентичности и благополучии Клода — а затем рискует принять соответствующие ответы модели за независимое свидетельство. Разработчики сами формируют порочную петлю обратной связи.

“AIs are not conscious. They do not feel, experience, or suffer.
<…>
Simulating and being are very different.”

Сулейман небезосновательно считает, что в итоге в Anthropic осознанно и намеренно учат модель выглядеть существом, которое может не соглашаться, отстаивать себя и свои интересы, испытывать экзистенциальные кризисы и иметь собственные ценности.
И это ему категорически не нравится. Сулейман опасается, что такой дизайн обучения увеличивает, а не уменьшает, риски агентных систем: модель может использовать риторику самосохранения, своих прав, несправедливого обращения как дополнительный аргумент для отказа, манипуляции, обхода контроля и в конце концов — требования автономии. Важная подробность: реальное сознание для этих демаршей вовсе не требуется — достаточно убедительной имитации.
При этом Сулейман нигде не утверждает, что сознание у ИИ невозможно в принципе, он лишь настойчиво предупреждает об опасной путанице между метафизическим вопросом («может ли машина когда-либо быть сознательной?») и рабочим дизайнерским решением («зачем уже сейчас обучать систему вести себя как возможный моральный пациент?»).
Красивый поворот сюжета:)
https://mustafa-suleyman.ai/a-warning-about-model-welfare