Все уже отписались, но, как кажется, важная история на уровне "развития цивилизации"

Anthropic выпустил статью, где фактически признаётся: они научили ИИ делать значительную часть собственной разработки и теперь оценивают последствия.

Суть. Раньше ИИ создавали люди. Теперь в самом Anthropic большую часть работы по разработке выполняет их же модель Claude. Цифры из статьи:

▪️ Больше 80% кода, попадающего в их продакшн, написал Claude. Год назад было около пары процентов.
▪️ Средний инженер в 2026-м заливает в 8 раз больше кода в день, чем в 2024-м. Сам почти не печатает — направляет и проверяет.
▪️ Растёт длина задач, которые модель выполняет сама: в марте 2024-го — около 4 минут человеческого труда, через год — полтора часа, ещё через год — 12 часов. Если тренд сохранится, к 2027-му речь пойдёт о задачах на недели.
▪️ В апреле Claude за пару часов выкатил больше 800 фиксов и снизил класс ошибок в тысячу раз. По оценке инженера, человеку потребовалось бы около четырёх лет.

К чему это подводят. Ключевой термин — рекурсивное самоулучшение: когда система становится достаточно способной, чтобы сама проектировать и обучать свою следующую версию. То есть Claude улучшает Claude без человека в цикле. Anthropic оговаривается, что до этого ещё не дошло и что это не предопределено, но может случиться раньше, чем к этому будут готовы.

Несколько замечаний.

Это отчасти маркетинг. Жанр понятный: подчеркнуть мощь технологии и собственную роль в разговоре о регулировании. Сами же признают, что строки кода — слабая метрика, что оценки сотрудников про четырёхкратный рост продуктивности завышены, а кривая роста может оказаться не экспонентой, а S-образной и вскоре выйти на плато.

Но даже без пафоса остаётся существенное. Машина берёт на себя почти всё, кроме выбора, что именно стоит делать. Чутьё, вкус, понимание, что подход тупиковый, — пока за человеком. История ИИ при этом показывает, что навыки, в которых модель была слаба, она со временем осваивает.

Показателен комментарий их сотрудника. Раньше работа держалась на обмене мелкими услугами между людьми, и каждая такая просьба создавала связь. Теперь ИИ быстрее и ничего не должен взамен — и эти связи просто не возникают.

Финал статьи: хорошо бы иметь возможность притормозить разработку, чтобы общество успело адаптироваться. Тут же оговорка: пауза работает, только если тормозят все ведущие лаборатории во всех странах сразу и могут друг друга проверить. А скрыть обучение модели проще, чем ракетную шахту. Значит, кто остановится — тот отстанет, и не остановится никто.

Итог. Компания, строящая систему, способную заменить собственных создателей, публично рассуждает, не пора ли её притормозить, и сама объясняет, почему этого не произойдёт.

Оригинал: anthropic.com/institute/recursive-self-improvement

Если тренд сохранится, мы увидим ИИ, который полностью автономно создает свою улучшенную копию. Риски потери контроля над такими системами растут пропорционально их самостоятельности.

Интересные факты и мысли в тему:

▪️ Концепцию интеллектуального взрыва, когда машины начнут сами себя улучшать, предложил математик Ирвинг Джон Гуд еще в 1965 году. Мы вплотную приблизились к этому порогу.

▪️ Проблема метрик стала критической. Стандартные тесты для проверки ИИ устаревают за год. Например, тест CORE-Bench на способность ИИ самостоятельно воспроизводить научные исследования был закрыт нейросетями на 100% всего за 15 месяцев.

▪️ Экономика IT меняется навсегда. Разработка смещается от написания кода к управлению ИИ-агентами, что в ближайшие пару лет радикально перекроит весь рынок труда в технологическом секторе.

Нашел пдф со статьей И. Дж. Гуда «Размышления о первой сверхразумной машине» (1965)

Главная идея — «интеллектуальный взрыв». Сверхразумная машина превосходит человека во всём, включая проектирование машин, а значит способна создавать всё более совершенные версии себя. Отсюда цепная реакция роста интеллекта. Отсюда же знаменитый тезис: первая такая машина — последнее изобретение, которое человеку нужно сделать, при условии что она останется управляемой.

Гуд предполагал, что машина будет ультрапараллельной, на основе искусственной нейросети, обучаемой через подкрепление, как ребёнок, и свободно владеющей языком. Большая часть статьи — его теория памяти и смысла в мозге (теория субансамблей, восприятие как байесовский вероятностный процесс).

Значение: прогноз сроков (XX век) не сбылся, нейрофизиология устарела, но именно здесь заданы понятие интеллектуального взрыва и вопрос контроля над сверхразумом — те самые темы сегодняшних споров о рекурсивном самоулучшении ИИ.

Французский регулятор AMF предупредил криптокомпании: получите лицензию по регламенту MiCA до 30 июня (в ряде стран — до 1 июля) — или попадете в черные списки и столкнетесь с уголовным преследованием, если продолжите привлекать клиентов из ЕС без авторизации. Глава AMF Мари-Анн Барбат-Лаяни заявила, что подавать заявки нужно крайне срочно. Дополнительного льготного периода после дедлайна не будет, компаниям без лицензий велено подготовить планы упорядоченного сворачивания.

MiCA работает через паспортизацию: лицензия, полученная в одной стране ЕС, действует во всех 27. Но Франция готова блокировать паспортизацию чужих лицензий, если не согласна с решением страны-эмитента — это удар по regulatory shopping, когда фирмы ищут юрисдикцию с самым мягким контролем (вопросы вызывала скорость выдачи лицензий на Мальте). Из 90 предупрежденных компаний около 40 процентов вообще не намерены подавать заявки, еще 30 процентов их только готовят.

Контраст показательный: ЕС закручивает гайки ровно тогда, когда администрация Трампа в США ослабляет регулирование крипты.

Источник: Reuters, 28 мая 2026