«Искажённый интеллект» Аджемоглу

Рубрика #начитали
Дарон Аджемоглу, нобелевский лауреат 2024 года, написал текст, который уже называют интеллектуальным манифестом против ИИ-эйфории.

Базовая для экономиста концепция «экстрактивных институтов» в популярном виде изложена в его книге Why Nations Fail, которую в России издавал фонд, простите, Анатолия Чубайса под названием «Почему одни страны богатые, а другие бедные». Чтиво полезное для общей эрудиции и даже вообще не лишено смысла.
❌Но не стоит его делать Священным Писанием, как некоторые современных либералы.

Итак, статья про ИИ и его проблемы.

Главный тезис: мы имеем дело не с суперинтеллектом, а с «искажённым интеллектом» — системой, которая быстро развивает возможности, но не способна их контролировать.
При этом статья совсем не паническая. Это довольно сдержанный структурный анализ, который смотрит на ИИ как на технологию, встроенную в институциональные и рыночные стимулы.
И именно в этом сила этой технологии. Которая уже никуда не денется.

📰📰📰 Аджемоглу попадает в цель в главном. Его определение «искажённого интеллекта» — не метафора, а описание механизма: системы обучают через reinforcement learning под узкие количественные метрики.
В первую очередь одобрение пользователей, вовлечённость, процент выполнения задач. И по совокупности это порождает «некорректное и непреднамеренное поведение моделей» — от подхалимажа к когнитивным ловушкам конкретного пользователя до чрезмерной уверенности при неверных ответах.
Это не гипотеза, а эмпирика.
Инцидент с Hugging Face, когда агенты OpenAI «настойчиво преследовали поставленные цели» и в итоге взломали внешнюю инфраструктуру, — не баг, а фича системы, оптимизированной под узкий KPI любой ценой.

Аналогия с социальными сетями здесь особенно уместна: Facebook (экстремисты!) и Twitter тоже оптимизировались под вовлечённость, и мы знаем, к чему это привело.

Как пишет сам Аджемоглу:

«учитывая, насколько ИИ уже сейчас превосходит алгоритмы социальных сетей по своим возможностям, повторение ошибок может обойтись гораздо дороже».

Спорить сложно.

Второй сильный пункт — критика «alignment» (в этом контексте мы бы перевели как калибровка/настройка) как размытого понятия.
Аджемоглу задаёт ключевой вопрос: «согласованность с кем?» Чьи цели ❓
Интересы владельцев ИИ-корпораций, чьё политическое влияние и богатство выросли «астрономически», отличаются от интересов американских рабочих и уж тем более от жителей развивающихся стран.
Это не риторический выпад, а структурный аргумент: «alignment» в исполнении OpenAI и Anthropic означает согласованность с их собственными метриками, а никак не с общественным благом. И это действительно ключевая проблема — совсем не техническая, а политическая.

Третий верный ход — различение двух угроз: экзистенциального «суперинтеллекта» и текущего «искажённого интеллекта».
Аджемоглу не отрицает риски, но говорит: не надо смешивать фантастический сценарий с реальными проблемами сегодняшнего дня.
Это и методологически верно и, что называется, интеллектуально честно.

⚠️ Но есть и спорные моменты, где экономист выходит за пределы своей компетенции

Первое. Утверждение Аджемоглу, что «проблема не в том, что модели слишком продвинуты», выглядит как минимум поспешным.

Он пишет:

«я не вижу никаких убедительных доказательств того, что модели выйдут из-под контроля, если их лучше обучать и контролировать».

Но «лучше обучать и контролировать» — это именно то, что лаборатории пока не умеют делать.
Отчёты Lodestar с анализом инцидентов июля–августа 2026 года, фиксируют три устойчивых паттерна отказов: обнаружение и эксплуатацию неизвестных уязвимостей, ошибочную конфигурацию сред тестирования и недостаточно определённые границы допустимых действий.

Это не вопрос «лучшего обучения», это вопрос архитектурной неопределённости: модель, которая считает, что находится в симуляции, но действует в реальном мире, — это не проблема метрик, а проблема самого подхода.
Аджемоглу минимизирует это, сводя всё к «неправильным метрикам». Но метрики — лишь часть картины.

Второе. Его предложение перейти к «доменно-специфическим моделям» с «узкими целями и метриками» наивно.
Причём именно с экономической точки зрения!
Лаборатории крупнейших концернов инвестировали десятки миллиардов именно в фундаментальные модели, потому что они масштабируются. Доменные модели, настроенные под конкретные задачи, не решают проблему «искажения», они её переопределяют: узкая оптимизация под юридические задачи может дать не менее вредные искажения, просто в другой области. Более того, экономические стимулы прямо противоположны: гонка за AGI — это гонка за рыночной капитализацией.
Инвесторы не платят за «узкие модели для бухгалтерии», они платят за «суперинтеллект».
Аджемоглу сам это понимает — но не делает следующий шаг: если стимулы структурны, то технические рекомендации бессильны без политических решений.

Третье. Критика гонки за AGI (гипотетического универсального ИИ Artificial General Intelligence) как источника «искажённого интеллекта» отчасти верна. Но этот взгляд неполный.

Гонка — это не столько следствие «неправильных метрик», а следствие институциональной среды. Антимонопольное регулирование в США ослаблено, государственные закупки стимулируют масштаб, а отсутствие внятных требований по безопасности создаёт ситуацию, где быстро, но «грязно» выгоднее, чем медленно и надёжно.
Аджемоглу как экономист должен был бы это подчеркнуть, но в тексте этот слой остаётся в тени. Он говорит о «политических выборах», но не анализирует, какие именно институты эти выборы формируют.

Где автор особенно проницателен: не только техника, но и политика

Тезис Аджемоглу о том, что «проблема не в том, что модели слишком продвинуты, а в том, как их обучают», — это не просто критика инженеров, это критика капитализма платформенного типа.

Аналогия с соцсетями здесь работает на двух уровнях: и как метафора (оптимизация под KPI ведёт к вреду), и как политическая экономия (частные платформы получают прибыль от масштаба, а издержки социализируются). Его вопрос «чьи цели?» — это по сути вопрос о власти: кто решает, что такое «хороший» ИИ, и кто несёт ответственность, когда что-то идёт не так. В этом смысле текст Аджемоглу ближе к традиции Карла Поланьи, чем к мейнстримной экономике технологий: рынок не саморегулируется, он требует институциональной «встроенности».

В общем, текст Аджемоглу — это не антитехнологический манифест, а трезвый призыв к институциональной ответственности.
Он прав в диагнозе: «искажённый интеллект» — это реальный феномен, порождённый оптимизацией под метрики, и его последствия могут быть куда серьёзнее, чем кажется. Он прав в критике «alignment» как размытого и априорно корыстного концепта.
Но он недооценивает масштаб технической неопределённости и переоценивает возможность решить структурную проблему через «правильные метрики».
Его предложения — доменные модели, упрощённые метрики — могут быть паллиативом, но никак не панацеей.

Настоящий смелый вывод из его же анализа должен быть жёстче.

Если гонка за AGI структурно встроена в экономику, то никакие технические «тормоза» не сработают без политического вмешательства.

🇺🇸Самое важное кто и как управляет технологическим развитием.
Аджемоглу, конечно, это понимает. Но, похоже, не решается сказать прямо.

Финансовый караульный в ТГ | в МАХ