«Четвертый столп» зарплаты: сотрудники техкомпаний устроили гонку за ИИ-токенами
НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+
Гонка за ИИ обернулась гонкой расходов: инженеры соревнуются, кто «сожжет» больше токенов, работодатели включают их в KPI, а счета за вычисления на человека достигают сотен тысяч долларов. Скептики предупреждают, что объем потребленных токенов не значит высокое качество работы.
Что происходит
Технорынок захватывает феномен «токенмаксинга»: разработчики пытаются потратить как можно больше токенов, чтобы показать свою «продвинутость» в работе с нейросетями.
Каждый раз, когда человек отправляет запрос боту затраченные вычислительные ресурсы измеряются в токенах. Генерация примерно 750 слов требует около 1000 токенов. С ИИ-агентами принцип тот же: чем больше работы он выполняет, тем больше токенов расходует.
«Токенмаксинг» превращает корпоративные бюджеты в новый маркер статуса, а щедрые лимиты на использование ИИ — в элемент бонусного пакета наряду с медстраховкой и бесплатными обедами, пишет NYT. В OpenAI один из инженеров за неделю израсходовал 210 млрд токенов — объем текста, которым можно заполнить «Википедию» 33 раза. В Anthropic разработчик за месяц «сжег» токенов на $150 тысяч. «На Claude я, наверное, трачу больше своей зарплаты», — признается еще один инженер из Стокгольма (счет оплачивает работодатель).
В ряде компаний, включая OpenAI, Meta и Shopify, использовать ИИ — это все чаще про внутреннее соревнование. Из расходы токенов составляются рейтинги, тех, кто активно работает с нейросетями, поощряют, а остальные получают выговор.
Почему так
Всплеск «токенмаксинга» связан прежде всего с развитием агентного ИИ. В отличие от обычных чат-ботов, такие системы способны часами работать автономно: анализировать и редактировать крупные кодовые базы, создавать «подагентов» для параллельных задач и писать целые программы по одному запросу. Некоторые решения — например, популярный opensource-ассистент OpenClaw — работают вообще круглосуточно.
«Если у вас есть непрерывно работающий агент, он может генерировать до 700 миллионов токенов в неделю», — говорит сооснователь стартапа Mechanize Эге Эрдил. Собственное потребление токенов он оценил в 1-10 млрд в неделю.
Для ИИ-компаний это означает стремительный рост выручки. Anthropic за два месяца более чем удвоила прогнозы по доходам — во многом за счет ИИ-агентов. OpenAI сообщила, что число активных пользователей Codex утроилось с начала года, объем его использования вырос впятеро. Google еще в прошлом году заявляла, что ее модели обрабатывают свыше 1,3 квадриллиона токенов в месяц.
Эффект или показуха
Часть сотрудников IT-компаний относится к «токенмаксингу» скептически. Рейтинги учитывают только количество потраченных токенов, а качество работы почти не анализируется. «Это не выглядит устойчивым», — признается один из сотрудников OpenAI.
Разработчик Гергели Орош защищает рейтинги и считает их «сверхдешевым способом узнать о новых и интересных методах работы». К тому же предыдущие метрики (например, количество строк кода) тоже были далеки от идеала.
Впрочем, более продвинутые в этом вопросе компании уже пытаются разобраться, что стоит за большими цифрами, и создают специальный дашборд для мониторинга. Если расход токенов сотрудника в разы превышает показатели коллег, руководство выясняет, не расточитель ли это.
Некоторые участники рынка ожидают, что токены станут «четвертым столпом» компенсационного пакета — наряду с окладом, бонусами и акциями. По мнению главы Nvidia Дженсена Хуанга, его лучшие специалисты должны расходовать минимум $250 тысяч в год на ИИ-вычисления. Если инженер потратил токенов всего на $5000 — это тревожный сигнал.
НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+
Гонка за ИИ обернулась гонкой расходов: инженеры соревнуются, кто «сожжет» больше токенов, работодатели включают их в KPI, а счета за вычисления на человека достигают сотен тысяч долларов. Скептики предупреждают, что объем потребленных токенов не значит высокое качество работы.
Что происходит
Технорынок захватывает феномен «токенмаксинга»: разработчики пытаются потратить как можно больше токенов, чтобы показать свою «продвинутость» в работе с нейросетями.
Каждый раз, когда человек отправляет запрос боту затраченные вычислительные ресурсы измеряются в токенах. Генерация примерно 750 слов требует около 1000 токенов. С ИИ-агентами принцип тот же: чем больше работы он выполняет, тем больше токенов расходует.
«Токенмаксинг» превращает корпоративные бюджеты в новый маркер статуса, а щедрые лимиты на использование ИИ — в элемент бонусного пакета наряду с медстраховкой и бесплатными обедами, пишет NYT. В OpenAI один из инженеров за неделю израсходовал 210 млрд токенов — объем текста, которым можно заполнить «Википедию» 33 раза. В Anthropic разработчик за месяц «сжег» токенов на $150 тысяч. «На Claude я, наверное, трачу больше своей зарплаты», — признается еще один инженер из Стокгольма (счет оплачивает работодатель).
В ряде компаний, включая OpenAI, Meta и Shopify, использовать ИИ — это все чаще про внутреннее соревнование. Из расходы токенов составляются рейтинги, тех, кто активно работает с нейросетями, поощряют, а остальные получают выговор.
Почему так
Всплеск «токенмаксинга» связан прежде всего с развитием агентного ИИ. В отличие от обычных чат-ботов, такие системы способны часами работать автономно: анализировать и редактировать крупные кодовые базы, создавать «подагентов» для параллельных задач и писать целые программы по одному запросу. Некоторые решения — например, популярный opensource-ассистент OpenClaw — работают вообще круглосуточно.
«Если у вас есть непрерывно работающий агент, он может генерировать до 700 миллионов токенов в неделю», — говорит сооснователь стартапа Mechanize Эге Эрдил. Собственное потребление токенов он оценил в 1-10 млрд в неделю.
Для ИИ-компаний это означает стремительный рост выручки. Anthropic за два месяца более чем удвоила прогнозы по доходам — во многом за счет ИИ-агентов. OpenAI сообщила, что число активных пользователей Codex утроилось с начала года, объем его использования вырос впятеро. Google еще в прошлом году заявляла, что ее модели обрабатывают свыше 1,3 квадриллиона токенов в месяц.
Эффект или показуха
Часть сотрудников IT-компаний относится к «токенмаксингу» скептически. Рейтинги учитывают только количество потраченных токенов, а качество работы почти не анализируется. «Это не выглядит устойчивым», — признается один из сотрудников OpenAI.
Разработчик Гергели Орош защищает рейтинги и считает их «сверхдешевым способом узнать о новых и интересных методах работы». К тому же предыдущие метрики (например, количество строк кода) тоже были далеки от идеала.
Впрочем, более продвинутые в этом вопросе компании уже пытаются разобраться, что стоит за большими цифрами, и создают специальный дашборд для мониторинга. Если расход токенов сотрудника в разы превышает показатели коллег, руководство выясняет, не расточитель ли это.
Некоторые участники рынка ожидают, что токены станут «четвертым столпом» компенсационного пакета — наряду с окладом, бонусами и акциями. По мнению главы Nvidia Дженсена Хуанга, его лучшие специалисты должны расходовать минимум $250 тысяч в год на ИИ-вычисления. Если инженер потратил токенов всего на $5000 — это тревожный сигнал.
🥴10🤣9😁3❤1👍1