Беспощадный пиарщик

Девочки, искусственный интеллект — чудесная игрушка! Спросишь, бывало, кому принадлежит фраза "прогресс неостановим", и он на голубом глазу выдаёт следующее.

Выражение "прогресс невозможно остановить" чаще всего ассоциируют с Владимиром Путиным, который на Санкт-Петербургском экономическом форуме 17 июня 2022 года сказал: "Прогресс не может быть остановлен". Впрочем, вы также могли иметь в виду другую известную цитату: "Прогресс невозможен без изменений, а те, кто не может изменить своё мышление, не могут изменить ничего". Эта цитата принадлежит Джорджу Бернарду Шоу.

Если кто не знает, Шоу — это такой американский драматург начала 20 века, Нобелевский лауреат по литературе.

Но наш вопрос, конечно, был не про него.

Спрашиваем снова: "Но разве не Илья Сегалович, сооснователь Яндекса известен выражением «прогресс неостановим»?" Ответ:

Да, вы правы. Выражение «Прогресс неостановим» действительно широко связывают с Ильёй Сегаловичем, сооснователем и бывшим директором по технологиям «Яндекса». На сайте памяти Сегаловича приводятся его тезисы, записанные на доске:

1. Прогресс неостановим.
2. Всё равно ничего работать не будет.

Такова специальная настройка, согласно которой ИИ не фокусируется на своих ошибках (они ещё называются галлюцинациями), а немедленно признаёт их и говорит: "Да-да, вы совершенно правы". Но при слепом доверии к ИИ, например, в области медицины такой подход может и не сработать.

Проблема, девочки, не только в том, что приходящее поколение полностью полагается на мнение ИИ, а в том, что любой проверенный и подготовленный человеческим мозгом контент, опиравшийся на реальный опыт, а не на анализ чужих текстов, загнанных в нейросеть, постепенно вымывается из интернета и замещается ИИ-генерацией. Насколько это безопасно и насколько быстро происходит?

Свежайший анализ на выборке из 500 тысяч англоязычных веб-страниц в интернете, проведённый Исследовательским центром Пью (Pew Research, США) показал, что сегодня около 10% всего контента имеют признаки ИИ-генерации, при этом для страниц, созданных после появления Chat GPT в конце 2022 года, эта доля составляет уже около 35%. Подтверждают это и другие исследования.

Языковой анализ (тм), проведённый исследователями, выявляет содержательные и стилистические особенности ИИ-контента:

1️⃣ Сокращение семантического поля: количество уникальных идей и различных мнений сокращается.
2️⃣ Сдвиг в сторону позитивной тональности: тексты в интернете начинают казаться пресными, насыщенными искусственным позитивом.
3️⃣ Академическая стилистика стала использоваться вдвое чаще: использование так называемых "оксфордских запятых", то есть, сложных перечислений, где перед союзами "и", "или" может требоваться запятая в зависимости от того, объединены или разделены перечисляемые объекты по смыслу; использование "длинных тире", больше характерное для академических или журналистских текстов; использование редко встречающейся лексики (в пример приводятся английские слова pivotal — ключевой, delve in — погружаться, bolstered by — подкреплённый); отрицательный параллелизм (выражения типа "Этот подход не просто экономит время, он меняет весь ваш рабочий процесс").

Вместе с тем, согласно соцопросам, люди относятся к ИИ крайне негативно и винят его во всех мыслимых грехах: мол, из-за галлюцинаций ИИ в интернете сегодня содержится масса недостоверной информации или все ИИ-тексты одинаковы. На самом деле:

➡️ В интернете не становится меньше истинных утверждений.
➡️ Не формируются замкнутые эпистемические пространства, то есть, ИИ не создаёт высокоспециализированные тексты, понятные только узким специалистам и всегда приводит разнообразие ссылок на свои источники.
➡️ Нет роста энтропии, проще говоря, ИИ не склонен использовать больше слов для описания какого-то явления, чем человек.
➡️ Сокращение разнообразия в пользу единообразного стиля не отмечено.

По всему выходит, замена людей на роботов в интернете идёт вполне успешно. Но стоит ли спрашивать ИИ о том, безопасно ли обниматься с медведем в лесу?

Please open Telegram to view this post