Я очень люблю русскую поэзию — в частности, Есенина. И именно поэтому с большим недоверием отношусь к ИИ.

Когда языковые модели только начали входить в повседневную жизнь, мне было даже интересно с ними спорить: задавать сложные вопросы, проверять их на литературе, на биографиях, на интерпретациях. И довольно быстро стало ясно: уверенный тон ИИ очень часто скрывает поверхностность, ошибки или откровенные выдумки. Особенно это заметно в гуманитарных темах, где важны контекст, интонация, историческая среда, нюансы смысла.

И если человек хорошо знает предмет, он может заметить подмену. А если не знает? Если он только начинает читать Есенина, Пастернака или любого другого автора и получает свои первые представления через ИИ? Тогда проблема уже не в том, что машина ошиблась. Проблема в том, что ошибка приходит в форме готового, гладкого, убедительного ответа. А значит, ей особенно легко поверить.

Именно поэтому я не считаю, что ИИ можно доверять как источнику знания. Использовать — да. Проверять с его помощью формулировки, искать направления, сравнивать версии — возможно. Но принимать его ответы на веру, особенно в литературе, истории и философии, опасно. Слишком велик риск получить не знание, а его имитацию.

Но меня беспокоит не только это.

Сегодня мы не просто пользуемся ИИ — мы фактически участвуем в его обучении. Мы задаём вопросы, исправляем ответы, уточняем формулировки, указываем на ошибки, добиваемся более точного результата. То есть не только платим за доступ к инструменту, но ещё и бесплатно поставляем ему материал для совершенствования. В этом есть что-то почти парадоксальное: пользователь одновременно и клиент, и бесплатный тренер системы.

Гениально, правда?

Многие из вас помнят аферу с Google Earth и Pokémon Go, когда выпустили игру, и пользователи ринулись искать покемонов, которые, аккурат, были в тех местах, куда не добирался Гугл-мобиль.

Совпадение? Не думаю!

Вопрос только в том, где та супермодель, которая уже натренирована миллионами людей и продолжает совершенствоваться. И кто за этим всем стоит?

Подписаться на «Сдвиг»