Хотя правительство Китая считает ИИ крайне важным для экономического и военного будущего страны, регулирование и недавние чистки онлайн-контента показывают, что оно также опасается, что ИИ может дестабилизировать общество. Чат-боты представляют особую проблему — их способность самостоятельно мыслить может генерировать ответы, которые побуждают людей подвергать сомнению власть партии.

В ноябре Китай ввел правила, требующие, чтобы чат-боты с ИИ прошли обучение на основе политически отфильтрованных данных и сдали идеологический тест перед публичным выпуском. Все тексты, видео и изображения, созданные с помощью ИИ, должны быть четко маркированы и отслеживаемы, что упрощает поиск и наказание тех, кто распространяет нежелательный контент.

Китайские власти не хотят слишком сильно регулировать

, говорят люди, знакомые с позицией правительства. Это может привести к угасанию инноваций и обречь Китай на второстепенный статус в глобальной гонке ИИ, уступая США, которые применяют более либеральный подход к регулированию.

Но Пекин также не может позволить себе дать ИИ разгуляться.

По данным государственных СМИ, в начале этого года китайский лидер Си Цзиньпин заявил, что ИИ несет «беспрецедентные риски». Один из его заместителей сравнил ИИ без мер безопасности с вождением по шоссе без тормозов.

Есть признаки того, что Китай пока что находит способ пройти по лезвию ножа. Китайские модели занимают высокие места в международных рейтингах. Они конкурентоспособны как в целом, так и в конкретных областях, таких как компьютерное кодирование, даже несмотря на то, что они цензурируют ответы о массовых убийствах на площади Тяньаньмэнь, проблемах прав человека и других деликатных темах. Основные американские модели ИИ в большинстве своем недоступны в Китае.

Исследователи за пределами Китая, которые изучили как китайские, так и американские модели, также отмечают, что подход Китая к регулированию имеет некоторые преимущества: его чат-боты часто более безопасны по некоторым показателям, в них меньше насилия и порнографии, и они реже подталкивают людей к самоповреждениям.