В Китае началась масштабная проверка больших языковых моделей, разработанных местными компаниями, на соответствие «базовым социалистическим ценностям», сообщает Financial Times.
Государственная канцелярия интернет-информации КНР (CAC) обязала такие компании, как ByteDance, Alibaba, Moonshot и 01.AI, пройти правительственное тестирование. Проверка включает вопросы, касающиеся политики Китая и Си Цзиньпина, а также анализ данных, использованных для обучения моделей. Спустя двадцать лет после введения «Великого китайского брандмауэра», блокирующего доступ к нежелательной информации, Китай ужесточает контроль за искусственным интеллектом.
Один из китайских стартапов смог пройти проверку лишь со второй попытки. Причины первого отказа были неясны, и разработчики консультировались с коллегами, что заняло несколько месяцев. Основная сложность заключалась в необходимости использования англоязычных материалов, которые идеологически отличаются от китайских. В феврале власти выпустили руководство для компаний, работающих с ИИ, требующее создания базы данных слов и вопросов, противоречащих «базовым социалистическим ценностям».
Пользователи китайских чат-ботов уже заметили результаты этого процесса. Большинство систем отказываются отвечать на вопросы о событиях на площади Тяньаньмэнь 4 июня 1989 года или о сходстве Си Цзиньпина с Винни-Пухом, используя различные предлоги. В Китае был запущен альтернативный чат-бот, основанный на работах Си Цзиньпина и официальной литературе. Теперь ИИ не должен уклоняться от обсуждения политических тем и обязан отвечать на более 95% вопросов.
