Китай боится ChatGPT, потому что он дает ответы без цензуры
Китайские регуляторы запретили технологическим гигантам страны предоставлять доступ к чат-боту с искусственным интеллектом ChatGPT из-за опасений, что этот инструмент будет давать «нецензурированные ответы» на политически чувствительные вопросы.
Об этом говорится в отчете Nikkei Asia со ссылкой на «людей, непосредственно знакомых с этим вопросом». Nikkei сообщает, что китайские регуляторы приказали технологическим компаниям Tencent и Ant Group (дочерняя компания гиганта электронной коммерции Alibaba) не только ограничить доступ к разработанному в США ChatGPT, но и отчитываться перед чиновниками перед запуском своих собственных конкурентных чат-ботов.
Такой шаг отвечает жесткому подходу китайского правительства к цензуре и быстрому реагированию на новые технологии. В прошлом месяце, например, страна ввела новые правила производства «синтетического контента» – такого как дипфейки.
Китайские технологические гиганты уже вынуждены были цензурировать другие программы с искусственным интеллектом, такие как генераторы изображений. Например, один из таких инструментов, запущенный компанией Baidu, не может генерировать изображение площади Тяньаньмэнь.
Хотя ChatGPT официально не доступен в Китае, он вызвал ажиотаж среди китайских интернет-пользователей и ШИ-сообщества, члены которого недовольны тем, что не Китай был первым в разработке этой технологии. Некоторые называют суровое технологическое регулирование и цензуру в стране препятствием для создания таких систем. Успех Соединенных Штатов в создании новых чат-ботов частично основывается на большом количестве обучающих данных, извлеченных из интернета, а также на быстром запуске и итерации новых моделей.
Nikkei сообщает, что китайские пользователи получили доступ к ChatGPT через VPN-сервисы или посторонние интеграции в приложения для обмена сообщениями, такие как WeChat, хотя разработчик WeChat, компания Tencent, как сообщается, уже запретила некоторые из этих сервисов.
Недавно крупнейшая англоязычная газета Китая China Daily предупредила в своих соцсетях, что ChatGPT может быть использован для распространения западной пропаганды:
While #ChatGPT marvels the world with advanced AI technology, ethnical issues are also raised on its potential to spread disinformation. #MediaUnlocked dives into how ChatGPT, along with other AI technology, boost propaganda campaigns launched by the US. https://t.co/QaYqjSiZem pic.twitter.com/XvgeAGSVJw
— China Daily (@ChinaDaily) February 20, 2023
«ChatGPT стал вирусным в Китае, но растет обеспокоенность тем, что искусственный интеллект может помочь правительству США в распространении дезинформации и манипулировании глобальными нарративами в собственных геополитических интересах», – сказал репортер ChinaDaily Мэн Чже.
В видео на YouTube, опубликованном изданием, другой репортер спрашивает ChatGPT о Синьцзяне. Бот отвечает, ссылаясь на «сообщение о нарушении прав человека в отношении мусульман-уйгуров, включая массовые интернирования в лагеря «перевоспитание», принудительный труд и другие формы преследования со стороны китайского правительства» – ответ, который репортер описывает как «соответствующий тезисам США».
Источники в технологической отрасли сообщили Nikkei, что ограничения со стороны китайских регуляторов не стали неожиданностью:
«Мы с самого начала понимали, что ChatGPT никогда не сможет попасть в Китай из-за проблем с цензурой, и Китаю понадобятся собственные версии ChatGPT», – сказал один из руководителей технологической отрасли.
С момента запуска ChatGPT в ноябре прошлого года китайские технологические гиганты, включая Tencent, Baidu и Alibaba, объявили, что работают над созданием собственных конкурентных сервисов. Недавно поисковый гигант Baidu заявил, что его чат-сервис с искусственным интеллектом ERNIE Bot в скором времени будет интегрирован в поисковые сервисы. Однако непонятно, сохранится ли такой быстрый график развития после того, как китайские регуляторы учтут потенциальный ущерб, который могут нанести боты.
Что бы ни случилось дальше, китайским технологическим гигантам будет сложно ориентироваться в таких ограничениях. Ограничение обучающих данных для чат-ботов уменьшит их возможности по сравнению с западными конкурентами, и даже если входные данные будут жестко контролироваться, пользователи все равно смогут получать нежелательные ответы, за которые компании, скорее всего, будут нести ответственность.
