Один из первых случаев злоупотребления ИИ: пользователь ChatGPT арестован в Китае за фальшивую железнодорожную аварию

Власти Китая задержали мужчину за использование ChatGPT для написания фейковых новостей. Об этом сообщает агентство Bloomberg со ссылкой на информацию бюро общественной безопасности северной провинции Ганьсу.

Это один из первых случаев ареста, связанных со злоупотреблениями искусственным интеллектом в стране. В бюро отметили, что человек по имени Хонг использовал современные технологические методы для фабрикации фейковой информации и распространения ее в социальных сетях.

О предполагаемом преступлении стало известно после того, как полиция обнаружила ложную статью о железнодорожной катастрофе, в которой погибли девять человек. Такая информация была размещена на нескольких аккаунтах на платформе Baidu Inc., таких как блог Baijiahao. Его посмотрели более 15 тысяч. раз перед удалением.

Расследование показало, что мужчина использовал технологию чат-бота, недоступную в Китае, но к которой можно получить доступ через VPN, для изменения вирусных новостей, которые он затем репостил. Хонг также рассказал следователям, что друзья WeChat показали ему, как зарабатывать деньги на кликах.

Власти заявили, что широкое распространение и обзор материалов означали, что мужчина несет ответственность за «серьезное преступление» — «провоцирование конфликтов и проблем», наказуемое лишением свободы на срок не менее пяти лет.

Технология искусственного интеллекта OpenAI Inc. вызвала острую борьбу в Китае как со стороны крупных технологических компаний, которые хотят разработать таких чат-ботов, так и со стороны властей, которые стремятся ввести правила, регулирующие использование технологии в строго контролируемой интернет-сфере.