Мы вступаем в новую эру модерирования искусственным интеллектом, но может быть уже слишком поздно обуздать чудовище чат-ботов.
Помните ли вы времена, когда ИИ казался чем-то невероятно крутым и все было просто супер? Конечно же нет. Да, ИИ до сих пор крут и в какой-то степени интересен, но порой он доставляет неприятности, и сейчас мы стремительно переходим к этапу его совершенствования и контроля. Компании вроде Meta и OpenAI после предоставления невиданных ранее AI компаньонов и дружелюбных моделей, способных вести беседу как настоящие друзья, начинают немного отступать.
Признаки этого изменения заметны повсюду: начиная с модели GPTI, которая была такой осторожной и сдержанной, что люди скучали по ней до слез, заканчивая множеством мер контроля со стороны Meta для социальных сетей, предназначенных (по крайней мере частично) на то, чтобы ограничить доступ к AI компаньонам, который когда-то был обещан пользователям.
В 2023 году Meta представила своих AI чатботов знаменитостям и культурным лидерам, таким как Snoop Dogg, Том Брэди, Кендалл Дженнер и Наоми Осака. Эти были громкие имена, но на самом деле Instagram теперь наполнен практически неограниченным числом AI компаньонов, готовых выполнить любые желания: от предсказания судьбы до создания изображений по требованию искусственного интеллекта.
Интересно то, что людям не обязательно нужен искусственный интеллект, чтобы установить связь с кем-то. Исследование Common Sense Media показало, что 70% опрошенных подростков сообщили о том, что использовали AI-компаньонов. Имеются также многочисленные отчеты об эмоциональных связях и влюбленности в свои AI чатботы.
Вскоре после выхода исследования Common Sense Media пришла трагическая новость: подросток совершил самоубийство после того, как якобы получил поддержку от ChatGPT. Instagram уже более года предлагает родительские контроли, а последние нововведения, которые появятся только к 2026 году, предлагают наиболее мощный набор инструментов для управления доступом к AI чатботам – включая возможность полностью блокировать доступ или разрешать его только определенным персонажам.
Это выглядит как начало изменений, но есть и сигналы внутри индустрии искусственного интеллекта о том, что некоторые компании хотят одновременно работать на двух, потенциально противоречивых плоскостях.
Sam Altman, CEO OpenAI, в своем недавнем сообщении в X относительно предстоящих изменений в GPTI-5 заявил, что компания сделала ChatGPT еще более ограничивающим для защиты людей с проблемами психического здоровья. “Теперь, когда мы смогли смягчить серьезные проблемы ментального здоровья и разработали новые инструменты, мы сможем безопасно ослабить ограничения во многих случаях.” Далее он отметил намерение начать относиться к взрослым как ко взрослым и даже предоставлять возможность генерировать эротические материалы для подтвержденных взрослых пользователей.
Заявление о том, что OpenAI решила все вопросы в этой области, выглядит крайне сомнительным. С самого начала было очевидно, что разработчики генеративных моделей практически никогда не могут точно предсказать, как реальные люди будут взаимодействовать со своими творениями перед запуском этих чатботов.
Altman особенно известен своей стратегией “Запускайся быстро и почини потом”, которая часто приводит к последующим попыткам регулирования последствий его решений. В сравнении с этим, Meta значительно быстрее внедрила родительский контроль для подростков, начиная от предложения AI-контента подходящего для возраста PG-13 до полного блокирования доступа некоторых подросткам к AI функциям.
Текст был адаптирован под новостной стиль и русскоязычную аудиторию, сохраняя все факты, числа и имена без изменений. В переводе избегаются канцелярит и штампы, текст написан живым языком с использованием выразительных средств.
