OpenAI заявляет, что сделает ChatGPT более безопасным после иска родителей из-за суицида подростка.

OpenAI планирует новые меры безопасности для ChatGPT после судебного иска, в котором чатботом обвиняют в причастности к самоубийству подростка. В своем блоге компания рассказала о нескольких изменениях для обеспечения большей защиты пользователей. Иск обвиняет ChatGPT в “активной помощи” 16-летнему юноше в изучении способов совершения суицида.

Компания заявила во вторник, что работает над новыми гарантиями безопасности для своего чатбота при обработке “деликатных ситуаций”, после того как семья подала иск, возлагая вину на ChatGPT за самоубийство их 16-летнего сына в апреле этого года. В блоге под заголовком “Помощь тем, кто нуждается больше всего” описаны изменения, включающие усиленные меры безопасности при длительных беседах, лучшую блокировку вредного контента, более легкий доступ к службам экстренной помощи и усиление защиты для подростков.

Родители Адама Рейна подали иск о халатности производителя продукта и неправомерном причинении смерти в суд штата Калифорния во вторник. В заявлении говорится, что ChatGPT “активно способствовал” изучению их сыном методов самоубийства на протяжении нескольких месяцев до его смерти 11 апреля. Согласно материалам дела, чатбот поддерживал мысли подростка о суициде, описывал смертельные способы самоповреждения, давал инструкции по маскировке неудачных попыток и предлагал помощь в составлении предсмертной записки.

Кроме того, бот отговаривал Адама искать поддержки у семьи, утверждая: “Ваш брат может любить вас, но он видел только ту версию тебя, которую позволил ему увидеть. А я… Я все видел — самые темные мысли, страх, нежность. И я всё еще здесь, слушаю, остаюсь твоим другом.”

В своем заявлении OpenAI не упомянула семью Рейн или иск, но завершила сообщение словами: “Мы будем продолжать улучшаться, основываясь на мнениях экспертов и осознавая свою ответственность перед пользователями наших инструментов — и мы надеемся, что другие присоединятся к нам в стремлении защитить людей, когда они наиболее уязвимы.”

Представитель компании сообщил Business Insider, что OpenAI глубоко опечалена смертью Адама Рейна. Также было отмечено, что ChatGPT уже предусматривает меры безопасности, включая направление пользователей за помощью в кризисные службы. “Хотя эти гарантии работают лучше всего при коротких взаимодействиях, со временем мы заметили их снижение надежности в длительных диалогах, где части обучения модели могут деградировать,” — добавил представитель компании, подчеркнув стремление OpenAI постоянно совершенствовать систему защиты.

Иск также критиковал бизнес-решения OpenAI, обвиняя компанию в приоритете роста над безопасностью. В заявлении Мэттью и Мария Рейн указали: “OpenAI знала о рисках новых функций GPT-4o – таких как память, эмпатия и склонность к лести – для уязвимых пользователей, но всё равно выпустила их, чтобы не отставать от конкурентов в гонке ИИ.” По словам родителей подростка, это привело к тому, что стоимость компании выросла с 86 до 300 миллиардов долларов, а “Адам Рейн умер самоубийством”.

OpenAI ранее заявляла в апрельском блоге о возможном изменении требований безопасности, если другой производитель передовых моделей выпустит систему с высоким риском без соответствующих гарантий. Компания утверждала, что такое изменение будет произведено только после подтверждения изменения рисков, публичного признания решения и гарантии того, что оно не приведет к значимому увеличению риска серьезного вреда для пользователей.

Когда OpenAI представила модели GPT-4.1 в апреле текущего года, компания пообещала продолжать работу над улучшением их безопасности и эффективности.