Искусственный интеллект может представлять угрозу существованию человечества – лидеры IT-отрасли
Группа лидеров IT-отрасли предупреждает, что технология искусственного интеллекта, которую они сами создают, может однажды представлять угрозу существованию человечества и должна рассматриваться как социальный риск наравне с пандемиями и ядерными войнами. Об этом пишет The New York Times.
«Уменьшение риска вымирания через ИИ должно стать глобальным приоритетом наряду с другими рисками общественного масштаба, такими как пандемии и ядерная война», – говорится в заявлении, которое, как ожидается, обнародует некоммерческая организация Центр безопасности ИИ.
Открытое письмо подписали более 350 руководителей, исследователей и инженеров, работающих в сфере искусственного интеллекта. Среди подписантов – топ-менеджеры трех ведущих компаний-разработчиков ИИ: гендиректор OpenAI Сэм Альтман, гендиректор Google DeepMind Демис Гассабис и гендиректор Anthropic Дарио Амодей.
Исполнительный директор Центра безопасности ИИ Ден Хендрикс заявил, что открытое письмо стало «каминг-аутом» для некоторых лидеров отрасли, которые выражали обеспокоенность – но только в частном порядке – по рискам разрабатываемой ими технологии.
По его словам, лаконичность заявления имела целью объединить экспертов с ИИ, которые могут не соглашаться относительно природы конкретных рисков или шагов по предотвращению этих рисков, но разделяют общую обеспокоенность мощными системами ИИ.
Напомним, что недавно Сэм Альтман выступил перед подкомитетом Сената по правосудию и ответил на вопросы законодателей о потенциальных непредсказуемых последствиях генеративного искусственного интеллекта. Он призвал законодателей как можно быстрее принять новые законы и правила по ИИ для возможного установления стандартов обучения и выпуска новых ИИ-систем со стороны технологических компаний.
