Атомные бомбы, дезинформация и киберпреступность: законодатели США обсуждают опасность ИИ
Генеральный директор OpenAI Сэм Альтман дал показания перед подкомитетом Сената по судебной системе и ответил на вопросы законодателей о потенциальных непредсказуемых последствиях генеративного ИИ. Об этом пишет Gizmodo.
Он призвал законодателей как можно скорее принять новые законы и нормативные акты в области ИИ, чтобы установить стандарты обучения и выпуска новых систем ИИ технологическими компаниями. По словам Альтмана, регулирующее вмешательство правительств будет иметь решающее значение для снижения рисков, связанных со все более мощными моделями ИИ.
Вместе с другими экспертами он также отметил, что согласованные модели в стиле ChatGPT, если их не регулировать, могут увеличить количество дезинформации в Интернете, облегчить работу киберпреступников и даже поставить под угрозу доверие к избирательным системам.
Имея это в виду, Алтам и законодатели изучили многочисленные потенциальные решения и рассмотрели идею создания нового регулирующего органа экспертов по искусственному интеллекту для надзора за разработкой и внедрением соответствующих технологий.
Во время слушаний Альтман также признал еще одну проблему — потенциал ИИ для обмана пользователей с помощью сложных чат-ботов быстро растет. Однако он сравнил это с ситуацией, с которой столкнулось общество во время появления Photoshop от Adobe.
«Я думаю, что люди способны быстро адаптироваться», — пояснил он. – Когда фотошоп появился на сцене давным-давно, какое-то время люди действительно обманывались изображениями в фотошопе, но потом быстро появилось понимание, что изображения можно подделывать. Будет то же самое, но на стимуляторах».
Об опасности нерегулируемого ИИ предупредил во время слушаний сенатор от штата Коннектикут Ричард Блюменталь. Для этого он использовал запись, на которой программа клонирования голоса зачитывала подсказку, сгенерированную ChatGPT.
«Это не то будущее, которого мы хотим», — сказал смоделированный сенатор, созданный с помощью ИИ.
Многие законодатели, в том числе сенатор Блюменталь и сенатор от штата Нью-Джерси Кори Букер, упрекнули коллег в том, что они потеряли инициативу, когда дело дошло до предотвращения превращения социальных сетей в инструмент распространения дезинформации и вредоносного контента. Искусственный интеллект может стать возможностью исправить ситуацию.
«Конгресс не смог вовремя принять меры в социальных сетях, теперь мы обязаны сделать это в отношении ИИ до того, как угрозы и риски станут реальными», — сказал Блюменталь.
Но сенатор от штата Миссури Джош Хоули считает, что большие языковые модели, такие как GPT4, могут развиваться в одном из двух совершенно разных направлений.
«Мы можем стать свидетелями одной из самых значительных технологических инноваций в истории человечества», — подчеркнул он. – У меня вопрос, что это будет за инновация? Будет ли это похоже на печатный станок, который распространяет знания, силу и обучение… или это будет больше похоже на атомную бомбу».
В то же время сенатор от штата Теннесси Марша Блэкберн спровоцировала дискуссию об использовании ИИ материалов, защищенных авторским правом. Она поделилась тем, как певец Харти Брукс, получивший образование в кантри, смог создать убедительную версию своего произведения. Сенатор использовал этот пример, чтобы потребовать компенсацию от компании Альтмана, если работы художников помогут модели ИИ в обучении.
Ранее сообщалось, что искусственный интеллект способен менять мышление пользователей без их ведома. Об этом свидетельствует растущее число исследований в этом направлении.
