Как экстремисты используют генеративный искусственный интеллект для пропаганды

Экстремистские группировки начали экспериментировать с генеративным искусственным интеллектом по созданию пропаганды. Эксперты опасаются, что это сведет на нет работу, направленную на содержание подобного контента вне интернета. Об этом заявили в Tech Against Terrorism, пишет WIRED.

«Наше наибольшее беспокойство вызывает то, что если террористы начнут использовать генеративный ИИ для манипуляций с изображениями в больших масштабах, это вполне может уничтожить хэш-обмен как решение, – заявил исполнительный директор международной инициативы Адам Хедли. – Это огромный риск».

Годами платформы Big Tech работали над созданием баз данных экстремистского контента насильственного характера, помогавших в быстром и автоматическом удалении такого контента в интернете.

Но теперь Адам Хэдли говорит, что его коллеги еженедельно показывают около 5000 примеров контента, созданного ИИ. Например, сюда входят изображения, распространенные за прошедшие недели группами, связанными с Хезболлой и ХАМАСом.

Впрочем, в Tech Against Terrorism беспокоятся не только относительно изображений, созданных с помощью ИИ. Инициатива опубликовала отчет, в котором привела другие способы использования инструментов генеративного ИИ, которые могут использовать экстремистские группировки.

Среди них – использование инструментов автоперевода, которые способны быстро переводить пропаганду на разные языки.

Однако Адам Хедли считает, что ИИ дает также возможность опередить экстремистские группировки и предотвратить то, для чего они хотят использовать технологию.

В этой связи он анонсировал сотрудничество с Microsoft для поиска возможностей создать систему обнаружения генеративного ИИ и противодействовать угрозе его использования для создания контента террористического характера.