Генеративный ИИ становится серьезной проблемой безопасности для всех компаний — вот как ваша компания может оставаться в безопасности.
В стремлении внедрить генеративный искусственный интеллект (Gen AI) и агентов ИИ на предприятиях возникают те же проблемы, с которыми сталкиваются при быстрой реализации любой новой технологии: риски утечек данных, взломов и нарушений. Новый отчет Proofpoint утверждает, что «агенты в рабочих пространствах» являются новым классом внутренних угроз, сопоставимым по серьезности даже человеческим ошибкам. Две пятых организаций-респондентов отметили потери данных через общедоступные или корпоративные инструменты GenAI как главную проблему, более трети заявили о своих опасениях относительно использования чувствительных данных для тренировки ИИ.
Райан Калембер (Ryan Kalember), директор по стратегическому планированию в Proofpoint, сказал: “Мы вступаем в новую эру информационной безопасности, где внутренние угрозы, непрерывный рост данных и изменения, вызванные искусственным интеллектом, проверяют пределы традиционных защитных мер.”
По словам эксперта, разрозненность инструментов и ограниченная видимость делают организации уязвимыми. Будущее защиты информации зависит от единых решений на базе искусственного интеллекта, которые могут понимать содержимое и контекст, адаптироваться в реальном времени и обеспечивать безопасность информации как при взаимодействии с человеком, так и агентами ИИ.
Несмотря на проблемы с искусственным интеллектом, люди остаются наиболее слабым звеном в цепи кибербезопасности: две трети организаций связывают самые значительные потери данных с «небрежными сотрудниками» и подрядчиками, а более трети – с компрометированными пользователями. Треть организаций указывает на внутренних злоумышленников.
Для снижения рисков как от человеческих ошибок, так и от действий агентов искусственного интеллекта, Proofpoint рекомендует ориентироваться на поведенческую кибербезопасность и аналитику: “Только 1% пользователей несет ответственность за 76% событий потери данных, что подчеркивает важность адаптивных стратегий безопасности с учетом поведения”, – говорится в отчете.
Интересно отметить, что две трети предприятий (65%) уже развернули возможности защиты данных с использованием искусственного интеллекта. TechRadar советует подписаться на наши каналы в Google News и добавить нас как предпочтительный источник, чтобы получать экспертные новости, обзоры и мнения прямо в ленту новостей. Не забудьте кликнуть по кнопке «Подписаться»! Также рекомендуем следить за нами в TikTok для видео-обзоров и распаковок продукции и регулярно обновляться через WhatsApp.
