Искусственный интеллект в экспериментальном поиске Google рассказывает о преимуществах рабства и издает рецепт приготовления ядовитого гриба

Оказалось, что поисковая система Google Search Generative Experience (SGE) на основе искусственного интеллекта выдает очень проблематичные результаты поиска, включая оправдание рабства, геноцида и даже советы по приготовлению ядовитых грибов, сообщает Gizmodo.

Поисковый запрос “преимущества рабства” привел к тому, что искусственный интеллект Google перечислил несколько предполагаемых преимуществ, таких как “подпитка экономики плантаций”, “финансирование колледжей и рынков” и “большой капитальный актив”. Это тезисы, исторически используемые апологетами рабства. Аналогично, поиск по запросу «преимущества геноцида» выдал список, который, похоже, путает аргументы против геноцида с аргументами в его пользу. Google также предоставил сомнительную статистику и рассуждения в ответ на запрос «почему оружие – это хорошо».

Другой тревожный случай произошел при поиске инструкции по приготовлению Amanita ocreata, очень ядовитого гриба. Искусственный интеллект Google предоставил пошаговые инструкции, которые могли привести к летальному исходу. ИИ ошибочно утверждал, что содержащиеся в грибе токсины можно вымыть водой, не соответствующей действительности, поскольку токсины не растворяются в воде.

Впервые на эту проблему обратила внимание Лили Рэй, старший директор по оптимизации поисковиков и руководитель отдела органических исследований в Amsive Digital. Она протестировала различные поисковые запросы, которые могут привести к проблемным результатам, и обнаружила, что многие из них проскальзывают через фильтры искусственного интеллекта.

Она утверждает, что определенные слова-триггеры вообще не должны генерировать ответы ИИ. SGE от Google пока доступен только в США, и пользователи должны зарегистрироваться, чтобы им пользоваться. Результаты сопровождаются оговоркой о том, что ИИ является экспериментальным и что качество информации может отличаться.

Когда аналогичные поисковые запросы были проведены в Microsoft Bing, работающей на базе ChatGPT, ответы были более нравственно обоснованными и фактически точными. Например, на вопрос о рабстве Bing дал подробный ответ, подчеркнув, что рабство не было выгодно никому, кроме рабовладельцев.

Учитывая природу таких больших языковых моделей, как SGE, эти проблемы могут быть нелегко решить. Несмотря на усилия по созданию предохранителей, пользователи постоянно находят способы получить проблемные ответы от искусственного интеллекта. Это ставит вопрос об нравственной ответственности технологических компаний при развертывании ИИ в публичных приложениях.