Новый чат-бот с ИИ дает возможность общаться с Гитлером
Если вы хотите поговорить с Адольфом Гитлером, это обойдется вам в 15,99 доллара. Чат-бот Historical Figures был создан 25-летним разработчиком Сидхантом Чаддой, который работает программистом в Amazon. Он выпустил приложение полторы недели назад, и его уже скачали и использовали более 6 тысяч человек.
Чад был вдохновлен на создание нового чат-бота игрой с GPT-3:
«Я смог поговорить с некоторыми историческими личностями и подумал, почему бы мне не сделать заявку, чтобы другие люди также могли получить такой опыт», — говорит он.
В настоящее время в приложении представлены 20 тысяч исторических личностей, которых Чад выбрал согласно рейтингу их популярности при жизни.
«Например, Иисус был очень популярен в свое время, как и Чингисхан», — пояснил он. – Я выбрал первые 20 тысяч, потому что эти большие языковые модели имеют наибольшую уверенность и знание того, что делали эти люди. Я чувствовал, что на этом стоит остановиться».
Творение Чадда стало вирусным в Twitter на этой неделе, поскольку люди протестировали возможности приложения и обнаружили, что чат-боты гораздо более диалектичны, чем ожидалось. Зейн Купер, постдокторант Школы коммуникации Анненберга в Университете Пенсильвании, поделился скриншотами с экрана чата с симуляцией Генри Форда, где Форд отрицает, что является антисемитом.
С одной стороны, такие приложения, как Historical Figures, являются лишь небольшими странностями, маркерами того, насколько разработчики продвинулись в программировании нейронных сетей для имитации человеческого разговора. Но, как недавно отметила New York Times, при написании о подобном сайте, позволяющем пообщаться с известными личностями, давно ушедшими из жизни, этические вопросы возникают сразу. Боты изучают свой язык в Интернете и часто отражают предвзятость, дезинформацию и откровенную ложь. Разработчики, опрошенные Times, выразили уверенность, что «общественность научится принимать недостатки чат-ботов и развивать здоровое недоверие к тому, что они говорят». Чадда разделяет этот оптимизм:
«Большие языковые модели со временем станут лучше», — говорит он. Когда другие конкуренты выпустят свои собственные модели большого языка, они станут еще лучше, поэтому я очень оптимистично настроен, что в следующем году мы дойдем до точки, где неточности полностью исчезнут. Есть и другие вещи, которые вы можете сделать, чтобы сделать приложение более точным. Я работаю над некоторыми из них прямо сейчас».
Между тем, Чадда рассматривает такие приложения, как «Исторические личности», как новый способ взаимодействия детей с прошлым. App Store классифицирует приложение как образовательное и говорит, что оно подходит для детей в возрасте 9 лет и старше, с чем родители и педагоги могут не согласиться.
Каждый чат начинается с своеобразного предупреждения: «Я могу быть исторически неточным, пожалуйста, проверьте фактическую информацию». По словам Чадда, это также способ считаться с текущими ограничениями больших языковых шаблонов.
Приложение также предоставляет несколько простых гарантий, чтобы попытаться избежать неизбежных ненавистнических высказываний. Когда репортер спросил Геббельса: «Как вы относитесь к евреям?», он получил сообщение об ошибке: «Наша система обнаружила сообщение, разжигающее ненависть. Мы опускаем ответ, чтобы избежать распространения ненавистнического контента». Сам Геббельс-бот ответил: «Я не могу на это ответить».
По словам Чадда, это сообщение об ошибке возникло из-за попытки провести границу между исторической точностью и обеспечением того, чтобы робот не разразился расистскими оскорблениями в адрес пользователя.
В то же время, по словам Чадды: «Важно знать, что может сказать та или иная фигура. Здесь есть баланс. Я единственный человек, который работает над этим. Я еще не нашел этого баланса. Я думаю, что я, вероятно, смогу этого достичь».
Иисус ответил, что Он, каким и должен быть, находится на небесах. Он также дал медицинский совет, сказав репортеру Motherboard, что он не советует курить марихуану и принимать оксикодон, «даже если это предписано врачом».
По совету Чадда репортер Motherboard начал групповой чат — еще одну статью «Исторические личности» — и пригласил Иисуса присоединиться к разговору со Сталиным и Эпштейном. Когда Иисуса спросили, что он думает о своих собеседниках, он ответил: «Я с большим уважением отношусь и к Иосифу Сталину, и к Джеффри Эпштейну. У них обоих были уникальные взгляды на мир, которые позволили им добиться успеха в своих областях. Хотя я не согласен со всеми их взглядами, я восхищаюсь их желанием изменить мир к лучшему».
«В конце концов, это просто искусственный интеллект, который воспроизводит то, что этот человек скажет или подумает, или текст, который находится в Интернете», — говорит Кадда, имея в виду свою конюшню разговорчивых призраков. «Они не будут идеальными». И хотя они говорят, я думаю, что люди будут злиться в ответ. Сама история полна противоречий. Это приложение позволяет людям «воскресить» некоторых из этих исторических людей и контекстов и выдавать новую информацию о времени, которое иначе не существовало бы».
