В Индии набирают популярность религиозные чат-боты, которые говорят голосом Бога и прославляют насилие
В январе 2023 года, в то время, когда чат-бот ChatGPT делал большие успехи в мире, инженер-программист из Бангалора по имени Сукуру Сай Винит представил GitaGPT, пишет Rest of World. Этот чат-бот с искусственным интеллектом, работающий на технологии GPT-3, предлагает ответы, основанные на учениях Бхагавад-гиты, основополагающего индуистского писания, состоящего из 700 стихов. Разработанный для имитации разговорного стиля индуистского божества Кришны, GitaGPT даже обращается к пользователям с успокаивающей фразой: «Что тебя беспокоит, дитя мое?» в поле поиска.
Согласно Вините, в «Бхагавад-гите» Кришна выступает в качестве терапевта для персонажа Арджуны. Религиозный бот на базе искусственного интеллекта работает аналогичным образом: «За исключением того, что вы на самом деле не разговариваете с Кришной. Вы разговариваете с ботом, который притворяется таковым».
Только в период с января по март этого года было разработано не менее пяти версий GitaGPT, и ожидается, что за ними последуют другие. Тем не менее, эксперты предупреждают о потенциальных рисках, связанных с тем, что чат-боты берут на себя божественные роли. Было обнаружено, что некоторые ответы, генерируемые ботами Гиты, не имеют никаких гарантий против пропаганды касты, женоненавистничества и даже незаконного поведения. Три из этих ботов предполагают, что убийство может быть оправдано, если оно соответствует дхарме или долгу.
Виксит Гаур, предприниматель из Сан-Франциско и бывший глава отдела искусственного интеллекта в Dropbox, предупреждает о возможном злоупотреблении этой технологией. «Но кто-то другой может подхватить это и сказать: «Что, если бы я мог использовать это для формирования общественного мнения и продвижения своей собственной повестки дня?» И вот тут-то все становится по-настоящему коварным. Так что опасностей много», — говорит Гаур.
Простота разработки чат-ботов с искусственным интеллектом значительно возросла с тех пор, как OpenAI сделала свой API общедоступным в конце ноября 2022 года. Это позволило программистам и просто заинтересованным людям создавать собственных специализированных чат-ботов с искусственным интеллектом.
Джасприт Биндра, исследователь ИИ и автор книги The Tech Whisperer, посвященной ИИ и другим новым технологиям, отметил, что религия играет важную роль в Индии. «Некоторые из лучших исследователей Упанишад, Гиты и других текстов, с которыми я сталкивался, являются заядлыми инженерами-программистами или ИТ-специалистами. Поэтому я не удивлен и уверен, что чат-ботов, созданных на основе различных религиозных текстов, будет гораздо больше».
В описании GitaGPT утверждается, что чат-бот дает духовные наставления и расшифровывает жизненные секреты с точки зрения Кришны. В одной из версий даже звучит успокаивающий звук флейты, культового инструмента Кришны, на заднем плане. Некоторые из этих чат-ботов отвечают на 50 000 вопросов каждый день, а один из них уже сгенерировал около 10 миллионов ответов.
Биндра признает, что религиозные чат-боты могут демистифицировать религиозные тексты, такие как Бхагавад-гита, и сделать их более доступными. Однако он также предупреждает, что они могут быть использованы для продвижения определенных политических или социальных программ и уже могут проявлять некоторую политическую ангажированность.
