Какую опасность для человечества представляет ChatGPT

Что такое ChatGPT? С одной стороны, инструмент, который показывает, на что способен ИИ. С моей точки зрения, это самая большая технологическая угроза, которую мы видели за последние годы. Все потому, что люди хотят простых, а не реальных ответов.

ChatGPT был самой горячей темой последних недель как среди СМИ, так и среди обычных пользователей. И это неудивительно. После многих лет, когда знаменитый «искусственный интеллект» мог только улучшать фотографии на телефоне и искать фотографии в Google, теперь он продемонстрировал свое присутствие таким образом, что его можно почувствовать. Неудивительно, что люди бросились тестировать новое решение, а производные продукта OpenAI тоже начинают использовать бизнесы. Да и конкуренты бодрствуют — и готовят собственные решения. В то же время возможности ChatGPT только исследуются, и не проходит недели, чтобы не услышать о том, что новое это (или подобное) приложение может сделать. Понятно, что человечество было в восторге от предлагаемых ею возможностей и буквально ниоткуда ChatGPT было вознесено к роли «следующей великой вещи». Тем временем я стою в стороне и думаю, если так должно выглядеть будущее,

От библиотеки до TikTok – ChatGPT нашел 

Начнём с начала. В общем, мы как общество всегда стремились к упрощению тех или иных решений. Это можно увидеть практически в каждой сфере жизни. Мы перешли от фильмов в кинотеатре к фильмам на телевидении, а затем – к VOD, потому что так удобнее. Получать знания сегодня – это не копаться в библиотеке, а читать контент онлайн, просматривать материалы на YouTube или даже 15-секундные видео в TikTok. Также со всем – заказом покупок онлайн, использованием роботов-пылесосов. Везде, где это возможно, мы ищем упрощение и этот факт не вызывает сомнений.

В свое время таким упрощением был Google. Мы привыкли, что сегодня можем ввести туда любую фразу и алгоритм подберет для нас соответствующие результаты. Актуально или нет — неважно, это все равно быстрее, чем вручную прочесывать страницы в поисках интересующей нас информации. И подобно тому, как Google произвел фурор в начале 2000-х, сейчас ChatGPT является (точнее – возможно) следующим шагом в этой волне упрощения. Потому что, если мы ищем вопросы Google, инструмент пришлет нам ряд страниц, которые мы можем просмотреть. В очень ограниченной степени, но все же, Google заставляет нас ознакомиться с исходным материалом.

ChatGPT этого не делает. ChatGPT дает то, чего хотят люди – ответ

Я приведу пример. Очень часто разные люди задают мне вопрос, который наверняка слышит каждый журналист-технолог – «какой телефон ты бы мне посоветовал?». Как вы думаете, что хотят услышать люди, которые задают этот вопрос? Тщательный анализ ваших потребностей, бюджета и ожиданий или быстрый простой ответ – «марка X, модель Y»? Если вы думаете первое, вы ошибаетесь. Люди не хотят слышать это зависит, они хотят получить простой ответ на свой вопрос. Простой не значит настоящий. И именно для таких людей созданы ChatGPT и последующие решения.

И здесь начинаются нюансы. Уже существующие инструменты – Google, YouTube, Facebook, TikTok и т.д. – считаются главными виновниками современных глобальных проблем, таких как дезинформация, фейковые новости или информационная война. Уже сейчас люди в целом не проверяют источники информации, позволяют манипулировать собой и не подвергают сомнению то, что им предлагают. И все это при проверке источника данной информации – два клика в Google от нас. Это также демонстрирует, как далеко мы зашли в мир удобных упрощений, о которых говорил минуту назад. Достаточно показательно количество людей, которое сомневается в пандемии или верит во вредность 5G. Даже, несмотря на тысячи источников, люди все еще предпочитают верить в то, во что хотят верить.

А теперь представьте, что в этом мире появляется инструмент, знающий ответ на каждый вопрос. Однако никто не знает, откуда на самом деле берутся ответы. Откуда и как ChatGPT и производные получают информацию и как они ее обрабатывают, остается загадкой. Что ChatGPT считает правдой, а что фейком? Какое мнение для него важно, а какое нет? Как (если вообще) модерируется содержание, которое передается в Chat? Никто не знает и никто из миллионов пользователей об этом не спрашивает. Важно то, что каждый раз ИИ дает нам простой ответ на наш вопрос.

Если ChatGPT приживется, мы как общество окажемся в большой опасности

Предположим, что ChatGPT распространяется так, как сегодня Google. В таком случае я не могу рассматривать это иначе как инструмент, за который умрут пропагандистские машины тоталитарных систем. Почему? Потому что это означает, что мы вырастили цифровой оракул, который сообщает людям, что правда, а что нет. И хотя реальные источники все еще существуют, нет шансов, что они привлекут внимание большинства, которое ищет простые и быстрые решения. В этом климате создателям достаточно перевести одну “виртуальную ваджху” и вот мы имеем инструмент формирования общественного мнения в масштабах беспрецедентных, таких, которые невозможно представить.

Напомню – теперь ИИ не только объясняет, как приготовить рецепт ризотто, но и отвечает на вопрос о том, реальны ли изменения климата и действительно ли имел место Холокост. И такие вопросы всегда занимают первые места в ежегодных списках вопросов Google. Создавая ответы на эти вопросы для потенциальных сотен миллионов получателей, ChatGPT будет самостоятельно решать, какая информация достигнет ушей получателей. А если возле него кто-то, кто не любит экологическую деятельность или имеет собственное видение исторической правды? Тогда не стоит думать, что с помощью нескольких настроек и правильного подбора источников для бота он не может влиять на взгляды и убеждения людей по всему миру. Кроме того, такого рода манипуляции было бы практически невозможно обнаружить, поскольку чат каждый раз давал несколько другой ответ.

ChatGPT не обманет человечество. Он только покажет, как выглядит текущее состояние

Согласитесь, каждый из нас ищет в жизни какое-нибудь упрощение. Например, исторические события, близкие или далекие, очень часто становятся предметом дискуссии, и каждая из сторон имеет свою версию правды. Нужно ли делать прививку от коронавируса? Является ли Земля плоской? Нужно ли вкладываться в криптовалюты? На все эти вопросы мы услышим разные ответы. И я не удивлюсь, если кто-то захочет узнать об этом больше, ведь соблазн услышать одну свернутую дозу знаний неотразим. Однако это в свою очередь оставляет создателям такого решения, как ChatGPT, монополию на то, что правда, а что нет.

Меня как журналиста не пугает будущее, в котором будет царить такое решение. Может оказаться, что моя работа будет излишней. Все, что я пишу, будет загружено, отшлифовано Чатом и выплюнуто в виде ответа, за который я не получу и пол копейки. Я не волнуюсь: и коней когда-то заменили на машины и никто за ними не плачет. Однако будущее, в котором у одной корпорации будет монополия не только на то, какая информация попадает к пользователям (Google уже это делает), но и на то, что правда, а что нет, пугает меня до костей. Что-то мне кажется, что как человечество мы просто проглотим это решение, но такой поступок будет началом нашего конца.