«Крестный отец ИИ» ушел из Google и предупредил о рисках для человечества
Джефри Гинтон, которого часто называют «крестным отцом искусственного интеллекта», уволился из Google и заявил о рисках, связанных с ИИ. Об этом пишет The New York Times.
Доктор Гинтон был пионером в области ИИ. В 2012 году он вместе с двумя студентами создал нейронную сеть, которая смогла проанализировать тысячи фотографий и научиться распознавать обычные объекты. Google потратила $44 млн, чтобы приобрести компанию, основанную доктором и двумя его студентами.
Их система привела к созданию более мощных технологий, в том числе новых чат-ботов, таких как ChatGPT и Google Bard. В 2018 году Джефри Гинтон был среди получивших Премию Тюринга за свою работу над нейронными сетями.
Сейчас доктор считает, что по мере того, как компании усовершенствуют свои системы ИИ, они становятся все более опасными.
«Посмотрите, как это было пять лет назад и как это происходит сейчас, – подчеркнул он. – Возьмите разницу и перенесите ее в будущее. Это страшно».
Говоря о Google, Джефри Гинтон обратил внимание, что до прошлого года компания действовала как независимый управляющий технологии, стараясь не упустить что-то, что могло бы нанести вред. Но теперь, когда Microsoft дополнила свою поисковую систему Bing чат-ботом, Google пытается развернуть такую же технологию. Доктор считает, что технологические гиганты вовлечены в конкурентную борьбу, которую, возможно, будет нереально остановить.
Больше всего его беспокоит то, что интернет будет наполнен фальшивыми фото, видео и текстами, и рядовой человек не сможет распознать, что является правдой, а что нет. В то же время, он обеспокоен тем, что со временем технологии ИИ перевернут рынок труда.
Также Джефри Гинтон обеспокоен тем, что будущие версии технологии представляют угрозу человечеству, поскольку часто они учатся неожиданному поведению на основе больших объемов данных.
«Идея о том, что эти штуки могут стать умнее людей – мало кто в это верил, – сказал он. – Но большинство людей считали, что это очень далекая перспектива. И я думал, что это очень далекая перспектива. Я думал, что это произойдет через 30-50 лет, а то и позднее. Очевидно, что я так больше не думаю».
Напомним, что после того, как в марте OpenAI выпустил новую версию ChatGPT, более 1000 технологических лидеров и исследователей подписали открытое письмо с призывом ввести временный мораторий на разработку новых систем. Свой призыв они объяснили тем, что технологии ИИ представляют риск для общества и человечества. Илон Маск планирует запустить собственный генеративный искусственный интеллект TruthGPT, который по планам предпринимателя должен стать более безопасной версией существующих чат-ботов.
