Mozilla запускает новый стартап, ориентированный на надежный ИИ

Mozilla запускает новый стартап, ориентированный на надежный ИИ - rdd.media 2024

В преддверии своего 25-летия Mozilla запускает стартап, ориентированный на искусственный интеллект, сообщает TechCrunch.

По словам Марка Сурмана, исполнительного президента Mozilla.ai, миссия компании состоит не в создании любого ИИ, а в создании ИИ с открытым исходным кодом, который «заслуживает доверия».

«Работая над надежным ИИ в течение почти пяти лет, я постоянно чувствовал смесь волнения и тревоги, – сказал он в интервью TechCrunch. – Последние месяц-два поспешных анонсов крупных технологических ИИ ничем не отличаются от других. Появляются действительно увлекательные новые технологии – новые инструменты, которые сразу же побуждают художников, предпринимателей, всех людей делать новые вещи. Тревога приходит, когда ты понимаешь, что почти никто не учитывает предостережения».

Сурман подразумевал поспешную разработку моделей искусственного интеллекта в последние месяцы, которые, хотя и поражают своими возможностями, имеют тревожные последствия в реальном мире.

Создатели этих моделей говорят, что они принимают меры по пресечению злоупотреблений, но Mozilla считает, что этого недостаточно.

«Мы работали над надежным ИИ в рамках исследований в интересах общества около пяти лет, надеясь, что другие игроки индустрии, имеющие больший опыт в сфере ИИ, сделают шаг вперед и создадут более надежные технологии, – сказал Сурман. – Они этого не сделали. Поэтому в середине прошлого года мы решили, что должны сделать это сами и найти партнеров-единомышленников, которые будут делать это вместе с нами. Затем мы задались целью найти кого-то с правильным сочетанием академического и промышленного опыта в области ИИ, чтобы возглавить его».

Сурман описывает Mozilla.ai как частично исследовательскую фирму, частично сообщество – стартап, призванный помочь создать надежный, независимый стек ИИ с открытым исходным кодом.

Первоначально приоритетом Mozilla.ai будет создание команды из около 25 инженеров, ученых и менеджеров продуктов для работы над надежными рекомендательными системами и большими языковыми моделями типа GPT-4 от OpenAI. Но более широкие амбиции компании заключаются в создании сети смежных фирм и исследовательских групп, включая стартапы, поддерживаемые Mozilla Ventures, и академические учреждения, разделяющие ее видение.

Mozilla.ai потратит следующие несколько месяцев на разработку инструментов, которые, например, позволят пользователям проверять стоящие за ответами источники, которые дают им чат-боты. Компания также постарается создать системы, которые дадут пользователям больше контроля над рекомендациями ИИ (т.е. алгоритмами, управляющими лентами YouTube, Twitter и TikTok).

Tags: