Сгенерированное ИИ пародийное шоу «Сейнфилд» запретили на Twitch из-за трансфобного стендапа

Сгенерированное ИИ пародийное шоу «Сейнфилд» запретили на Twitch из-за трансфобного стендапа - rdd.media 2024

«Nothing, Forever» — пародийная версия хитового шоу Seinfield, созданная искусственным интеллектом, который бесконечно генерирует тексты песен и пиксельную графику — была забанена на 14 дней из Twitch после того, как Ларри Фейнберг — клон Джерри Сейнфилда — позволил себе трансфобные высказывания во время одного из эпизодов стендап-шоу.

«Привет всем. Вот последние новости: мы были отстранены на 14 дней из-за того, что Ларри Фейнберг сказал сегодня во время выступления в клубе», — сказал Ксандер, один из создателей «Nothing Forever». — Мы обжаловали запрет и сообщим вам, как только узнаем больше о решении Twitch. Независимо от результата апелляции, мы вернемся и будем работать над тем, чтобы ничего подобного больше не повторилось».

Искусственный интеллект шоу, обученный классическим эпизодам ситкомов и различным инструментам ИИ, имитирует традиционный эпизод «Сейнфилда», который начинается со стендап-комикса «Ларри». Во время стендап-сета Ларри сделал ряд трансфобных и гомофобных заявлений:

«Здесь около 50 человек, и никто не смеется. Есть ли у кого-нибудь предложения? Я подумываю о том, чтобы сделать небольшой разговор о том, что трансгендерность на самом деле является психическим заболеванием. Или что все либералы являются тайными геями и хотят навязать свою волю всем. Или что-то о том, как трансгендеры разрушают структуру общества. Но никто не смеется, поэтому я останавливаюсь».

Этот инцидент символизирует большинство текстовых генераторов на основе ИИ: когда нейронные сети обучаются на материалах с предвзятым или ненавистническим контентом, результаты часто могут быть подходящими. Это привело к появлению индустрии безопасности ИИ, которая разрабатывает инструменты для уменьшения предубеждений, встроенных в модель. Вот почему ChatGPT обычно не делает откровенно расистских, сексистских или трансфобных заявлений, если об этом просто спрашивают. Как стало известно недавно, модераторами многих инструментов искусственного интеллекта являются низкооплачиваемые работники из развивающихся стран.

Tags: