Фантастика, созданная ИИ, заполонила литературные журналы
Короткий рассказ под названием «Последняя надежда» впервые попал на стол Шейли Уильямс в начале января. Уильямс, редактор журнала Asimov’s Science Fiction, прочитала рассказ и передала его дальше, пишет The Verge.
Сначала она не придала этому особого значения – она ежедневно читает и отвечает писателям в рамках своей работы, получая от 700 до 750 рассказов в месяц. Но когда через несколько недель пришла еще одна история, также под названием «Последняя надежда», от писателя с другим именем, Уильямс что-то заподозрила. Когда через несколько дней появилась еще одна “Последняя надежда”, Уильямс сразу поняла, что имеет дело с проблемой.
С момента первой отправки Уильямс получила более 20 рассказов под названием «Последняя надежда», каждый из которых был отправлен от разных авторов и по разным электронным адресам. Уильямс считает, что все они были созданы с помощью ИИ, как и сотни других подобных заявок, за последние месяцы переполнивших небольшие издательства.
В январе Asimov’s Science Fiction получил около 900 рассказов на рассмотрение, а в этом месяце планирует получить 1000. Шейла Уильямс говорит, что почти весь прирост — за счет произведений, похоже, созданных искусственным интеллектом, а сама она прочитала так много, что теперь часто может с первых слов сказать, написан ли этот рассказ человеком.
Кроме повторяющихся названий, есть определенные имена персонажей, которые имеют тенденцию появляться часто, говорит Уильямс. Иногда рукопись содержит другое название, чем указанное в онлайн-форме. В необязательных сопроводительных письмах некоторые авторы добавляют инструкции, как перевести им деньги за их историю, которая еще не была принята.
При этом Asimov’s Science Fiction получает истории с десятками схожих названий: «Последнее эхо», «Последнее послание», «Последний день осени» и «Последний путешественник».
Уильямс и его команда научились распознавать произведения, созданные искусственным интеллектом, но поток заявок все равно разочаровывает. Такие издания, как Asimov’s Science Fiction, переполняются текстами сгенерированными искусственным интеллектом, которые отнимают время редакторов и потенциально вытесняют произведения талантливых начинающих авторов. И проблема может только усугубиться, поскольку широкая доступность ботов-писателей создает новый жанр – «схему быстрого обогащения».
«Я просто просматриваю их так быстро, как только могу, – говорит Уильямс о работах, которые, как она подозревает, сгенерированы искусственным интеллектом. – Чтобы загрузить материал, открыть его и просмотреть, нужно столько же времени. И я хотела бы тратить это время на настоящие материалы».
Для некоторых редакторов наплыв сгенерированных искусственным интеллектом материалов заставил их перестать принимать новые работы.
На прошлой неделе популярный журнал научной фантастики Clarkesworld объявил, что временно прекращает прием работ из-за потока произведений, созданных с помощью искусственного интеллекта. В предыдущем сообщении в блоге редактор Нил Кларк отметил, что журнал был вынужден запретить публикацию стремительно нарастающего количества авторов из-за того, что они прислали истории, сгенерированные с помощью автоматизированных инструментов. По словам Кларка, только в феврале Clarkesworld получил 700 работ, написанных людьми, и 500 историй, сгенерированных машиной.
Кларк считает, что спам поступает от людей, ищущих быстрого заработка и нашедших Clarkesworld и другие издания через интернет. Например, один из сайтов наполнен SEO-приманками – статьями и ключевыми словами по маркетингу, писательству и бизнесу, которые обещают помочь быстро заработать деньги. В статье на сайте перечислены почти два десятка литературных журналов и вебсайтов, в том числе Clarkesworld и Asimov’s, а также более крупные издания, такие как BBC, с указанием ставок гонораров и реквизитов для отправки материалов. Статья поощряет читателей использовать инструменты искусственного интеллекта и содержит партнерские маркетинговые ссылки на Jasper, программное обеспечение для написания текстов с искусственным интеллектом.
Большинство изданий платят небольшую цену за слово, около 8-10 центов, в то время как другие платят фиксированные гонорары до нескольких сотен долларов за принятые материалы. В своем блоге Нил Кларк написал, что высокий процент мошеннических заявок поступает из некоторых регионов, но отказался назвать их, опасаясь, что это может выставить писателей из этих стран в качестве мошенников.
В некоторых случаях Кларк переписывался с людьми, которых забанили из-за работ, сгенерированных искусственным интеллектом, и они говорили, что им просто нужны деньги.
Кларк, разработавший систему подачи материалов для своего журнала, назвал действия ИИ-спамеров “нелегантными”. Он смог определить, что одно и то же произведение посылается из одного и того же IP-адреса в несколько изданий с разницей в считанные минуты, часто в том порядке, в котором журналы появляются в списках.
«Если бы это были люди из сообщества [научной фантастики и фэнтези], они бы знали, что это не сработает. Для них было бы очевидно, что так нельзя делать и ожидать, что это сработает», – говорит Кларк.
Проблема выходит за рамки изданий научной фантастики и фэнтези. Flash Fiction Online (FFO) работает с разнообразными жанрами, включая ужасы и фантастику. 14 февраля издание добавило соответствующее уведомление к своей форме:
«Мы стремимся публиковать истории, написанные и отредактированные людьми. Мы оставляем за собой право отклонить любой материал, который, как мы подозреваем, был создан с помощью программного обеспечения для моделирования языка, ChatGPT, чат-ботов или других приложений, ботов или программного обеспечения с искусственным интеллектом».
Обновленные условия были добавлены примерно в то время, когда FFO получил более 30 материалов из одного источника в течение нескольких дней, рассказывает Анна Йеттс, издатель и главная редактор. Каждая история содержала клише, которые Еттс видела в работах, созданных искусственным интеллектом, и каждая имела уникальное сопроводительное письмо, структурированное и написанное не так, как это обычно видит издание. Но у Еттса и ее коллег еще с января были подозрения, что некоторые работы, которые им присылали, были созданы с помощью инструментов искусственного интеллекта.
Йеттс начала экспериментировать с ChatGPT еще в декабре, подавая инструмент подсказки для создания историй определенных жанров. Система смогла воспроизвести технические элементы, включая определение главных героев, установку и введение конфликта, но не смогла создать никакой «глубокой точки зрения» – конечности были слишком аккуратными и идеальными, а эмоции часто переходили в мелодраму. Во всех «пронзительные зеленые глаза», а истории часто начинаются с того, что герои сидят. По оценкам Еттс, из более чем тысячи работ, которые FFO получил в этом году, около 5%, вероятно, были сгенерированы искусственным интеллектом.
В прошлом FFO публиковал мейнстримные произведения, имевшие более традиционный стиль написания и уровень, доступный для разных читателей. По мнению ЙЕТС, истории, созданные с помощью инструментов искусственного интеллекта, могут выйти за рамки базовых требований.
«У них есть все составляющие истории, которые вы пытаетесь искать. Есть начало, середина и конец. Есть развязка, персонажи. Грамматика хорошая», – говорит Йеттс.
Команда FFO работает над тем, чтобы научить штатных редакторов искать некоторые элементы истории, когда они впервые проверяют заявки.
Йетс обеспокоена тем, что растущая волна работ, созданных с помощью искусственного интеллекта, может буквально вытеснить работы реальных людей. Издание использует популярный сервис Submittable и план FFO, предусматривающий ежемесячный лимит историй, после которого прием работ закрывается. Если сотни людей пошлют неподходящие работы, созданные искусственным интеллектом, это может помешать авторам-людям присылать свои истории.
Другие члены сообщества следят за проблемой, охватывающей другие издательства, и обдумывают способы реагирования, прежде чем оно распространится дальше. Мэтью Крессель, писатель-фантаст и создатель Moksha, онлайн-системы подачи заявок, которой пользуются десятки изданий, говорит, что он начал получать звонки от клиентов, получивших спам, написанный с помощью инструментов искусственного интеллекта.
Крессель говорит, что хочет, чтобы Moksha оставалась «агностической», когда речь идет о ценности материалов, созданных с помощью чат-ботов. По словам Кресселя, издатели имеют возможность добавить флажок, с помощью которого авторы могут подтвердить, что в их работах не используются системы искусственного интеллекта, и рассматривают возможность добавить опцию для изданий, которая позволит им блокировать или частично ограничивать материалы, созданные с помощью инструментов искусственного интеллекта.
