Крафт и критика — литературная критика Это или не это? Как генеративный ИИ отравляет литературный источник для всех Джеймс Фолта о том, как держать оборону против экспериментов с ИИ
Ваухини Вара, которая уже несколько лет изучает влияние ИИ на письмо, опубликовала на выходных в The Atlantic материал, в котором утверждается, что весьма вероятно, что «Синий боец», короткий рассказ, отмеченный премией Кейн, был написан с помощью ИИ. Это заявление основывается на тщательном прочтении рассказа и результатах работы детектора ИИ Pangram, после того как рассказ зимбабвийского писателя Симбараше Стейна Кундизезы получил премию Кейн в 2026 году.
Это уже третий случай в этом году, когда крупная литературная премия омрачалась обвинениями, связанными с ИИ: ранее проблемы, связанные с использованием нечеловеческих инструментов для генерации текста, возникали вокруг Премии Содружества и Премии Гонкур.
Вару попросили расследовать «Синего бойца» после того, как один из редакторов Atlantic проверил текст рассказа в Pangram в свете недавних скандалов вокруг ИИ и литературных премий, и детектор ИИ «пометил почти весь рассказ как сгенерированный ИИ». В ходе расследования команда также проверила все предыдущие лауреаты Премии Кейн и другие тексты Кундизезы в Pangram; программа «отметила их как полностью написанные человеком».
Команда Премии Кейн отреагировала и рассматривает обвинения, но будет действовать более человечным способом без использования программных инструментов. Эллах Уакатама, председатель правления Премии Кейн, сказала Варе: «Моя позиция, как у человека, который возглавляет премию, такова: если есть такое обвинение, я хочу доказательств, которые не исходят от машины». Она заявила, что намерена обратиться к Кундизезе с «сочувствием» и презумпцией честности. Уакатама также родом из Зимбабве. «Как африканка», — сказала она, — «моя первая позиция такова: если я спрашиваю вас, говорите ли вы правду? и если вы говорите да, я собираюсь вам поверить — особенно потому, что обвинители не из числа наших собственных людей».
Кундизеза отрицает, что использовал ИИ, и опубликовал длинный пост в X в ответ на статью «из‑за уровня общественного интереса, вызванного [статьей], и из уважения к людям, которые поддерживали и отстаивали моё творчество». Он настаивает, что рассказ полностью его собственная работа: «Я не использовал генеративный ИИ для его написания. Это полностью моя собственная работа». Он приводит «конкретную, документированную историю» разработки рассказа, а также защищает свой стиль.
То, что обвинение выдвигается против африканского писателя в отношении премии, прославляющей африканское письмо, заметили и подвергли критике другие. Премия Кейн — «ведущая международная литературная премия за рассказ африканского автора», и она стремится отмечать писателей как в Африке, так и в диаспоре. Не утверждая, что Вара действует недобросовестно, стоит помнить, что есть неприятная история злоупотреблений, когда подобные обвинения направлялись против писателей цвета кожи.
Один пример разворачивается сейчас во Франции, где уроженца Гаити и канадского писателя Тейльсона Орельена обвинили в использовании ИИ в его новом романе. Орельен решительно отверг обвинения, но крайне правые быстро подхватили этот скандал, чтобы дискредитировать небелого писателя. Обвинения уже дали результат: Орельен признался, что использовал ИИ для исследований и ранее прибегал к плагиату, и был снят с длинного списка Премии Гонкур. Он также покинул Францию в разгар своего книжного тура. (Контроверсия, правда, увеличила продажи его книги, так что это можно считать светлой стороной.)
Даже если в этой технологии и её применениях можно обнаружить что‑то интересное, уродливое усложнение в том, что слишком много сторонников ИИ богаты и влиятельны и не настроены на компромисс.
Ещё одна проблема — сохраняющееся сомнение в надёжности программ для детекции ИИ. Вара усиливает доверие к детекторам в своей статье и в профиле Pangram в Businessweek, и в письме мне заявила, что Pangram «согласно собственным исследованиям, а также небольшому объёму внешних исследований, очень эффективен».
Но эти инструменты показали себя особенно ненадёжными в отношении текстов, выходящих за пределы доминирующей белой западной письменной культуры. Исследование Стэнфорда 2023 года показало, что более старые детекторы, предшествующие Pangram, работают плохо с письмами носителей других языков, например: Хотя детекторы были «почти идеальными» при оценке эссе, написанных восьмиклассниками из США, они классифицировали более половины эссе TOEFL (61,22%), написанных студентами-неродными носителями английского, как сгенерированные ИИ (TOEFL — Тест по английскому как иностранному языку).
Ситуация становится ещё хуже. Согласно исследованию, все семь детекторов единодушно идентифицировали 18 из 91 эссе TOEFL (19%) как созданные ИИ, а удивительные 89 из 91 эссе TOEFL (97%) были помечены хотя бы одним из детекторов.
Эта технология становится лучше в выявлении цифрово сгенерированного текста — хотя если Кундизеза прав в том, что его письмо было органичным, это означает, что есть пространство для совершенствования. Тем не менее репутация ИИ по галлюцинациям и неточностям остаётся тяжёлой ношей, и известно, что эта технология и её тренировочные датасеты имеют расовые и культурные «слепые пятна». Годы идут, и люди бьют тревогу по поводу программ распознавания лиц — популярных у полиции и армии — которые не могут корректно определять лица с тёмной кожей, например.
В результате расследование Премии Кейн в отношении обвинений против Кундизезы будет «ориентировано на человека, гарантируя, что писатели получают поддержку и заботу в процессе». Я считаю, что это правильный шаг. Помимо самой честности Премии, организация сохраняет фокус на сообществе писателей — и на их репутации. Они видят свою роль также как «ключевую часть экосистемы, которая подтверждает и поддерживает написание и публикацию африканских авторов».
То, что ИИ мутит культурные воды, — одна из моих основных фрустраций по поводу индустрии и её пропагандистов. Повсеместное распространение этой технологии внесло сомнение относительно происхождения любого текста, и я опасаюсь, что эрозия доверия будет иметь чрезмерно сильное влияние на писателей из более маргинализованных слоёв. Вара говорила с бывшим лауреатом Премии Кейн Топе Фоларином, который сказал: «Много писателей из глобального Юга испытывают экстремальное давление писать так, чтобы их работа была понятна Западу, и, очевидно, чат‑боты ухватились за это».
Всё это сомнение открывает дорогу плохим актёрам, как французские расисты, нападающие на Тейльсона Орельена, чтобы продвигать свои ядовитые нарративы. Но верно и обратное. Евангелисты ИИ могут указывать на истории, созданные ИИ, которые выиграли премии, как на доказательство того, что текст, выдавливаемый машиной, ничуть не хуже человеческого. Это динамика, с которой Вара сталкивалась. Она работала с ИИ и публиковала тексты, сгенерированные ИИ, в прошлом, включая вирусное эссе в The Believer под названием «Призраки», где она использовала GPT‑3 для создания текста о своей умершей сестре — теме, о которой ей самой было трудно писать.
Мне такой подход к генеративному ПО не кажется убедительным; эссе вроде Вариных легитимизируют тексты, созданные ИИ, и создают разрешающую структуру для писателей, менее вдумчивых или талантливых, чем она. И это уже происходит: как сама Вара отмечала в размышлениях о «Призраках» и его последствиях в материале для Wired под заголовком «Исповеди вирусной писательницы, использовавшей ИИ»: «Я думала, что должна чувствовать гордость, и в какой‑то степени я её испытывала. Но я беспокоилась, что «Призраки» будут истолкованы как мой знак, и что люди станут использовать это, чтобы аргументировать в пользу литературы, созданной ИИ. И вскоре так и произошло. Один писатель привёл это в горячем материале с заголовком «Вместо того чтобы бояться ИИ, писатели должны учиться сотрудничать с ним». Преподаватели назначали его в задания по письму, а затем просили студентов создать собственные AI‑коллаборации. Со мной связывались режиссёр и венчурный капиталист, желавшие узнать, как художники могут использовать ИИ.
Эссе стоит прочитать: в нём Вара интересно рассуждает как о собственном опыте, так и о более широких трендах в области ИИ и литературы. Вара хороший писатель, и её любознательность по отношению к этой технологии впечатляюще непредвзята, что делает её частую критику особенно информированной, но мне это всё равно кажется наивным.
Меня меньше всего интересует поиск среднего пути с менее вдумчивыми центристами ИИ, которые не честны в отношении того, насколько экстремально и неуправляемо ведут себя прокремлёвские сторонники ИИ. У меня всё меньше интереса находить компромисс с этой технологией. Максималисты ИИ скучны и странны — достаточно вспомнить «родительство ощущается по‑другому, когда ты работаешь в ИИ» парня, который хакерскими способами избегал проводить время со своим собственным ребёнком. Какой смысл искать равновесие с людьми, которые так полностью потеряли ориентиры?
Даже если в этой технологии и её применениях можно найти что‑то интересное, уродливое усложнение в том, что слишком много сторонников ИИ богаты и влиятельны и не настроены на компромисс. Технологические гиганты не спрашивают согласия или вклада, поэтому любое использование ИИ становится не выбором, а капитуляцией.
Хотя я и восхищаюсь интеллектуальной любознательностью Вары, я думаю, что единственная ответственная реакция на индустрию, которая так бездумно несётся вперёд, — это собрать как можно больше рук, тянущих за тормоз.
Примечание: я обновил этот материал, чтобы прояснить несколько пунктов, поднятых в письмах от Вары и The Atlantic, и чтобы включить ответ Кундизезы на статью и утверждения о его рассказе.
Джеймс Фолта — писатель и управляющий редактор Points in Case. Он соавтор еженедельной рассылки Newsletter of Humorous Writing.
Что вам читать дальше? Вот лучшие книги недели по отзывам Что показывают три недавних фильма о том, как мы воспринимаем поэтов и поэзию Автор «Дикой роботы» Питер Браун о том, что делает книгу отличной для чтения вслух Пытаясь уйти от бесконечных стереотипов о «сельской Америке»
Создано Grove Atlantic и Electric Literature
Если вы покупаете книги по ссылкам на нашем сайте, Lit Hub может получать комиссию от Bookshop.org, чьи сборы поддерживают независимые книжные магазины.