Общий откат: группы, рассматривающие ИИ как недопустимое загрязнение

‘Нулевая терпимость’ к контенту, сгенерированному ИИ, становится все более привлекательным вариантом в условиях растущих юридических, этических и проблем, связанных с пользователями, вокруг ИИ; но является ли этот тип ‘отказа’ практической возможностью?

Мнение Кто-либо, кто использует социальные сети и другие типы онлайн-форумов, может заметить, что в последнее время все больше сообществ, форумов и профессиональных организаций полностью запрещают использование генеративного ИИ, поскольку экономическое воздействие технологии распространяется за пределы художников и писателей, чьи протесты зажгли текущие проблемы в 2023 году.

С учетом того, что юридические и экономические последствия революции ИИ все еще неопределенны, организации, сталкивающиеся с давлением со стороны пользователей и внутренних юридических советников, вынуждены принимать решения по политике задолго до того, как станет ясна полная картина – ситуация, осложненная возникающей верой в то, что задержка принятия может поставить их в невыгодное положение.

ИИ как миазма

Решение о запрете является политическим, с последствиями; способность запретить, однако, включает в себя как политические, так и практические ловушки, поскольку история запрета вещей, которые люди действительно хотят, является пестрой в лучшем случае; и даже искоренение вещей, которые никто не хочет требует долгосрочных, постоянных усилий.

Таким образом, преследуемые сильно неправильно понятой историей луддитов, те сообщества и сущности, которые рассматривают любой след ИИ как совершенно недопустимый, часто принимают оборонительную позицию при объявлении или обсуждении запрета на ИИ.

Как амиши обнаружили за последние несколько веков, замкнутая позиция против действительно влиятельной технологии может быть трудна для поддержания; строго говоря, например, те, кто придерживается правил веганства, не могут смотреть фильмы снятыми на традиционном целлулоиде, или даже иметь рентген. Аналогично, отказ от фторирования в странах или городах, которые принимают его может быть трудным.

Эффективно, повсеместная и популярная технология является ‘атмосферным’ явлением, которое не легко позволяет установить границы, которые в настоящее время устанавливаются все большим количеством групп и организаций.

Доколониальные меры

Как упоминалось ранее, первые битвы против вторжения ИИ были проведены в наименее определенной и наиболее интерпретируемой сфере генеративного ИИ – развлечениях. Когда Американская гильдия актеров экрана – Американская федерация телевидения и радио (SAG-AFTRA) боролась за защиту прав своих членов в 2023 году, она в конечном итоге смогла выиграть некоторые заметные уступки.

С тех пор было очень мало побед такого же масштаба в отношении ИИ – и битва за юридическую ясность в различных секторах только начинается. Например, большинство новых законов о глубоких подделках, в частности из Великобритании и США, включает ИИ только в более широкую категорию преступлений (таких как несовместимые изображения, реальные или фальшивые).

Горячо на пятках победы SAG-AFTRA, серия судебных дел о использовании работ других видов художников всегда находится в процессе. Тем временем многие недовольных групп, участвующих в этом, ожидают юридического подтверждения с местными правилами.

Прежде чем дальше рассматривать логику и ограничения ‘полностью недопустимого’ отношения к ИИ, давайте посмотрим на некоторые случаи, когда这种 политика осуществляется.

Запреты на ИИ с нулевой терпимостью

Примечание несогласия

Только в этом месяце Bandcamp стал первой крупной онлайн-платформой для музыки, которая полностью запретила контент, сгенерированный ИИ. Запрет был объявлен в заявлении, которое также заявило ‘Музыка и аудио, сгенерированные полностью или в значительной части ИИ, не допускаются на Bandcamp’.

Это ограничение, как и в几乎 всех случаях, вынуждено делать ставку на ‘миазму’ эффект широко распространенных систем ИИ. В другой части объявления говорится, что музыка, которая ‘кажется сделанной полностью или с сильной зависимостью от генеративного ИИ’ является целью запрета – прагматичное ограничение, поскольку в большинстве доменов хотя бы некоторый контент, сгенерированный ИИ, способен казаться полностью сделанным человеком, как для людей, так и для постоянно развивающегося сектора обнаружения ИИ.

Эффективно, это шаблон для большинства новых политик ‘нулевой терпимости’, которые вступают в силу: что незнание ИИ является оправданием, в этих сложных обстоятельствах.

После инцидента, когда музыкальный трек, сгенерированный ИИ, штурмовал шведские чарты, IFPI Sweden, шведская национальная музыкальная организация, запретила музыку, сгенерированную ИИ, от включения в чарты – хотя с обычным оговорком, заявив ‘Наше правило заключается в том, что если это песня, которая в основном сгенерирована ИИ, она не имеет права быть в топ-листе’.

Снова, желание полного запрета на ИИ признается недопустимым; запрет является тактическим и полным, но реализация фактически невозможна.

Комический эффект

Волна запретов на контент, сгенерированный ИИ, пронеслась через сцену комиксов в США и за рубежом за последний год. San Diego Comic-Con, который в 2024 году ввел коммерческие ограничения на искусство, сгенерированное ИИ, объявил в этом месяце, что он запретил контент, сгенерированный ИИ, якобы в ответ на протест художников.

Аналогично, в октябре прошлого года New York Comic-Con ввел полный запрет на продажу продуктов или контента, сгенерированного ИИ, с официальным сайтом заявившим:

‘Продукт, материал или контент, созданный полностью или в значительной части с помощью генеративных инструментов ИИ или алгоритмов (“сгенерированный ИИ”) или включающий элементы, сгенерированные ИИ, включая, но не ограничиваясь, визуальное искусство, изображения или графику, анимацию и/или материалы, запрещены для продажи на New York Comic Con.’

Опять же, мы видим, что в ‘значительной части’ формулировка должна признать трудность определения полного творческого происхождения любой работы, в эти дни. Это отражает первоначальный запрет San Diego на коммерциализацию выходных данных ИИ, а не его последующий полный запрет на контент, сгенерированный ИИ. Тем не менее, этот подход является довольно эффективным ‘де-платформированием’ контента, сгенерированного ИИ, в большинстве случаев (хотя такая работа все еще может быть использована в качестве корма для коммерциализированных платформ).

Дальше, FanX Salt Lake комик-конвенция ввела более решительный запрет на контент, сгенерированный ИИ, в сентябре прошлого года, с основателем и продюсером Дэном Фарром, комментирующим:

‘Если клиенты приходят и покупают произведение искусства и не понимают, что генеративный ИИ был использован для его создания, они могут заплатить много денег за него, не осознавая, что это нечто не совсем ценное.’

Анти-социальный

Многие онлайн-сообщества также приняли нулевую терпимость к контенту, сгенерированному ИИ. Действительно, это один из наиболее публичных аспектов недопустимости ИИ, и это было все чаще запретов, которые привлекли мое внимание к этой теме:

Типичный анти-ИИ эдикт от Facebook. Источник

Reddit был особенно затронут, с модераторами различных крупных subredditов, часто запрещающих все созданные ИИ изображения, искусство или текстовые формы (такие как художественная литература и программирование), как только такие посты начали наводнять их форумы и перегружать ограниченные человеческие ресурсы модерации.

Очень ранний пример, из 2022 года, был subreddit r/Dune, где около 250 000 фанатов проголосовали за полный запрет на искусство, сгенерированное ИИ, после того, как были наводнены ИИ-созданными картинками. Модераторы подсайта отметили в то время:

‘Мы признаем, что многие из этих произведений интересны, и технология действительно fascinates, но это технически квалифицируется как контент с низкими усилиями – особенно по сравнению с оригинальным, «сделанным человеком» искусством, которое мы хотим уделять приоритетное внимание в будущем.’

С тех пор многие subreddit (от r/lego до r/DataHoarder) аналогично объявили, что любой контент, даже частично сделанный ИИ, будет удален при обнаружении – по крайней мере, где распознаваемо.

Аналогичные запреты появляются часто на Facebook. Однако, поскольку Meta, родительская компания Facebook, является одним из мировых пионеров разработки ИИ, в то время как Reddit является жарко обсуждаемым и востребованным источником постоянных человеческих данных, эти запреты, как правило, вызывают меньше противоречий.

Неожиданно, Meta требует некоторого времени, чтобы догнать общее общественное мнение по поводу ИИ – год назад, например, компания отступила от эксперимента с агентами ИИ, публикующими в различных временных шкалах, из-за негативных реакций пользователей.

Запреты на эксфильтрацию ChatGPT

Одна особая категория ‘абсолютных’ запретов на ИИ – это частый запрет на использование ChatGPT в корпоративной или чувствительной среде (и в этом смысле, то же самое применяется к любому облачному, доступному через API языковому модели, такому как Claude или Gemini).

Однако эти запреты, как правило, вызваны не либеральными проблемами вокруг эксплуатации обучающих данных, а страхами того, что OpenAI может хранить, обрабатывать или даже эксплуатировать конфиденциальную компанию IP, раскрытую во время клиентских чатов.

Хотя юридические отделы могут поддерживать или даже инициировать корпоративные запреты на платформы типа ChatGPT, они также, вероятно, будут учитывать, может ли использование открытых веб-данных для обучения коммерческих систем подвергнуть компанию или ее клиентов будущим обязательствам – особенно если продолжающиеся судебные иски против OpenAI или аналогичных сущностей приведут к значительным приговорам.

Примеры запретов на ChatGPT^† включают волну реактивных запретов в 2023 году от Apple, Amazon, Spotify и Wells Fargo, среди многих других. В том же году исследование Cisco показало, что 27% опрошенных организаций ввели аналогичные запреты – не на ChatGPT конкретно, а на использование генеративного ИИ в целом.

В 2024 году еще одно исследование показало, что 65% из 20 лучших фармацевтических компаний запретили своим сотрудникам использовать ChatGPT.

Ясно, что многие, если не все компании, отмеченные здесь, вероятно, будут стремиться извлечь выгоду из ИИ способами, которые лучше соответствуют их интересам; и что многие, вероятно, будут поддерживать или разрабатывать другие продукты ИИ для внутреннего использования – или даже коммерческие API-продукты с лучшей защитой IP, чем может предложить OpenAI.

Многие правительства, которые являются крупными сторонниками ИИ, также запрещают ChatGPT. Хотя некоторые из них, такие как Куба и Северная Корея, являются очевидными кандидатами на этот тип запрета, Китай, в настоящее время считающийся лидером ИИ-революции, запрещает ChatGPT на государственном уровне – предположительно в пользу отечественных альтернатив.

Вывод: о нулевой терпимости

Одна из проблем, связанных с любой тенденцией к ‘абсолютным’ запретам на ИИ (помимо проблемы определения контента ИИ), заключается в том, является ли неуклонный запрет действительно эффективным. На самом деле, легко неправильно понять, что такое ‘нулевая терпимость’; что она может достичь; и те довольно ограниченные обстоятельства, в которых она может достичь своих целей.

Например, Нью-Йорк, возможно, наиболее тесно связанный с термином ‘нулевая терпимость’, смог восстать из своего преступного дна в 1970-х и 1980-х годах благодаря постепенному и постоянному применению ‘сломанной окон‘ психологической теории, которая утверждает, что независимо от того, насколько беден или богат район, присутствие хотя бы одного сломанного окна склонно привести к дополнительным сломанным окнам – и к последующему эскалации других, более серьезных преступлений, поскольку постоянное присутствие первоначального сломанного окна предполагает, что власти либо не смотрят, либо не заботятся.

Следовательно, ‘нулевая терпимость’ к ‘семенной’ преступности сломанного окна, как полагают, имеет положительные последствия, поскольку эта ‘криминальная энтропия’ никогда не может получить опору; таким образом, обращаясь к мелочам (таким как мусор и сломанные окна, которые не являются дорогими проблемами для решения), более крупные вещи (которые стоили бы дороже для решения) сами собой решаются.

Однако, проводимая, эта теория (иногда критикующаяся как расистская) может звучать как крайний авторитаризм или даже фашизм:

Нажмите, чтобы воспроизвести. Из единственного учебного фильма, который когда-либо делал Джон Форд, ‘OSS – Undercover Training’, пример, казалось бы, одержимой нулевой терпимости в контексте фальшивой культуры оси Второй мировой войны. Источник

Вместо этого ‘нулевая терпимость’ часто ассоциируется в общественном сознании со ‘строгими, но необходимыми’ действиями, такими как непреклонные законы, которые большинство стран имеют в отношении наказаний за вред несовершеннолетним – т.е. ясные правила для общественного блага, овеществленные в наказывающие законы, которые вдохновляют мало дебатов или компромиссов.

На самом деле, ЗТ была разработана для достижения городского обновления с ограниченным бюджетом, предполагая больше ресурсов в публичной арене, чем на самом деле существует за кулисами; не особенно применимый случай для возвращения джинна ИИ в бутылку.

И на практике генеративный ИИ уже так повсеместен, что ваш, казалось бы, свободный от ИИ контент может уже обязан чему-то ИИ – даже если это кодек, улучшенный ИИ в (не фальшивом) видео, которое вы сделали, отправили на YouTube и опубликовали на вашем любимом социальном канале. Если ИИ действительно становится похожим на культурный ‘газ’, он, кажется, готов противостоять ясным границам или бинарным решениям, таким как ‘запрет на ИИ’.

*Мое подчеркивание.

^† Который мы можем считать представительным для этого класса ЛЛМ, а не эксклюзивной продукцией, в этом смысле.

Опубликовано впервые в четверг, 29 января 2026 года.