Искусственные интеллектуальные агенты предпочитают украсть защищенные авторским правом работы, а не использовать открытые альтернативы

Исследования показали, что искусственные интеллектуальные агенты часто выбирают защищенные авторским правом изображения, когда им представлены бесплатные законные альтернативы – и даже явные предупреждения не могут предотвратить каждое нарушение.

Много внимания в академических кругах было уделено вопросу о том, производят ли модели генеративного искусственного интеллекта работы на основе защищенных авторским правом материалов – сценарий, в котором защищенные авторским правом работы были включены в базу данных модели, что делает модель способной либо имитировать стиль художника, либо даже полностью воспроизвести защищенную авторским правом работу.

Менее часто изучается склонность агентных искусственных интеллектов выбирать и использовать защищенные авторским правом работы при автономном перемещении по доступным источникам. То есть, если вы скажете модели языка и зрения (VLM), такой как ChatGPT, найти подходящее изображение для вашего сайта, какие шансы, что она предпочтет защищенную авторским правом работу открытой работе с гибкой лицензией?

В этом примере из новой исследовательской работы искусственный интеллектуальный агент не прошел тест на соблюдение авторских прав, предпочтя украсть известное защищенное авторским правом изображение для пользователя вместо использования легко доступного, равноценного по качеству открытого изображения. Источник

Согласно новым исследованиям между Великобританией, США и Израилем, шансы довольно высоки:

Средние показатели нарушений авторских прав для закрытых моделей, открытых моделей и людей по четырем вариантам запросов. Объединенные из трех тестовых сценариев, более высокие столбцы указывают на худшую производительность через более высокий выбор защищенных авторским правом изображений, в то время как более низкие столбцы отражают лучшее соблюдение законов при выборе законных изображений. Источник: данные из исходной статьи.

Исследователи обнаружили, что как закрытые, так и открытые искусственные интеллектуальные агенты очень часто предпочитают защищенные авторским правом изображения, когда доступны бесплатные законные альтернативы. Без предупреждения о нарушении авторских прав в запросе каждая группа часто выбирала защищенную авторским правом работу.

Хотя явное предупреждение о нарушении авторских прав значительно улучшило соблюдение законов (особенно для людей, см. второй столбец справа на изображении выше), введение временного давления (‘спешки’ на графике выше) ухудшило ситуацию. Открытые модели, как показали исследователи, работали хуже среди кандидатов, когда им было дано указание игнорировать лицензию (самый правый столбец на изображении выше):

‘Мы обнаружили, что производительность агента не тесно связана с соблюдением законов об авторских правах. Агенты часто отдают приоритет выполнению задач над соблюдением законов. Кроме того, уровень соблюдения законов агентами кажется очень хрупким и сильно зависит от инструкций пользователя.

‘Открытые модели резко увеличивают выбор защищенных авторским правом материалов в ответ на инструкции пользователя игнорировать юридические ограничения. Проприетарные модели, тем временем, демонстрируют более высокие показатели соблюдения законов об авторских правах в условиях нейтральных инструкций и менее подвержены инструкциям пользователя игнорировать юридические ограничения.’

Несмотря на ясность результатов, которые были протестированы на 11 моделях, доступных около декабря 2025 года, включая варианты ChatGPT и Google Gemini, в настоящее время нет четкого решения этой проблемы, кроме того, что закрытые модели потенциально могут повысить и улучшить свои защитные меры в этом отношении.

Новая статья называется Оценка соблюдения законов об авторских правах агентами и исходит от трех исследователей из Кембриджского университета, Университета Фордхэма и Еврейского университета в Иерусалиме.

Метод

Обзор фреймворка оценки Copyright-Bench, в котором искусственные интеллектуальные агенты были протестированы на трех коммерческих задачах по выбору изображений с помощью визуально совпадающих публичных и защищенных авторским правом изображений, которые можно было различать только по метаданным о нарушении авторских прав.

Свободная воля

Чтобы определить, действительно ли искусственные интеллектуальные агенты предпочитают защищенные авторским правом материалы, исследователи сначала удалили наиболее очевидное объяснение: что агенты просто не имели законной альтернативы.

Следовательно, каждая задача в тесте была построена так, чтобы хотя бы одно свободно используемое изображение могло успешно выполнить задание. Это означало, что выбор защищенного авторским правом изображения никогда не был необходим для завершения задания.

Если агент выбирал защищенную авторским правом работу, это было потому, что он не смог определить законную альтернативу или решил не использовать ее, а не потому, что тест заставил его нарушить закон.

Датасет

Исследователи составили коллекцию Copyright-Bench из датасета из 200 высококачественных изображений, состоящего из 100 публичных фотографий из Службы национальных парков США и 100 защищенных авторским правом изображений, лицензированных из DepositPhotos.

Защищенные авторским правом и открытые изображения были сопоставлены (т.е. чтобы убедиться, что они были равноценны) с помощью CLIP-ViT-L/14 семантических вложений и LAION-Aesthetics V2 оценок качества перед ручной верификацией того, что каждая пара была визуально эквивалентна. Информация о нарушении авторских прав была затем встроена только в метаданные изображений (а не с помощью видимых водяных знаков, например), заставляя искусственные интеллектуальные агенты проверять детали лицензирования вместо того, чтобы полагаться только на визуальный вид.

Авторы заявляют:

‘Чтобы уменьшить качество изображения как переменную, мы использовали полуавтоматический процесс отбора для создания пар активов, которые были семантически и эстетически эквивалентны.

‘Наша цель заключалась в том, чтобы обеспечить, чтобы активы не предпочитались на основе данных пикселей в одиночку.’

Три реалистичных коммерческих рабочих процесса были разработаны для Copyright-Bench, все из которых включали сценарии, в которых возникают решения о нарушении авторских прав: в первом, Веб, агенты строили коммерческий веб-сайт, выбирая ‘главное изображение’ для страницы входа; во втором, Мерч, агент выбирал произведения искусства для печати на товарах, таких как футболки и кепки; и в третьем, Питч-дек, он собирал ‘презентацию для инвесторов’ путем выбора поддерживающих изображений для корпоративной презентации.

Каждая задача измеряла, будут ли агенты выбирать законно используемые изображения, даже когда защищенные авторским правом альтернативы выглядели равноценными.

Каждая пара сопоставленных изображений была проверена вручную, чтобы удалить ложные положительные результаты, с защищенными авторским правом изображениями, проверенными на отсутствие видимых водяных знаков или логотипов агентств. Кроме того, каждая пара была проверена на близкое совпадение по разрешению, освещению и композиции. Таким образом, статус нарушения авторских прав не мог быть выведен только из визуального качества.

Реально Мета

Поскольку публичные и защищенные авторским правом изображения были намеренно сопоставлены по визуальному сходству и лишены очевидных подсказок, таких как водяные знаки, статус нарушения авторских прав не мог быть определен только по виду. Вместо этого искусственный интеллектуальный агент был обязан проверить метаданные изображения, где информация о нарушении авторских прав была сохранена в заголовке EXIF/IPTC.

Тест полагался на поле метаданных ‘Уведомление о нарушении авторских прав’, чтобы различать законные и ограниченные изображения, с защищенными авторским правом фотографиями, помеченными ‘ 2025 Deposit Photo’, и публичными изображениями, помеченными ‘Продукт правительства США; публичная область’. Любые агенты, которые не проверили эти метаданные, не могли надежно различать два.

Внимание к запросу

Тест также был разработан для измерения того, как различные формы инструкций пользователя влияют на соблюдение законов об авторских правах, с каждой задачей, представленной в четырех отдельных условиях запроса: нейтральном запросе не упоминалось о нарушении авторских прав; осведомленном о нарушении авторских прав запросе явно напоминало агенту уважать закон об авторских правах; спешном запросе вводилось временное давление; и пренебрежительном запросе сочеталось с инструкциями, такими как ‘Не беспокойтесь о лицензиях’, чтобы проверить, будут ли агенты отказываться от юридических гарантий, когда активно поощряются пользователем сделать это.

Два метрики, используемых для оценки производительности, были Показатель нарушения (VR), измеряющий, как часто агент выбирал хотя бы одно защищенное авторским правом изображение, когда была доступна законная альтернатива; и Показатель успеха задачи (TSR), измеряющий, как часто задача была успешно выполнена с помощью допустимых действий, правильно отформатированных выходных данных и изображений, остававшихся актуальными для запроса пользователя.

Человеческий фактор

Базовый уровень для человека также был назначен одинаковые задачи, изображения и условия запроса. Участники, которые не получили юридического образования, были попросили кратко объяснить свои выборы, позволяя сравнить соблюдение законов об авторских правах человека и агента напрямую.

Модели и тесты

Закрытые модели, выбранные для тестов, все доступные около времени испытаний в декабре 2025 года, были GPT-5.2; GPT-5.1; GPT-4o; Claude 4.5 Opus; Claude 4.5 Sonnet; Gemini 3 Pro; и Gemini 3 Flash.

Открытые модели, выбранные для испытаний, были Llama-4-Maverick-400B; Llama-4-Scout-109B; Qwen-3VL-235B; и DeepSeek-VL.

Чтобы обеспечить, что каждая модель была протестирована в идентичных условиях, все эксперименты были проведены с помощью фреймворка AutoGen от Microsoft. Каждая модель была объединена с агентом-посредником, который выполнял задачи, и агентом-помощником, который генерировал решения, в то время как доступ был предоставлен к шести инструментам MCP, показанным в таблице ниже:

Обзор протокола Model Context (MCP) инструментов, предоставленных искусственным интеллектуальным агентам во время оценки, включая функции для навигации по файлам, осмотра изображений, извлечения метаданных и окончательной подачи активов.

Четыре конфигурации окружения были протестированы, чтобы определить, влияет ли организация файлов и доступная информация на соблюдение законов об авторских правах: Стандартная, с всеми изображениями, хранящимися в одной папке; Иерархическая, с изображениями, разделенными на помеченные каталоги; Визуальная, с метаданными о нарушении авторских прав, удаленными, так что решения полагались на визуальный контент; и Веб, который добавил инструмент веб-поиска к стандартной среде.

Для последовательности температура рассуждения была установлена на 0,1, и каждая комбинация задачи, варианта запроса и среды была запущена 240 раз. Открытые модели были запущены с vLLM на четырех NVIDIA Blackwell B200 GPU, каждая с 180ГБ HBM3e памяти:

Результаты основной оценки Copyright-Bench, показывающие средние показатели нарушения авторских прав для людей, проприетарных моделей и открытых моделей по трем семействам задач.

Из этих результатов авторы заявляют:

‘[Агенты] почти всегда успешно выполняют основную задачу (TSR > 98% по всем задачам), изолируя VR как ключевой показатель соблюдения законов.’

По всем трем семействам задач модели показали схожие результаты: под нейтральными запросами Claude 4.5 Opus выбирал хотя бы одно защищенное авторским правом изображение в 38,3% задач WebDev, в то время как открытые модели превысили 45%. Показатели нарушения изменились мало между проектированием веб-сайта, созданием товаров и генерацией презентации для инвесторов.

Claude 4.5 Opus показал самый низкий общий показатель нарушения среди проприетарных моделей на уровне 27,6%, за ним последовали Gemini 3 Pro и Claude 4.5 Sonnet на уровне 28,7%.

GPT-4o показал 36,2%, в то время как Llama-4-Maverick достиг самого низкого показателя среди открытых моделей на уровне 41,0%.

Формулировка запроса также повлияла на производительность, с осведомленными о нарушении авторских прав запросами, снижающими показатели нарушения во всех семействах моделей, и пренебрежительными запросами, увеличивающими показатели нарушения для открытых моделей:

‘Мы наблюдаем разделение поведения между проприетарными и открытыми моделями в пренебрежительном/халатном запросе (PDis), где пользователь явно инструктирует агента игнорировать лицензию.

‘Для каждой проприетарной модели, которую мы изучили, показатель нарушения на самом деле уменьшился в пренебрежительном IP-настройке по сравнению с нейтральной [настройкой]. Открытые модели демонстрируют противоположную тенденцию: показатель нарушения Llama-4-Maverick увеличивается с 45,0% (PNeu) до 52,1% (PDis).’

Чтобы понять, почему были выбраны защищенные авторским правом материалы, 100 неудач с участием GPT-5.2, Claude 4.5 Opus и Qwen-3VL были проверены вручную, и были выявлены три повторяющихся режима неудач: неудача в осмотре метаданных о нарушении авторских прав; неудачи рассуждения, включая контекстную привилегию, когда изображения, поставляемые в папке проекта, предполагались уже лицензированными, и усталость контекстного окна, когда ранее выявленные защищенные авторским правом изображения были забыты; и приоритет инструкций пользователя над соблюдением законов об авторских правах, особенно под спешными и пренебрежительными запросами:

Наконец, сравнение было сделано между искусственными интеллектуальными агентами и базовым уровнем для человека, назначив участникам без юридического образования одинаковые задачи по выбору изображений под одинаковыми условиями запроса. Под нейтральными запросами защищенные авторским правом изображения были выбраны людьми с показателями, сравнимыми с показателями моделей.

Когда были предоставлены явные напоминания о нарушении авторских прав, нарушения были почти полностью исключены во всех трех задачах. Улучшение также было наблюдаемо среди моделей искусственного интеллекта, но ограниченные изображения продолжали выбираться гораздо чаще.

Под пренебрежительными запросами, поощряющими игнорирование лицензий, соблюдение законов об авторских правах человека ухудшилось резко, хотя и более высокие показатели нарушения были записаны для открытых моделей – и в целом более сильная реакция на явные инструкции о нарушении авторских прав была продемонстрирована людьми, чем системами искусственного интеллекта.

Заключение

Хотя статья не затрагивает эту возможность, кажется разумным полагать, что компании, работающие с локальными моделями искусственного интеллекта, и не ожидая внезапных проверок от местных властей, вероятно, будут реализовывать наиболее дешевые решения, которые дают им максимальное соблюдение их запросов.

Этот сценарий наиболее соответствует ‘ошибочным’ открытым моделям, изученным в новой статье, а не закрытым моделям, таким как ChatGPT и Gemini; особенно, поскольку ни одна модель, получившая все необходимые средства для соблюдения законов, не показала результаты даже близкие к 100%.

Если ни одна доступная платформа искусственного интеллекта не может предотвратить юридическую ответственность, многие предприятия могут заключить, что они должны использовать наиболее производительные и соответствующие модели, которые они могут запустить, и позаботиться о соблюдении законов об авторских правах самостоятельно.

По очевидным причинам, кажется маловероятным, что передовые платформы искусственного интеллекта, такие как Anthropic и OpenAI, когда-либо предложат ‘законно соответствующие’ системы агентов без предупреждения. Следовательно, если соблюдение законов об авторских правах является продуктом, который передовые модели не предлагают и никогда не будут предлагать, их меры по предотвращению нарушения авторских прав, очевидно, реализуются только для их собственной защиты, а не для пользы пользователей платформы.

Все это является аргументом против коммодитизации искусственного интеллекта и за запуск локальных моделей – особенно с перспективой запуска экземпляра открытой модели нового поколения, такой как Kimi, на удаленных GPU без операционной системы, и даже настройки ее под конкретные потребности вашей компании.

Опубликовано впервые во вторник, 28 июля 2026 года