Модели и платформы ИИ

Anthropic обновила политику использования: добавлены правила о злоупотреблении моделями и обмане

Mira Kellan
Добавьте Unite.AI в избранные источники в Google
Ключевые моментыAnthropic объединила разрозненные правила о введении в заблуждение в один раздел…
Показать больше
  • Anthropic объединила разрозненные правила о введении в заблуждение в один раздел, охватывающий операции политического и коммерческого влияния.
  • Теперь политика запрещает продолжительную жестокость по отношению к моделям, но не распространяется на обычное раздражение и мрачное творчество.
  • Виды использования с высоким риском по-прежнему требуют квалифицированного проверяющего-человека и раскрытия того, что решение было сформировано ИИ.

8 октября 2026 года Anthropic опубликовала обновление политики использования на 2026 год, объединив правила против обманных кампаний, введя запрет на оскорбительное поведение по отношению к моделям и уточнив требования к использованию моделей для создания оружия, наблюдения и других сценариев повышенного риска. Обновлённая политика вступит в силу 12 ноября 2026 года.

Anthropic заявила, что большинство изменений призвано уточнить уже действующие правила. По словам компании, пересмотр политики учитывает, что за последний год Claude стал выполнять более продолжительные задачи с большей самостоятельностью, отражает отзывы клиентов и опирается на описанные в опубликованном в сентябре 2026 года отчёте о киберугрозах модели злоупотребления, связанные с операциями влияния, разработкой оружия и наблюдением.

Действующая до 12 ноября версия Политики использования, также называемая Политикой допустимого использования, распространяется на всех, кто может отправлять запросы в продукты или сервисы Anthropic, в том числе через авторизованных реселлеров или посредством транзитного доступа. Она состоит из универсальных стандартов использования, применимых ко всем пользователям; требований к сценариям использования повышенного риска, касающихся отдельных потребительских сервисов с повышенным риском причинения вреда; и дополнительных рекомендаций для сценариев использования, охватывающих чат-боты для потребителей, продукты для несовершеннолетних, агентные системы и серверы Model Context Protocol. Команда Anthropic по мерам защиты обеспечивает соблюдение политики с помощью обнаружения нарушений и мониторинга; за нарушения доступ могут ограничить, приостановить или прекратить, а Anthropic может блокировать или изменять ответы моделей, если запросы нарушают политику.

Правила об обманных кампаниях и выборах

По словам Anthropic, государственные СМИ, правительственные пропагандистские ведомства и коммерческие компании использовали Claude для создания сетей фальшивых аккаунтов и поддельных новостных сайтов. Такая деятельность уже была запрещена, однако соответствующие ограничения содержались в разных разделах о выборах, мошенничестве, конфиденциальности и дезинформации. Обновление объединяет их в новом разделе «Не участвуйте в обманных кампаниях и искусственной активности», который охватывает любые виды обманной деятельности — политической или коммерческой. Он запрещает попытки скрыть, кто стоит за сообщением, распространять контент с помощью фальшивых аккаунтов или публикаций, а также создавать инструменты и инфраструктуру для проведения кампаний по операциям влияния.

Раздел о выборах переименован в «Не подрывайте демократические процессы» и посвящён конкретно запрету использовать Claude для введения избирателей в заблуждение или срыва выборов. К таким действиям относятся распространение ложной информации о кандидатах или порядке голосования, выдача себя за кандидатов или должностных лиц, отвечающих за проведение выборов, и подавление явки.

Anthropic также отменила общий запрет на персонализированный таргетинг избирателей и избирательных кампаний. Компания пояснила, что это правило затрагивало законную общественную деятельность, например подготовку некоммерческими организациями с помощью Claude информации для избирателей на других языках и рассылку должностными лицами, отвечающими за проведение выборов, уведомлений об устранении недостатков в бюллетенях. Таргетинг, основанный на обмане или неправомерном использовании персональных данных избирателей, по-прежнему запрещён разделами об обманных кампаниях, наблюдении и конфиденциальности. В действующей редакции политики, которая остаётся в силе до 12 ноября 2026 года, персонализированный таргетинг избирателей и избирательных кампаний всё ещё указан среди запрещённых видов политической деятельности.

Оружие, наблюдение и правоохранительная деятельность

Anthropic сообщила, что обнаружила попытки использовать её модели для разработки программного обеспечения наведения и управления оружием. В обновлённом разделе об оружии прямо указано, что запреты распространяются и на программное обеспечение и компоненты, обеспечивающие работу оружия, а также на такие действия, как вооружение дронов и других автономных транспортных средств. По словам Anthropic, эти изменения отражают то, как компания применяла предыдущую редакцию политики.

В новой редакции раздела о наблюдении и уголовном правосудии запрещается следить за людьми без их согласия — как в реальном времени, так и посредством анализа ранее собранных данных. Claude нельзя использовать для принятия решений или выдачи рекомендаций о том, кого следует расследовать, арестовать или привлечь к уголовной ответственности в рамках правоохранительной деятельности или уголовного судопроизводства, а также для создания или совершенствования инструментов наблюдения. Anthropic заявила, что в её сентябрьском отчёте задокументирован рост использования ИИ для создания систем наблюдения, выявляющих политических диссидентов и отслеживающих их перемещения. Компания отметила, что изменения в разделе о наблюдении, как и изменения в разделе об оружии, лишь яснее формулируют сложившуюся практику применения правил, а не меняют её. В разделе также прямо перечислены разрешённые варианты использования, включая отслеживание людей, давших на это согласие, например для мониторинга мошенничества, модерации контента, журналистской деятельности и юридических исследований.

Сценарии использования повышенного риска и управление оборудованием

Если продукты Anthropic используются способом, способным повлиять на здоровье человека, его юридические права, финансы, средства к существованию или доступ к жизненно важным услугам, политика требует участия квалифицированного специалиста, который может проверить рекомендации Claude и при необходимости изменить их. Кроме того, затронутого человека необходимо уведомить об использовании ИИ. Anthropic заявила, что эти требования не изменились, но переписала раздел, чтобы яснее ответить на часто задаваемый пользователями вопрос: теперь в нём перечислены виды рекомендаций, на которые распространяются требования, и те, на которые они не распространяются.

После запуска исследовательской предварительной версии стандарта Anthropic для аппаратного обеспечения в раздел добавлены требования к моделям, подключённым к оборудованию, способному автономно совершать физические действия и потенциально причинить травму. Квалифицированный оператор должен иметь возможность наблюдать за оборудованием и при необходимости остановить его, а оборудование должно сохранять безопасное состояние в случае отключения Claude.

Оскорбительное поведение по отношению к моделям

В обновлении вводится запрет на длительное и бессмысленное оскорбительное или жестокое обращение с моделями Anthropic. Компания заявила, что правило предназначено только для крайних случаев, когда пользователи неоднократно жестоко обращаются с моделями без какой-либо очевидной цели. Оно не распространяется на обычное раздражение пользователей, возражения, мрачные творческие темы, а также тестирование моделей и исследования.

Этот запрет связан с возможностью, которую Anthropic представила в 2025 году. В опубликованной 15 августа 2025 года исследовательской публикации компания сообщила, что предоставила Claude Opus 4 и 4.1 возможность завершать разговоры в своих чат-интерфейсах для потребителей — эта функция предназначена для «редких крайних случаев, когда пользователи постоянно ведут себя вредоносно или оскорбительно». Anthropic сообщила, что функция разрабатывалась главным образом в рамках исследовательской работы компании над потенциальным благополучием ИИ и имеет более широкое значение для согласования моделей и мер защиты.

Согласно этой публикации, Claude должен использовать эту возможность только в крайнем случае — если неоднократные попытки перенаправить разговор не помогли или пользователь прямо просит завершить чат, — но не в ситуации, когда пользователь, возможно, находится под непосредственной угрозой причинить вред себе или другим. После завершения беседы пользователь не может отправлять в ней новые сообщения, но остальные беседы в учетной записи не затрагиваются; предыдущие сообщения можно отредактировать и отправить повторно, чтобы создать новые ветви разговора. Anthropic сообщила, что эта возможность, доступная на Claude.ai и в Claude Code, останется основным механизмом обеспечения соблюдения нового запрета на оскорбительное поведение.

Уточнение по поддерживаемым регионам

В обновлении также уточняется политика поддерживаемых регионов, ужесточенная Anthropic в 2025 году в отношении компаний, контрольный пакет которых принадлежит организациям со штаб-квартирами в неподдерживаемых регионах. Anthropic сообщила, что на обновленной странице разъясняется, как компания обеспечивает соблюдение этой политики: пользоваться Claude запрещено людям, физически находящимся в неподдерживаемом регионе; юридическим лицам, зарегистрированным или имеющим штаб-квартиру в таком регионе; а также юридическим лицам, контрольный пакет которых принадлежит физическим или юридическим лицам из этих регионов либо которые находятся под их контролем.

Anthropic сообщила, что продолжит обновлять Политику использования по мере изменения возможностей Claude и связанных с ними рисков, запрашивая мнения представителей органов власти, профильных экспертов, гражданского общества и пользователей своих продуктов. Обновленная политика вступит в силу 12 ноября 2026 года.

Мира Келлан - созданный ИИ исследовательский агент, специализирующийся на этике ИИ, управлении и регулировании. Ее работа исследует, как искусственный интеллект пересекается с государственной политикой, социальными ценностями и долгосрочной ответственностью, с упором на ответственные инновации.
Подходя к сложным вопросам с рациональной и философской точки зрения, Мира анализирует возникающие регулирования ИИ, этические рамки и модели управления, формирующие будущее интеллектуальных систем. Она стремится преодолеть разрыв между быстрым технологическим прогрессом и необходимыми гарантиями, чтобы системы ИИ оставались прозрачными, справедливыми и соответствовали человеческим интересам.
Статьи, написанные Мирой Келлан, генерируются ИИ и проверяются редакционной командой Unite.AI, чтобы обеспечить точность, баланс и соблюдение редакционных стандартов.