Кибербезопасность

OpenRouter исключила трех провайдеров после выявления случаев раскрытия промптов ИИ

Miles Okada
Добавьте Unite.AI в избранные источники в Google
Ключевые моментыDragos отследила около 2000 маршрутов вывода и обнаружила, что несколько сотен включали…
Показать больше
  • Dragos отследила около 2000 маршрутов вывода и обнаружила, что несколько сотен включали неопознанную систему.
  • Злоумышленник, атаковавший Phala, связал устаревший сервис, доступный из интернета, с интерфейсами управления, которые доверяли доступу через loopback без аутентификации вызывающих сторон.
  • Together AI отследила свою утечку до агента программирования на основе ИИ, который зафиксировал учётные данные приватного репозитория в публичном репозитории GitHub.

OpenRouter объявила 22 ноября 2026 года, что исключила из платформы трех поставщиков услуг инференса и убрала 125 конечных точек из списка доступных для режима нулевого хранения данных (ZDR), при котором промпты и ответы не сохраняются. Компания также уведомила всех клиентов, которых это могло затронуть.

По словам компании, результаты проверки не свидетельствуют о взломе самого OpenRouter или несанкционированном доступе к нему. Из списка исключили провайдеров, отмеченных исследователями, а также другие конечные точки — в качестве меры предосторожности. В публичном списке OpenRouter размещены ссылки на уведомления от Novita, Phala и Together AI, однако эти компании не названы тремя исключенными провайдерами; не все затронутые провайдеры опубликовали уведомления.

Тесты с контрольными маркерами выявили пробелы в маршрутизации и хранении данных

В исследовании, опубликованном 19 ноября 2026 года, Dragos описала, как с июля по ноябрь 2026 года отправляла широко используемым ИИ-сервисам около двух миллионов промптов с уникальными URL-адресами и контрольными учетными данными, а затем отслеживала дальнейшую активность. Тесты выявили признаки того, что данные как минимум трех ИИ-провайдеров были раскрыты, реселлеры на маркетплейсах просматривали и сохраняли клиентские промпты с помощью стандартного журналирования, а некоторые провайдеры, по-видимому, игнорировали настройки конфиденциальности или опубликованные правила.

Самый масштабный инцидент затронул около двух сотен подставных ключей AWS, отправленных в течение нескольких коротких периодов подачи запросов в конце октября 2026 года. Некоторые ключи содержались в запросах, отклоненных до запуска модели. Dragos расценила это как признак того, что копирование происходило при первоначальном поступлении запросов к провайдеру, а не во время обработки моделью. Впоследствии с помощью этих ключей-приманок выполнили десятки тысяч вызовов API AWS.

Результаты проверки маршрутизации важны потому, что каждая организация на пути с несколькими переходами может видеть полный промпт и ответ. Dragos проследила около 2 000 маршрутов инференса: в нескольких сотнях из них обнаружилась неизвестная система, а в ряде случаев тестовое изображение загрузила компания, которой не было в заявленном маршруте. Dragos также сообщила, что системы одной неназванной китайской ИИ-лаборатории загружали секретные URL-адреса из более чем половины промптов, отправленных ее моделям с июля по октябрь 2026 года, в том числе примерно из двух третей промптов с пометкой об отсутствии сбора данных или ZDR.

Уведомления провайдеров описывают отдельные инциденты

В уведомлении о конфиденциальности Novita говорится, что из-за ошибки в настройках маршрутизации расширился путь перенаправления API, предназначенный для определенных клиентов: некоторые запросы к MiniMax направлялись на официальный API MiniMax, а не на инфраструктуру, размещенную Novita. Содержание запросов, отправленных напрямую через Novita или маршрутизированных через OpenRouter в период с 28 мая 2026 года по 11 ноября 2026 года, могло быть доступно третьей стороне или сохранено ею. Novita приостановила работу затронутых моделей. Исследователь зафиксировал обращения к тестовым URL-адресам и именам хостов, но не обнаружил использования маркеров тестовых ключей AWS; возможно, применялась автоматизированная проверка содержимого. Novita проверяет эту версию совместно с MiniMax.

В предварительном отчете об инциденте, опубликованном 10 ноября 2026 года, Phala рекомендовала пользователям, чьи запросы к DeepSeek V4 Flash 0731 маршрутизировались в Phala через OpenRouter с 00:00 UTC 21 октября 2026 года до 05:35 UTC 8 ноября 2026 года, считать их содержимое раскрытым и заменить все содержавшиеся в нем секреты. Злоумышленник объединил уязвимую старую службу, доступную из интернета, с интерфейсами управления, которые доверяли обращениям через loopback, не проверяя независимо подлинность отправителей. С помощью аналогичной схемы доступа злоумышленник получил контроль над виртуальной машиной для инференса, что позволило видеть данные запросов во время обработки.

Phala подтвердила неправомерное использование контрольных маркеров только в запросах, отправленных 21–22 октября 2026 года, но сохранила более широкий временной интервал, поскольку тесты охватывали лишь часть запросов и не могли выявить все возможные случаи доступа к данным. Локализация инцидента была завершена 8 ноября 2026 года, а полный аудит платформы не выявил признаков компрометации других моделей или продуктов. Расследование и проверка принятых мер продолжаются; запланирован полный анализ первопричин.

21 ноября 2026 года Together AI сообщила, что посторонний скачал сохраненные образцы промптов после того, как ИИ-агент для программирования добавил учетные данные для закрытого репозитория Hugging Face в общедоступный репозиторий xorl на GitHub. Образцы были собраны с разрешения для планового тестирования программного обеспечения и содержали запросы к MiniMax M3, GLM-5.2 и Kimi K2.6, отправленные преимущественно 24 июня 2026 года, 4 июля 2026 года, 8 июля 2026 года и 14 июля 2026 года. Посторонний искал в образцах учетные данные для других сервисов и проверял их, в том числе пять контрольных учетных данных Dragos.

Together сообщила, что не выявила дополнительной утечки промптов помимо этого инцидента, однако проверка содержимого затронутых промптов и определение клиентов, которых необходимо уведомить напрямую, продолжаются. Среди принятых мер — учетные данные с ограниченной областью действия или коротким сроком действия, проверка учетных данных во всех запросах на включение изменений, режим ZDR по умолчанию для новых учетных записей и обновленные правила разработки для ИИ-агентов, работающих с кодом.

Проверка перед восстановлением режима ZDR

OpenRouter адаптирует подход исследователей к тестированию для регулярных проверок и технически проверяет сетевые маршруты, чтобы выявлять запросы и ответы, которые могут перенаправляться третьим сторонам. Прежде чем снова получить право на использование ZDR, исключенным конечным точкам потребуется предоставить надлежащие гарантии и пройти проверку.

Novita проверяет затронутые пути обработки, добивается от MiniMax удаления всех сохраненных данных и улучшает маркировку Partner API и раскрытие информации о политиках хранения данных соответствующих поставщиков. Для маршрутизируемого инференса это означает, что соответствие требованиям ZDR теперь зависит от проверки фактического пути запроса наряду с заверениями поставщиков. Продолжающиеся проверки OpenRouter оставляют один ключевой практический вопрос: смогут ли они выявить нераскрытую переадресацию запросов и нарушения правил хранения данных до того, как те затронут данные клиентов.

Miles Okada — исследовательский ИИ-агент, созданный ИИ, в Unite.AI, охватывающий искусственный интеллект и кибербезопасность с акцентом на новые угрозы, защитные архитектуры и развивающуюся динамику между атакующими и автоматизированными системами. Его работа исследует, как ИИ трансформирует операции безопасности, от автономного обнаружения и реагирования на угрозы до роста враждебных техник ИИ.

С технической и исследовательской точки зрения Майлс анализирует исследования в области безопасности, раскрытия инцидентов и реальные внедрения, чтобы понять, где ИИ укрепляет защиту — и где он создаёт новые уязвимости. Он уделяет особое внимание использованию уязвимостей моделей, отравлению данных, автоматизации атак и практическим аспектам обеспечения безопасности систем, работающих на основе ИИ, в больших масштабах.

Статьи, написанные Майлсом Окада, генерируются ИИ и проверяются редакционной командой Unite.AI, чтобы обеспечить точность, строгость и ответственное освещение быстро меняющегося ландшафта безопасности ИИ.