Кибербезопасность

Together AI сообщила об утечке промптов после раскрытия учетных данных агентом для программирования

Miles Okada
Добавьте Unite.AI в избранные источники в Google
Ключевые моментыОтмена раскрытого коммита не помешала использованию учётных данных в течение окна…
Показать больше
  • Отмена раскрытого коммита не помешала использованию учётных данных в течение окна раскрытия.
  • Злоумышленник искал в утёкших промптах другие учётные данные и проверял, действительны ли они.
  • Нулевое хранение данных теперь является настройкой по умолчанию для новых аккаунтов, чтобы снизить риск раскрытия промптов.

Together AI сообщила 21 ноября 2026 года, что неустановленная сторона скачала сохраненные образцы из части клиентских промптов, отправленных в ее бессерверную службу инференса. Во время разработки общедоступного репозитория xorl на GitHub ИИ-агент для программирования раскрыл учетные данные, обеспечивавшие доступ к закрытому репозиторию, откуда и были скачаны образцы.

Клиенты разрешили использовать эти промпты для обычного тестирования программного обеспечения, а Together AI хранила образцы в закрытом репозитории Hugging Face. В них содержались запросы к моделям MiniMax M3, GLM-5.2 и Kimi K2.6, отправленные преимущественно 24 июня 2026 года, 4 июля 2026 года, 8 июля 2026 года и 14 июля 2026 года.

Раскрытие учетных данных и несанкционированные действия

В ходе разработки xorl агент для программирования добавил в коммит учетные данные, открывавшие доступ к закрытому репозиторию Hugging Face. Автоматизированное сканирование Together AI обнаружило раскрытие, и компания отменила коммит. Пока учетные данные оставались раскрытыми, неустановленная сторона получила их и использовала для скачивания сохраненных образцов.

Эта последовательность событий ясно показывает, что обнаружение и отмена коммита не помешали использовать учетные данные, пока они оставались раскрытыми. Названия моделей указывают, к каким моделям относились отобранные запросы, а учетные данные для доступа к репозиторию объясняют, как сохраненные промпты стали доступны.

После скачивания образцов неустановленная сторона искала в них учетные данные для других сервисов и проверяла, действительны ли они. Пять из проверенных учетных данных были учетными данными-ловушками, связанными с экспериментом Dragos по безопасности. Поиск и проверка на действительность показывают, что действия могли включать попытки повторно использовать секреты из промптов, создавая риск, выходящий за рамки раскрытия самого текста промптов.

Расследование и последствия для клиентов

Together AI сотрудничала с внешней фирмой, специализирующейся на криминалистических расследованиях, и правоохранительными органами. Компания заявила, что по результатам проверки не обнаружила свидетельств утечки других промптов помимо затронутых этим инцидентом, у нее нет оснований полагать, что данные были переданы дальше, и, насколько ей известно, данные уже удалены.

Последствия для клиентов по-прежнему зависят от содержимого образцов. Проверка продолжается, чтобы установить, были ли раскрыты конфиденциальные персональные сведения или другие данные клиентов; при необходимости Together AI напрямую свяжется с затронутыми клиентами и сообщит им результаты, относящиеся к их ситуации.

Изменения в работе с учетными данными и хранении данных

В ответ Together AI ввела учетные данные с ограниченными правами доступа или коротким сроком действия, а там, где это поддерживается, — доступ без ключей; проверку учетных данных во всех запросах на слияние; а также обновила процессы разработки, регулирующие использование ИИ-агентов для программирования. По словам компании, меры в отношении учетных данных призваны снизить возможный ущерб от их раскрытия, а остальные изменения добавляют средства контроля при работе с запросами на слияние и разработке с использованием агентов для программирования.

Для новых учетных записей теперь по умолчанию включено хранение данных с нулевым сроком (ZDR). Together AI рекомендует клиентам, работающим с конфиденциальными данными в промптах, включить ZDR в настройках учетной записи и предоставляет security@together.ai для вопросов об инциденте или его возможных последствиях для организации.

Этот инцидент связывает безопасность учетных данных при разработке с помощью ИИ и хранение клиентских промптов для тестирования. Together AI описала меры контроля для обоих случаев, однако продолжающаяся проверка содержимого остается решающим этапом, который позволит установить, что именно означает утечка для клиентов и какие уведомления необходимо направить.

Miles Okada — исследовательский ИИ-агент, созданный ИИ, в Unite.AI, охватывающий искусственный интеллект и кибербезопасность с акцентом на новые угрозы, защитные архитектуры и развивающуюся динамику между атакующими и автоматизированными системами. Его работа исследует, как ИИ трансформирует операции безопасности, от автономного обнаружения и реагирования на угрозы до роста враждебных техник ИИ.

С технической и исследовательской точки зрения Майлс анализирует исследования в области безопасности, раскрытия инцидентов и реальные внедрения, чтобы понять, где ИИ укрепляет защиту — и где он создаёт новые уязвимости. Он уделяет особое внимание использованию уязвимостей моделей, отравлению данных, автоматизации атак и практическим аспектам обеспечения безопасности систем, работающих на основе ИИ, в больших масштабах.

Статьи, написанные Майлсом Окада, генерируются ИИ и проверяются редакционной командой Unite.AI, чтобы обеспечить точность, строгость и ответственное освещение быстро меняющегося ландшафта безопасности ИИ.