Альянс штучної інтелектуальної техніки розробляє конфіденційні правила звітності про інциденти з термінами публічного оголошення

Фонд Linux 4 серпня 2026 року опублікував запит на коментарі щодо спільного обміну знаннями про штучну інтелектуальну техніку (SAFE), проєкт框, який би зобов’язував членів Альянсу відкритої безпечної штучної інтелектуальної техніки повідомляти про інциденти безпеки штучної інтелектуальної техніки на фіксовані терміни — спочатку конфіденційно, а потім публічно протягом 30 днів. Учасники з Cisco, CrowdStrike (CRWD ) , Hugging Face, NVIDIA (NVDA ) , Red Hat та інших членів альянсу розробили первинну пропозицію, яку було заплановано до відкриття конференції Black Hat у Лас-Вегасі.

Проєкт SAFE описує конфіденційну систему навчання інцидентам: члени повідомляють про інциденти безпеки штучної інтелектуальної техніки та майже інциденти, постраждалі організації отримують повідомлення, повторювані контрольні збої ідентифікуються, а результати стають опублікованими, заснованими на доказах рекомендаціями щодо експлуатації. Альянс, запущений 27 липня 2026 року, налічує понад 120 організацій-членів, як зазначено в заяві NVIDIA, серед яких Amazon (AMZN ) та Visa — найновіші члени.

До чого насправді зобов’язують члени проєкт

Проєкт SAFE йде далі в двох конкретних місцях: визначений набір звітних подій та графік повідомлень з прикріпленими датами.

За умовами договору про звітність члена, учасник повинен повідомити про інцидент, якщо система штучної інтелектуальної техніки, яку він експлуатує, отримує доступ або порушує систему третіх осіб без дозволу, втече або обійде кордон сандбоксу, мережі, ідентифікатора, політики чи інструменту у спосіб, який впливає на третю сторону, отримує доступ до конфіденційної інформації третіх осіб або продовжує зондування виробничої цілі після того, як оператор підозрює, що діяльність є поза межами завдання. Проєкт додає, що намір не визначає, чи є подія звітною — оператор, який вважав, що середовище було симульованим, все одно має обов’язок повідомити.

Драбина повідомлень — це місце, де живуть терміни: повідомити безпосередньо постраждалу організацію якомога скоріше, клієнтів з достовірним впливом протягом 72 годин, первинний конфіденційний звіт SAFE протягом чотирьох робочих днів, ширший клієнтський консультативний документ протягом 14 днів, коли це виправдано, попередній фактичний звіт, опублікований протягом 30 днів, статус виправлення, опублікований протягом 90 днів, а також оновлення у форматі, зчитуваному машиною, щотижня, поки матеріальні ризики залишаються невирішеними. Члени також будуть зобов’язані провести попередній аналіз збоїв контролю протягом 30 днів — і повинні повідомити про майже інциденти, а не тільки підтверджену шкоду.

Кожен інцидент буде розглянуто через вісім шарів експлуатаційного стеку, від моделі та її інструкцій до засобів, середовища, моніторингу, людської експлуатації та ланцюга постачання. Одним із положень, яке варто відзначити, є те, що постраждала організація може виправити фактичні помилки, але проєкт говорить, що вона не повинна мати права вето щодо висновків або рекомендацій, які виходять із розгляду.

Добровільне членство, обов’язкові терміни, відсутність виконавчого органу

SAFE структурований як добровільна угода — обов’язки звітності будуть зобов’язувати членів як умову членства, а не як закон. Проєкт зазначає, що навчання окремо від виконання, що регулюючі органи та постраждалі сторони зберігають свої юридичні права, а терміни не заміняють існуючі зобов’язання щодо повідомлення про уразливості, контракти чи юридичні обов’язки перед регулюючими органами та правоохоронними органами. Умисне або кримінальне поведінка буде поза захистом конфіденційного каналу.

Проєкт також пропонує, щоб SAFE діяв незалежно, щоб жоден виробник чи галузевий сегмент не контролював його висновки, з участю державних органів та організацій зі стандартами у якості неконтролюючих спостерігачів. Саме формулювання проєкту прямолінійне щодо цієї точки: “Довіра не є засобом безпеки. Спільні докази та верифіковані поліпшення — це те, як здобувається довіра.” Чи буде ця незалежність збережена, коли реальні інциденти назвуть реальних членів, — це питання, на яке період коментарів існує для отримання відповіді — але проєкт至少 ставить обов’язок у письмовому вигляді до прибуття першого випробування.

Інцидент, який зробив справу

Альянс був створений вісім днів тому, 27 липня 2026 року, як коаліція з приблизно трьох десятків компаній та відкритих джерел, явно посилаючись на розголошення інформації про інцидент безпеки Hugging Face 16 липня 2026 року як сприг. Hugging Face повідомив, що автономна агентська структура здійснила вторгнення в інфраструктуру виробництва з кінця в кінець, а коли компанія спробувала проаналізувати понад 17 000 записаних дій атакувальника, комерційні моделі API блокували слідчу роботу — їхні засоби безпеки не могли відрізнити інцидент-відповідача від атакувальника. Команда завершила аналіз на відкритій моделі GLM-5.2, що працює на своїй інфраструктурі. Unite.AI висвітлив запуск альянсу та звіт Hugging Face про слідчу справу, коли кожен з них стався.

Проєкт SAFE виглядає як відповідь альянсу на цю епізод: якщо б один член майже інцидент було поділено згідно з цими правилами, графік повідомлень та аналіз збоїв контролю вже були б на годиннику.

Що відбувається далі

Запит на коментарі відкритий для громадського огляду, обговорення та внесення пропозицій через репозиторій RFC альянсу, випущений під ліцензією Creative Commons Attribution 4.0, з Фондом Linux, який запрошує розробників, підприємства, дослідників та організації зі стандартами сформувати рамки до того, як вони затвердіють. Проєкт явно є початковим документом — Фонд Linux описує його як відкриту дискусію, а не закінчений стандарт, тому обов’язки звітності та терміни, наведені вище, залишаються запропонованими термінами до прийняття ними робочою групою.