Что закон об ИИ ЕС не рассказывает основателям о тренировочных данных

Статья 50 закона об ИИ ЕС требует, чтобы система ИИ раскрыла, что человек общается с машиной. Она ничего не говорит о том, что происходит с этим разговором после раскрытия.

Основатели, строящие продукты на основе фундаментальной модели, фокусируются на точности и цене. Вопрос о том, что происходит с данными их пользователей после того, как они покидают их продукт и обрабатываются третьей стороной, редко возникает во время выбора поставщика.

Правило вступило в силу 2 августа 2026 года, и штрафы за неисполнение могут составлять до €15 миллионов или 3% от годового оборота, в зависимости от того, что больше. Хранение и обучение находятся полностью вне его сферы действия. Если ваше приложение отправляет разговоры пользователей третьей стороне, то практика обработки данных этого поставщика становится частью вашего продукта, даже если вы не намеревались этого.

По умолчанию в отрасли используется обучение, а не запрос

Исследователи в Институте ИИ Стэнфордского университета рассмотрели политику конфиденциальности шести крупных разработчиков ИИ в США, включая Amazon, Anthropic, Google, Meta, Microsoft и OpenAI, и обнаружили, что все они используют данные разговоров клиентов по умолчанию для обучения своих моделей, причем некоторые из них хранят эти данные бесконечно. Ведущий исследователь Дженнифер Кинг была прямолинейна, когда ее спросили, должны ли пользователи ИИ беспокоиться о своей конфиденциальности, ответив “абсолютно да”. Следовательно, обучение должно рассматриваться как умолчание, если документация поставщика не указывает обратное. Однако детали различаются от одного поставщика к другому и заслуживают внимательного изучения перед тем, как привязаться к платформе.

Раньше Anthropic был известен своей осторожной политикой в отношении конфиденциальности, но изменил условия использования так, что теперь разговоры с Claude используются для обучения по умолчанию, а пользователи могут отказаться от этого. Это показывает, насколько быстро политика обучения поставщика может измениться, даже если конфиденциальность была частью его первоначального предложения.

В других моделях отказ от участия не работает полностью. Google хранит разговоры Gemini для проверки человеческими аннотаторами до трех лет, и отключение настройки “Активность приложений Gemini” не отменяет это. Как только разговор был помечен для человеческого обзора, он остается в системах Google на отдельном пути хранения, независимо от того, что пользователь делает после этого.

Character.AI обучался на разговорах пользователей по умолчанию и предлагал отказ только пользователям в ЕЭЗ и Великобритании, что ставит его на перmissive конец практики обработки данных, рассмотренных здесь. Отдельно компания столкнулась с юридическими и репутационными проблемами. В январе 2026 года Character.AI и Google согласились урегулировать группу исков о причинении вреда из-за взаимодействия чат-бота с несовершеннолетними, не связанных с политикой обучения данных. Google был назван со-ответчиком из-за своих связей с основателями Character.AI, и хотя не было признано вины и условия не были раскрыты, это дело показывает, что юридическая ответственность, связанная с поставщиком ИИ, может распространиться на компании, которые его поддерживают.

Окна хранения, триггеры человеческого обзора и доступ подрядчиков редко появляются за пределами мелкого шрифта политики конфиденциальности. Компании, интегрирующие эти API, часто должны тщательно расследовать, чтобы узнать, как долго пользовательские данные остаются на обзоре или кто еще может их увидеть. Почти ни одна из этих деталей никогда не достигает конечных пользователей, что означает, что компания может унаследовать практику обработки данных поставщика и передать ту же уязвимость без того, чтобы обе стороны осознали это.

Почему это проблема основателя, а не просто дебаты по политике

Если ваш продукт направляет разговоры пользователей через фундаментальную модель с включенным обучением по умолчанию, вы приняли политику обработки данных от имени своих пользователей без их ведома, даже если вы не намеревались этого. Статья 50 не требует от вас раскрыть это решение, поскольку она только покрывает тот факт, что они разговаривают с ИИ.

Доступ третьих сторон расширяет эту уязвимость еще больше. Поставщики моделей регулярно передают аннотацию данных и проверку безопасности на подрядчиков. В мае 2026 года генеральный прокурор Техаса Кен Пакстон начал расследование в отношении очков ИИ Meta после того, как аннотаторы данных в кенийском подрядчике Sama, якобы, заявили, что они могут получить доступ к кадрам частных моментов пользователей, включая посещения ванной. Meta оспорил это, заявив, что это не отражает полную картину их практики, и расследование продолжается. Хотя этот пример касается носимых камер, та же проблема может применяться к разговорному ИИ. Обещание, что компания не продает ваши данные, ничего не говорит о том, кто еще может их прочитать внутри перед тем, как они попадут в трубу обучения.

Что проверить перед выбором поставщика

Перед подключением фундаментальной модели к реальным данным пользователей есть несколько вопросов, которые каждый основатель должен задать.

Соглашение об обработке данных – это место, где можно начать. Это документ, который регулирует, как обрабатываются данные ваших пользователей, и его стоит прочитать полностью.

Сам контракт заслуживает столько же внимания. Поставщики часто предлагают более строгие условия без обучения на предприятиях или API-контрактах, чем на потребительских чат-продуктах, поэтому подтвердите в письменной форме, какие условия применяются к вашей конкретной интеграции. Многие компании часто делают неверное предположение, что язык конфиденциальности на уровне предприятия автоматически распространяется на них.

Положения об отказе от участия также стоит изучить. Настройки Gemini Google иллюстрируют, почему, поскольку в этой модели отключение отслеживания активности не останавливает человеческий обзор. Поставщик должен быть в состоянии сказать прямо, останавливает ли отказ от участия обучение, человеческий обзор или оба.

Наконец, составьте карту, куда идут данные после поставщика. Аннотация и проверка безопасности часто передаются на аутсорсинг, и обещания конфиденциальности поставщика не автоматически распространяются на каждого подрядчика в этой цепи.

Ни один из этих вопросов не должен рассматриваться как разовое упражнение. Условия поставщика могут измениться, иногда быстро, и поставщик, с которым вы подписали контракт в прошлом году, может не работать по тем же правилам сегодня.

Рынок может установить стандарт, которого регулирование еще не достигло

Статья 50 вряд ли будет последним словом регулирования ЕС в отношении управления данными ИИ, и основатели не должны ждать следующего раунда регулирования, чтобы наверстать упущенное. Компании могут опередить это упущение сейчас, построив явный и видимый отказ от обучения на данных своих пользователей. Есть реальная граница между улучшением модели и тихим получением прибыли от доверия пользователей. Многие сервисы ИИ все еще пересекают эту границу, используя разговоры для обучения без явного согласия. Основатели, которые проведут эту границу для себя сейчас, не будут нуждаться в ретрофитной реализации позже.

Это шаг с предшественником. Зашифрованные приложения для обмена сообщениями и менеджеры паролей не ждали, пока регулирующие органы установят сильные стандарты по умолчанию. Они приняли эти решения самостоятельно и превратили их в рыночную позицию. Продукты ИИ имеют ту же возможность. Основатели, которые проведут эту границу до того, как это станет обязательным, будут теми, кому будут доверены следующие конфиденциальные разговоры их пользователей.