Если бот может флиртовать с детьми, что еще он может делать с вашими данными?

Когда утечка внутренних рекомендаций показала, что Meta позволяет своим чат-ботам флиртовать с детьми, большинство людей отнеслись к этому как к скандалу и перешли к другому. Но стоит взглянуть на то, что расследование рассказывает нам о текущем состоянии этики ИИ: если компания như Meta одобряет такие политики в своем масштабе, что еще эти платформы тихо допускают? И сколько из этого связано с вашими данными?

Бизнес-лидеры склонны оценивать инструменты ИИ по тому, что они могут сделать, как быстро и за какую цену. Но есть более сложные вопросы, которые стоит задать, особенно когда инструменты ИИ быстро становятся обязательными: какие условия вы соглашаетесь с когда ваши команды начинают использовать инструменты ИИ? Что делают поставщики моделей и строители агентов с вашими данными? И кто берет на себя ответственность, когда что-то идет не так?

Большинство организаций так увлечены тем, чтобы выжать как можно больше денег из этой новой технологии, что еще не подумали о самом важном вопросе:

Что на самом деле происходит с вашими данными?

Большинство людей либо сильно переоценивают риск обмена чем-то с чат-ботом, либо полностью игнорируют этот вопрос. На самом деле, большие языковые модели, в некотором смысле, заморожены, когда они обучены и выпущены в публичное использование. Это означает, что ваши разговоры хранятся отдельно, а не сразу передаются в память системы; то, что вы сказали ChatGPT этим утром, не сразу влияет на то, что модель скажет кому-то другим днем.

Это не означает, что ваши данные не используются. Они используются. Путь просто более сложный.

Логи разговоров хранятся отдельно, и многие лаборатории ИИ явно зарезервировали право использовать их для обучения следующей версии своей модели. Это прямо указано в условиях обслуживания. То, что поступает в виде запроса поддержки клиентов или стратегического мозгового штурма сегодня, может со временем повлиять на модель, которую будут использовать миллионы завтра.

Риск для конфиденциальных данных выходит за рамки политики. В 2025 году Scale AI случайно раскрыла тысячи страниц конфиденциальных материалов проектов от клиентов, включая Meta, Google и xAI. Отдельно, в ноябре произошла утечка данных у поставщика OpenAI, в результате чего хакеры получили доступ к данным клиентов, включая имена, электронные адреса и системные детали.

Чтобы быть ясным, это не пять сигналов тревоги, но и не без риска. Системы класса предприятия имеют контрактные ограничения на повторное использование данных. Инструменты для потребителей в основном не имеют. Если ваши данные настолько чувствительны, что вы хотели бы иметь соглашение о неразглашении, чтобы защитить их, вы не должны передавать их потребительскому чат-боту и предполагать, что они не будут использованы в другом месте.

Цифры говорят о том, что большинство организаций еще не поняли это. Почти восемь из десяти сотрудников вставили информацию компании в инструменты ИИ, и из них более четырех из пяти сделали это, используя свои личные учетные записи, согласно опросу рабочей силы 2025 года. Одна из пяти организаций уже сообщила об утечке, связанной с использованием ИИ в тени, и только 37 процентов имеют политику, чтобы обнаружить или управлять этим, согласно отчету IBM о стоимости утечки данных 2025 года.

Как только это понятно, этот вид риска для данных не трудно обойти. Различайте потребительские и корпоративные инструменты, знайте, на что вы соглашаетесь, и вы покроете большинство своих основ.

Где коммуникация, опосредованная ИИ, не справляется с бизнесом

Что происходит с вашими данными – это одна часть картины. Другая, и для многих бизнесов более значимая, – это то, что эти системы делают с качеством и подотчетностью ваших наиболее важных коммуникаций.

Подумайте о разговорах, которые движут бизнес: встречи, чтобы сохранить долгосрочных клиентов; переговоры о продаже, где тон и доверие почти более важны, чем язык сделки; или квартальный доклад совета директоров о вашем прогрессе к годовым целям. Оказывается, ИИ может справиться с транзакционными элементами этих взаимодействий достаточно хорошо, как, например, ведение заметок на встречах, назначение приоритетов и выделение пунктов действий. С всем остальным он борется.

Конкретные режимы неисправности стоит назвать. ИИ сжимает контекст; он суммирует, сглаживает и стандартизирует таким образом, что может удалить нюансы. Кроме того, содержание, сгенерированное большими языковыми моделями, трудно проверить. Люди, которым вы отправили сгенерированное ИИ письмо или суммированные заметки встречи, не имеют возможности подтвердить, что полученное ими отражает то, что вы имели в виду, или что сообщение не было отфильтровано или перефразировано ИИ.

Это не означает, что ИИ не имеет места в деловой коммуникации. Он явно имеет. Но есть категория разговора, где выгоды от эффективности не оправдывают риска, и большинство организаций не подумали о различении этих случаев достаточно.

Знайте, когда делать это самостоятельно

Итак, вопрос становится: для ваших наиболее чувствительных коммуникаций должен ли ИИ быть в цикле вообще?

Мой честный ответ – нет, по крайней мере, не без человека, который может быть привлечен к ответственности за то, что было сказано, как оно было сказано, и было ли сообщение доставлено. Проверка человеческой коммуникации не является предпочтением старого способа делать вещи; это просто признание того, что некоторые разговоры требуют человека, который стоит за ними.

Лидеры должны сделать свою домашнюю работу. Что говорит политика поставщика о повторном использовании данных? Что происходит с разговорными журналами вашей команды, когда контракт заканчивается? Эти вопросы не для вашей ИТ-команды, чтобы решить их на заднем плане. Они являются вопросами закупок, и они принадлежат ранее в процессе, чем это сейчас.

Бот, который был разрешен флиртовать с детьми, не принял это решение самостоятельно. Кто-то одобрил это. Каждая система ИИ отражает суждение людей, которые построили и развернули ее, и эти решения не всегда очевидны извне.

Пока инструменты для аудита инструментов и систем ИИ не догонят их принятие, наиболее обоснованная позиция, которую могут занять бизнес-лидеры, – это провести границу между теми разговорами, которые они готовы передать через ИИ, и теми, которые нет.

Аргумент в пользу эффективности ИИ убедителен. Так же убедителен и аргумент в пользу владения тем, что выходит под вашим именем.