Если боту можно флиртовать с детьми, что ещё ему разрешено делать с вашими данными?

Когда утечка внутренних рекомендаций показала, что Meta позволяет своим чат-ботам флиртовать с детьми, большинство людей отнеслись к этому как к скандалу и перешли к другому. Но стоит взглянуть на то, что расследование рассказывает нам о текущем состоянии этики ИИ: если компания вроде Meta одобряет такие политики в своем масштабе, что еще эти платформы тихо допускают? И сколько из этого связано с вашими данными?

Бизнес-лидеры склонны оценивать инструменты ИИ по тому, что они могут сделать, как быстро и за какую цену. Но есть более сложные вопросы, которые стоит задать, особенно когда инструменты ИИ быстро становятся обязательными: на какие условия вы соглашаетесь, когда ваши команды начинают использовать инструменты ИИ? Что делают поставщики моделей и разработчики агентов с вашими данными? И кто берет на себя ответственность, когда что-то идет не так?

Большинство организаций так увлечены тем, чтобы выжать как можно больше денег из этой новой технологии, что еще не подумали о самом важном вопросе:

Что на самом деле происходит с вашими данными?

Большинство людей либо сильно переоценивают риск обмена чем-то с чат-ботом, либо полностью игнорируют этот вопрос. На самом деле, большие языковые модели, в некотором смысле, заморожены, когда они обучены и выпущены в публичное использование. Это означает, что ваши разговоры хранятся отдельно, а не сразу передаются в память системы; то, что вы сказали ChatGPT этим утром, не сразу влияет на то, что модель скажет кому-то другому во второй половине дня.

Это не означает, что ваши данные не используются. Они используются. Путь просто более сложный.

Логи разговоров хранятся отдельно, и многие лаборатории ИИ прямо оговаривают за собой право использовать их для обучения следующей версии своей модели. Это прямо указано в условиях обслуживания. То, что поступает в виде запроса поддержки клиентов или стратегического мозгового штурма сегодня, может со временем повлиять на модель, которую будут использовать миллионы завтра.

Риск для конфиденциальных данных выходит за рамки политики. В 2025 году Scale AI случайно раскрыла тысячи страниц конфиденциальных материалов проектов от клиентов, включая Meta, Google и xAI. Отдельно, в ноябре произошла утечка данных у поставщика OpenAI, в результате чего хакеры получили доступ к данным клиентов, включая имена, электронные адреса и системные детали.

Для ясности: это не чрезвычайная ситуация высшей степени опасности, но и не отсутствие риска. Системы класса предприятия имеют контрактные ограничения на повторное использование данных. У потребительских инструментов таких ограничений, как правило, нет. Если ваши данные настолько чувствительны, что вы хотели бы иметь соглашение о неразглашении, чтобы защитить их, вы не должны передавать их потребительскому чат-боту и предполагать, что они не будут использованы в другом месте.

Цифры говорят о том, что большинство организаций еще не поняли это. Почти восемь из десяти сотрудников вставили информацию компании в инструменты ИИ, и из них более четырех из пяти сделали это, используя свои личные учетные записи, согласно опросу работников 2025 года. Одна из пяти организаций уже сообщила об утечке, связанной с использованием ИИ в тени, и только 37 процентов имеют правила для выявления такого использования или управления им, согласно отчету IBM о стоимости утечки данных 2025 года.

Как только это понятно, этот вид риска для данных не трудно обойти. Различайте потребительские и корпоративные инструменты, знайте, на что вы соглашаетесь, и вы учтёте большинство основных рисков.

Когда коммуникация через ИИ подводит компании

Что происходит с вашими данными – это одна часть картины. Другая, и для многих бизнесов более значимая, – это то, что эти системы делают с качеством и подотчетностью ваших наиболее важных коммуникаций.

Подумайте о разговорах, которые движут бизнес: встречи, чтобы сохранить долгосрочных клиентов; переговоры о продаже, где тон и доверие почти более важны, чем язык сделки; или ежеквартальное выступление перед советом директоров о продвижении к ключевым результатам года. Оказывается, ИИ может справиться с транзакционными элементами этих взаимодействий достаточно хорошо, как, например, ведение заметок на встречах, назначение приоритетов и выделение пунктов действий. Со всем, что лежит глубже, у него возникают трудности.

Стоит назвать конкретные способы, которыми эти системы дают сбой. ИИ сжимает контекст; он суммирует, сглаживает и стандартизирует таким образом, что может удалить нюансы. Кроме того, содержание, сгенерированное большими языковыми моделями, трудно проверить. Люди, которым вы отправили сгенерированное ИИ письмо или суммированные заметки встречи, не имеют возможности подтвердить, что полученное ими отражает то, что вы имели в виду, или что сообщение не было отфильтровано или перефразировано ИИ.

Это не означает, что ИИ не имеет места в деловой коммуникации. У него явно есть такая роль. Но есть категория разговоров, где выгоды от эффективности не оправдывают риска, и большинство организаций не подумали о различении этих случаев достаточно.

Знайте, когда делать это самостоятельно

Итак, вопрос становится: для ваших наиболее чувствительных коммуникаций должен ли ИИ вообще участвовать?

Мой честный ответ – нет, по крайней мере, не без человека, который может быть привлечен к ответственности за то, что было сказано, как оно было сказано, и было ли сообщение доставлено. Проверка человеческой коммуникации не является предпочтением старого способа делать вещи; это просто признание того, что некоторые разговоры требуют человека, который стоит за ними.

Лидеры должны сделать свою домашнюю работу. Что говорит политика поставщика о повторном использовании данных? Что происходит с разговорными журналами вашей команды, когда контракт заканчивается? Эти вопросы не для вашей ИТ-команды, чтобы решить их на заднем плане. Они являются вопросами закупок, и их следует рассматривать на более раннем этапе процесса, чем сейчас.

Бот, которому разрешили флиртовать с детьми, не принял это решение самостоятельно. Кто-то одобрил это. Каждая система ИИ отражает суждение людей, которые построили и развернули ее, и эти решения не всегда очевидны извне.

Пока инструменты для аудита инструментов и систем ИИ не догонят темпы их внедрения, наиболее обоснованная позиция, которую могут занять бизнес-лидеры, – это провести границу между теми разговорами, которые они готовы передать через ИИ, и теми, которые нет.

Аргумент в пользу эффективности ИИ убедителен. Так же убедителен и аргумент в пользу ответственности за то, что выходит под вашим именем.