Опасность отказа от ИИ

На прошлой неделе я принял участие в конференции потенциального клиента, где присутствовали все сотрудники службы безопасности и сетей, а также руководство. Разные докладчики обсуждали актуальные темы. Затем кто-то начал объяснять, как его технические команды используют ИИ в своей повседневной работе.

Докладчик был взволнован. Он нашел способ сократить три дня ручной работы по копированию и вставке до нескольких минут с помощью инструментов ИИ. Очень круто, верно? Я понимаю, что он делал и почему он это делал. Это и есть обещание ИИ!

Но как человек, ответственный за безопасность в комнате, я думаю: “О боже”. “Какой инструмент это? Кто владеет этим инструментом?” Потому что он вводит информацию о клиентах в эти платформы – данные о ценах. Может быть, финансовую информацию? Что бы это ни было. Все это для ускорения своего рабочего процесса.

Итак, я задал очевидный вопрос: “У вас есть политика ИИ?” Мы пошли искать. Нашли абзац, спрятанный в разделе о приемлемом использовании. Что-то расплывчатое об инструментах ИИ. Кто-нибудь действительно читает это? Наверное, нет. Вы подписываете это во время ввода в эксплуатацию, и все.

Ваши сотрудники уже используют ИИ

Вот что я узнал, общаясь с компаниями из каждой отрасли: ИИ уже повсюду, признаете вы это или нет. Недавние исследования подтверждают эту реальность – 75% работников сейчас используют ИИ на работе, почти удвоившись за последние шесть месяцев.

На прошлой неделе в Хьюстоне я встретил парня, чья компания занимается бурением нефти. У них есть платформа ИИ, которая анализирует состав почвы и погодные условия для оптимизации мест бурения. Он объяснил, как они учитывают данные о количестве осадков – “Мы знали, что в этом районе было на 18 дней больше дождей, чем в этом районе, поэтому, вероятно, емкость нефти выше, что позволяет бурить глубже”.

Тем временем я использую ИИ для создания маршрута по Германии. Я общался с компаниями в сфере здравоохранения, которые используют его для платформ телемедицины. Финансовые команды запускают модели рисков. Я даже встретил кого-то, кто управляет лимонадным бизнесом и использует ИИ каким-то образом.

Смысл в том, что ИИ присутствует в каждой отрасли, каждом рабочем процессе. Он не идет – он уже здесь. И большинство этих организаций находятся в той же лодке, что и мы. Они знают, что их сотрудники используют его. Они просто не знают, как им управлять.

Теневая ИТ-инфраструктура быстро становится опасной

Вы знаете, что происходит, когда вы говорите людям, что они не могут использовать ИИ? Это как если бы вы сказали своему подростку никогда не пить. Поздравляем, теперь они будут пить в самых небезопасных условиях, потому что вы создали запрет.

Цифры подтверждают эту реальность: 72% использования генеративного ИИ в предприятиях является теневой ИТ-инфраструктурой, когда сотрудники используют личные учетные записи для доступа к приложениям ИИ.

Люди покупают второй ноутбук. Они используют свой личный телефон, который не защищен компьютерной безопасностью. Затем они используют ИИ все равно. Внезапно вы теряете видимость и создаете именно те пробелы, которых вы пытались избежать.

Я видел эту схему раньше. Команды безопасности, которые говорят “нет” всем, в конечном итоге заставляют людей уйти в подполье и теряют всякий контроль над тем, что на самом деле происходит.

Безопасность становится врагом

Существует такое мнение, что команды безопасности – это “злые парни в подвале”. Люди думают: “О, команда безопасности, вероятно, скажет нет, поэтому не стоит беспокоить этих парней. Я просто сделаю это все равно”.

Мы сами создали это недоразумение. И с ИИ люди склонны предполагать, что мы закроем их, поэтому они даже не беспокоятся о том, чтобы спросить. Это убивает коммуникацию, которую вы на самом деле хотите.

У меня был разработчик, который подошел ко мне после презентации на конференции. Он использует API каждый день и пытался привлечь внимание своей команды безопасности к тестированию и проверке. Но он решил не спрашивать, потому что подумал, что они просто скажут нет.

Дефицит доверия стоит вам всего

Вот разговор, который вы хотите: кто-то из маркетинга подходит к вам и говорит: “Эй, я хочу использовать этот инструмент ИИ. Какова наша позиция по этому вопросу? Как мне использовать его безопасно?” Это правильный способ партнерства с безопасностью.

Мы будем проверять это. Мы понимаем, что ИИ станет частью бизнеса. Мы не скажем нет ему – мы хотим, чтобы люди использовали его безопасно. Но нам нужен этот разговор сначала.

Когда люди предполагают, что безопасность заблокирует все, они перестают спрашивать. Они регистрируются с помощью личной электронной почты, начинают вводить данные компании в непроверенные платформы, и вы теряете всякую видимость и контроль. Результат предсказуем: 38% сотрудников делятся конфиденциальной информацией о работе с инструментами ИИ без разрешения работодателя.

Организации будут использовать ИИ, независимо от того, что вы скажете. Вопрос в том, как мы можем обеспечить, чтобы наши сотрудники могли использовать его безопасно, не подвергая риску данные компании, конфиденциальность или безопасность?

Начните с умных “да”, а не с абсолютных “нет”

Вот что на самом деле работает: активная коммуникация. Отправляйте новостные рассылки или проводите 30-минутные вебинары, говоря: “Мы разрешаем использование ИИ в организации. Вот как сделать это безопасно”. Записывайте сессии для тех, кто пропустил их.

Покажите примеры сотрудников, которые успешно сотрудничали с безопасностью. Сделайте эти партнерства видимыми, вместо того, чтобы быть тенью, которую люди предполагают, что закроет их.

Вам нужно построить доверие между безопасностью и сотрудниками с течением времени. В конце концов, мы все используем ИИ в больших и маленьких масштабах. Я использовал его для планирования поездки в Германию – сказал ему создать трехдневный маршрут и получил отличную поездку из этого.

С точки зрения организации, нам нужно признать, где ИИ находится в бизнесе. Будет ли он увеличивать доход? Вероятно. Бизнес-сделка ясна: ИИ перешел от “эксперимента” к “необходимому”, а расходы на предприятия выросли на 130%. Итак, что мы делаем? Как мы можем обеспечить защиту, одновременно стимулируя производительность?

Цель не состоит в том, чтобы достичь идеального контроля, это невозможно. Цель – это информированное внедрение ИИ с ограничениями, которые действительно работают на практике. Новый риск для безопасности заключается в том, что он становится изолированным от использования ИИ – использования, которое происходит с вашего разрешения или без него.

Для организаций, которые серьезно относятся к тому, чтобы все сделать правильно, эксперты рекомендуют разработать ясные политики управления ИИ, которые балансируют бизнес-потребности с требованиями безопасности до того, как теневое использование ИИ полностью выйдет из-под контроля.