Lokdeep Singh, CEO Unily — серия интервью

Lokdeep Singh имеет более 20 лет опыта руководства быстрорастущими компаниями в сфере корпоративного программного обеспечения. В последнее время он работал старшим советником в Providence Equity Partners, где поддерживал портфельные компании в вопросах стратегии ИИ, операционного совершенствования и ускорения выхода на рынок. Ранее он был генеральным директором Talkwalker, мирового лидера в области корпоративной потребительской аналитики, где руководил трансформацией для достижения устойчивого, прибыльного роста; а также занимал должность генерального директора в Synchronoss Technologies.

Unily — это платформа корпоративного опыта сотрудников, предназначенная помочь крупным организациям соединять сотрудников, упрощать внутренние коммуникации и объединять инструменты, знания и сервисы рабочего места в единой цифровой среде. Основанная в 2006 году, компания обслуживает глобальные предприятия с распределёнными, офисными и фронт‑офисными рабочими силами, сочетая возможности интранета, коммуникаций сотрудников, поиск, аналитику, интеграции и персонализацию в одной платформе. Unily всё более позиционирует свои технологии как ИИ‑нативные, используя управляемый искусственный интеллект для автоматизации управления контентом, предоставления релевантной информации, персонализации опыта сотрудников и обеспечения взаимодействия работников с подключёнными корпоративными приложениями через разговорные интерфейсы. Платформа интегрируется с широко используемыми системами рабочего места, такими как Microsoft 365 и Teams, и построена для организаций со сложными технологическими средами, регуляторными требованиями и большими многоязычными рабочими коллективами.

Вы начали свою карьеру в области телекоммуникационной инженерии и сетевой инфраструктуры, затем перешли к ролям технического директора, продукта, общего управления и генерального директора, в итоге возглавили Talkwalker и успешно вывели её, а сейчас возглавляете Unily. Как это развитие сформировало ваше представление о том, что действительно необходимо сотрудникам, чтобы доверять и принимать трансформирующую технологию, такую как ИИ?

Моя карьера дала мне перспективу, находящуюся между технологией и людьми, которые её используют. В начале я сосредоточился на инфраструктуре, обеспечивая надёжную, безопасную и масштабируемую работу систем. По мере перехода к продукту, общему управлению и, в конечном итоге, к ролям генерального директора, я понял, что техническая способность — лишь одна часть того, будет ли технология успешной.

Сотрудники примут новую технологию только тогда, когда поймут, как она влияет на их работу, будут уверены, что она поможет, а не навредит, и будут доверять её предсказуемому поведению.

Самая большая ошибка лидеров — рассматривать внедрение ИИ как развертывание программного обеспечения. Вы можете внедрить лучшую в мире модель, но если сотрудники не доверяют предоставляемой информации, не понимают, что ей разрешено делать, или не знают, где границы, внедрение останется поверхностным. Доверие должно быть встроено в опыт сотрудников с самого начала.

Возможности ИИ развиваются чрезвычайно быстро, однако доверие внутри организаций, кажется, растёт гораздо медленнее. Что приводит к расширению разрыва между тем, что ИИ технически способен делать, и тем, что сотрудники действительно готовы позволить ему делать?

Разрыв в доверии существует потому, что организации сильно инвестировали в повышение возможностей ИИ, но не в такой же мере в его понятность, подотчётность и основание на надёжной информации.

ИИ теперь может рассуждать, генерировать контент и предпринимать действия, но во многих организациях всё ещё отсутствует авторитетная система учёта знаний и контента. Когда сотрудники не знают, откуда ИИ берёт ответы, актуальна ли информация или кто является её владельцем, доверие быстро исчезает.

Уменьшить разрыв можно не только улучшая модели. Необходимо сильное управление контентом и надёжная база знаний, обеспечивающие, что ИИ работает с точной, безопасной и актуальной информацией. Организации, которым это удастся, сделают доверие частью самого опыта ИИ, а не после‑фактум.

Компании часто рассматривают корпоративный ИИ как проблему развертывания технологий, сосредоточенную на моделях, интеграциях, безопасности и инфраструктуре. Почему вы считаете, что более сложная задача в конечном итоге относится к людям и организации?

ИИ меняет взаимоотношения между людьми и технологией. Ранее корпоративные технологии в основном ждали указаний от сотрудников. ИИ может интерпретировать намерения, давать рекомендации и всё чаще принимать решения.

Это делает внедрение ИИ задачей будущего работы, а не только технологической проблемой. Оно меняет способы выполнения работы, принятия решений и совместной работы команд. Организации не могут просто внедрить ИИ и ожидать трансформации. Сотрудникам необходимо понять, где ИИ вписывается в их рабочие процессы, и чувствовать себя уполномоченными эффективно его использовать.

Самые успешные инициативы в области ИИ продвигаются изнутри, а не навязываются сверху. Когда сотрудники видят явную ценность в своей повседневной работе, принятие ускоряется естественно.

Поэтому рамки ROI ИИ сводятся к доверию, расширению возможностей и управлению. Стройте доверие через прозрачность и надёжные знания, предоставляйте сотрудникам инструменты, улучшающие их работу, и внедряйте управление, гарантирующее ответственное использование ИИ. Технологии позволяют изменения, но люди, процессы и культура в конечном итоге определяют их успех.

Организациям необходимо управление, но чрезмерно ограничительные политики могут заставлять сотрудников обращаться к неавторизованным инструментам или полностью подавлять эксперименты. Как выглядит эффективная рамочная система управления ИИ, если цель — повысить как доверие, так и принятие, а не просто контролировать использование?

Хорошее управление должно ощущаться как ограничительные рамки, позволяющие сотрудникам двигаться быстрее и безопасно.

Это означает быть предельно ясными в том, какие задачи сотрудники могут решать с помощью ИИ, какую информацию они могут предоставлять системам ИИ и какие действия ИИ разрешено выполнять. Эти правила должны быть понятны сотруднику, а не спрятаны в громоздком документе политики.

Управление также должно быть динамичным. Риск, связанный с тем, что ИИ создает первый черновик, сильно отличается от риска, когда ИИ одобряет платеж, изменяет запись о сотруднике или общается с клиентом. Уровень человеческого контроля должен соответствовать потенциальным последствиям.

В конечном итоге цель не должна заключаться в минимизации использования ИИ, а в максимизации ответственного использования.

Исследование Unily показало, что 52 % сотрудников сообщили об отсутствии известной политики ИИ в своей организации, в то время как некоторые сотрудники признали вводить конфиденциальную информацию в неутверждённые инструменты ИИ. В какой степени рост «теневого ИИ» является на самом деле провалом коммуникации и управления, а не проблемой поведения сотрудников?

Мы должны быть осторожны, представляя теневой ИИ как проблему «плохих» сотрудников. Значительная причина использования теневого ИИ — это симптом неудовлетворённого спроса. Сотрудники ищут способы решить задачи, для которых их организации ещё не предоставили одобренные инструменты, что является естественным человеческим поведением.

Вместо того чтобы ожидать, что они игнорируют технологии, меняющие способы выполнения работы, ответ заключается в предоставлении сотрудникам безопасного, утверждённого пути для экспериментов, включая чёткие границы и обучение.

Прозрачность и объяснимость часто рассматриваются как необходимые для надёжного ИИ, однако сотрудникам необязательно знать, как внутри работает большая языковая модель. Какую информацию должна предоставлять система ИИ, чтобы сотрудник мог принять обоснованное решение о том, доверять ли её ответу или рекомендации?

Корпоративная система ИИ должна ясно указывать, откуда получена информация, когда она была обновлена в последний раз, какие источники или корпоративные системы использовались и почему была сделана конкретная рекомендация.

Она также должна быть откровенной относительно неопределённости. Одним из важнейших сигналов доверия является то, когда система ИИ говорит, по сути, «У меня недостаточно информации, чтобы уверенно ответить на этот вопрос».

Доверие не возникает из притворства ИИ в уверенности. Оно появляется, когда сотрудникам предоставляют достаточный контекст для самостоятельного суждения.

Unily Glass разработан, чтобы вывести корпоративный ИИ за рамки ответов на вопросы и к выполнению действий в системах, таких как HR, IT и платформы управления взаимоотношениями с клиентами. По мере того как ИИ переходит от предоставления информации к реальному выполнению действий, как организации должны решать, какие решения агенты могут принимать автономно, а какие должны продолжать требовать одобрения человека?

Ключевой принцип должен быть пропорциональностью риска. Если агент ИИ планирует встречу или ищет информацию, последствия ошибочного действия относительно ограничены. Ему можно предоставить гораздо большую автономию. Однако если агент одобряет финансовую транзакцию, изменяет компенсацию сотрудника, прекращает доступ или принимает важное решение, влияющее на клиента, порог должен быть значительно выше.

Организации должны установить чёткие уровни автономии, основываясь на таких факторах, как финансовое воздействие, регуляторные риски, обратимость и влияние на людей. Чем более значимо или необратимо действие, тем важнее становится человеческое одобрение.

Цель состоит в том, чтобы люди сохраняли значимый контроль там, где это имеет значение.

Предприятия всё чаще развертывают множество сопилотов, специализированных агентов, больших языковых моделей и приложений с поддержкой ИИ по всему технологическому стеку. Как организации могут предотвратить создание ещё одного уровня фрагментации, и ожидаете ли вы, что централизованный слой доверия или оркестрации станет необходимым?

Мы рискуем воспроизвести ту же фрагментацию, которую корпоративное программное обеспечение создавало за последние несколько десятилетий, только теперь каждое приложение может иметь собственный интерфейс ИИ и собственного агента.

Сотрудникам не следует разбираться, какая модель стоит за каким приложением, или помнить, где находится ИИ каждой организации. Они должны иметь возможность взаимодействовать с ИИ в контексте своей работы, получая нужную информацию и возможности, собранные для них.

Именно здесь слой оркестрации и доверия становится всё более важным. Он может обеспечить единый способ управления идентификацией, разрешениями, контекстом, доступом к данным и действиями в разных системах ИИ.

Вероятно, не будет одной модели или единой платформы ИИ, охватывающей всё, но организациям всё более понадобится общий слой, который позволит этим системам работать вместе ответственно.

Многие организации могут измерять, как часто сотрудники используют ИИ‑инструмент, но само использование не доказывает, что инвестиция создает ценность. Какие метрики должны отслеживать руководители, чтобы определить, действительно ли ИИ повышает продуктивность, качество принятия решений, опыт сотрудников или бизнес‑результаты?

Использование — интересная отправная точка, но это не результат. Руководителям следует спросить, сокращает ли ИИ время выполнения важных рабочих процессов, устраняет ли повторяющиеся задачи, улучшает ли качество или скорость принятия решений и уменьшает ли трения для сотрудников.

Я бы обратил внимание на такие метрики, как сэкономленное время на каждый процесс, коэффициент завершения задач, уровень ошибок, удовлетворённость сотрудников, время до решения и, в конечном счёте, бизнес‑показатели, связанные с конкретной функцией, внедряющей ИИ.

Самые сильные организации связывают метрики ИИ напрямую с бизнес‑результатами, а не празднуют активность ради самой активности.

По мере того как корпоративный ИИ переходит от помощников, генерирующих контент, к агентам, способным выполнять всё более сложные рабочие процессы, что, по вашему мнению, бизнес‑руководители всё ещё недооценивают в отношении взаимосвязи между возможностями ИИ, доверием сотрудников и успешным внедрением?

Многие руководители всё ещё недооценивают, насколько доверие определяет потолок внедрения ИИ.

Компании часто говорят о возможностях ИИ так, будто больше возможностей автоматически означает большую ценность. Это не так. Чрезвычайно мощная система, которой сотрудники не доверяют, может приносить меньше пользы, чем более ограниченная система, которую они понимают и уверенно используют.

Это требует от компаний рассматривать технологию, управление, опыт сотрудников и организационные изменения как единую систему. Компаниям необходимо понять, как сделать ИИ достаточно надёжным, чтобы действительно изменить способы работы людей.

Спасибо за отличное интервью, читатели, желающие узнать больше, должны посетить Unily.