Кимберли Невала, директор по бизнес-стратегиям в SAS – Интервью

SAS – глобальная аналитическая и ИИ-компания, предлагающая решения в области управления данными, продвинутой аналитики и искусственного интеллекта. Ее флагманская платформа SAS Viya подчеркивает скорость, масштабируемость и доверие к принятию решений для организаций из различных отраслей. Компания демонстрирует примеры использования в области обнаружения мошенничества, оптимизации маркетинга, IoT и управления рисками, а также предоставляет бесплатные пробные версии, обучение и академические программы для поддержки широкого внедрения аналитики.

Вы построили свою карьеру, руководя организациями через сложные культурные, стратегические и технические трансформации – от менеджмента до руководства бизнес-стратегией в SAS. Как это путешествие сформировало ваш взгляд на то, что на самом деле необходимо организациям для внедрения ИИ осмысленным и инклюзивным образом?

Несмотря на обширный объем новых возможностей ИИ и их равноценных последствий, базовые строительные блоки для стимулирования технической трансформации не изменились. Хотя последствия неправильного подхода усилились.

Сначала необходимо четко сформулировать ценности и приоритеты организации. Вместе с четким пониманием того, как эти факторы влияют на то, как сотрудники или клиенты взаимодействуют с брендом. Далее, необходимо иметь широкое понимание новой технологии, включая ее врожденные ограничения и ограничения. Наконец, необходимо иметь видимость предвидимых пробелов в навыках и барьеров для внедрения на основе вышесказанного. Заметим, что это не ограничивается только технической экспертизой, но также бизнес-компетенцией.

Все это должно быть поддержано прочной, но адаптивной системой управления. Основанной, конечно, на целенаправленных, намеренных инвестициях как в людей, так и в технологии.

Вы говорили об ИИ-грамотности, повышающейся до уровня необходимых лидерских навыков, таких как стратегическое мышление и финансовая грамотность. Что такое ИИ-компетентность в практике для сегодняшних лидеров?

Тест на практическую компетентность прост. Имеют ли лидеры знания, необходимые для интеллектуального рассмотрения предложенного ИИ-решения?

Это не означает, что лидерам нужно глубоко погрузиться в код. Скорее, лидерам на всех уровнях следует демонстрировать контекстную компетентность. Это означает, что они обучены факторам, которые могут повлиять или повлиять на их суждение об ИИ-системе. Эти факторы будут меняться в зависимости от роли лидера. Конкретно, объема решения, которое они должны принять.

Просто говоря, тест в том, чтобы знать, какие вопросы задавать. Например, может ли исполнительный директор определить человеческие и технические факторы, имеющие наибольшее влияние на жизнеспособность и риск ИИ-решения? И в общем, и в прикладном контексте.

Еще лучше: понимают ли они ограничения технологии? PR и маркетинг фокусируются на положительной стороне, в то время как экспериментальное обучение раскрывает ограничения. Эти ограничения могут диктовать необходимые процедурные и технические ограничения для эффективного развертывания ИИ-решения. В этом отношении, степень, в которой лидеры понимают и определяют такие ограничения, часто является разницей между осмысленным внедрением и неудачей.

Почему гендерное равенство в лидерстве ИИ является столь важным вопросом сейчас – и какие риски мы сталкиваемся, если женщины остаются пассивными потребителями, а не активными формирователями развития и управления ИИ?

Я имею привилегию работать, общаться и учиться у женщин, работающих во всех аспектах ИИ каждый день. Итак, формулировка женщин как пассивных потребителей для меня вызывает образы, которые являются детскими и вводящими в заблуждение. Женщины активно участвуют в лидерстве ИИ-усилий, хотя и в меньших числах, чем наша образованная популяция указывает.

Гендерное неравенство в технологиях – это многогранная проблема, которая предшествует ИИ. Нет единого решения, поскольку есть много факторов, играющих свою роль. Некоторые из них приводят к меньшему финансированию и/или признанию женщин в этой области. Это иронично, что женщины, которые получают широкое признание, часто работают в области ответственного или этического ИИ. Первоначально их работа была помечена как анти-ИИ, но теперь их работа пересматривается, поскольку отношения эволюционируют.

Независимо, без намеренного вмешательства, мы рискуем создать ИИ-системы, которые усиливают существующие неравенства в масштабе. Мы видим это в использовании автоматизированных систем отбора и найма, которые предпочитают мужских кандидатов из-за исторических предубеждений, закодированных в данных.

Отсутствие разнообразия на всех уровнях означает, что решения о том, какие ИИ-системы будут построены, как они будут развернуты, чьи точки зрения и потребности они будут решать, а чьи нет, диктуются все более замкнутой группой. Это плохо для всех. Разнообразные команды управления обеспечивают лучшие бизнес-результаты. Разнообразные команды продукта поставляют ИИ-решения, которые более прочны, устойчивы и работают лучше.

В конце концов, если ИИ-системы не решают точки зрения и потребности женщин (или любой другой недостаточно представленной демографической группы) или оказываются явно вредными, каков стимул для внедрения? Кроме того, эти системы будут развернуты с или без нашего участия. Включая разнообразные голоса и обеспечивая управление ИИ, возможно выполнить обещание ИИ.

Учитывая последние инновации SAS – такие как ИИ-агенты в SAS Viya, интеллектуальные решения, инструменты синтетических данных, такие как Data Maker, и настраиваемые ИИ-модели – как предприятия переосмысливают свои лидерские пipelines, чтобы повысить ИИ-грамотность и равенство?

Предприятия осознают, что объем и влияние этих приложений превышают возможности любого отдельного решателя или исполнителя. Успешное развертывание продвинутого ИИ зависит от доверия и участия “деревни”. Потенциальные проблемы и подвохи слишком широки, чтобы любой лидер мог эффективно решить их в одиночку.

В признании этой реальности ведущие ИИ-предприятия полагаются на практики участия в проектировании и управлении. В этой модели грамотность и равенство не повышаются только формальными программами грамотности и обучения, ни только инициативами HR. Но знаниями, обменом и коллективным принятием решений, которые происходят при объединении разнообразных точек зрения из всей экосистемы предприятия. Эти сотрудничества не ограничиваются строго решателями, но активно включают людей, чья работа будет затронута рассматриваемой ИИ-системой. Хотя в основном это область государственных и правительственных агентств сегодня, некоторые организации активно вовлекли внешних заинтересованных сторон, включая группы клиентов и общественные организации.

Какие практические шаги могут предпринять стремящиеся лидеры – особенно женщины – сегодня, чтобы построить авторитет и агентство на все более ИИ-ориентированном рынке?

Прежде всего, нужно признать, что у нас есть агентство. Каждый человек имеет возможность повлиять на развитие ИИ различными способами: через намеренное потребление и использование определенных ИИ-инструментов; через защиту и коллективное участие в общественных форумах и местной политике; присоединяясь к группам интересов сотрудников или сетям общественных чемпионов (и если их нет, создавая их); и поднимая руку, чтобы участвовать в ИИ-программах или возглавлять инициативы на работе.

Второе – это инвестиции в свою собственную грамотность на любом уровне, который имеет смысл для вас. Существует множество онлайн-ресурсов, охватывающих курсы по управлению ИИ и этике, онлайн-курсы колледжей, вводящие весь спектр возможностей ИИ. Многие из этих вариантов предоставляются бесплатно или за номинальную плату.

Наконец, присоединяйтесь и активно вносите свой вклад в группы сетевого взаимодействия ИИ-отрасли или специальных интересов. Это предоставляет возможность не только делиться знаниями, но и курировать отношения, которые могут обеспечить наставничество, союзы и авторитет, пока вы строите свою экспертизу и сеть.

Вы всегда подчеркивали культурную трансформацию, управление данными и ответственное внедрение технологий. Как эти основополагающие элементы поддерживают развитие лидеров, готовых к ИИ?

Традиционный ответ в том, что эти основы вооружают лидеров инструментами для решения сложных проблем, управления рисками, снижения затрат и повышения производительности. Все эти результаты верны, однако, наиболее недооцененная выгода этих практик – это уверенность.

Если все сделано правильно, эти элементы создают среду, в которой сотрудники могут экспериментировать и инновировать уверенно в рамках этики, закона и бизнес-этики компании.

Это особенно важно, поскольку доступные решения варьируются от инструментов личной производительности до встроенных рабочих процессов. Решения об использовании ИИ не происходят только в зале заседаний или в контексте формального ИИ-проекта. От разработки до исследования и развертывания, множество факторов влияет на то, как система работает и воспринимается.

Ответственное, адаптивное инновирование напрямую связано с управлением. IDC и SAS недавно провели исследование о связи между ответственным использованием ИИ, доверием и реализацией ценности. Ответственное инновирование не является теоретическим благом, но все более экономическим императивом.

Из ваших разговоров на подкасте Pondering AI, какие идеи о ответственной, инклюзивной лидерстве выделяются как наиболее важные для организаций, ориентирующихся в трансформации ИИ?

Язык ИИ хитрый. Мы говорим об ИИ-системах, которые думают, галлюцинируют и даже ведут себя неправильно. Мы концептуализируем ИИ-системы как членов команды или коллег. Таким образом, это заманчиво передать предположения и ожидания от людей к ИИ. Таким образом, мы теряем фокус на человеческой ответственности, участии и ответственной эксплуатации. Мы также затуманиваем необходимую строгость для поставки прочных, устойчивых ИИ-систем, которые, когда они сделаны хорошо, кажутся простыми.

Это делает критически важным центрировать наше понимание ИИ как по своей сути человеческого предприятия. Несмотря на распространенные антропоморфные нарративы, ИИ-системы всегда отражают ценности и намерения их создателей: проблемы, которые мы решаем, методы или модели, которые мы применяем, данные, которые мы используем при обучении, и то, как пользователи взаимодействуют с системой. Каждая ИИ-система является продуктом этих человеческих решений.

Доверие и уверенность в ИИ-системах не исходят от ИИ. Люди в конечном итоге решают автоматизировать или дополнить работу человека. Это не система, которая определяет уровень точности или объяснимости, который достаточен. Это не ИИ, который определяет наиболее подходящую модель взаимодействия с пользователем. Когда чат-бот ведет себя неправильно, это не влияет на ИИ; это ухудшает бренд и дно компании, использующей ИИ.

Следовательно, человеко-ориентированный ИИ является ключом.

Многие организации имеют продвинутые инструменты ИИ, но все еще борются с культурой, управлением и инклюзивностью. Из вашего опыта, какие вмешательства или образы мышления помогают организациям эффективно мостить этот разрыв?

ИИ, как и многие новые технологии, подвержен тому же циклу гипа, что и его предшественники. В эпоху больших данных стать ориентированным на данные было все модно. Немногие организации выполнили свою задачу. Те, кто это сделал, были дисциплинированы в решении идентифицируемых проблем, таких как снижение времени выполнения для X или обеспечение самообслуживания для Y. Это не совпадение, что многие из этих же компаний теперь являются лидерами отрасли в ИИ.

При определении ИИ-инициатив начните с четких бизнес-целей и измеримых результатов, затем определите, какие доступные ИИ-техники подходят для этой цели. Сопротивляйтесь желанию быть показным. Инновационные решения скучных проблем в конечном итоге приносят дивиденды. Решите скучные, повторяющиеся процессы и задачи, которые происходят в масштабе.

Вы не всегда все получите правильно. Но сосредоточив свое внимание и инвестиции с бизнес-результатом в виду, вы можете добиться наивысшей вероятности успеха.

Когда ИИ-системы становятся более автономными и встроенными в процесс принятия решений – через инструменты, такие как ИИ-агенты и помощники-копилоты – какие этические ограничения или структуры управления, по вашему мнению, необходимы для поддержания доверия, прозрачности и равенства в лидерстве?

В SAS мы определяем управление ИИ через призму надзора, соблюдения, операций и культуры. Независимо от того, какую рамку вы принимаете, есть два фактора, которые я бы подчеркнул.

Первый – это то, что каждое ИИ-приложение, даже если оно построено на основе одного и того же основного модели или набора данных, должно быть оценено самостоятельно и на постоянной основе. То, что работает для маркетинга, может не сработать для финансов. Допустимая ошибка для сотрудников не будет эффективной в взаимодействии с клиентами. Кроме того, из-за их вероятностной природы, сдвиги в поведении пользователей, поток подлежащих данных и множество других факторов могут быстро изменить поведение и выходы ИИ-системы.

Второй – это то, что этика и управление ИИ не существуют в вакууме. Природа этих решений требует сотрудничества с корпоративным управлением, юридическим и регуляторным соблюдением, управлением рисками и кибербезопасностью. Используя и расширяя эти практики, а не изобретая их заново, можно получить преимущество.

Оглядываясь вперед, как вы видите изменения лидерских компетенций в мире, управляемом ИИ – и какие последствия для организаций, которые не культивируют эту новую грамотность?

Я считаю, что предвидение и устойчивость станут все более важными. Быстрый темп изменений побуждает лидеров постоянно оценивать и адаптировать бизнес-стратегии и тактику, поскольку технология развивается. Лидерам необходимо оценивать ценность, жизнеспособность и риск в разных временных горизонтах и перспективах. Учитывая социотехническую природу ИИ, эти перспективы должны все чаще включать не только акционеров, но и клиентов, сотрудников и, иногда, общество в целом. Предвидение необходимо для навигации в этом ландшафте.

Устойчивость также является фактором ИИ. Как Джордан Лоувен-Колон элегантно отмечает в отношении внедрения и управления ИИ: ИИ – это процесс, а не переключатель. Способность намеренно учиться, адаптироваться и непрерывно улучшаться, оставаясь на общем курсе, будет отличать лидеров от остальных.

Спасибо за отличное интервью, читатели, которые хотят узнать больше, должны посетить SAS.