Алон Эйрев, технический директор (ИИ) MCE Systems – Интервью

Алон Эйрев, технический директор (ИИ) MCE Systems, возглавляет стратегию ИИ компании и технологический стек от начала до конца, охватывая архитектуру, разработку моделей, инфраструктуру, интеграцию продукта и более широкое внедрение ИИ во внутренних операциях. Ранее он более девяти лет работал в Intel (INTC ), перейдя от старшего инженера-программиста и архитектора программного обеспечения к ведущему исследователю естественно-языковых технологий, где он руководил исследованиями по извлечению знаний, обеспечил финансирование проектов на несколько лет, опубликовал статьи на крупных конференциях по естественно-языковым технологиям и наставлял стартапы через Intel Ignite. В начале своей карьеры Эйрев помог разработать технологию персональных помощников в Telmap, которая позже стала частью Intel, и с тех пор консультировал компании на ранней стадии развития ИИ, преподавая компьютерные науки, объектно-ориентированное программирование, добычу данных и информационный поиск в нескольких израильских университетах.

MCE Systems разрабатывает ИИ-родной опытный слой для телекоммуникационных провайдеров, соединяя устаревшие системы, данные в реальном времени и интеллектуальные рабочие процессы для поддержки взаимодействия с клиентами через несколько точек контакта. Основанная в 2005 году, компания построила свой бизнес вокруг управления жизненным циклом цифровых устройств, с технологией, охватывающей диагностику и уход за устройствами, программы обмена, удаленную оценку устройств и возврат. MCE все больше применяет генеративный и агентный ИИ к этим рабочим процессам, помогая операторам обнаруживать проблемы с устройствами, направлять клиентов через потенциальные решения и координировать более сложные сервисные пути через цифровые и вспомогательные каналы.

Вы провели почти десятилетие в Intel, работая над естественно-языковыми технологиями, извлечением знаний, информационным поиском и даже ранними технологиями персональных помощников, которые возникли в Telmap до того, как стали частью Intel. Оглядываясь назад, какие идеи из этих ранних систем ИИ оказались впереди своего времени, а какие предположения промышленность полностью ошиблась?

Одна идея rõчно была впереди своего времени – это был персональный помощник, над которым мы работали до эры больших языковых моделей. Эти системы понимали намерение, связывали контекст через задачи и помогали пользователям достигать целей естественным образом. У них были те же амбиции, что и у современных агентов. Разница заключалась в подходе: вместо языковых моделей мы полагались на сочетание машинного обучения и алгоритмов для вывода намерения пользователя. Этот метод, однако, оказался трудным при применении в масштабе, учитывая различные способы, которыми пользователи выражают одну и ту же просьбу.

Представьте, что вы нанимаете служащего для обработки тысяч запросов клиентов, но он может обрабатывать только запросы, сформулированные с помощью конкретной структуры предложения. Как можно себе представить, это покроет только небольшой диапазон случаев и будет трудно решить многие проблемы клиентов. Большие языковые модели полностью изменили все. Сегодня понимание намерения пользователя в значительной степени решено. Итак, в нашем аналоге служащий теперь гибкий и может общаться с миллионами клиентов.

Хотя я не стал бы утверждать, что промышленность полностью ошиблась, я считаю, что многие недооценили, насколько центральными станут языковые модели. Основной скачок произошел, когда были введены первые языковые модели, такие как ELMo, BERT и RoBERTa. В то время мало кто真正 понимал серьезность трансформации, которая была на подходе. Это были основные модели современных больших языковых моделей, которые мы используем каждый день и которые едва ли можем представить без них.

Большинство компаний рассматривали эти первоначальные модели как полезные компоненты в узких приложениях, а не как основу для совершенно новой вычислительной парадигмы. В ретроспективе многие из них упустили возможность позиционировать себя как крупные игроки в области ИИ.

Во время вашей исследовательской карьеры вы фокусировались на многодокументном извлечении знаний и понимании событий. Поскольку предприятия все больше полагаются на большие языковые модели, почему вы считаете, что структурированное извлечение знаний остается такой критической задачей?

Большие языковые модели – это мощные инструменты для решения широкого спектра задач, но приложения предприятий и конечные пользователи нуждаются в экспертизе для решения конкретной проблемы, которая требует доступа к знаниям. Это контекстуальные знания, которые обычно не входят в обучающие данные модели, поэтому развертывание большой языковой модели в предприятии означает сбор понимания по потенциально миллионам внутренних точек данных. Сегодня большие языковые модели в значительной степени испытывают трудности с этим, пропуская существенный контекст из-за технических и доступных ограничений, и этот пробел ограничивает их влияние.

В MCE, например, мы предоставляем решение ИИ-агента для обслуживания клиентов. Одна из его целей – позволить телекоммуникационным операторам помочь своим клиентам решить технические проблемы с мобильными устройствами без необходимости человеческого вмешательства. Без предоставления ИИ-агенту контекстной технической информации о устройстве все, что сделает ИИ-агент, – это предоставление общих результатов, которые не решают проблему или не имеют отношения к делу, и затем заставят клиента обратиться за помощью к человеку. Это тот вид проблемы извлечения знаний, которую нам пришлось преодолеть, чтобы развернуть ИИ с нашими клиентами, и это то место, где организации часто терпят неудачу в достижении желаемых результатов.

Мои собственные исследования были посвящены извлечению знаний и информационному поиску из больших коллекций документов, изучая связь между “событиями”, термином в области ИИ, используемым для определения основной причинности и временной шкалы любого представления информации. Мы применяем это в MCE в наших решениях ИИ для взаимодействия человека, строя структурированное понимание, которое может помочь большим языковым моделям лучше суммировать, представлять и искать знания для решения проблемы клиента.

Вы опубликовали исследования на лучших конференциях по естественно-языковым технологиям, включая ACL, EMNLP и NAACL. Какие прорывы за последние пять лет оказали наибольшее реальное влияние, и какие широко разрекламированные достижения, по вашему мнению, в настоящее время переоценены?

Есть несколько прорывов, которые выделяются для меня, и они происходят в прогрессии, когда развивались большие языковые модели.

Первым был прорыв в области настройки инструкций и инженерии подсказок. Это должно было быть решено сначала, прежде чем достичь более широкого внедрения. Мы все были в ситуации, когда просили большую языковую модель о чем-то конкретном, и она шла по кругу, приближаясь, но не давая нужного ответа. Итак, понимание того, как модели могут понять подсказку и предоставить точные результаты, было первым большим шагом.

В качестве продолжения следующим прорывом было создание агентов, которые нуждались в том, чтобы большие языковые модели шли за пределы отдельных задач и фактически делали несколько вещей: создавали планы, взаимодействовали с конечным пользователем, использовали инструменты, использовали память и получали доступ к знаниям. Этот прорыв был необходим для того, где мы находимся сегодня.

Но следующий прорыв, который только частично решен, но находится в процессе, – это полное решение проблемы галлюцинации. На данный момент было достигнуто достаточно прогресса, чтобы мы могли полагаться на большие языковые модели гораздо больше, чем раньше. Но все еще есть работа, которую необходимо сделать, и еще одна причина, по которой человеческий надзор и ограничители остаются необходимыми.

Что переоценено, так это степень автономности, которую люди заявляют, что агенты должны иметь. Полностью автономные системы, работающие в сложных бизнес-средах без человеческого надзора, все еще не достаточно надежны, на мой взгляд. То, что я считаю более продуктивным, – это проектирование ИИ для выполнения высокоценных задач, эскалации неопределенности и объяснения своего рассуждения, не передавая человеческий контроль общего потока. Это то место, где агентный ИИ создаст наибольшую реальную ценность в краткосрочной перспективе.

Вы работали в качестве исследователя, архитектора программного обеспечения, лидера инженерии, советника стартапов, лектора и теперь технического директора по ИИ. Как изменилось ваше определение успешного ИИ на протяжении различных этапов вашей карьеры?

На протяжении всей своей карьеры я узнал, что определение успешного ИИ продолжает эволюционировать, и различные основные ценности распространяются по дисциплинам. Прикладные исследования и архитектура научили меня, что ИИ должен работать в реальных условиях. Академические исследования научили меня важности строгости и оценки. Лидерство в инженерии показало мне, что выполнение и операционная дисциплина имеют столько же значения, сколько и сама модель. Совет стартапам научил меня, что ИИ создает наибольшее влияние, когда решает реальную проблему и имеет четкий путь к внедрению.

Сегодня, как технический директор по ИИ в MCE, я определяю успех как ИИ, создающий измеримую ценность, одновременно заслуживая доверие конечного пользователя. Он должен улучшать результаты для клиентов, сотрудников и бизнеса, быть достаточно надежным для производства, прозрачным enough для управления и полезным enough, чтобы люди фактически его приняли. В этом смысле мое определение эволюционировало от “Сработает ли технология?” до “Создает ли она ценность ответственно, последовательно и в масштабе?”

Это также переход, который мы сделали в MCE, который начался два года назад и привел нас к тому, где мы находимся сейчас. Последнее значение – это то, как мы сейчас думаем об ИИ для внутренних случаев использования и для наших клиентов в телекоммуникациях.

MCE Systems применяет ИИ для опыта клиентов, обслуживания клиентов и маркетинга в телекоммуникациях. Какие наиболее убедительные случаи использования ИИ в настоящее время возникают в телекоммуникационной промышленности?

Поставщики коммунальных услуг (CSP), или “операторы”, как их обычно называют, находятся в трудном положении, где они сталкиваются с проблемой коммодитизации. Цена действительно является привлекающей силой для привлечения новых клиентов или удержания их, но это неустойчиво. Если вы посмотрите на других гигантов, которые продают потребительские продукты или услуги, такие как Apple (AAPL ), Amazon (AMZN ) или Netflix (NFLX ), они построили отличный продукт и опыт вокруг него. Это произошло явно в финансах, например, где банки были вынуждены новыми гибкими игроками перейти от хранения сбережений людей и предложения инвестиционных продуктов к предложению полного цифрового опыта вокруг него. То же самое и с телекоммуникациями.

Наше видение – помочь принести дополнительную ценность клиентам CSP с помощью лучшего опыта на основе великого продукта подключения, который они уже предоставляют. Это означает быть более проактивным и общительным с клиентами о их общем опыте сети и устройства. А для нас ИИ – это то, что наконец позволяет им сделать это хорошо.

В отрасли это стало в основном оборонительным инструментом для снижения затрат на труд в call-центрах или повышения производительности сотрудников. Но для нас ИИ – это также наступательный инструмент для того, чтобы быть проактивным в обслуживании клиентов и персонализировать услуги и то, что вы предлагаете клиентам, все на мобильном устройстве клиента.

Например, обнаружение проблемы с устройством или подключением или проблемы с разрядкой батареи до того, как клиент заметит это, и помощь им в решении проблемы. Такие trải nghiệm строят настоящую лояльность. Зная ситуацию клиента достаточно хорошо, чтобы предложить правильный пакет широкополосного доступа, добавку данных или продукт образа жизни в нужный момент, стимулирует более высокую конверсию. А объединение сигналов по активам сети, CRM и данным устройства для точного прогнозирования оттока и последующего действия – это, возможно, наиболее мощный случай использования из всех. Операторы, которые это сделают правильно, будут иметь значительное преимущество.

Есть много шума вокруг того, чтобы стать “ИИ-родным” или “ИИ-готовым”. Как MCE подходит к этой парадигме, и какие наиболее важные моменты организации упускают из виду в этом переходе?

Что многие упускают из виду, так это то, что трансформация ИИ – это не только развертывание технологии, но и изменение модуса operandi. Лучшие возможности – это те, где принятие чувствуется естественным: рабочий процесс уже существует, боль очевидна, и ИИ может明显 улучшить скорость, качество или принятие решений. MCE подходит к этой парадигме с несколькими идеями.

Мы начали с вопроса об зрелости инструментов ИИ и принятии ИИ способами, которые умножают производительность сотрудников. Мы спросили, как мы можем обучить наших команд, определить четкие рекомендации по использованию и подключить внутренние системы к ИИ, где это действительно может сделать разницу в повседневной работе.

Как только мы оценили наш набор инструментов, мы посмотрели на автоматизацию рабочих процессов и определили, где агенты могут сократить ручную работу. Естественно, мы обнаружили, что можем радикально сократить время разработки. В одном примере высокофункциональное прототипное приложение было создано за несколько дней, когда на это ушло бы две или три недели.

Что часто недооценивается для внутренней производительности, так это демократизация данных. Мы работали и продолжаем работать над лучшим использованием наших внутренних данных, чтобы и люди, и системы ИИ могли принимать лучшие решения. Это включает понимание потребностей клиентов, улучшение операций и создание продуктов, которые учатся на прошлом опыте. Это все еще процесс, поскольку это итеративный и аналитический процесс для оценки того, что работает, а что нет.

Многие организации спешат развернуть агентов ИИ. Какие практические уроки вы выучили о том, где автономный ИИ может действительно создать ценность, а где человеческий надзор остается необходимым?

Легко увлечься хайпом об автоматизации. Но я считаю, что подход к агентам должен быть методичным. Я бы посоветовал никогда не начинать с целевого уровня автоматизации; вместо этого начните с определения рабочих процессов, где агенты могут создать ценность, разбейте их на более мелкие части и спросите, какие из этих частей можно полностью автоматизировать, какие полуавтоматизировать, а где человеческая экспертиза необходима.

На практике мы обнаружили, что агенты создают наибольшую ценность, когда они используются в высокоопределенных задачах, которые варьируются от сбора информации до анализа входных данных, генерации рекомендаций и подготовки выходных данных для следующего шага. Тонкая настройка автоматизации, где задача достаточно проста, работает гораздо лучше, чем попытка автоматизировать весь сложный процесс.

Где люди остаются необходимыми, так это в надзоре, обработке исключений, принятии решений, чувствительных к клиентам, и, в целом, в ситуациях, где подотчетность имеет значение. Цель никогда не заключается в замене человеческого принятия решений, а в том, чтобы позволить агентам обрабатывать части, где они могут надежно создать ценность, а людям – обрабатывать решения, которые требуют подотчетности.

MCE говорил о использовании ИИ для предоставления более персонализированного опыта устройств и улучшения операционной эффективности для операторов мобильной связи. Как вы балансируете персонализацию с растущими проблемами вокруг конфиденциальности, прозрачности и доверия пользователей?

Поскольку ИИ кажется так человеческим, пользователи естественным образом взаимодействуют с ним способами, которые раскрывают больше, чем они иногда должны. Это ставит реальную ответственность на организации, чтобы быть бдительными и прозрачными в отношении того, какие данные собираются. Простой пример: когда клиент отправляет скриншот в качестве части процесса устранения неполадок, это изображение может непреднамеренно захватить личную информацию на их экране. Необходимо, чтобы организации применяли меры безопасности для обрезки изображения и удаления лишнего видимого контента, сохраняя фокус именно на том, что взаимодействие должно быть, и снижая ненужную экспозицию данных.

Для меня любые данные, которые мы собираем, должны четко служить интересам и потребностям клиента. Они должны собираться только тогда, когда это поддерживает конкретную цель, такую как решение проблемы клиента или предоставление соответствующего уровня персонализации. В то же время данные должны обрабатываться в сохраняющей конфиденциальность манере, избегая любых ненужных связей с реальной идентичностью клиента.

Иными словами, понять конкретные потребности профиля клиента в отношении нашего бизнеса. В нашем случае, как организация, соответствующая конфиденциальности, это означает знание состояния мобильного устройства и поведения пользователя в отношении провайдера, а не о клиенте.

Что также важно, так это само взаимодействие с клиентом. Ограничители имеют решающее значение здесь, чтобы оставаться в пределах цели, бренда и действительно избегать ухода за пределы того, что организации готовы управлять. На практике ограничители помогают избежать юридических или нормативных нарушений и негативного опыта клиента. Иногда это могут быть утомительные процессы, но они необходимы.

Вы преподавали предметы, варьирующиеся от основ компьютерных наук до информационного поиска и добычи данных. Если бы вы проектировали учебную программу по ИИ для студентов, вступающих в рабочую силу сегодня, какие темы бы вы отдали приоритет, а какие устаревшие концепции бы удалили?

Учебная программа должна измениться двумя способами. Темы, ранее ограниченные аспирантскими программами, такие как нейронные сети, трансформеры, большие языковые модели, генерация с поддержкой извлечения, оценка, выравнивание и ответственный ИИ, должны стать основными предметами бакалавриата. Студенты, вступающие в рабочую силу, должны понять, как эти системы работают и как критически их оценивать.

Студенты также должны научиться использовать ИИ ответственно как инструмент для обучения и исследования. Это означает вопросы к выводам, проверку источников, понимание ограничений и обращение с ИИ как с мыслящим партнером, а не как с捷径 для выполнения домашнего задания.

Что я не стал бы удалять, так это математику и алгоритмические основы. Я бы сказал, что они так же важны, как и раньше. Что я бы уменьшил, так это задания, которые вознаграждают механическую реализацию без демонстрации критического мышления. Фокус должен сместиться в сторону формулирования проблем, оценки, проектирования систем и ответственного использования.

Будучи советником нескольких стартапов по стратегии ИИ, какие наиболее распространенные ошибки основатели совершают при построении продуктов ИИ, и что отличает компании, которые успешно переходят от прототипа к производству?

Наиболее распространенная ошибка, которую я вижу, – это влюбленность в технологию, прежде чем действительно понять проблему, вашего клиента или путь к внедрению. Второе место занимает непонимание ограничений ИИ достаточно хорошо, поэтому заставление его работать в случаях использования, где он еще не достаточно зрел.

Что отличает основателей, которые добиваются успешного производства, так это глубокая экспертиза в конкретной области и исследовательский настрой. Лучшие продукты ИИ приходят от основателей, которые понимают конкретную вертикаль достаточно хорошо, чтобы определить реальный технологический пробел. Они не начинают с “что мы можем сделать с ИИ?”, а с “здесь есть конкретная проблема, вот почему существующие решения на рынке не удовлетворяют, и вот почему ИИ может теперь решить это устойчиво”.

Кроме того, успешные основатели постоянно учатся у клиентов, конкурентов, советников и неудачных попыток. Они изучают, как принимаются решения, как движутся бюджеты и что создает доверие для их целевой аудитории. В конце концов, они не просто строят продукт, они строят что-то, что должно выжить в реальной среде, а не для самого себя.

Оглядываясь вперед на пять лет, считаете ли вы, что наибольшее влияние ИИ придет от более мощных фундаментальных моделей, агентных систем, многомодального ИИ, интеллекта на устройстве или совершенно другой тенденции, которую отрасль в настоящее время недооценивает?

Наибольшее влияние не придет только от улучшения фундаментальных моделей, а от того, как модели встраиваются в системы, которые могут наблюдать и действовать в реальных рабочих процессах, одновременно улучшаясь. Этот переход от мощной модели к способной системе – это то место, где я ожидаю наиболее значимый прогресс в ближайшем будущем.

Это станет особенно сильным, когда системы станут полностью многомодальными, и рассуждение над текстом, голосом, изображениями, видео и другими контекстными реальными сигналами сможет тесно имитировать, как люди понимают мир. Это откроет новые возможности в поддержке клиентов, здравоохранении, производстве и т. д.

Другая возникающая технология, которую я считаю потенциально разрушительной, – это агенты, взаимодействующие с физическим миром. Компании, такие как Boston Dynamics, уже демонстрируют искусство возможного и потенциал того, когда восприятие, рассуждение, планирование и физические действия сходятся. Будь то в гуманоидной форме или в специализированных роботических системах, агенты с телом могут оказаться одной из наиболее осязаемых и революционных выражений ИИ, которые мы увидим в ближайшие пять лет. Для MCE это создает возможности в логистике и операционных рабочих процессах, где многие повторяющиеся, низкосложные задачи все еще требуют физического человеческого взаимодействия. Примеры включают подъем устройства, нажатие кнопок, подключение кабелей или перемещение устройств между станциями. Это идеальные кандидаты для автоматизации с помощью робототехники и ИИ, что позволяет системам быть более эффективными, последовательными и обрабатывать гораздо больший объем.

Для телекоммуникаций предсказание оттока клиентов и действие на основе ИИ-моделей – это то место, где деньги будут в ближайшие годы. Если вы можете построить надежную модель, которая включает данные из всех разных точек клиента, может точно оценить вероятность оттока и затем действовать на это, вы решите застойную проблему для провайдеров.

Спасибо за отличное интервью, читатели, которые хотят узнать больше, должны посетить MCE Systems.