Алон Ейрев, технічний директор (AI) MCE Systems – Серія інтерв’ю

Алон Ейрев, технічний директор (AI) MCE Systems, очолює стратегію штучного інтелекту компанії та технологічний стек, що охоплює архітектуру, розвиток моделей, інфраструктуру, інтеграцію продуктів та широке впровадження AI у внутрішніх операціях. Раніше він понад дев’ять років працював у компанії Intel (INTC ), починаючи від старшого інженера-програміста та архітектора програмного забезпечення до провідного наукового співробітника з природної мови, де він керував дослідженнями з видобування знань, забезпечував фінансування багаторічних проектів, публікував статті на великих конференціях з обробки природної мови та наставляв стартапи через Intel Ignite. На початку своєї кар’єри Ейрев допоміг розробити технологію персонального асистента у компанії Telmap, яка пізніше стала частиною Intel, а також радив компаніям на ранній стадії розвитку, викладаючи комп’ютерні науки, об’єктно-орієнтоване програмування, видобування даних та інформаційний пошук у кількох ізраїльських університетах.

MCE Systems розробляє шар досвіду, заснований на AI, для телекомунікаційних операторів, що з’єднує спадкові системи, дані в реальному часі та інтелектуальні робочі процеси для підтримки взаємодії клієнтів через кілька точок контакту. Заснована у 2005 році, компанія побудувала свій бізнес навколо управління життєвим циклом цифрових пристроїв, з технологією, що охоплює діагностику пристроїв та їх догляд, програми торгівлі, віддалену оцінку пристроїв та повернення. MCE все більше застосовує генеративний та агентний AI до цих робочих процесів, допомагаючи операторам виявляти проблеми з пристроями, спрямовувати клієнтів до потенційних рішень та координувати більш складні служби через цифрові та допоміжні канали.

Ви майже десять років працювали в Intel над NLP, видобуванням знань, пошуком інформації та навіть ранніми технологіями персонального асистента, які походять з Telmap, перш ніж стали частиною Intel. Оглянувшись назад, які ідеї з тих ранніх систем AI виявилися попереду свого часу, а які припущення індустрія повністю помилилася?

Одна ідея, яка виявилася попереду свого часу, була персональний асистент, над яким ми працювали до епохи великих мовних моделей. Ці системи розуміли намір, з’єднували контекст через завдання та допомагали користувачам досягати цілей природним чином. У них були ті ж амбіції, що й у сучасних агентів. Різниця полягала в підході: замість мовних моделей ми покладалися на комбінацію машинного навчання та алгоритмів для визначення наміру користувача. Цей метод, однак, виявився складним при застосуванні у великих масштабах, враховуючи різні способи, якими користувачі виражають одну й ту ж вимогу.

Представіть собі ситуацію, коли ви наймаєте службовця для обробки тисяч запитів клієнтів, але він може обробляти лише запити, сформульовані з певною структурою речення. Як ви можете собі уявити, це покрило б лише досить вузький діапазон випадків і було б складно обробляти багато проблем клієнтів. Великі мовні моделі змінили все. Сьогодні розуміння наміру користувача в основному вирішено. Отже, у нашому аналогії службовець тепер гнучкий і може спілкуватися з мільйонами клієнтів.

Хоча я не сказав би, що індустрія повністю помилилася в чомусь, я вважаю, що багато хто недооцінював, наскільки центральними стають мовні моделі. Великий стрибок відбувся, коли були представлені перші мовні моделі, такі як ELMo, BERT та RoBERTa. На той час мало хто справді зрозумів масштаб трансформації, яка була на горизонті. Ці моделі стали основою сучасних великих мовних моделей, які ми використовуємо кожен день і яких вже не можемо уявити без них.

Більшість компаній сприймали ці перші моделі як корисні компоненти вузьких застосунків, а не як основу для цілком нового обчислювального парадигми. У ретроспективі багато з них пропустили можливість позиціонувати себе як великих гравців у сфері AI.

Під час вашої дослідницької кар’єри ви зосередилися на видобуванні знань з多 документів та розумінні подій. Як підприємства все частіше покладаються на великі мовні моделі, чому ви вважаєте, що структуроване видобування знань залишається таким критичним викликом?

Великі мовні моделі є потужними інструментами для вирішення широкого спектра тем, але підприємства та кінцеві користувачі потребують експертизи для вирішення конкретної проблеми, що вимагає доступу до знань. Цей контекстуальний власницький знання зазвичай не є частиною навчальних даних моделі, тому розгортання великої мовної моделі в підприємстві означає збір розуміння по потенційно мільйонам внутрішніх точок даних. Сучасні великі мовні моделі в основному борються з цим, пропускаючи суттєвий контекст через технічні та доступні обмеження, і цей розрив обмежує їхній вплив.

Наприклад, у MCE ми пропонуємо рішення AI-агента для служби клієнтів. Одним з його цілей є дозволити телекомунікаційним операторам допомагати своїм клієнтам вирішувати технічні проблеми з мобільними пристроями без потреби в людському втручанні. Без підгодівлі AI-агента контекстуальною технічною інформацією про пристрій усе, що зробить AI-агент, – це надасть загальні результати, які не вирішують проблему чи є неважливими, а потім змусить клієнта шукати людську допомогу. Це саме така проблема видобування знань, яку нам довелося подолати, щоб розгорнути AI з нашими клієнтами, і це те місце, де організації часто не досягають бажаних результатів.

Моє власне дослідження занурювалося у видобування знань та пошук інформації з великих колекцій документів, досліджуючи взаємозв’язок між “подіями”, термін, який використовується у галузі AI для визначення основної причинності та часової рамки будь-якого виду представлення інформації. Ми застосовуємо це у MCE у наших рішеннях AI для людської взаємодії, будуючи структуроване розуміння, яке може допомогти великим мовним моделям краще підсумовувати, представляти та шукати знання для вирішення проблеми клієнта.

Ви опублікували дослідження на топ-конференціях з NLP, включаючи ACL, EMNLP та NAACL. Які прориви за останні п’ять років мали найбільший реальний вплив, а які широко розрекламовані досягнення, на вашу думку, зараз перебільшені?

Є кілька проривів, які виділяються для мене, і вони відбуваються у послідовності, оскільки великі мовні моделі розвивалися.

Першим був інструктивний настрій та інженерія промптерів. Це потрібно було вирішити спочатку, перш ніж досягти широкого впровадження. Ми всі були там, де просимо велику мовну модель про щось конкретне, і вона йде по колу, наближаючись, але не даючи потрібної відповіді. Отже, вирішення того, як моделі можуть зрозуміти промптер і надати точні результати, було першим великим кроком.

У зв’язку з цим наступним проривом було створення агентів, яким потрібно було, щоб великі мовні моделі перейшли за межі окремих завдань, промптерів, і насправді робили кілька речей: створювали плани, взаємодіяли з кінцевим користувачем, використовували інструменти, використовували пам’ять та доступ до знань. Це було суттєво важливо для того, де ми зараз перебуваємо.

Але наступний прорив, який тільки частково вирішено, але перебуває у процесі, полягає у повному вирішенні проблеми галюцинації. На даний момент відбулося достатньо прогресу, щоб ми могли покладатися на великі мовні моделі значно більше, ніж раніше. Але все ще залишається робота, і ще одна причина, чому людський нагляд та охорони залишаються суттєво важливими.

Що перебільшено, це ступінь автономності, яку люди приписують агентам. Повністю автономні системи, що працюють у складних бізнес-середовищах без людського нагляду, ще не є достатньо надійними на моє бачення. Що я вважаю більш продуктивним, це проектування AI для виконання високоцінних завдань, ескалації невизначеності та пояснення свого розуміння, не передавючи людський контроль над загальним потоком. Саме там агентний AI створить найбільшу реальну цінність у короткій перспективі.

Ви працювали як дослідник, архітектор програмного забезпечення, керівник інженерії, наставник стартапів, лектор та зараз головний офіцер з AI. Як ваше визначення успішного AI змінилося протягом різних стадій вашої кар’єри?

На протяженні моєї кар’єри я дізнався, що визначення успішного AI продовжує еволюціонувати, і різні основні цінності розкидані по дисциплінам. Застосована наукова робота та архітектура навчили мене, що AI повинен працювати під реальними обмеженнями. Академічна наукова робота навчила мене важливості строгості та оцінки. Керівництво інженерії показало мені, що виконання та операційна дисципліна мають таку саму важливість, як і сама модель. Наставництво стартапів навчило мене, що AI створює найбільший вплив, коли він вирішує реальну проблему та має чіткий шлях до впровадження.

Сьогодні, як головний офіцер з AI у MCE, я визначаю успіх як AI, який створює вимірювану цінність, одночасно здобуваючи довіру кінцевого користувача. Він повинен покращувати результати для клієнтів, працівників та бізнесу, бути надійним для виробництва, прозорим для управління та корисним настільки, щоб люди його приймали. У цьому сенсі моє визначення змінилося від “Чи працює технологія?” до “Чи створює вона цінність відповідально, повторно та у великих масштабах?”

MCE Systems застосовує AI для телекомунікаційного досвіду клієнтів, служби клієнтів та маркетингу. Які найбільш переконливі випадки використання AI зараз з’являються у галузі телекомунікацій?

Оператори зв’язку (CSP), або “перевізники”, як їх зазвичай називають, перебувають у складному становищі, де вони стикаються з проблемою комодифікації. Ціна є справжнім привабливим фактором для залучення нових клієнтів або утримання існуючих, але це не є устойчивим. Якщо ви подивитесь на інших гігантів, які продають споживчі товари чи послуги, як Apple (AAPL ), Amazon (AMZN ) чи Netflix (NFLX ), вони побудували великий продукт та досвід навколо нього. Це зіграло свою роль у сфері фінансів, наприклад, де банки були змушені новими гнучкими гравцями перейти від утримання заощаджень людей та пропозиції інвестиційних продуктів до надання повного цифрового досвіду навколо нього. Те ж саме відбувається і з телекомунікаціями.

Наше бачення полягає у допомозі телекомунікаційним операторам додати додаткову цінність своїм клієнтам за допомогою кращого досвіду на додаток до великого продукту зв’язку, який вони вже пропонують. Це означає бути більш проактивними та комунікативними з клієнтами щодо їхнього загального досвіду мережі та пристрою. А для нас AI є тим, що нарешті дозволяє їм робити це добре.

Наприклад, виявлення проблеми з пристроєм або проблеми з підключенням до мережі чи проблему з розрядкою батареї до того, як клієнт її помітить, і допомога їм у вирішенні цієї проблеми. Такі досвіди будують справжню лояльність. Знання ситуації клієнта достатньо добре, щоб запропонувати йому правильний пакет широкосмугового доступу, додатковий пакет даних або продукт для lối життя в потрібний момент, стимулює вищу конверсію. А зібрання сигналів по мережевих активах, CRM та даних пристроїв для точного прогнозування ймовірності відходу клієнта, а потім дії щодо цього, можливо, є найпотужнішим випадком використання серед усіх. Оператори, які це роблять правильно, матимуть суттєву перевагу.

Є багато шуму навколо того, щоб стати “AI-родним” або “Готовим до AI”. Як MCE підходить до цього парадигми, а які найбільш важливі моменти організації часто пропускають під час цієї трансформації?

Що багато хто пропускає, це те, що трансформація AI не є лише розгортанням технології, а також зміною модусу operandi. Найкращі можливості виникають там, де прийняття AI відчувається природнім: робочий процес вже існує, біль є вимірюваним, а AI може явно покращити швидкість, якість чи процес прийняття рішень. MCE підходить до цього парадигми з кількома ідеями.

Ми почали з питання про зрілість інструментів AI та впровадження AI способами, які множать продуктивність працівників. Ми запитали, як ми можемо навчити наші команди, визначити чіткі керівні принципи використання та з’єднати внутрішні системи з AI, де це справді може зробити різницю щодня.

Як тільки ми оцінили нашу базу інструментів, ми розглянули автоматизацію робочих процесів та визначили, де агенти можуть зменшити ручну роботу. Природно, ми виявили, що можемо суттєво скоротити час розробки. У одному прикладі функціональний прототип застосунку зайняв кілька днів для створення, тоді як раніше це займало дві-три тижні.

Що часто недооцінюється для внутрішньої продуктивності, це демократизація даних. Ми працюємо над тим, щоб краще використовувати наші внутрішні дані, щоб люди та системи AI приймали кращі рішення. Це включає розуміння потреб клієнтів, покращення операцій та створення продуктів, які вчаться з минулого досвіду. Це все ще процес, оскільки це ітеративний та аналітичний процес для оцінки того, що працює, а що ні.

Багато організацій спішать розгортати агентів AI. Які практичні уроки ви вивчили про те, де автономний AI може справді створити цінність, а де людський нагляд залишається суттєво важливим?

Легко захопитися гіпом автоматизації. Але я вірю в підхід до агентів методично. Я б порадив ніколи не починати з ціліового рівня автоматизації; натомість починайте з ідентифікації робочих процесів, де агенти можуть створити цінність, розбивайте їх на менші частини та питайте, які з цих частин можна повністю автоматизувати, які напівавтоматизовані, а де людський суд необхідний.

На практиці ми виявили, що агенти створюють найбільшу цінність, коли їх використовують для високовизначених завдань, які варіюються від збору інформації до аналізу вхідних даних, генерації рекомендацій та підготовки виходів для наступного кроку. Виробничо налаштована автоматизація, де завдання досить просте, працює значно краще, ніж спроба автоматизувати весь складний процес.

Там, де люди залишаються суттєво важливими, це нагляд, обробка винятків, клієнто-чутливі рішення та загалом ситуації, де відповідальність має значення. Метою ніколи не є замінити людське прийняття рішень, а дозволити агентам обробляти частини, де вони можуть надійно створити цінність, одночасно дозволяючи людям обробляти рішення, які вимагають відповідальності.

MCE говорить про використання AI для надання більш персоналізованого досвіду пристроїв та покращення операційної ефективності для мобільних операторів. Як ви балансуєте персоналізацію з зростаючими проблемами щодо конфіденційності, прозорості та довіри користувачів?

Через те, що AI здається настільки людським, користувачі природно взаємодіють з ним способами, які розкривають більше, ніж вони іноді повинні. Це ставить справжню відповідальність на організації бути пильними та прозорими щодо збору даних. Простий приклад: коли клієнт надсилає знімок екрана як частину процесу усунення неполадок, цей знімок може ненавмисно захопити особисту інформацію на екрані. Це обов’язково для організацій застосувати заходи для обрізання зображення, щоб видалити зайвий видимий контент, зберігаючи фокус на тому, про що йде мова у взаємодії, та зменшуючи непотрібну експозицію даних.

Для мене будь-які дані, які ми збираємо, повинні явно служити інтересам та потребам клієнта. Їх слід зібрати лише тоді, коли це підтримує певну мету, таку як вирішення запиту клієнта чи надання належного рівня персоналізації. У той же час дані повинні оброблятися у спосіб, який зберігає конфіденційність, уникając будь-якої непотрібної зв’язності з реальною ідентичністю клієнта.

Іншими словами, зрозуміти профіль клієнта та його конкретні потреби щодо нашого бізнесу. У нашому випадку, як організація, що відповідає вимогам конфіденційності, це означає знання стану мобільного пристрою та поведінки користувача щодо оператора, а не про ідентичність клієнта та інші види поведінки.

Ви викладали предмети, починаючи від основ комп’ютерних наук до пошuku інформації та видобування даних. Якби ви проектували навчальний план AI для студентів, які зараз вступають на роботу, які теми ви пріоритезували б, а які застарілі концепції ви видалити б?

Навчальний план повинен змінитися двома способами. Теми, які раніше обмежувалися аспірантурою, такі як нейронні мережі, трансформери, великі мовні моделі, генерація з підтримкою пошuku, оцінка, вирівнювання та відповідальний AI, повинні стати основними предметами бакалаврату. Студенти, які вступають на роботу, повинні розуміти, як працюють ці системи, та критично оцінювати їх.

Студенти також повинні навчитися використовувати AI відповідально як інструмент для навчання та дослідження. Це означає питання щодо виходів, верифікацію джерел, розуміння обмежень та сприйняття AI як партнера думок, а не як зрізку для виконання домашніх завдань.

Що я не видалю, це математику та алгоритмічні основи. Я б сказав, що вони так само важливі, як і раніше. Що я б зменшив, це завдання, які винагороджують механічну реалізацію без демонстрації критичного мислення. Фокус повинен зміститися до формулювання проблем, оцінки, проектування систем та відповідального використання.

Як людина, яка порадила численним стартапам щодо стратегії AI, які найбільш поширені помилки, які засновники роблять при створенні продуктів AI, а які речі відрізняють компанії, які успішно переходять від прототипу до виробництва?

Найпоширеніша помилка, яку я бачу, полягає у тому, що засновники закохуються у технологію, перш ніж справді зрозуміти проблему, клієнта чи шлях до впровадження. Близька друга – це незнання обмежень AI достатньо добре, тому вони змушують його до випадків використання, де він ще не достатньо зрілий.

Що відрізняє засновників, які досягають успішного виробництва, це глибока експертиза у певній галузі та дослідницька позиція. Найкращі продукти AI походять від засновників, які розуміють певну вертикаль достатньо добре, щоб ідентифікувати справжню технологічну прогалину. Вони не починають з “Що ми можемо зробити з AI?”, а з “Ось конкретна проблема, ось чому існуючі рішення на ринку не задовольняють, і ось чому AI зараз може її вирішити устойчиво”.

Оглянувшись вперед на п’ять років, ви вважаєте, що найбільший вплив AI прийде від більш потужних фундаментальних моделей, агентних систем, багатомодального AI, інтелекту на пристрої чи зовсім іншого тренду, якого індустрія зараз недооцінює?

Найбільший вплив не прийде лише від покращення фундаментальних моделей, а від того, як ці моделі будуть закладені у системи, які можуть спостерігати та діяти у реальних робочих процесах, одночасно покращуючи. Цей перехід від потужної моделі до здатної системи – це те місце, де я очікую найбільш суттєвий прогрес у ближній перспективі.

Це стане особливо сильним, коли системи стають повністю багатомодальними, розуміючи текст, голос, зображення, відео та інші контекстні сигнали реального світу, що можуть тісно імітувати, як люди розуміють світ. Це відкриє нові можливості у підтримці клієнтів, охороні здоров’я, виробництві тощо.

Інша появляюча технологія, яку я вважаю революційною, – це агенти, які взаємодіють із фізичним світом. Компанії, такі як Boston Dynamics, вже демонструють мистецтво можливого та потенціал того, коли сприйняття, розуміння, планування та фізичні дії з’єднуються. Чи то у вигляді гуманоїдного, чи у вигляді спеціалізованих роботизованих систем, агенти з тілами можуть виявитися однією з найбільш осяжних та революційних виразів AI, яких ми побачимо у найближчі п’ять років. Для MCE це створює можливості у логістиці та операційних робочих процесах, де багато повторюваних, низько-комплексних завдань все ще потребують фізичної взаємодії людини. Приклади включають підняття пристрою, натискання кнопок, підключення кабелів чи переміщення пристроїв між станціями. Це ідеальні кандидати для автоматизації через робототехніку та AI, які дозволяють системам бути більш ефективними, послідовними та обробляти значно більший обсяг.

Для телекомунікацій передбачення ймовірності відходу клієнта та дії щодо цього за допомогою моделей AI – це те місце, де гроші будуть у найближчі роки. Якщо ви можете побудувати надійну модель, яка включає дані з усіх різних точок клієнта, може точно оцінити ймовірність відходу та потім діяти щодо цього, ви вирішите застійну проблему для операторів.

Дякую за велике інтерв’ю. Читачам, які бажають дізнатися більше, рекомендуємо відвідати MCE Systems.