Йотам Орен, генеральний директор та співзасновник Mona Labs – Серія інтерв’ю

Йотам Орен – генеральний директор та співзасновник Mona Labs, платформи, яка дозволяє підприємствам перетворити ініціативи штучного інтелекту з лабораторних експериментів у масштабовані бізнес-операції,真正 розуміючи, як моделі машинного навчання поводяться в реальних бізнес-процесах та додатках.

Mona автоматично аналізує поведінку ваших моделей машинного навчання по захищеним сегментам даних та в контексті бізнес-функцій, щоб виявити потенційний упередження штучного інтелекту. Mona пропонує можливість генерувати повні звіти про справедливість, які відповідають промисловим стандартам та нормативним вимогам, та надають впевненість, що додаток штучного інтелекту є відповідним та вільним від будь-якого упередження.

Що спочатку привернуло вашу увагу до комп’ютерних наук?

Комп’ютерні науки – це популярна кар’єрна стежка в моєй сім’ї, тому це завжди було в зоні моїх інтересів як життєздатний варіант. Окрім того, ізраїльська культура дуже про-технологічна. Ми святкуємо інноваційних технологів, і я завжди мав відчуття, що комп’ютерні науки пропонують мені можливість для росту та досягнень.

Незважаючи на це, це стало моїм особистим захопленням лише тоді, коли я досяг університету. Я не був одним з тих дітей, які почали програмувати в середній школі. У моїй молодості я був зайнятий грою в баскетбол, тому не звертав уваги на комп’ютери. Після школи я провів близько 5 років у війську, на оперативних/бойових керівних посадах. Тому, в певному сенсі, я почав дізнаватися про комп’ютерні науки лише тоді, коли мені потрібно було вибрати спеціальність в університеті. Що одразу привернуло мою увагу, було те, що комп’ютерні науки поєднують розв’язання проблем та вивчення мови (або мов). Дві речі, які мене особливо цікавили. З того часу я був захоплений.

З 2006 по 2008 рік ви працювали над мапуванням та навігацією для малої компанії, які були деякими з ваших ключових висновків з цього періоду?

Моя роль у Telmap полягала у створенні пошукової системи на основі картографічних даних.

Це були дуже ранні дні “великих даних” в підприємстві. Ми навіть не називали це так, але ми придбали величезні набори даних та намагалися отримати найбільш впливаючі та відповідні висновки, щоб показати їх нашим кінцевим користувачам.

Одним з вражаючих висновків, яких я дійшов, було те, що компанії (включаючи нас) використовували дуже мало своїх даних (не кажучи вже про публічно доступні зовнішні дані). Там був величезний потенціал для нових висновків, кращих процесів та досвіду.

Іншим висновком було те, що отримання більшої кількості наших даних залежало, природно, від наявності кращої архітектури, інфраструктури тощо.

Чи можете ви поділитися історією створення Mona Labs?

Троє з нас, співзасновників, були навколо даних продуктів протягом усієї нашої кар’єри.

Немо, технічний директор, – мій університетський друг та однокласник, і один з перших працівників Google (GOOGL ) Tel Aviv. Він створив продукт там під назвою Google Trends, який мав багато передових аналітичних даних та машинного навчання на основі даних пошукової системи. Ітай, інший співзасновник та директор продукту, був у команді Немо в Google (і ми з ним познайомилися через Немо). Двоє з них завжди були розчаровані тим, що системи, керовані штучним інтелектом, залишаються без нагляду після початкового розвитку та тестування. Незважаючи на труднощі у правильному тестуванні цих систем до виробництва, команди все одно не знали, як добре їхні передбачувальні моделі працювали з часом. Крім того, здавалося, що єдина відгука про системи штучного інтелекту була лише тоді, коли щось пішло не так, і команда розробників була викликана для “пожежної тривоги”, щоб виправити катастрофічні проблеми.

Тоді як я був консультантом у McKinsey & Co, і однією з найбільших бар’єрів, які я бачив для програм штучного інтелекту та великих даних у великих підприємствах, була відсутність довіри до цих програм з боку бізнес-стейкхолдерів.

Спільна нить тут стала очевидною для Немо, Ітая та мене в наших розмовах. Індустрії потрібна інфраструктура для моніторингу систем штучного інтелекту/машинного навчання у виробництві. Ми прийшли до бачення надання цієї видимості для збільшення довіри бізнес-стейкхолдерів та для надання командам штучного інтелекту можливості завжди мати контроль над тим, як їхні системи працюють, та ітерувати більш ефективно.

І саме тоді було засновано Mona.

Які деякі з поточних проблем із відсутністю прозорості штучного інтелекту?

У багатьох галузях організації вже витратили десятки мільйонів доларів на свої програми штучного інтелекту та бачили деякий початковий успіх у лабораторії та у малих масштабах розгортання. Але масштабування, досягнення широкого прийняття та отримання бізнесу, який насправді покладається на штучний інтелект, було величезним викликом для майже всіх.

Чому це відбувається? Ну, це починається з того факту, що велика наукова робота не автоматично перекладується у великі продукти (один клієнт сказав нам: “Моделі машинного навчання – це як автомобілі, як тільки вони залишають лабораторію, вони втрачають 20% своєї вартості”). Великі продукти мають підтримуючі системи. Є інструменти та процеси, які забезпечують, що якість підтримується з часом, та що проблеми виявляються рано та виправляються ефективно. Великі продукти також мають постійний зворотній зв’язок, вони мають цикл покращення та дорожню карту. Отже, великі продукти вимагають глибокої та постійної прозорості продуктивності.

Коли немає прозорості, ви закінчуєте з:

• Проблемами, які залишаються приховані протягом деякого часу, а потім раптово виникають на поверхню, спричиняючи “пожежні тривоги”
• Тривалими та ручними розслідуваннями та виправленнями
• Програмою штучного інтелекту, якій бізнес-користувачі та спонсори не довіряють, і в кінцевому підсумку не можуть масштабуватися

Які деякі з викликів створення прозорих та надійних передбачувальних моделей?

Прозорість – це важливий фактор у досягненні довіри, природно. Прозорість може приймати різні форми. Є прозорість окремих передбачень, яка може включати відображення рівня впевненості користувачеві або надання пояснення/підстави для передбачення. Прозорість окремих передбачень в основному спрямована на допомогу користувачеві відчувати себе комфортно з передбаченням. І є загальна прозорість, яка може включати інформацію про передбачувальну точність, несподівані результати та потенційні проблеми. Загальна прозорість потрібна команді штучного інтелекту.

Найбільш складною частиною загальної прозорості є виявлення проблем на ранній стадії, попередження відповідного члена команди, щоб вони могли вжити коригувальні дії до того, як катастрофи трапляться.

Чому виявлення проблем на ранній стадії є складним:

• Проблеми часто починаються з малого та киплять, перш ніж раптово виникнути на поверхню.
• Проблеми часто починаються через неконтрольовані або зовнішні чинники, такі як джерела даних.
• Є багато способів “розділити світ” і вичерпно шукати проблеми в малих кишенях, що може призвести до великої кількості шуму (втоми від сповіщень),至少 коли це робиться в наївному підході.

Іншим складним аспектом надання прозорості є величезна кількість випадків використання штучного інтелекту. Це робить підхід “один розмір підходить всім” майже неможливим. Кожен випадок використання штучного інтелекту може включати різні структури даних, різні бізнес-цикли, різні метрики успіху та часто різні технічні підходи та навіть стеки.

Отже, це монументальна задача, але прозорість така фундаментальна для успіху програм штучного інтелекту, тому вам потрібно це зробити.

Чи можете ви поділитися деякими деталями про рішення для моделей NLU / NLP та чат-ботів?

Конверсаційний штучний інтелект – це одна з основних вертикалей Mona. Ми пишаємося підтримкою інноваційних компаній з широким спектром випадків використання конверсаційного штучного інтелекту, включаючи моделі мови, чат-боти та інше.

Спільний фактор по всім цим випадкам використання є те, що моделі працюють близько (і іноді видимо) до клієнтів, тому ризики неконсистентної продуктивності або поганої поведінки є вищими. Стає так важливо для команд конверсаційного штучного інтелекту зрозуміти поведінку системи на детальному рівні, що є однією з сильних сторін моніторингового рішення Mona.

Що робить рішення Mona унікальним, так це систематичне просіювання груп розмов та пошук кишень у яких моделі (або боти) поводяться неправильно. Це дозволяє командам конверсаційного штучного інтелекту виявити проблеми на ранній стадії та до того, як клієнти їх помітять. Ця можливість є критичним драйвером для команд конверсаційного штучного інтелекту при виборі моніторингових рішень.

Підсумувавши, Mona пропонує комплексне рішення для моніторингу конверсаційного штучного інтелекту. Воно починається з забезпечення єдиного джерела інформації для поведінки системи з часом, та продовжується постійним відстежуванням ключових показників продуктивності, та проактивними висновками про кишені неправильної поведінки – що дозволяє командам вжити превентивні, ефективні коригувальні заходи.

Чи можете ви поділитися деякими деталями про інжиніринг інсайтів Mona?

Так. Почнімо з мотивації. Метою інжинірингу інсайтів є надання користувачам аномалій з правильною кількістю контекстної інформації та без створення шуму або втоми від сповіщень.

Інжиніринг інсайтів – це унікальний аналітичний робочий процес. У цьому процесі інжиніринг шукає аномалії у всіх сегментах даних, що дозволяє виявити проблеми на ранній стадії, коли вони ще “малі”, та до того, як вони вплинуть на весь набір даних та метрики бізнесу. Він потім використовує пропрієтарний алгоритм для виявлення коренних причин аномалій та забезпечує, щоб кожна аномалія була попереджена лише один раз, щоб уникнути шуму. Підтримувані типи аномалій включають: аномалії часових рядів, дрейф, аутліери, погіршення моделі та інше.

Інжиніринг інсайтів є висококонфігурабельним через інтуїтивну безкодову/низькокодову конфігурацію Mona. Конфігурабельність інжинірингу робить Mona найбільш гнучким рішенням на ринку, покриваючи широкий спектр випадків використання (наприклад, пакетну та потокову обробку, з/без бізнес-фідбеку/ґраунд-труту, між версіями моделей або між тренуванням та висновком, та інше).

Нарешті, цей інжиніринг інсайтів підтримується візуалізаційним панелем, на якому інсайти можна переглянути, та набором інструментів для розслідування, щоб дозволити аналіз коренних причин та подальшу експлуатацію контекстної інформації. Інжиніринг інсайтів також повністю інтегрований з інформативним двигуном, який дозволяє надсилати інсайти до робочих середовищ користувачів, включаючи електронну пошту, платформи співробітництва та інше.

31 січня Mona представила своє нове рішення для справедливості штучного інтелекту, чи можете ви поділитися з нами деталями про цю функцію та чому вона важлива?

Справедливість штучного інтелекту – це про забезпечення того, щоб алгоритми та системи, керовані штучним інтелектом, приймали необмежені та справедливі рішення. Вирішення та запобігання упередженості у системах штучного інтелекту є важливим, оскільки вони можуть призвести до значних реальних наслідків. З ростом штучного інтелекту його вплив на повсякденне життя людей буде видно у все більшій кількості місць, включаючи автоматизацію нашого водіння, виявлення захворювань більш точно, покращення нашого розуміння світу та навіть створення мистецтва. Якщо ми не можемо довіряти, що це справедливо та необмежено, як ми можемо дозволити йому продовжувати поширюватися?

Одним з основних причин упередженості у системах штучного інтелекту є здатність навчальних даних моделей представляти реальний світ у повному обсязі. Це може походити з історичної дискримінації, недопредставленості певних груп або навіть намірного маніпулювання даними. Наприклад, система розпізнавання облич, навчена в основному на індивідуумах зі світлою шкірою, ймовірно, матиме вищу помилку розпізнавання індивідуумів з темнішою шкірою. Аналогічно, мова модель, навчена на текстових даних з вузького спектра джерел, може розвинути упередженість, якщо дані нахилені до певних світоглядів, на теми, такі як релігія, культура тощо.

Рішення Mona для справедливості штучного інтелекту надає командам штучного інтелекту та бізнесу впевненість, що їхній штучний інтелект вільний від упередженості. У регульованих секторах рішення Mona може підготувати команди до готовності до відповідності.

Рішення Mona для справедливості є особливим, оскільки воно розташовується на платформі Mona – містку між даними та моделями штучного інтелекту та їхніми реальними наслідками. Mona розглядає всі частини бізнес-процесу, який служить моделі штучного інтелекту у виробництві, щоб корелювати між навчальними даними, поведінкою моделі та реальними наслідками у світі, щоб надати найповнішу оцінку справедливості.

Друга річ, у нього є унікальний аналітичний двигун, який дозволяє гнучке сегментування даних для контролю відповідних параметрів. Це дозволяє точні кореляційні оцінки у правильному контексті, уникнення парадоксу Сімпсона та надання глибокого реального “балансу упередженості” для будь-якого показника продуктивності та будь-якої захищеної функції.

Отже, загалом я б сказав, що Mona є фундаментальним елементом для команд, які cần будувати та масштабувати відповідальний штучний інтелект.

Яка ваша візія майбутнього штучного інтелекту?

Це велике питання.

Я думаю, що легко передбачити, що штучний інтелект буде продовжувати зростати у використанні та впливу по різних галузях та аспектах життя людей. Однак складно серйозно сприймати бачення, яке детальне та намагається охопити всі випадки використання та наслідки штучного інтелекту в майбутньому. Бо ніхто не знає достатньо, щоб створити цю картину правдоподібно.

Тим не менше, те, що ми знаємо точно, це те, що штучний інтелект буде в руках більшої кількості людей та буде служити більшій кількості цілей. Потреба у управлінні та прозорості значно збільшиться.

Фактична видимість штучного інтелекту та того, як він працює, відіграватиме дві основні ролі. По-перше, це допоможе встановити довіру людей та зняти бар’єри опору для швидшого прийняття. По-друге, це допоможе тим, хто експлуатує штучний інтелект, забезпечити, що він не виходить з-під контролю.

Дякую за велике інтерв’ю, читачам, які бажають дізнатися більше, слід відвідати Mona Labs.