Ліран Хасон, співзасновник та генеральний директор Aporia – Серія інтерв’ю

Ліран Хасон є співзасновником і генеральним директором Aporia, повноцінної платформи спостереження за машинним навчанням, яку використовують компанії Fortune 500 і команди з науки про дані по всьому світу, щоб забезпечити відповідальну штучну інтелект. Aporia безшовно інтегрується з будь-якою інфраструктурою машинного навчання. Чи то сервер FastAPI на основі Kubernetes, чи відкритий інструмент розгортання, такий як MLFlow, чи платформа машинного навчання, така як AWS Sagemaker

До заснування Aporia Ліран був архітектором машинного навчання в Adallom (придбаному Microsoft (MSFT )), а пізніше інвестором у Vertex Ventures.

Ви почали програмування у віці 10 років, що спочатку привернуло вашу увагу до комп’ютерів, і над чим ви працювали?

Було 1999 рік, і мій друг зателефонував мені і сказав, що він створив веб-сайт. Після введення адреси довжиною 200 символів у моїй браузері, я побачив веб-сайт з його ім’ям на ньому. Мене здивувало те, що він створив щось на своєму комп’ютері, і я міг побачити це на своєму власному комп’ютері. Це зробило мене надзвичайно цікавим щодо того, як це працює, і як я можу зробити те саме. Я попросив свою маму купити мені книгу про HTML, яка стала моїм першим кроком у програмуванні.

Я знаходжу велику радість у прийнятті технічних викликів, і з часом моя цікавість тільки зростала. Я вивчив ASP, PHP і Visual Basic, і дійсно поглинув усе, що міг.

Коли мені було 13 років, я вже приймав на себе деякі фрілансові роботи, будуючи веб-сайти і програми для робочого столу.

Коли в мене не було активної роботи, я працював над своїми власними проєктами – зазвичай різними веб-сайтами і застосуваннями, спрямованими на допомогу іншим людям досягти їхніх цілей:

Blue-White Programming – це мова програмування на івриті, подібна до HTML, яку я створив після того, як зрозумів, що діти в Ізраїлі, які не мають високого рівня англійської мови, обмежені або відштовхнуті від світу програмування.

Blinky – Мої бабусі і дідусі глухі і використовують жестову мову для спілкування з друзями. Коли з’явилося програмне забезпечення для відеоконференцій, таке як Skype і ooVoo, воно дозволило їм вперше розмовляти з друзями, навіть якщо вони не знаходяться в одному приміщенні (як ми всі робимо з нашими телефонами). Однак, оскільки вони не могли чути, вони не могли знати, коли у них є вхідний дзвінок. Щоб допомогти їм, я написав програмне забезпечення, яке визначає вхідні відеодзвінки і попереджає їх про мигаючу світлодіодну матрицю в малому апаратному пристрої, який я створив і підключив до їхнього комп’ютера.

Це лише кілька проєктів, над якими я працював у підлітковому віці. Моя цікавість ніколи не зупинялася, і я знайшов себе, вивчаючи C, C++, Assembly і те, як працюють операційні системи, і дійсно намагався вивчити якомога більше.

Чи можете ви поділитися історією вашого шляху як архітектора машинного навчання в Microsoft-acquired Adallom?

Я почав свій шлях в Adallom після військової служби. Після 5 років у армії в якості капітана, я побачив велику можливість приєднатися до компанії, яка тільки з’явилася на ринку – як один з перших працівників. Компанія була очолювана великими засновниками, яких я знав зі своєї військової служби, і підтримувалася топовими венчурними фондами – такими як Sequoia. Вибухові технології хмарних обчислень тільки з’явилися на ринку, і ми будували одну з перших хмарних рішень з безпеки. Корпорації тільки починали переходити від локальних рішень до хмарних, і ми бачили появу нових галузевих стандартів – таких як Office 365, Dropbox (DBX ), Marketo, Salesforce і інші.

Під час моїх перших тижнів, я вже знав, що хочу створити свою власну компанію одного дня. Я дійсно відчував, з технічної точки зору, що я готовий до будь-якого виклику, який мені буде поставлений, і якщо не я сам, то я знав правильних людей, які можуть мені допомогти подолати будь-які труднощі.

Adallom мав потребу в комусь, хто має глибокі знання технологій, але міг би бути також орієнтований на клієнта. Пропустимо місяць вперед, і я вже знаходився в літаку до США, вперше в моєму житті, щоб зустрітися з людьми з LinkedIn (до придбання Microsoft). Через кілька тижнів вони стали нашими першими платними клієнтами в США. Це був лише один з багатьох великих корпорацій – Netflix , Disney, Safeway – яким я допомагав вирішувати критичні проблеми з хмарною безпекою.

Для мене приєднання до Adallom було справді про те, щоб приєднатися до місця, де я вірю в ринок, я вірю в команду, і я вірю в бачення. Я надзвичайно вдячний за можливість, яку мені було надано там.

Мета того, що я роблю, була і є дуже важливою. Для мене це було те саме в армії, це було завжди важливо. Я міг легко бачити, як підхід Adallom до підключення до рішень SaaS, потім моніторингу діяльності користувачів, ресурсів, виявлення аномалій тощо, був тим, як усе буде зроблено. Я зрозумів, що це буде підхід майбутнього. Тому я дійсно бачив Adallom як компанію, яка буде успішною.

Я був відповідальним за всю архітектуру нашої інфраструктури машинного навчання. І я бачив і пережив першим руком відсутність належного інструментарію для екосистеми. Так, було ясно для мене, що має бути присутнє спеціальне рішення в одному центральному місці, де можна побачити всі свої моделі; де можна побачити, які рішення вони приймають для вашого бізнесу; де можна відстежувати і ставати проактивним з вашими цілями машинного навчання. Наприклад, у нас були часи, коли ми дізналися про проблеми в наших моделях машинного навчання надто пізно, і це не добре для користувачів і дійсно не для бізнесу. Це місце, де почало формуватися ідея Aporia.

Чи можете ви поділитися історією походження Aporia?

Мій власний досвід з машинним навчанням починається в 2008 році, як частина спільного проєкту в Інституті Вейцмана, разом з Університетом Бата і китайським дослідницьким центром. Там я створив систему біометричної ідентифікації, аналізуючи зображення райдужної оболонки ока. Я зміг досягти 94% точності. Проєкт був успішним і був схвалений з дослідницької точки зору. Але для мене, оскільки я будував програмне забезпечення з 10 років, щось відчувалося не зовсім реальним. Ви не могли дійсно використовувати систему біометричної ідентифікації, яку я створив, в реальному житті, оскільки вона працювала добре тільки для конкретного набору даних, який я використовував. Це не було детермінативним достатньо.

Це лише трохи фону. Коли ви будуєте систему машинного навчання, наприклад для біометричної ідентифікації, ви хочете, щоб передбачення були детермінативними – ви хочете знати, що система точно ідентифікує певну особу, правильно? Як ваш iPhone не розблокується, якщо він не розпізнає правильну особу під правильним кутом, це бажаний результат. Але це дійсно не було випадком з машинним навчанням на той час, коли я вперше вступив у цю сферу.

Протягом семи років пізніше я переживав першим руком реальність виконання моделей виробництва без надійних обмежувачів, оскільки вони приймають рішення для нашого бізнесу, які впливають на наших клієнтів. Потім я був достатньо幸运им, щоб працювати інвестором у Vertex Ventures протягом трьох років. Я бачив, як все більше організацій використовували машинне навчання, і як компанії переходили від розмов про машинне навчання до його фактичного застосування. Однак ці компанії прийняли машинне навчання лише для того, щоб зіткнутися з тими самими проблемами, з якими ми зіткнулися в Adallom.

Кожен поспішав використовувати машинне навчання, і вони намагалися будувати системи моніторингу всередині. Очевидно, це не було їхнім основним бізнесом, і ці виклики були досить складними. Тут я також зрозумів, що це моя можливість зробити великий вплив.

Штучний інтелект приймається майже у кожній галузі, включаючи охорону здоров’я, фінансові послуги, автомобільну промисловість та інші, і він торкнеться кожного життя і вплине на нас усіх. Це місце, де Aporia демонструє свою справжню цінність – забезпечення всіх цих життєво важливих випадків використання для функціонування так, як передбачено, і допомогу у поліпшенні нашого суспільства. Бо, як і з будь-яким програмним забезпеченням, ви будете мати помилки, і машинне навчання не є винятком. Якщо їх не контролювати, ці проблеми з машинним навчанням можуть дійсно нашкодити бізнес-цільовому континууму і вплинути на суспільство з ненавмисними упередженими результатами. Взяти, наприклад, спробу Amazon впровадити інструмент штучного інтелекту для підбору персоналу (AMZN ) – ненавмисна упередженість змусила модель машинного навчання сильно рекомендувати чоловічих кандидатів над жіночими. Це очевидно нежаданий результат. Тому потрібно спеціальне рішення для виявлення ненавмисної упередженості до того, як вона потрапить у новини і вплине на кінцевих користувачів.

Для організацій, щоб правильно покладатися на машинне навчання і насолоджуватися його перевагами, їм потрібно знати, коли воно не працює правильно, і тепер з новими регуляціями часто користувачі машинного навчання будуть потребувати способів пояснити свої передбачення моделей. В кінцевому підсумку, це критично досліджувати і розробляти нові моделі і інноваційні проєкти, але як тільки ці моделі зустрічаються з реальним світом і приймають реальні рішення для людей, бізнесу і суспільства, існує явна потреба у всебічному рішенні для спостереження, щоб забезпечити можливість довіряти штучному інтелекту.

Чи можете ви пояснити важливість прозорого і пояснюваного штучного інтелекту?

Хоча це може здатися схожим, існує важлива відмінність між традиційним програмним забезпеченням і машинним навчанням. У програмному забезпеченні у вас є інженер-програміст, який пише код, визначає логіку програми, ми знаємо точно, що відбудеться при кожному потоці коду. Це детермінативно. Це те, як програмне забезпечення зазвичай будується, інженери створюють тести, тестують крайні випадки, досягаючи 70% – 80% покриття – ви відчуваєте себе досить добре, щоб випустити у виробництво. Якщо якісь попередження з’являються, ви можете легко відладити і зрозуміти, який потік пішов не так, і виправити це.

Це не випадок з машинним навчанням. Натомість визначення логіки відбувається під час процесу навчання моделі. Коли ми говоримо про логіку, на відміну від традиційного програмного забезпечення, це не набір правил, а радше матриця мільйонів і мільярдів чисел, які представляють розум, мозок моделі машинного навчання. І це чорна скринька, ми не знаємо справжнього значення кожного числа в цій матриці. Але ми знаємо статистично, так це ймовірнісно, а не детермінативно. Воно може бути точним 83% або 93% часу. Це викликає багато питань, правильно? По-перше, як ми можемо довіряти системі, яку ми не можемо пояснити тим, як вона приймає свої передбачення? По-друге, як ми можемо пояснити передбачення для високорегульованих галузей – таких як фінансовий сектор. Наприклад, у США фінансові фірми зобов’язані законом пояснити своїм клієнтам, чому вони були відхилені при заяві на кредит.

Неможливість пояснити передбачення машинного навчання у людському тексті може бути великим блокатором для масового прийняття машинного навчання в галузях. Ми хочемо знати, як суспільство, що модель не приймає упереджених рішень. Ми хочемо бути впевнені, що ми розуміємо, що веде модель до певного рішення. Це місце, де пояснюваність і прозорість є надзвичайно важливими.

Як працює прозорий і пояснюваний штучний інтелект Aporia?

Прозорий штучний інтелект Aporia працює як частина єдиної системи спостереження за машинним навчанням. Без глибокого бачення моделей виробництва і надійного рішення моніторингу і попередження важко довіряти пояснюваним інсайтам штучного інтелекту – немає потреби пояснювати передбачення, якщо вихід недостовірний. І тому, це місце, де Aporia приходить на допомогу, забезпечуючи єдине вікно бачення над усіма запущеними моделями, налаштовувані можливості моніторингу, попередження, інструменти відладки, розслідування кореневої причини і пояснюваний штучний інтелект. Спеціалізоване рішення для спостереження за будь-якими проблемами, які виникають у виробництві.

Платформа Aporia є агностичною і забезпечує бізнеси, орієнтовані на штучний інтелект, команди з науки про дані і машинного навчання, центральним панелем управління і повним баченням здоров’я моделей, передбачень і рішень – дозволяючи їм довіряти своєму штучному інтелекту. Використовуючи пояснюваний штучний інтелект Aporia, організації можуть утримувати кожного відповідального зацікавленого у справі, пояснюючи рішення машинного навчання за кліком кнопки – отримувати людські передбачення щодо конкретних передбачень моделей або симулювати “Що якщо?” ситуації. Крім того, Aporia постійно відстежує дані, які подаються до моделі, а також передбачення, і проактивно надсилає вам попередження про важливі події, включаючи погіршення продуктивності, ненавмисну упередженість, дрейф даних і навіть можливості поліпшення вашої моделі. Нарешті, з інструментом розслідування Aporia ви можете дійти до кореневої причини будь-якої події, щоб виправити і поліпшити будь-яку модель у виробництві.

Деякі з функцій, які надаються, включають інструменти дослідження даних і часових рядів, як ці інструменти допомагають у попередженні упередженості штучного інтелекту і дрейфу?

Інструменти дослідження даних забезпечують живе бачення даних, які модель отримує, і передбачень, які вона робить для бізнесу. Ви можете отримати живий потік цього і зрозуміти точно, що відбувається у вашому бізнесі. Отже, ця здатність бачення є важливою для прозорості. Іноді речі змінюються з часом, і існує кореляція між декількома змінами з часом – це роль інструментів дослідження часових рядів.

Нещодавно великі ритейлери мали всі свої інструменти передбачення штучного інтелекту, які зазнали невдачі при передбаченні проблем з ланцюгом постачання, як платформа Aporia вирішить цю проблему?

Основна проблема у визначенні цих проблем полягає в тому, що ми говоримо про передбачення майбутнього. Це означає, що ми передбачили щось, що станеться або не станеться в майбутньому. Наприклад, скільки людей куплять певну футболку або куплять новий PlayStation.

Потім це займає деякий час, щоб зібрати всі фактичні результати – більше кількох тижнів. Потім ми можемо підсумувати і сказати, окей, це був фактичний попит, який ми побачили. Цей часовий інтервал, про який ми говоримо, становить кілька місяців. Це те, що веде нас від моменту, коли модель робить передбачення, до моменту, коли бізнес знає точно, чи було воно правильним чи ні. І до того часу, як правило, вже запізно, бізнес або втрачає потенційні доходи або маржа стискається, оскільки їм потрібно продавати надлишкові товари з великими знижками.

Це проблема. І це саме місце, де Aporia приходить на допомогу і стає дуже, дуже корисним для цих організацій. По-перше, це дозволяє організаціям легко отримати прозорість і бачення того, які рішення приймаються – Чи є коливання? Чи є щось, що не має сенсу? По-друге, оскільки ми говоримо про великих ритейлерів, ми говоримо про величезні, як величезні кількості інвентарю, і відстежування їх вручну майже неможливо. Тут бізнеси і команди машинного навчання оцінюють Aporia найбільше, як 24/7 автоматизовану і налаштовувану систему моніторингу. Aporia постійно відстежує дані і передбачення, вона аналізує статистичну поведінку цих передбачень і може передбачити і визначити зміни в поведінці споживачів і зміни в поведінці даних, як тільки це відбувається. Натомість ніж чекати шість місяців, щоб зрозуміти, що прогнозування попиту було неправильним, ви можете протягом кількох днів визначити, що ми на неправильному шляху з нашими прогнозами попиту. Отже, Aporia скорочує цей часовий інтервал з кількох місяців до кількох днів. Це великий переможець для будь-якого практика машинного навчання.

Чи є щось інше, що ви хотіли б поділитися про Aporia?

Ми постійно ростемо і шукаємо чудових людей з блискучими розумами, щоб приєднатися до подорожі Aporia. Перегляньте наші відкриті позиції.

Дякую за велике інтерв’ю, читачам, які бажають дізнатися більше, слід відвідати Aporia.