Лиран Хасон, сооснователь и генеральный директор Aporia – Интервью

Лиран Хасон является сооснователем и генеральным директором Aporia, полноценной платформы для наблюдения за машинным обучением, используемой компаниями из списка Fortune 500 и командами по науке о данных по всему миру для обеспечения ответственного ИИ. Aporia интегрируется без проблем с любой инфраструктурой машинного обучения. Будь то сервер FastAPI на основе Kubernetes, открытый инструмент развертывания, такой как MLFlow, или платформа машинного обучения, такая как AWS Sagemaker

До основания Aporia Лиран был архитектором машинного обучения в Adallom (приобретенной компанией Microsoft), а позже инвестором в Vertex Ventures.

Вы начали программировать, когда вам было 10 лет, что изначально привлекло вас к компьютерам, и над чем вы работали?

Это был 1999 год, и мой друг позвонил мне и сказал, что он построил веб-сайт. После ввода адреса длиной 200 символов в моем браузере, я увидел веб-сайт с его именем на нем. Я был поражен тем, что он создал что-то на своем компьютере, и я смог увидеть это на своем компьютере. Это сделало меня очень любопытным о том, как это работает и как я могу сделать то же самое. Я попросил свою маму купить мне книгу по HTML, которая стала моим первым шагом в программировании.

Мне нравится браться за технические задачи, и со временем моя любопытство только росло. Я изучил ASP, PHP и Visual Basic и действительно все, что мог.

Когда мне было 13 лет, я уже выполнял некоторые фриланс-задачи, создавая веб-сайты и настольные приложения.

Когда у меня не было активной работы, я работал над своими собственными проектами – обычно над разными веб-сайтами и приложениями, предназначенными для того, чтобы помочь другим людям достичь своих целей:

Blue-White Programming – это язык программирования на иврите, похожий на HTML, который я создал после того, как понял, что дети в Израиле, не имеющие высокого уровня английского языка, ограничены или оттолкнуты от мира программирования.

Blinky – Мои бабушка и дедушка глухи и используют жестовый язык для общения с друзьями. Когда появилось программное обеспечение для видеоконференций, такое как Skype и ooVoo, оно позволило им впервые общаться с друзьями, даже если они не находятся в одной комнате (как мы все делаем со своими телефонами). Однако, поскольку они не могут слышать, они не могли знать, когда у них есть входящий вызов. Чтобы помочь им, я написал программное обеспечение, которое определяет входящие видеозвонки и оповещает их путем мигания светодиодной матрицы в небольшом аппаратном устройстве, которое я построил и подключил к их компьютеру.

Это лишь несколько проектов, над которыми я работал как подросток. Мое любопытство никогда не прекращалось, и я нашел себя изучающим C, C++, Assembly и то, как работают операционные системы, и действительно пытался узнать как можно больше.

Можете ли вы рассказать историю о вашем пути как архитектора машинного обучения в Adallom, приобретенной компанией Microsoft?

Я начал свой путь в Adallom после службы в армии. После 5 лет службы в армии в качестве капитана, я увидел отличную возможность присоединиться к новой компании и рынку – как один из первых сотрудников. Компания была возглавлена отличными основателями, которых я знал из армии, и поддерживалась лучшими венчурными инвесторами – такими как Sequoia. Взрыв облачных технологий на рынок еще был в относительной зачаточности, и мы строили одно из первых облачных решений для безопасности в то время. Предприятия только начинали переходить от локальных решений к облачным, и мы видели появление новых отраслевых стандартов – таких как Office 365, Dropbox, Marketo, Salesforce и других.

В течение моих первых нескольких недель, я уже знал, что хочу создать свою собственную компанию однажды. Я действительно чувствовал, с точки зрения технологий, что я готов к любому вызову, и если не я сам, то я знал правильных людей, которые могли бы мне помочь преодолеть любые препятствия.

Adallom нуждался в ком-то, кто имеет глубокие знания технологий, но также мог бы работать с клиентами. Прошло несколько недель, и я оказался на самолете в США, чтобы встретиться с людьми из LinkedIn (до приобретения компанией Microsoft). Через несколько недель они стали нашими первыми платными клиентами в США. Это был лишь один из многих крупных корпораций – Netflix, Disney и Safeway – которым я помогал решать критические проблемы с облачными решениями. Это было очень образовательным и укрепляющим мои уверенность.

Для меня присоединение к Adallom было действительно о том, чтобы присоединиться к месту, где я верю в рынок, я верю в команду, и я верю в видение. Я очень благодарен за возможность, которую мне предоставили там.

Цель того, что я делаю, была и остается очень важной. Для меня это было одинаково в армии, это всегда было важно. Я мог легко видеть, как подход Adallom к подключению к облачным решениям, затем мониторингу активности пользователей, поиску аномалий и т. д., был тем, как все будет делаться. Я понял, что это будет подход будущего. Итак, я определенно видел Adallom как компанию, которая будет успешной.

Я был ответственным за всю архитектуру нашей инфраструктуры машинного обучения. И я видел и испытал на себе отсутствие правильных инструментов для экосистемы. Да, было rõчно, что должна быть посвященная решение в одном централизованном месте, где можно увидеть все модели; где можно увидеть, какие решения они принимают для вашего бизнеса; где можно отслеживать и стать проактивным с вашими целями машинного обучения. Например, у нас были случаи, когда мы узнали об ошибках в наших моделях машинного обучения слишком поздно, и это не хорошо для пользователей и определенно не для бизнеса. Это где идея Aporia начала формироваться.

Можете ли вы рассказать историю о создании Aporia?

Мой собственный опыт с машинным обучением начинается в 2008 году, как часть совместного проекта в Институте Вейцмана, вместе с Университетом Бата и китайским исследовательским центром. Там я построил систему биометрической идентификации, анализируя изображения радужной оболочки глаза. Я смог достичь точности 94%. Проект был успешным и был аплодирован с точки зрения исследования. Но для меня, я строил программное обеспечение с 10 лет, и что-то казалось не реальным. Вы не можете действительно использовать систему биометрической идентификации, которую я построил, в реальной жизни, потому что она работала хорошо только для конкретного набора данных, который я использовал. Это не было достаточно детерминировано.

Это немного фона. Когда вы строите систему машинного обучения, например, для биометрической идентификации, вы хотите, чтобы прогнозы были детерминированы – вы хотите знать, что система точно идентифицирует определенного человека, верно? Как и ваш iPhone не разблокируется, если он не распознает правильного человека под правильным углом, это желаемый результат. Но это действительно не было так с машинным обучением, когда я впервые вошел в эту область.

Примерно через семь лет я испытывал на себе реальность запуска моделей в производстве без надежных ограничений, поскольку они принимают решения для нашего бизнеса, которые влияют на наших клиентов. Затем я был достаточно удачлив, чтобы работать инвестором в Vertex Ventures в течение трех лет. Я видел, как все больше и больше организаций используют машинное обучение, и как компании переходили от простого разговора о машинном обучении к实际ному использованию. Однако эти компании приняли машинное обучение только для того, чтобы столкнуться с теми же проблемами, с которыми мы столкнулись в Adallom.

Все спешили использовать машинное обучение, и они пытались построить системы мониторинга внутри своей компании. Очевидно, что это не было их основным бизнесом, и эти проблемы были довольно сложными. Вот где я также понял, что это моя возможность сделать огромное влияние.

ИИ принимается во всех отраслях, включая здравоохранение, финансовые услуги, автомобильную промышленность и другие, и он затронет жизнь каждого и повлияет на всех. Это где Aporia демонстрирует свою истинную ценность – позволяя всем этим изменяющим жизнь случаям функционировать так, как предполагалось, и помогать улучшать наше общество. Потому что, как и любое программное обеспечение, вы будете иметь ошибки, и машинное обучение не является исключением. Если оставить их без контроля, эти проблемы с машинным обучением могут действительно повредить бизнес-непрерывности и повлиять на общество с непреднамеренными предвзятыми результатами. Возьмите попытку Amazon внедрить инструмент ИИ для набора персонала – непреднамеренное предвзятое решение привело к тому, что модель машинного обучения сильно рекомендовала мужских кандидатов над женскими. Это, очевидно, нежелательный результат. Следовательно, должна быть посвященная решение для обнаружения непреднамеренного предвзятия до того, как оно попадет в новости и повлияет на конечных пользователей.

Для организаций, чтобы правильно полагаться на и наслаждаться преимуществами машинного обучения, им нужно знать, когда оно не работает правильно, и теперь с новыми правилами, часто пользователи машинного обучения будут нуждаться в способах объяснить прогнозы своих моделей. В конце концов, это важно исследовать и разрабатывать новые модели и инновационные проекты, но когда эти модели встречаются с реальным миром и принимают реальные решения для людей, бизнеса и общества, есть явная потребность в комплексном решении для наблюдения, чтобы обеспечить, что они могут доверять ИИ.

Можете ли вы объяснить важность прозрачного и объяснимого ИИ?

Хотя это может показаться похожим, есть важное различие, которое следует сделать между традиционным программным обеспечением и машинным обучением. В программном обеспечении у вас есть инженер-программист, пишущий код, определяющий логику приложения, мы знаем точно, что произойдет в каждом потоке кода. Это детерминировано. Это то, как программное обеспечение обычно строится, инженеры создают тестовые случаи, тестируют граничные случаи, получая 70% – 80% покрытия – вы чувствуете себя достаточно хорошо, чтобы выпустить в производство. Если какие-либо оповещения появляются, вы можете легко отладить и понять, что пошло не так, и исправить это.

Это не так с машинным обучением. Вместо того, чтобы человек определял логику, она определяется в процессе обучения модели. Когда мы говорим о логике, в отличие от традиционного программного обеспечения, это не набор правил, а скорее матрица из миллионов и миллиардов чисел, представляющих разум, мозг модели машинного обучения. И это черный ящик, мы не действительно знаем значение каждого и каждого числа в этой матрице. Но мы знаем статистически, поэтому это вероятностно, а не детерминировано. Это может быть точным в 83% или 93% времени. Это вызывает много вопросов, верно? Во-первых, как мы можем доверять системе, которую мы не можем объяснить, как она приходит к своим прогнозам? Во-вторых, как мы можем объяснить прогнозы для высокорегулируемых отраслей – таких как финансовый сектор. Например, в США финансовые фирмы обязаны законом объяснить своим клиентам, почему они были отклонены для заявки на кредит.

Неспособность объяснить прогнозы машинного обучения в тексте, читаемом человеком, может быть серьезным препятствием для массового внедрения машинного обучения в отраслях. Мы хотим знать, как общество, что модель не принимает предвзятых решений. Мы хотим убедиться, что мы понимаем, что приводит модель к конкретному решению. Это где объяснимость и прозрачность являются крайне важными.

Как работает решение Aporia для прозрачного и объяснимого ИИ?

Инструмент箱 Aporia для объяснимого ИИ работает как часть единой системы наблюдения за машинным обучением. Без глубокого понимания моделей в производстве и надежного решения мониторинга и оповещения трудно доверять объяснимым выводам ИИ – нет необходимости объяснять прогнозы, если вывод не надежен. И вот где Aporia входит в игру, предоставляя единую панель управления для всех запущенных моделей, настраиваемый мониторинг, возможности оповещения, инструменты отладки, расследование коренной причины и объяснимый ИИ. Посвященное решение для полной наблюдаемости за любыми проблемами, которые возникают в производстве.

Платформа Aporia является агностической и оснащает бизнес, ориентированный на ИИ, команды по науке о данных и машинному обучению централизованной панелью управления и полной видимостью в здоровье модели, прогнозах и решениях – позволяя им доверять своему ИИ. Используя объяснимый ИИ Aporia, организации могут держать всех заинтересованных сторон в курсе, объясняя решения машинного обучения с помощью одного клика – получая текст, читаемый человеком, в конкретных прогнозах модели или симулируя “Что если?” ситуации. Кроме того, Aporia постоянно отслеживает данные, которые поступают в модель, а также прогнозы и проактивно отправляет вам оповещения при важных событиях, включая ухудшение производительности, непреднамеренное предвзятое решение, дрейф данных и даже возможности улучшить вашу модель. Наконец, с помощью инструментария расследования Aporia вы можете добраться до коренной причины любого события, чтобы исправить и улучшить любую модель в производстве.

Некоторые из функций, которые предлагаются, включают инструменты расследования данных и временных рядов, как эти инструменты помогают предотвратить предвзятое решение и дрейф?

Данные предоставляют живой вид данных, которые модель получает, и прогнозов, которые она делает для бизнеса. Вы можете получить живой поток этого и понять точно, что происходит в вашем бизнесе. Эта способность видимости является крайне важной для прозрачности. Иногда вещи меняются со временем, и есть корреляция между несколькими изменениями со временем – это роль временных рядов расследования.

Недавно крупные ритейлеры столкнулись с неудачей всех своих инструментов ИИ для прогнозирования при предсказании проблем с цепочками поставок, как платформа Aporia решит эту проблему?

Основная проблема в выявлении этих проблем заключается в том, что мы говорим о будущих прогнозах. Это означает, что мы предсказали, что что-то произойдет или не произойдет в будущем. Например, сколько людей будут покупать определенную рубашку или будут покупать новый PlayStation.

Затем требуется некоторое время, чтобы собрать все фактические результаты – более нескольких недель. Затем мы можем суммировать и сказать, ладно, это был фактический спрос, который мы увидели. Этот временной интервал, о котором мы говорим, составляет несколько месяцев. Это то, что отделяет момент, когда модель делает прогноз, от момента, когда бизнес точно знает, был ли он прав или нет. И к тому времени, это обычно слишком поздно, бизнес либо потерял потенциальные доходы, либо маржа была сжата, потому что они должны продать излишки со скидками.

Это проблема. И это именно где Aporia входит в картину и становится очень, очень полезной для этих организаций. Во-первых, это позволяет организациям легко получить прозрачность и видимость в том, какие решения принимаются – есть ли какие-либо колебания? Есть ли что-то, что не имеет смысла? Во-вторых, поскольку мы говорим о крупных ритейлерах, мы говорим о огромных, как огромных количествах запасов, и ручной отслеживаемости их почти невозможно. Вот где бизнес и команды машинного обучения ценят Aporia больше всего, как 24/7 автоматизированную и настраиваемую систему мониторинга. Aporia постоянно отслеживает данные и прогнозы, она анализирует статистическое поведение этих прогнозов и может предвидеть и выявить изменения в поведении потребителей и изменения в поведении данных, как только это происходит. Вместо того, чтобы ждать шесть месяцев, чтобы осознать, что прогнозирование спроса было неправильным, вы можете в течение нескольких дней выявить, что мы находимся на неправильном пути с нашими прогнозами спроса. Итак, Aporia сокращает этот временной интервал с нескольких месяцев до нескольких дней. Это огромный игрок для любого практика машинного обучения.

Есть ли что-то еще, что вы хотели бы поделиться об Aporia?

Мы постоянно растем и ищем удивительных людей с блестящими умами, чтобы присоединиться к путешествию Aporia. Проверьте наши открытые позиции.

Спасибо за отличное интервью, читатели, которые хотят узнать больше, должны посетить Aporia.