Лиран Хасон, сооснователь и генеральный директор Aporia – Интервью

Лиран Хасон является сооснователем и генеральным директором Aporia, полноценной платформы для наблюдения за машинным обучением, используемой компаниями из списка Fortune 500 и командами по науке о данных по всему миру для обеспечения ответственного ИИ. Aporia интегрируется без проблем с любой инфраструктурой машинного обучения. Будь то сервер FastAPI на основе Kubernetes, инструмент открытого программного обеспечения для развертывания, такой как MLFlow, или платформа машинного обучения, такая как AWS Sagemaker

До основания Aporia Лиран был архитектором машинного обучения в Adallom (приобретенной компанией Microsoft (MSFT )), а позже инвестором в Vertex Ventures.

Вы начали программировать, когда вам было 10 лет, что изначально привлекло вас к компьютерам, и над чем вы работали?

Это было 1999 год, и мой друг позвонил мне и сказал, что он создал веб-сайт. После ввода адреса длиной 200 символов в моем браузере я увидел веб-сайт с его именем на нем. Меня поразило, что он создал что-то на своем компьютере, и я смог увидеть это на своем собственном компьютере. Это сделало меня очень любопытным о том, как это работает, и как я могу сделать то же самое. Я попросил свою маму купить мне книгу по HTML, которая стала моим первым шагом в программировании.

Мне приносит большое удовольствие браться за технические задачи, и со временем моя любопытство только росло. Я изучил ASP, PHP и Visual Basic и действительно все, что мог.

Когда мне было 13 лет, я уже брался за некоторые фриланс-задачи, создавая веб-сайты и настольные приложения.

Когда у меня не было активной работы, я работал над своими собственными проектами – обычно разными веб-сайтами и приложениями, направленными на помощь другим людям в достижении их целей:

Blue-White Programming – это язык программирования на иврите, подобный HTML, который я создал после осознания того, что дети в Израиле, не имеющие высокого уровня английского языка, ограничены или оттолкнуты от мира программирования.

Blinky – Мои бабушка и дедушка глухи и используют жестовый язык для общения со своими друзьями. Когда появилось программное обеспечение для видеоконференций, такое как Skype и ooVoo, оно позволило им впервые общаться со своими друзьями, даже если они не находятся в одной комнате (как мы все делаем со своими телефонами). Однако, поскольку они не могут слышать, они не могли знать, когда у них есть входящий звонок. Чтобы помочь им, я написал программное обеспечение, которое определяет входящие видеозвонки и предупреждает их, мигая светодиодной матрицей в небольшом аппаратном устройстве, которое я создал и подключил к их компьютеру.

Это лишь несколько проектов, которые я создал как подросток. Мое любопытство никогда не прекращалось, и я обнаружил, что я учусь C, C++, Assembly и тому, как работают операционные системы, и действительно пытался учиться как можно больше.

Можете ли вы рассказать историю о вашем пути как архитектора машинного обучения в Microsoft, приобретшей Adallom?

Я начал свой путь в Adallom после военной службы. После 5 лет в армии в качестве капитана я увидел большую возможность присоединиться к новой компании и рынку – как один из первых сотрудников. Компания была возглавлена отличными основателями, которых я знал со времен военной службы, и поддерживалась лучшими венчурными капиталистами – такими как Sequoia. Взрыв облачных технологий на рынок был еще в относительной зачаточности, и мы создавали одно из первых облачных решений для безопасности в то время. Предприятия только начинали переходить от локальных систем к облачным, и мы видели появление новых отраслевых стандартов – таких как Office 365, Dropbox (DBX ), Marketo, Salesforce и других.

В течение моих первых нескольких недель я уже знал, что хочу создать свою собственную компанию однажды. Я действительно чувствовал, с технической точки зрения, что я был готов к любому вызову, брошенному мне, и если не я сам, то я знал правильных людей, которые могли мне помочь преодолеть все.

Adallom нуждался в ком-то, кто имеет глубокие знания технологий, но мог бы быть также ориентирован на клиентов. Прошло несколько недель, и я уже был на самолете в США, впервые в моей жизни, чтобы встретиться с людьми из LinkedIn (до приобретения Microsoft). Через несколько недель они стали нашими первыми платными клиентами в США. Это был только один из многих крупных корпораций – Netflix , Disney и Safeway – которым я помогал решать критические проблемы с облачными системами. Это было очень образовательным и сильным укреплением уверенности.

Для меня присоединение к Adallom было действительно о том, чтобы присоединиться к месту, где я верю в рынок, я верю в команду, и я верю в видение. Я очень благодарен за возможность, которую мне была дана там.

Цель того, что я делаю, была и является очень важной. Для меня это было одинаково в армии, это всегда было важно. Я легко мог видеть, как подход Adallom к подключению к решениям SaaS, затем мониторингу активности пользователей, ресурсов, нахождению аномалий и т. д., был тем, как все будет делаться. Я понял, что это будет подход будущего. Итак, я определенно видел Adallom как компанию, которая будет успешной.

Я был ответственным за всю архитектуру нашей инфраструктуры машинного обучения. И я видел и испытал на себе отсутствие надлежащего инструментария для экосистемы. Да, было rõчно мне, что должна быть посвященная решение в одном централизованном месте, где можно увидеть все модели; где можно увидеть, какие решения они принимают для вашего бизнеса; где можно отслеживать и становиться проактивным с вашими целями машинного обучения. Например, у нас были времена, когда мы узнали об проблемах в наших моделях машинного обучения слишком поздно, и это нехорошо для пользователей и определенно не для бизнеса. Вот где идея Aporia начала формироваться.

Можете ли вы рассказать историю создания Aporia?

Мой собственный опыт с машинным обучением начинается в 2008 году, как часть совместного проекта в Институте Вейцмана, вместе с Университетом Бата и китайским исследовательским центром. Там я создал систему биометрической идентификации, анализируя изображения радужной оболочки глаза. Мне удалось достичь точности 94%. Проект был успешным и был аплодирован с точки зрения исследования. Но для меня, я уже строил программное обеспечение с 10 лет, и что-то казалось не quite реальным. Вы не можете действительно использовать систему биометрической идентификации, которую я создал, в реальной жизни, потому что она работала хорошо только для конкретного набора данных, который я использовал. Это не было детерминированным достаточно.

Это немного фона. Когда вы строите систему машинного обучения, например, для биометрической идентификации, вы хотите, чтобы прогнозы были детерминированными – вы хотите знать, что система точно идентифицирует определенного человека, правильно? Как и ваш iPhone не разблокируется, если он не распознает правильного человека под правильным углом, это желаемый результат. Но это действительно не было так с машинным обучением, когда я впервые вошел в эту область.

Примерно через семь лет я испытывал на себе реальность запуска моделей производства без надежных ограничений, которые принимают решения для нашего бизнеса, влияя на наших клиентов. Затем я был достаточно удачлив, чтобы работать инвестором в Vertex Ventures в течение трех лет. Я увидел, как все больше и больше организаций используют машинное обучение, и как компании переходили от простого разговора о машинном обучении к фактическому использованию машинного обучения. Однако эти компании приняли машинное обучение только для того, чтобы столкнуться с теми же проблемами, с которыми мы столкнулись в Adallom.

Все спешили использовать машинное обучение, и они пытались построить системы мониторинга в-house. Очевидно, что это не было их основным бизнесом, и эти проблемы были довольно сложными. Вот где я также понял, что это моя возможность сделать огромное влияние.

ИИ принимается во многих отраслях, включая здравоохранение, финансовые услуги, автомобильную промышленность и другие, и он затронет все аспекты нашей жизни и повлияет на нас всех. Вот где Aporia демонстрирует свою истинную ценность – позволяя всем этим жизненно важным случаям работать так, как задумано, и помогая улучшить наше общество. Потому что, как и любое программное обеспечение, вы будете иметь ошибки, и машинное обучение не является исключением. Если оставить их без проверки, эти проблемы с машинным обучением могут действительно повредить бизнес-continuity и повлиять на общество с непреднамеренными предвзятыми результатами. Возьмите попытку Amazon внедрить инструмент ИИ для набора персонала (AMZN ) – непреднамеренное предвзятое вызвало модель машинного обучения, которая сильно рекомендовала男性-кандидатов над женскими. Это, очевидно, нежелательный результат. Следовательно, существует необходимость в посвященном решении для обнаружения непреднамеренного предвзятости до того, как оно попадет в новости и повлияет на конечных пользователей.

Для того, чтобы организации могли правильно полагаться на и наслаждаться преимуществами машинного обучения, им нужно знать, когда оно не работает правильно, и теперь с новыми правилами, часто пользователи машинного обучения будут нуждаться в способах объяснить свои прогнозы моделей. В конце концов, это крайне важно исследовать и разрабатывать новые модели и инновационные проекты, но как только эти модели встречаются с реальным миром и принимают реальные решения для людей, бизнеса и общества, есть четкая необходимость в комплексном решении для наблюдения, чтобы обеспечить, что они могут доверять ИИ.

Можете ли вы объяснить важность прозрачности и объяснимости ИИ?

Хотя это может показаться похожим, существует важное различие между традиционным программным обеспечением и машинным обучением. В программном обеспечении у вас есть программист, пишущий код, определяющий логику приложения, мы знаем точно, что произойдет в каждом потоке кода. Это детерминировано. Это то, как программное обеспечение обычно строится, инженеры создают тестовые случаи, тестируя граничные случаи, получая 70% – 80% покрытия – вы чувствуете себя достаточно хорошо, чтобы выпустить в производство. Если какие-либо оповещения появляются, вы можете легко отладить и понять, какой поток пошел не так, и исправить его.

Это не так с машинным обучением. Вместо того, чтобы человек определял логику, она определяется в процессе обучения модели. Когда мы говорим о логике, в отличие от традиционного программного обеспечения, это не набор правил, а скорее матрица миллионов и миллиардов чисел, представляющих разум, мозг модели машинного обучения. И это черный ящик, мы не знаем значения каждого и каждого числа в этой матрице. Но мы знаем статистически, поэтому это вероятностно, а не детерминировано. Это может быть точным в 83% или 93% времени. Это вызывает много вопросов, верно? Во-первых, как мы можем доверять системе, которую мы не можем объяснить, как она приходит к своим прогнозам? Во-вторых, как мы можем объяснить прогнозы для высокорегулируемых отраслей – таких как финансовый сектор. Например, в США финансовые фирмы обязаны по закону объяснить своим клиентам, почему они были отклонены для заявки на кредит.

Неспособность объяснить прогнозы машинного обучения в тексте, читаемом человеком, может быть значительным препятствием для массового внедрения машинного обучения в отраслях. Мы хотим знать, как общество, что модель не принимает предвзятых решений. Мы хотим убедиться, что мы понимаем, что приводит модель к конкретному решению. Вот где объяснимость и прозрачность крайне важны.

Как работает прозрачная и объяснимая система ИИ Aporia?

Прозрачная и объяснимая система ИИ Aporia работает как часть единой системы наблюдения за машинным обучением. Без глубокого понимания моделей производства и надежной системы мониторинга и оповещения трудно доверять объяснимым инсайтам ИИ – нет необходимости объяснять прогнозы, если вывод является ненадежным. И вот где Aporia приходит на помощь, предоставляя единую панель стекла видимости над всеми запущенными моделями, настраиваемые возможности мониторинга, оповещения, отладочные инструменты, анализ коренной причины и объяснимый ИИ. Посвященное решение для любой и каждой проблемы, возникающей в производстве.

Платформа Aporia агностична и оснащает бизнес, ориентированные на ИИ, команды по науке о данных и машинному обучению централизованной панелью управления и полной видимостью в здоровье модели, прогнозах и решениях – позволяя им доверять своему ИИ. Используя объяснимый ИИ Aporia, организации могут держать каждого заинтересованного лица в курсе, объясняя решения машинного обучения с помощью одного клика – получить текст, читаемый человеком, в конкретных прогнозах модели или симулировать “Что если?” ситуации. Кроме того, Aporia постоянно отслеживает данные, которые поступают в модель, а также прогнозы и проактивно отправляет вам оповещения при важных событиях, включая ухудшение производительности, непреднамеренное предвзятое, дрейф данных и даже возможности для улучшения вашей модели. Наконец, с помощью инструментов расследования Aporia вы можете добраться до коренной причины любого события, чтобы устранить и улучшить любую модель в производстве.

Некоторые из функций, которые предлагаются, включают инструменты исследования данных и временных рядов, как эти инструменты помогают предотвратить предвзятое ИИ и дрейф?

Инструменты исследования данных обеспечивают прямой обзор данных, которые модель получает, и прогнозов, которые она делает для бизнеса. Вы можете получить прямую ленту этого и понять точно, что происходит в вашем бизнесе. Итак, эта способность видимости крайне важна для прозрачности. Иногда вещи меняются со временем, и существует корреляция между несколькими изменениями со временем – это роль инструментов исследования временных рядов.

Недавно крупные ритейлеры столкнулись с неудачей всех своих инструментов прогнозирования ИИ, когда речь шла о прогнозировании проблем с цепочками поставок, как платформа Aporia решит эту проблему?

Основная задача в выявлении этих видов проблем заключается в том, что мы говорим о будущих прогнозах. Это означает, что мы прогнозируем, что что-то произойдет или не произойдет в будущем. Например, сколько людей будут покупать определенную рубашку или будут покупать новый PlayStation.

Затем требуется некоторое время, чтобы собрать все фактические результаты – более нескольких недель. Затем мы можем суммировать и сказать, ладно, это был фактический спрос, который мы увидели. Этот временной интервал, мы говорим о нескольких месяцах в целом. Это то, что нас ведет от момента, когда модель делает прогноз, до момента, когда бизнес точно знает, был ли он прав или нет. И к тому времени, это обычно слишком поздно, бизнес либо потерял потенциальные доходы, либо маржа была сжата, потому что им пришлось продать излишки со скидками.

Это вызов. И это именно то место, где Aporia приходит на помощь и становится очень, очень полезной для этих организаций. Во-первых, она позволяет организациям легко получить прозрачность и видимость в принимаемых решениях – есть ли какие-либо колебания? Есть ли что-то, что не имеет смысла? Во-вторых, поскольку мы говорим о крупных ритейлерах, мы говорим о огромных, как огромных количествах запасов, и отслеживание их вручную практически невозможно. Вот где бизнес и команды машинного обучения ценят Aporia больше всего, как 24/7 автоматизированную и настраиваемую систему мониторинга. Aporia постоянно отслеживает данные и прогнозы, она анализирует статистическое поведение этих прогнозов и может предвидеть и выявить изменения в поведении потребителей и изменений в поведении данных, как только это происходит. Вместо того, чтобы ждать шесть месяцев, чтобы осознать, что прогнозирование спроса было неправильным, вы можете в течение нескольких дней выявить, что мы находимся на неправильном пути с нашими прогнозами спроса. Итак, Aporia сокращает этот временной интервал с нескольких месяцев до нескольких дней. Это огромный прорыв для любого практика машинного обучения.

Есть ли что-то еще, что вы хотели бы поделиться об Aporia?

Мы постоянно растем и ищем удивительных людей с блестящими умами, чтобы присоединиться к пути Aporia. Проверьте наши открытые позиции.

Спасибо за отличное интервью, читатели, которые хотят узнать больше, должны посетить Aporia.