Liran Hason, współzałożyciel i dyrektor generalny Aporia – seria wywiadów

Liran Hason jest współzałożycielem i dyrektorem generalnym Aporia, kompleksowa platforma obserwowalności uczenia maszynowego używana przez firmy z listy Fortune 500 i zespoły zajmujące się analizą danych na całym świecie w celu zapewnienia odpowiedzialnej sztucznej inteligencji. Aporia integruje się bezproblemowo z dowolną infrastrukturą ML. Niezależnie od tego, czy jest to serwer FastAPI oparty na platformie Kubernetes, narzędzie do wdrażania typu open source, takie jak MLFlow, czy platforma uczenia maszynowego, taka jak AWS Sagemaker

Przed założeniem firmy Aporia Liran był architektem ML w firmie Adallom (przejętej przez Microsoft), a później inwestorem w Vertex Ventures.

Zacząłeś programować w wieku 10 lat. Co początkowo przyciągnęło Cię do komputerów i nad czym pracowałeś?

Był rok 1999, zadzwonił do mnie znajomy i powiedział, że zbudował stronę internetową. Po wpisaniu w przeglądarce adresu o długości 200 znaków zobaczyłam stronę internetową z jego imieniem i nazwiskiem. Byłem zdumiony faktem, że stworzył coś na swoim komputerze i mogłem to zobaczyć na swoim komputerze. To mnie bardzo zaciekawiło, jak to działa i jak mogę zrobić to samo. Poprosiłem mamę, żeby kupiła mi książkę o HTML-u, co było moim pierwszym krokiem w programowaniu.

Wielką radość sprawia mi podejmowanie wyzwań technologicznych, a wraz z upływem czasu moja ciekawość tylko rosła. Nauczyłem się ASP, PHP i Visual Basic i naprawdę konsumowałem wszystko, co mogłem.

Kiedy miałem 13 lat, podejmowałem już pewne prace jako freelancer, tworząc strony internetowe i aplikacje komputerowe.

Kiedy nie miałem żadnej aktywnej pracy, pracowałem nad własnymi projektami – zazwyczaj różnymi stronami internetowymi i aplikacjami, które miały pomagać innym ludziom w osiąganiu ich celów:

Programowanie niebiesko-białe – to hebrajski język programowania, podobny do HTML, który stworzyłem po tym, jak zdałem sobie sprawę, że dzieci w Izraelu, które nie mówią na wysokim poziomie po angielsku, są ograniczone lub wypychane ze świata kodowania.

Mrugnięcie – Moi dziadkowie są głusi i porozumiewają się z przyjaciółmi językiem migowym. Kiedy pojawiło się oprogramowanie do wideokonferencji, takie jak Skype i ooVoo, po raz pierwszy umożliwiło im rozmowę ze znajomymi, nawet jeśli nie znajdują się w tym samym pokoju (tak jak wszyscy robimy to za pomocą naszych telefonów). Ponieważ jednak nie słyszą, nie byli w stanie wiedzieć, kiedy mają połączenie przychodzące. Aby im pomóc, napisałem oprogramowanie, które identyfikuje przychodzące połączenia wideo i ostrzega ich, migając diodami LED w małym urządzeniu, które zbudowałem i podłączyłem do ich komputera.

To tylko niektóre z projektów, które stworzyłem jako nastolatek. Moja ciekawość nigdy nie ustała i odkryłem, że uczę się C, C++, Assembly i działania systemów operacyjnych, i naprawdę starałem się nauczyć jak najwięcej.

Czy mógłbyś podzielić się historią swojej podróży jako architekt uczenia maszynowego w firmie Adallom nabytej przez Microsoft?

Swoją podróż rozpocząłem w Adallom po odbyciu służby wojskowej. Po 5 latach służby w wojsku w charakterze kapitana dostrzegłem świetną okazję do dołączenia do rozwijającej się firmy i rynku – jako jeden z pierwszych pracowników. Firmą kierowali wspaniali założyciele, których znałem ze służby wojskowej, i wspierali ją najwyższej klasy inwestorzy VC – tacy jak Sequoia. Erupcja technologii chmurowych na rynek była jeszcze w powijakach, a my budowaliśmy wówczas jedno z pierwszych rozwiązań zapewniających bezpieczeństwo w chmurze. Przedsiębiorstwa dopiero zaczynały przechodzić z rozwiązań lokalnych do rozwiązań chmurowych i zaobserwowaliśmy pojawienie się nowych standardów branżowych – takich jak Office 365, Dropbox, Marketo, Salesforce i inne.

Już w pierwszych tygodniach wiedziałam, że chcę pewnego dnia założyć własną firmę. Z technologicznego punktu widzenia naprawdę czułem, że sprostam każdemu wyzwaniu, jakie zostanie mi rzucone, a jeśli nie ja, to znałem odpowiednich ludzi, którzy pomogli mi pokonać wszystko.

Adallom potrzebował kogoś, kto ma dogłębną wiedzę na temat technologii, ale potrafi także mieć kontakt z klientem. Szybko do przodu, jakiś miesiąc, i po raz pierwszy w życiu lecę samolotem do USA, aby spotkać się z ludźmi z LinkedIn (przed Microsoftem). Kilka tygodni później stali się naszym pierwszym płacącym klientem w USA. To była tylko jedna z wielu dużych korporacji – Netflix, Disney i Safeway – dla której pomagałem rozwiązywać krytyczne problemy z chmurą. To było super pouczające i budujące pewność siebie.

Dla mnie dołączenie do Adallom oznaczało tak naprawdę dołączenie do miejsca, w którym wierzę w rynek, wierzę w zespół i wierzę w wizję. Jestem niezwykle wdzięczny za szansę, jaką tam dostałem.

Cel tego co robię był i jest bardzo ważny. Dla mnie w wojsku było tak samo, zawsze było to ważne. Z łatwością mogłem zobaczyć, jak podejście Adallom polegające na łączeniu się z rozwiązaniami SaaS, a następnie monitorowaniu aktywności użytkowników, zasobów, znajdowaniu anomalii itd. miało zostać wykonane. Zdałem sobie sprawę, że to będzie podejście przyszłości. Zdecydowanie postrzegałem Adallom jako firmę, która odniesie sukces.

Byłem odpowiedzialny za całą architekturę naszej infrastruktury ML. Widziałem i doświadczyłem na własnej skórze braku odpowiednich narzędzi dla ekosystemu. Tak, było dla mnie jasne, że musi istnieć dedykowane rozwiązanie w jednym, scentralizowanym miejscu, w którym możesz zobaczyć wszystkie swoje modele; gdzie możesz zobaczyć, jakie decyzje podejmują dla Twojej firmy; gdzie możesz śledzić swoje cele uczenia maszynowego i aktywnie je realizować. Na przykład zdarzało się, że o problemach w naszych modelach uczenia maszynowego dowiadywaliśmy się zbyt późno, co nie było dobre ani dla użytkowników, ani na pewno nie dla firmy. To tu zaczął się rodzić pomysł na Aporię.

Czy mógłbyś podzielić się historią powstania Aporii?

Moje osobiste doświadczenia z uczeniem maszynowym rozpoczęły się w 2008 roku w ramach wspólnego projektu w Instytucie Weizmanna wraz z Uniwersytetem w Bath i Chińskim Centrum Badawczym. Tam zbudowałem system identyfikacji biometrycznej na podstawie analizy obrazów tęczówki. Udało mi się osiągnąć 94% dokładności. Projekt zakończył się sukcesem i został doceniony z naukowego punktu widzenia. Jednak w moim przypadku tworzyłem oprogramowanie od 10. roku życia i wydawało mi się, że jest to coś nierealnego. Systemu identyfikacji biometrycznej, który zbudowałem, nie można było tak naprawdę wykorzystać w prawdziwym życiu, ponieważ działał dobrze tylko w przypadku określonego zbioru danych, z którego korzystałem. Nie jest to wystarczająco deterministyczne.

To tylko trochę tła. Budując system uczenia maszynowego, na przykład do identyfikacji biometrycznej, chcesz, aby przewidywania były deterministyczne – chcesz wiedzieć, że system dokładnie identyfikuje konkretną osobę, prawda? Podobnie jak Twój iPhone nie odblokowuje się, jeśli nie rozpoznaje właściwej osoby pod odpowiednim kątem, jest to pożądany rezultat. Ale wtedy, kiedy po raz pierwszy zetknąłem się z kosmosem, tak naprawdę nie było tak w przypadku uczenia maszynowego.

Około siedem lat później w firmie Adallom na własnej skórze doświadczyłem rzeczywistości polegającej na prowadzeniu modeli produkcyjnych bez niezawodnych poręczy podczas podejmowania decyzji dotyczących naszej firmy, które mają wpływ na naszych klientów. Następnie miałem szczęście pracować przez trzy lata jako inwestor w Vertex Ventures. Widziałem, jak coraz więcej organizacji korzysta z ML i jak firmy przeszły od zwykłego mówienia o ML do faktycznego uczenia maszynowego. Jednakże firmy te przyjęły ML tylko po to, by stawić czoła tym samym problemom, z którymi borykaliśmy się w Adallom.

Wszyscy spieszyli się z wykorzystaniem ML i próbowali zbudować własne systemy monitorowania. Oczywiście nie była to ich podstawowa działalność, a wyzwania są dość złożone. Tutaj również zdałem sobie sprawę, że to moja szansa na wywarcie ogromnego wpływu.

Sztuczna inteligencja jest wdrażana w niemal każdej branży, w tym w służbie zdrowia, usługach finansowych, motoryzacji i innych, i będzie miała wpływ na życie wszystkich i na nas wszystkich. To tutaj Aporia ukazuje swoją prawdziwą wartość – umożliwiając wszystkim tym zmieniającym życie przypadkom użycia funkcjonowanie zgodnie z zamierzeniami i pomaganie w ulepszaniu naszego społeczeństwa. Ponieważ, jak w przypadku każdego oprogramowania, będą występować błędy, a uczenie maszynowe nie jest wyjątkiem. Jeśli nie zostaną one kontrolowane, problemy związane z ML mogą naprawdę zaszkodzić ciągłości biznesowej i wpłynąć na społeczeństwo, powodując niezamierzone skutki uprzedzeń. Brać Próba Amazona wdrożenia narzędzia rekrutacyjnego AI – niezamierzone stronniczość spowodowała, że ​​model uczenia maszynowego zdecydowanie rekomendował kandydatów płci męskiej zamiast kobiet. Jest to oczywiście niepożądany wynik. Dlatego potrzebne jest dedykowane rozwiązanie wykrywające niezamierzone stronniczość, zanim przedostanie się ona do wiadomości i wpłynie na użytkowników końcowych.

Aby organizacje mogły właściwie polegać na uczeniu maszynowym i czerpać z niego korzyści, muszą wiedzieć, kiedy nie działa ono prawidłowo, a teraz, dzięki nowym przepisom, użytkownicy uczenia maszynowego często będą potrzebować sposobów wyjaśnienia swoich przewidywań modeli. Ostatecznie kluczowe znaczenie ma badanie i opracowywanie nowych modeli oraz innowacyjnych projektów, ale gdy modele te spotkają się ze światem rzeczywistym i podejmą rzeczywiste decyzje dla ludzi, przedsiębiorstw i społeczeństwa, istnieje wyraźna potrzeba opracowania kompleksowego rozwiązania w zakresie obserwowalności, które zapewni, że będą mogły zaufaj sztucznej inteligencji.

Czy możesz wyjaśnić znaczenie przejrzystej i zrozumiałej sztucznej inteligencji?

Choć może się to wydawać podobne, należy dokonać istotnego rozróżnienia pomiędzy tradycyjnym oprogramowaniem a uczeniem maszynowym. W oprogramowaniu masz inżyniera oprogramowania, który pisze kod, definiuje logikę aplikacji, wiemy dokładnie, co będzie się działo w każdym przepływie kodu. To deterministyczne. Tak zwykle buduje się oprogramowanie, inżynierowie tworzą przypadki testowe, testują przypadki brzegowe, osiągając około 70% – 80% pokrycia – czujesz się na tyle dobrze, że możesz wypuścić go do produkcji. Jeśli pojawią się jakiekolwiek alerty, możesz łatwo zdebugować i zrozumieć, co poszło nie tak, a następnie naprawić to.

Nie inaczej jest w przypadku uczenia maszynowego. Zamiast tego, jeśli logikę definiuje człowiek, jest ona definiowana jako część procesu uczenia modelu. Mówiąc o logice, w przeciwieństwie do tradycyjnego oprogramowania, nie jest to zbiór reguł, ale raczej macierz milionów i miliardów liczb, które reprezentują umysł, mózg modelu uczenia maszynowego. A to jest czarna skrzynka. Tak naprawdę nie znamy znaczenia każdej liczby w tej macierzy. Ale wiemy to statystycznie, więc jest to probabilistyczne, a nie deterministyczne. Może być dokładny w 83% lub 93% przypadków. Rodzi to wiele pytań, prawda? Po pierwsze, jak możemy ufać systemowi, którego nie potrafimy wyjaśnić w jaki sposób dochodzi do jego przewidywań? Po drugie, jak możemy wyjaśnić prognozy dla branż silnie regulowanych – takich jak sektor finansowy. Na przykład w USA firmy finansowe są prawnie zobowiązane do wyjaśnienia swoim klientom, dlaczego odrzucono ich wniosek o pożyczkę.

Niemożność wyjaśnienia przewidywań uczenia maszynowego w tekście czytelnym dla człowieka może być główną przeszkodą w masowym wdrażaniu uczenia maszynowego w różnych branżach. Jako społeczeństwo chcemy wiedzieć, że model nie podejmuje uprzedzeń. Chcemy mieć pewność, że rozumiemy, co prowadzi modela do konkretnej decyzji. W tym przypadku niezwykle istotna jest wyjaśnialność i przejrzystość.

Jak działa przejrzyste i zrozumiałe rozwiązanie zestawu narzędzi AI firmy Aporia?

Wyjaśnialny zestaw narzędzi AI Aporia działa jako część ujednoliconego systemu obserwowalności uczenia maszynowego. Bez głębokiej widoczności modeli produkcyjnych oraz niezawodnego rozwiązania do monitorowania i ostrzegania trudno zaufać możliwym do wytłumaczenia spostrzeżeniom sztucznej inteligencji – nie ma potrzeby wyjaśniania przewidywań, jeśli wyniki są niewiarygodne. I tu właśnie wkracza Aporia, zapewniająca pojedynczy panel widoku na wszystkie działające modele, konfigurowalne monitorowanie, funkcje ostrzegania, narzędzia do debugowania, badanie przyczyn źródłowych i łatwą do wyjaśnienia sztuczną inteligencję. Dedykowane rozwiązanie umożliwiające obserwację pełnego stosu dla każdego problemu pojawiającego się w środowisku produkcyjnym.

Platforma Aporia jest agnostyczna i zapewnia przedsiębiorstwom zorientowanym na sztuczną inteligencję, zespołom zajmującym się analizą danych i uczeniem maszynowym scentralizowany pulpit nawigacyjny oraz pełny wgląd w stan, przewidywania i decyzje modelu, umożliwiając im zaufanie do sztucznej inteligencji. Korzystając z wyjaśnialnej sztucznej inteligencji Aporii, organizacje są w stanie informować wszystkich odpowiednich interesariuszy, wyjaśniając decyzje uczenia maszynowego jednym kliknięciem – uzyskują czytelne dla człowieka informacje na temat przewidywań konkretnych modeli lub symulują „Co jeśli?” sytuacje. Ponadto Aporia stale śledzi dane wprowadzone do modelu, a także prognozy i aktywnie wysyła powiadomienia o ważnych zdarzeniach, w tym pogorszeniu wydajności, niezamierzonym odchyleniu, dryfowaniu danych, a nawet możliwościach ulepszenia modelu. Wreszcie, dzięki zestawowi narzędzi dochodzeniowych Aporii możesz dotrzeć do pierwotnej przyczyny każdego zdarzenia, aby zaradzić i ulepszyć dowolny model w produkcji.

Niektóre z oferowanych funkcji obejmują narzędzia do badania punktów danych i szeregów czasowych. W jaki sposób narzędzia te pomagają w zapobieganiu stronniczości i dryfowaniu sztucznej inteligencji?

Punkty danych zapewniają podgląd na żywo danych uzyskiwanych przez model i prognoz, które formułuje dla firmy. Możesz uzyskać podgląd na żywo i dokładnie wiedzieć, co dzieje się w Twojej firmie. Zatem ta zdolność widoczności jest kluczowa dla przejrzystości. Czasami jednak sytuacja zmienia się z biegiem czasu i istnieje korelacja między wieloma zmianami w czasie – na tym polega rola badania szeregów czasowych.

Ostatnio wszystkie narzędzia przewidywania AI największych sprzedawców detalicznych zawiodły, jeśli chodzi o przewidywanie problemów w łańcuchu dostaw. W jaki sposób platforma Aporia rozwiązałaby ten problem?

Główne wyzwanie w identyfikowaniu tego rodzaju problemów wynika z faktu, że mówimy o prognozach na przyszłość. Oznacza to, że przewidzieliśmy, że coś się wydarzy lub nie stanie w przyszłości. Na przykład, ile osób zamierza kupić konkretną koszulkę lub nową konsolę PlayStation.

Następnie zebranie wszystkich rzeczywistych wyników zajmuje trochę czasu – ponad kilka tygodni. Następnie możemy podsumować i powiedzieć: OK, taki był faktyczny popyt, jaki widzieliśmy. W tym przedziale czasowym mówimy w sumie o kilku miesiącach. To właśnie zajmuje nam czas od momentu, w którym model dokonuje prognozy, do chwili, gdy firma dokładnie wie, czy była ona słuszna, czy nie. A do tego czasu zwykle jest już za późno, firma albo straciła potencjalne przychody, albo marża została zawężona, bo musiała sprzedawać nadwyżki z ogromnymi rabatami.

To jest wyzwanie. I właśnie w tym miejscu pojawia się Aporia, która staje się bardzo, bardzo pomocna dla tych organizacji. Po pierwsze, pozwala organizacjom łatwo uzyskać przejrzystość i wgląd w podejmowane decyzje – czy występują jakieś wahania? Czy jest coś, co nie ma sensu? Po drugie, mówiąc o dużych sprzedawcach detalicznych, mówimy o ogromnych, wręcz ogromnych ilościach zapasów, a ręczne śledzenie ich jest prawie niemożliwe. To właśnie tutaj firmy i zespoły zajmujące się uczeniem maszynowym najbardziej cenią Aporię jako całodobowy zautomatyzowany i konfigurowalny system monitorowania. Aporia stale śledzi dane i przewidywania, analizuje statystyczne zachowanie tych przewidywań oraz może przewidywać i identyfikować zmiany w zachowaniach konsumentów oraz zmiany w zachowaniu danych, gdy tylko to nastąpi. Zamiast czekać sześć miesięcy, aż zorientujesz się, że prognoza popytu była błędna, możesz w ciągu kilku dni stwierdzić, że w oparciu o nasze prognozy popytu podążamy błędną ścieżką. Zatem Aporia skraca ten okres z kilku miesięcy do kilku dni. Jest to ogromna zmiana w działaniu dla każdego praktyka ML.

Czy jest coś jeszcze, czym chciałbyś się podzielić na temat Aporii?

Stale się rozwijamy i poszukujemy niesamowitych ludzi o błyskotliwych umysłach, którzy dołączą do podróży Aporia. Sprawdź nasze otwarte stanowiska.

Dziękuję za wspaniały wywiad. Czytelnicy chcący dowiedzieć się więcej powinni odwiedzić nas Aporia.