Liran Hason, współzałożyciel i dyrektor generalny Aporia – Seria wywiadów

Liran Hason jest współzałożycielem i dyrektorem generalnym Aporia, platformy zapewniającej obserwowalność całego stosu ML, wykorzystywanej przez firmy z listy Fortune 500 i zespoły analizy danych na całym świecie, aby zapewnić odpowiedzialne AI. Aporia integruje się bezproblemowo z dowolną infrastrukturą ML. Niezależnie od tego, czy jest to serwer FastAPI działający na Kubernetes, narzędzie wdrożeniowe o otwartym kodzie źródłowym, takie jak MLFlow, czy platforma machine learning, taka jak AWS Sagemaker

Przed założeniem Aporia, Liran był architektem ML w Adallom (nabytym przez Microsoft), a później inwestorem w Vertex Ventures.

Zacząłeś programować, gdy miałeś 10 lat, co cię początkowo przyciągnęło do komputerów, i nad czym pracowałeś?

Był rok 1999, a mój przyjaciel zadzwonił do mnie i powiedział, że zbudował stronę internetową. Po wpisaniu adresu długości 200 znaków w mojej przeglądarce, zobaczyłem stronę z jego imieniem. Byłem zdumiony tym, że stworzył coś na swoim komputerze, a ja mogłem to zobaczyć na moim własnym komputerze. To sprawiło, że zostałem bardzo ciekawy, jak to działa i jak mogę to zrobić. Poprosiłem moją mamę, aby kupiła mi książkę o HTML, co było moim pierwszym krokiem w programowaniu.

Czuję wielką radość, podejmując wyzwania techniczne, a z czasem moja ciekawość tylko rosła. Nauczyłem się ASP, PHP i Visual Basic, i chłonąłem wszelką dostępną wiedzę.

Gdy miałem 13 lat, już wykonywałem pewne prace freelancerskie, budując strony internetowe i aplikacje desktopowe.

Gdy nie miałem żadnych aktywnych zleceń, pracowałem nad własnymi projektami – zwykle różnymi stronami i aplikacjami, które miały pomóc innym ludziom osiągnąć ich cele:

Niebiesko-białe programowanie – jest to język programowania w języku hebrajskim, podobny do HTML, który zbudowałem gdy zdałem sobie sprawę, że dzieci w Izraelu, które nie mają wysokiego poziomu angielskiego, są ograniczone lub odpychane od świata programowania.

Blinky – Moi dziadkowie są głusi i używają języka migowego, aby porozumiewać się ze swoimi przyjaciółmi. Gdy pojawiły się oprogramowania do wideokonferencji, takie jak Skype i ooVoo, umożliwiły im po raz pierwszy rozmawiać z przyjaciółmi, nawet jeśli nie są w tym samym pokoju (jak my wszyscy robimy z naszymi telefonami). Jednakże, ponieważ nie mogą słyszeć, nie byli w stanie wiedzieć, kiedy mają przychodzące połączenie. Aby im pomóc, napisałem oprogramowanie, które identyfikuje przychodzące połączenia wideo i ostrzega ich, migając zestawem diod LED w małym urządzeniu, które zbudowałem i podłączyłem do ich komputera.

To tylko kilka projektów, które zbudowałem jako nastolatek. Moja ciekawość nigdy nie ustawała i znalazłem się ucząc C, C++, Assembly, i jak działają systemy operacyjne, i naprawdę starałem się nauczyć się jak najwięcej.

Czy mógłbyś opowiedzieć o swojej historii bycia architektem uczenia maszynowego w Adallom, przejętym przez Microsoft (MSFT )?

Zacząłem swoją podróż w Adallom po służbie wojskowej. Po 5 latach w armii jako kapitan, zobaczyłem wielką okazję do dołączenia do wyłaniającej się firmy i rynku – jako jeden z pierwszych pracowników. Firma była prowadzona przez wielkich założycieli, których znałem ze służby wojskowej, i wspierana przez najlepsze VC – takie jak Sequoia. Wybuch technologii chmury na rynku był wciąż na stosunkowo wczesnym etapie rozwoju, i budowaliśmy jedne z pierwszych rozwiązań bezpieczeństwa chmury. Przedsiębiorstwa dopiero zaczynały przechodzić z systemów lokalnych do chmury, i widzieliśmy nowe standardy branżowe – takie jak Office 365, Dropbox (DBX ), Marketo, Salesforce i inne.

Podczas moich pierwszych kilku tygodni, już wiedziałem, że chcę założyć własną firmę kiedyś. Naprawdę czułem, z technicznego punktu widzenia, że jestem gotowy do każdego wyzwania, które mnie spotka, i jeśli nie ja, to wiedziałem, że znam odpowiednie osoby, które mogą mi pomóc pokonać wszystko.

Adallom miał potrzebę kogoś, kto ma głęboką wiedzę na temat techniki, ale także mógłby być skierowany do klienta. Mniej więcej miesiąc później byłem w samolocie do USA, po raz pierwszy w moim życiu, aby spotkać się z ludźmi z LinkedIn (przed Microsoft). Kilka tygodni później i stali się naszym pierwszym płatnym klientem w USA. To było tylko jedno z wielu dużych korporacji – Netflix , Disney, i Safeway – dla których pomagałem rozwiązywać krytyczne problemy z chmurą. To było bardzo pouczające doświadczenie, które mocno zwiększyło moją pewność siebie.

Dla mnie, dołączenie do Adallom było naprawdę po to, aby dołączyć do miejsca, w którym wierzę w rynek, wierzę w zespół, i wierzę w wizję. Jestem niezmiernie wdzięczny za okazję, którą tam otrzymałem.

Cel, jaki realizuję, był i jest bardzo ważny. Dla mnie było to takie same w armii, było zawsze ważne. Mogłem łatwo zobaczyć, jak podejście Adallom do łączenia się z rozwiązaniami SaaS, a następnie monitorowania aktywności użytkowników, zasobów, wyszukiwania anomalii itd., było tym, jak będą robione rzeczy. Zrozumiałem, że to będzie podejście przyszłości. Więc zdecydowanie widziałem Adallom jako firmę, która odniesie sukces.

Odpowiadałem za całą architekturę naszej infrastruktury ML. I widziałem i doświadczyłem na własnej skórze braku odpowiednich narzędzi dla ekosystemu. Tak, było dla mnie jasne, że musi być dedykowane rozwiązanie w jednym scentralizowanym miejscu, gdzie można zobaczyć wszystkie modele; gdzie można zobaczyć, jakie decyzje są podejmowane dla Twojego biznesu; gdzie można śledzić i stawać się proaktywnym ze swoimi celami ML. Na przykład, mieliśmy sytuacje, kiedy dowiedzieliśmy się o problemach w naszych modelach machine learning zbyt późno, i to nie jest dobre dla użytkowników i na pewno nie dla biznesu. To jest miejsce, w którym pomysł na Aporia zaczął się krystalizować.

Czy mógłbyś opowiedzieć o historii powstania Aporia?

Moje osobiste doświadczenie z machine learning zaczyna się w 2008 roku, jako część projektu współpracy w Instytucie Weizmann, wraz z Uniwersytetem w Bath i chińskim centrum badawczym. Tam, zbudowałem system identyfikacji biometrycznej, analizując obrazy tęczówki. Udało mi się osiągnąć 94% dokładności. Projekt był sukcesem i został przyjęty z uznaniem z punktu widzenia badań. Ale dla mnie, od kiedy zacząłem budować oprogramowanie w wieku 10 lat, coś nie wydawało się prawdziwe. Nie można było używać systemu identyfikacji biometrycznej, który zbudowałem, w prawdziwym życiu, ponieważ działał dobrze tylko dla konkretnego zestawu danych, którym się posługiwałem. Nie jest to wystarczająco deterministyczne.

To jest tylko tło. Gdy budujesz system machine learning, na przykład do identyfikacji biometrycznej, chcesz, aby przewidywania były deterministyczne – chcesz wiedzieć, że system dokładnie identyfikuje konkretną osobę, prawda? Tak jak Twój iPhone się nie odblokowuje, jeśli nie rozpoznaje odpowiedniej osoby pod odpowiednim kątem, to jest pożądany wynik. Ale to naprawdę nie było przypadkiem z machine learning, kiedy po raz pierwszy wszedłem w ten obszar.

Około siedem lat później i doświadczyłem na własnej skórze, w Adallom, rzeczywistości uruchamiania modeli produkcyjnych bez niezawodnych barier ochronnych, które podejmują decyzje dla naszego biznesu, które wpływają na naszych klientów. Następnie, miałem szczęście pracować jako inwestor w Vertex Ventures, przez trzy lata. Zobaczyłem, jak coraz więcej organizacji używa ML, i jak firmy przechodzą od mówienia o ML do faktycznego robienia machine learning. Jednakże, te firmy przyjęły ML tylko po to, by następnie napotkać te same problemy, z którymi mieliśmy do czynienia w Adallom.

Wszyscy pędzili do użycia ML, i starali się budować systemy monitorowania wewnętrznie. Oczywiście, nie było to ich podstawowym biznesem, i te wyzwania są dość złożone. To jest moment, w którym zrozumiałem, że to jest moja okazja, aby zrobić ogromny wpływ.

AI jest przyjmowane w niemal każdej branży, w tym w ochronie zdrowia, usługach finansowych, motoryzacji i innych, i będzie dotykać życia każdego i wpłynie na nas wszystkich. To jest miejsce, w którym Aporia pokazuje swoją prawdziwą wartość – umożliwiając wszystkim tym przypadkom użycia działać zgodnie z zamierzeniem i pomagać poprawiać nasze społeczeństwo. Ponieważ, jak w przypadku każdego oprogramowania, będziesz miał błędy, i machine learning nie jest inny. Jeśli pozostawione bez nadzoru, te problemy z ML mogą naprawdę zaszkodzić ciągłości biznesu i wpłynąć na społeczeństwo z niezamierzonymi skutkami uprzedzeń. Weźmy próbę wdrożenia narzędzia rekrutacyjnego AI przez Amazon (AMZN ) – niezamierzone uprzedzenia spowodowały, że model machine learning silnie rekomendował kandydatów mężczyzn ponad kobiety. To jest oczywiście niepożądany wynik. Więc potrzebne jest dedykowane rozwiązanie do wykrywania niezamierzonych uprzedzeń przed ich pojawieniem się w wiadomościach i wpływem na użytkowników końcowych.

Dla organizacji, aby właściwie polegać na machine learning i cieszyć się jego korzyściami, muszą wiedzieć, kiedy nie działa prawidłowo, i teraz, z nowymi regulacjami, często użytkownicy ML będą potrzebować sposobów, aby wyjaśnić przewidywania ich modeli. W końcu, jest to kluczowe, aby prowadzić badania i rozwijać nowe modele i innowacyjne projekty, ale kiedy te modele spotykają się z prawdziwym światem i podejmują rzeczywiste decyzje dla ludzi, firm i społeczeństwa, jest wyraźna potrzeba kompleksowego rozwiązania obserwowalności, aby zapewnić, że można im zaufać.

Czy możesz wyjaśnić znaczenie transparentnego i wyjaśnialnego AI?

Choć mogą wydawać się podobne, istnieje istotna różnica między tradycyjnym oprogramowaniem a machine learning. W oprogramowaniu masz inżyniera oprogramowania, który pisze kod, definiuje logikę aplikacji, wiemy dokładnie, co się stanie w każdym przepływie kodu. Jest to deterministyczne. To jest sposób, w jaki zwykle buduje się oprogramowanie, inżynierowie tworzą przypadki testowe, testują przypadki graniczne, uzyskują 70% – 80% pokrycia – czujesz się wystarczająco dobrze, aby wydać do produkcji. Jeśli jakieś alerty pojawiają się, możesz łatwo debugować i zrozumieć, jaki przepływ poszedł nie tak, i naprawić to.

Inaczej jest w uczeniu maszynowym. Logika nie jest definiowana przez człowieka, lecz powstaje w procesie trenowania modelu. Gdy mówimy o logice, w przeciwieństwie do tradycyjnego oprogramowania, nie jest to zestaw reguł, ale raczej macierz milionów i miliardów liczb, które reprezentują umysł, mózg modelu machine learning. I to jest czarna skrzynka, nie wiemy naprawdę znaczenia każdej liczby w tej macierzy. Ale wiemy statystycznie, więc jest to probabilistyczne, a nie deterministyczne. Może być dokładne w 83% lub 93% czasu. To rodzi wiele pytań, prawda? Po pierwsze, jak możemy zaufać systemowi, którego nie możemy wyjaśnić, w jaki sposób dochodzi do swoich przewidywań? Po drugie, jak możemy wyjaśnić przewidywania dla wysoko regulowanych branż – takich jak sektor finansowy. Na przykład, w USA, firmy finansowe są zobowiązane prawem do wyjaśnienia swoim klientom, dlaczego ich wnioski kredytowe zostały odrzucone.

Niezdolność do wyjaśnienia przewidywań machine learning w czytelnym tekście może być główną przeszkodą w masowym przyjęciu ML w różnych branżach. Chcemy wiedzieć, jako społeczeństwo, że model nie podejmuje decyzji z uprzedzeniami. Chcemy być pewni, że rozumiemy, co prowadzi model do konkretnych decyzji. To jest miejsce, w którym wyjaśnialność i transparentność są niezwykle kluczowe.

Jak działa rozwiązanie Aporia do transparentnego i wyjaśnialnego AI?

Narzędzie Aporia do wyjaśnialnego AI działa jako część zintegrowanego systemu obserwowalności machine learning. Bez głębokiej widoczności modeli produkcyjnych i niezawodnego monitorowania i alertowania, trudno jest zaufać wyjaśnialnym informacjom AI – nie ma potrzeby wyjaśniać przewidywań, jeśli wyjście jest niewiarygodne. I to jest miejsce, w którym Aporia wchodzi, dostarczając jeden wspólny widok wszystkich działających modeli, dostosowywalne monitorowanie, możliwości alertowania, narzędzia debugowania, dochodzenie do przyczyny i wyjaśnialne AI. Dedykowane, pełne rozwiązanie obserwowalności dla każdego problemu, który pojawia się w produkcji.

Platforma Aporia jest agnostyczna i wyposaża firmy zorientowane na AI, zespoły analizy danych i ML w scentralizowany pulpit oraz pełny wgląd w stan ich modeli, przewidywania i decyzje – umożliwiając im zaufać swojemu AI. Używając wyjaśnialnego AI Aporia, organizacje są w stanie informować wszystkie istotne zainteresowane strony, wyjaśniając decyzje machine learning za pomocą jednego kliknięcia – uzyskując czytelne informacje na temat konkretnych przewidywań modelu lub symulując “Co, jeśli?” sytuacje. Ponadto, Aporia stale śledzi dane, które są wprowadzane do modelu, a także przewidywania, i proaktywnie wysyła alerty w przypadku ważnych zdarzeń, w tym degradacji wydajności, niezamierzonych uprzedzeń, dryfu danych i nawet możliwości poprawy modelu. Wreszcie, za pomocą narzędzi dochodzenia Aporia, możesz dotrzeć do przyczyny każdego zdarzenia, aby naprawić i poprawić każdy model w produkcji.

Niektóre z funkcjonalności, które są oferowane, obejmują Narzędzia do śledzenia punktów danych i badań szeregów czasowych, jak te narzędzia pomagają w zapobieganiu uprzedzeniom AI i dryfowi?

Punkty danych zapewniają widok na żywo danych, które model otrzymuje, i przewidywań, które są podejmowane dla biznesu. Możesz uzyskać na żywo ten widok i zrozumieć dokładnie, co się dzieje w Twoim biznesie. Ta zdolność widoczności jest kluczowa dla transparentności. Czasami rzeczy zmieniają się w czasie, i istnieje korelacja między wieloma zmianami w czasie – to jest rola badań szeregów czasowych.

Ostatnio duzi detaliści mieli wszystkie swoje narzędzia predykcyjne AI, które zawiodły, gdy chodziło o przewidywanie problemów łańcucha dostaw, jak platforma Aporia rozwiązuje ten problem?

Główne wyzwanie w identyfikowaniu tego rodzaju problemów tkwi w tym, że mówimy o przewidywaniach dotyczących przyszłości. To oznacza, że przewidujemy, co się stanie lub nie stanie w przyszłości. Na przykład, jak wielu ludzi kupi określoną koszulkę lub nowy PlayStation.

Potem zajmuje to trochę czasu, aby zebrać wszystkie rzeczywiste wyniki – więcej niż kilka tygodni. Potem, możemy podsumować i powiedzieć, ok, taki był rzeczywisty popyt, który zaobserwowaliśmy. Ten czas, o którym mówimy, to kilka miesięcy. To jest to, co nas zajmuje od momentu, gdy model podejmuje przewidywania, aż do momentu, gdy biznes wie dokładnie, czy było prawidłowe, czy nie. I do tego czasu, zwykle jest już za późno, biznes albo stracił potencjalne przychody, albo marża została ściśnięta, ponieważ muszą sprzedawać nadwyżki po dużych zniżkach.

To jest wyzwanie. I to jest dokładnie miejsce, w którym Aporia wchodzi i staje się bardzo, bardzo pomocna dla tych organizacji. Po pierwsze, pozwala organizacjom łatwo uzyskać transparentność i widoczność w podejmowanych decyzjach – Czy są jakieś fluktuacje? Czy jest coś, co nie ma sensu? Po drugie, jako duzi detaliści, mówimy o ogromnych ilościach zapasów, i śledzenie ich ręcznie jest niemal niemożliwe. To jest miejsce, w którym firmy i zespoły machine learning najbardziej cenią Aporia, jako 24/7 zautomatyzowany i dostosowywalny system monitorowania. Aporia stale śledzi dane i przewidywania, analizuje statystyczne zachowanie tych przewidywań i może przewidzieć i zidentyfikować zmiany w zachowaniu konsumentów i zmiany w zachowaniu danych, gdy tylko te zmiany nastąpią. Zamiast czekać sześć miesięcy, aby zdać sobie sprawę, że prognoza popytu była błędna, możesz w ciągu kilku dni zidentyfikować, że jesteśmy na złej drodze z naszymi prognozami popytu. Tak Aporia skraca ten czas z kilku miesięcy do kilku dni. To jest ogromny przełom dla każdego praktyka ML.

Czy jest coś jeszcze, co chciałbyś podzielić się na temat Aporia?

Jesteśmy stale w rozwoju i szukamy niesamowitych ludzi z wybitnymi umysłami, aby dołączyć do podróży Aporia. Zobacz nasze otwarte stanowiska.

Dziękujemy za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Aporia.