Liran Hason, Współzałożyciel i Dyrektor Generalny Aporia – Wywiad

Liran Hason jest współzałożycielem i dyrektorem generalnym Aporia, platformy pełnej obsługiwania obserwowalności ML, wykorzystywanej przez firmy z listy Fortune 500 i zespoły naukowe na całym świecie, aby zapewnić odpowiedzialne AI. Aporia integruje się bezproblemowo z dowolną infrastrukturą ML. Niezależnie od tego, czy jest to serwer FastAPI na górze Kubernetes, otwarty narzędzie wdrożeniowe, takie jak MLFlow, czy platforma machine learning, taka jak AWS Sagemaker

Przed założeniem Aporia, Liran był architektem ML w Adallom (nabytym przez Microsoft (MSFT )), a później inwestorem w Vertex Ventures.

Zacząłeś programować, gdy miałeś 10 lat, co cię początkowo przyciągnęło do komputerów, i nad czym pracowałeś?

Był rok 1999, a mój przyjaciel zadzwonił do mnie i powiedział, że zbudował stronę internetową. Po wpisaniu adresu długości 200 znaków w mojej przeglądarce, zobaczyłem stronę z jego imieniem. Byłem zdumiony tym, że stworzył coś na swoim komputerze, a ja mogłem to zobaczyć na moim własnym komputerze. To sprawiło, że zostałem bardzo ciekawy, jak to działa i jak mogę to zrobić. Poprosiłem moją mamę, aby kupiła mi książkę o HTML, co było moim pierwszym krokiem w programowaniu.

Czuję wielką radość, podejmując wyzwania techniczne, a z czasem moja ciekawość tylko rosła. Nauczyłem się ASP, PHP i Visual Basic, i naprawdę wszystko, co mogłem.

Gdy miałem 13 lat, już wykonywałem pewne prace freelancerskie, budując strony internetowe i aplikacje desktopowe.

Gdy nie miałem żadnych aktywnych zleceń, pracowałem nad własnymi projektami – zwykle różnymi stronami i aplikacjami, które miały pomóc innym ludziom osiągnąć ich cele:

Niebiesko-białe programowanie – jest to język programowania w języku hebrajskim, podobny do HTML, który zbudowałem po zrealizowaniu, że dzieci w Izraelu, które nie mają wysokiego poziomu angielskiego, są ograniczone lub odpychane od świata programowania.

Blinky – Moi dziadkowie są głuchymi i używają języka migowego, aby porozumiewać się ze swoimi przyjaciółmi. Gdy pojawiły się oprogramowania do wideokonferencji, takie jak Skype i ooVoo, umożliwiły im po raz pierwszy rozmawiać z przyjaciółmi, nawet jeśli nie są w tym samym pokoju (jak my wszyscy robimy z naszymi telefonami). Jednakże, ponieważ nie mogą słyszeć, nie byli w stanie wiedzieć, kiedy mają przychodzące połączenie. Aby im pomóc, napisałem oprogramowanie, które identyfikuje przychodzące połączenia wideo i ostrzega ich, mrugając diodą LED w małym urządzeniu, które zbudowałem i podłączyłem do ich komputera.

To tylko kilka projektów, które zbudowałem jako nastolatek. Moja ciekawość nigdy nie ustawała i znalazłem się ucząc C, C++, Assembly, i jak działają systemy operacyjne, i naprawdę starałem się nauczyć się jak najwięcej.

Czy mógłbyś opowiedzieć o swojej historii bycia architektem maszynowym w Microsoft-nabytym Adallom?

Zacząłem swoją podróż w Adallom po służbie wojskowej. Po 5 latach w armii jako kapitan, zobaczyłem wielką okazję do dołączenia do wyłaniającej się firmy i rynku – jako jeden z pierwszych pracowników. Firma była prowadzona przez wielkich założycieli, których znałem ze służby wojskowej, i wspierana przez najlepsze VC – takie jak Sequoia. Wybuch technologii chmury na rynku był wciąż w swojej relatywnej dzieciństwie, i budowaliśmy jedne z pierwszych rozwiązań bezpieczeństwa chmury. Przedsiębiorstwa dopiero zaczynały przechodzić z lokalizacji do chmury, i widzieliśmy nowe standardy branżowe – takie jak Office 365, Dropbox (DBX ), Marketo, Salesforce i inne.

Podczas moich pierwszych kilku tygodni, już wiedziałem, że chcę założyć własną firmę kiedyś. Naprawdę czułem, z technicznego punktu widzenia, że jestem gotowy do każdego wyzwania, które mnie spotka, i jeśli nie ja, to wiedziałem, że znam odpowiednie osoby, które mogą mi pomóc pokonać wszystko.

Adallom miał potrzebę kogoś, kto ma głęboką wiedzę na temat techniki, ale także mógłby być skierowany do klienta. Przeskoczmy do przodu, jak miesiąc, i jestem w samolocie do USA, po raz pierwszy w moim życiu, aby spotkać się z ludźmi z LinkedIn (przed Microsoft). Kilka tygodni później i stali się naszym pierwszym płatnym klientem w USA. To było tylko jedno z wielu dużych korporacji – Netflix , Disney, i Safeway – dla których pomagałem rozwiązywać krytyczne problemy z chmurą. To było super edukacyjne i silny budowniczy zaufania.

Dla mnie, dołączenie do Adallom było naprawdę po to, aby dołączyć do miejsca, w którym wierzę w rynek, wierzę w zespół, i wierzę w wizję. Jestem niezmiernie wdzięczny za okazję, której zostałem udzielony tam.

Cel, jaki realizuję, był i jest bardzo ważny. Dla mnie było to takie same w armii, było zawsze ważne. Mogłem łatwo zobaczyć, jak podejście Adallom do łączenia się z rozwiązaniami SaaS, a następnie monitorowania aktywności użytkowników, zasobów, wyszukiwania anomalii itd., było tym, jak będą robione rzeczy. Zrozumiałem, że to będzie podejście przyszłości. Więc zdecydowanie widziałem Adallom jako firmę, która będzie udana.

Odpowiadałem za całą architekturę naszej infrastruktury ML. I widziałem i doświadczyłem na własnej skórze braku odpowiednich narzędzi dla ekosystemu. Tak, było dla mnie jasne, że musi być dedykowane rozwiązanie w jednym scentralizowanym miejscu, gdzie można zobaczyć wszystkie modele; gdzie można zobaczyć, jakie decyzje są podejmowane dla Twojego biznesu; gdzie można śledzić i stawać się proaktywnym ze swoimi celami ML. Na przykład, mieliśmy sytuacje, kiedy dowiedzieliśmy się o problemach w naszych modelach machine learning zbyt późno, i to nie jest dobre dla użytkowników i na pewno nie dla biznesu. To jest miejsce, w którym pomysł na Aporia zaczął się krystalizować.

Czy mógłbyś opowiedzieć o historii powstania Aporia?

Moje osobiste doświadczenie z machine learning zaczyna się w 2008 roku, jako część projektu współpracy w Instytucie Weizmann, wraz z Uniwersytetem w Bath i chińskim centrum badawczym. Tam, zbudowałem system identyfikacji biometrycznej, analizując obrazy tęczówki. Udało mi się osiągnąć 94% dokładności. Projekt był sukcesem i został przyjęty z uznaniem z punktu widzenia badań. Ale dla mnie, od kiedy zacząłem budować oprogramowanie w wieku 10 lat, coś nie wydawało się prawdziwe. Nie można było używać systemu identyfikacji biometrycznej, który zbudowałem, w prawdziwym życiu, ponieważ działał dobrze tylko dla konkretnego zestawu danych, którym się posługiwałem. Nie jest to wystarczająco deterministyczne.

To jest tylko tło. Gdy budujesz system machine learning, na przykład do identyfikacji biometrycznej, chcesz, aby przewidywania były deterministyczne – chcesz wiedzieć, że system dokładnie identyfikuje konkretną osobę, prawda? Tak jak Twoje iPhone nie odblokowuje, jeśli nie rozpoznaje odpowiedniej osoby pod odpowiednim kątem, to jest pożądany wynik. Ale to naprawdę nie było przypadkiem z machine learning, kiedy po raz pierwszy wszedłem w ten obszar.

Około siedem lat później i doświadczyłem na własnej skórze, w Adallom, rzeczywistości uruchamiania modeli produkcyjnych bez niezawodnych barier ochronnych, które podejmują decyzje dla naszego biznesu, które wpływają na naszych klientów. Następnie, miałem szczęście pracować jako inwestor w Vertex Ventures, przez trzy lata. Zobaczyłem, jak coraz więcej organizacji używa ML, i jak firmy przechodzą od mówienia o ML do faktycznego robienia machine learning. Jednakże, te firmy przyjęły ML tylko po to, aby zostać wyzwaniem przez te same problemy, z którymi mieliśmy do czynienia w Adallom.

Wszyscy pędzili do użycia ML, i starali się budować systemy monitorowania wewnętrznie. Oczywiście, nie było to ich podstawowym biznesem, i te wyzwania są dość złożone. To jest moment, w którym zrozumiałem, że to jest moja okazja, aby zrobić ogromny wpływ.

AI jest przyjmowane w niemal każdej branży, w tym w ochronie zdrowia, usługach finansowych, motoryzacji i innych, i będzie dotykać życia każdego i wpłynie na nas wszystkich. To jest miejsce, w którym Aporia pokazuje swoją prawdziwą wartość – umożliwiając wszystkim tym przypadkom użycia działać zgodnie z zamierzeniem i pomagać poprawiać nasze społeczeństwo. Ponieważ, jak w przypadku każdego oprogramowania, będziesz miał błędy, i machine learning nie jest inny. Jeśli pozostawione bez nadzoru, te problemy z ML mogą naprawdę zaszkodzić ciągłości biznesu i wpłynąć na społeczeństwo z niezamierzonymi skutkami uprzedzeń. Weź próba wdrożenia narzędzia rekrutacyjnego AI przez Amazon (AMZN ) – niezamierzone uprzedzenia spowodowały, że model machine learning silnie rekomendował kandydatów mężczyzn ponad kobiety. To jest oczywiście niepożądany wynik. Więc potrzebne jest dedykowane rozwiązanie do wykrywania niezamierzonych uprzedzeń przed ich pojawieniem się w wiadomościach i wpływem na użytkowników końcowych.

Dla organizacji, aby właściwie polegać na machine learning i cieszyć się jego korzyściami, muszą wiedzieć, kiedy nie działa prawidłowo, i teraz, z nowymi regulacjami, często użytkownicy ML będą potrzebować sposobów, aby wyjaśnić przewidywania ich modeli. W końcu, jest to kluczowe, aby prowadzić badania i rozwijać nowe modele i innowacyjne projekty, ale kiedy te modele spotykają się z prawdziwym światem i podejmują rzeczywiste decyzje dla ludzi, firm i społeczeństwa, jest wyraźna potrzeba kompleksowego rozwiązania obserwowalności, aby zapewnić, że można im zaufać.

Czy możesz wyjaśnić znaczenie transparentnego i wyjaśnialnego AI?

Pomimo że może się wydawać podobne, istnieje ważna różnica, którą należy zrobić między tradycyjnym oprogramowaniem a machine learning. W oprogramowaniu masz inżyniera oprogramowania, który pisze kod, definiuje logikę aplikacji, wiemy dokładnie, co się stanie w każdym przepływie kodu. Jest to deterministyczne. To jest sposób, w jaki zwykle buduje się oprogramowanie, inżynierowie tworzą przypadki testowe, testują przypadki graniczne, uzyskują 70% – 80% pokrycia – czujesz się wystarczająco dobrze, aby wydać do produkcji. Jeśli jakieś alerty pojawiają się, możesz łatwo debugować i zrozumieć, jaki przepływ poszedł nie tak, i naprawić to.

To nie jest przypadkiem z machine learning. Zamiast człowieka definiującego logikę, jest definiowane jako część procesu szkolenia modelu. Gdy mówimy o logice, w przeciwieństwie do tradycyjnego oprogramowania, nie jest to zestaw reguł, ale raczej macierz milionów i miliardów liczb, które reprezentują umysł, mózg modelu machine learning. I to jest czarna skrzynka, nie wiemy naprawdę znaczenia każdej liczby w tej macierzy. Ale wiemy statystycznie, więc to jest prawdopodobne, a nie deterministyczne. Może być dokładne w 83% lub 93% czasu. To rodzi wiele pytań, prawda? Po pierwsze, jak możemy zaufać systemowi, którego nie możemy wyjaśnić, w jaki sposób dochodzi do swoich przewidywań? Po drugie, jak możemy wyjaśnić przewidywania dla wysoko regulowanych branż – takich jak sektor finansowy. Na przykład, w USA, firmy finansowe są zobowiązane prawem do wyjaśnienia swoim klientom, dlaczego zostali odrzuceni w wniosku o kredyt.

Niezdolność do wyjaśnienia przewidywań machine learning w czytelnym tekście może być główną przeszkodą w masowym przyjęciu ML w różnych branżach. Chcemy wiedzieć, jako społeczeństwo, że model nie podejmuje decyzji z uprzedzeniami. Chcemy być pewni, że rozumiemy, co prowadzi model do konkretnych decyzji. To jest miejsce, w którym wyjaśnialność i transparentność są niezwykle kluczowe.

Jak działa rozwiązanie Aporia do transparentnego i wyjaśnialnego AI?

Narzędzie Aporia do wyjaśnialnego AI działa jako część zintegrowanego systemu obserwowalności machine learning. Bez głębokiej widoczności modeli produkcyjnych i niezawodnego monitorowania i alertowania, trudno jest zaufać wyjaśnialnym informacjom AI – nie ma potrzeby wyjaśniać przewidywań, jeśli wyjście jest niewiarygodne. I to jest miejsce, w którym Aporia wchodzi, dostarczając jedną szybę widoczności nad wszystkimi uruchomionymi modelami, dostosowywalne monitorowanie, możliwości alertowania, narzędzia debugowania, dochodzenie do przyczyny i wyjaśnialne AI. Dedykowane, pełne rozwiązanie obserwowalności dla każdego problemu, który pojawia się w produkcji.

Platforma Aporia jest agnostyczna i wyposaża firmy zorientowane na AI, zespoły naukowe i ML w scentralizowanym pulpicie i pełnej widoczności w swoim modelu, przewidywaniach i decyzjach – umożliwiając im zaufać swojemu AI. Używając wyjaśnialnego AI Aporia, organizacje są w stanie utrzymać każdego odpowiedniego stakeholdera w pętli, wyjaśniając decyzje machine learning za pomocą jednego kliknięcia – uzyskując czytelne informacje na temat konkretnych przewidywań modelu lub symulując “Co, jeśli?” sytuacje. Ponadto, Aporia stale śledzi dane, które są wprowadzane do modelu, a także przewidywania, i proaktywnie wysyła alerty w przypadku ważnych zdarzeń, w tym degradacji wydajności, niezamierzonych uprzedzeń, dryfu danych i nawet możliwości poprawy modelu. Wreszcie, za pomocą narzędzi dochodzenia Aporia, możesz dotrzeć do przyczyny każdego zdarzenia, aby naprawić i poprawić każdy model w produkcji.

Niektóre z funkcjonalności, które są oferowane, obejmują Narzędzia do śledzenia punktów danych i badań szeregów czasowych, jak te narzędzia pomagają w zapobieganiu uprzedzeniom AI i dryfowi?

Punkty danych zapewniają widok na żywo danych, które model otrzymuje, i przewidywań, które są podejmowane dla biznesu. Możesz uzyskać na żywo ten widok i zrozumieć dokładnie, co się dzieje w Twoim biznesie. Ta zdolność widoczności jest kluczowa dla transparentności. Czasami rzeczy zmieniają się w czasie, i istnieje korelacja między wieloma zmianami w czasie – to jest rola badań szeregów czasowych.

Ostatnio duzi detaliści mieli wszystkie swoje narzędzia predykcyjne AI, które zawiodły, gdy chodziło o przewidywanie problemów łańcucha dostaw, jak platforma Aporia rozwiązuje ten problem?

Główne wyzwanie w identyfikowaniu tego rodzaju problemów tkwi w tym, że mówimy o przewidywaniach dotyczących przyszłości. To oznacza, że przewidujemy, co się stanie lub nie stanie w przyszłości. Na przykład, jak wielu ludzi kupi określoną koszulkę lub nowy PlayStation.

Potem zajmuje to trochę czasu, aby zebrać wszystkie rzeczywiste wyniki – więcej niż kilka tygodni. Potem, możemy podsumować i powiedzieć, ok, to była rzeczywista popyt, który widzieliśmy. Ten czas, o którym mówimy, to kilka miesięcy. To jest to, co nas zajmuje od momentu, gdy model podejmuje przewidywania, aż do momentu, gdy biznes wie dokładnie, czy było prawidłowe, czy nie. I do tego czasu, zwykle jest już za późno, biznes albo stracił potencjalne przychody, albo marża została ściśnięta, ponieważ muszą sprzedawać nadwyżki po dużych zniżkach.

To jest wyzwanie. I to jest dokładnie miejsce, w którym Aporia wchodzi i staje się bardzo, bardzo pomocna dla tych organizacji. Po pierwsze, pozwala organizacjom łatwo uzyskać transparentność i widoczność w podejmowanych decyzjach – Czy są jakieś fluktuacje? Czy jest coś, co nie ma sensu? Po drugie, jako duzi detaliści, mówimy o ogromnych ilościach zapasów, i śledzenie ich ręcznie jest niemal niemożliwe. To jest miejsce, w którym firmy i zespoły machine learning najbardziej cenią Aporia, jako 24/7 zautomatyzowany i dostosowywalny system monitorowania. Aporia stale śledzi dane i przewidywania, analizuje statystyczne zachowanie tych przewidywań i może przewidzieć i zidentyfikować zmiany w zachowaniu konsumentów i zmiany w zachowaniu danych, zanim się to stanie. Zamiast czekać sześć miesięcy, aby zrealizować, że prognoza popytu była błędna, możesz w ciągu kilku dni zidentyfikować, że jesteśmy na złej drodze z naszymi prognozami popytu. Tak Aporia skraca ten czas z kilku miesięcy do kilku dni. To jest ogromny przełom dla każdego praktyka ML.

Czy jest coś jeszcze, co chciałbyś podzielić się na temat Aporia?

Jesteśmy stale w rozwoju i szukamy niesamowitych ludzi z wybitnymi umysłami, aby dołączyć do podróży Aporia. Zobacz nasze otwarte stanowiska.

Dziękujemy za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Aporia.