Liran Hason, spoluzakladatel a CEO Aporie – rozhovor

Liran Hason je spoluzakladatel a CEO společnosti Aporia, plnohodnotné platformy pro pozorovatelnost strojového učení, kterou využívají společnosti Fortune 500 a týmy datové vědy z celého světa, aby zajistily odpovědné AI. Aporia se bezproblémově integruje s jakoukoli infrastrukturou strojového učení. Bez ohledu na to, zda se jedná o server FastAPI na vrcholu Kubernetes, otevřený nástroj pro nasazení jako MLFlow nebo o platformu pro strojové učení jako AWS Sagemaker

Předtím, než založil Aporii, byl Liran architektem strojového učení ve společnosti Adallom (získané společností Microsoft (MSFT )) a později investorem ve společnosti Vertex Ventures.

Začal jste programovat, když vám bylo 10 let, co vás původně přitáhlo k počítačům a na čem jste pracoval?

Byl to rok 1999 a můj kamarád mi zavolal a řekl, že vytvořil webovou stránku. Po zadání adresy o délce 200 znaků do svého prohlížeče jsem uviděl webovou stránku s jeho jménem. Byl jsem ohromen tím, že něco vytvořil na svém počítači a já jsem to mohl vidět na svém vlastním počítači. To mě velmi zaujalo a chtěl jsem vědět, jak to funguje a jak to mohu udělat také. Žádal jsem svou matku, aby mi koupila knihu o HTML, která byla můj první krok do programování.

Nachází velkou radost v řešení technických výzev a jak čas plynul, moje zvědavost pouze rostla. Naučil jsem se ASP, PHP a Visual Basic a opravdu jsem pohlcoval všechno, co jsem mohl.

Ve 13 letech jsem již přijímal některé freelance úkoly, vytvářel webové stránky a desktopové aplikace.

Když jsem neměl žádnou aktivní práci, pracoval jsem na svých vlastních projektech – obvykle na různých webových stránkách a aplikacích, jejichž cílem bylo pomoci ostatním lidem dosáhnout svých cílů:

Blue-White Programming – je to hebrejský programovací jazyk, podobný HTML, který jsem vytvořil poté, co jsem si uvědomil, že děti v Izraeli, které nemají vysokou úroveň angličtiny, jsou omezeny nebo odrazovány od světa programování.

Blinky – Moji prarodiče jsou neslyšní a používají znakovou řeč k komunikaci se svými přáteli. Když se objevily video konferenční software jako Skype a ooVoo, umožnily jim poprvé mluvit se svými přáteli, i když nebyli ve stejné místnosti (jako my všichni děláme se svými telefony). Nicméně, protože neslyší, nevěděli, zda mají příchozí hovor. Abych jim pomohl, napsal jsem software, který rozpoznává příchozí video hovory a upozorňuje je blikajícím LED polem v malém hardwarovém zařízení, které jsem postavil a připojil k jejich počítači.

To jsou jen některé projekty, které jsem vytvořil jako teenager. Moje zvědavost nikdy neustala a snažil jsem se naučit co nejvíce.

Můžete sdílet příběh své cesty jako architekta strojového učení ve společnosti Microsoft-acquired Adallom?

Začal jsem svou cestu v Adallomu po skončení vojenské služby. Po 5 letech v armádě jako kapitán jsem viděl skvělou příležitost připojit se k rostoucí společnosti a trhu – jako jeden z prvních zaměstnanců. Společnost byla vedená skvělými zakladateli, které jsem znal ze své vojenské služby, a podporovaná špičkovými venture kapitály – jako Sequoia. Výbuch cloud technologií na trh byl stále v relativním dětství a my jsme stavěli jednu z prvních cloud bezpečnostních řešení v té době. Společnosti přecházely z místních řešení do cloudu a my jsme viděli vznik nových průmyslových standardů – jako Office 365, Dropbox (DBX ), Marketo, Salesforce a další.

Během svých prvních týdnů jsem již věděl, že chci jednou založit svou vlastní společnost. Skutečně jsem cítil, z technického hlediska, že jsem schopen čelit jakékoli výzvě, která se mi naskytne, a pokud ne já, tak jsem znal správné lidi, kteří mi mohou pomoci překonat cokoli.

Adallom potřeboval někoho, kdo má hluboké znalosti technologie, ale mohl by být také orientován na zákazníky. O měsíc později jsem byl na letadle do USA, poprvé v mém životě, abych se setkal s lidmi z LinkedIn (před Microsoftem). O pár týdnů později se stali našimi prvními platícími zákazníky v USA. To byla jen jedna z mnoha velkých korporací – Netflix , Disney a Safeway – kterým jsem pomáhal řešit kritické cloudové problémy. To bylo super vzdělávací a silný budovatel důvěry.

Pro mě, připojit se k Adallomu, bylo opravdu o připojení se k místu, kde věřím v trh, věřím v tým a věřím ve vizi. Jsem extrémně vděčný za příležitost, která mi byla dána tam.

Účel toho, co dělám, byl a je velmi důležitý. Pro mě to bylo stejné v armádě, bylo to vždy důležité. Mohl jsem snadno vidět, jak přístup Adallomu k propojení s cloudovými řešeními, monitorování aktivity uživatelů, zdrojů, nalezení anomálií a tak dále, byl způsobem, jakým se věci budou dělat. Věděl jsem, že Adallom je společnost, která bude úspěšná.

Byl jsem zodpovědný za celou architekturu naší infrastruktury strojového učení. A viděl jsem a zažil přímo nedostatek řádného nástrojového vybavení pro ekosystém. Ano, bylo mi jasné, že musí existovat specializované řešení v jednom centralizovaném místě, kde můžete vidět všechny své modely; kde můžete vidět, jaké rozhodnutí dělají pro váš podnik; kde můžete sledovat a stát se proaktivními s vašimi cíli strojového učení. Například jsme měli časy, kdy jsme se dozvěděli o problémech v našich modelech strojového učení příliš pozdě, a to není skvělé pro uživatele a určitě ne pro podnik. To je místo, kde vznikla myšlenka Aporie.

Můžete sdílet příběh vzniku Aporie?

Má osobní zkušenost se strojovým učením začíná v roce 2008, jako součást společného projektu na Weizmannově institutu, spolu s univerzitou v Bathu a čínským výzkumným centrem. Tam jsem postavil biometrický identifikační systém analýzou obrazů duhovky. Dosáhl jsem 94% přesnosti. Projekt byl úspěšný a byl oceňován z výzkumného hlediska. Ale pro mě, který jsem stavěl software od deseti let, něco mi připadalo nějak nepravdivé. Nemohl jste realmente použít biometrický identifikační systém, který jsem postavil, v reálném životě, protože fungoval dobře pouze pro konkrétní dataset, který jsem použil. Není to deterministické enough.

To je jen malá část pozadí. Když stavíte systém strojového učení, například pro biometrickou identifikaci, chcete, aby předpovědi byly deterministické – chcete vědět, že systém přesně identifikuje určitou osobu, ano? Stejně jako váš iPhone se nezamkne, pokud nerozpozná správnou osobu v pravém úhlu, tohle je požadovaný výsledek. Ale tohle opravdu nebylo případem se strojovým učením, když jsem se do něj poprvé pustil.

O sedm let později a já jsem zažíval přímo, v Adallomu, realitu běhu produkčních modelů bez spolehlivých zábran, protože dělají rozhodnutí pro náš podnik, která ovlivňují naše zákazníky. Poté jsem měl štěstí pracovat jako investor ve společnosti Vertex Ventures, po dobu tří let. Viděl jsem, jak více a více organizací používalo strojové učení, a jak společnosti přecházely od pouhé mluvy o strojovém učení k jeho skutečnému používání. Nicméně, tyto společnosti přijaly strojové učení pouze za účelem řešení stejných problémů, se kterými jsme se potýkali v Adallomu.

Všichni spěchali používat strojové učení a snažili se stavět monitorovací systémy v rámci své vlastní společnosti. Zjevně to nebylo jejich hlavní podnikání a tyto výzvy jsou poměrně komplexní. To je chvíle, kdy jsem si uvědomil, že tohle je moje příležitost udělat velký dopad.

Umělá inteligence je přijímána napříč téměř všemi průmyslovými odvětvími, včetně zdravotnictví, finančních služeb, automobilového průmyslu a dalších, a bude se dotýkat každého života a bude mít dopad na nás všechny. To je místo, kde Aporie ukazuje svou skutečnou hodnotu – umožňuje všem těmto životně důležitým případům použití fungovat tak, jak jsou určeny, a pomáhat zlepšovat naši společnost. Protože, stejně jako u každého softwaru, budete mít chyby a strojové učení není výjimkou. Pokud se nechají bez kontroly, tyto problémy se strojovým učením mohou opravdu poškodit kontinuitu podnikání a mít dopad na společnost s neočekávanými výsledky. Vezměte si pokus Amazonu implementovat nástroj pro nábor AI – neočekávaná předpojatost způsobila, že model strojového učení silně doporučoval mužské kandidáty před ženskými. To je zjevně nežádoucí výsledek. Proto je třeba mít specializované řešení pro detekci neočekávané předpojatosti, než se dostane do novin a ovlivní koncové uživatele.

Pro organizace, aby správně spoléhaly na strojové učení a využívaly jeho výhod, potřebují vědět, kdy nefunguje správně, a s novými předpisy, často budou uživatelé strojového učení potřebovat způsoby, jak vysvětlit předpovědi svých modelů. Na konci je kritické prozkoumat a vyvinout nové modely a inovativní projekty, ale jakmile tyto modely potkají skutečný svět a udělají skutečná rozhodnutí pro lidi, podniky a společnost, je zde jasná potřeba komplexního řešení pro zajištění transparentnosti, aby se dalo strojovému učení důvěřovat.

Můžete vysvětlit důležitost transparentního a vysvětlitelného AI?

Zatímco to může vypadat podobně, je zde důležité rozlišení, které je třeba udělat mezi tradičním softwarem a strojovým učením. V softwaru máte softwarového inženýra, který píše kód, definuje logiku aplikace, víme přesně, co se stane v každém toku kódu. Je to deterministické. To je způsob, jakým je software obvykle stavěn, inženýři vytvářejí testovací případy, testují hraniční případy, dosahují 70% – 80% pokrytí – cítíte se dostatečně dobře, abyste mohli vydávat do produkce. Pokud se objeví nějaké upozornění, můžete snadno odstranit a pochopit, jaký tok šel špatně, a opravit to.

To není případ se strojovým učením. Místo toho, aby člověk definoval logiku, je definován jako součást procesu školení modelu. Když mluvíme o logice, na rozdíl od tradičního softwaru, nejedná se o sadu pravidel, ale spíše o matici milionů a miliard čísel, která reprezentují mysl, mozek modelu strojového učení. A tohle je černá skříňka, nevíme skutečný význam každého čísla v této matici. Ale víme statisticky, takže tohle je pravděpodobnostní, a ne deterministické. Může být přesné v 83% nebo 93% času. To vyvolává spoustu otázek, ano? První, jak můžeme důvěřovat systému, kterýmu nemůžeme vysvětlit, jak dochází k jeho předpovědím? Druhé, jak můžeme vysvětlit předpovědi pro vysoce regulované odvětví – jako je finanční sektor. Například ve Spojených státech jsou finanční firmy povinny zákonem vysvětlit svým zákazníkům, proč byli odmítnuti pro žádost o půjčku.

Neschopnost vysvětlit předpovědi strojového učení v lidsky čitelném textu by mohla být velkou překážkou pro masové přijetí strojového učení napříč odvětvími. Chceme vědět, jako společnost, že model nedělá předpojatá rozhodnutí. Chceme zajistit, aby jsme rozuměli, co vede model k určitému rozhodnutí. To je místo, kde je transparentnost a vysvětlitelnost extrémně kritická.

Jak funguje transparentní a vysvětlitelné AI nástrojové řešení Aporie?

Nástrojové řešení Aporie pro vysvětlitelné AI funguje jako součást jednotného systému pro pozorovatelnost strojového učení. Bez hlubokého přehledu produkčních modelů a spolehlivého monitorovacího a upozornění řešení je těžké důvěřovat vysvětlitelným AI informacím – není třeba vysvětlovat předpovědi, pokud je výstup nespolehlivý. A tohle je místo, kde Aporie přichází – poskytující jednotné sklo pro přehled všech běžících modelů, přizpůsobitelné monitorování, upozornění, ladění, analýzu příčin a vysvětlitelné AI. Specializované, plnohodnotné řešení pro pozorovatelnost pro každou a každou otázku, která se vyskytne v produkci.

Platforma Aporie je agnostická a vybavuje AI orientované podniky, týmy datové vědy a strojového učení se centralizovanou řídicí panely a kompletním přehledem do zdraví modelů, předpovědí a rozhodnutí – umožňující jim důvěřovat svému AI. Používáním vysvětlitelného AI Aporie jsou organizace schopny udržet každého relevantního stakeholdra v obraze vysvětlováním rozhodnutí strojového učení jedním kliknutím – získat lidsky čitelné přehledy do konkrétních předpovědí modelů nebo simulovat „Co kdyby?“ situace. Kromě toho Aporie neustále sleduje data, která jsou krmena do modelu, stejně jako předpovědi, a proaktivně vás upozorňuje na důležité události, včetně poklesu výkonu, neočekávané předpojatosti, posunu dat a dokonce i příležitostí ke zlepšení vašeho modelu. Nakonec s nástrojem pro vyšetřování Aporie můžete dostat kořenovou příčinu jakéhokoli události a odstranit a zlepšit jakýkoli model v produkci.

Některé z funkcí, které jsou nabízeny, zahrnují Data Points a Time Series Investigation Tools, jak tyto nástroje pomáhají při prevenci AI předpojatosti a posunu?

Data Points poskytuje živý pohled na data, která model dostává, a předpovědi, které dělá pro podnik. Můžete získat živý feed z toho a pochopit přesně, co se děje ve vašem podniku. Takže tato schopnost přehledu je kritická pro transparentnost. Někdy se věci mění v čase a existuje korelace mezi několika změnami v čase – tohle je role časové řady.

Nedávno měly velké maloobchodníci všechny své AI předpovědní nástroje selhat, když šlo o předpověď problémů se zásobováním, jak by platforma Aporie vyřešila tento problém?

Hlavní výzva při identifikaci těchto typů problémů spočívá v tom, že mluvíme o budoucích předpovědích. To znamená, že jsme předpověděli, že něco se stane nebo nestane v budoucnosti. Například, kolik lidí bude kupovat určitý tričko nebo nový PlayStation.

Pak to trvá nějakou dobu, než se shromáždí všechny skutečné výsledky – více než několik týdnů. Pak můžeme shrnout a říci, OK, tohle byla skutečná poptávka, kterou jsme viděli. Tento časový rámec, o kterém mluvíme, je několik měsíců. To nás vede od okamžiku, kdy model dělá předpověď, až do chvíle, kdy podnik ví přesně, zda to bylo správné nebo špatné. A do té doby je obvykle příliš pozdě, podnik buď ztratil potenciální příjmy nebo marži, protože musí prodávat přebytek za velké slevy.

To je výzva. A tohle je přesně místo, kde Aporie vstupuje do obrazu a stává se velmi, velmi užitečnou pro tyto organizace. První, umožňuje organizacím snadno získat přehled a viditelnost do rozhodnutí, která jsou dělána – Existují nějaké fluktuace? Je něco, co nedává smysl? Druhé, protože mluvíme o velkých maloobchodnících, mluvíme o obrovském, jako obrovském množství zásob, a ruční sledování je téměř nemožné. To je místo, kde podniky a týmy strojového učení nejvíce oceňují Aporii, jako 24/7 automatizovaný a přizpůsobitelný monitorovací systém. Aporie neustále sleduje data a předpovědi, analyzuje statistické chování těchto předpovědí a může předpovídat a identifikovat změny v chování spotřebitelů a změnách v chování dat, jakmile se to stane. Místo toho, aby čekali šest měsíců, aby zjistili, že předpověď poptávky byla špatná, můžete během několika dnů identifikovat, že jsme na špatné cestě s našimi předpověďmi poptávky. Takže Aporie zkracuje tento časový rámec z několika měsíců na několik dnů. To je obrovský game changer pro každého praktika strojového učení.

Je něco jiného, co byste rádi sdíleli o Aporii?

Jsme neustále rostoucí a hledáme úžasné lidi s brilantními myslí, kteří se připojí k cestě Aporie. Zkontrolujte naše otevřené pozice.

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit Aporii.