Liran Hason, soustanovitelj in izvršni direktor serije intervjujev Aporia

Liran Hason je soustanovitelj in izvršni direktor podjetja Aporija, platformo za opazovanje s polnim skladom ML, ki jo uporabljajo podjetja s seznama Fortune 500 in skupine za podatkovno znanost po vsem svetu za zagotavljanje odgovorne umetne inteligence. Aporia se brezhibno integrira s katero koli infrastrukturo ML. Ne glede na to, ali gre za strežnik FastAPI na vrhu Kubernetesa, odprtokodno orodje za uvajanje, kot je MLFlow, ali platformo za strojno učenje, kot je AWS Sagemaker

Pred ustanovitvijo Aporia je bil Liran ML arhitekt pri Adallomu (ki ga je prevzel Microsoft) in kasneje investitor pri Vertex Ventures.

Ko ste bili stari 10 let, ste začeli kodirati, kaj vas je na začetku pritegnilo k računalnikom in na čem ste delali?

Bilo je leta 1999 in moj prijatelj me je poklical in rekel, da je naredil spletno stran. Ko sem v brskalnik vtipkal 200 znakov dolg naslov, sem videl spletno mesto z njegovim imenom. Presenetilo me je dejstvo, da je nekaj ustvaril na svojem računalniku in sem si to lahko ogledal na svojem računalniku. Zaradi tega sem bil zelo radoveden, kako deluje in kako lahko naredim enako. Mamo sem prosil, naj mi kupi knjigo HTML, kar je bil moj prvi korak v programiranju.

Sprejemanje tehnoloških izzivov me veseli in s časom je moja radovednost samo rasla. Naučil sem se ASP, PHP in Visual Basic ter res porabil vse, kar sem lahko.

Ko sem bil star 13 let, sem že opravljal nekaj samostojnih del, gradil sem spletna mesta in namizne aplikacije.

Ko nisem imel aktivnega dela, sem delal na lastnih projektih – običajno na različnih spletnih mestih in aplikacijah, katerih cilj je bil pomagati drugim ljudem pri doseganju njihovih ciljev:

Modro-belo programiranje – je hebrejski programski jezik, podoben HTML, ki sem ga zgradil, ko sem ugotovil, da so otroci v Izraelu, ki nimajo visoke ravni angleščine, omejeni ali odrinjeni od sveta kodiranja.

Utripajoče – Moji stari starši so gluhi in uporabljajo znakovni jezik za sporazumevanje s prijatelji. Ko se je pojavila programska oprema za videokonference, kot sta Skype in ooVoo, jim je prvič omogočila, da se pogovarjajo s prijatelji, tudi če niso v isti sobi (kot vsi počnemo s svojimi telefoni). Ker pa ne slišijo, niso mogli vedeti, kdaj imajo dohodni klic. Da bi jim pomagal, sem napisal programsko opremo, ki prepozna dohodne video klice in jih opozori z utripanjem led niza v majhni strojni napravi, ki sem jo sestavil in povezal z njihovim računalnikom.

To je le nekaj projektov, ki sem jih zgradil kot najstnik. Moja radovednost se nikoli ni ustavila in ugotovil sem, da sem se učil C, C++, Assembly in delovanja operacijskih sistemov ter se res poskušal naučiti čim več.

Ali lahko delite zgodbo o svoji poti arhitekta strojnega učenja v podjetju Adallom, ki ga je kupil Microsoft?

Svojo pot sem začel v Adallomu po služenju vojaškega roka. Po 5 letih v vojski kot stotnik sem videl odlično priložnost, da se pridružim nastajajočemu podjetju in trgu – kot eden prvih zaposlenih. Podjetje so vodili veliki ustanovitelji, ki sem jih poznal iz služenja vojaškega roka, podpirali pa so jih vrhunski kapitalski kapitalisti – kot je Sequoia. Izbruh tehnologij v oblaku na trg je bil šele v povojih in takrat smo gradili eno prvih varnostnih rešitev v oblaku. Podjetja so šele začela prehajati iz lokalnega poslovanja v oblak in opazili smo, da se pojavljajo novi industrijski standardi – kot so Office 365, Dropbox, Marketo, Salesforce in drugi.

V prvih nekaj tednih sem že vedel, da želim nekega dne ustanoviti svoje podjetje. S tehnološkega vidika sem res čutil, da sem kos vsakemu izzivu, in če ne sam, sem poznal prave ljudi, ki bi mi pomagali premagati kar koli.

Adallom je potreboval nekoga, ki ima poglobljeno znanje o tehnologiji, a bi se lahko tudi soočil s strankami. Hitro naprej kot en mesec, in prvič v življenju sem na letalu za ZDA, kjer se bom srečal z ljudmi iz LinkedIna (pred Microsoftom). Nekaj ​​tednov pozneje so postali naš prvi plačnik v ZDA. To je bila samo ena od mnogih velikih korporacij – Netflix, Disney in Safeway –, ki sem jim pomagal rešiti kritične težave z oblakom. Bilo je super poučno in močno krepilo zaupanje.

Zame je bila pridružitev Adallomu v resnici pridružitev mestu, kjer verjamem v trg, verjamem v ekipo in verjamem v vizijo. Zelo sem hvaležen za priložnost, ki mi je bila tam dana.

Namen tega, kar počnem, je bil in je zelo pomemben. Pri meni je bilo v vojski tako, vedno je bilo pomembno. Zlahka sem videl, kako se bodo stvari izvajale s pristopom Adallom, ki je povezovanje z rešitvami SaaS, nato spremljanje dejavnosti uporabnikov, virov, iskanje nepravilnosti in tako naprej. Spoznal sem, da bo to pristop prihodnosti. Tako sem vsekakor videl Adallom kot podjetje, ki bo uspešno.

Bil sem odgovoren za celotno arhitekturo naše infrastrukture ML. Iz prve roke sem videl in izkusil pomanjkanje ustreznega orodja za ekosistem. Ja, jasno mi je bilo, da mora obstajati namenska rešitev na enem centraliziranem mestu, kjer lahko vidite vse svoje modele; kjer lahko vidite, kakšne odločitve sprejemajo za vaše podjetje; kjer lahko sledite in postanete proaktivni pri svojih ciljih ML. Imeli smo na primer trenutke, ko smo veliko prepozno izvedeli za težave v naših modelih strojnega učenja, kar ni dobro za uporabnike in zagotovo ne za podjetje. Tu se je začela zaokroževati ideja o Aporiji.

Ali lahko delite zgodbo o genezi za Aporijo?

Moja osebna izkušnja s strojnim učenjem se je začela leta 2008 kot del skupnega projekta na Weizmannovem inštitutu, skupaj z Univerzo v Bathu in kitajskim raziskovalnim centrom. Tam sem zgradil biometrični identifikacijski sistem z analizo slik šarenice. Uspelo mi je doseči 94-odstotno natančnost. Projekt je bil uspešen in je bil z raziskovalnega vidika deležen odobravanja. Toda jaz sem gradil programsko opremo od svojega 10. leta in nekaj se mi je zdelo na nek način, ne resnično. Sistema biometrične identifikacije, ki sem ga zgradil, v resničnem življenju niste mogli zares uporabiti, ker je dobro deloval samo za določen nabor podatkov, ki sem ga uporabil. Ni dovolj deterministično.

To je samo del ozadja. Ko gradite sistem strojnega učenja, na primer za biometrično identifikacijo, želite, da so napovedi deterministične – želite vedeti, da sistem natančno identificira določeno osebo, kajne? Tako kot se vaš iPhone ne odklene, če ne prepozna prave osebe pod pravim kotom, je to želeni rezultat. Toda takrat, ko sem prvič prišel v vesolje, to res ni bilo tako pri strojnem učenju.

Približno sedem let pozneje sem v podjetju Adallom na lastni koži izkusil resničnost delovanja proizvodnih modelov brez zanesljivih varoval, saj sprejemajo odločitve za naše podjetje, ki vplivajo na naše stranke. Nato sem imel srečo, da sem tri leta delal kot investitor pri Vertex Ventures. Videl sem, kako vedno več organizacij uporablja ML in kako so podjetja prešla iz samo govorjenja o ML na dejansko strojno učenje. Vendar so ta podjetja sprejela ML samo zato, ker so se soočila z istimi težavami, s katerimi smo se soočili v Adallomu.

Vsi so hiteli uporabljati ML in poskušali so zgraditi nadzorne sisteme v podjetju. Očitno to ni bila njihova osnovna dejavnost in ti izzivi so precej zapleteni. Takrat sem tudi spoznal, da je to moja priložnost, da naredim velik vpliv.

Umetna inteligenca se uporablja v skoraj vseh panogah, vključno z zdravstvom, finančnimi storitvami, avtomobilizmom in drugimi, in se bo dotaknila življenj vseh in vplivala na vse nas. Tukaj Aporia pokaže svojo pravo vrednost – omogoča, da vsi ti primeri uporabe, ki spreminjajo življenja, delujejo, kot je predvideno, in pomagajo izboljšati našo družbo. Ker boste imeli, tako kot pri vsaki programski opremi, hrošče in strojno učenje ni nič drugače. Če jih ne obvladate, lahko te težave z ML resnično škodijo neprekinjenemu poslovanju in vplivajo na družbo z nenamernimi pristranskimi rezultati. Vzemi Amazonov poskus implementacije orodja za zaposlovanje AI – nenamerna pristranskost je povzročila, da je model strojnega učenja močno priporočal moške kandidate namesto žensk. To je očitno neželen rezultat. Zato mora obstajati posebna rešitev za odkrivanje nenamerne pristranskosti, preden pride v novice in vpliva na končne uporabnike.

Da bi se lahko organizacije ustrezno zanašale na strojno učenje in uživale v njegovih prednostih, morajo vedeti, kdaj ne deluje pravilno, zdaj z novimi predpisi pa bodo uporabniki strojnega učenja pogosto potrebovali načine za razlago svojih napovedi modela. Na koncu je ključnega pomena raziskovanje in razvoj novih modelov in inovativnih projektov, toda ko se ti modeli srečajo z resničnim svetom in sprejemajo resnične odločitve za ljudi, podjetja in družbo, obstaja jasna potreba po celoviti rešitvi opazovanja, ki bo zagotovila, da lahko zaupaj AI.

Ali lahko razložite pomen pregledne in razložljive umetne inteligence?

Čeprav se morda zdi podobno, je med tradicionalno programsko opremo in strojnim učenjem treba narediti pomembno razliko. Pri programski opremi imate programskega inženirja, ki piše kodo, definira logiko aplikacije, mi natančno vemo, kaj se bo zgodilo v vsakem toku kode. To je deterministično. Programska oprema je običajno zgrajena tako, inženirji ustvarjajo testne primere, preizkušajo robne primere, dosežejo približno 70 % – 80 % pokritosti – počutite se dovolj dobro, da lahko izdate v produkcijo. Če se pojavijo opozorila, lahko preprosto odpravite napake in ugotovite, kateri tok je šel narobe, ter to popravite.

To ne velja za strojno učenje. Namesto tega, če človek definira logiko, je ta definirana kot del procesa usposabljanja modela. Ko govorimo o logiki, za razliko od tradicionalne programske opreme to ni niz pravil, temveč matrika milijonov in milijard števil, ki predstavljajo um, možgane modela strojnega učenja. In to je črna skrinjica, v resnici ne poznamo pomena vsake številke v tej matriki. Vendar vemo statistično, tako da je to verjetnost in ne determinist. Natančen je lahko v 83 % ali 93 % časa. To odpira veliko vprašanj, kajne? Prvič, kako lahko zaupamo sistemu, ki mu ne znamo razložiti, kako prihaja do svojih napovedi? Drugič, kako lahko razložimo napovedi za visoko regulirane panoge – kot je finančni sektor. Na primer, v ZDA so finančna podjetja po zakonu dolžna svojim strankam pojasniti, zakaj so bile zavrnjene za posojilo.

Nezmožnost razlage napovedi strojnega učenja v človeku berljivem besedilu bi lahko bila glavna ovira za množično sprejetje strojnega učenja v panogah. Kot družba želimo vedeti, da model ne sprejema pristranskih odločitev. Prepričati se želimo, da razumemo, kaj vodi model k določeni odločitvi. Tu sta razložljivost in preglednost izjemno ključni.

Kako deluje Aporijina pregledna in razložljiva rešitev orodjarne AI?

Razložljivo orodje AI Aporia deluje kot del enotnega sistema opazovanja strojnega učenja. Brez poglobljene vidljivosti proizvodnih modelov ter zanesljive rešitve za spremljanje in opozarjanje je težko zaupati razložljivim vpogledom umetne inteligence – ni potrebe po razlagi napovedi, če je rezultat nezanesljiv. In tu nastopi Aporia, ki zagotavlja eno samo stekleno vidljivost nad vsemi delujočimi modeli, prilagodljiv nadzor, zmožnosti opozarjanja, orodja za odpravljanje napak, preiskavo vzroka in razložljivo umetno inteligenco. Namenska celovita rešitev za opazovanje za vsako in vsako težavo, ki se pojavi v proizvodnji.

Platforma Aporia je agnostična in opremlja podjetja, ki so usmerjena v umetno inteligenco, ekipe za podatkovno znanost in strojno učenje, s centralizirano nadzorno ploščo in popolnim vpogledom v stanje, napovedi in odločitve svojega modela – kar jim omogoča, da zaupajo svoji umetni inteligenci. Z uporabo razložljive umetne inteligence Aporia lahko organizacije obveščajo vse ustrezne deležnike tako, da razložijo odločitve strojnega učenja s klikom gumba – pridobijo človeku berljiv vpogled v specifične napovedi modela ali simulirajo »Kaj če?« situacije. Poleg tega Aporia nenehno spremlja podatke, ki so vneseni v model, in napovedi ter vam proaktivno pošilja opozorila o pomembnih dogodkih, vključno z poslabšanjem zmogljivosti, nenamerno pristranskostjo, odmikom podatkov in celo priložnostmi za izboljšanje vašega modela. Nazadnje, z orodjem za preiskovanje Aporia lahko pridete do temeljnega vzroka katerega koli dogodka, da popravite in izboljšate kateri koli model v proizvodnji.

Nekatere ponujene funkcije vključujejo podatkovne točke in orodja za preiskovanje časovnih vrst. Kako ta orodja pomagajo pri preprečevanju pristranskosti in odmika AI?

Podatkovne točke zagotavljajo v živo pogled na podatke, ki jih model pridobiva, in napovedi, ki jih daje za podjetje. To lahko dobite v živo in natančno razumete, kaj se dogaja v vašem podjetju. Torej je ta sposobnost vidnosti ključna za preglednost. Potem se včasih stvari sčasoma spremenijo in obstaja korelacija med več spremembami skozi čas – to je vloga preiskave časovnih vrst.

Nedavno so večjim trgovcem na drobno vsa njihova orodja za napovedovanje z umetno inteligenco odpovedala, ko je prišlo do napovedovanja težav v dobavni verigi. Kako bi platforma Aporia to rešila?

Glavni izziv pri prepoznavanju tovrstnih vprašanj temelji na dejstvu, da govorimo o napovedih prihodnosti. To pomeni, da smo napovedali, da se bo v prihodnosti nekaj zgodilo ali pa se ne bo zgodilo. Na primer, koliko ljudi bo kupilo določeno majico ali novo PlayStation.

Nato traja nekaj časa, da zberemo vse dejanske rezultate – več kot nekaj tednov. Potem lahko povzamemo in rečemo, v redu, to je bilo dejansko povpraševanje, ki smo ga videli. V tem časovnem okviru govorimo o skupaj nekaj mesecih. To je tisto, kar nas popelje od trenutka, ko model naredi napoved, do trenutka, ko podjetje natančno ve, ali je bilo pravilno ali narobe. In do takrat je običajno že prepozno, podjetje je bodisi izgubilo potencialne prihodke ali pa se je marža zmanjšala, ker morajo prodati presežne zaloge z velikimi popusti.

To je izziv. In ravno tu nastopi Aporia in tem organizacijam postane zelo, zelo koristna. Prvič, organizacijam omogoča enostavno preglednost in preglednost odločitev, ki se sprejemajo – ali obstajajo nihanja? Je kaj nesmiselnega? Drugič, ko govorimo o velikih trgovcih na drobno, govorimo o ogromnih, na primer ogromnih količinah inventarja, in ročno sledenje jim je skoraj nemogoče. Tukaj podjetja in ekipe za strojno učenje najbolj cenijo Aporio kot 24/7 avtomatiziran in prilagodljiv sistem za spremljanje. Aporia nenehno spremlja podatke in napovedi, analizira statistično obnašanje teh napovedi ter lahko predvidi in identificira spremembe v vedenju potrošnikov in spremembe v vedenju podatkov, takoj ko se zgodijo. Namesto da čakate šest mesecev, da ugotovite, da je bila napoved povpraševanja napačna, lahko v nekaj dneh ugotovite, da smo z našimi napovedmi povpraševanja na napačni poti. Tako Aporia skrajša ta časovni okvir z nekaj mesecev na nekaj dni. To je velika sprememba igre za vsakega praktika ML.

Ali želite še kaj povedati o Aporiji?

Nenehno rastemo in iščemo neverjetne ljudi z briljantnimi umi, ki bi se pridružili potovanju Aporia. Oglejte si naše odprta mesta.

Hvala za odličen intervju, bralci, ki želite izvedeti več, naj ga obiščejo Aporija.