Liran Hason, Aporian perustaja ja toimitusjohtaja – Haastattelusarja

Liran Hason on Aporian perustaja ja toimitusjohtaja, joka on täydellinen ML-havainnollistamisalusta, jota käyttävät Fortune 500 -yritykset ja data-tieteelliset tiimit ympäri maailmaa vastuullisen AI:n turvaamiseksi. Aporia integroituu kätevästi mihin tahansa ML-infrastruktuuriin. Olipa kyseessä sitten FastAPI-palvelin Kubernetesin päällä, avoimen lähdekoodin käyttöönotto-työkalu kuten MLFlow tai koneoppimisen alusta kuten AWS Sagemaker

Ennen Aporian perustamista Liran toimi ML-arkkitehtina Adallomissa (jonka Microsoft (MSFT ) hankki), ja myöhemmin sijoittajana Vertex Venturesissa.

Milloin sinä aloit codingin ja mitä sinä löysit siitä?

Se oli vuosi 1999, ja ystäväni soitti minulle ja sanoi, että hän oli rakentanut verkkosivun. Kirjoittamalla 200 merkkiä pitkän osoitteen selaimessani, näin verkkosivun, jossa oli hänen nimensä. Olin hämmästynyt siitä, että hän oli luonut jotain omalla tietokoneellaan ja minä pystyin näkemään sen oman tietokoneeni ruudulla. Tämä herätti minussa suuren uteliaisuuden siitä, miten se toimii ja miten voin tehdä saman itse. Pyysin äitiäni ostamaan minulle HTML-kirjan, joka oli ensimmäinen askel ohjelmointiin.

Minusta on hauskaa ottaa vastaan teknisiä haasteita, ja ajan myötä uteliaisuuteni vain kasvoi. Opin ASP:n, PHP:n ja Visual Basicin, ja nielaisin kaiken, mitä vain pystyin.

Kun minulla ei ollut aktiivisia töitä, työskentelin omilla projekteillani – yleensä erilaisilla verkkosivuilla ja sovelluksilla, joiden tarkoituksena oli auttaa muita ihmisiä saavuttamaan heidän tavoitteitaan:

Blue-White Programming – on heprean kielen ohjelmointikieli, joka on samanlainen kuin HTML, jonka rakensin tajutessani, että Israelissa asuvat lapset, joilla ei ole korkeaa englannin kielen taitoa, ovat rajoitettuja tai torjuttuja ohjelmoinnin maailmasta.

Blinky – Vaarinani ovat kuurot ja käyttävät viittomakieltä kommunikoimaan ystäviensä kanssa. Kun videoneuvotteluohjelmat kuten Skype ja ooVoo ilmestyivät, ne mahdollistivat heidän kanssaan puhumisen, vaikka he eivät olisi samassa huoneessa (kuten me kaikki teemme puhelimillamme). Kuitenkin, koska he eivät voi kuulla, he eivät voineet tietää, kun heillä on saapuva videopuhelu. Auttaakseni heitä, kirjoitin ohjelman, joka tunnistaa saapuvat videopuhelut ja hälyttää heitä vilkuttamalla LED-matriisia pienessä laitteessani, jonka olin rakentanut ja yhdistänyt heidän tietokoneeseensa.

Nämä ovat vain muutamia projekteja, joita tein teini-ikäisenä. Uteliaisuuteni ei koskaan loppunut, ja opin C:n, C++:n, Assemblyn ja miten käyttöjärjestelmät toimivat, ja yritin oppia kaiken, mitä vain pystyin.

Voitko kertoa tarinan matkastasi koneoppimisen arkkitehtina Microsoftin hankkimassa Adallomissa?

Aloin matkani Adallomissa sotilaspalvelun jälkeen. Viiden vuoden jälkeen armeijassa kapteenina, näin loistavan mahdollisuuden liittyä nousuun tulevaan yritykseen ja markkinoille – yhtenä ensimmäisistä työntekijöistä. Yritys johti suuria perustajia, jotka tunsin sotilaspalvelustani, ja jota tukivat huipputason VCs – kuten Sequoia. Pilvi-tekniikoiden räjähdys markkinoille oli vielä suhteellisen nuori, ja rakensimme yhtä ensimmäisistä pilvi-turvallisuusratkaisuista tuolloin. Yritykset siirtyivät vasta siirtymässä paikallisista pilveen, ja näimme uusia teollisuusstandardeja – kuten Office 365, Dropbox (DBX ), Marketo, Salesforce ja muut.

Ensimmäisten viikkojeni aikana tiesin jo, että haluan perustaa oman yritykseni jonain päivänä. Tunsin todella, teknisesti, että olen valmis mihin tahansa haasteeseen, ja jos en itse, tiesin oikeat ihmiset, jotka auttavat minua voittamaan mitä tahansa.

Adallomilla oli tarve jollekin, jolla on syvä tekninen tietämys, mutta joka myös voi olla asiakaspäässä. Eteenpäin noin kuukauden, ja olen lentokoneessa Yhdysvaltoihin, tapaamaan LinkedInin (ennen Microsoftia) ihmisiä. Muutamassa viikossa heistä tuli ensimmäinen maksava asiakkaamme Yhdysvalloissa. Tämä oli vain yksi monista suurista yrityksistä – Netflix , Disney, Safeway – joiden kanssa auttin ratkaisemaan kriittisiä pilvi-ongelmia. Se oli erittäin opettavaista ja vahvaa luottamusta herättävää.

Minulle liittyminen Adallomiin oli todella liittyminen paikkaan, jossa uskon markkinaan, uskon tiimiin ja uskon visioon. Olen erittäin kiitollinen mahdollisuudesta, joka minulle annettiin siellä.

Tarkoitukseni siinä, mitä teen, oli ja on erittäin tärkeää. Minulle se oli sama armeijassa, se oli aina tärkeää. Voin helposti nähdä, miten Adallomin lähestymistapa yhdistää SaaS-ratkaisuihin, seuraa käyttäjien ja resurssien toimintaa, löytää poikkeamia jne., oli tapa, jolla asiat tehtäisiin. Tajusin, että Adallom on yritys, joka on menestyy.

Olin vastuussa koko ML-infrastruktuurin arkkitehtuurista. Ja näin ja koin ensimmäisin käsin puutteen oikeasta työkalusta ekosysteemissä. Kyllä, se oli minulle selvää, että on oltava omistettu ratkaisu yhdessä keskitetyssä paikassa, jossa voit nähdä kaikki mallisi; jossa voit nähdä, mitä päätöksiä ne tekevät liiketoiminnallesi; jossa voit seurata ja olla proaktiivinen ML-tavoitteissasi. Esimerkiksi meillä oli kertoja, jolloin opimme ongelmista koneoppimismalleissamme liian myöhään, ja se ei ole hyväksi käyttäjille eikä liiketoiminnalle. Tästä syntyi ideani Aporiasta.

Voitko kertoa Aporian syntytarinan?

Omani henkilökohtainen kokemus koneoppimisesta alkaa vuodesta 2008, osana yhteistyöhön Weizmann-instituutin, Bathin yliopiston ja Kiinalaisen tutkimuskeskuksen kanssa. Siellä rakensin biometrisen tunnistusjärjestelmän analysoimalla silmän kuvia. Onnistuin saavuttamaan 94 prosentin tarkin. Projekti oli menestys, ja se sai kiitosta tutkimuksen kannalta. Mutta minulle se tuntui jollain tavoin epäaidolta. Et voi käyttää biometristä tunnistusjärjestelmää, jonka rakensin, todellisessa elämässä, koska se toimi vain tietyn datan kanssa, jonka käytin. Se ei ole riittävän deterministinen.

Tämä on vain hieman taustaa. Kun rakennat koneoppimisjärjestelmää, esimerkiksi biometriselle tunnistamiselle, haluat, että ennusteet ovat deterministisiä – haluat tietää, että järjestelmä tunnistaa tietyn henkilön oikein, eikö? Kuten iPhone, joka ei lukitu, jos se ei tunnista oikeaa henkilöä oikeasta kulmasta, tämä on toivottu lopputulos. Mutta tämä ei ollut tapaus koneoppimisessa, kun ensin aloin siinä.

Noin seitsemän vuotta myöhemmin ja koin ensimmäisin käsin todellisuuden pyörittäessäni tuotantomalleja ilman luotettavia varoitusjärjestelmiä Adallomissa, jotka tekivät päätöksiä liiketoiminnalleni, jotka vaikuttivat asiakkaideni. Myöhemmin olin sijoittajana Vertex Venturesissa kolme vuotta. Näin, miten yhä useammat organisaatiot käyttivät ML:ää, ja miten yritykset siirtyivät vain puhumasta ML:stä todelliseen koneoppimiseen. Mutta nämä yritykset omaksuivat ML:n vasta haastettuna samojen ongelmien kanssa, joita kohtasimme Adallomissa.

Kaikki kiiruhtivat käyttämään ML:ää, ja he yrittivät rakentaa valvontajärjestelmiä omalla kustannuksellaan. Ilmeisesti se ei ollut heidän ydinliiketoimintaansa, ja nämä haasteet ovat hyvin monimutkaisia. Tässä tajusin, että tämä on minun mahdollisuuteni tehdä suuri vaikutus.

AI:ta omaksutaan lähes jokaisessa teollisuudessa, mukaan lukien terveydenhuolto, rahoituspalvelut, autoteollisuus ja muut, ja se koskee jokaisen elämää ja vaikuttaa meihin kaikkiin. Tässä Aporia näyttää oikean arvonsa – mahdollistaen kaikki nämä elämää muuttavat sovellukset toimimaan halutulla tavalla ja auttaa parantamaan yhteiskuntaamme. Koska, kuten minkä tahansa ohjelmiston kanssa, sinulla on oltava bugeja, ja koneoppiminen ei ole poikkeus. Jos nämä ML-ongelmat jätetään tarkkailta, ne voivat todella vahingoittaa liiketoiminnan jatkuvuutta ja vaikuttaa yhteiskuntaan tahattomien puolueettomien tuloksien kanssa. Otetaan esimerkki Amazonin yrityksestä toteuttaa AI-värväysväline – tahaton puolueettomuus aiheutti, että koneoppimismalli suositteli voimakkaasti miesehdokkaita naisehdokkaiden sijaan. Tämä on ilmeisesti ei-toivottu lopputulos. Näin ollen on olemassa omistettu ratkaisu, joka havaitsee tahattoman puolueettomuuden ennen kuin se pääsee uutisiin ja vaikuttaa loppukäyttäjiin.

Organisaatioiden on oltava varmoja siitä, että ne voivat luottaa koneoppimiseen, ja heidän on tiedettävä, kun se ei toimi oikein, ja nyt uusien sääntöjen myötä, usein ML-käyttäjien on oltava selitettäväksi mallinennusteensa. Lopulta on kriittistä tutkia ja kehittää uusia malleja ja innovatiivisia projekteja, mutta kun nämä mallit kohtaavat todellisen maailman ja tekevät todellisia päätöksiä ihmisille, liiketoiminnalle ja yhteiskunnalle, on selvä tarve kattavalle havainnollistamisratkaisulle, jotta voidaan luottaa AI:hin.

Voitko selittää läpinäkyvän ja selitettävän AI:n merkitystä?

Vaikka se saattaa tuntua samalta, on tärkeä ero perinteisen ohjelmoinnin ja koneoppimisen välillä. Perinteisessä ohjelmoinnissa sinulla on ohjelmoija, joka kirjoittaa koodia, määrittelee sovelluksen logiikkaa, tiedämme tarkalleen, mitä tapahtuu kussakin koodin virrassa. Se on deterministinen. Tämä on tapa, jolla ohjelmistot yleensä rakennetaan, ohjelmoijat luovat testitapauksia, testaavat reunatapauksia, saavuttavat 70-80 prosentin kattavuuden – voit tuntea itsesi tarpeeksi hyväksi julkaistavaksi tuotannossa. Jos mitkään hälytykset tulevat esiin, voit helposti debugata ja ymmärtää, mikä virhe tapahtui, ja korjata sen.

Tämä ei ole tapaus koneoppimisessa. Sen sijaan, jos ihminen määrittelee logiikan, se määritellään osana mallin koulutusprosessia. Kun puhutaan logiikasta, se ei ole sääntöjen joukko, vaan matrassi, joka koostuu miljoonista ja miljardeista numeroista, jotka edustavat koneoppimismallin mieltä, aivoja. Ja tämä on musta laatikko, emme tiedä oikein, mitä jokainen numero tällä matriisilla tarkoittaa. Mutta tiedämme tilastollisesti, ja se on todennäköisyyksiin perustuva, ei deterministinen. Se voi olla tarkin 83 prosentissa tai 93 prosentissa tapauksista. Tämä herättää paljon kysymyksiä, eikö? Ensinnäkin, miten voimme luottaa järjestelmään, jota emme voi selittää, miten se saa aikaan ennusteensa? Toiseksi, miten voimme selittää ennusteita korkeasti säädellyille aloille – kuten rahoitussektorille. Esimerkiksi Yhdysvalloissa rahoituslaitokset ovat lailla velvollisia selittämään asiakkailleen, miksi heidät hylättiin lainahakemuksista.

Koneoppimisen ennusteiden selittämisen mahdollisuuden puute ihmisten luettavassa tekstissä voi olla suuri este koneoppimisen laajamittaiselle omaksumiselle teollisuudessa. Haluamme tietää, yhteiskunnan kannalta, että malli ei tee puolueellisia päätöksiä. Haluamme varmistaa, että ymmärrämme, mitä johtaa mallin tiettyyn päätökseen. Tässä selitettävyys ja läpinäkyvyys ovat erittäin tärkeitä.

Miten Aporian läpinäkyvä ja selitettävä AI-työkalupaketti toimii?

Aporian selitettävä AI-työkalupaketti toimii yhtenäisen koneoppimisen havainnollistamisjärjestelmän osana. Ilman syvää näkyvyyttä tuotantomalleista ja luotettavaa valvontaa ja hälytysjärjestelmää on vaikea luottaa selitettävään AI:hin – ei ole tarpeen selittää ennusteita, jos tuloste on epäluotettava. Ja siinä Aporia tulee kuvaan, tarjoamalla yhden ikkunan näkyvyyden kaikkiin käynnissä oleviin malleihin, mukautuvaa valvontaa, hälytysominaisuuksia, vianetsintätyökaluja, juurisyyntutkimusta ja selitettävää AI:ta. Omistettu, täydellinen havainnollistamisratkaisu kaikkiin ongelmiihin, jotka ilmaantuvat tuotannossa.

Aporian alusta on agnostinen ja varustaa AI-suuntautuneet yritykset, data-tieteelliset ja ML-tiimit keskitetyllä kojulla ja täydellisellä näkyvyydellä mallien terveyteen, ennusteisiin ja päätöksiin – mahdollistaen heidän luottaa AI:hin. Käyttämällä Aporian selitettävää AI:ta organisaatiot voivat pitää kaikki asiaankuuluvat sidosryhmät silmällä selittämällä koneoppimispäätöksiä yhden napsautuksen painalluksella – saada ihmisten luettavissa olevat näkymät tiettyihin mallipäätöksiin tai simuloida “Mitä jos?” -tilanteita. Lisäksi Aporia seuraa jatkuvasti dataa, jota syötetään malliin, sekä ennusteita, ja lähettää hälytyksiä tärkeistä tapahtumista, mukaan lukien suorituskyvyn heikkeneminen, tahaton puolueettomuus, datan ajoitus ja jopa mahdollisuuksia parantaa mallia. Lopulta Aporian tutkimustyökalulla voit päästä juurisyyhyn minkä tahansa tapahtuman ja parantaa minkä tahansa mallin tuotannossa.

Voitko selittää, miten joitain toimintoja, kuten Data Points ja Time Series Investigation Tools, auttavat estämään AI:n puolueettomuutta ja ajoitusta?

Data Points tarjoaa live-näkymän datasta, jota malli saa, ja ennusteista, jotka se tekee liiketoiminnalle. Voit saada live-syötteen siitä ja ymmärtää tarkalleen, mitä tapahtuu liiketoiminnassasi. Tämä näkyvyyden kyky on kriittinen läpinäkyvyydelle. Joskus asiat muuttuvat ajan myötä, ja on yhteys useiden muutosten välillä ajan myötä – tämä on rooli aikasarja-tutkimukselle.

Viime aikoina suuret vähittäiskauppiaat ovat kokeneet, että kaikki heidän AI-ennustetyökalunsa epäonnistuivat ennustamaan toimitusketjun ongelmia, miten Aporian alusta ratkaisisi tämän ongelman?

Päähaasteena ongelman tunnistamisessa on se, että puhumme tulevaisuuden ennusteista. Se tarkoittaa, että ennustamme, että jotain tapahtuu tai ei tapahdu tulevaisuudessa. Esimerkiksi, kuinka monta ihmistä ostaa tietyn paitaa tai uuden PlayStationin.

Sitten kestää jonkin aikaa kerätä kaikki todelliset tulokset – yli kuukauden. Sitten voimme yhteenvetää ja sanoa, ok, tämä oli todellinen kysyntä, jonka näimme. Tämä aikajakso, puhumme noin kolmen kuukauden ajasta. Tämä on se, mikä meidät vie siitä hetkestä, jolloin malli tekee ennusteen, siihen, kunnes liiketoiminta tietää tarkalleen, oliko se oikein vai väärin. Ja siihen mennessä on yleensä jo liian myöhäistä, liiketoiminta on joko menettänyt potentiaalisia tuloja tai marginaali on puristunut, koska heidän on myytävä ylijäämävarastoja suurilla alennuksilla.

Tämä on haaste. Ja tässä Aporia tulee kuvaan ja on erittäin hyödyllinen näille organisaatioille. Ensinnäkin, se mahdollistaa organisaatioiden saada helposti läpinäkyvyyttä ja näkyvyyttä siitä, mitä päätöksiä tehdään – Onko siellä minkäänlaisia muutoksia? Onko siellä mitään, mikä ei ole järkevää? Toiseksi, puhumme suurista vähittäiskauppiaista, puhumme valtavista määristä varastoa, ja seuraaminen manuaalisesti on lähes mahdotonta. Tässä Aporia on arvokkain liiketoiminnan ja koneoppimisen tiimille, 24/7 -automaattisena ja mukautuvana valvontajärjestelmänä. Aporia seuraa jatkuvasti dataa ja ennusteita, se analysoi ennusteiden tilastollista käyttäytymistä, ja se voi ennakoida ja tunnistaa muutokset kuluttajien ja datan käyttäytymisessä niin pian kuin se tapahtuu. Sen sijaan, että odotettaisiin kuusi kuukautta, jotta voidaan tietää, oliko kysyntäennuste väärä, voit tunnistaa, olemme väärällä tiellä kysyntäennusteissamme, muutamassa päivässä. Tämä on suuri muutos kaikille ML-harjoittajille.

Onko mitään muuta, mitä haluaisit jakaa Aporiasta?

Olemme jatkuvasti kasvamassa ja etsimme upeita ihmisiä, joilla on loistavat mieltä, liittymään Aporian matkaan. Tarkastele avointa työpaikkaamme.

Kiitos haastattelusta, lukijat, jotka haluavat oppia lisää, kannattaa vierailla Aporiassa.