Liran Hason, Aporian toinen perustaja ja toimitusjohtaja – Haastattelusarja

Liran Hason on Aporian toinen perustaja ja toimitusjohtaja. Aporia on koko ML-pinon havainnoitavuusalusta, jota käyttävät Fortune 500 -yritykset ja datatieteen tiimit ympäri maailmaa vastuullisen AI:n turvaamiseksi. Aporia integroituu kätevästi mihin tahansa ML-infrastruktuuriin. Olipa kyseessä sitten FastAPI-palvelin Kubernetesin päällä, avoimen lähdekoodin käyttöönotto-työkalu kuten MLFlow tai koneoppimisen alusta kuten AWS Sagemaker

Ennen Aporian perustamista Liran toimi ML-arkkitehtina Adallomissa (jonka Microsoft hankki), ja myöhemmin sijoittajana Vertex Venturesissa.

Aloit ohjelmoinnin 10-vuotiaana. Mikä sinua alun perin kiehtoi tietokoneissa, ja mitä teit niillä?

Se oli vuosi 1999, ja ystäväni soitti minulle ja sanoi, että hän oli rakentanut verkkosivun. Kirjoittamalla 200 merkkiä pitkän osoitteen selaimessani, näin verkkosivun, jossa oli hänen nimensä. Olin hämmästynyt siitä, että hän oli luonut jotain omalla tietokoneellaan ja minä pystyin näkemään sen oman tietokoneeni ruudulla. Tämä herätti minussa suuren uteliaisuuden siitä, miten se toimii ja miten voin tehdä saman itse. Pyysin äitiäni ostamaan minulle HTML-kirjan, joka oli ensimmäinen askel ohjelmointiin.

Minusta on hauskaa ottaa vastaan teknisiä haasteita, ja ajan myötä uteliaisuuteni vain kasvoi. Opin ASP:n, PHP:n ja Visual Basicin, ja nielaisin kaiken, mitä vain pystyin.

13-vuotiaana tein jo freelance-töitä ja rakensin verkkosivustoja sekä työpöytäsovelluksia.

Kun minulla ei ollut aktiivisia töitä, työskentelin omilla projekteillani – yleensä erilaisilla verkkosivuilla ja sovelluksilla, joiden tarkoituksena oli auttaa muita ihmisiä saavuttamaan heidän tavoitteitaan:

Blue-White Programming – on heprean kielen ohjelmointikieli, joka on samanlainen kuin HTML, jonka rakensin tajutessani, että Israelissa asuvat lapset, joilla ei ole korkeaa englannin kielen taitoa, ovat rajoitettuja tai torjuttuja ohjelmoinnin maailmasta.

Blinky – Isovanhempani ovat kuuroja ja käyttävät viittomakieltä kommunikoimaan ystäviensä kanssa. Kun videoneuvotteluohjelmat kuten Skype ja ooVoo ilmestyivät, ne mahdollistivat heille ensimmäistä kertaa puhumisen ystäviensä kanssa, vaikka he eivät olisi samassa huoneessa (kuten me kaikki teemme puhelimillamme). Kuitenkin, koska he eivät voi kuulla, he eivät voineet tietää, kun heillä on saapuva videopuhelu. Auttaakseni heitä, kirjoitin ohjelman, joka tunnistaa saapuvat videopuhelut ja hälyttää heitä vilkuttamalla LED-matriisia pienessä laitteessani, jonka olin rakentanut ja yhdistänyt heidän tietokoneeseensa.

Nämä ovat vain muutamia projekteja, joita tein teini-ikäisenä. Uteliaisuuteni ei koskaan loppunut, ja opin C:n, C++:n, Assemblyn ja miten käyttöjärjestelmät toimivat, ja yritin oppia kaiken, mitä vain pystyin.

Voitko kertoa tarinan matkastasi koneoppimisen arkkitehtina Microsoftin (MSFT ) ostamassa Adallomissa?

Aloin matkani Adallomissa sotilaspalvelun jälkeen. Viiden vuoden jälkeen armeijassa kapteenina, näin loistavan mahdollisuuden liittyä nousuun tulevaan yritykseen ja markkinoille – yhtenä ensimmäisistä työntekijöistä. Yritystä johtivat erinomaiset perustajat, jotka tunsin sotilaspalveluksestani, ja sitä tukivat johtavat pääomasijoittajat – kuten Sequoia. Pilvi-tekniikoiden räjähdys markkinoille oli vielä suhteellisen nuori, ja rakensimme yhtä ensimmäisistä pilvi-turvallisuusratkaisuista tuolloin. Yritykset olivat vasta siirtymässä paikallisista järjestelmistä pilveen, ja näimme uusia teollisuusstandardeja – kuten Office 365, Dropbox (DBX ), Marketo, Salesforce ja muut.

Ensimmäisten viikkojeni aikana tiesin jo, että haluan perustaa oman yritykseni jonain päivänä. Tunsin todella, teknisesti, että olen valmis mihin tahansa haasteeseen, ja jos en itse, tiesin oikeat ihmiset, jotka auttavat minua voittamaan mitä tahansa.

Adallomilla oli tarve jollekin, jolla on syvä tekninen tietämys, mutta joka myös voi olla asiakaspäässä. Noin kuukautta myöhemmin olin ensimmäistä kertaa elämässäni lentokoneessa matkalla Yhdysvaltoihin, tapaamaan LinkedInin (ennen Microsoftia) ihmisiä. Muutamassa viikossa heistä tuli ensimmäinen maksava asiakkaamme Yhdysvalloissa. Tämä oli vain yksi monista suurista yrityksistä – Netflix , Disney, Safeway – joiden kanssa autoin ratkaisemaan kriittisiä pilvi-ongelmia. Se oli erittäin opettavaista ja vahvaa luottamusta herättävää.

Minulle liittyminen Adallomiin oli todella liittyminen paikkaan, jossa uskon markkinaan, uskon tiimiin ja uskon visioon. Olen erittäin kiitollinen mahdollisuudesta, joka minulle annettiin siellä.

Tarkoitukseni siinä, mitä teen, oli ja on erittäin tärkeää. Minulle se oli sama armeijassa, se oli aina tärkeää. Voin helposti nähdä, miten Adallomin lähestymistapa yhdistää SaaS-ratkaisuihin, seuraa käyttäjien ja resurssien toimintaa, löytää poikkeamia jne., oli tapa, jolla asiat tehtäisiin. Ymmärsin tämän olevan tulevaisuuden toimintatapa. Siksi näin Adallomin yrityksenä, joka tulisi menestymään.

Olin vastuussa koko ML-infrastruktuurin arkkitehtuurista. Ja näin ja koin omakohtaisesti puutteen oikeasta työkalusta ekosysteemissä. Kyllä, se oli minulle selvää, että on oltava omistettu ratkaisu yhdessä keskitetyssä paikassa, jossa voit nähdä kaikki mallisi; jossa voit nähdä, mitä päätöksiä ne tekevät liiketoiminnallesi; jossa voit seurata ja olla proaktiivinen ML-tavoitteissasi. Esimerkiksi meillä oli kertoja, jolloin opimme ongelmista koneoppimismalleissamme liian myöhään, ja se ei ole hyväksi käyttäjille eikä liiketoiminnalle. Tästä syntyi ideani Aporiasta.

Voitko kertoa Aporian syntytarinan?

Omani henkilökohtainen kokemus koneoppimisesta alkaa vuodesta 2008, osana Weizmann-instituutin, Bathin yliopiston ja kiinalaisen tutkimuskeskuksen yhteishanketta. Siellä rakensin biometrisen tunnistusjärjestelmän analysoimalla silmän värikalvon kuvia. Onnistuin saavuttamaan 94 prosentin tarkkuuden. Projekti oli menestys, ja se sai kiitosta tutkimuksen kannalta. Olin kuitenkin rakentanut ohjelmistoja 10-vuotiaasta lähtien, ja minusta tämä tuntui jollakin tavalla epäaidolta. Et voi käyttää biometristä tunnistusjärjestelmää, jonka rakensin, todellisessa elämässä, koska se toimi vain tietyn datan kanssa, jonka käytin. Se ei ole riittävän deterministinen.

Tämä on vain hieman taustaa. Kun rakennat koneoppimisjärjestelmää, esimerkiksi biometriselle tunnistamiselle, haluat, että ennusteet ovat deterministisiä – haluat tietää, että järjestelmä tunnistaa tietyn henkilön oikein, eikö? Kuten iPhone, jonka lukitus ei avaudu, jos se ei tunnista oikeaa henkilöä oikeasta kulmasta, tämä on toivottu lopputulos. Mutta tämä ei ollut tapaus koneoppimisessa, kun ensin aloin siinä.

Noin seitsemän vuotta myöhemmin ja koin omakohtaisesti todellisuuden pyörittäessäni tuotantomalleja ilman luotettavia varoitusjärjestelmiä Adallomissa, jotka tekivät päätöksiä liiketoiminnalleni, jotka vaikuttivat asiakkaisiimme. Myöhemmin olin sijoittajana Vertex Venturesissa kolme vuotta. Näin, miten yhä useammat organisaatiot käyttivät ML:ää, ja miten yritykset siirtyivät vain puhumasta ML:stä todelliseen koneoppimiseen. Mutta nämä yritykset omaksuivat ML:n vasta haastettuna samojen ongelmien kanssa, joita kohtasimme Adallomissa.

Kaikki kiiruhtivat käyttämään ML:ää, ja he yrittivät rakentaa valvontajärjestelmiä itse yrityksen sisällä. Ilmeisesti se ei ollut heidän ydinliiketoimintaansa, ja nämä haasteet ovat hyvin monimutkaisia. Tässä tajusin, että tämä on minun mahdollisuuteni tehdä suuri vaikutus.

AI:ta omaksutaan lähes jokaisessa teollisuudessa, mukaan lukien terveydenhuolto, rahoituspalvelut, autoteollisuus ja muut, ja se koskee jokaisen elämää ja vaikuttaa meihin kaikkiin. Tässä Aporia näyttää oikean arvonsa – mahdollistaen kaikki nämä elämää muuttavat sovellukset toimimaan halutulla tavalla ja auttaa parantamaan yhteiskuntaamme. Koska, kuten minkä tahansa ohjelmiston kanssa, ohjelmistoihin tulee virheitä, ja koneoppiminen ei ole poikkeus. Jos nämä ML-ongelmat jätetään valvomatta, ne voivat todella vahingoittaa liiketoiminnan jatkuvuutta ja vaikuttaa yhteiskuntaan tahattomasti vinoutuneiden tulosten vuoksi. Otetaan esimerkki Amazonin yrityksestä toteuttaa tekoälypohjainen rekrytointityökalu (AMZN ) – tahaton vinouma aiheutti, että koneoppimismalli suositteli voimakkaasti miesehdokkaita naisehdokkaiden sijaan. Tämä on ilmeisesti ei-toivottu lopputulos. Siksi tarvitaan erillinen ratkaisu, joka havaitsee tahattoman vinouman ennen kuin se pääsee uutisiin ja vaikuttaa loppukäyttäjiin.

Organisaatioiden on oltava varmoja siitä, että ne voivat luottaa koneoppimiseen, ja heidän on tiedettävä, kun se ei toimi oikein, ja nyt uusien sääntöjen myötä, usein ML-käyttäjät tarvitsevat keinoja selittää malliensa ennusteet. Lopulta on kriittistä tutkia ja kehittää uusia malleja ja innovatiivisia projekteja, mutta kun nämä mallit kohtaavat todellisen maailman ja tekevät todellisia päätöksiä ihmisille, liiketoiminnalle ja yhteiskunnalle, on selvä tarve kattavalle havainnoitavuusratkaisulle, jotta voidaan luottaa AI:hin.

Voitko selittää läpinäkyvän ja selitettävän AI:n merkitystä?

Vaikka se saattaa tuntua samalta, on tärkeä ero perinteisen ohjelmoinnin ja koneoppimisen välillä. Perinteisessä ohjelmoinnissa sinulla on ohjelmoija, joka kirjoittaa koodia, määrittelee sovelluksen logiikkaa, tiedämme tarkalleen, mitä tapahtuu kussakin koodin virrassa. Se on deterministinen. Tämä on tapa, jolla ohjelmistot yleensä rakennetaan, ohjelmoijat luovat testitapauksia, testaavat reunatapauksia, saavuttavat 70-80 prosentin kattavuuden – voit tuntea itsesi tarpeeksi hyväksi julkaistavaksi tuotannossa. Jos mitkään hälytykset tulevat esiin, voit helposti debugata ja ymmärtää, mikä virhe tapahtui, ja korjata sen.

Tämä ei ole tapaus koneoppimisessa. Ihmisen määrittelemän logiikan sijaan logiikka määrittyy osana mallin koulutusprosessia. Kun puhutaan logiikasta, se ei ole sääntöjen joukko, vaan matriisi, joka koostuu miljoonista ja miljardeista numeroista, jotka edustavat koneoppimismallin mieltä, aivoja. Ja tämä on musta laatikko, emme tiedä oikein, mitä jokainen numero tällä matriisilla tarkoittaa. Mutta tiedämme tilastollisesti, ja se on todennäköisyyksiin perustuva, ei deterministinen. Se voi olla oikeassa 83 prosentissa tai 93 prosentissa tapauksista. Tämä herättää paljon kysymyksiä, eikö? Ensinnäkin, miten voimme luottaa järjestelmään, jota emme voi selittää, miten se saa aikaan ennusteensa? Toiseksi, miten voimme selittää ennusteita korkeasti säädellyille aloille – kuten rahoitussektorille. Esimerkiksi Yhdysvalloissa rahoituslaitokset ovat lailla velvollisia selittämään asiakkailleen, miksi heidät hylättiin lainahakemuksista.

Koneoppimisen ennusteiden selittämisen mahdollisuuden puute ihmisten luettavassa tekstissä voi olla suuri este koneoppimisen laajamittaiselle omaksumiselle teollisuudessa. Haluamme tietää, yhteiskunnan kannalta, että malli ei tee puolueellisia päätöksiä. Haluamme varmistaa, että ymmärrämme, mitä johtaa mallin tiettyyn päätökseen. Tässä selitettävyys ja läpinäkyvyys ovat erittäin tärkeitä.

Miten Aporian läpinäkyvä ja selitettävä AI-työkalupaketti toimii?

Aporian selitettävä AI-työkalupaketti toimii yhtenäisen koneoppimisen havainnoitavuusjärjestelmän osana. Ilman syvää näkyvyyttä tuotantomalleista ja luotettavaa valvontaa ja hälytysjärjestelmää on vaikea luottaa selitettävään AI:hin – ei ole tarpeen selittää ennusteita, jos tuloste on epäluotettava. Ja siinä Aporia tulee kuvaan, tarjoamalla yhden ikkunan näkyvyyden kaikkiin käynnissä oleviin malleihin, mukautuvaa valvontaa, hälytysominaisuuksia, vianetsintätyökaluja, juurisyyntutkimusta ja selitettävää AI:ta. Omistettu, täydellinen havainnoitavuusratkaisu kaikkiin ongelmiihin, jotka ilmaantuvat tuotannossa.

Aporian alusta on agnostinen ja varustaa AI-suuntautuneet yritykset, datatieteen ja ML-tiimit keskitetyllä hallintanäkymällä ja täydellisellä näkyvyydellä mallien terveyteen, ennusteisiin ja päätöksiin – mahdollistaen heidän luottaa AI:hin. Käyttämällä Aporian selitettävää AI:ta organisaatiot voivat pitää kaikki asiaankuuluvat sidosryhmät ajan tasalla selittämällä koneoppimispäätöksiä yhden napsautuksen painalluksella – saada ihmisten luettavissa olevat näkymät tiettyihin mallipäätöksiin tai simuloida “Mitä jos?” -tilanteita. Lisäksi Aporia seuraa jatkuvasti dataa, jota syötetään malliin, sekä ennusteita, ja lähettää hälytyksiä tärkeistä tapahtumista, mukaan lukien suorituskyvyn heikkeneminen, tahaton vinouma, datan ajautuminen ja jopa mahdollisuuksia parantaa mallia. Lopulta Aporian tutkimustyökalulla voit päästä juurisyyhyn minkä tahansa tapahtuman ja parantaa minkä tahansa mallin tuotannossa.

Voitko selittää, miten joitain toimintoja, kuten Data Points ja Time Series Investigation Tools, auttavat estämään tekoälyn vinoumia ja datan ajautumista?

Data Points tarjoaa live-näkymän datasta, jota malli saa, ja ennusteista, jotka se tekee liiketoiminnalle. Voit saada live-syötteen siitä ja ymmärtää tarkalleen, mitä tapahtuu liiketoiminnassasi. Tämä näkyvyyden kyky on kriittinen läpinäkyvyydelle. Joskus asiat muuttuvat ajan myötä, ja on yhteys useiden muutosten välillä ajan myötä – tämä on rooli aikasarja-tutkimukselle.

Viime aikoina suuret vähittäiskauppiaat ovat kokeneet, että kaikki heidän AI-ennustetyökalunsa epäonnistuivat ennustamaan toimitusketjun ongelmia, miten Aporian alusta ratkaisisi tämän ongelman?

Päähaasteena ongelman tunnistamisessa on se, että puhumme tulevaisuuden ennusteista. Se tarkoittaa, että ennustamme, että jotain tapahtuu tai ei tapahdu tulevaisuudessa. Esimerkiksi, kuinka monta ihmistä ostaa tietyn paidan tai uuden PlayStationin.

Sitten kestää jonkin aikaa kerätä kaikki todelliset tulokset – enemmän kuin muutaman viikon. Sitten voimme yhteenvetää ja sanoa, ok, tämä oli todellinen kysyntä, jonka näimme. Tämä aikajakso, puhumme yhteensä muutaman kuukauden ajasta. Tämä on se, mikä meidät vie siitä hetkestä, jolloin malli tekee ennusteen, siihen, kunnes liiketoiminta tietää tarkalleen, oliko se oikein vai väärin. Ja siihen mennessä on yleensä jo liian myöhäistä, liiketoiminta on joko menettänyt potentiaalisia tuloja tai marginaali on puristunut, koska heidän on myytävä ylijäämävarastoja suurilla alennuksilla.

Tämä on haaste. Ja tässä Aporia tulee kuvaan ja on erittäin hyödyllinen näille organisaatioille. Ensinnäkin, se mahdollistaa organisaatioiden saada helposti läpinäkyvyyttä ja näkyvyyttä siitä, mitä päätöksiä tehdään – Onko siellä minkäänlaisia muutoksia? Onko siellä mitään, mikä ei ole järkevää? Toiseksi, puhumme suurista vähittäiskauppiaista, puhumme valtavista määristä varastoa, ja seuraaminen manuaalisesti on lähes mahdotonta. Tässä Aporia on arvokkain liiketoiminnan ja koneoppimisen tiimille, 24/7 -automaattisena ja mukautuvana valvontajärjestelmänä. Aporia seuraa jatkuvasti dataa ja ennusteita, se analysoi ennusteiden tilastollista käyttäytymistä, ja se voi ennakoida ja tunnistaa muutokset kuluttajien ja datan käyttäytymisessä niin pian kuin se tapahtuu. Sen sijaan, että odotettaisiin kuusi kuukautta, jotta voidaan tietää, oliko kysyntäennuste väärä, voit tunnistaa, olemme väärällä tiellä kysyntäennusteissamme, muutamassa päivässä. Aporia siis lyhentää tämän ajanjakson muutamasta kuukaudesta muutamaan päivään. Tämä on suuri muutos kaikille koneoppimisen ammattilaisille.

Onko mitään muuta, mitä haluaisit jakaa Aporiasta?

Olemme jatkuvasti kasvamassa ja etsimme upeita ihmisiä, joilla on loistavia ajatuksia, liittymään Aporian matkaan. Tarkastele avoimia työpaikkojamme.

Kiitos haastattelusta, lukijat, jotka haluavat oppia lisää, kannattaa vierailla Aporiassa.