Yotam Oren, Mona Labsin toimitusjohtaja ja perustaja – haastattelusarja

Yotam Oren on yhtiön toimitusjohtaja ja perustaja Mona Labs, alusta, jonka avulla yritykset voivat muuttaa tekoälyaloitteita laboratoriokokeiluista skaalautuvaksi liiketoiminnaksi ymmärtämällä todella kuinka ML-mallit käyttäytyvät todellisissa liiketoimintaprosesseissa ja sovelluksissa.

Mona analysoi automaattisesti koneoppimismalliesi käyttäytymistä suojatuissa datasegmenteissä ja liiketoimintatoimintojen yhteydessä havaitakseen mahdollisen tekoälyn poikkeaman. Mona tarjoaa mahdollisuuden luoda täydellisiä oikeudenmukaisuusraportteja, jotka täyttävät alan standardit ja määräykset ja tarjoavat varmuutta siitä, että tekoälysovellus on yhteensopiva ja siinä ei ole vääristymiä.

Mikä alun perin houkutteli sinua tietojenkäsittelytieteeseen?

Tietojenkäsittelytiede on suosittu urapolku perheessäni, joten se oli aina mielessä varteenotettava vaihtoehto. Tietenkin israelilainen kulttuuri on erittäin teknologiaa edistävää. Juhlimme innovatiivisia teknologioita, ja minulla on aina ollut käsitys, että CS tarjoaisi minulle kiitotien kasvulle ja saavutuksille.

Siitä huolimatta siitä tuli henkilökohtainen intohimo vasta kun saavuin yliopisto-ikään. En kuulunut niihin lapsiin, jotka aloittivat koodaamisen yläasteella. Nuoruudessani pelasin koripalloa liian kiireisenä kiinnittääkseni huomiota tietokoneisiin. Lukion jälkeen vietin lähes 5 vuotta armeijassa operatiivisissa/taistelujohtotehtävissä. Joten tavallaan aloin todellakin oppia tietojenkäsittelytieteitä lisää vasta, kun minun piti valita akateeminen pääaine yliopistossa. Huomioni kiinnitti välittömästi se, että tietojenkäsittelytiede yhdisti ongelmien ratkaisemisen ja kielen (tai kielten) oppimisen. Kaksi asiaa, joista olin erityisen kiinnostunut. Siitä lähtien olin koukussa.

Vuosina 2006–2008 työskentelit kartoituksen ja navigoinnin parissa pienelle startup-yritykselle. Mitkä olivat tärkeimpiä poimintojasi tältä aikakaudelta?

Tehtäväni Telmapissa oli hakukoneen rakentaminen kartta- ja sijaintitietojen päälle.

Nämä olivat yrityksen "big datan" alkuaikoja. Emme edes kutsuneet sitä sillä, mutta hankimme valtavia tietojoukkoja ja yritimme saada vaikuttavimmat ja merkityksellisimpiä oivalluksia esitelläksemme loppukäyttäjillemme.

Yksi silmiinpistävistä oivalluksistani oli, että yritykset (mukaan lukien me) käyttivät niin vähän tietojaan (puhumattakaan julkisesti saatavilla olevista ulkoisista tiedoista). Siellä oli niin paljon potentiaalia uusille oivalluksille, paremmille prosesseille ja kokemuksille.

Toinen poiminta oli, että tietojemme lisääminen riippui tietysti paremmasta arkkitehtuurista, paremmasta infrastruktuurista ja niin edelleen.

Voitko jakaa Mona Labsin taustalla olevan tarinan?

Me kolme, perustajat, olemme olleet tietotuotteiden parissa koko uramme ajan.

Nemo, teknologiajohtaja, on yliopistokaverini ja luokkatoverini sekä yksi ensimmäisistä Google Tel Avivin työntekijöistä. Hän aloitti siellä Google Trends -nimisen tuotteen, jossa oli paljon edistyksellistä analytiikkaa ja hakukonetietoihin perustuvaa koneoppimista. Itai, toinen perustajajäsen ja tuotepäällikkö, oli Nemon tiimissä Googlessa (ja hän ja minä tapasimme Nemon kautta). He olivat aina turhautuneita siitä, että tekoälypohjaiset järjestelmät jätettiin valvomatta alkuperäisen kehityksen ja testauksen jälkeen. Huolimatta vaikeuksista testata näitä järjestelmiä kunnolla ennen tuotantoa, tiimit eivät vieläkään tienneet, kuinka hyvin niiden ennustavat mallit menestyivät ajan mittaan. Lisäksi vaikutti siltä, ​​että ainoa kerta, kun he kuulivat palautetta tekoälyjärjestelmistä, oli silloin, kun asiat menivät huonosti ja kehitystiimi kutsuttiin "paloharjoitukseen" katastrofaalisten ongelmien korjaamiseksi.

Samoihin aikoihin olin konsulttina McKinsey & Co:ssa, ja yksi suurimmista tekoäly- ja Big Data -ohjelmien skaalaamisen esteistä suurissa yrityksissä oli yritysten sidosryhmien luottamuksen puute näitä ohjelmia kohtaan.

Yhteinen lanka tuli selväksi Nemolle, Itaille ja minulle keskusteluissa. Teollisuus tarvitsi infrastruktuurin valvoakseen AI/ML-järjestelmiä tuotannossa. Keksimme vision tarjota tämä näkyvyys lisätäksemme yritysten sidosryhmien luottamusta ja mahdollistaaksemme tekoälytiimien aina hallita järjestelmiensä toimintaa ja iteroida tehokkaammin.

Ja silloin Mona perustettiin.

Mitkä ovat AI-avoimuuden puutteen tämänhetkisiä ongelmia?

Monilla toimialoilla organisaatiot ovat jo käyttäneet kymmeniä miljoonia dollareita tekoälyohjelmiinsa, ja ne ovat nähneet jonkin verran alkumenestystä laboratorioissa ja pienimuotoisissa käyttöönottoissa. Mutta laajentaminen, laajan käyttöönoton saavuttaminen ja yrityksen saaminen todella luottamaan tekoälyyn on ollut valtava haaste melkein kaikille.

Miksi tämä tapahtuu? No, se alkaa siitä, että hyvä tutkimus ei automaattisesti johda mahtaviin tuotteisiin (asiakas kertoi meille kerran: "ML-mallit ovat kuin autoja, sillä hetkellä kun ne lähtevät laboratoriosta, ne menettävät 20% arvostaan"). Upeilla tuotteilla on tukijärjestelmät. On olemassa työkaluja ja prosesseja, joilla varmistetaan, että laatu säilyy ajan mittaan ja että ongelmat havaitaan ajoissa ja niihin puututaan tehokkaasti. Loistavilla tuotteilla on myös jatkuva palautesilmukka, niillä on parannussykli ja tiekartta. Tästä syystä erinomaiset tuotteet vaativat syvää ja jatkuvaa suorituskyvyn läpinäkyvyyttä.

Kun läpinäkyvyys puuttuu, päädyt seuraavaan:

• Ongelmat, jotka pysyvät piilossa jonkin aikaa ja räjähtävät sitten pintaan aiheuttaen "paloharjoituksia"
• Pitkät ja manuaaliset tutkimukset ja lievennykset
• Tekoälyohjelma, johon yrityskäyttäjät ja sponsorit eivät luota ja joka ei lopulta skaalaudu

Mitä haasteita ennakoivien mallien tekemisessä läpinäkyviksi ja luotettaviksi liittyy?

Avoimuus on tietysti tärkeä tekijä luottamuksen saavuttamisessa. Avoimuus voi tulla monessa muodossa. On olemassa yksittäinen ennusteen läpinäkyvyys, joka voi sisältää luottamustason näyttämisen käyttäjälle tai selityksen/perustelun tarjoamisen ennusteelle. Yksittäisen ennusteen läpinäkyvyyden tarkoituksena on useimmiten auttaa käyttäjää tottumaan ennusteeseen. Ja sitten on yleistä läpinäkyvyyttä, joka voi sisältää tietoa ennustetarkkuudesta, odottamattomista tuloksista ja mahdollisista ongelmista. Tekoälytiimi tarvitsee yleistä läpinäkyvyyttä.

Haastavin osa yleistä läpinäkyvyyttä on havaita ongelmat ajoissa ja varoittaa asianomaista tiimin jäsentä, jotta he voivat ryhtyä korjaaviin toimiin ennen katastrofien sattumista.

Miksi ongelmien havaitseminen ajoissa on haastavaa:

• Ongelmat alkavat usein pieninä ja kiehuvat, ennen kuin ne lopulta puhkeavat pintaan.
• Ongelmat alkavat usein hallitsemattomista tai ulkoisista tekijöistä, kuten tietolähteistä.
• On monia tapoja "jakaa maailma" ja tyhjentävästi ongelmien etsiminen pienistä taskuista voi aiheuttaa paljon melua (herkkä väsymys), ainakin jos tämä tehdään naiivilla lähestymistavalla.

Toinen läpinäkyvyyden tarjoamisen haastava näkökohta on tekoälyn käyttötapausten suuri määrä. Tämä tekee yhden koon -lähestymistavan lähes mahdottomaksi. Jokainen tekoälyn käyttötapaus voi sisältää erilaisia ​​tietorakenteita, erilaisia ​​liiketoimintasyklejä, erilaisia ​​menestysmittareita ja usein erilaisia ​​teknisiä lähestymistapoja ja jopa pinoja.

Se on siis valtava tehtävä, mutta läpinäkyvyys on niin olennaista tekoälyohjelmien menestykselle, joten sinun on tehtävä se.

Voitko jakaa yksityiskohtia NLU/NLP-mallien ja chatbottien ratkaisuista?

Keskusteleva tekoäly on yksi Monan keskeisistä toimialoista. Olemme ylpeitä voidessamme tukea innovatiivisia yrityksiä laajalla valikoimalla keskustelupohjaisia ​​tekoälyn käyttötapauksia, mukaan lukien kielimallit, chatbotit ja paljon muuta.

Yhteinen tekijä näissä käyttötapauksissa on, että mallit toimivat lähellä (ja joskus näkyvästi) asiakkaita, joten epäjohdonmukaisen suorituskyvyn tai huonon toiminnan riskit ovat suuremmat. Keskustelevien tekoälytiimien on erittäin tärkeää ymmärtää järjestelmän käyttäytymistä rakeisella tasolla, mikä on Monan valvontaratkaisun vahvuuksia.

Se, mitä Monan ratkaisu tekee, on varsin ainutlaatuinen, on keskusteluryhmien systemaattinen seulominen ja taskujen löytäminen, joissa mallit (tai botit) käyttäytyvät väärin. Näin keskustelua tekevät tekoälytiimit voivat tunnistaa ongelmat ajoissa ja ennen kuin asiakkaat huomaavat ne. Tämä ominaisuus on kriittinen päätöksentekotekijä keskustelua tekeville tekoälytiimeille valittaessa valvontaratkaisuja.

Yhteenvetona voidaan todeta, että Mona tarjoaa päästä päähän -ratkaisun keskustelulliseen tekoälyn valvontaan. Se alkaa varmistamalla, että järjestelmien käyttäytymisestä ajan mittaan on saatavilla yksi tietolähde, ja jatkuu keskeisten suoritusindikaattoreiden jatkuvalla seurannalla ja ennakoivilla näkemyksillä väärinkäytösten taskuista – jolloin tiimit voivat ryhtyä ennaltaehkäiseviin ja tehokkaisiin korjaaviin toimenpiteisiin.

Voisitko tarjota yksityiskohtia Monan näkemysmoottorista?

Varma. Aloitetaan motivaatiosta. Insight-moottorin tavoitteena on tuoda käyttäjille esiin poikkeavuuksia juuri oikealla määrällä kontekstuaalista tietoa ilman melua tai hälyttävää väsymystä.

Insight-moottori on ainutlaatuinen analyyttinen työnkulku. Tässä työnkulussa moottori etsii poikkeavuuksia kaikista datasegmenteistä, mikä mahdollistaa ongelmien havaitsemisen varhaisessa vaiheessa, kun ne ovat vielä "pieniä" ja ennen kuin ne vaikuttavat koko tietojoukkoon ja loppupään liiketoiminnan KPI-arvoihin. Sen jälkeen se käyttää patentoitua algoritmia havaitakseen poikkeamien perimmäiset syyt ja varmistaa, että jokaisesta poikkeamasta hälytetään vain kerran, jotta vältytään melulta. Tuettuja poikkeavuustyyppejä ovat: Aikasarjan poikkeamat, poikkeamat, poikkeamat, mallin heikkeneminen ja paljon muuta.

Insight-moottori on erittäin muokattavissa Monan intuitiivisen no-code/low-code-kokoonpanon avulla. Moottorin konfiguroitavuus tekee Monasta markkinoiden joustavimman ratkaisun, joka kattaa laajan valikoiman käyttötapauksia (esim. erä ja suoratoisto, liikepalautteen kanssa/ilman / totuus, malliversioiden välillä tai junan ja päättelyn välillä ja paljon muuta ).

Lopuksi tätä näkemysmoottoria tukee visualisoinnin kojelauta, jossa oivalluksia voidaan tarkastella, ja joukko tutkimustyökaluja, jotka mahdollistavat perussyyanalyysin ja kontekstuaalisen tiedon lisätutkimuksen. Insight-moottori on myös täysin integroitu ilmoitusmoottoriin, joka mahdollistaa näkemysten syöttämisen käyttäjien omiin työympäristöihin, kuten sähköpostiin, yhteistyöalustoihin ja niin edelleen.

Tammikuun 31. päivänä Mona paljastettiin sen uudesta tekoälyratkaisusta, voisitko jakaa meille tietoja siitä, mikä tämä ominaisuus on ja miksi sillä on merkitystä?

Tekoälyn oikeudenmukaisuus tarkoittaa sen varmistamista, että algoritmit ja tekoälypohjaiset järjestelmät yleensä tekevät puolueettomia ja oikeudenmukaisia ​​päätöksiä. Tekoälyjärjestelmien harhaan puuttuminen ja estäminen on ratkaisevan tärkeää, koska ne voivat johtaa merkittäviin reaalimaailman seurauksiin. Tekoälyn nousevan näkyvyyden myötä vaikutukset ihmisten jokapäiväiseen elämään näkyisivät yhä useammissa paikoissa, mukaan lukien ajamisen automatisointi, sairauksien tarkempi havaitseminen, maailman ymmärtämisen parantaminen ja jopa taiteen luominen. Jos emme voi luottaa siihen, että se on oikeudenmukaista ja puolueetonta, kuinka antaisimme sen levitä edelleen?

Yksi tärkeimmistä tekoälyn harhojen syistä on yksinkertaisesti mallin koulutustietojen kyky edustaa todellista maailmaa kokonaisuudessaan. Tämä voi johtua historiallisesta syrjinnästä, tiettyjen ryhmien aliedustuksesta tai jopa tietojen tahallisesta manipuloinnista. Esimerkiksi pääosin vaaleaihoisille henkilöille koulutetulla kasvojentunnistusjärjestelmällä on todennäköisesti suurempi virheprosentti tunnistaa henkilöitä, joilla on tummempi iho. Vastaavasti kapeasta lähteiden joukosta peräisin olevaan tekstidataan koulutettu kielimalli voi kehittää harhaa, jos data on vinossa kohti tiettyjä maailmankatsomuksia, aiheita, kuten uskontoa, kulttuuria ja niin edelleen.

Monan tekoälyn oikeudenmukaisuusratkaisu antaa tekoälylle ja yritystiimeille luottamusta siihen, että heidän tekoälyssään ei ole ennakkoluuloja. Säännellyillä sektoreilla Monan ratkaisulla voidaan valmistaa tiimejä vaatimustenmukaisuusvalmiuksia varten.

Monan oikeudenmukaisuusratkaisu on erityinen, koska se sijaitsee Mona-alustalla – silta tekoälydatan ja -mallien ja niiden todellisten vaikutusten välillä. Mona tarkastelee kaikkia liiketoimintaprosessin osia, joita tekoälymalli palvelee tuotannossa, korreloidakseen koulutusdatan, mallin käyttäytymisen ja todellisten todellisten tulosten välillä saadakseen mahdollisimman kattavan oikeudenmukaisuuden arvioinnin.

Toiseksi siinä on ainutlaatuinen analyyttinen moottori, joka mahdollistaa datan joustavan segmentoinnin merkityksellisten parametrien hallitsemiseksi. Tämä mahdollistaa tarkan korrelaatioarvioinnin oikeassa kontekstissa, välttäen Simpsonin paradoksia ja tarjoamalla syvän todellisen "harhapistemäärän" mille tahansa suorituskykymittarille ja mille tahansa suojatulle ominaisuudelle.

Joten kaiken kaikkiaan sanoisin, että Mona on peruselementti tiimeille, joiden on rakennettava ja skaalattava vastuullista tekoälyä.

Mikä on näkemyksesi tekoälyn tulevaisuudesta?

Tämä on iso kysymys.

Mielestäni on yksinkertaista ennustaa, että tekoälyn käyttö ja vaikutus lisääntyy edelleen useilla teollisuuden aloilla ja ihmisten elämän osa-alueilla. On kuitenkin vaikea ottaa vakavasti visiota, joka on yksityiskohtainen ja samalla yrittää kattaa kaikki tekoälyn käyttötapaukset ja vaikutukset tulevaisuudessa. Koska kukaan ei todellakaan tiedä tarpeeksi maalatakseen sen kuvan uskottavasti.

Tiedämme kuitenkin varmasti, että tekoäly on useamman ihmisen käsissä ja palvelee enemmän tarkoituksia. Hallinnon ja avoimuuden tarve kasvaa siten merkittävästi.

Todellinen näkyvyys tekoälyyn ja sen toimintaan on kaksi pääroolia. Ensinnäkin se auttaa juurruttamaan luottamusta ihmisiin ja nostamaan vastustuskyvyn esteitä nopeampaa käyttöönottoa varten. Toiseksi se auttaa tekoälyä käyttäviä varmistamaan, että se ei riistä käsistä.

Kiitos upeasta haastattelusta, lukijoiden, jotka haluavat tietää lisää, kannattaa käydä Mona Labs.