Yotam Oren, Mona Labsin CEO ja Cofounder – Haastattelusarja

Yotam Oren on Mona Labsin CEO ja Cofounder, joka on alusta, joka mahdollistaa yrityksille muuttaa tekoälyohjelmat laboratoriotutkimuksista skaalautuviksi liiketoimintaprosesseiksi ymmärtämällä, miten koneoppimismallit käyttäytyvät oikeissa liiketoimintaprosesseissa ja sovelluksissa.

Mona analysoi automaattisesti koneoppimismallien käyttäytymistä suojattujen tietosegmenttien yli ja liiketoimintafunktioiden kontekstissa, jotta voidaan havaita potentiaalinen tekoälyharha. Mona tarjoaa mahdollisuuden luoda kattavat oikeudenmukaisuusraportit, jotka täyttävät teollisuuden standardeja ja sääntöjä, ja tarjoavat varmuuden siitä, että tekoälysovellus on sääntöjen mukainen ja vapaa harhauksista.

Mikä alun perin veti sinut tietotekniikan pariin?

Tietotekniikka on suosittu urapolku perheessäni, joten se oli aina mielessäni vaihtoehtona. Tietysti israelilainen kulttuuri on hyvin teknologiaan suhtautuva. Me juhlimme innovatiivisia teknologioita, ja minulla oli aina käsitys, että tietotekniikka tarjoaisi minulle kasvun ja saavutuksen mahdollisuuksia.

Vaikka niin oli, se tuli henkilökohtaiseksi intohimoksi vasta, kun pääsin yliopistoiässä. En ollut yksi niistä lapsista, jotka aloittivat ohjelmoinnin keskiasteella. Nuoruudessani olin liian kiireinen koripallon pelaamisessa, jotta olisin kiinnittänyt huomiota tietokoneisiin. Lukion jälkeen vietin noin 5 vuotta armeijassa, operatiivisissa ja taistelijohtamistehtävissä. Joten, tavallaan, aloitin tietotekniikan opinnot vasta, kun minun piti valita akateeminen pääaine yliopistossa. Se, mikä sai huomioni, oli, että tietotekniikka yhdisti ongelmanratkaisun ja kielen (tai kielten) oppimisen. Kaksi asiaa, joista olin erityisen kiinnostunut. Siitä lähtien olen ollut sitoutunut.

Mitä olivat joitain tärkeitä havaintoja sinun aikana, jolloin työskentelit karttojen ja navigoinnin parissa pienessä startupissa vuosina 2006-2008?

Tehtävänäni Telmapissa oli rakentaa hakukone kartta- ja sijaintitietojen päälle.

Nämä olivat “big datan” varhaisimpia päiviä yrityksissä. Emme edes kutsuneet sitä sillä nimellä, mutta hankimme valtavat tietokannat ja yritimme saada niistä vaikuttavimmat ja merkittävimmät näkymät esittämään loppukäyttäjillemme.

Yksi hämmästyttävistä havainnoista, jonka tein, oli, että yritykset (mukaan lukien me) käyttivät vain pientä osaa tietokannoistaan (puhumattakaan julkisesti saatavilla olevista ulkoisista tietokannoista). Siinä oli valtavasti potentiaalia uusille näkymille, paremmille prosesseille ja kokemuksille.

Toinen havainto oli, että paremman arkkitehtuuriin, infrastruktuuriin ja niin edelleen pääsy riippui siitä, kuinka paljon dataa pystyimme hankkimaan.

Voitko kertoa Mona Labsin syntytarinaa?

Kolme meistä, perustajista, ovat olleet mukana data-tuotteissa koko uransa ajan.

Nemo, teknologiajohtaja, on ystävän ja luokkatoverini, ja yksi Google (GOOGL ) Tel Avivin ensimmäisistä työntekijöistä. Hän loi siellä tuotteen nimeltä Google Trends, jossa oli edistynyt analytiikkaa ja koneoppimista hakukoneen tietojen perusteella. Itai, toinen perustaja ja tuotejohtaja, oli Nemon tiimissä Googlella (ja minä tapasin hänet Nemoksen kautta). He molemmat olivat aina pettyneitä siihen, että tekoälyjärjestelmiä ei valvottu sen jälkeen, kun ne oli kehitetty ja testattu. Vaikka oli vaikea testata näitä järjestelmiä ennen tuotantovaihetta, tiimit eivät koskaan tienneet, kuinka hyvin niiden ennustemallit toimivat ajan myötä. Lisäksi näytti siltä, että ainoa kerta, jolloin he kuulivat palautetta tekoälyjärjestelmistä, oli, kun asiat menivät pieleen ja kehitystiimi kutsuttiin “palopaikkaan” korjaamaan katastrofaalisia ongelmia.

Samaan aikaan olin konsulttina McKinsey & Co:ssa, ja yksi suurimmista esteistä, joita näin suurten yritysten tekoäly- ja Big Data -ohjelmien laajentumisessa, oli liiketoimintasidosryhmien puute luottamusta näihin ohjelmiin.

Yhteinen lanka tässä tuli selväksi Nemolle, Itaille ja minulle keskusteluissa. Teollisuudelle tarvittiin infrastruktuuria valvoa tekoäly-/koneoppimisjärjestelmiä tuotannossa. Keksimme vision tarjota tämä näkyvyys lisätäksemme liiketoimintasidosryhmien luottamusta ja mahdollistaaksemme tekoälytiimien aina pitää käsillä, miten heidän järjestelmänsä suoriutuvat ja iteroida tehokkaammin.

Ja siinä Mona perustettiin.

Mitä ovat joitain nykyisiä ongelmia tekoälyn läpinäkyvyyden puutteen kanssa?

Monilla aloilla organisaatiot ovat jo käyttäneet kymmeniä miljoonia dollareita tekoälyohjelmiinsa ja nähneet joitain alkuvaiheen menestyksiä laboratoriossa ja pienissä käyttöönottoissa. Mutta skaalautuminen, laajan hyväksymisen saavuttaminen ja saaminen liiketoiminnan todella luottamaan tekoälyyn on ollut valtava haaste melkein kaikille.

Miksi tämä tapahtuu? Se alkaa siitä, että hyvä tutkimus ei välttämättä automaattisesti johda hyviin tuotteisiin (Asiakas kerran sanoi meille: “Koneoppimismallit ovat kuin autot, heti kun ne poistuvat laboratoriosta, ne menettävät 20% arvostaan”). Hyvät tuotteet ovat tukijärjestelmiä. Niissä on työkaluja ja prosesseja, jotka varmistavat, että laatu säilyy ajan myötä, ja ongelmia havaitaan aikaisin ja korjataan tehokkaasti. Hyvät tuotteet myös ovat jatkuvan palautteen kierron, parantamisjakson ja tiekartan omistajia. Seuraavaksi, hyvät tuotteet vaativat syvää ja jatkuvaa suorituskyvyn läpinäkyvyyttä.

Kun läpinäkyvyyttä ei ole, lopputulos on:

• Ongelmat, jotka piilevät jonkin aikaa ja sitten puhkeavat pintaan aiheuttaen “palopaikkoja”
• Pitkät ja manuaaliset tutkimukset ja lieventämiset
• Tekoälyohjelma, jota liiketoimintakäyttäjät ja sponsoret eivät luota, ja joka lopulta epäonnistuu skaalautumisessa

Mitä ovat joitain haasteita tekoälymallien tekemisessä läpinäkyviksi ja luotettaviksi?

Läpinäkyvyys on tärkeä tekijä luottamuksen saavuttamisessa. Läpinäkyvyys voi tulla monissa muodoissa. On yksittäisen ennusteen läpinäkyvyys, joka voi sisältää luottamuksen tason näyttämisen käyttäjälle tai selityksen/rationaalin ennusteen takana. Yksittäisen ennusteen läpinäkyvyys on pääasiassa tarkoitettu auttamaan käyttäjää saamaan mukavuuden ennusteen kanssa. Ja sitten on kokonainen läpinäkyvyys, joka voi sisältää tietoa ennusteen tarkkuudesta, odottamattomista tuloksista ja potentiaalisista ongelmista. Kokonainen läpinäkyvyys on tarpeen tekoälytiimille.

Haasteellisin osa kokonaista läpinäkyvyyttä on ongelmien havaitseminen aikaisin ja hälyttäminen asiaan kuuluvaa tiimijäsentä, jotta he voivat ryhtyä korjaaviin toimiin ennen kuin katastrofit tapahtuvat.

Miksi on haasteellista havaita ongelmia aikaisin:

• Ongelmat usein alkavat pieninä ja kiehuvat, ennen kuin lopulta puhkeavat pintaan.
• Ongelmat usein alkavat kontrolloimattomista tai ulkoisista tekijöistä, kuten tietolähteistä.
• On monia tapoja “jakaa maailma” ja uupuneiden pienten taskujen etsintä voi johtaa paljon melua (hälytysväsymys), ainakin, kun tämä tehdään viattomassa lähestymistavassa.

Toinen haasteellinen läpinäkyvyyden tarjoamisen osa on tekoälyn soveltamisen valtava määrä. Tämä tekee yhden kokoa sopivan kaikkiin lähestymistavan lähes mahdottomaksi. Jokainen tekoälysoveltaminen voi sisältää erilaiset tietorakenteet, erilaiset liiketoimintakyklit, erilaiset menestystekijät ja usein erilaiset tekniset lähestymistavat ja pinot.

Joten se on valtava tehtävä, mutta läpinäkyvyys on niin perustavanlaatuinen tekoälyohjelmien menestykselle, että sinun on tehtävä se.

Voitko jakaa joitain yksityiskohtia ratkaisuista NLU / NLP -malleille ja chatboteille?

Puhuttu tekoäly on yksi Mona Labsin ydinalueista. Olemme ylpeitä tukevamme innovatiivisia yrityksiä laajalla valikoimalla puhuttuja tekoälysovelluksia, mukaan lukien kielimallit, chatbotit ja enemmän.

Yhteinen tekijä näiden soveltamisten yli on, että mallit toimivat lähellä (ja joskus näkyvästi) asiakkaita, joten epävakaiden suorituskykyjen tai huonon käyttäytymisen riskit ovat korkeammat. Tulee erittäin tärkeäksi puhuttujen tekoälytiimien ymmärtää järjestelmien käyttäytymistä yksityiskohtaisella tasolla, mikä on yksi Mona Labsin valvontaratkaisun vahvuuksista.

Se, mitä Mona Labsin ratkaisu tekee, on hyvin ainutlaatuista, on järjestelmällisesti siivilöitävä ryhmiä keskusteluja ja löytävä taskuja, joissa mallit (tai botit) käyttäytyvät huonosti. Tämä mahdollistaa puhuttujen tekoälytiimien tunnistaa ongelmia aikaisin ja ennen kuin asiakkaat huomaavat niitä. Tämä kyky on kriittinen päätöksentekijä puhuttujen tekoälytiimille valitessaan valvontaratkaisuja.

Jotta yhteenvetoa, Mona Labs tarjoaa kokonaisvaltaisen ratkaisun puhutun tekoälyn valvonnalle. Se alkaa varmistamalla, että on yksi tietolähde järjestelmien käyttäytymisestä ajan myötä, ja jatkuu jatkuvalla seurannalla avainsuorituskykytekijöistä ja proaktiivisista oivalluksista taskuista, joissa mallit käyttäytyvät huonosti – mahdollistaen tiimien ryhtyä ennaltaehkäiseviin ja tehokkaisiin korjaaviin toimiin.

Voitko tarjota joitain yksityiskohtia Mona Labsin oivallusmoottorista?

Tietysti. Aloitan motivaatiosta. Oivallusmoottorin tavoitteena on tuoda esiin poikkeamat käyttäjille, juuri oikean määrän kontekstuaalista tietoa ja ilman melun tai hälytysväsymyksen aiheuttamista.

Oivallusmoottori on ainutlaatuinen analyysiworkflow. Tässä workflowssa moottori etsii poikkeamia kaikista tietojen segmenteistä, jotta voidaan havaita ongelmia aikaisin, kun ne ovat vielä “pieniä”, ennen kuin ne vaikuttavat koko tietokantaan ja alasvirtaiseen liiketoimintaindikatorien. Se sitten käyttää omaa algoritmiansa havaitsemaan poikkeamien juurisyyt ja varmistaa, että jokainen poikkeama hälytetään vain kerran, jotta melua voidaan välttää. Tuetut poikkeamatyypit ovat: aikasarjapoikkeamat, virtaamiset, poikkeamat, mallin heikkeneminen ja enemmän.

Oivallusmoottori on erittäin mukautettavissa Mona Labsin helppokäyttöisen no-code/low-code-konfiguraation kautta. Moottorin mukautettavuus tekee Mona Labsista joustavin ratkaisun markkinoilla, kattaa laajan valikoiman soveltamisia (esim. erä- ja virtaustietoja, liiketoimintapalautetta / perustodistetta, eri malliversioita tai koulutus- ja päätöksen välillä, ja enemmän).

Lopulta tämä oivallusmoottori on tuettu visualisointinäytöllä, jossa oivallukset voidaan tarkastella, ja joukko tutkimustyökaluja mahdollistaa juurisyyanalyysin ja kontekstuaalisen tiedon edelleen tutkimisen. Oivallusmoottori on myös täysin integroitu ilmoitusmoottorin kanssa, joka mahdollistaa oivallusten syöttämisen käyttäjien omiin työympäristöihin, mukaan lukien sähköposti, yhteistyöalustat ja niin edelleen.

31. tammikuuta Mona Labs julkisti uuden tekoälyn reiluusratkaisun, voitko kertoa yksityiskohtia tästä ominaisuudesta ja miksi se on tärkeää?

Tekoälyn reiluus on varmistaminen siitä, että algoritmit ja tekoälyohjatut järjestelmät tekevät epäpuolueettomia ja oikeudenmukaisia päätöksiä. Tekoälyjärjestelmien harhauksien ja puolueettomuuden varmistaminen on kriittistä, koska ne voivat johtaa merkittäviin todellisiin seuraamuksiin. Tekoälyn kasvavan merkityksen myötä sen vaikutus ihmisten arkeen näkyy yhä useammassa paikassa, mukaan lukien ajamisen automatisointi, tautien havaitseminen tarkemmin, maailman ymmärtämisen parantaminen ja jopa taiteen luominen. Jos emme voi luottaa siihen, että se on reilua ja puolueetonta, miten voimme sallia sen jatkuvan leviämisensä?

Yksi tekoälyjärjestelmien harhauksien merkittävimmistä syistä on yksinkertaisesti mallin harjoitusdatan kyky edustaa todellista maailmaa kokonaisuutena. Tämä voi johtua historiallisesta syrjinnästä, tietyiden ryhmien aliedustuksesta tai jopa tietoisten datan manipuloinnista. Esimerkiksi kasvojen tunnistusjärjestelmä, joka on koulutettu pääasiassa vaaleaihoisille yksilöille, on todennäköisesti virheellinen tunnistaa yksilöitä, joilla on tummempi iho. Samoin kielimalli, joka on koulutettu kapeasta tekstidatalähteestä, voi kehittää harhauksia, jos data on vinoutunut tiettyihin maailmankuviin, kuten uskontoon, kulttuuriin ja niin edelleen.

Mona Labsin tekoälyn reiluusratkaisu antaa tekoäly- ja liiketoimintatiimille varmuuden siitä, että heidän tekoälynsä on vapaa harhauksista. Sääntelyssektoreilla Mona Labsin ratkaisu voi valmistaa tiimit sääntelynvalmiiksi.

Mona Labsin reiluusratkaisu on erityinen, koska se sijaitsee Mona Labs -alustalla – sillalla tekoälydatan ja -mallejen sekä niiden todellisten liiketoimintavaikutusten välillä. Mona tarkastelee kaikkia liiketoimintaprosessin osia, joita tekoälymalli palvelee tuotannossa, jotta voidaan korreloida koulutusdataa, mallin käyttäytymistä ja todellisia todellisia maailman tuloksia antaaksesi kaikkein kattavimman arvion reiluudesta.

Toiseksi, sillä on ainutlaatuinen analytiikka-alusta, joka mahdollistaa joustavan tietojen segmentoinnin säätelemään merkityksellisiä parametrejä. Tämä mahdollistaa tarkan korrelaation arvioinnin oikeassa kontekstissa, välttäen Simpsonin paradoksin ja tarjoaa syvän, todellisen “harhauksen arvosanan” mille tahansa suorituskykytekijälle ja mille tahansa suojatulle ominaisuudelle.

Niin, yhteenvetona, Mona on perustavanlaatuinen elementti tiimille, jotka tarvitsevat rakentaa ja skaalata vastuullista tekoälyä.

Mikä on visiosi tekoälyn tulevaisuudesta?

Tämä on suuri kysymys.

Luulen, että on helppo ennustaa, että tekoäly jatkaa kasvamistaan käytössä ja vaikuttamisessa useilla eri aloilla ja ihmisten elämän osa-alueilla. Mutta on vaikea ottaa tosissaan yksityiskoista visiota, joka yrittää kattaa kaikki tekoälyn tulevaisuuden soveltamiset ja vaikutukset. Kukaan ei todella tiedä tarpeeksi piirtääkseen uskottavan kuvan.

Sen sijaan, mitä tiedämme varmasti, on, että tekoäly tulee olemaan enemmän ihmisten käsissä ja palvelemaan useampia tarkoituksia. Tarve hallinnolle ja läpinäkyvyydelle kasvaa siten merkittävästi.

Todellinen näkyvyys tekoälyyn ja sen toimintaan tulee pelaamaan kaksi ensisijaista roolia. Ensinnäkin, se auttaa luottamuksen herättämistä ihmisten keskuudessa ja poistaa vastustusesteitä nopeamman omaksumisen mahdollistamiseksi. Toiseksi, se auttaa sitä, joka operoi tekoälyä, varmistamaan, että se ei mene pieleen.

Kiitos hienosta haastattelusta, lukijat, jotka haluavat oppia enemmän, voivat vierailla Mona Labs:ssa.