Yotam Oren, CEO & Cofondator al Mona Labs – Seria de Interviuri

Yotam Oren este CEO și cofondator al Mona Labs, o platformă care permite întreprinderilor să transforme inițiativele de inteligență artificială din experimente de laborator în operațiuni de afaceri scalabile, prin înțelegerea adevărată a modului în care modelele de învățare automată se comportă în procese și aplicații de afaceri reale.

Mona analizează automat comportamentul modelelor dvs. de învățare automată pe segmente de date protejate și în contextul funcțiilor de afaceri, pentru a detecta potențiale prejudecăți ale inteligenței artificiale. Mona oferă capacitatea de a genera rapoarte complete de echitate care îndeplinesc standardele și reglementările industriale și oferă încredere că aplicația de inteligență artificială este conformă și lipsită de orice prejudecăți.

Ce v-a atras inițial către știința calculatoarelor?

Știința calculatoarelor este o carieră populară în familia mea, așa că a fost întotdeauna o opțiune viabilă în mintea mea. Desigur, cultura israeliană este foarte pro-tehnologie. Noi celebrăm tehnologii inovatoare și am avut întotdeauna percepția că știința calculatoarelor mi-ar oferi o pistă de creștere și realizare.

În ciuda acestui fapt, a devenit o pasiune personală abia când am ajuns la vârsta universitară. Nu am fost unul dintre acei copii care au început să programeze în școala gimnazială. În tinerețe, eram prea ocupat jucând baschet pentru a acorda atenție calculatoarelor. După liceu, am petrecut aproape 5 ani în armată, în roluri de conducere operațională/combat. Așa că, într-un fel, am început să învăț despre știința calculatoarelor abia când trebuia să aleg o specializare universitară. Ceea ce m-a capturat atenția imediat a fost că știința calculatoarelor combina rezolvarea problemelor și învățarea unei limbi (sau limbilor). Două lucruri care mă interesau în mod deosebit. De atunci, am fost capturat.

De la 2006 la 2008, ați lucrat la hărți și navigație pentru o mică companie, care au fost unele dintre principalele concluzii ale acestei perioade?

Rolul meu la Telmap a fost să construiesc un motor de căutare pe baza datelor de hartă și locație.

Acestea au fost zilele foarte timpurii ale “big data” în întreprinderi. Nu numeam astfel, dar am achiziționat seturi de date uriașe și am încercat să extragem cele mai impactante și relevante informații pentru a le prezenta utilizatorilor noștri finali.

Una dintre realizările izbitoare pe care le-am avut a fost că companiile (inclusiv a noastră) au folosit atât de puțin din datele lor (și nu numai datele disponibile public). A existat atât de mult potențial pentru noi informații, procese și experiențe mai bune.

Cea de-a doua concluzie a fost că pentru a obține mai multe date, am depins, desigur, de arhitecturi mai bune, infrastructură și așa mai departe.

Puteți să împărtășiți povestea de fond a Mona Labs?

Cei trei, cofondatori, am fost implicați în produse de date pe tot parcursul carierelor noastre.

Nemo, directorul tehnic, este prietenul și colegul meu de facultate, și unul dintre primii angajați ai Google (GOOGL ) Tel Aviv. El a început un produs acolo numit Google Trends, care a avut o mulțime de analize avansate și învățare automată pe baza datelor de căutare. Itai, celălalt cofondator și director de produs, a fost în echipa lui Nemo la Google (și l-am cunoscut pe el prin Nemo). Cei doi au fost întotdeauna frustrați că sistemele conduse de inteligență artificială au fost lăsate necontrolate după dezvoltare și testare inițială. În ciuda dificultăților în testarea corespunzătoare a acestor sisteme înainte de producție, echipele nu știau niciodată cât de bine funcționau modelele lor predictive în timp.

În același timp, eram consultant la McKinsey & Co, și una dintre cele mai mari bariere pe care le-am văzut în calea programelor de inteligență artificială și Big Data în întreprinderi mari a fost lipsa de încredere pe care stakeholderii de afaceri o aveau în aceste programe.

Firul comun a devenit clar pentru Nemo, Itai și mine în conversații. Industria avea nevoie de infrastructură pentru a monitoriza sistemele de inteligență artificială/învățare automată în producție. Am venit cu viziunea de a oferi această vizibilitate pentru a crește încrederea stakeholderilor de afaceri și pentru a permite echipelor de inteligență artificială să aibă întotdeauna o mână de ajutor în ceea ce privește modul în care funcționează sistemele lor și să iterateze mai eficient.

Și astfel, Mona a fost fondată.

Care sunt unele dintre problemele actuale legate de lipsa de transparență a inteligenței artificiale?

În multe industrii, organizațiile au cheltuit deja zeci de milioane de dolari în programele lor de inteligență artificială și au văzut un anumit succes în laborator și în implementări mici. Dar escaladarea, adoptarea pe scară largă și obținerea de încredere din partea afacerii pentru a se baza pe inteligența artificială a fost o provocare masivă pentru aproape toată lumea.

De ce se întâmplă acest lucru? Ei bine, începe cu faptul că o cercetare excelentă nu se traduce automat în produse excelente (un client ne-a spus odată: “Modelele de învățare automată sunt ca mașinile, își pierd 20% din valoare de îndată ce părăsesc laboratorul”). Produsele excelente au sisteme de susținere. Există unelte și procese pentru a asigura că calitatea este menținută în timp, și că problemele sunt detectate devreme și abordate eficient. Produsele excelente au, de asemenea, un ciclu de feedback continuu, au un ciclu de îmbunătățire și o hartă de drum. Prin urmare, produsele excelente necesită o transparență profundă și constantă a performanței.

Când lipsește transparența, ajungi cu:

• Probleme care rămân ascunse pentru o perioadă și apoi izbucnesc în suprafață, provocând “exerciții de incendiu”
• Investigații și măsuri de atenuare lungi și manuale
• Un program de inteligență artificială care nu este încredințat de utilizatorii de afaceri și sponsorii și, în cele din urmă, nu reușește să se extindă

Care sunt unele dintre provocările din spatele realizării modelelor predictive transparente și de încredere?

Transparența este un factor important în obținerea încrederii, desigur. Transparența poate veni în multe forme. Există transparență pentru o singură predicție, care poate include afișarea nivelului de încredere pentru utilizator sau oferirea unei explicații/motivări pentru predicție. Transparența pentru o singură predicție este în mare măsură destinată să ajute utilizatorul să se simtă confortabil cu predicția. Și apoi, există transparență generală, care poate include informații despre acuratețea predictivă, rezultate neașteptate și posibile probleme. Transparența generală este necesară de către echipa de inteligență artificială.

Cea mai dificilă parte a transparenței generale este detectarea problemelor devreme, alertarea membrului relevant al echipei, astfel încât aceasta să poată lua măsuri corective înainte de a apărea catastrofe.

De ce este dificilă detectarea problemelor devreme:

• Problemele încep adesea mici și fierb, înainte de a izbucni în suprafață.
• Problemele încep adesea din cauza factorilor externi sau incontrolabili, cum ar fi sursele de date.
• Există multe moduri de a “împărți lumea” și căutarea exhaustivă a problemelor în buzunare mici poate duce la mult zgomot (oboseală de alerte), cel puțin atunci când se face într-un mod naiv.

Alt aspect provocator al oferirii de transparență este proliferarea masivă a cazurilor de utilizare a inteligenței artificiale. Acest lucru face ca abordarea “una pentru toate” să fie aproape imposibilă. Fiecare caz de utilizare a inteligenței artificiale poate include structuri de date diferite, cicluri de afaceri diferite, metrici de succes diferiți și, adesea, abordări tehnice diferite și chiar stive.

Așa că, este o sarcină monumentală, dar transparența este atât de fundamentală pentru succesul programelor de inteligență artificială, încât trebuie să o faci.

Puteți să împărtășiți detalii despre soluțiile pentru modelele NLU / NLP și chatbot-urile?

Inteligența conversațională este una dintre verticalele de bază ale Mona. Suntem mândri să sprijinim companii inovatoare cu o gamă largă de cazuri de utilizare a inteligenței conversaționale, inclusiv modele de limbaj, chatbot-uri și multe altele.

Un factor comun pentru toate aceste cazuri de utilizare este acela că modelele funcționează aproape (și, uneori, vizibil) de clienți, astfel încât riscurile unei performanțe inconsistente sau a unui comportament defectuos sunt mai mari. Devine atât de important pentru echipele de inteligență conversațională să înțeleagă comportamentul sistemului la nivel granular, ceea ce este o zonă de forță a soluției de monitorizare a Mona.

Ceea ce face soluția Mona, și care este destul de unic, este să trieze sistematic grupuri de conversații și să găsească buzunare în care modelele (sau bot-urile) se comportă defectuos. Acest lucru permite echipelor de inteligență conversațională să identifice probleme devreme și înainte ca clienții să le observe. Această capacitate este un factor de decizie critic pentru echipele de inteligență conversațională atunci când selectează soluții de monitorizare.

Pentru a rezuma, Mona oferă o soluție de la cap la coadă pentru monitorizarea inteligenței conversaționale. Începe cu asigurarea faptului că există o sursă unică de informații pentru comportamentul sistemului în timp, și continuă cu urmărirea continuă a indicatorilor de performanță cheie și cu insight-uri proactive despre buzunarele de comportament defectuos – permițând echipelor să ia măsuri corective eficiente și preventive.

Puteți să oferiți detalii despre motorul de insight al Mona?

Da. Să începem cu motivația. Obiectivul motorului de insight este să aducă la suprafață anomalii pentru utilizatori, cu exact cantitatea potrivită de informații contextuale și fără a crea zgomot sau a duce la oboseală de alerte.

Motorul de insight este un flux de lucru analitic unic. În acest flux de lucru, motorul caută anomalii în toate segmentele de date, permițând detectarea devreme a problemelor când sunt încă “mici” și înainte de a afecta întregul set de date și indicatorii de performanță cheie ai afacerii. Apoi, utilizează un algoritm proprietar pentru a detecta cauzele radicale ale anomaliilor și se asigură că fiecare anomalie este alertată doar o singură dată, astfel încât să se evite zgomotul. Tipurile de anomalii suportate includ: anomalii de serie temporală, derapaje, valori extreme, degradare a modelului și multe altele.

Motorul de insight este foarte personalizabil prin intermediul configurării intuitive fără cod/low-code a Mona. Personalizarea motorului face ca Mona să fie cea mai flexibilă soluție de pe piață, acoperind o gamă largă de cazuri de utilizare (de exemplu, batch și streaming, cu sau fără feedback de afaceri/adevărul din spate, pe versiuni de model sau între antrenare și inferență și multe altele).

În cele din urmă, acest motor de insight este susținut de un panou de vizualizare, în care insight-urile pot fi vizualizate, și un set de unelte de investigare pentru a permite analiza cauzelor radicale și explorarea ulterioară a informațiilor contextuale. Motorul de insight este, de asemenea, pe deplin integrat cu un motor de notificare care permite alimentarea insight-urilor către mediile de lucru ale utilizatorilor, inclusiv e-mail, platforme de colaborare și așa mai departe.

La 31 ianuarie, Mona a lansat o nouă soluție de echitate a inteligenței artificiale, puteți să ne împărtășiți detalii despre această funcție și de ce este importantă?

Echitatea inteligenței artificiale se referă la asigurarea faptului că algoritmii și sistemele conduse de inteligență artificială iau decizii neîmpărtite și echitabile. Abordarea și prevenirea prejudecăților în sistemele de inteligență artificială este crucială, deoarece acestea pot avea consecințe semnificative în lumea reală. Cu creșterea prominenței inteligenței artificiale, impactul asupra vieții de zi cu zi a oamenilor va fi vizibil în tot mai multe locuri, inclusiv conducerea noastră automată, detectarea bolilor mai precis, îmbunătățirea înțelegerii noastre asupra lumii și chiar crearea de artă. Dacă nu putem avea încredere că este echitabil și lipsit de prejudecăți, cum am putea permite să continue să se răspândească?

Una dintre cauzele majore ale prejudecăților în sistemele de inteligență artificială este pur și simplu capacitatea datelor de antrenare a modelului de a reprezenta lumea reală în întregime. Acest lucru poate proveni din discriminare istorică, subreprezentare a anumitor grupuri sau chiar manipulare intenționată a datelor. De exemplu, un sistem de recunoaștere facială antrenat pe indivizi cu pielea deschisă la culoare este probabil să aibă o rată de eroare mai mare la recunoașterea indivizilor cu pielea mai închisă la culoare. Similar, un model de limbaj antrenat pe date text dintr-un set îngust de surse poate dezvolta prejudecăți dacă datele sunt înclinate către anumite perspective asupra lumii, pe subiecte cum ar fi religia, cultura și așa mai departe.

Soluția de echitate a inteligenței artificiale a Mona oferă echipei de inteligență artificială și de afaceri încrederea că inteligența artificială lor este lipsită de prejudecăți. În sectoarele reglementate, soluția Mona poate pregăti echipele pentru pregătirea conformității.

Soluția de echitate a Mona este specială pentru că se află pe platforma Mona – un pod între datele și modelele de inteligență artificială și implicațiile lor din lumea reală. Mona examinează toate părțile procesului de afaceri pe care modelul de inteligență artificială îl deservește în producție, pentru a corela între datele de antrenare, comportamentul modelului și rezultatele reale din lume pentru a oferi cea mai cuprinzătoare evaluare a echității.

În al doilea rând, are un motor analitic unic care permite segmentarea flexibilă a datelor pentru a controla parametrii relevanți. Acest lucru permite evaluări precise ale corelațiilor în contextul potrivit, evitând paradoxul lui Simpson și oferind un scor real de prejudecăți pentru orice metrică de performanță și pentru orice caracteristică protejată.

Așa că, în general, aș spune că Mona este un element fundamental pentru echipele care trebuie să construiască și să scaleze inteligența artificială responsabilă.

Care este viziunea dvs. pentru viitorul inteligenței artificiale?

Acesta este un întrebare mare.

Cred că este ușor de prezis că inteligența artificială va continua să crească în utilizare și impact într-o varietate de sectoare industriale și aspecte ale vieții oamenilor. Cu toate acestea, este greu de a lua în serios o viziune care este detaliată și care încearcă să acopere toate cazurile de utilizare și implicațiile inteligenței artificiale în viitor. Pentru că nimeni nu știe suficient pentru a picta o imagine credibilă.

Însă, ceea ce știm cu siguranță este că inteligența artificială va fi în mâinile mai multor oameni și va servi mai multe scopuri. Nevoia de guvernanță și transparență va crește, prin urmare, în mod semnificativ.

Vizibilitatea reală în inteligența artificială și modul în care funcționează va juca două roluri principale. În primul rând, va ajuta la instaurarea încrederii în oameni și va ridica barierele de rezistență pentru o adoptare mai rapidă. În al doilea rând, va ajuta pe oricine operează inteligența artificială să se asigure că nu iese de sub control.

Mulțumim pentru acest interviu minunat, cititorilor care doresc să afle mai multe despre Mona Labs.