Yaron Singer, CEO la Robust Intelligence și Profesor de Științe Computaționale la Universitatea Harvard – Seria de Interviuri

Yaron Singer este CEO-ul Robust Intelligence și Profesor de Științe Computaționale și Matematică Aplicată la Harvard. Yaron este cunoscut pentru rezultatele sale inovatoare în învățarea automată, algoritmi și optimizare. Anterior, Yaron a lucrat la Google (GOOGL ) Research și a obținut doctoratul de la UC Berkeley.

Ce v-a atras inițial spre domeniul științelor computaționale și al învățării automate?

Călătoria mea a început cu matematica, care m-a condus spre științele computaționale, și apoi spre învățarea automată. Matematica m-a atras inițial pentru că sistemul său axiomatic îmi oferea posibilitatea de a crea lumi noi. Cu științele computaționale, am învățat despre demonstrațiile existențiale, dar și despre algoritmii care stau la baza lor. Dintr-o perspectivă creativă, științele computaționale reprezintă desenarea granițelor între ceea ce putem și ceea ce nu putem face.

Interesul meu pentru învățarea automată a fost întotdeauna legat de datele reale, de aspectul fizic al acestora. Luarea unor lucruri din lumea reală și modelarea lor pentru a crea ceva semnificativ. Putem literalmente proiecta o lume mai bună prin modelarea semnificativă. Așadar, matematica mi-a oferit o bază pentru a demonstra lucruri, științele computaționale m-au ajutat să văd ce se poate și ce nu se poate face, iar învățarea automată îmi permite să modelăm aceste concepte în lume.

Până de curând, ați fost Profesor de Științe Computaționale și Matematică Aplicată la Universitatea Harvard, care au fost cele mai importante concluzii pe care le-ați tras din această experiență?

Cea mai importantă concluzie pe care am tras-o din perioada petrecută ca membru al facultății de la Harvard este că dezvoltă o sete de a face lucruri mari. Harvard are, în mod tradițional, un corp profesoral mic, iar așteptarea de la membrii facultății este să abordeze probleme mari și să creeze noi domenii. Trebuie să fii îndrăzneț. Acest lucru se dovedește a fi o pregătire excelentă pentru lansarea unei companii care creează o nouă categorie și definește un nou spațiu. Nu recomand neapărat să treceți prin traseul de la Harvard, dar dacă supraviețuiți, construirea unei companii este mai ușoară.

Ne puteți descrie momentul “aha” când ați realizat că sistemele avansate de inteligență artificială sunt vulnerabile la datele proaste, cu implicații care pot fi foarte extinse?

Când eram student doctorand la UC Berkeley, am luat o pauză pentru a face un startup care a construit modele de învățare automată pentru marketing în rețelele sociale. Acesta a fost în 2010. Am avut cantități masive de date de la rețelele sociale și am codat toate modelele de la zero. Implicațiile financiare pentru retailerii care utilizează aceste modele au fost destul de semnificative, așa că am urmărit îndeaproape performanța modelelor. Deoarece am utilizat date de la rețelele sociale, au existat multe erori în intrare, precum și drift. Am văzut că erorile mici au dus la schimbări mari în ieșirea modelului și au putut duce la rezultate financiare proaste pentru retailerii care utilizau produsul.

Când am trecut la lucrul la Google+ (pentru cei care își amintesc), am văzut același efect. Mai dramatic, în sisteme precum AdWords, care făceau predicții despre probabilitatea ca oamenii să cliqueze pe o anunț pentru cuvinte cheie, am observat că erorile mici din intrarea în model au dus la predicții foarte slabe. Când asistă la această problemă la scară Google, realizezi că problema este universală.

Aceste experiențe au influențat puternic focalizarea mea de cercetare, și am petrecut timpul meu de la Harvard investigând de ce modelele de inteligență artificială fac greșeli și, mai important, cum să proiectăm algoritmi care pot preveni modelele să facă greșeli. Acest lucru, desigur, a condus la mai multe momente “aha” și, în cele din urmă, la crearea Robust Intelligence.

Ne puteți împărtăși povestea de origine din spatele Robust Intelligence?

Robust Intelligence a început cu cercetarea unei probleme teoretice inițiale: care sunt garanțiile pe care le putem avea pentru deciziile luate folosind modele de inteligență artificială. Kojin era student la Harvard, și am lucrat împreună, inițial scriind articole de cercetare. Așadar, începe cu scrierea unor articole care descriu ce este fundamental posibil și imposibil, teoretic. Aceste rezultate au continuat ulterioară cu un program pentru proiectarea algoritmilor și a modelelor care sunt robuste la eșecurile inteligenței artificiale. Apoi, construim sisteme care pot rula acești algoritmi în practică. După aceea, începerea unei companii în care organizațiile pot utiliza un sistem de acest fel a fost un pas firesc.

Multe dintre problemele pe care Robust Intelligence le abordează sunt erori silențioase, ce sunt acestea și ce le face atât de periculoase?

Înainte de a oferi o definiție tehnică a erorilor silențioase, este important să înțelegem de ce ar trebui să ne îngrijorăm de faptul că inteligența artificială face greșeli. Motivul pentru care ne îngrijorăm de faptul că modelele de inteligență artificială fac greșeli este reprezentat de consecințele acestor greșeli. Lumea noastră utilizează inteligența artificială pentru a automatiza decizii critice: cui îi este acordat un împrumut și la ce rată a dobânzii, cui îi este acordată o asigurare de sănătate și la ce rată, care cartiere ar trebui să fie patrulate de poliție, cine este cel mai probabil să fie un candidat de top pentru un loc de muncă, cum ar trebui să organizăm securitatea aeroportuară și așa mai departe. Faptul că modelele de inteligență artificială sunt extrem de predispuse la erori înseamnă că, atunci când automatizăm aceste decizii critice, moștenim un risc semnificativ. La Robust Intelligence, numim acest lucru “Risc de Inteligență Artificială” și misiunea noastră în companie este să eliminăm Riscul de Inteligență Artificială.

Erorile silențioase sunt erorile modelelor de inteligență artificială în care modelul primește intrări și produce o predicție sau o decizie greșită sau biasată ca ieșire. Așadar, la suprafață, totul pare în regulă din punct de vedere funcțional, întrucât modelul de inteligență artificială face ceea ce ar trebui să facă. Dar predicția sau decizia este eronată. Aceste erori sunt silențioase pentru că sistemul nu știe că există o eroare. Acest lucru poate fi mult mai grav decât cazul în care un model de inteligență artificială nu produce o ieșire, deoarece poate dura mult timp până când organizațiile realizează că sistemul lor de inteligență artificială este defect.

Robust Intelligence a proiectat, în esență, un Zid de Foc pentru Inteligența Artificială, o idee care a fost considerată anterior imposibilă. De ce este aceasta o provocare tehnică atât de mare?

Unul dintre motivele pentru care Zidul de Foc pentru Inteligența Artificială este o provocare atât de mare este că merge împotriva paradigmei pe care comunitatea de învățare automată a avut-o anterior. Paradigma anterioară a comunității de învățare automată a fost că, pentru a eradica erorile, trebuie să alimentați modelele cu mai multe date, inclusiv date proaste. Prin a face acest lucru, modelele se vor antrena singure și vor învăța să-și corecteze greșelile. Problema cu această abordare este că aceasta face ca acuratețea modelului să scadă dramatic. Rezultatele cele mai cunoscute pentru imagini, de exemplu, fac ca acuratețea modelului de inteligență artificială să scadă de la 98,5% la aproximativ 37%.

Zidul de Foc oferă o soluție diferită. Dezvoltăm o separare a problemei de identificare a erorilor de rolul de a crea o predicție, ceea ce înseamnă că zidul de foc poate se concentreze pe o sarcină specifică: determinarea dacă un punct de date va produce o predicție eronată.

Acesta a fost un challenge în sine, din cauza dificultății de a face o predicție pe un singur punct de date. Există multe motive pentru care modelele fac erori, așa că construirea unei tehnologii care poate prezice aceste erori nu a fost o sarcină ușoară. Suntem foarte norocoși să avem inginerii pe care îi avem.

Cum poate sistemul să ajute la prevenirea bias-ului în inteligența artificială?

Bias-ul modelului provine dintr-o discrepanță între datele pe care modelul a fost antrenat și datele pe care le utilizează pentru a face predicții. Revenind la Riscul de Inteligență Artificială, bias-ul este o problemă majoră atribuită erorilor silențioase. De exemplu, aceasta este adesea o problemă cu populațiile subreprezentate. Un model poate avea bias pentru că a văzut mai puține date din acea populație, ceea ce va afecta dramatic performanța modelului și acuratețea predicțiilor sale. Zidul de Foc pentru Inteligența Artificială poate alerta organizațiile cu privire la aceste discrepanțe de date și ajuta modelul să ia decizii corecte.

Care sunt alte riscuri pentru organizații pe care Zidul de Foc pentru Inteligența Artificială le poate preveni?

Orice companie care utilizează inteligența artificială pentru a automatiza deciziile, în special deciziile critice, introduce automat risc. Datele proaste pot fi atât de simple, cum ar fi introducerea unui zero în loc de unu, și totuși pot avea consecințe semnificative. Indiferent dacă riscul este reprezentat de predicții medicale incorecte sau de predicții false despre împrumuturi, Zidul de Foc pentru Inteligența Artificială ajută organizațiile să prevină riscul în totalitate.

Există altceva pe care ați dori să-l împărtășiți despre Robust Intelligence?

Robust Intelligence crește rapid și primim mulți candidați excelenți pentru poziții. Dar ceva pe care realmente vreau să subliniez pentru cei care iau în considerare să aplice este că cea mai importantă calitate pe care o căutăm la candidați este pasiunea pentru misiune. Întâlnim mulți candidați care sunt puternici din punct de vedere tehnic, așa că, în esență, se pune problema de a înțelege dacă sunt cu adevărat pasionați de eliminarea Riscului de Inteligență Artificială pentru a face lumea un loc mai sigur și mai bun.

În lumea în care ne îndreptăm, multe decizii care sunt luate în prezent de oameni vor fi automatizate. Indiferent dacă ne place sau nu, acesta este un fapt. Având în vedere acest lucru, toți cei de la Robust Intelligence dorim ca deciziile automate să fie luate în mod responsabil. Așadar, oricine este entuziasmat de a face o diferență, care înțelege modul în care acest lucru poate afecta viețile oamenilor, este un candidat pe care îl căutăm să se alăture Robust Intelligence. Căutăm această pasiune. Căutăm oamenii care vor crea această tehnologie pe care toată lumea o va utiliza.

Mulțumim pentru acest interviu minunat, am apreciat învățând despre punctele dvs. de vedere cu privire la prevenirea bias-ului în inteligența artificială și la nevoia unui Zid de Foc pentru Inteligența Artificială, cititorii care doresc să afle mai multe ar trebui să viziteze Robust Intelligence.