Dr. Vishal Sikka, Fondator și CEO al Vianai – Seria de interviuri

Vishal Sikka este fondatorul și CEO-ul Vianai, fost CTO al SAP AG și fost CEO al Infosys. În prezent, el mai face parte și din consiliul de administrație al Oracle , din consiliul de supraveghere al BMW Group și este consilier al Institutului Stanford pentru Inteligență Artificială Centrată pe Uman.

Platforma Vianai combină elemente open-source, tehnici și optimizări proprietare Vianai, precum și design centrat pe om pentru a aduce inteligența artificială în întreprinderi la scară, în diverse peisaje. Cu această platformă, organizațiile mari pot crea, optimiza, implementa și gestiona modele sofisticate de învățare automată pe infrastructura existentă și pot îmbunătăți operațiunile și performanța modelelor de învățare automată în întreaga întreprindere.

Ce v-a atras inițial către învățarea automată?

M-am interesat de inteligența artificială ca adolescent, când am citit reflecțiile lui Marvin Minsky despre mințile noastre ca societăți de agenți simpli și am aflat despre Eliza (un chatbot foarte timpuriu) și critica lui John McCarthy la adresa acesteia. Mai târziu, am avut onoarea de a-l avea pe McCarthy ca președinte al comisiei mele de calificare pentru inteligența artificială la Stanford. McCarthy și Minsky au fost cei doi părinți ai domeniului inteligenței artificiale, și amândoi aveau insighturi profunde despre puterile, dar și limitările acesteia, și am fost suficient de norocos să studiez cu amândoi.

Putem vedea și astăzi că inteligența artificială are un potențial uriaș, dar, în același timp, are și limitări semnificative. Aceleași provocări cu care ne confruntam acum 30 de ani sunt încă evidente astăzi, în special atunci când ne uităm la inteligența artificială în întreprinderi. Am fost inspirat de lucrarea mea ca student, pentru a vedea dacă valoarea inteligenței artificiale putea fi cumva deblocată, și am continuat să fiu pasionat de acest domeniu.

Ați scris anterior câteva lucrări instrumentale, care dintre ele credeți că a fost cea mai instrumentală în evoluția opiniilor dvs. despre inteligența artificială?

Ca student, probabil că am citit câteva mii de lucrări. Lucrările lui McCarthy despre un “sfătuitor”, despre unele probleme filosofice cheie ale inteligenței artificiale, lucrările lui Marvin despre mintea ca o societate, despre combinarea abordărilor connectionist (bazate pe rețele neurale) și simbolice ale inteligenței artificiale, lucrările lui Judea Pearl despre raționament probabilistic și inteligență cauzală, și lucrările lui David Marr (despre viziune), Pat Winston (despre învățarea descrierilor obiectelor din exemple), Waldinger (despre sinteza programelor) și mulți alții mi-au modelat opiniile. Mai recent, am citit lucrări de-ale lui Hinton, Lecun, atenția oamenilor, precum și lucrările lui Cynthia Rudin, Fernanda Viegas și alții.

Ați declarat că experiența dezvoltatorilor de a construi un sistem de inteligență artificială este fragmentată și defectuoasă, care sunt unele dintre provocările actuale din spatele construirii unui sistem de inteligență artificială?

Sistemele de inteligență artificială de astăzi pot fi explicate doar de un număr relativ mic de oameni — statisticile variază, dar pare că ar putea exista doar aproximativ 20-30.000 de oameni în lume care înțeleg metodele reale prin care funcționează sistemele de inteligență artificială. Acesta este un număr mult mai mic decât cei 52.000 de oameni pe care îi estimăm a fi profesioniști MLOps, sau cei un milion pe care îi estimăm a fi oameni de știință a datelor. Mulți dintre ei nu ar putea să vă spună de ce sistemul face ceea ce face, de ce face recomandările pe care le face sau ce ar putea merge prost, sau cum funcționează tehnicile subiacente.

Puneți această situație pe fundalul unui peisaj extrem de complex. Există peste 300 de furnizori de MLOps pe care Gartner îi urmărește la un moment dat. Fiecare dintre aceștia are o ofertă specializată. Marii furnizori de cloud, pe de altă parte, au propria lor versiune a tuturor, și adesea încearcă să blocheze companiile în ecosistemele și infrastructurile lor.

Apoi, computarea în sine este adesea prea scumpă pentru ca companiile să poată construi și antrena cu adevărat unele dintre cele mai avansate modele disponibile. Acestea sunt lăsate unor companii care au talentul și resursele necesare pentru a gestiona cerințele unui sistem de inteligență artificială.

Lipsa de înțelegere, complexitatea instrumentelor și costul computării combină pentru a crea un peisaj fragmentat și dificil pentru orice companie care dorește să fie competentă în inteligența artificială. La Vianai, construim metode pentru a face inteligența artificială mai ușor de utilizat și mai ușor de înțeles și observat, reducând în același timp resursele și costurile asociate cu obținerea celei mai bune performanțe.

Ne puteți spune povestea de fond a Vianai?

Am petrecut mulți ani lucrând pentru a aduce inovații noi și disruptivă în întreprinderi. Echipele mele și eu am construit mai multe produse care au ajuns la zeci de mii de întreprinderi și au fost considerate inovații majore. De asemenea, am condus două transformări fundamentale în cele două călătorii anterioare de a începe Vianai și am participat la transformări în sute de întreprinderi. Adăugând la aceasta, am avut mulți ani de studiu al inteligenței artificiale și de focalizare pe modul de a face inteligența artificială mai bună, mai relevantă și în slujba umanității.

Într-un mod oarecum neobișnuit — aceste lucruri s-au unit. Eram în vacanță cu familia mea în Asia de Sud-Est [la sfârșitul anului 2018]. Ne-am dus la cumpărături într-un mic magazin, și vânzătorul avea bijuterii frumoase, realizate manual, cu tehnici tradiționale și pietre locale, și erau uimitoare, dar, desigur, nimeni din afara acestui mic oraș nu auzise de ele. Și mi-a venit o întrebare în minte, “Ce s-ar întâmpla dacă acest vânzător ar putea utiliza inteligența artificială? Cum ar arăta asta? Cum ar funcționa sistemele?” În acel moment, mi-a venit ideea că fiecare afacere din lume va fi transformată de inteligența artificială, și că această transformare nu poate fi privită prin lentilele de ieri, ci are nevoie de produse și idei care să pornească de la o foaie albă.

La aproximativ o lună după aceea, am fondat Vianai cu misiunea de a aduce inteligență artificială centrată pe om în întreprinderile din întreaga lume. Acest lucru înseamnă furnizarea de produse și servicii, aplicații și tehnologii, instrumente care permit utilizatorilor de afaceri, oamenilor de știință a datelor, inginerilor de învățare automată și chiar vânzătorilor din zonele îndepărtate ale lumii să beneficieze cu adevărat de inteligența artificială.

De atunci, am creat aplicații pentru a ajuta întreprinderile să înceapă cu inteligența artificială, o platformă pentru a ajuta practicienii de învățare automată să gestioneze și să monitorizeze modelele lor de inteligență artificială, și tehnici de optimizare pentru a permite mai multor companii să aibă acces la inteligența artificială.

Prin tot ceea ce am făcut, am descoperit că potențialul semnificativ de a aduce împreună puterea înțelegerii umane, a judecății și a colaborării, împreună cu datele și cele mai bune tehnici de inteligență artificială, rămâne neexploatat. Pe baza lucrării noastre cu companii de top din întreprinderi, am văzut că aceleași tehnici care ar ajuta la micul vânzător ar ajuta și la cele mai mari întreprinderi din lume.

Vianai este despre inteligență artificială centrată pe om, ne puteți defini ce este aceasta și de ce este importantă?

Inteligența artificială centrată pe om este inteligența artificială care își propune să amplifice munca umană și să îmbunătățească judecata umană. Învățarea automată este prea des considerată un înlocuitor pentru munca umană. Dar inteligența artificială este complementară omului — oferă scară și repetabilitate și precizie pe care oamenii nu o pot replica. Dar inteligența artificială nu poate replica judecata umană, experiențele umane sau înțelegerea contextului.

Există exemple evidente ale acestui lucru, de exemplu, atunci când inteligența artificială confundă o broască țestoasă cu un rifle, dar mult mai des punem prea multă încredere în inteligența artificială atunci când nu și-a dovedit încă încrederea. O poveste infamă vine de la un deceniu în urmă, când inteligența artificială a unei firme a fost lăsată să tranzacționeze fără intervenție umană. Algoritmul a pierdut 440 de milioane de dolari în mai puțin de o oră.

Pentru un exemplu mai recent, modelele de limbaj de ultimă generație rămân relativ ușor de confundat sau de a induce bias. Generatoarele de imagini din text necesită comenzi foarte specifice de la un utilizator uman pentru a-și atinge potențialul maxim.

Inteligența artificială centrată pe om, atunci, este un fel de focalizare în designul produselor noastre. Aducem puterea înțelegerii umane — precum judecata și colaborarea — împreună cu cele mai bune date și tehnici de inteligență artificială, pentru a crea sisteme inteligente care pot îmbunătăți semnificativ rezultatele și procesele de afaceri.

Ne puteți explica nevoia unei bucle de feedback între oameni și inteligența artificială?

Există o ramură întreagă de inteligență artificială numită “omul în buclă” care se bazează pe mecanismele de feedback ale oamenilor pentru a îmbunătăți în mod natural performanța inteligenței artificiale. Acest lucru este natural și are sens pentru orice sistem.

Sistemele de inteligență artificială pot fi îmbunătățite în timp, prin reantrenare, care incorporează acțiunile pe care le-a luat utilizatorul. Acesta este, desigur, un aspect al aplicațiilor noastre. Să vă dau un exemplu.

Înainte de Covid, lucram cu o firmă mare de servicii financiare pentru previziunea cererii. Din cauza modului în care am proiectat sistemul, atunci când a venit Covid și a întrerupt multe alte modele, al nostru s-a adaptat rapid la schimbări și nu a trebuit să fie reconstruit. Acesta este al doilea și cel mai important aspect al inteligenței artificiale centrate pe om, proiectarea sistemelor de la început pentru a incorpora complexitățile vieții moderne.

Acest lucru creează încredere și un sistem care crește odată cu organizația și utilizatorul.

Ce face Vianai o platformă de inteligență artificială de următoarea generație?

În timp ce există multă discuție despre risc, reglementare și promisiunea inteligenței artificiale, puțini au căutat ceea ce considerăm a fi soluția — conceptul de inteligență artificială centrată pe om.

Platforma noastră este, atunci, gata pentru problemele care vor apărea pe măsură ce inteligența artificială devine mai reală în întreprinderi. Este pentru a aborda problemele legate de încredere, bias și transparență. Permite companiilor să scaleze inteligența artificială cu monitorizare și optimizare. Și permite utilizatorilor non-tehnici să valorifice inteligența artificială prin aplicațiile noastre.

Care sunt unele dintre provocările din spatele construirii unei platforme care simplifică dramatic experiența pentru inteligența artificială în întreprinderi?

Cele mai mari provocări pe care le vedem în întreprinderile care incorporează inteligența artificială sunt talentul, instrumentele și tehnologia. În primul rând, talentul tinde să fie concentrat în câteva locuri, în special în companiile mari de tehnologie. Acest lucru face foarte greu pentru membrii echipei din afara acestor companii să participe la supravegherea, guvernanța și modelarea programului de inteligență artificială și poate crea și mai mult bias, deoarece doar un număr limitat de membri ai echipei lucrează la operațiuni.

Tehnologia și instrumentele pot fi, de asemenea, o provocare în a simplifica inteligența artificială. În prezent, atât tehnologia, cât și instrumentele sunt limitate. Cipurile pentru a rula inteligența artificială sunt rare și foarte scumpe, și instrumentele sunt blocate în anumite furnizori, ceea ce reduce libertatea de a îmbunătăți costul și de a extinde valoarea. Indiferent de stadiul în care se află o companie în călătoria sa de inteligență artificială a întreprinderii, aceste provocări pot face implementarea inteligenței artificiale utile și etice dificilă, deoarece creează o strategie fragmentată și desconectată și elimină instrumentele necesare pentru a executa funcțiile corespunzătoare. Organizațiile au nevoie de a putea susține toate domeniile inteligenței artificiale, de la implementare la întreținere, și de a avea suportul echipei și de a oferi input pentru a face acest lucru un succes.

Pentru adevăratul succes, am descoperit că capacitățile platformei trebuie să fie complet deschise, modulare, flexibile și să nu depindă de actualizări scumpe de hardware și software. Și, cu o abordare centrată pe om, oamenii pot aduce încă cunoștințele, contextul, experiențele și creativitatea pentru a rezolva probleme — acesta este apoi amplificat de platforma de inteligență artificială, nu înlocuit.

Există altceva pe care ați dori să-l împărtășiți despre Vianai?

În multe feluri, trăim în vremuri de inteligență artificială. Există multă vorbă și discuție despre inteligența artificială, ceea ce, în general, este un lucru bun. Vedem multe progrese și o adoptare mai largă decât în trecut în domenii precum Inteligența Artificială Generativă și altele. Cu toate acestea, ar trebui să lucrăm și pentru a recunoaște limitările inteligenței artificiale — realitățile tehnologiei de inteligență artificială de astăzi, precum și realitățile lipsei de expertiză în inteligența artificială și a lipsei de încredere în inteligența artificială, în special în întreprinderi. Dacă putem încadra inteligența artificială ca un amplificator al vieții noastre, al societății, al muncii noastre, al potențialului nostru, și avem supravegherea necesară a inteligenței artificiale pentru a asigura acest lucru, atunci cred că, în cele din urmă, vom vedea inteligența artificială devenind reală în moduri semnificative și transformatoare.

Mulțumim pentru acest interviu minunat, cititorii care doresc să afle mai multe despre Vianai ar trebui să viziteze Vianai.