Brian Sathianathan, Chief Technology Officer & Co-Founder al Iterate.ai – Seria de interviuri

Brian Sathianathan este Chief Technology Officer și co-fondator la Iterate.ai, creatorul platformei low-code Interplay pentru construirea rapidă a aplicațiilor bazate pe inteligență artificială în diverse industrii. Anterior, Sathianathan a lucrat la Apple la diverse proiecte de tehnologie emergentă, care au inclus sistemul de operare Mac și primul iPhone.

Ce v-a atras inițial la lucrul cu tehnologiile de inteligență artificială?

Am avut întotdeauna un interes pentru învățarea bazată pe algoritmi și am început să lucrez cu sisteme de inteligență artificială în timpul studiilor mele universitare. De asemenea, am petrecut o perioadă semnificativă de timp la începutul carierei mele construind tehnologii de criptografie și securitate pentru Apple și tehnologii de compresie video pentru o companie pe care am co-fondat-o anterior. Atât tehnologia video, cât și cea de criptografie sunt foarte intensive din punct de vedere al algoritmilor, ceea ce a făcut ca curba mea de învățare în AI/ML să fie mai rapidă. În jurul anului 2016, am început să experimentez cu cadre de lucru open source AI și GPU, realizând cât de departe au evoluat în ultimii cinci ani – atât din perspectiva algoritmilor, cât și a capacității de a face o gamă mai largă de clasificări. Apoi, am realizat nevoia de a face acest lucru mai ușor și mai simplu pentru toată lumea.

Aveți niște opinii puternice despre prejudecățile cognitive și bias-ul în datele de inteligență artificială, puteți împărtăși aceste preocupări?

Bias-ul în inteligența artificială apare atunci când inginerii își lasă propriile puncte de vedere și preconcepții să influențeze seturile de date de antrenament AI. Acest lucru subminează rapid ceea ce încearcă să realizeze cu inteligența artificială. De multe ori, această influență este subconștientă, astfel încât ei poate nu sunt conștienți de faptul că bias-ul a pătruns în seturile de date. Fără controale și echilibre eficiente, datele pot fi limitate la doar acele puncte de focalizare sau demografice pe care inginerii sunt predispuși să le ia în considerare. Chiar și atunci când inginerii au o calitate și volum ridicat de date cu care să lucreze, bias-urile în seturile de date pot face ca rezultatele livrate de aplicațiile AI să fie incorecte și, în multe cazuri, în mare măsură inutile.

Un raport Gartner a estimat că până în 2030, 85% din proiectele de inteligență artificială vor oferi rezultate false din cauza bias-ului. Acesta este un decalaj semnificativ de depășit. Companiile care investesc în capacități de inteligență artificială, se bazează pe acestea și iau decizii strategice bazate pe inteligența artificială – doar pentru a fi induși în eroare de concluzii false înrădăcinate în bias – riscă eșecuri costisitoare și daune aduse reputației lor. Cu inteligența artificială trecând rapid de la o tehnologie emergentă la o piatră de temelie omniprezentă atât în aplicațiile cu față spre client, cât și în procesele interne, eliminarea bias-ului este esențială pentru realizarea adevăratului potențial al inteligenței artificiale în viitor.

Care sunt unele modalități de a preveni aceste tipuri de bias-uri de a apărea?

Bias-ul în inteligența artificială trebuie detectat și eliminat sistematic și proactiv. Bias-urile pot fi încorporate în algoritmi. Inacuratețile pot fi introduse prin prejudecăți cognitive care omit pur și simplu datele necesare. Bias-ul de agregare este încă un risc aici, unde o serie de decizii mici se adună și duc la rezultate AI distorsionate.

Detectarea și eliminarea bias-ului în inteligența artificială în toate formele sale necesită ca organizațiile să utilizeze cadre, seturi de instrumente, procese și politici construite pentru a atenua eficient aceste probleme. De exemplu, cadrele de inteligență artificială, cum ar fi Cadru Aletheia de la Rolls Royce și cadru de inteligență artificială Deloitte – completate cu benchmark-uri impuse automat – pot promova practici lipsite de bias în dezvoltarea și implementarea aplicațiilor de inteligență artificială. Seturile de instrumente precum AI Fairness 360 și IBM Watson OpenScale pot recunoaște și elimina bias-ul și modelele de bias în modelele de învățare automată și fluxurile de lucru. În final, procesele care testează datele împotriva metricilor de bias definite, combinate cu politici care oferă guvernanță pentru a descuraja bias-ul prin practici impuse, permit organizațiilor să fie sistematice în verificarea punctelor lor oarbe și în limitarea bias-ului în inteligența artificială.

Sunteți CTO și co-fondator la Iterate.ai – cum a început totul?

Această poveste începe în 2013, când co-fondatorul Jon Nordmark (CEO-ul nostru) și eu am servit amândoi ca membri ai consiliului de administrație al unui accelerator din Europa de Est, cu sediul în Ucraina, destinat să ajute antreprenorii de acolo să construiască și să opereze startup-uri în stilul din Silicon Valley. Experiențele noastre cu aceste companii inovatoare ne-au condus la ideea de a perechea startup-urile promițătoare (dar poate mai puțin cunoscute) cu întreprinderi mari care aveau nevoie de sprijin inovator. Am lansat apoi ceea ce a fost atunci Iterate Studio, oferind un motor de căutare specializat pentru întreprinderi pentru a găsi parteneri startup în funcție de capacitățile inovatoare pe care aceste organizații mai mari le căutau. În 2015, compania a devenit Iterate.ai pentru a sublinia curarea noastră de startup-uri condusă de inteligență artificială. Astăzi, baza noastră de date Signals indexează peste 15,7 milioane de tehnologii de startup pe baza unor factori multiple (și utilizând inteligență artificială proprietară pentru a face acest lucru la acea scară).

Am extins în 2017 și am lansat prima versiune a platformei noastre Interplay de dezvoltare a aplicațiilor low-code. Interplay oferă un strat de software alimentat de inteligență artificială care modernizează stivele legacy ale întreprinderilor, permițând utilizarea „drag-and-drop” a tehnologiilor inovatoare și accelerând dezvoltarea software-ului de zece ori. Platforma low-code are 475 de componente preconstruite, astfel încât utilizatorii pot combina și potrivi tehnologiile de care au nevoie pentru a lansa rapid aplicații. Empowerment-ul inteligenței artificiale este la baza platformei, precum și alte componente low-code pentru IoT, integrare de date și chiar blockchain.

Iterate este o platformă low-code pentru dezvoltarea de aplicații alimentate de inteligență artificială; ce sunt unele dintre aplicațiile de inteligență artificială care pot fi construite?

Platforma noastră low-code a permis construirea de aplicații de inteligență artificială pentru o varietate foarte interesantă de cazuri de utilizare – amploarea implementării este ceva de care suntem cu adevărat mândri. Ulta Beauty, retailerul global de frumusețe de un miliard de dolari, a utilizat platforma noastră pentru a construi un chatbot de retail inteligent AI în doar două săptămâni. În contrast, chatbot-urile primitive sunt centrate pe cuvinte cheie, iar majoritatea aplicațiilor de chatbot ale furnizorilor nu pot integra în mod natural cu sistemele legacy pentru a accesa informații despre clienți sau pentru a permite tranziții lină către suportul uman asistat. Chatbot-ul inteligent AI al Ulta a eliminat aceste probleme cu funcționalitatea de procesare a limbajului natural și capacitatea de a recunoaște „intențiile” clienților pentru a oferi răspunsuri foarte precise. Platforma noastră a făcut ca Ulta să poată construi motorul AI al chatbot-ului în doar câteva ore și să configureze, să rafineze și să îmbunătățească rapid antrenamentul și răspunsurile chatbot-ului.

Într-un alt exemplu, Jockey a utilizat platforma noastră pentru a permite FAQ-uri alimentate de inteligență artificială, gata să răspundă în mod automat (și cu succes) la scenarii complexe și subiective de servicii pentru clienți. Platforma noastră a permis, de asemenea, unei rețele globale de magazine de conveniență și benzinării să răspundă la pandemie prin pompe de benzină fără atingere, bazate pe recunoașterea imaginilor de plăci de înmatriculare ale clienților. Capacitățile noastre de inteligență artificială sunt, de asemenea, aplicate pentru a împuternici strategii de securitate bazate pe camere în locații de retail. Prin recunoașterea imaginilor, aplicațiile de inteligență artificială antrenate pot identifica amenințări și prezența armelor în afara magazinelor, pot declanșa încuietori de magazine pentru a proteja clienții și pot contacta autoritățile.

Cât de mici sunt cerințele reale de codare? Câtă abilitate de dezvoltare trebuie să aibă utilizatorii?

În opinia mea, regula 80/20 se aplică. 80% din cazurile de utilizare a inteligenței artificiale sunt deja construite și au modele stabilite și seturi de date de antrenament în jurul lor. O organizație tradițională poate utiliza cu ușurință o platformă low-code (a noastră, Interplay, este una dintre acestea) și poate implementa aceste cazuri. Iată câteva exemple:

• FAQ-uri conduse de inteligență artificială
• Instrumente de găsire a produselor conduse de inteligență artificială
• Recomandări de produse și oferte
• OCR
• Identificare vizuală a produselor
• Analiză de date tabulare: lucruri precum AOV, analiză de coș, previziuni de abandon, etc.
• Extracția și detectarea obiectelor
• Permanența obiectelor

Aceste cazuri pot fi implementate de un inginer cu cunoștințe de programare de partea serverului și o înțelegere de bază a API-urilor de învățare automată. Acest lucru este foarte similar cu tehnologiile de streaming video, criptografie și gestionare a cheilor, care sunt utilizate pe scară largă prin API-uri astăzi. Majoritatea inginerilor care utilizează aceste API-uri adesea nu știu cum funcționează sub nivel.

De ce este importantă inteligența artificială low-code pentru scalarea tehnologiei de inteligență artificială?

Companiile care urmăresc capacități de inteligență artificială în dezvoltarea de aplicații pot întâmpina rapid provocări majore atunci când nu utilizează low-code. În lumea de astăzi, există doar 300.000 de ingineri de inteligență artificială, și doar 60.000 dintre aceștia sunt oameni de știință din domeniul datelor. Din cauza acestui fapt, talentul necesar pentru a dezvolta și scala soluții de inteligență artificială este scump și în creștere. În contrast, dezvoltarea low-code democratizează realmente accesul la inteligența artificială. Cu low-code, oricare dintre cei 25 de milioane de dezvoltatori de software din lume și chiar cei fără pregătire pot implementa cu ușurință motoare de inteligență artificială, pot rafina capacitățile lor și pot produce și scala soluții eficiente.

Revenind la platforma de semnale alimentate de inteligență artificială a Iterate.ai, ce sunt unele dintre tendințele mai interesante care apar?

Vedem o creștere rapidă în cinci forțe de inovare: inteligență artificială, IoT, blockchain, date și soluții de startup emergente. Acestea sunt toate piețe foarte mari. Vedem mii de puncte de date despre știri, brevete și produse de startup noi în fiecare zi. Interplay este construit pentru a valorifica aceste forțe, incluzând componente preconstruite pentru a profita de aceste forțe în creștere.

Există ceva altceva pe care ați dori să îl împărtășiți despre Iterate.ai?

Cred că există încă concepții greșite despre low-code și rolul său în construirea de aplicații de inteligență artificială. Nu este neobișnuit să vedem profesioniști IT care se întreabă dacă o strategie low-code poate îndeplini cerințele lor pentru scalabilitate, extensibilitate și securitate la nivel de întreprindere. Cred că opțiunile low-code destinate prototipării – dar aplicate greșit ca unelte pentru aplicații de producție – au contribuit la această reticență. Cu toate acestea, platformele low-code potrivite sunt absolut capabile să construiască și să susțină aplicații de inteligență artificială gata pentru producție. Întreprinderile ar trebui să efectueze diligența cuvenită în selectarea instrumentelor low-code, asigurându-se că aceste unelte au un strat de securitate transparent și complet și o reputație dovedită de a livra aplicații la scară de întreprindere.

Mulțumim pentru acest interviu minunat; cititorii care doresc să afle mai multe ar trebui să viziteze Iterate.ai.