Cum pot companiile să creeze AI responsabil și transparent – Lideri de gândire

De Eric Paternoster, CEO al Infosys Public Services

Sundar Pichai, CEO al companiei mamă Google, Alphabet, a descris dezvoltările în domeniul inteligenței artificiale ca fiind „mai profunde decât focul sau electricitatea”, iar COVID-19 a adus o urgență nouă în deblocarea promisiunii acestei tehnologii. Aplicațiile inteligenței artificiale sunt acum ferm în lumina reflectoarelor, îmbunătățind tratamentele pentru COVID, urmărind potențialii purtători de COVID și implementând chatbot-uri în timp real pentru utilizatorii site-urilor de retail afectate de lipsa de aprovizionare. Aceste aplicații au demonstrat că inteligența artificială îmbunătățește reziliența unei afaceri și beneficiază societatea în ansamblu.

Pe lângă “cloud-native”, cuvântul cheie al ultimului trimestru ar putea fi “transformare AI-first”, un termen pe care practicienii din industrie cred că va fi valabil și după ce COVID va dispărea. Pentru multe companii, promisiunea unor costuri mai mici (de exemplu, algoritmi de lanț de aprovizionare care asociază oferta cu cererea) și a unor creșteri remarcabile ale productivității (de exemplu, atunci când băncile utilizează verificarea documentelor și a identității în timp real) este prea bună pentru a fi ignorată.

De ce transformare AI-First?

În transformarea AI-first, o întreprindere utilizează inteligența artificială ca o stea polară, lucrând pentru a o utiliza nu numai în mod inteligent, ci și într-un mod care influențează deciziile luate de oameni, procese și sisteme la scară largă. Acesta ajută organizațiile să se adapteze la dinamica în schimbare între angajați, parteneri și clienți. Acest lucru le permite să se adapteze rapid și să răspundă cererilor în schimbare, creând în același timp un avantaj competitiv pe termen lung.

Dar nu toate companiile se află la același nivel de maturitate a inteligenței artificiale. Există unele care pot fi numite “grupul clasic AI”, sau H1. Aceste companii, care au mai puțină experiență și investiții, utilizează în general algoritmi clasici, cum ar fi Bayes naiv, care există de 250 de ani, sau pădurea aleatoare (dezvoltată de Tin Kam Ho în 1995) pentru a îmbunătăți inteligența fragmentată din cadrul sistemelor existente. Astfel de utilizări ale inteligenței artificiale sunt strict bazate pe reguli și destul de rigide, lipsind capacitatea de a generaliza din regulile pe care le descoperă. Apoi există “grupul de învățare profundă”, sau H2. Aceste companii adoptă inteligență artificială mai complexă, inclusiv traduceri neuronale și sisteme bazate pe transcriere, pentru a extrage insight-uri conversaționale. Astfel de sisteme au mai multă putere, dar nu pot explica ușor de ce fac lucrurile pe care le fac. De asemenea, lipsesc transparența. Pentru aceste două grupuri, inteligența artificială utilizată adesea nu este de încredere sau fiabilă și poate lua decizii părtinitoare care atrag atenția negativă a organismelor guvernamentale, a regulatorilor și a publicului larg.

Aceste companii trebuie să facă pași acum pentru a-și duce implementările de inteligență artificială la un nivel superior — la un al treilea grup (H3), unde inteligența artificială este auto-învățătoare și generativă. La acest punct, sistemele de inteligență artificială sunt semi-supervizate sau chiar nesupervizate. Sunt transparente și ating “simțul comun” prin învățarea multitask. Aceste sisteme oferă o inteligență mai bogată și furnizează insight-uri în timp real, acționabile. Acest lucru se realizează prin inteligența artificială bine gestionată, guvernată, care este interpretabilă și explicabilă în toate etapele.

Cum să lucrați pentru a obține o inteligență artificială mai responsabilă și transparentă

Inteligența artificială este din ce în ce mai mult utilizată pentru a gestiona școli, locuri de muncă și alte entități publice. În aceste contexte, este mai important ca niciodată ca inteligența artificială să fie corectă și transparentă. Cu toate acestea, pe măsură ce societatea traversează această explozie a adoptării inteligenței artificiale, organismele de reglementare oferă îndrumări limitate cu privire la dezvoltarea și implementarea adecvată a tehnologiilor de inteligență artificială. Astfel, companiile trebuie să ia inițiativa. Industria tehnologică mai largă trebuie să pună în mișcare musculatura financiară și capitalul uman, transformând implementările inițiale ale inteligenței artificiale fragmentate în ecosisteme inteligente, creative, responsabile și transparente. Pentru a intra în acest spațiu, companiile ar trebui să facă următoarele patru lucruri:

• Păstrați oamenii în buclă: Modelele de inteligență artificială sunt adesea proiectate pentru a funcționa independent de oameni. Cu toate acestea, elementul uman este crucial în multe cazuri. Oamenii trebuie să verifice deciziile și să evite prejudecățile și greșelile care adesea deturnează proiectele de inteligență artificială. Două exemple de cazuri includ detectarea fraudelor și cazurile în care sunt implicați agenți de aplicare a legii. Recomandăm companiilor să angajeze practicieni de inteligență artificială treptat, dar constant, în timp, pentru a obține un avans în drumul lor către transformarea AI-first.
• Eliminați seturile de date părtinitoare: Un set de date nepărtinitor este o condiție prealabilă critică pentru a crea modele de inteligență artificială de încredere, corecte și nediscriminatorii. Pentru a înțelege importanța sa, inteligența artificială este utilizată pentru selectarea CV-urilor și pentru evaluarea creditului de către bănci și a pătruns chiar și în unele sisteme judiciare. În acest peisaj, prejudecățile necontrolate au avut implicații foarte reale.
• Asigurați-vă că deciziile sunt explicabile: Această funcție a fost prezentată de multe dintre marile publicații și, pe bună dreptate. XAI ajută la explicarea de ce un sistem de inteligență artificială a luat o anumită decizie. Acesta descoperă care dintre caracteristicile modelului de învățare profundă au fost utilizate mai mult decât altele pentru a face o previziune sau o ipoteză. Înțelegerea importanței caracteristicilor și capacitatea de a justifica modul în care se iau deciziile sunt esențiale pentru cazuri de utilizare, cum ar fi vehiculele autonome și viziunea computerizată utilizată în biopsii medicale.
• Reproducerea fiabilă a rezultatelor: O necesitate comună în proiectele de cercetare, modelele de inteligență artificială ar trebui să fie consecvente atunci când oferă previziuni de-a lungul timpului. Astfel de modele nu ar trebui să fie afectate atunci când li se prezintă date noi.

Aceste patru lucruri vor crea ecosisteme inteligente, transparente și conduse de inteligență, care se îndreaptă spre ceea ce numim “întreprindere vie”. Aici, deciziile nepărtinitoare și explicabile sunt luate în timp real, cu întreaga întreprindere care funcționează ca un organism conștient guvernat de oameni. Citiți documentul de lucru al Infosys Knowledge Institute pentru a afla mai multe.