Lipsa de încredere în inteligența artificială poate limita inovația și valoarea afacerii

Un sondaj recent realizat printre liderii de afaceri la nivel global arată că inteligența artificială de încredere este o prioritate majoră, dar mulți nu iau suficiente măsuri pentru a o atinge, dar la ce cost?

Într-adevăr, sondajul IBM a arătat că 85% dintre respondenți sunt de acord că consumatorii sunt mai predispuși să aleagă o companie care este transparentă cu privire la modul în care sunt create, gestionate și utilizate modelele sale de inteligență artificială.

Cu toate acestea, majoritatea au admis că nu au luat măsuri cheie pentru a-și asigura că inteligența artificială este de încredere și responsabilă, cum ar fi reducerea prejudecății (74%), urmărirea variațiilor de performanță și a derapajului modelului (68%), și a asigurării că pot explica deciziile luate de inteligența artificială (61%). Acest lucru este îngrijorător, mai ales când se ia în considerare faptul că utilizarea inteligenței artificiale continuă să crească – 35% spun că acum utilizează inteligență artificială în afacerile lor, față de 31% anul trecut.

Am participat recent la Summitul de Inovare Corporativă de la Toronto, unde participanții au schimbat idei inovatoare și au prezentat tehnologii care urmează să modeleze viitorul. Am avut privilegiul de a participa la trei mese rotunde în cadrul segmentelor de servicii financiare, asigurări și retail, cu trei domenii cheie care au apărut: nevoia de mai multă transparență pentru a cultiva încrederea în inteligența artificială, democratizarea inteligenței artificiale prin aplicații cu cod redus sau fără cod, și dezvoltarea pentru a livra mai rapid valoare și a reduce riscurile prin cele mai bune practici de guvernanță și reglementare a inteligenței artificiale.

Cresc încrederea în tehnologiile de inteligență artificială. Pandemia de COVID-19 a amplificat și accelerat tendința de a adopta tehnologii de inteligență artificială, cum ar fi chatbot-urile și asistenții virtuali financiari, și înscrierea fără atingere a clienților. Această tendință va continua, așa cum a confirmat cercetarea Cap Gemini, care arată că 78% dintre consumatori intenționează să crească utilizarea tehnologiilor de inteligență artificială, inclusiv gestionarea identității digitale, în interacțiunile cu organizațiile financiare.

Beneficiile inerente nu sunt însă lipsite de provocări. Printre acestea se numără neîncrederea consumatorilor în tehnologiile de inteligență artificială și impactul asupra drepturilor lor de confidențialitate și securitate. 30% dintre consumatori au declarat că ar fi mai confortabili să își împărtășească informațiile biometrice dacă furnizorii de servicii financiare ar oferi mai multă transparență în ceea ce privește colectarea, gestionarea și securizarea informațiilor lor.

Directorii executivi trebuie să adopte principiile de inteligență artificială de încredere și să instituie măsuri riguroase care să protejeze drepturile de confidențialitate și securitate. Acest lucru poate fi realizat prin criptare, minimizarea datelor și autentificarea mai sigură, inclusiv considerarea standardelor emergente de identitate digitală descentralizată decentralizate. Ca urmare, eforturile dvs. de automatizare a proceselor inteligente și ofertele de auto-servire vor avea o adoptare mai mare și vor necesita mai puțină intervenție umană.

Eliminați barierele pentru democratizarea inteligenței artificiale. Există o tendință tot mai mare de a dezvolta aplicații de inteligență artificială cu cod redus sau fără cod, care, conform cercetărilor, se estimează că va ajunge la 45,5 miliarde de dolari până în 2025. Principalul motor este timpul de valoare mai rapid și îmbunătățirea productivității dezvoltării de aplicații de 10 ori.

De exemplu, 56% dintre organizațiile de servicii financiare chestionate consideră colectarea datelor de la împrumutați ca una dintre cele mai dificile și ineficiente etape din procesul de solicitare a creditului, ceea ce duce la rate ridicate de abandon. În timp ce tehnologiile de identificare biometrică și colectare a datelor conduse de inteligență artificială sunt dovedite a îmbunătăți eficiența în procesul de solicitare a creditului, ele pot crea și riscuri de conformitate, în special în ceea ce privește confidențialitatea datelor, confidențialitatea și prejudecata algoritmilor de inteligență artificială.

Pentru a reduce și a remedia astfel de riscuri, aplicațiile cu cod redus sau fără cod trebuie să includă teste cuprinzătoare pentru a se asigura că funcționează în conformitate cu obiectivele de proiectare inițiale, elimină posibila prejudecată din setul de date de antrenament care poate include prejudecata de eșantionare, prejudecata de etichetare și este securizată împotriva atacurilor de inteligență artificială care pot afecta negativ rezultatele algoritmilor de inteligență artificială. Considerarea principiilor științei datelor responsabile de echitate, acuratețe, confidențialitate și securitate este esențială.

Dezvoltați un cadru de guvernanță și reglementare pentru inteligența artificială. Guvernanța inteligenței artificiale nu mai este o inițiativă optională, ci o necesitate. Conform urmăririi politicii naționale de inteligență artificială a OECD, există peste 700 de inițiative de reglementare a inteligenței artificiale în dezvoltare în peste 60 de țări. Cu toate acestea, există coduri de conduită voluntare și principii etice de inteligență artificială dezvoltate de organizații internaționale de standarde, cum ar fi Institutul de Ingineri Electrotehniști și Electronică (“IEEE”) și Institutul Național de Standarde și Tehnologie (NIST).

Îngrijorările organizațiilor se învârt în jurul presupunerii că reglementările de inteligență artificială vor impune obligații de conformitate mai riguroase, susținute de mecanisme de aplicare a legii, inclusiv sancțiuni pentru neconformitate. Cu toate acestea, reglementarea inteligenței artificiale este inevitabilă.

Europa și America de Nord iau poziții proactive care vor cere directorilor executivi să colaboreze cu omologii lor tehnici și de afaceri pentru a forma politici eficiente. De exemplu, propunerea Comisiei Europene pentru Legea Inteligenței Artificiale propune să instituie obligații bazate pe risc pentru furnizorii de inteligență artificială pentru a proteja drepturile consumatorilor, în același timp promovând inovația și oportunitățile economice asociate cu tehnologiile de inteligență artificială.

În plus, în iunie 2022, guvernul federal canadian a lansat Legea de implementare a Cartei digitale, care protejează împotriva impactului negativ al sistemelor de inteligență artificială cu risc ridicat. Statele Unite procedează, de asemenea, cu inițiative de reglementare a inteligenței artificiale, deși pe o bază sectorială. Comisia Federală de Comerț (FTC), Biroul de Protecție a Consumatorilor Financiari (CFPB) și Consiliul Federal de Rezervă toate flexează mușchii lor de reglementare prin mecanismele lor de aplicare a legii pentru a proteja consumatorii împotriva impactului negativ care poate rezulta din aplicarea tot mai mare a inteligenței artificiale, care poate duce la rezultate discriminatorii, chiar dacă este neintenționat. Un cadru de reglementare a inteligenței artificiale este necesar pentru orice companie inovatoare.

Atingerea inteligenței artificiale de încredere necesită insight-uri bazate pe date

Implementarea inteligenței artificiale de încredere nu poate fi realizată fără o abordare bazată pe date pentru a determina unde aplicațiile tehnologiilor de inteligență artificială pot avea cel mai mare impact înainte de a proceda la implementare. Este vorba despre îmbunătățirea implicării clienților, realizarea de eficiențe operaționale sau reducerea riscurilor de conformitate?

Fiecare dintre acești factori de afaceri necesită o înțelegere a modului în care se execută procesele, cum se gestionează escaladările și excepțiile și identificarea variațiilor în execuția proceselor, a blocajelor și a cauzelor lor. Pe baza acestei analize bazate pe date, organizațiile pot lua decizii de afaceri informate cu privire la impactul și rezultatele asociate cu implementarea soluțiilor bazate pe inteligență artificială pentru a reduce fricțiunea de înscriere a clienților și a îmbunătăți eficiența operațională. Odată ce organizațiile au beneficiul insight-urilor bazate pe date, atunci pot automatiza procese extrem de laborioase, cum ar fi îndeplinirea mandatelor de conformitate cu inteligența artificială, auditarea conformității, cunoașterea clienților și prevenirea spălării banilor în serviciile financiare.

Principala concluzie este că o parte integrantă a automatizării proceselor cu inteligență artificială este implementarea celor mai bune practici de inteligență artificială de încredere. Utilizarea etică a inteligenței artificiale nu ar trebui să fie considerată doar o obligație legală și morală, ci și o necesitate de afaceri. Este înțelept din punct de vedere al afacerilor să fii transparent în ceea ce privește aplicarea inteligenței artificiale. Acest lucru cultivă încrederea și generează loialitatea mărcii.