Deschiderea cutiei negre a explicabilității AI

Inteligenta artificială (AI) a devenit întrepătrunsă în aproape toate aspectele vieții noastre de zi cu zi, de la recomandări personalizate la luarea deciziilor critice. Este un lucru dat că AI va continua să avanseze, și odată cu aceasta, amenințările asociate cu AI vor deveni și mai sofisticate. Pe măsură ce companiile adoptă apărări bazate pe AI în răspuns la complexitatea în creștere, următorul pas către promovarea unei culturi organizaționale de securitate este îmbunătățirea explicabilității AI.

În timp ce aceste sisteme oferă capacități impresionante, ele funcționează adesea ca “cutii negre” – producând rezultate fără o perspectivă clară asupra modului în care modelul a ajuns la concluzia la care a ajuns. Problema sistemelor AI care fac declarații false sau iau acțiuni false poate cauza probleme semnificative și perturbări potențiale ale afacerilor. Când companiile fac greșeli din cauza AI, clienții și consumatorii lor cer o explicație și, în curând, o soluție.

Dar ce este de vină? Adesea, datele proaste sunt folosite pentru antrenare. De exemplu, majoritatea tehnologiilor GenAI publice sunt antrenate pe date disponibile pe Internet, care sunt adesea neverificate și inexacte. În timp ce AI poate genera răspunsuri rapide, acuratețea acestor răspunsuri depinde de calitatea datelor cu care este antrenat.

Greșelile AI pot apărea în diverse instanțe, inclusiv generarea de scripturi cu comenzi incorecte și decizii de securitate false, sau respingerea unui angajat de la lucru pe sistemele de afaceri ale companiei din cauza acuzațiilor false făcute de sistemul AI. Toate acestea au potențialul de a cauza perturbări semnificative ale afacerilor. Acesta este doar unul dintre motivele pentru care asigurarea transparenței este cheia pentru a construi încredere în sistemele AI.

Construirea încrederii

Existăm într-o cultură în care încorporăm încredere în toate tipurile de surse și informații. Dar, în același timp, cerem dovezi și validări din ce în ce mai mult, având nevoie să validăm constant știrile, informațiile și afirmațiile. Când vine vorba de AI, ne încredem într-un sistem care are potențialul de a fi inexact. Mai important, este imposibil de știut dacă acțiunile sistemelor AI sunt exacte fără nicio transparență asupra bazei deciziilor luate. Ce se întâmplă dacă sistemul dvs. de securitate AI oprește mașinile, dar a făcut o greșeală la interpretarea semnelor? Fără o perspectivă asupra informațiilor care au condus sistemul la acea decizie, nu există nicio modalitate de a ști dacă a luat decizia corectă.

În timp ce perturbarea afacerilor este frustrantă, una dintre preocupările mai semnificative legate de utilizarea AI este confidențialitatea datelor. Sistemele AI, precum ChatGPT, sunt modele de învățare automată care obțin răspunsuri din datele pe care le primesc. Prin urmare, dacă utilizatorii sau dezvoltatorii furnizează accidental informații sensibile, modelul de învățare automată poate utiliza aceste date pentru a genera răspunsuri pentru alți utilizatori care dezvăluie informații confidențiale. Aceste greșeli au potențialul de a perturba grav eficiența, profitabilitatea și, mai ales, încrederea clienților. Sistemele AI sunt menite să crească eficiența și să ușureze procesele, dar în cazul în care validarea constantă este necesară din cauza faptului că ieșirile nu pot fi încredințate, organizațiile nu numai că irosesc timp, dar deschid și ușa către vulnerabilități potențiale.

Antrenarea echipelor pentru utilizarea responsabilă a AI

Pentru a proteja organizațiile de riscurile potențiale ale utilizării AI, profesioniștii IT au responsabilitatea importantă de a antrena corespunzător colegii lor pentru a se asigura că AI este utilizat în mod responsabil. Prin aceasta, ajută la menținerea organizațiilor lor în siguranță de atacurile cibernetice care amenință viabilitatea și profitabilitatea lor.

Cu toate acestea, înainte de a antrena echipe, liderii IT trebuie să se alinieze intern pentru a determina care sisteme AI vor fi potrivite pentru organizația lor. Grăbirea în adoptarea AI va avea ca rezultat doar eșecul ulterioară, așa că, în schimb, începeți cu încetinire, concentrându-vă pe nevoile organizației. Asigurați-vă că standardele și sistemele selectate se aliniază cu stiva de tehnologie actuală a organizației și cu obiectivele companiei și că sistemele AI îndeplinesc aceleași standarde de securitate ca și orice alt furnizor pe care îl selectați.

Odată ce un sistem a fost selectat, profesioniștii IT pot începe să-și expună echipele la aceste sisteme pentru a asigura succesul. Începeți prin utilizarea AI pentru sarcini mici și vedeți unde funcționează bine și unde nu, și învățați ce pericole sau validări potențiale trebuie aplicate. Apoi introduceți utilizarea AI pentru a spori munca, permițând rezolvarea rapidă a problemelor, inclusiv întrebările simple “cum să”. De acolo, se poate învăța cum să se pună validări în loc. Acest lucru este valoros, deoarece vom începe să vedem mai multe locuri de muncă care devin despre stabilirea condițiilor limită și validări, și deja văzute în locuri de muncă precum utilizarea AI pentru a asista la scrierea de software.

În plus față de aceste pași concreți pentru antrenarea membrilor echipei, inițierea și încurajarea discuțiilor este, de asemenea, imperativă. Încurajați dialogul deschis, bazat pe date, despre modul în care AI servește nevoile utilizatorilor – rezolvă el problemele cu acuratețe și mai rapid, conducem oare productivitate atât pentru companie, cât și pentru utilizatorul final, și scorul NPS al clienților noștri crește din cauza acestor unelte conduse de AI? Fiți clari cu privire la rentabilitatea investiției (ROI) și țineți-o în centrul atenției. Comunicarea clară va permite conștientizarea utilizării responsabile să crească, și pe măsură ce membrii echipei obțin o înțelegere mai bună a modului în care funcționează sistemele AI, ei sunt mai predispuși să le utilizeze în mod responsabil.

Cum să se obțină transparența în AI

Deși antrenarea echipelor și creșterea conștientizării este importantă, pentru a obține transparența în AI este vital să existe mai mult context în jurul datelor utilizate pentru antrenarea modelelor, asigurându-se că se utilizează doar date de calitate. Sperăm că, în cele din urmă, va exista o modalitate de a vedea cum sistemul raționează, astfel încât să putem avea încredere deplină în el. Dar până atunci, avem nevoie de sisteme care pot lucra cu validări și garduri de protecție și care pot dovedi că se conformează acestora.

În timp ce transparența deplină va trebui inevitabil timp pentru a fi atinsă, creșterea rapidă a AI și utilizarea ei o face necesară să lucrăm rapid. Pe măsură ce modelele AI continuă să crească în complexitate, ele au puterea de a face o mare diferență pentru omenire, dar și consecințele erorilor lor cresc. Ca urmare, înțelegerea modului în care aceste sisteme ajung la deciziile lor este extrem de valoroasă și necesară pentru a rămâne eficientă și de încredere. Prin concentrarea asupra sistemelor AI transparente, putem asigura că tehnologia este la fel de utilă pe cât este menită să fie, rămânând în același timp imparțială, etică, eficientă și precisă.