Podul de încredere în Inteligența Artificială

Adoptarea inteligenței artificiale a ajuns la un punct de inflexiune critic. Afacerile abordează cu entuziasm inteligența artificială, conduse de promisiunea de a obține îmbunătățiri de ordinul de mărime a eficienței operaționale.

Un sondaj recent Slack a arătat că adoptarea inteligenței artificiale continuă să se accelereze, utilizarea inteligenței artificiale în locurile de muncă experimentând o creștere recentă de 24% și 96% dintre executivii chestionați considerând că “este urgent să integreze inteligența artificială în operațiunile lor de afaceri.”

Cu toate acestea, există o divizare în creștere între utilitatea inteligenței artificiale și anxietatea crescândă cu privire la impactul său potențial negativ. Doar 7% dintre lucrătorii de birou consideră că ieșirile din inteligența artificială sunt suficient de de încredere pentru a-i ajuta în sarcinile legate de muncă.

Această lacună este evidentă în contrastul puternic între entuziasmul executivilor pentru integrarea inteligenței artificiale și scepticismul angajaților legat de factori precum:

• Părtinire și echitate: sistemele de inteligență artificială pot perpetua sau chiar exacerba prejudecățile existente, ducând la rezultate inechitabile.
• Confidențialitate și securitate: angajații se tem de modul în care datele lor personale sunt colectate, stocate și utilizate de sistemele de inteligență artificială.
• Luarea deciziilor opace: sistemele de inteligență artificială funcționează adesea ca “cutii negre”, luând decizii care sunt greu de înțeles sau explicate de oameni.
• Anxietatea automatizării: există o teamă larg răspândită că inteligența artificială va înlocui locurile de muncă ale oamenilor, ducând la șomaj și instabilitate economică.

Rolul legislației în construirea încrederii

Pentru a aborda aceste probleme complexe de încredere, măsurile legislative sunt din ce în ce mai văzute ca un pas necesar. Legislația poate juca un rol esențial în reglementarea dezvoltării și implementării inteligenței artificiale, astfel îmbunătățind încrederea. Abordările legislative cheie includ:

• Legi de protecție a datelor și confidențialității: implementarea unor legi stricte de protecție a datelor asigură că sistemele de inteligență artificială gestionează datele personale în mod responsabil. Reglementări precum Regulamentul general privind protecția datelor (GDPR) din Uniunea Europeană stabilesc un precedent prin impunerea transparenței, minimizării datelor și consimțământului utilizatorului. În special, Articolul 22 din GDPR protejează subiecții de date împotriva impactului potențial negativ al luării deciziilor automate. Deciziile recente ale Curții de Justiție a Uniunii Europene (CJUE) afirmă drepturile unei persoane de a nu fi supusă luării deciziilor automate. În cazul Schufa Holding AG, în care un rezident german a fost refuzat pentru un împrumut bancar pe baza unui sistem de luare a deciziilor automate de credit, curtea a hotărât că Articolul 22 impune organizațiilor să implementeze măsuri pentru a proteja drepturile la confidențialitate legate de utilizarea tehnologiilor inteligenței artificiale.
• Reglementări privind inteligența artificială: Uniunea Europeană a ratificat Actul privind inteligența artificială (EU AIA), care are ca scop reglementarea utilizării sistemelor de inteligență artificială pe baza nivelului lor de risc. Actul include cerințe obligatorii pentru sistemele de inteligență artificială cu risc ridicat, cuprinzând domenii precum calitatea datelor, documentația, transparența și supravegherea umană. Unul dintre principalele beneficii ale reglementărilor privind inteligența artificială este promovarea transparenței și explicabilității sistemelor de inteligență artificială. Mai mult, EU AIA stabilește cadre de responsabilitate clare, asigurând că dezvoltatorii, operatorii și chiar utilizatorii sistemelor de inteligență artificială sunt responsabili pentru acțiunile și rezultatele implementării inteligenței artificiale. Acest lucru include mecanisme de despăgubire în cazul în care un sistem de inteligență artificială cauzează prejudicii. Atunci când indivizii și organizațiile sunt ținuți responsabili, se construiește încrederea că sistemele de inteligență artificială sunt gestionate în mod responsabil.

Inițiative de standardizare pentru a promova o cultură a inteligenței artificiale de încredere

Companiile nu trebuie să aștepte noi legi pentru a stabili dacă procesele lor se încadrează în ghidurile etice și de încredere. Reglementările privind inteligența artificială funcționează în tandem cu inițiativele emergente de standardizare a inteligenței artificiale, care împuternicesc organizațiile să implementeze guvernanța responsabilă a inteligenței artificiale și cele mai bune practici pe tot parcursul ciclului de viață al sistemelor de inteligență artificială, cuprinzând proiectarea, implementarea, implementarea și, în cele din urmă, dezafectarea.

Institutul Național de Standarde și Tehnologie (NIST) din Statele Unite a dezvoltat un cadru de gestionare a riscurilor inteligenței artificiale pentru a ghida organizațiile în gestionarea riscurilor legate de inteligența artificială. Cadru este structurat în jurul a patru funcții principale:

• Înțelegerea sistemului de inteligență artificială și contextul în care funcționează. Acest lucru include definirea scopului, a părților interesate și a impactului potențial al sistemului de inteligență artificială.
• Cuantificarea riscurilor asociate sistemului de inteligență artificială, inclusiv aspectele tehnice și netehnice. Acest lucru implică evaluarea performanței sistemului, a fiabilității și a potențialelor prejudecăți.

• Implementarea strategiilor pentru a mitigă riscurile identificate. Acest lucru include dezvoltarea unor politici, proceduri și controale pentru a asigura că sistemul de inteligență artificială funcționează în limitele acceptabile de risc.
• Stabilirea structurilor de guvernanță și a mecanismelor de responsabilitate pentru a supraveghea sistemul de inteligență artificială și procesele de gestionare a riscurilor. Acest lucru implică revizuiri și actualizări regulate ale strategiei de gestionare a riscurilor.

Ca răspuns la progresele înregistrate în tehnologiile de inteligență artificială generativă NIST a publicat, de asemenea, Cadru de gestionare a riscurilor inteligenței artificiale: Profilul inteligenței artificiale generative, care oferă îndrumări pentru a mitigă riscurile specifice asociate cu modelele fundamentale. Astfel de măsuri includ protejarea împotriva utilizărilor dăunătoare (de exemplu, dezinformare, conținut degradant, discursuri de ură), și aplicații etice ale inteligenței artificiale care se concentrează pe valorile umane ale echității, confidențialității, securității informației, proprietății intelectuale și durabilității.

Mai mult, Organizația Internațională de Standardizare (ISO) și Comisia Electrotehnică Internațională (IEC) au dezvoltat împreună ISO/IEC 23894, un standard cuprinzător pentru gestionarea riscurilor inteligenței artificiale. Acest standard oferă o abordare sistematică pentru identificarea și gestionarea riscurilor pe tot parcursul ciclului de viață al inteligenței artificiale, incluzând identificarea riscurilor, evaluarea gravității riscurilor, tratamentul pentru a reduce sau evita riscurile și monitorizarea și revizuirea continuă.

Viitorul inteligenței artificiale și încrederea publică

Privind spre viitor, viitorul inteligenței artificiale și încrederea publică va depinde probabil de mai mulți factori cheie, esențiali pentru toate organizațiile:

• Realizarea unei evaluări complete a riscurilor pentru a identifica potențialele probleme de conformitate. Evaluează implicațiile etice și prejudecățile potențiale în sistemele dvs. de inteligență artificială.
• Stabilirea unei echipe transfuncționale, incluzând profesioniști din domeniul juridic, conformității, IT și științei datelor. Această echipă ar trebui să fie responsabilă pentru monitorizarea schimbărilor reglementare și pentru a asigura că sistemele dvs. de inteligență artificială se conformează noilor reglementări.
• Implementarea unei structuri de guvernanță care include politici, proceduri și roluri pentru gestionarea inițiativelor de inteligență artificială. Asigurați-vă că operațiunile și procesele de luare a deciziilor sunt transparente.
• Realizarea unor audituri interne regulate pentru a asigura conformitatea cu reglementările privind inteligența artificială. Utilizați instrumente de monitorizare pentru a urmări performanța sistemelor de inteligență artificială și conformitatea cu standardele reglementare.
• Instruirea angajaților despre etica inteligenței artificiale, cerințele reglementare și cele mai bune practici. Oferiți sesiuni de instruire continue pentru a menține personalul informat despre schimbările în reglementările privind inteligența artificială și strategiile de conformitate.
• Menținerea unor evidențe detaliate ale proceselor de dezvoltare a inteligenței artificiale, utilizarea datelor și criteriilor de luare a deciziilor. Pregătiți-vă pentru a genera rapoarte care pot fi prezentate reglementatorilor, dacă este necesar.
• Construirea de relații cu organismele de reglementare și participarea la consultări publice. Oferiți feedback despre reglementările propuse și cereți clarificări atunci când este necesar.

Contextualizați inteligența artificială pentru a obține o inteligență artificială de încredere

În cele din urmă, inteligența artificială de încredere se bazează pe integritatea datelor. Dependența inteligenței artificiale generative de seturi mari de date nu echivalează cu acuratețea și fiabilitatea ieșirilor; dacă este ceva, este contraintuitiv pentru ambele standarde. Generarea augmentată de recuperare (RAG) este o tehnică inovatoare care “combina modelele statice de inteligență artificială cu date contextuale specifice. Și poate fi considerată un ajutor foarte competent. Unul care asociază contextul întrebării cu date specifice dintr-o bază de cunoștințe cuprinzătoare.” RAG permite organizațiilor să ofere aplicații contextuale care respectă așteptările de confidențialitate, securitate, acuratețe și fiabilitate. RAG îmbunătățește acuratețea răspunsurilor generate prin recuperarea informațiilor relevante dintr-o bază de cunoștințe sau depozit de documente. Acest lucru permite modelului să-și bazeze generarea pe informații precise și actualizate.

RAG împuternicește organizațiile să construiască aplicații de inteligență artificială specializate care sunt foarte precise, conștiente de context și adaptabile pentru a îmbunătăți luarea deciziilor, a îmbunătăți experiențele clienților, a optimiza operațiunile și a obține avantaje competitive semnificative.

Podul de încredere în inteligența artificială implică asigurarea transparenței, responsabilității și utilizării etice a inteligenței artificiale. Deși nu există un singur răspuns pentru menținerea acestor standarde, afacerile au la dispoziție strategii și instrumente. Implementarea unor măsuri robuste de protecție a datelor și respectarea standardelor reglementare construiește încrederea utilizatorilor. Auditarea regulată a sistemelor de inteligență artificială pentru prejudecăți și inexactități asigură echitatea. Îmbunătățirea modelelor de limbaj mare (LLM) cu inteligență artificială specializată oferă încredere prin integrarea bazelor de cunoștințe și a surselor de date proprietare. Implicarea părților interesate în discuții despre capacitățile și limitările inteligenței artificiale promovează, de asemenea, încrederea și acceptarea.

Inteligența artificială de încredere nu este ușor de atins, dar este un angajament vital pentru viitorul nostru.