Cum se efectuează o auditare a IA în 2023

Auditarea IA se referă la evaluarea sistemelor de inteligență artificială pentru a se asigura că funcționează așa cum se așteaptă, fără prejudecăți sau discriminare și că sunt aliniate cu standardele etice și legale. IA a experimentat o creștere exponențială în ultimul deceniu. În consecință, riscurile legate de IA au devenit o preocupare pentru organizații. Așa cum a spus Elon Musk:

“IA este un caz rar în care cred că trebuie să fim proactivi în reglementare, mai degrabă decât reactivi.”

Organizațiile trebuie să dezvolte strategii de guvernanță, evaluare a riscurilor și control pentru angajații care lucrează cu IA. Responsabilitatea IA devine critică în procesul de luare a deciziilor, unde sunt implicate riscuri mari, cum ar fi implementarea poliției într-o anumită zonă și nu în alta, angajarea și respingerea candidaților.

Acest articol va prezenta o vedere de ansamblu asupra auditării IA, a cadrului și reglementărilor pentru auditarea IA, precum și o listă de verificare pentru auditarea aplicațiilor IA.

Factori de luat în considerare

• Conformitate: Evaluarea riscurilor legate de conformitatea sistemului de IA cu considerații legale, regulatorii, etice și sociale.
• Tehnologie: Evaluarea riscurilor legate de capacitățile tehnice, incluzând învățarea automată, standardele de securitate și performanța modelului.

Provocări pentru auditarea sistemelor de IA

• Prejudecăți: Sistemele de IA pot amplifica prejudecățile din datele pe care sunt antrenate și pot lua decizii injuste. Recunoscând această problemă, un institut de cercetare de la Stanford University, Human Centered AI (HAI), a lansat o provocare de inovare de 71.000 de dolari pentru a proiecta auditări de IA mai bune. Obiectivul acestei provocări a fost de a interzice discriminarea în sistemele de IA.
• Complexitate: Sistemele de IA, în special cele care utilizează învățarea profundă, sunt complexe și lipsite de interpretabilitate.

Reglementări și cadre existente pentru auditarea IA

Reglementări și cadre acționează ca o busolă pentru auditarea IA. Unele cadre și reglementări importante de auditare a IA sunt discutate mai jos.

Cadre de auditare

1. Cadru COBIT (Control Objectives for Information and related Technology): Acesta este cadru pentru guvernanța și managementul tehnologiei informației a unei întreprinderi.
2. Cadru de auditare IA al IIA (Institutul de Auditori Interni): Acest cadru de IA are ca scop evaluarea proiectării, dezvoltării și funcționării sistemelor de IA și a alinierii lor cu obiectivele organizației. Cele trei componente principale ale cadru de auditare IA al IIA sunt Strategia, Guvernanța și Factorul Uman. Acesta are șapte elemente, care sunt următoarele:

• Reziliență cibernetică
• Competențe IA
• Calitatea datelor
• Arhitectura și infrastructura datelor
• Măsurarea performanței
• Etica
• Cutia neagră

3. Cadru COSO ERM: Acest cadru oferă un cadru de referință pentru evaluarea riscurilor sistemelor de IA într-o organizație. Acesta are cinci componente pentru auditul intern:

• Mediul intern: Asigurarea că guvernanța și managementul organizației gestionează riscurile IA
• Stabilirea obiectivelor: Colaborarea cu părțile interesate pentru a stabili strategia de risc
• Identificarea evenimentelor: Identificarea riscurilor în sistemele de IA, cum ar fi prejudecățile neintenționate, încălcarea datelor
• Evaluarea riscurilor: Care va fi impactul riscului?
• Răspunsul la risc: Cum va răspunde organizația la situații de risc, cum ar fi calitatea slabă a datelor?

Reglementări

Regulamentul General privind Protecția Datelor (GDPR) este o lege a UE care impune obligații organizațiilor să utilizeze date personale. Acesta are șapte principii:

• Legalitate, echitate și transparență: Preprocessarea datelor personale trebuie să respecte legea
• Limitarea scopului: Utilizarea datelor numai pentru un scop specific
• Minimizarea datelor: Datele personale trebuie să fie adecvate și limitate
• Exactitate: Datele trebuie să fie exacte și actualizate
• Limitarea stocării: Nu stocați date personale care nu mai sunt necesare
• Integritate și confidențialitate: Datele personale utilizate trebuie să fie procesate în mod securizat
• Răspundere: Controlorul procesează datele în mod responsabil, respectând conformitatea

Alte reglementări includ CCPA și PIPEDA.

Lista de verificare pentru auditarea IA

Surse de date

Identificarea și verificarea surselor de date este considerată primară în auditarea sistemelor de IA. Auditorii verifică calitatea datelor și dacă compania poate utiliza datele.

Validarea încrucișată

Asigurarea că modelul este validat încrucișat este una dintre liste de verificare ale auditorilor. Datele de validare nu trebuie utilizate pentru antrenare, iar tehnicile de validare trebuie să asigure generalizabilitatea modelului.

Găzduire securizată

În unele cazuri, sistemele de IA utilizează date personale. Este important să se evalueze dacă serviciile de găzduire sau cloud îndeplinesc cerințele de securitate a informațiilor, cum ar fi ghidurile OWASP (Open Web Application Security Project).

IA explicabilă

IA explicabilă se referă la interpretarea și înțelegerea deciziilor luate de sistemul de IA și a factorilor care o influențează. Auditorii verifică dacă modelele sunt suficient de explicabile utilizând tehnici cum ar fi LIME și SHAP.

Rezultatele modelului

Corectitudinea este primul lucru pe care auditorii îl asigură în rezultatele modelului. Rezultatele modelului trebuie să rămână constante atunci când se modifică variabile cum ar fi sexul, rasa sau religia. În plus, calitatea predicțiilor utilizând metoda de scorare adecvată este evaluată.

Reacția socială

Auditarea IA este un proces continuu. Odată implementat, auditorii trebuie să vadă impactul social al sistemului de IA. Sistemul de IA și strategia de risc trebuie să fie modificate și auditate în consecință, pe baza feedback-ului, utilizării, consecințelor și influenței, fie pozitive, fie negative.

Companii care auditează sistemele de IA și aplicațiile

Cinci companii majore care auditează IA sunt următoarele:

• Deloitte: Deloitte este cea mai mare firmă de servicii profesionale din lume și oferă servicii legate de audit, taxe și consultanță financiară. Deloitte utilizează RPA, IA și analize pentru a ajuta organizațiile să evalueze riscurile sistemelor de IA.
• PwC: PwC este a doua cea mai mare rețea de servicii profesionale după venituri. Ei au dezvoltat metode de audit pentru a ajuta organizațiile să asigure responsabilitate, fiabilitate și transparență.
• EY: În 2022, EY a anunțat o investiție de 1 miliard de dolari într-o platformă de tehnologie bazată pe IA pentru a oferi servicii de audit de înaltă calitate. Firmele care sunt conduse de IA sunt bine informate pentru a audita sistemele de IA.
• KPMG: KPMG este a patra cea mai mare firmă de servicii contabile. KPMG oferă servicii personalizate în guvernanța IA, evaluarea riscurilor și control.
• Grant Thronton: Ei ajută clienții să gestioneze riscurile legate de implementarea IA și să se conformeze eticii și reglementărilor IA.

Beneficiile auditării sistemelor de IA

• Managementul riscurilor: Auditarea prevenționează sau reduce riscurile asociate sistemelor de IA.
• Transparență: Auditarea asigură că aplicațiile de IA sunt lipsite de prejudecăți și discriminare.
• Conformitate: Auditarea sistemelor de IA înseamnă că sistemul respectă reglementările și legile.

Auditarea IA: Ce ne rezervă viitorul

Organizațiile, autoritățile de reglementare și auditorii trebuie să țină pasul cu progresul IA, să recunoască amenințările sale potențiale și să revizuiască frecvent reglementările, cadrele și strategiile pentru a asigura utilizarea corectă, lipsită de risc și etică a IA.

În 2021, 193 de state membre ale UNESCO au adoptat un acord global privind etica IA. IA este un ecosistem în continuă evoluție.

Doriți mai mult conținut legat de IA? Vizitați unite.ai.