Kako provesti AI reviziju u 2023

Revizija umjetne inteligencije odnosi se na procjenu sustava umjetne inteligencije kako bi se osiguralo da bez njih rade kako se očekuje prednapon ili diskriminacije i usklađeni su s etičkim i pravnim standardima. AI je doživio eksponencijalni rast u posljednjem desetljeću. Posljedično, rizici povezani s umjetnom inteligencijom postali su briga za organizacije. Kao što je Elon Musk rekao:

"AI je rijedak slučaj kada mislim da moramo biti proaktivni u regulaciji, a ne reaktivni."

Organizacije moraju razviti strategije upravljanja, procjene rizika i kontrole za zaposlenike koji rade s umjetnom inteligencijom. Odgovornost umjetne inteligencije postaje ključna u donošenju odluka gdje su ulozi visoki, kao što je raspoređivanje policije u jednom području, a ne u drugom, zapošljavanje i odbijanje kandidata.

Ovaj će članak predstaviti pregled AI revizije, okvire i propise za AI revizije i kontrolni popis za reviziju AI aplikacija.

Čimbenici koje treba razmotriti

• Usklađenost: Procjena rizika povezana s usklađenošću AI sustava sa pravnim, regulatornim, etičkim i društvenim aspektima.
• Tehnologija: Procjena rizika povezana s tehničkim mogućnostima, uključujući strojno učenje, sigurnosne standarde i izvedbu modela.

Izazovi za reviziju sustava umjetne inteligencije

• Pristranost: sustavi umjetne inteligencije mogu pojačati pristranosti u podacima na kojima se obučavaju i donositi nepravedne odluke. Prepoznajući ovaj problem, institut za istraživanje problema na Sveučilištu Stanford, Human Centered AI (HAI), pokrenuo je Inovacijski izazov od 71,000 USD za dizajniranje boljih AI revizija. Cilj ovog izazova bio je zabraniti diskriminaciju u sustavima umjetne inteligencije.
• Složenost: Sustavi umjetne inteligencije, posebno oni koji koriste dubinsko učenje, složeni su i nemaju mogućnost tumačenja.

Postojeći propisi i okviri za reviziju umjetne inteligencije

Propisi a okviri djeluju kao zvijezda sjevernjača za reviziju AI. U nastavku se raspravlja o nekim važnim revizijskim okvirima i propisima.

Revizijski okviri

1. Okvir COBIT (Ciljevi kontrole za informacijsku i srodnu tehnologiju): To je okvir za IT upravljanje i upravljanje poduzećem.
2. Okvir za reviziju umjetne inteligencije IIA (Instituta internih revizora): Ovaj okvir za umjetnu inteligenciju ima za cilj procijeniti dizajn, razvoj i rad sustava umjetne inteligencije i njihovu usklađenost s ciljevima organizacije. Tri glavne komponente IIA-ovog Okvira za reviziju umjetne inteligencije su strategija, upravljanje i ljudski faktor. Ima sedam elemenata koji su sljedeći:

• Cyber ​​otpornost
• AI kompetencije
• Kvaliteta podataka
• Arhitektura i infrastruktura podataka
• Mjerenje performansi
• Etika
• Crna kutija

3. Okvir COSO ERM: Ovaj okvir pruža referentni okvir za procjenu rizika za sustave umjetne inteligencije u organizaciji. Ima pet komponenti za internu reviziju:

• Unutarnje okruženje: osiguravanje da upravljanje i menadžment organizacije upravljaju rizicima AI
• Postavljanje cilja: Suradnja s dionicima na izradi strategije rizika
• Identifikacija događaja: Identifikacija rizika u AI sustavima kao što su nenamjerne pristranosti, povreda podataka
• Procjena rizika: Kakav će biti utjecaj rizika?
• Odgovor na rizik: Kako će organizacija odgovoriti na rizične situacije, kao što je neoptimalna kvaliteta podataka?

Propisi

Opća uredba o zaštiti podataka (GDPR) je zakon u regulativi EU koji obvezuje organizacije da koriste osobne podatke. Ima sedam principa:

• Zakonitost, poštenje i transparentnost: obrada osobnih podataka mora biti u skladu sa zakonom
• Ograničenje svrhe: Korištenje podataka samo za određenu svrhu
• Minimizacija podataka: Osobni podaci moraju biti primjereni i ograničeni
• Točnost: podaci trebaju biti točni i ažurni
• Ograničenje pohrane: Nemojte pohranjivati ​​osobne podatke koji više nisu potrebni
• Integritet i povjerljivost: Osobni podaci su se obrađivali na siguran način
• Odgovornost: Voditelj obrade podataka odgovorno obrađuje slijedeći usklađenosti

Ostali propisi uključuju CCPA i PIPEDA.

Kontrolni popis za AI Audit

Izvori podataka

Identificiranje i provjera izvora podataka primarno je razmatranje u reviziji AI sustava. Revizori provjeravaju kvalitetu podataka i može li tvrtka koristiti podatke.

Unakrsna provjera valjanosti

Osiguravanje odgovarajuće unakrsne validacije modela jedan je od kontrolnih popisa revizora. Validacijski podaci ne bi se trebali koristiti za obuku, a validacijske tehnike trebale bi osigurati mogućnost generalizacije modela.

Sigurno hosting

U nekim slučajevima AI sustavi koriste osobne podatke. Važno je procijeniti ispunjavaju li hosting ili usluge u oblaku zahtjeve za informacijsku sigurnost kao što su smjernice OWASP (Open Web Application Security Project).

Objašnjiva AI

Objašnjiva AI odnosi se na tumačenje i razumijevanje odluka koje donosi sustav umjetne inteligencije i čimbenika koji na njega utječu. Auditori provjeravaju jesu li modeli dovoljno objašnjivi koristeći tehnike kao što su LIME i SHAP.

Izlazi modela

Pravednost je prva stvar koju revizori osiguravaju u rezultatima modela. Rezultati modela trebali bi ostati dosljedni kada se promijene varijable poput spola, rase ili vjere. Štoviše, procjenjuje se i kvaliteta predviđanja korištenjem odgovarajuće metode bodovanja.

Društvene povratne informacije

Revizija umjetne inteligencije kontinuiran je proces. Nakon implementacije, revizori bi trebali vidjeti društveni učinak sustava umjetne inteligencije. Sustav umjetne inteligencije i strategiju rizika treba modificirati i revidirati u skladu s tim na temelju povratnih informacija, upotrebe, posljedica i utjecaja, bilo pozitivnih ili negativnih.

Tvrtke koje vrše reviziju AI cjevovoda i aplikacija

Pet velikih tvrtki koje vrše reviziju umjetne inteligencije su sljedeće:

• Deloitte: Deloitte je najveća tvrtka za profesionalne usluge na svijetu i pruža usluge vezane uz reviziju, oporezivanje i financijsko savjetovanje. Deloitte koristi RPA, AI i analitiku kako bi pomogao organizacijama u procjeni rizika njihovih AI sustava.
• PwC: PwC je druga najveća mreža profesionalnih usluga po prihodu. Razvili su revizijske metodologije kako bi pomogli organizacijama da osiguraju odgovornost, pouzdanost i transparentnost.
• EY: U 2022., EY najavio ulaganje od milijardu dolara u tehnološkoj platformi omogućenoj umjetnom inteligencijom za pružanje visokokvalitetnih usluga revizije. Tvrtke koje pokreću umjetna inteligencija dobro su informirane za reviziju sustava umjetne inteligencije.
• KPMG: KPMG je četvrta najveća tvrtka za pružanje računovodstvenih usluga. KPMG pruža prilagođene usluge u upravljanju umjetnom inteligencijom, procjeni rizika i kontrolama.
• Grant Thronton: Pomažu klijentima u upravljanju rizicima povezanima s implementacijom umjetne inteligencije i usklađenošću s etikom i propisima umjetne inteligencije.

Prednosti revizije sustava umjetne inteligencije

• Upravljanje rizikom: revizija sprječava ili ublažava rizike povezane sa sustavima umjetne inteligencije.
• Transparentnost: revizija osigurava da su AI aplikacije bez pristranosti i diskriminacije.
• Sukladnosti: Revizija AI aplikacija znači da sustav slijedi zakonske i regulatorne usklađenosti.

AI revizija: Što budućnost nosi

Organizacije, regulatorna tijela i revizori trebaju biti u kontaktu s napretkom umjetne inteligencije, shvatiti njezine potencijalne prijetnje i često revidirati propise, okvire i strategije kako bi osigurali pravednu, etičku upotrebu bez rizika.

Godine 2021. 193 države članice UNESCO usvojio globalni sporazum o etici umjetne inteligencije. AI je ekosustav koji se neprestano razvija.

Želite više sadržaja vezanih uz umjetnu inteligenciju? Posjetiti ujediniti.ai.