Inteligjenca artificiale

Si të kryeni një auditim të AI në 2023

Përditësuar on Shkurt 3, 2023

Auditimi i AI i referohet vlerësimit të sistemeve të AI për të siguruar që ato funksionojnë siç pritej pa paragjykim ose diskriminim dhe janë në përputhje me standardet etike dhe ligjore. AI ka përjetuar rritje eksponenciale në dekadën e fundit. Rrjedhimisht, rreziqet e lidhura me AI janë bërë një shqetësim për organizatat. Siç tha Elon Musk:

"AI është një rast i rrallë ku unë mendoj se ne duhet të jemi proaktivë në rregullore sesa reaguese."

Organizatat duhet të zhvillojnë strategji të qeverisjes, vlerësimit të rrezikut dhe kontrollit për punonjësit që punojnë me AI. Përgjegjësia e AI bëhet kritike në vendimmarrje ku aksionet janë të larta, si p.sh. vendosja e policisë në një fushë dhe jo në tjetrën, punësimi dhe refuzimi i kandidatëve.

Ky artikull do të paraqesë një përmbledhje të auditimit të UA, kornizave dhe rregulloreve për auditimet e UA dhe një listë kontrolli për auditimin e aplikacioneve të UA.

Faktorët që duhen marrë parasysh

Pajtueshmëria: Vlerësimi i rrezikut në lidhje me përputhshmërinë e një sistemi të AI me konsideratat ligjore, rregullatore, etike dhe sociale.
Teknologjia: Vlerësimi i rrezikut në lidhje me aftësitë teknike, duke përfshirë mësimin e makinerive, standardet e sigurisë dhe performancën e modelit.

Sfidat për auditimin e sistemeve të AI

Paragjykimi: Sistemet e AI mund të përforcojnë paragjykimet në të dhënat mbi të cilat janë trajnuar dhe të marrin vendime të padrejta. Duke e njohur këtë problem, një institut kërkimor i kërkimit të problemit në Universitetin e Stanfordit, AI me qendër njerëzore (HAI), filloi një Sfidë Inovacioni prej 71,000 dollarësh për të hartuar auditime më të mira të AI. Objektivi i kësaj sfide ishte të ndalonte diskriminimin në sistemet e AI.
Kompleksiteti: Sistemet e AI, veçanërisht ato që përdorin mësim të thellë, janë komplekse dhe nuk kanë interpretueshmëri.

Rregulloret dhe Kornizat ekzistuese për Auditimin e UA

Rregulla dhe kornizat veprojnë si ylli verior për auditimin e AI. Disa korniza dhe rregullore të rëndësishme të auditimit diskutohen më poshtë.

Kornizat e Auditimit

Korniza COBIT (Objektivat e Kontrollit për Teknologjinë e Informacionit dhe të ngjashme): Është korniza për qeverisjen dhe menaxhimin e IT të një ndërmarrje.
Korniza e Auditimit të UA të IIA (Instituti i Audituesve të Brendshëm): Ky kuadër i UA synon të vlerësojë projektimin, zhvillimin dhe funksionimin e sistemeve të AI dhe përafrimin e tyre me objektivat e organizatës. Tre komponentët kryesorë të Kornizës së Auditimit të UA të IIA-s janë Strategjia, Qeverisja dhe Faktori Njerëzor. Ai ka shtatë elementë të cilët janë si më poshtë:

Rezistenca kibernetike
Kompetencat e AI
Cilësia e të dhënave
Arkitektura dhe Infrastruktura e të Dhënave
Matja e Performancës
etikë
Kutia e Zezë

Korniza COSO ERM: Ky kuadër ofron një kornizë referimi për vlerësimin e rreziqeve për sistemet e AI në një organizatë. Ai ka pesë komponentë për auditimin e brendshëm:

Mjedisi i Brendshëm: Sigurimi që qeverisja dhe menaxhimi i Organizatës po menaxhojnë rreziqet e AI
Vendosja e objektivave: Bashkëpunimi me palët e interesuara për të krijuar strategjinë e rrezikut
Identifikimi i ngjarjeve: Identifikimi i rreziqeve në sistemet e AI si paragjykime të paqëllimshme, shkelje të të dhënave
Vlerësimi i rrezikut: Cili do të jetë ndikimi i rrezikut?
Përgjigja ndaj rrezikut: Si do t'i përgjigjet organizata situatave të rrezikut, të tilla si cilësia nën-optimale e të dhënave?

Rregulla

Rregullorja e Përgjithshme për Mbrojtjen e të Dhënave (GDPR) është një ligj në rregulloren e BE-së që vendos detyrime për organizatat për përdorimin e të dhënave personale. Ai ka shtatë parime:

Ligjshmëria, Drejtësia dhe Transparenca: Përpunimi i të dhënave personale duhet t'i përmbahet ligjit
Kufizimi i qëllimit: Përdorimi i të dhënave vetëm për një qëllim specifik
Minimizimi i të dhënave: Të dhënat personale duhet të jenë adekuate dhe të kufizuara
Saktësia: Të dhënat duhet të jenë të sakta dhe të përditësuara
Kufizimi i ruajtjes: Mos ruani të dhëna personale që nuk kërkohen më
Integriteti dhe konfidencialiteti: Të dhënat personale përdoren për t'u përpunuar në mënyrë të sigurt
Përgjegjësia: Kontrolluesi të përpunojë të dhënat me përgjegjësi pas pajtueshmërisë

Rregullore të tjera përfshijnë CCPA PIPEDA.

Lista kontrolluese për Auditimin e UA

Burimet e të dhënave

Identifikimi dhe verifikimi i burimeve të të dhënave është konsiderata kryesore në auditimin e sistemeve të AI. Auditorët kontrollojnë për cilësinë e të dhënave dhe nëse kompania mund t'i përdorë të dhënat.

Vleresimi kryq

Garantimi që modeli është verifikuar si duhet është një nga listat kontrolluese të auditorëve. Të dhënat e verifikimit nuk duhet të përdoren për trajnim dhe teknikat e vërtetimit duhet të sigurojnë përgjithësimin e modelit.

Pritja e Sigurt

Në disa raste, sistemet e AI përdorin të dhëna personale. Është e rëndësishme të vlerësohet se shërbimet e pritjes ose cloud plotësojnë kërkesat e sigurisë së informacionit, siç janë udhëzimet OWASP (Open Web Application Security Project).

AI e shpjegueshme

AI e shpjegueshme i referohet interpretimit dhe kuptimit të vendimeve të marra nga sistemi i AI dhe faktorëve që ndikojnë në të. Auditorët kontrollojnë nëse modelet janë mjaftueshëm të shpjegueshme duke përdorur teknika të tilla si LIME dhe SHAP.

Rezultatet e modelit

Drejtësia është gjëja e parë që audituesit sigurojnë në rezultatet e modelit. Rezultatet e modelit duhet të mbeten të qëndrueshme kur ndryshohen variablat si gjinia, raca ose feja. Për më tepër, vlerësohet edhe cilësia e parashikimeve duke përdorur metodën e duhur të pikëzimit.

Reagimet sociale

Auditimi i AI është një proces i vazhdueshëm. Pasi të vendosen, auditorët duhet të shohin ndikimin social të sistemit të AI. Sistemi i IA dhe strategjia e rrezikut duhet të modifikohen dhe auditohen në përputhje me rrethanat bazuar në reagimet, përdorimin, pasojat dhe ndikimin, qoftë pozitiv apo negativ.

Kompanitë që auditojnë tubacionet dhe aplikacionet e AI

Pesë kompanitë kryesore që auditojnë AI janë si më poshtë:

Deloitte: Deloitte është firma më e madhe e shërbimeve profesionale në botë dhe ofron shërbime në lidhje me auditimin, taksat dhe këshillimin financiar. Deloitte përdor RPA, AI dhe analitikë për të ndihmuar organizatat në vlerësimin e rrezikut të sistemeve të tyre të AI.
PwC: PwC është rrjeti i dytë më i madh i shërbimeve profesionale sipas të ardhurave. Ata kanë zhvilluar metodologji auditimi për të ndihmuar organizatat të sigurojnë llogaridhënie, besueshmëri dhe transparencë.
EY: Në vitin 2022, EY njoftoi një investim prej 1 miliard dollarësh në një platformë teknologjike të aktivizuar me AI për të ofruar shërbime auditimi me cilësi të lartë. Firmat që drejtohen nga AI janë të mirëinformuara për të audituar sistemet e AI.
KPMG: KPMG është firma e katërt më e madhe që ofron shërbime të kontabilitetit. KPMG ofron shërbime të personalizuara në qeverisjen e AI, vlerësimin e rrezikut dhe kontrollet.
Grant Thronton: Ata i ndihmojnë klientët të menaxhojnë rreziqet që lidhen me vendosjen e AI dhe pajtueshmërinë me etikën dhe rregulloret e AI.

Përfitimet e auditimit të sistemeve të AI

Menaxhimi i rrezikut: Auditimi parandalon ose zbut rreziqet që lidhen me sistemet e AI.
Transparenca: Auditimi siguron që aplikacionet e AI janë pa paragjykime dhe diskriminime.
Përputhshmëritë: Auditimi i aplikacioneve të AI do të thotë që sistemi ndjek përputhshmëritë ligjore dhe rregullatore.

Auditimi i AI: Çfarë mban e ardhmja

Organizatat, autoritetet rregullatore dhe auditorët duhet të mbajnë kontakte me përparimet e AI, të kuptojnë kërcënimet e saj të mundshme dhe të rishikojnë shpesh rregulloret, kornizat dhe strategjitë për të siguruar përdorim të drejtë, pa rrezik dhe etik.

Në vitin 2021, 193 shtete anëtare të UNESCO miratoi një marrëveshje globale mbi etikën e AI. AI është një ekosistem në zhvillim të vazhdueshëm.

Dëshironi më shumë përmbajtje të lidhura me AI? Vizitoni bashkohen.ai.