Hoe om 'n KI-oudit in 2023 uit te voer

KI-oudit verwys na die evaluering van KI-stelsels om te verseker dat hulle werk soos verwag daarsonder vooroordeel of diskriminasie en is in lyn met etiese en wetlike standaarde. KI het die afgelope dekade eksponensiële groei beleef. Gevolglik het KI-verwante risiko's 'n bekommernis vir organisasies geword. Soos Elon Musk gesê het:

"KI is 'n seldsame geval waar ek dink ons ​​moet proaktief wees in regulering eerder as reaktief."

Organisasies moet bestuur-, risiko-evaluering en beheerstrategieë ontwikkel vir werknemers wat met KI werk. KI-verantwoordbaarheid word van kritieke belang in besluitneming waar die belange groot is, soos om polisiëring in een gebied te ontplooi en nie in die ander nie, om kandidate aan te stel en te verwerp.

Hierdie artikel bied 'n oorsig van KI-oudit, raamwerke en regulasies vir KI-oudits, en 'n kontrolelys vir die ouditering van KI-toepassings.

Faktore wat u moet oorweeg

• Voldoening: Risikobepaling wat verband hou met 'n KI-stelsel se voldoening aan wetlike, regulatoriese, etiese en sosiale oorwegings.
• Tegnologie: Risikobepaling wat verband hou met tegniese vermoëns, insluitend masjienleer, sekuriteitstandaarde en modelwerkverrigting.

Uitdagings vir die oudit van KI-stelsels

• Vooroordeel: KI-stelsels kan die vooroordele in die data waarop hulle opgelei is versterk en onbillike besluite neem. Met die erkenning van hierdie probleem, het 'n navorsingsprobleemnavorsingsinstituut by Stanford Universiteit, Human Centered AI (HAI), van stapel gestuur. 'n $71,000-innovasie-uitdaging om beter KI-oudits te ontwerp. Die doel van hierdie uitdaging was om diskriminasie in KI-stelsels te verbied.
• Kompleksiteit: KI-stelsels, veral dié wat diep leer gebruik, is kompleks en het nie interpreteerbaarheid nie.

Bestaande regulasies en raamwerke vir KI-oudit

Regulasies en raamwerke dien as die noordelike ster vir die ouditering van KI. Enkele belangrike ouditraamwerke en regulasies word hieronder bespreek.

Ouditraamwerke

1. COBIT Raamwerk (Beheerdoelwitte vir Inligting en verwante Tegnologie): Dit is die raamwerk vir IT-bestuur en bestuur van 'n onderneming.
2. IIA (Instituut van Interne Ouditeure) KI-ouditraamwerk: Hierdie KI-raamwerk het ten doel om die ontwerp, ontwikkeling en werking van KI-stelsels en hul belyning met die organisasie se doelwitte te assesseer. Drie hoofkomponente van IIA se KI-ouditraamwerk is Strategie, Bestuur en Menslike Faktor. Dit het sewe elemente wat soos volg is:

• Kuberveerkragtigheid
• KI-bevoegdhede
• Datakwaliteit
• Data-argitektuur en -infrastruktuur
• Prestasie meet
• Etiek
• Die swart boks

3. COSO ERM-raamwerk: Hierdie raamwerk verskaf 'n verwysingsraamwerk vir die assessering van die risiko's vir KI-stelsels in 'n organisasie. Dit het vyf komponente vir interne oudit:

• Interne Omgewing: Verseker dat die organisasie se bestuur en bestuur KI-risiko's bestuur
• Doelwitstelling: Samewerking met belanghebbendes om risikostrategie te maak
• Gebeurtenisidentifikasie: Identifisering van risiko's in die KI-stelsels soos onbedoelde vooroordele, data-oortreding
• Risiko-evaluering: Wat sal die impak van die risiko wees?
• Risikoreaksie: Hoe sal die organisasie reageer op risikosituasies, soos suboptimale datakwaliteit?

Regulasies

Die Algemene Databeskermingsregulasie (GDPR) is 'n wet in die EU-regulasie wat verpligtinge op organisasies plaas om persoonlike data te gebruik. Dit het sewe beginsels:

• Wettigheid, regverdigheid en deursigtigheid: Persoonlike dataverwerking moet by die wet hou
• Doelbeperking: Gebruik data slegs vir 'n spesifieke doel
• Data Minimalisering: Persoonlike data moet voldoende en beperk wees
• Akkuraatheid: Data moet akkuraat en op datum wees
• Bergingbeperking: Moenie persoonlike data stoor wat nie meer benodig word nie
• Integriteit en vertroulikheid: Persoonlike data is gebruik om veilig verwerk te word
• Verantwoordelikheid: Kontroleur om data verantwoordelik te verwerk na aanleiding van voldoening

Ander regulasies sluit in RCVA en PIPEDA.

Kontrolelys vir KI-oudit

databronne

Die identifisering en keuring van die databronne is die primêre oorweging by die ouditering van KI-stelsels. Ouditeure kyk na datakwaliteit en of die maatskappy die data kan gebruik.

Kruis validering

Om te verseker dat die model toepaslik kruisbekragtig is, is een van die kontrolelyste van die ouditeure. Validasiedata moet nie vir opleiding gebruik word nie, en die valideringstegnieke moet modelveralgemeenbaarheid verseker.

Veilige gasheer

In sommige gevalle gebruik KI-stelsels persoonlike data. Dit is belangrik om te evalueer dat gasheer- of wolkdienste voldoen aan die inligtingsekuriteitsvereistes soos OWASP (Open Web Application Security Project) riglyne.

Verduidelikbare AI

Verduidelikbare AI verwys na die interpretasie en begrip van die besluite wat deur die KI-stelsel geneem word en die faktore wat dit beïnvloed. Ouditeure kyk of modelle voldoende verduidelikbaar is deur tegnieke soos LIME en SHAP te gebruik.

Model Uitsette

Billikheid is die eerste ding wat ouditeure in modeluitsette verseker. Die modeluitsette moet konsekwent bly wanneer veranderlikes soos geslag, ras of godsdiens verander word. Boonop word die kwaliteit van voorspellings deur die toepaslike puntemetode gebruik te maak, ook geassesseer.

Sosiale terugvoer

KI-ouditering is 'n deurlopende proses. Sodra dit ontplooi is, behoort ouditeure die sosiale impak van die KI-stelsel te sien. Die KI-stelsel en risikostrategie moet dienooreenkomstig gewysig en geoudit word op grond van die terugvoer, gebruik, gevolge en invloed, hetsy positief of negatief.

Maatskappye wat KI-pyplyne en toepassings oudit

Vyf groot maatskappye wat KI oudit, is soos volg:

• Deloitte: Deloitte is die grootste professionele dienste firma in die wêreld en verskaf dienste wat verband hou met ouditering, belasting, en finansiële advies. Deloitte gebruik RPA, KI en analise om organisasies te help met die risikobepaling van hul KI-stelsels.
• PwC: PwC is die tweede grootste professionele diensnetwerk volgens inkomste. Hulle het ouditmetodologieë ontwikkel om organisasies te help om aanspreeklikheid, betroubaarheid en deursigtigheid te verseker.
• EY: In 2022, EY 'n belegging van $1 miljard aangekondig in 'n KI-geaktiveerde tegnologieplatform om ouditdienste van hoë gehalte te verskaf. Firmas wat KI-gedrewe is, is goed ingelig om KI-stelsels te oudit.
• KPMG: KPMG is die vierde grootste maatskappy wat rekeningkundige dienste verskaf. KPMG verskaf pasgemaakte dienste in KI-bestuur, risikobepaling en beheermaatreëls.
• Grant Thronton: Hulle help kliënte om risiko's te bestuur wat verband hou met KI-ontplooiing en voldoening aan KI-etiek en regulasies.

Voordele van ouditering van KI-stelsels

• Risikobestuur: Ouditering voorkom of versag risiko's wat verband hou met KI-stelsels.
• Deursigtigheid: Ouditering verseker dat KI-toepassings vry is van vooroordeel en diskriminasie.
• Voldoening: Oudit van KI-toepassings beteken dat die stelsel wetlike en regulatoriese voldoening volg.

KI Ouditkunde: Wat die toekoms inhou

Organisasies, regulerende owerhede en ouditeure moet in kontak bly met KI-vorderings, die potensiële bedreigings daarvan besef en gereeld die regulasies, raamwerke en strategieë hersien om billike, risikovrye en etiese gebruik te verseker.

In 2021 het 193 lidlande van Unesco 'n globale ooreenkoms oor die etiek van KI aangeneem. KI is 'n voortdurend ontwikkelende ekosisteem.

Wil jy meer KI-verwante inhoud hê? Besoek verenig.ai.