Hvad er Ansvarlig AI? Principper, Udfordringer & Fordele

Ansvarlig AI (RAI) refererer til design og implementering af AI-systemer, der er transparente, upartiske, ansvarlige og følger etiske retningslinjer. Da AI-systemer bliver mere avancerede og udbredte, er det essentiel at sikre, at de udvikles ansvarligt og følger sikkerheds- og etiske retningslinjer.

Sundhedsvesen, Transport, Netværksstyring og Overvågning er sikkerhedskritiske AI-anvendelser, hvor systemfejl kan have alvorlige konsekvenser. Store virksomheder er bevidste om, at RAI er essentiel for at mindske teknologirisici. Dog viser en rapport fra MIT Sloan/BCG, der inkluderer 1093 respondenter, at 54% af virksomhederne manglede ekspertise og talent inden for Ansvarlig AI.

Selvom tankeledere og organisationer har udviklet principper for ansvarlig AI, stiller udviklingen af ansvarlige AI-systemer stadig udfordringer. Lad os udforske denne idé i detaljer:

5 Principper for Ansvarlig AI

1. Fairness

Teknologer skal designe procedurer, så AI-systemer behandler alle individer og grupper fair og upartisk. Fairness er derfor det primære krav i beslutningsprocesser med høj risiko.

Fairness defineres som:

“At undersøge virkningen på forskellige demografiske grupper og vælge en af flere matematiske definitioner af gruppefairness, der tilfredsstiller det ønskede sæt af juridiske, kulturelle og etiske krav.”

2. Ansvarlighed

Ansvarlighed betyder, at individer og organisationer, der udvikler og implementerer AI-systemer, skal være ansvarlige for deres beslutninger og handlinger. Teamet, der implementerer AI-systemer, skal sikre, at deres AI-system er transparent, fortolkelig, revisionssikker og ikke skader samfundet.

Ansvarlighed inkluderer syv komponenter:

1. Kontekst (formål med, at ansvarlighed er nødvendig)
2. Omfang (emne for ansvarlighed)
3. Agent (hvem er ansvarlig?)
4. Forum (hvem den ansvarlige part skal rapportere til)
5. Standarder (kriterier for ansvarlighed)
6. Proces (metode for ansvarlighed)
7. Konsekvenser (konsekvenser af ansvarlighed)

3. Transparens

Transparens betyder, at årsagen til beslutningstagning i AI-systemer er klar og forståelig. Transparente AI-systemer er forklarlige.

Ifølge Vurderingsliste for Tilladelig Kunstig Intelligens (ALTAI) har transparens tre nøgleelementer:

1. Sporbarhed (data, forarbejdningstrin og model er tilgængelige)
2. Forklarlighed (årsagen til beslutningstagning/forudsigelse er klar)
3. Åben kommunikation (om begrænsningerne af AI-systemet)

4. Privatliv

Privatliv er en af de vigtigste principper for ansvarlig AI. Det refererer til beskyttelsen af personlige oplysninger. Denne princip sikrer, at personlige oplysninger indsamles og behandles med samtykke og holdes uden for muldvarpernes rækkevidde.

Som det blev bevist for nylig, var der en sag om Clearview, en virksomhed, der laver ansigtsgenkendelsesmodeller til politi og universiteter. Storbritanniens dataovervågningsmyndigheder søgte Clearview AI for 7,5 millioner pund for at indsamle billeder af britiske borgere fra sociale medier uden samtykke for at oprette en database med 20 milliarder billeder.

5. Sikkerhed

Sikkerhed betyder, at AI-systemer er sikre og ikke truer samfundet. Et eksempel på en AI-sikkerhedsTrusel er modstridende angreb. Disse ondsindede angreb bedrager ML-modeller til at træffe forkerte beslutninger. Beskyttelse af AI-systemer mod cyberangreb er afgørende for ansvarlig AI.

4 Store Udfordringer & Risici ved Ansvarlig AI

1. Forudindtagethed

Menneskelig forudindtagethed i forhold til alder, køn, nationalitet og race kan påvirke dataindsamling og potentielt føre til forudindtagende AI-modeller. En undersøgelse fra det amerikanske handelsministerium fandt, at ansigtsgenkendelses-AI misidentificerer personer af farve. Derfor kan brug af AI til ansigtsgenkendelse i politiarbejde føre til uretmæssige anholdelser. Desuden er det udfordrende at oprette fair AI-modeller, da der er 21 forskellige parametre, der skal defineres. Derfor er der en trade-off; at tilfredsstille ét fair AI-parameter betyder at ofre et andet.

2. Fortolkning

Fortolkning er en kritisk udfordring i udviklingen af ansvarlig AI. Det refererer til at forstå, hvordan maskinlæringsmodellen er nået til en bestemt konklusion.

Deep neurale netværk mangler fortolkning, da de fungerer som sorte kasser med multiple lag af skjulte neuroner, hvilket gør det svært at forstå beslutningsprocessen. Dette kan være en udfordring i højrisikodecisioner som sundhedsvesen, finans osv.

Desuden er det udfordrende at formalisere fortolkning i ML-modeller, da det er subjektivt og domænespecifikt.

3. Styring

Styring refererer til en samling regler, politikker og procedurer, der overvåger udviklingen og implementeringen af AI-systemer. Der har været betydelig fremgang i AI-styringsdiskursen, med organisationer, der præsenterer rammer og etiske retningslinjer.

Etiske retningslinjer for tilladelig AI fra EU, Australiens AI-etiske ramme og OECDs AI-principper er eksempler på AI-styringsrammer.

Men den hurtige udvikling i AI i de seneste år kan overgå disse AI-styringsrammer. Derfor er der behov for en ramme, der vurderer fairheden, fortolkningen og etikken af AI-systemer.

4. Regulation

Da AI-systemer bliver mere udbredte, er der behov for regulering, der tager hensyn til etiske og samfundsmæssige værdier. At udvikle regulering, der ikke kvæler AI-innovation, er en kritisk udfordring i ansvarlig AI.

Selv med Den Generelle Databeskyttelsesforordning (GDPR), Californiens Forbrugerbeskyttelseslov (CCPA) og Lov om Beskyttelse af Personlige Oplysninger (PIPL) som reguleringer, fandt AI-forskere, at 97% af EU-websider ikke overholder GDPR’s lovmæssige krav.

Desuden står lovgivere over for en betydelig udfordring i at nå til enighed om definitionen af AI, der inkluderer både klassiske AI-systemer og de seneste AI-anvendelser.

3 Store Fordele ved Ansvarlig AI

1. Reduceret Forudindtagethed

Ansvarlig AI reducerer forudindtagethed i beslutningsprocesser, hvilket opbygger tillid til AI-systemer. At reducere forudindtagethed i AI-systemer kan give en retfærdig og ligelig sundhedsvesen og reducerer forudindtagethed i AI-baserede finansiel service osv.

2. Forbedret Transparens

Ansvarlig AI gør transparente AI-anvendelser, der opbygger tillid til AI-systemer. Transparente AI-systemer reducerer risikoen for fejl og misbrug. Forbedret transparens gør det lettere at gennemgå AI-systemer, vinder interessenters tillid og kan føre til ansvarlige AI-systemer.

3. Bedre Sikkerhed

Sikre AI-anvendelser sikrer datasikkerhed, producerer troværdige og harmløse output og er sikre mod cyberangreb.

Teknologigiganter som Microsoft (MSFT ) og Google (GOOGL ), der er i front for at udvikle AI-systemer, har udviklet principper for Ansvarlig AI. Ansvarlig AI sikrer, at innovationen i AI ikke er skadelig for individer og samfund.

Tankeledere, forskere, organisationer og lovgivere skal kontinuerligt revidere litteraturen om ansvarlig AI for at sikre en sikker fremtid for AI-innovation.

Til mere AI-relateret indhold, besøg unite.ai.