Hva er ansvarlig AI? Prinsipper, utfordringer og fordeler

Ansvarlig AI (RAI) refererer til å designe og distribuere AI-systemer som er transparente, objektive, ansvarlige og følger etiske retningslinjer. Etter hvert som AI-systemer blir mer robuste og utbredte, er det viktig å sikre at de utvikles ansvarlig og følger sikkerhets- og etiske retningslinjer.

Helse, transport, nettverksadministrasjon og overvåking er sikkerhetskritiske AI-applikasjoner hvor systemfeil kan få alvorlige konsekvenser. Store firmaer er klar over at RAI er avgjørende for å redusere teknologirisiko. Likevel ifølge en MIT Sloan/BCG-rapport som inkluderte 1093 respondenter, 54% av selskaper manglet ansvarlig AI-ekspertise og talent.

Selv om tankeledere og organisasjoner har utviklet prinsipper for ansvarlig AI, byr det fortsatt på utfordringer å sikre ansvarlig utvikling av AI-systemer. La oss utforske denne ideen i detalj:

5 prinsipper for ansvarlig AI

1. Rettferdighet

Teknologer bør utforme prosedyrer slik at AI-systemer behandler alle individer og grupper rettferdig uten partiskhet. Derfor er rettferdighet det primære kravet i høyrisikobeslutningsapplikasjoner.

Rettferdighet er definert som:

"Undersøke innvirkningen på ulike demografiske grupper og velge en av flere matematiske definisjoner av grupperettferdighet som vil tilfredsstille det ønskede settet av juridiske, kulturelle og etiske krav."

2. ansvarlighet

Ansvarlighet betyr at enkeltpersoner og organisasjoner som utvikler og distribuerer AI-systemer bør være ansvarlige for sine beslutninger og handlinger. Teamet som distribuerer AI-systemer bør sikre at deres AI-system er transparent, tolkbart, kontrollerbart og ikke skader samfunnet.

Ansvar inkluderer syv komponenter:

1. Kontekst (formål som det kreves ansvarlighet)
2. Rekkevidde (ansvarlig gjenstand)
3. Agent (hvem er ansvarlig?)
4. Forum (som den ansvarlige skal rapportere til)
5. Standarder (kriterier for ansvarlighet)
6. Prosess (metode for ansvarlighet)
7. Implikasjoner (konsekvenser av ansvarlighet)

3. åpenhet

Åpenhet betyr at årsaken bak beslutningstaking i AI-systemer er klar og forståelig. Gjennomsiktige AI-systemer kan forklares.

Ifølge Vurderingsliste for pålitelig kunstig intelligens (ALTAI), åpenhet har tre nøkkelelementer:

1. Sporbarhet (dataene, forbehandlingstrinnene og modellen er tilgjengelig)
2. Forklarbarhet (begrunnelsen bak beslutningstaking/prediksjon er klar)
3. Åpen kommunikasjon (angående begrensning av AI-systemet)

4. Personvern

Personvern er et av hovedprinsippene for ansvarlig AI. Det refererer til beskyttelse av personopplysninger. Dette prinsippet sikrer at folks personopplysninger samles inn og behandles med samtykke og holdes utenfor hendene på misfornøyde.

Som vist nylig var det et tilfelle av Clearview, et selskap som lager ansiktsgjenkjenningsmodeller for rettshåndhevelse og universiteter. Storbritannias datavakthunder saksøkte Clearview AI for 7.5 millioner pund for å samle inn bilder av innbyggere i Storbritannia fra sosiale medier uten samtykke for å opprette en database med 20 milliarder bilder.

5. Sikkerhet

Sikkerhet betyr å sikre at AI-systemer er sikre og ikke truer samfunnet. Et eksempel på en AI-sikkerhetstrussel er motstanderskapsangrep. Disse ondsinnede angrepene lurer ML-modeller til å ta feil beslutninger. Å beskytte AI-systemer mot cyberangrep er avgjørende for ansvarlig AI.

4 store utfordringer og risikoer ved ansvarlig AI

1. Partiskhet

Menneskelige skjevheter knyttet til alder, kjønn, nasjonalitet og rase kan påvirke datainnsamlingen, noe som potensielt kan føre til partiske AI-modeller. Studie fra det amerikanske handelsdepartementet fant ut at ansiktsgjenkjenning AI feilidentifiserer fargede personer. Derfor kan bruk av AI for ansiktsgjenkjenning i rettshåndhevelse føre til urettmessige arrestasjoner. Dessuten er det utfordrende å lage rettferdige AI-modeller fordi det finnes 21 forskjellige parametere for å definere dem. Så det er en avveining; å tilfredsstille en rettferdig AI-parameter betyr å ofre en annen.

2. Tolkbarhet

Tolkbarhet er en kritisk utfordring i utviklingen av ansvarlig AI. Det refererer til å forstå hvordan maskinlæringsmodellen har kommet til en bestemt konklusjon.

Dype nevrale nettverk mangler tolkbarhet fordi de fungerer som svarte bokser med flere lag med skjulte nevroner, noe som gjør det vanskelig å forstå beslutningsprosessen. Dette kan være en utfordring i beslutningstaking med høy innsats som helsevesen, finans osv.

Dessuten er det utfordrende å formalisere tolkbarhet i ML-modeller fordi det er det subjektive og domenespesifikke.

3. styresett

Styring refererer til et sett med regler, retningslinjer og prosedyrer som overvåker utviklingen og distribusjonen av AI-systemer. Nylig har det vært betydelig fremgang i AI-styringsdiskursen, med organisasjoner som presenterer rammeverk og etiske retningslinjer.

Etiske retningslinjer for pålitelig AI fra EU, Australian AI Ethics Frameworkog OECD AI-prinsipper er eksempler på AI-styringsrammer.

Men den raske fremgangen innen AI de siste årene kan overgå disse AI-styringsrammene. For dette formål må det være et rammeverk som vurderer rettferdigheten, tolkbarheten og etikken til AI-systemer.

4. Forskrift

Etter hvert som AI-systemer blir mer utbredt, må det være regulering for å vurdere etiske og samfunnsmessige verdier. Å utvikle regulering som ikke kveler AI-innovasjon er en kritisk utfordring i ansvarlig AI.

Selv med General Data Protection Regulation (GDPR), California Consumer Privacy Act (CCPA) og loven om beskyttelse av personopplysninger (PIPL) som reguleringsorganer, fant AI-forskere at 97% av EU-nettsteder overholder ikke GDPRs juridiske rammekrav.

Dessuten står lovgivere overfor en betydelig utfordring i å nå en konsensus om definisjonen av AI som inkluderer både klassiske AI-systemer og de nyeste AI-applikasjonene.

3 store fordeler med ansvarlig kunstig intelligens

1. Redusert skjevhet

Ansvarlig AI reduserer skjevhet i beslutningsprosesser, og bygger tillit til AI-systemer. Å redusere skjevhet i AI-systemer kan gi et rettferdig og rettferdig helsevesen og reduserer skjevhet i AI-basert finansielle tjenester og så videre

2. Forbedret åpenhet

Ansvarlig AI lager transparente AI-applikasjoner som bygger tillit til AI-systemer. Transparente AI-systemer redusere risikoen for feil og misbruk. Forbedret åpenhet gjør revisjon av AI-systemer enklere, vinner interessentenes tillit og kan føre til ansvarlige AI-systemer.

3. Bedre sikkerhet

Sikre AI-applikasjoner sikrer datavern, produserer pålitelige og ufarlige utdata og er sikre mot cyberangrep.

Tekniske giganter som Microsoft og Google, som er i forkant av utviklingen av AI-systemer, har utviklet prinsipper for ansvarlig AI. Ansvarlig AI sikrer at innovasjonen innen AI ikke er skadelig for enkeltpersoner og samfunnet.

Tankeledere, forskere, organisasjoner og juridiske myndigheter bør kontinuerlig revidere ansvarlig AI-litteratur for å sikre en trygg fremtid for AI-innovasjon.

For mer AI-relatert innhold, besøk unite.ai.