Vad är Ansvarsfull AI? Principer, Utmaningar och Fördelar

Ansvarsfull AI (RAI) refererar till att utforma och distribuera AI-system som är transparenta, opartiska, ansvarsfulla och följer etiska riktlinjer. När AI-system blir mer robusta och vanliga är det viktigt att se till att de utvecklas på ett ansvarsfullt sätt och följer säkerhets- och etiska riktlinjer.

Hälsovård, Transport, Nätverksadministration och Övervakning är säkerhetskritiska AI-tillämpningar där systemfel kan ha allvarliga konsekvenser. Stora företag är medvetna om att RAI är nödvändigt för att mildra tekniska risker. Men enligt en rapport från MIT Sloan/BCG som omfattade 1093 respondenter, 54% av företagen saknade Ansvarsfull AI-kompetens och talang.

Även om tankesmedjor och organisationer har utvecklat principer för ansvarsfull AI, presenterar den ansvarsfulla utvecklingen av AI-system fortfarande utmaningar. Låt oss undersöka denna idé i detalj:

5 Principer för Ansvarsfull AI

1. Rättvisa

Teknologer bör utforma procedurer så att AI-system behandlar alla individer och grupper rättvist utan fördomar. Rättvisa är därför det primära kravet i högriskbeslutsapplikationer.

Rättvisa definieras som:

“Att undersöka effekten på olika demografiska grupper och välja en av flera matematiska definitioner av gruppens rättvisa som tillfredsställer den önskade uppsättningen av juridiska, kulturella och etiska krav.”

2. Ansvar

Ansvar innebär att individer och organisationer som utvecklar och distribuerar AI-system bör vara ansvariga för sina beslut och handlingar. Teamet som distribuerar AI-system bör se till att deras AI-system är transparenta, tolkningsbara, granskningsbara och inte skadar samhället.

Ansvar omfattar sju komponenter:

1. Sammanhang (syfte för vilket ansvar krävs)
2. Omfattning (föremål för ansvar)
3. Agent (vem är ansvarig?)
4. Forum (till vem den ansvariga parten måste rapportera)
5. Standarder (kriterier för ansvar)
6. Process (metod för ansvar)
7. Konsekvenser (följder av ansvar)

3. Transparens

Transparens innebär att orsaken till beslutsfattande i AI-system är tydlig och begriplig. Transparenta AI-system är förklarliga.

Enligt Bedömningslista för tillförlitlig artificiell intelligens (ALTAI) har transparens tre nyckelelement:

1. Spårbarhet (data, förbearbetningssteg och modell är tillgängliga)
2. Förklarbarhet (resonemanget bakom beslutsfattande/prediktion är tydligt)
3. Öppen kommunikation (om begränsningarna av AI-systemet)

4. Integritet

Integritet är en av de viktigaste principerna för ansvarsfull AI. Den refererar till skyddet av personlig information. Denna princip säkerställer att personlig information samlas in och bearbetas med samtycke och hålls utanför illvilliga aktörer.

Som nyligen visats var det ett fall med Clearview, ett företag som skapar ansiktsigenkänningsmodeller för polisen och universitet. Storbritanniens datatillsynsmyndigheter stämde Clearview AI för 7,5 miljoner pund för att ha samlat in bilder av brittiska medborgare från sociala medier utan samtycke för att skapa en databas med 20 miljarder bilder.

5. Säkerhet

Säkerhet innebär att AI-system är säkra och inte hotar samhället. Ett exempel på ett AI-säkerhetshot är motstridiga attacker. Dessa skadliga attacker lurar ML-modeller att fatta fel beslut. Att skydda AI-system från cyberattacker är avgörande för ansvarsfull AI.

4 Stora Utmaningar och Risker med Ansvarsfull AI

1. Fördomar

Mänskliga fördomar relaterade till ålder, kön, nationalitet och ras kan påverka datainsamling, vilket potentiellt kan leda till fördomsfulla AI-modeller. En studie från USA:s handelsdepartement fann att ansiktsigenkännings-AI felidentifierar personer med färg. Därför kan användning av AI för ansiktsigenkänning inom polisen leda till felaktiga arresteringar. Dessutom är det utmanande att skapa rättvisa AI-modeller eftersom det finns 21 olika parametrar för att definiera dem. Så det finns en avvägning; att tillfredsställa en rättvis AI-parameter innebär att offra en annan.

2. Tolkningsbarhet

Tolkningsbarhet är en kritisk utmaning i utvecklingen av ansvarsfull AI. Den refererar till att förstå hur maskinlärningsmodellen har nått en viss slutsats.

Djupa neurala nätverk saknar tolkningsbarhet eftersom de fungerar som svarta lådor med flera lager av dolda neuroner, vilket gör det svårt att förstå beslutsprocessen. Detta kan vara en utmaning i högriskbeslutsfattande som hälsovård, finans, etc.

Dessutom är det utmanande att formalisera tolkningsbarhet i ML-modeller eftersom det är subjektivt och domänspecifikt.

3. Styrning

Styrning refererar till en uppsättning regler, policys och förfaranden som övervakar utvecklingen och distributionen av AI-system. Nyligen har det skett betydande framsteg i AI-styrningsdiskursen, med organisationer som presenterar ramverk och etiska riktlinjer.

Etiska riktlinjer för tillförlitlig AI från EU, Australiens AI-etiska ramverk och OECD:s AI-principer är exempel på AI-styrningsramverk.

Men den snabba utvecklingen av AI under de senaste åren kan överträffa dessa AI-styrningsramverk. Därför behövs ett ramverk som utvärderar rättvisan, tolkningsbarheten och etiken i AI-system.

4. Reglering

När AI-system blir mer vanliga behövs reglering för att beakta etiska och samhälleliga värderingar. Att utveckla reglering som inte hämmar AI-innovation är en kritisk utmaning i ansvarsfull AI.

Även med den allmänna dataskyddsförordningen (GDPR), California Consumer Privacy Act (CCPA) och Personuppgiftsskyddslagen (PIPL) som regleringsorgan, fann AI-forskare att 97% av EU:s webbplatser inte uppfyller GDPR:s lagliga ramverkskrav.

Dessutom står lagstiftare inför en betydande utmaning i att nå en överenskommelse om definitionen av AI som omfattar både klassiska AI-system och de senaste AI-tillämpningarna.

3 Stora Fördelar med Ansvarsfull AI

1. Minskad Fördom

Ansvarsfull AI minskar fördomen i beslutsprocesser, vilket bygger förtroende för AI-system. Att minska fördomen i AI-system kan ge ett rättvist och jämlikt hälsovårdssystem och minskar fördomen i AI-baserade finansiella tjänster etc.

2. Förbättrad Transparens

Ansvarsfull AI skapar transparenta AI-tillämpningar som bygger förtroende för AI-system. Transparenta AI-system minskar risken för fel och missbruk. Förbättrad transparens gör det lättare att granska AI-system, vinner intressenters förtroende och kan leda till ansvarsfulla AI-system.

3. Bättre Säkerhet

Säkra AI-tillämpningar säkerställer dataskydd, producerar tillförlitliga och ofarliga utdata och är säkra från cyberattacker.

Teknikjättar som Microsoft (MSFT ) och Google (GOOGL ), som är i framkant av att utveckla AI-system, har utvecklat principer för ansvarsfull AI. Ansvarsfull AI säkerställer att innovationen inom AI inte är skadlig för individer och samhället.

Tankesmedjor, forskare, organisationer och juridiska myndigheter bör kontinuerligt revidera litteraturen om ansvarsfull AI för att säkerställa en säker framtid för AI-innovation.

För mer AI-relaterat innehåll, besök unite.ai.