Vad är Ansvarsfull AI? Principer, utmaningar och fördelar

Ansvarig AI (RAI) syftar på att designa och distribuera AI-system som är transparenta, opartiska, ansvarsfulla och följer etiska riktlinjer. När AI-system blir mer robusta och utbredda är det viktigt att säkerställa att de utvecklas på ett ansvarsfullt sätt och att de följer säkerhets- och etiska riktlinjer.

Hälsa, transport, nätverkshantering och övervakning är säkerhetskritiska AI-tillämpningar där systemfel kan få allvarliga konsekvenser. Stora företag är medvetna om att RAI är avgörande för att mildra tekniska risker. Men enligt en MIT Sloan/BCG-rapport som inkluderade 1093 svarande, 54% av företag saknade Ansvarsfull AI-expertis och talang.

Även om tankeledare och organisationer har utvecklat principer för ansvarsfull AI, innebär det fortfarande utmaningar att säkerställa en ansvarsfull utveckling av AI-system. Låt oss utforska denna idé i detalj:

5 principer för ansvarsfull AI

1. Rättvisa

Teknologer bör utforma procedurer så att AI-system behandlar alla individer och grupper rättvist utan fördomar. Därför är rättvisa det primära kravet i högriskbeslutsapplikationer.

Rättvisa är definierad som:

"Undersöka effekten på olika demografiska grupper och välja en av flera matematiska definitioner av grupprättvisa som på ett adekvat sätt kommer att tillfredsställa den önskade uppsättningen av juridiska, kulturella och etiska krav."

2. Ansvarighet

Ansvarsskyldighet innebär att individer och organisationer som utvecklar och distribuerar AI-system bör vara ansvariga för sina beslut och handlingar. Teamet som distribuerar AI-system bör se till att deras AI-system är transparent, tolkbart, granskningsbart och inte skadar samhället.

Ansvar inkluderar sju komponenter:

1. Sammanhang (ändamål för vilket ansvar krävs)
2. Räckvidd (föremål för ansvarighet)
3. Agent (vem är ansvarig?)
4. Forum (till vilken ansvarig ska rapportera)
5. Standarder (kriterier för ansvarighet)
6. Process (metod för ansvarighet)
7. Implikationer (konsekvenser av ansvarighet)

Transparency

Transparens innebär att orsaken bakom beslutsfattande i AI-system är tydlig och begriplig. Transparenta AI-system kan förklaras.

Enligt Bedömningslista för pålitlig artificiell intelligens (ALTAI), har transparens tre nyckelelement:

1. Spårbarhet (data, förbehandlingssteg och modell är tillgängliga)
2. Förklarbarhet (resonemanget bakom beslutsfattande/förutsägelse är tydligt)
3. Öppen kommunikation (angående begränsningen av AI-systemet)

4. Integritet

Sekretess är en av huvudprinciperna för ansvarsfull AI. Det avser skydd av personuppgifter. Denna princip säkerställer att människors personuppgifter samlas in och behandlas med samtycke och hålls utom händerna på missnöjda.

Som framgått nyligen var det ett fall med Clearview, ett företag som tillverkar ansiktsigenkänningsmodeller för brottsbekämpande myndigheter och universitet. Storbritanniens datavakthundar stämde Clearview AI på 7.5 miljoner pund för att samla in bilder på invånare i Storbritannien från sociala medier utan samtycke för att skapa en databas med 20 miljarder bilder.

5. Säkerhet

Säkerhet innebär att se till att AI-system är säkra och inte hotar samhället. Ett exempel på ett AI-säkerhetshot är motstridiga attacker. Dessa skadliga attacker lurar ML-modeller att fatta felaktiga beslut. Att skydda AI-system från cyberattacker är absolut nödvändigt för ansvarsfull AI.

4 stora utmaningar och risker med ansvarsfull AI

1. Bias

Mänskliga fördomar relaterade till ålder, kön, nationalitet och ras kan påverka datainsamlingen, vilket kan leda till partiska AI-modeller. Studie av amerikanska handelsdepartementet fann att ansiktsigenkänning AI felidentifierar färgade personer. Därför kan användning av AI för ansiktsigenkänning inom brottsbekämpning leda till felaktiga arresteringar. Att göra rättvisa AI-modeller är också utmanande eftersom det finns 21 olika parametrar för att definiera dem. Så det finns en avvägning; att uppfylla en rättvis AI-parameter innebär att offra en annan.

2. Tolkbarhet

Tolkbarhet är en kritisk utmaning för att utveckla ansvarsfull AI. Det syftar på att förstå hur maskininlärningsmodellen har nått en viss slutsats.

Djupa neurala nätverk saknar tolkningsmöjligheter eftersom de fungerar som svarta lådor med flera lager av dolda neuroner, vilket gör det svårt att förstå beslutsprocessen. Detta kan vara en utmaning i beslutsfattande med hög insats som sjukvård, ekonomi, etc.

Dessutom är det utmanande att formalisera tolkningsbarheten i ML-modeller eftersom det är det subjektiv och domänspecifika.

3. styrning

Styrning hänvisar till en uppsättning regler, policyer och procedurer som övervakar utvecklingen och driftsättningen av AI-system. Nyligen har det skett betydande framsteg inom AI-styrningsdiskursen, där organisationer presenterar ramverk och etiska riktlinjer.

Etiska riktlinjer för pålitlig AI från EU, Australian AI Ethics Frameworkoch OECD AI-principer är exempel på ramverk för AI-styrning.

Men de snabba framstegen inom AI de senaste åren kan överträffa dessa AI-styrningsramar. För detta ändamål måste det finnas ett ramverk som bedömer AI-systemens rättvisa, tolkningsbarhet och etik.

4. Förordning

I takt med att AI-system blir allt vanligare måste det finnas reglering för att beakta etiska och samhälleliga värderingar. Att utveckla reglering som inte kväver AI-innovation är en kritisk utmaning inom ansvarsfull AI.

Även med General Data Protection Regulation (GDPR), California Consumer Privacy Act (CCPA) och lagen om personlig informationsskydd (PIPL) som tillsynsorgan, fann AI-forskare att 97% av EU:s webbplatser uppfyller inte GDPR:s juridiska ramkrav.

Dessutom står lagstiftarna inför en betydande utmaning för att nå en konsensus om definitionen av AI som inkluderar både klassiska AI-system och de senaste AI-applikationerna.

3 stora fördelar med ansvarsfull AI

1. Minskad bias

Ansvarsfull AI minskar partiskhet i beslutsprocesser och bygger förtroende för AI-system. Att minska partiskhet i AI-system kan ge ett rättvist och rättvist sjukvårdssystem och minskar partiskhet i AI-baserade finansiella tjänster och så vidare

2. Förbättrad transparens

Ansvarsfull AI gör transparenta AI-applikationer som bygger förtroende för AI-system. Transparenta AI-system minska risken för fel och missbruk. Förbättrad transparens gör revision av AI-system enklare, vinner intressenternas förtroende och kan leda till ansvarsfulla AI-system.

3. Bättre säkerhet

Säkra AI-applikationer säkerställer datasekretess, producerar pålitlig och ofarlig produktion och är säkra från cyberattacker.

Tekniska jättar gillar Microsoft och Google, som ligger i framkant när det gäller att utveckla AI-system, har utvecklat principer för ansvarsfull AI. Ansvarsfull AI säkerställer att innovationen inom AI inte är skadlig för individer och samhälle.

Tankeledare, forskare, organisationer och juridiska myndigheter bör kontinuerligt revidera ansvarig AI-litteratur för att säkerställa en säker framtid för AI-innovation.

För mer AI-relaterat innehåll, besök förena.ai.