5 Grundläggande Pelare för Att Säkerställa Ansvarsfull AI

Vi ser en överväldigande tillväxt av AI/ML-system för att bearbeta hav av data som genereras i den nya digitala ekonomin. Men med denna tillväxt finns ett behov av att allvarligt överväga de etiska och juridiska implikationerna av AI.

När vi anförtror alltmer sofistikerade och viktiga uppgifter till AI-system, som till exempel automatisk kreditgodkännande, måste vi vara absolut säkra på att dessa system är ansvarsfulla och pålitliga. Att minska bias i AI har blivit ett enormt fokusområde för många forskare och har stora etiska implikationer, liksom den mängd autonomi som vi ger dessa system.

Begreppet Ansvarsfull AI är ett viktigt ramverk som kan hjälpa till att bygga förtroende för dina AI-distributioner. Det finns fem kärngrundläggande pelare för Ansvarsfull AI. Den här artikeln kommer att utforska dessa för att hjälpa dig bygga bättre system.

1. Reproducerbarhet

Det finns ett gammalt uttryck i software-utvecklingsvärlden som lyder: “hey, it works on my machine” I ML och AI kan uttrycket justeras till: “hey, it works on my dataset.” Detta betyder att maskinlärningsmodeller ofta kan tendera att vara en svart låda. Många träningsdataset kan ha inneboende bias, såsom urvalsbias eller bekräftelsebias, som minskar noggrannheten i den färdiga produkten.

För att hjälpa till att göra AI/ML-system mer reproducerbara, och därmed precisa och pålitliga, är det första steget att standardisera MLOps-pipelinen. Även de smartaste datavetenskaparna har sina favoritteknologier och bibliotek, vilket betyder att funktionell utveckling och resulterande modeller inte är enhetliga från person till person. Genom att använda verktyg som MLflow kan du standardisera MLOps-pipelinen och minska dessa skillnader.

Ett annat sätt att hjälpa till att göra AI/ML-system mer reproducerbara är genom användning av så kallade “gold datasets”. Dessa är representativa dataset som i princip fungerar som tester och validering av nya modeller innan de släpps för produktion.

2. Transparens

Som nämnts tidigare är många ML-modeller, särskilt neuronnät, svarta lådor. För att göra dem mer ansvarsfulla behöver vi göra dem mer tolkningsbara. För enkla system som beslutsTräd är det ganska lätt att förstå hur och varför systemet fattade ett visst beslut, men när noggrannheten och komplexiteten i ett AI-system ökar, minskar ofta dess tolkningsbarhet.

Det finns ett nytt forskningsområde som kallas “förklarbarhet” som försöker bringa transparens även till komplexa AI-system som neuronnät och djupinlärning. Dessa använder proxy-modeller för att kopiera prestationen av ett neuronnät, men de försöker också ge giltiga förklaringar till vilka funktioner som är viktiga.

Allt detta leder till rättvisa; du vill veta varför ett visst beslut fattades och säkerställa att detta beslut är rättvist. Du vill också säkerställa att olämpliga funktioner inte beaktas så att bias inte smyger in i din modell.

3. Ansvar

Kanske den viktigaste aspekten av Ansvarsfull AI är ansvar. Det finns mycket diskussion om detta ämne, även inom regeringssektorn, eftersom det handlar om vilka policys som kommer att driva AI-utfall. Denna policydrivna approach bestämmer vid vilken stadium människor ska vara i loopen.

Ansvar kräver robusta övervaknings- och mätningsverktyg för att hjälpa policybeslutsfattare och kontrollera AI/ML-system. Ansvar binder samman reproducerbarhet och transparens, men det behöver effektiv tillsyn i form av AI-etiska kommittéer. Dessa kommittéer kan hantera policybeslut, bestämma vad som är viktigt att mäta och genomföra rättviserevisioner.

4. Säkerhet

AI-säkerhet fokuserar på konfidentialitet och integritet för data. När system bearbetar data vill du att de ska vara i en säker miljö. Du vill att data ska vara krypterade både i vila i din databas och när de hämtas över pipelinen, men sårbarheter finns fortfarande när de matas in i en maskinlärningsmodell som vanlig text. Teknologier som homomorf kryptering löser detta problem genom att tillåta maskinlärningsträning i en krypterad miljö.

En annan aspekt är säkerheten för modellen själv. Till exempel tillåter modellinversionsattacker hackare att lära sig träningsdata som användes för att bygga modellen. Det finns också modellförgiftsattacker som inför skadlig data i modellen medan den tränas och totalt förstör dess prestanda. Att testa din modell för adversativa attacker som dessa kan hålla den säker och säker.

5. Integritet

Google och OpenMined är två organisationer som nyligen har prioriterat AI-integritet, och OpenMined har värd en konferens om just detta ämne. Med nya regleringar som GDPR och CCPA, och möjligtvis fler på väg, kommer integritet att spela en central roll i hur vi tränar maskinlärningsmodeller.

Ett sätt att säkerställa att du hanterar dina kunders data på ett integritetsmedvetet sätt är att använda federerad inlärning. Denna decentraliserade metod för maskinlärning tränar olika modeller lokalt och sedan sammanfogar varje modell i en central nav medan data hålls säkra, säkra och privata. En annan metod är att införa statistiskt brus så att enskilda värden för kunder inte läcks. Detta håller dig arbetande med aggregatet så att en enskilds data är intakt och inte tillgänglig för algoritmen.

Att Hålla AI Ansvarsfull

 Till slut är det upp till varje organisation som designar AI/ML-system att hålla AI ansvarsfull. Genom att medvetet följa teknologier inom var och en av dessa fem aspekter av Ansvarsfull AI kan du inte bara dra nytta av kraften i artificiell intelligens, utan också göra det på ett pålitligt och rakt sätt som kommer att säkerställa din organisation, kunder och tillsynsmyndigheter.