AI: Av folket, för folket och av folket

Av: Balakrishna (Bali) D R, Senior Vice President, Service Offering Head – ECS, AI och automation på Infosys.

Vi är lyckliga att leva i en tid av teknologi där artificiell intelligens arbetar så hårt för att göra våra liv enklare – våra telefoner känner igen oss och låser upp när de “ser” oss, vi har talfunktioner som hjälper oss hitta den kortaste, minst trafikerade vägen för att komma dit vi vill, smarta enheter som värmer och kyler våra hem innan vi ens säger något, intelligenta appar som förutser och förhindrar bedrägeri och mycket mer.

Men vi har också haft tillfällen då dessa smarta AI-drivna system har svikit oss ur ett rättvist och etiskt perspektiv. Till exempel misstänkte en välkänd bank som samarbetar med oss att de AI-modeller de använder för att utvärdera kreditvärdighet innan de beviljar lån kan vara fördomsfulla, och de bad oss om hjälp. Vid ett annat tillfälle samarbetade en maskintillverkare med oss för att analysera mönster för garantiåtaganden för att eliminera fördomar från datamängden och processen innan de omkonstruerade och automatiserade sin process för godkännande av anspråk. Rekryteringsrelaterade AI-modeller, som vi ofta finner, är korrumperade av fördomar om ålder, kön, ras, till och med postnummer ibland, i deras datamängder – vilket leder till orättvisa resultat om de lämnas okontrollerade.

På grund av den enorma påverkan som AI-fördomar kan ha inom hela företaget har etiska frågor hamnat i centrum för hur AI-system utvecklas, implementeras och används. AI-system är en sammanslagning av många mänskliga beslut, som i sig också bygger på mänskliga fördomar. Skyddet av anställdas autonomi och integritet, riskerna med fördomar som påverkar karriärutveckling och möjligheter, diskriminering baserad på hudfärg, ras eller kön, bristen på förklarbarhet av val som görs av AI-lösningar och därmed ansvar för AI-beslutsfattande, diskuteras livligt när det gäller att diskutera AI och dess förtjänster.

Att skapa ansvarsfull AI

AI-fördomar kan ha en rippeleffekt genom hela organisationen. Det är viktigt att IT-ledare ser till att de distribuerar AI på ett etiskt sätt som fungerar med, och inte mot, anställda. För att göra detta bör organisationer inkludera följande i sina AI-distributioner.

Datastyrning: Etisk användning av AI förutsätter också en välstyrd användning av data, från och med källorna för data på ett etiskt och transparent sätt. För att göra detta bör IT-ledare etablera en väldefinierad styrningsram som säkerställer datasäkerhet, integritet och sekretess, samt förhindrar datakorruption och förlust – allt detta är nödvändigt.

Ansvar: Maskinlärningsmodeller måste vara rättvisa, opartiska, behandla människor lika och också dela fördelar rättvist (samma acceptans- och avvisningsfrekvens) över alla attribut som ras, religion, kön osv. De måste uppnå acceptabel noggrannhet, inte bara på den totala siffran, utan också på minoritetsklasserna. Dessa modeller måste vara förklarbara när det gäller att beskriva hur resultatet uppnås. Till exempel kunna förklara varför modellen avslog en låneansökan från sökande A men godkände samma ansökan från sökande B. IT-ledare som utvecklar AI-lösningar måste göra den underliggande logiken som driver dessa beslut tydlig för affärspartner, så att det finns en större transparens inom företaget.

Adversial robusthet: Hela AI-ekosystemet måste enas om behovet av att AI-modeller testas och hackas genom simuleringar för att studera potentiella negativa resultat. Till exempel kan IT-ledare använda följande tester för att testa sina AI-system och förbereda sig för potentiella hinder.

• Ändra data: ändra direkt datamängden som används för utbildning genom datainjektion, ändring och logisk korruption
• Ändra modeller: testa för förtroendeminskning och felklassificering
• Bihjälpmedel: använd verktyg för att påverka eller korrumpera resultaten

Människa i loop: AI-modeller måste avrisikeras genom att ha människor i loop för alla viktiga beslutsfattande punkter och ha en effektiv reservmekanism eller en alternativ väg om AI-systemet behöver dras tillbaka.

Att utveckla socialt samtycke för AI

Utöver dessa riktlinjer måste vi främja inkluderande diskussioner och överläggningar mellan alla ledare inom företaget, om fördelar, intressen, kostnader och konsekvenser av alla stora AI-distributioner. Endast sådana inkluderande processer som involverar alla intressenter, för att diskutera och besluta om acceptabla resultat, och väga risker och fördelar, är troligen att ge AI-teknologier licensen att operera inom hela företaget.