Hvordan virksomheder kan skabe ansvarlige og transparente AI – Tankeledere

Af Eric Paternoster, CEO of Infosys Public Services

Sundar Pichai, CEO of Google -moderfirmaet Alphabet, har beskrevet udviklingen i AI som “dybere end ild eller elektricitet”, og COVID-19 har ført til en ny urgenc i at udnytte denne teknologis løfte. Anvendelser af AI er nu fast etableret i rampelyset, hvor de forbedrer COVID-behandlinger, sporer potentielle COVID-bærere og udruller chatbots i realtid for forsyningstrængte brugere af detailhandelswebsteder. Disse anvendelser har vist, at AI forbedrer en virksomheds robusthed og gavner det bredere samfund.

Således er “cloud-native” sammen med “AI-først-transformation” måske nøgleordet for dette kvartal, en term som branchens praktikere mener vil holde, selv efter COVID er væk. For mange virksomheder er løftet om lavere omkostninger (f.eks. supply chain-algoritmer, der matcher udbud med efterspørgsel) og imponerende produktivitetsgevinster (f.eks. når banker bruger dokument- og identitetsverificering i realtid) for godt til at ignorere.

Hvorfor AI-først-transformation?

I en AI-først-transformation bruger en virksomhed AI som en nordstjerne, der arbejder på at bruge det ikke kun intelligent, men også på en måde, der påvirker beslutninger truffet af mennesker, processer og systemer i stor målestok. Det afstemmer organisationer til skiftende dynamik mellem medarbejdere, partnere og kunder. Dette ermögiller dem at hurtigt ændre retning og møde skiftende krav, samtidig med at de skaber en langsigtede konkurrencemæssig fordel.

Men ikke alle virksomheder er på samme niveau af AI-modenhed. Der er nogle, der kan betegnes som “den konventionelle AI-gruppe” eller H1. Disse virksomheder, der har mindre erfaring og investering, bruger generelt klassiske algoritmer som naive Bayes, der har eksisteret i 250 år, eller random forest (udviklet af Tin Kam Ho i 1995) til at supplere fragmenteret intelligens inden for eksisterende systemer. Sådanne anvendelser af AI er strengt regelbaserede og ret stive, mangler evnen til at generalisere fra de regler, de opdager. Så er der “dyb-læring-gruppen” eller H2. Disse virksomheder omfavner mere kompleks AI, herunder neurale maskinoversættelser og transkriptionsbaserede systemer, til at udvinde konversationsindsigt. Sådanne systemer har mere kraft, men kan ikke let forklare, hvorfor de gør de ting, de gør. De mangler også gennemsigtighed. For disse to grupper er AI ofte ikke troværdig eller pålidelig og kan træffe fordomsfulde beslutninger, der bringer virksomheden negativ opmærksomhed fra regeringsinstanser, tilsynsmyndigheder og det bredere offentlige.

Disse virksomheder skal nu tage skridt for at føre deres AI-implementering et skridt videre – til en tredje lejr (H3), hvor AI er selv-lærende og generativ. Her er AI-systemer semi-overvågede eller endda ikke-overvågede. De er gennemsigtige og opnår “fælles fornuft” gennem multitask-læring. Disse systemer leverer rigere intelligens og giver realtids-, handlebare indsigt. Dette opnås gennem godt styret, styret AI, der er fortolkelig og forklarlig på alle stadier.

Hvordan man arbejder hen imod mere ansvarlig og gennemsigtig AI

AI bruges i stigende grad til at styre skoler, arbejdspladser og andre offentlige institutioner. I disse sammenhænge er det vigtigere end nogensinde, at AI er retfærdig og gennemsigtig. Men da samfundet arbejder igennem denne eksplosion af AI-adopteringsprocesser, giver reguleringsmyndighederne begrænset vejledning om udvikling og implementering af AI-teknologier. Derfor er det op til virksomhederne at tage ledelsen. Den bredere tech-industri skal sætte finansielle muskler og menneskeligt kapital til at arbejde, transformere initial implementering af fragmenteret AI til effektive, kreative, ansvarlige og gennemsigtige intelligens-drevne økosystemer. For at rykke ind i dette rum skal virksomhederne gøre følgende fire ting:

• Hold mennesker i løkken: AI-modeller er ofte designede til at fungere uafhængigt af mennesker. Men det menneskelige element er afgørende i mange tilfælde. Mennesker skal gennemgå beslutninger og undgå fordomme og fejl, der ofte sporer AI-projekter. To brugs eksempler omfatter svigagtighedssporing og tilfælde, hvor loven er involveret. Vi anbefaler, at virksomheder ansætter AI-praktikere langsomt, men konsekvent over tid for at få et forspring på deres AI-først-rejse.
• Fjern fordomsfulde datasæt: Et upartisk datasæt er en kritisk forudsætning for at oprette pålidelige, retfærdige og ikke-diskriminerende AI-modeller. For at få en fornemmelse af dets betydning bruges AI til at kortlægge CV’er og kreditvurdering af banker, og det har endda fundet vej ind i visse retssystemer. I dette landskab har uafprøvede fordomme haft meget reelle konsekvenser.
• Sikr, at beslutninger er forklarlige: Denne funktion er blevet dækket af mange af de store nyhedsmedier, og det er berettiget. XAI hjælper med at forklare, hvorfor et AI-system træffer en bestemt beslutning. Det afslører, hvilke funktioner af det dybe læringssystem, der blev brugt mere end andre til at opstille sin prædiktions- eller hypotese. At forstå funktionssvigtighed og være i stand til at retfærdiggøre, hvordan beslutninger opnås, er afgørende for brugs eksempler som autonome køretøjer og computerseende brugt i medicinske biopsier.
• Reproducer troværdigt fund: En almindelig nødvendighed i forskningsprojekter skal AI-modeller være konsistente, når de giver prædiktioner over tid. Sådanne modeller skal ikke være fasede, når de præsenteres med nye data.

Disse fire ting vil skabe gennemsigtige, intelligens-drevne økosystemer, der rykker hen imod, hvad vi kalder en “levende virksomhed”. Her træffes upartiske, forklarlige beslutninger i næsten-realtid, hvor hele virksomheden fungerer som en sanselig organisme, der styres af mennesker. Læs Infosys Knowledge Institute-hvidbogen for at få mere at vide.