AI: Af folket, for folket og til folket

Af: Balakrishna (Bali) D R, Senior Vice President, Service Offering Head – ECS, AI og Automation hos Infosys.

Vi er heldige at leve i en tid, hvor kunstig intelligens arbejder hårdt for at gøre vores liv lettere – vores telefoner genkender os nu og låser op, når de “ser” os, vi har talekort, der hjælper os med at finde den korteste, mindst overfyldte vej til, hvor vi vil hen, smarte enheder, der varmer og køler vores hjem, før vi siger et ord, intelligente apps, der forudser og forhindrer svindel, og meget mere.

Men vi har også oplevet tilfælde, hvor disse smarte AI-drevne systemer har svigtet os i forhold til retfærdighed og etik. For eksempel fik en anerkendt bank, der arbejder med os, mistanke om, at de AI-modeller, de bruger til at evaluere kreditværdighed før udstedelse af lån, måske er fordomsfulde, og de bad os om hjælp. I en anden situation arbejdede en maskinfabrikant med os for at analysere mønsteret for garantikrav for at eliminere fordomme fra datamængden og processen, før de genopbyggede og automatiserede deres godkendelsesproces for krav. Rekrutteringsrelaterede AI-modeller er ofte korrumperet af fordomme om alder, køn, race, ja, selv zip-koder i deres datamængder – og leverer urimelige resultater, hvis de ikke kontrolleres.

På grund af den enorme indvirkning, AI-forudommene kan have på hele virksomheden, er etiske spørgsmål blevet centrale i, hvordan AI-systemer udvikles, implementeres og bruges. AI-systemer er en sammensætning af mange menneskelige beslutninger, der også er baseret på menneskelige fordomme. Beskyttelsen af medarbejdernes selvstændighed og privatliv, risikoen for, at fordomme påvirker karriereudvikling og muligheder, diskrimination baseret på hudfarve, race eller køn, mangel på forklaring af valg foretaget af AI-løsninger og dermed ansvarlighed for AI-beslutninger, er blevet varmt debatteret, når det kommer til at diskutere AI og dets fortjent.

Oprettelse af ansvarlig AI

AI-forudommene kan have en rippleffekt på hele organisationen. Det er derfor vigtigt, at IT-ledere sikrer, at de implementerer AI på en etisk måde, der fungerer med og ikke imod medarbejderne. For at opnå dette skal organisationerne inkludere følgende i deres AI-implementationer.

Datastyring: En etisk brug af AI er også afhængig af en velstyrket brug af data, fra kilden og med åbenhed. For at opnå dette skal IT-ledere etablere en veldefineret styringsramme, der sikrer datasikkerhed, integritet og privatliv samt forhindrer datakorruption og -tab – er alle nødvendige.

Ansvarlighed: Maskinlæringsmodeller skal være retfærdige, upartiske, behandle mennesker lige og dele fordelene ligeligt (samme accept- og afvisningsrate) på tværs af alle attributter som race, religion, køn osv. De skal opnå en acceptabel nøjagtighed ikke kun på det samlede tal, men også på minoritetsklasserne. Disse modeller skal være forklarelige, når det kommer til at beskrive, hvordan resultaterne er opnået. For eksempel skal de være i stand til at forklare, hvorfor modellen afviste en låneansøgning fra ansøger A, men godkendte den samme ansøgning fra ansøger B. IT-ledere, der udvikler AI-løsninger, skal gøre den underliggende logik, der driver disse beslutninger, klar for forretningsstakeholdere, så der er en større gennemsigtighed i virksomheden.

Modstandskraft: Hele AI-økosystemet skal være enige om behovet for, at AI-modellerne testes og hakkes igennem simulationer for at studere potentielle ugunstige resultater. For eksempel kan IT-ledere bruge følgende tests til at kontrollere deres AI-systemer og forberede sig på potentielle hindringer.

• Ændre data: ændre direkte datamængden, der bruges til træning ved datainjektion, ændring og logikkorruption
• Ændre modeller: teste for tillidssvigt og mis klassificering
• Bihjælpeværktøjer: bruge værktøjer til at påvirke eller korrumpere resultaterne

Menneske i løkken: AI-modellerne skal af-risikeres ved at have mennesker i løkken for alle vigtige beslutningspunkter og have en effektiv reserve mekanisme eller en alternativ vej, hvis AI-systemet skal trækkes tilbage.

Udvikling af social samtykke til AI

Ud over disse retningslinjer skal vi fremme inklusive diskussioner og overvejelser mellem alle ledere på tværs af virksomheden om fordelene, interesserne, omkostningerne og konsekvenserne af enhver stor AI-implementation. Kun sådanne inklusive processer, der involverer alle interessenter, for at diskutere og beslutte om accepterede resultater og veje ud for risici og fordelene, er sandsynligvis i stand til at give AI-teknologierne licens til at operere på tværs af hele virksomheden.