Da brancher forbereder sig på accelereret AI-adoption, ny fokus på etik og ansvar

Af: Pandurang Kamat, CTO i Persistent Systems

Kunstig intelligens (AI) er i sin kerne maskinlæring (ML), processen, hvor maskiner lærer at forbedre deres præstationer baseret på dataindtastninger. Den enorme mængde eksisterende data i dag betyder, at AI har haft frugtbar jord at florere på, accelererer med en rasende fart i de seneste par år. Og AI’s løfte har fået teknologer og chefer i langtidsindustrier til at tænke kreativt om dets forskellige anvendelser.

Fra den industrielle revolution og fremefter er enhver periode med hurtig teknologisk fremgang præget af lige dele entusiasme og frygt. World Wide Web Consortium (W3C), en gruppe, der skaber webudviklerindustristandarder, påpeger, at “der er en stigende bevidsthed om, at anvendelsen af maskinlæring medfører risici og kan føre til skader” – herunder i områder som: bias, privatliv, sikkerhed, bæredygtighed og generel ansvarlighed.

“Der er et klart krav om en etisk tilgang til ML, som ses gennem aktivisme fra civilsamfundet, opkomsten af ~100 sæt etiske AI-principper globalt, og regeringsinitiativer over hele verden for at regulere AI,” skrev gruppen. “Hvis teknologierne ikke er i overensstemmelse med de værdier, som samfundene de opererer i, risikerer de at undergrave dem.”

Vælg med omhu

På overfladen er det svært at argumentere for, at forbedret hastighed og output er dårligt for virksomheden. Men for visse brancher står der meget på spil med beslutningsprocessen, som nogle mener ikke bør overlades til en algoritme. Ved at se på nogle af de største brancher kan vi se, hvor sårbare vi er over for maskinfejl, og hvorfor ansvarlig AI er så afgørende.

Bank, finans, forsikring (BFSI)

Verdensøkonomisk Forum (WEF) og Deloitte undersøgte processen med at implementere AI i BFSI-virksomheder og fandt, at “mens AI kan hjælpe med at skabe nyttige forretningsindsigter fra en overvældende mængde information,” “fremmedhed af AI” vil være en kilde til fortsat alvorlig risiko.

“AI tænker på uhumske måder,” lyder rapporten. “AI-systemer følger ikke menneskelige logiske konstruktioner og opfører sig meget forskelligt fra menneskelige aktører, når de får samme opgave. Desuden tillader AI-systemernes selvlærende natur dem at udvikle sig uden menneskelig indput, hvilket kan føre til uventede resultater baseret på ukendte variabler.”

Forsvarere af ansvarlig AI mener, at maskinlæring udgør alvorlige problemer i ting som automatisk risikovurdering, kredit- og lånebeslutninger, som historisk set har været forkortede over for bestemte demografiske grupper. Nylige studier har vist, at långivere, der bruger AI-baserede beslutningsmotorer, var mere tilbøjelige til at afvise boliglån til mennesker af farve – i nogle tilfælde 80% af sorte ansøgere er mere tilbøjelige til at blive afvist.

Sundhedssektor

For nogle år siden undersøgte Journal of the American Medical Association (JAMA) implementeringen af AI i sundhedssektoren og fandt, at udfordringerne er mange, herunder “urealistiske forventninger, fordomsfulde og ikke-repræsentative data, utilstrækkelig prioritering af lighed og inklusion, risikoen for at forværre sundhedsforskelle, lavt niveau af tillid og usikre reguleringer.”

Ikke helt en ringende anbefaling, men der er en højere standard for ansvarlig AI i sundhedssektoren, især på grund af dets litterære liv-eller-død-potentiale. I det hele taget er sundhedsprofessionelle optimistiske, men forsigtige med hensyn til AI’s fremtid, og vælger at fokusere deres indsats på at uddanne andre praktikere om dets brug i den kliniske sammenhæng og skabe retningslinjer for, hvordan man kan gå fremad ansvarligt på en måde, der gavner alle patienter.

Medier

PwC estimerer, at AI vil give 15,7 billioner dollars i global økonomisk vækst i 2030, men ifølge Salesforce stoler færre end halvdelen (48%) af kunderne på, at virksomheder bruger AI på en etisk måde, og 65% er bekymrede over uetisk brug af AI. I skæringspunktet mellem profit og tillid er der medievirksomheder – tidlige adopterer med enorm rækkevidde og indflydelse. Og der er bekymringer over, at AI ikke er en “sæt det og glem det”-ansøgning, hvilket betyder, at medievirksomhedernes ansvar ikke kun ligger i indholdets produktion, men også i dets løbende overvågning efter implementering.

Hvordan tjenes annoncer, og hvordan personificeres indhold? Hvordan når indholdet en bestemt målgruppe, og hvad er beskeden? Hvem lærer AI “hvordan” at lære? Og hvordan kan man målrette bestemte forbrugere, samtidig med at man respekterer privatliv? Disse er blot nogle af de spørgsmål, der plager medievirksomheder, mens de balancerer mellem etik og konkurrence.

Reaktionen på ansvar

Fremgang i udviklingen af ansvarlig AI er tydelig hver dag – lovgivere udarbejder reguleringer, forbrugere kræver mere gennemsigtighed, og mange virksomheder har oprettet specifikke afdelinger til at sikre, at deres AI bruges på en passende måde. Virksomhederne har brug for en veldefineret ramme for ansvarlig AI, der dækker etik, gennemsigtighed, ansvarlighed, lighed, privatliv og sikkerhed. Da debatter og reformer fortsætter, giver en nyere fællesstudie af MIT Sloan Management Review og Boston Consulting Group nogle simple overordnede retningslinjer – de skrev, “Hvis du vil være en ansvarlig AI-leder, fokuser på at være en ansvarlig virksomhed.” rs etik, gennemsigtighed, ansvarlighed, lighed, privatliv og sikkerhed. Da debatter og reformer fortsætter, giver en nyere fællesstudie af MIT Sloan Management Review og Boston Consulting Group nogle simple overordnede retningslinjer – de skrev, “Hvis du vil være en ansvarlig AI-leder, fokuser på at være en ansvarlig virksomhed.”