Mens industrien forbereder seg på akselerert AI-adoptsjon, ny fokus på etikk og ansvar

Av: Pandurang Kamat, CTO i Persistent Systems

Kunstig intelligens (AI) i sin kjernel er maskinlæring (ML), prosessen hvor maskiner lærer å forbedre ytelsen basert på datainnganger. Den enorme mengden eksisterende data i dag betyr at AI har hatt gode muligheter for å blomstre, akselererende i et brått tempo bare i de siste årene. Og AI-løftet har fått teknologer og ledere i mange bransjer til å tenke kreativt om dets ulike anvendelser.

Fra den industrielle revolusjonen og utover, er hver periode med rask teknologisk fremgang preget av like deler entusiasme og frykt. World Wide Web Consortium (W3C), en gruppe som lager standarder for webutviklere, påpeker at “det er økende bevissthet på at anvendelsen av maskinlæring innebærer risiko og kan føre til skader” – inkludert områder som: bias, personvern, sikkerhet, bærekraft og generell ansvarlighet.

“Det er tydelig etterspørsel etter en etisk tilnærming til ML, sett gjennom aktivisme fra sivilsamfunnet, fremveksten av ~100 sett med etiske AI-prinsipper globalt, og regjeringens bevegelser over hele verden for å regulere AI,” skrev gruppen. “Hvis teknologier ikke er i samsvar med verdiene til de samfunnene de opererer i, risikerer de å undergrave dem.”

Vær forsiktig

På overflaten er det vanskelig å argumentere for at økt hastighet og utgang er dårlig for bedrifter. Men for visse bransjer, er det mye på spill med beslutningsprosessen som noen mener ikke bør overlates til en algoritme. Ved å se på noen av de største bransjene, kan vi se hvor sårbare vi er for maskinfeil, og hvorfor ansvarlig AI er så viktig.

Bank, finansielle tjenester og forsikring (BFSI)

Verdens økonomiske forum (WEF) og Deloitte undersøkte prosessen med å deployere AI i BFSI-selskaper, og fant at “mens AI kan hjelpe med å skape nyttige forretningsinnsikter fra en overveldende mengde informasjon,” “fremmedheten til AI” vil være en kilde til pågående alvorlig risiko.

“AI grunner på uhumske måter,” står det i rapporten. “AI-systemer følger ikke menneskelige konsepter for logikk, og oppfører seg svært annerledes enn menneskelige aktører gitt samme oppgave. Videre, tillater selv-læringsegenskapene til AI-systemer dem å utvikle seg uten menneskelig innputt, noe som kan føre til uventede resultater basert på ukjente variabler.”
Forslag for ansvarlig AI hevder at maskinlæring presenterer alvorlige problemer i ting som automatisk risikovurdering, kredit og lånebeslutninger, alle som historisk sett er fordomsfulle mot visse befolkningsgrupper. Nylige studier har vist at långivere som bruker AI-baserte beslutningsmotorer var mer sannsynlig til å avvise hjemlån til personer av farge – i noen tilfeller, 80% av svarte søkere er mer sannsynlig å bli avvist.

Helsevesen

For noen år siden, tok Journal of the American Medical Association (JAMA) en titt på anvendelsen av AI i helsevesenet, og fant at utfordringene er mange, inkludert “urealistiske forventninger, fordomsfulle og ikke-representative data, utilstrekkelig prioritering av likestilling og inklusjon, risikoen for å forverre helseforskjeller, lavt tillitsnivå og usikre reguleringer.”

Ikke helt en ringende anbefaling, men det er en høyere standard for ansvarlig AI i helsevesenet, spesielt gitt dets bokstavelige liv-eller-død-potensiale. Som helhet er helsepersonale optimistiske, men vaktsomme om fremtiden for AI, og velger å fokusere sine anstrengelser på å utdanne andre praktikere om dets bruk i den kliniske settingen og skape retningslinjer for hvordan å gå frem ansvarlig på en måte som fordeler alle pasienter.

Media

PwC anslår at AI vil gi 15,7 billioner dollar i global økonomisk vekst innen 2030, men ifølge Salesforce stoler færre enn halvparten (48%) av kundene på at selskapene bruker AI på en etisk måte, og 65% er bekymret for uetisk bruk av AI. I skjæringspunktet mellom profitt og tillit, finner vi medieselskapene – tidlige adopterer med enorm rekkevidde og innflytelse. Og det er bekymringer over det faktum at AI ikke er en “sett det og glem det”-applikasjon, noe som betyr at for medieselskapene er deres ansvar ikke bare i produksjonen av innhold, men også dets pågående overvåking etter deployering.

Hvordan blir annonser sert og tilpasset? Hvordan når innholdet en bestemt målgruppe, og hva er beskjeden? Hvem lærer AI “hvordan” å lære? Og hvordan kan du målrette bestemte forbrukere samtidig som du respekterer personvern? Dette er bare noen av spørsmålene som plager medieselskapene mens de balanserer etikk med å få en konkurransefordel.

Responsen til ansvar

Fremgang i utviklingen av ansvarlig AI er synlig hver dag – lovgivere utarbeider reguleringer, forbrukerne krever mer åpenhet, og mange selskaper har opprettet egne avdelinger som skal sikre at deres AI brukes på en passende måte. Selskapene trenger en veldefinert ramme for ansvarlig AI som dekker etikk, åpenhet, ansvarlighet, rettferdighet, personvern og sikkerhet. Mens debatter og reformer fortsetter, gir en nylig fellesstudie fra MIT Sloan Management Review og Boston Consulting Group noen enkle generelle retningslinjer – de skrev, “Hvis du vil være en ansvarlig AI-leder, fokuser på å være et ansvarlig selskap.” rs etikk, åpenhet, ansvarlighet, rettferdighet, personvern og sikkerhet. Mens debatter og reformer fortsetter, gir en nylig fellesstudie fra MIT Sloan Management Review og Boston Consulting Group noen enkle generelle retningslinjer – de skrev, “Hvis du vil være en ansvarlig AI-leder, fokuser på å være et ansvarlig selskap.”