Tankeledere
Bransjer forbereder raskere bruk av AI med nytt fokus på etikk og ansvar

Viktige punkterAI i BFSI risikerer å forsterke skjevheter, der svarte søkere har 80 % større…
Vis mer
- AI i BFSI risikerer å forsterke skjevheter, der svarte søkere har 80 % større sannsynlighet for å bli nektet boliglån.
- Adopsjon av AI i helsevesenet møter utfordringer som skjeve data og risiko for å forverre ulikheter.
- Medieselskaper må overvåke AI etter implementering for å balansere etikk, personvern og konkurransefortrinn.
Av: Pandurang Kamat, CTO i Persistent Systems (PERSISTENT.BO )
Kunstig intelligens (AI) i sin kjerne er maskinlæring (ML), prosessen hvor maskiner lærer å forbedre ytelsen basert på datainnganger. Den enorme mengden eksisterende data i dag betyr at AI har hatt gode muligheter for å blomstre, akselererende i et brått tempo bare i de siste årene. Og AI-løftet har fått teknologer og ledere i mange bransjer til å tenke kreativt om dets ulike anvendelser.
Fra den industrielle revolusjonen og utover, er hver periode med rask teknologisk fremgang preget av like deler entusiasme og frykt. World Wide Web Consortium (W3C), en gruppe som lager standarder for webutviklere, påpeker at “det er økende bevissthet på at anvendelsen av maskinlæring innebærer risiko og kan føre til skader” – inkludert områder som: bias, personvern, sikkerhet, bærekraft og generell ansvarlighet.
“Det er tydelig etterspørsel etter en etisk tilnærming til ML, sett gjennom aktivisme fra sivilsamfunnet, fremveksten av ~100 sett med etiske AI-prinsipper globalt, og regjeringens bevegelser over hele verden for å regulere AI,” skrev gruppen. “Hvis teknologier ikke er i samsvar med verdiene til de samfunnene de opererer i, risikerer de å undergrave dem.”
Velg klokt
På overflaten er det vanskelig å argumentere for at økt hastighet og produksjon er dårlig for bedrifter. Men for visse bransjer, er det mye på spill med beslutningsprosessen som noen mener ikke bør overlates til en algoritme. Ved å se på noen av de største bransjene, kan vi se hvor sårbare vi er for maskinfeil, og hvorfor ansvarlig AI er så viktig.
Bank, finansielle tjenester og forsikring (BFSI)
Verdens økonomiske forum (WEF) og Deloitte undersøkte prosessen med å deployere AI i BFSI-selskaper, og fant at “mens AI kan hjelpe med å skape nyttige forretningsinnsikter fra en overveldende mengde informasjon,” “fremmedheten til AI” vil være en kilde til pågående alvorlig risiko.
“AI resonnerer på andre måter enn mennesker,” står det i rapporten. “AI-systemer følger ikke menneskelige konsepter for logikk, og oppfører seg svært annerledes enn menneskelige aktører gitt samme oppgave. Videre, tillater selv-læringsegenskapene til AI-systemer dem å utvikle seg uten menneskelig innputt, noe som kan føre til uventede resultater basert på ukjente variabler.”
Forkjempere for ansvarlig AI hevder at maskinlæring presenterer alvorlige problemer i ting som automatisk risikovurdering, kredit og lånebeslutninger, alle som historisk sett er fordomsfulle mot visse befolkningsgrupper. Nylige studier har vist at långivere som bruker AI-baserte beslutningsmotorer var mer sannsynlig til å avvise boliglån til ikke-hvite personer – i noen tilfeller, svarte søkere har 80 % høyere sannsynlighet for å bli avvist.
Helsevesen
For noen år siden, tok Journal of the American Medical Association (JAMA) en titt på anvendelsen av AI i helsevesenet, og fant at utfordringene er mange, inkludert “urealistiske forventninger, fordomsfulle og ikke-representative data, utilstrekkelig prioritering av likestilling og inklusjon, risikoen for å forverre helseforskjeller, lavt tillitsnivå og usikre reguleringer.”
Ikke helt en ringende anbefaling, men det er en høyere standard for ansvarlig AI i helsevesenet, spesielt gitt dets bokstavelige liv-eller-død-potensiale. Som helhet er helsepersonale optimistiske, men vaktsomme om fremtiden for AI, og velger å fokusere sine anstrengelser på å utdanne andre praktikere om dets bruk i den kliniske settingen og skape retningslinjer for hvordan å gå frem ansvarlig på en måte som gagner alle pasienter.
Media
PwC anslår at AI vil gi 15,7 billioner dollar i global økonomisk vekst innen 2030, men ifølge Salesforce (CRM ) stoler færre enn halvparten (48%) av kundene på at selskapene bruker AI på en etisk måte, og 65% er bekymret for uetisk bruk av AI. I skjæringspunktet mellom profitt og tillit, finner vi medieselskapene – tidlige adopterer med enorm rekkevidde og innflytelse. Og det er bekymringer over det faktum at AI ikke er en “sett det og glem det”-applikasjon, noe som betyr at for medieselskapene er deres ansvar ikke bare i produksjonen av innhold, men også dets pågående overvåking etter deployering.
Hvordan blir annonser vist og tilpasset? Hvordan når innholdet en bestemt målgruppe, og hva er beskjeden? Hvem lærer AI “hvordan” å lære? Og hvordan kan du målrette bestemte forbrukere samtidig som du respekterer personvern? Dette er bare noen av spørsmålene som plager medieselskapene mens de balanserer etikk med å få en konkurransefordel.
Responsen til ansvar
Fremgang i utviklingen av ansvarlig AI er synlig hver dag – lovgivere utarbeider reguleringer, forbrukerne krever mer åpenhet, og mange selskaper har opprettet egne avdelinger som skal sikre at deres AI brukes på en passende måte. Selskapene trenger en veldefinert ramme for ansvarlig AI som dekker etikk, åpenhet, ansvarlighet, rettferdighet, personvern og sikkerhet. Mens debatter og reformer fortsetter, gir en nylig fellesstudie fra MIT Sloan Management Review og Boston Consulting Group noen enkle generelle retningslinjer – de skrev, “Hvis du vil være en ansvarlig AI-leder, fokuser på å være et ansvarlig selskap.”












