Terwijl Bedrijven zich Voorbereiden op een Versnelde Adoptie van AI, een Nieuwe Focus op Ethiek en Verantwoordelijkheid

Door: Pandurang Kamat, CTO van Persistent Systems

Kunstmatige intelligentie (AI) is in zijn kern machine learning (ML), het proces waarbij machines leren hun prestaties te verbeteren op basis van gegevensinvoer. De enorme hoeveelheid bestaande gegevens vandaag betekent dat AI een vruchtbare bodem heeft gehad om te floreren, versnellend in een razend tempo in slechts de afgelopen paar jaar. En de belofte van AI heeft technologists en executives in verreikende industrieën doen nadenken over de verschillende toepassingen ervan.

Van de industriële revolutie tot nu toe, elke periode van snelle technologische vooruitgang wordt gekenmerkt door evenveel enthousiasme als bezorgdheid. De World Wide Web Consortium (W3C), een groep die webontwikkelaar-industrienormen creëert, wijst erop dat “er een groeiend besef is dat de toepassing van machine learning risico’s met zich meebrengt en kan leiden tot schade” – inclusief in gebieden zoals: vooroordelen, privacy, beveiliging, duurzaamheid en algehele verantwoordelijkheid.

“Er is een duidelijke vraag naar een ethische benadering van ML, zoals blijkt uit activisme van de burgermaatschappij, de opkomst van ~100 sets van ethische AI-principes wereldwijd, en regeringsmaatregelen om AI te reguleren”, schreef de groep. “Als technologieën niet in overeenstemming zijn met de waarden van de samenlevingen waarin ze opereren, riskeren ze deze te ondermijnen.”

Kies Wijs

Op het eerste gezicht is het moeilijk om te betogen dat een verhoogde snelheid en productiviteit slecht zijn voor het bedrijf. Maar voor bepaalde industrieën staat er veel op het spel met het besluitvormingsproces dat sommigen menen niet aan een algoritme overgelaten mag worden. Als we naar enkele van de grootste industrieën kijken, kunnen we zien hoe kwetsbaar we zijn voor machinefouten en waarom verantwoorde AI zo belangrijk is.

Banken, Financiële Diensten en Verzekeringen (BFSI)

Het World Economic Forum (WEF) en Deloitte onderzochten het proces van het inzetten van AI in BFSI-bedrijven en vonden dat, “hoewel AI kan helpen bij het creëren van nuttige bedrijfsinzichten uit een overweldigende hoeveelheid informatie”, de “vreemdheid van AI” een bron van voortdurend ernstig risico zal zijn.

“AI redeneert op onmenselijke wijze”, staat er in het rapport. “AI-systemen volgen geen menselijke constructies van logica en gedragen zich heel anders dan menselijke actoren die dezelfde taak hebben. Bovendien kan de zelflerende aard van AI-systemen ertoe leiden dat ze evolueren zonder menselijke invoer, wat kan leiden tot onverwachte resultaten op basis van onbekende variabelen.”
Voorstanders van verantwoorde AI beweren dat machine learning ernstige problemen oplevert bij dingen zoals automatische risicobeoordeling, krediet- en leningsbeslissingen, die historisch gezien vooroordelen vertonen tegen bepaalde demografische groepen. Recent onderzoek heeft aangetoond dat kredietverstrekkers die AI-gebaseerde beslissingsmotoren gebruikten, vaker hypotheken weigerden aan mensen van kleur – in sommige gevallen 80% van de zwarte aanvragers vaker afgewezen werden.

Gezondheidszorg

Enkele jaren geleden onderzocht de Journal of the American Medical Association (JAMA) de adoptie van AI in de gezondheidszorg en vond dat de uitdagingen talrijk zijn, waaronder “onrealistische verwachtingen, vooringenomen en niet-representatieve gegevens, onvoldoende prioriteit voor gelijkheid en inclusie, het risico van het verergeren van gezondheidsverschillen, lage niveaus van vertrouwen en onzekere regelgevingsomgevingen”.

Niet bepaald een overtuigende aanbeveling, maar er is een hogere lat voor verantwoorde AI in de gezondheidszorg, vooral gezien het letterlijke leven-of-dood-potentieel. Over het algemeen zijn gezondheidsprofessionals optimistisch maar voorzichtig over de toekomst van AI en kiezen ervoor om hun inspanningen te richten op het onderwijzen van andere praktijkbeoefenaars over het gebruik ervan in de klinische setting en het creëren van richtlijnen over hoe verantwoord verder te gaan op een manier die alle patiënten ten goede komt.

Media

PwC schat dat AI 15,7 biljoen dollar aan wereldwijde economische groei zal opleveren tegen 2030, maar volgens Salesforce vertrouwen minder dan de helft (48%) van de klanten erop dat bedrijven AI op een ethische manier gebruiken, en 65% maakt zich zorgen over het oneigenlijke gebruik van AI. Op het snijvlak van winst en vertrouwen bevinden zich mediabedrijven – vroege aanvaarders met een enorme bereik en invloed. En er zijn bezorgdheden over het feit dat AI geen “set it and forget it”-toepassing is, wat betekent dat mediabedrijven niet alleen verantwoordelijk zijn voor de productie van inhoud, maar ook voor de voortdurende monitoring ervan na implementatie.

Hoe worden advertenties geserveerd en gepersonaliseerd? Hoe bereikt de inhoud een bepaald publiek en wat is de boodschap? Wie leert de AI “hoe” te leren? En hoe kun je specifieke consumenten targeten terwijl je ook privacy respecteert? Dit zijn slechts enkele van de vragen die mediabedrijven kwelen terwijl ze ethiek afwegen tegen het behalen van een concurrentievoordeel.

De Reactie op Verantwoordelijkheid

De vooruitgang in de ontwikkeling van verantwoorde AI is elke dag zichtbaar – wetgevers stellen regels op, consumenten eisen meer transparantie en veel bedrijven hebben speciale afdelingen opgericht om ervoor te zorgen dat hun AI op een verantwoorde manier wordt gebruikt. Bedrijven hebben een goed gedefinieerd kader voor verantwoorde AI nodig dat ethiek, transparantie, verantwoordelijkheid, eerlijkheid, privacy en beveiliging omvat. Terwijl debatten en hervormingen voortduren, biedt een recente gezamenlijke studie van MIT Sloan Management Review en Boston Consulting Group enkele eenvoudige algemene richtlijnen – ze schreven: “Als je een verantwoorde AI-leider wilt zijn, richt je op het zijn van een verantwoord bedrijf.” rs ethiek, transparantie, verantwoordelijkheid, eerlijkheid, privacy en beveiliging. Terwijl debatten en hervormingen voortduren, biedt een recente gezamenlijke studie van MIT Sloan Management Review en Boston Consulting Group enkele eenvoudige algemene richtlijnen – ze schreven, “If you want to be a responsible AI leader, focus on being a responsible company.”