In 2022 hadden bedrijven gemiddeld 3,8 AI-modellen in productie. Vandaag de dag experimenteren zeven van de tien bedrijven met generatieve AI, wat betekent dat het aantal AI-modellen in productie de komende jaren zal exploderen. Als gevolg hiervan hebben de discussies in de industrie over verantwoorde AI een grotere urgentie gekregen.

Het goede nieuws is dat meer dan de helft van de organisaties al AI-ethiek voorstaat. Echter, slechts ongeveer 20% heeft uitgebreide programma’s geïmplementeerd met kaders, governance en beveiligingsmaatregelen om de ontwikkeling van AI-modellen te controleren en proactief risico’s te identificeren en te mitigeren. Gezien het snelle tempo van AI-ontwikkeling, zouden leiders nu moeten beginnen met het implementeren van kaders en volwassen processen. Reguleringen over de hele wereld zijn in aantocht en al een op de twee organisaties heeft een verantwoorde AI-mislukking meegemaakt.

Uitdagingen bij het implementeren van verantwoorde AI

Verantwoorde AI omvat tot 20 verschillende bedrijfsfuncties, waardoor het proces en de besluitvorming complexer worden. Verantwoorde AI-teams moeten samenwerken met belangrijke stakeholders, waaronder leiders; business-eigenaren; data-, AI- en IT-teams; en partners om:

• AI-oplossingen bouwen die eerlijk en vrij van vooroordelen zijn: Teams en partners kunnen verschillende technieken gebruiken, zoals exploratoire gegevensanalyse, om potentieel vooroordeel te identificeren en te mitigeren voordat ze oplossingen ontwikkelen – zodat modellen vanaf het begin met eerlijkheid in gedachten worden gebouwd. Teams en partners kunnen ook de gegevens die worden gebruikt in voorverwerking, algoritme-ontwerp en postverwerking controleren om ervoor te zorgen dat ze representatief en gebalanceerd zijn. Bovendien kunnen ze groeps- en individuele eerlijkheidstechnieken gebruiken om ervoor te zorgen dat algoritmen verschillende groepen en individuen eerlijk behandelen. En counterfactual fairness-benaderingen modelleren resultaten als bepaalde factoren worden gewijzigd, waardoor ze helpen bij het identificeren en aanpakken van vooroordelen.
• AI-transparantie en verklarbaarheid bevorderen: AI-transparantie betekent dat het gemakkelijk is om te begrijpen hoe AI-modellen werken en beslissingen nemen. Verklarbaarheid betekent dat deze beslissingen gemakkelijk kunnen worden gecommuniceerd aan anderen in niet-technische termen. Het gebruik van gemeenschappelijke terminologie, het houden van regelmatige discussies met stakeholders en het creëren van een cultuur van AI-bewustzijn en voortdurend leren kunnen helpen om deze doelen te bereiken.
• Gegevensbescherming en -beveiliging garanderen: AI-modellen gebruiken bergen aan gegevens. Bedrijven gebruiken eerste- en derdepartijgegevens om modellen te voeden. Ze gebruiken ook technieken voor privacy-beschermend leren, zoals het creëren van synthetische gegevens om problemen met schaarste te overwinnen. Leiders en teams zullen de gegevensbeschermings- en beveiligingsmaatregelen willen controleren en ontwikkelen om ervoor te zorgen dat vertrouwelijke en gevoelige gegevens nog steeds worden beschermd wanneer ze op nieuwe manieren worden gebruikt. Bijvoorbeeld, synthetische gegevens moeten de belangrijkste kenmerken van klanten nabootsen, maar niet terug te traceren zijn naar individuen.
• Governance implementeren: Governance zal variëren op basis van de AI-maturiteit van het bedrijf. Bedrijven moeten echter AI-principes en -beleid vanaf het begin vaststellen. Naarmate het gebruik van AI-modellen toeneemt, kunnen ze AI-functionarissen aanstellen; kaders implementeren; verantwoordings- en rapportagemechanismen creëren; en feedbackloops en voortdurende verbeteringsprogramma’s ontwikkelen.

Kritieke ondersteuners van een verantwoorde AI-programma

Wat onderscheidt bedrijven die verantwoorde AI-leiders zijn van anderen? Zij:

• Een visie en doelen voor AI creëren: Leiders communiceren hun visie en doelen voor AI en hoe het het bedrijf, klanten en de maatschappij ten goede komt.
• Verwachtingen stellen: Senior leiders stellen de juiste verwachtingen met teams om verantwoorde AI-oplossingen vanaf de grond af aan te bouwen, in plaats van proberen oplossingen aan te passen nadat ze zijn voltooid.
• Een kader en processen implementeren: Partners bieden verantwoorde AI-kaders met transparante processen en beveiligingsmaatregelen. Bijvoorbeeld, gegevensbescherming, eerlijkheid en vooroordeelcontroles moeten worden ingebouwd in de initiële gegevensvoorbereiding, modelontwikkeling en voortdurende monitoring.
• Toegang tot domein-, industrie- en AI-vaardigheden: Teams willen de innovatie van AI-oplossingen versnellen om de bedrijfsconcurrentie te vergroten. Zij kunnen partners inschakelen voor relevante domein- en industrievaardigheden, zoals data- en AI-strategie-vaststelling en -uitvoering, in combinatie met klantanalyse, marketingtechnologie, supply chain en andere capaciteiten. Partners kunnen ook volledige AI-vaardigheden bieden, waaronder large-language model (LLM) engineering, ontwikkeling, exploitatie en platform-engineeringcapaciteiten, met behulp van verantwoorde AI-kaders en -processen om oplossingen te ontwerpen, ontwikkelen, operationeel te maken en in productie te nemen.
• Toegang tot accelerators: Partners bieden toegang tot een AI-ecosysteem, waardoor de ontwikkelingstijd voor verantwoorde traditionele en generatieve AI-pilotprojecten met tot 50% wordt verkort. Bedrijven krijgen verticale oplossingen die hun marktconcurrentie verhogen.
• Teamadoptie en verantwoordelijkheid garanderen: Enterprise- en partnerteams worden getraind op nieuwe beleid en processen. Bovendien voeren bedrijven audits uit bij teams om te controleren of ze voldoen aan belangrijke beleid.
• De juiste metrics gebruiken om resultaten te kwantificeren: Leiders en teams gebruiken benchmarks en andere metrics om te demonstreren hoe verantwoorde AI bedrijfswaarde toevoegt om stakeholderbetrokkenheid op peil te houden.
• AI-systemen controleren: Partners bieden modelmonitoringdiensten, waardoor problemen proactief worden opgelost en ervoor wordt gezorgd dat ze betrouwbare resultaten leveren.

Plan nu voor verantwoorde AI

Als uw bedrijf AI-innovatie versnelt, heeft u waarschijnlijk een verantwoorde AI-programma nodig. Ga proactief te werk om risico’s te verminderen, programma’s en processen te laten rijpen en verantwoordelijkheid te demonstreren jegens stakeholders.

Een partner kan de vaardigheden, kaders, tools en partnerschappen bieden die u nodig heeft om bedrijfswaarde te ontgrendelen met verantwoorde AI. Implementeer modellen die eerlijk en vrij van vooroordelen zijn, voer controles uit en verhoog de compliance met bedrijfsvereisten, terwijl u zich voorbereidt op de komende reguleringen.