In 2022 hadden bedrijven gemiddeld 3,8 AI-modellen in productie. Vandaag de dag experimenteren zeven van de tien bedrijven met generatieve AI, wat betekent dat het aantal AI-modellen in productie de komende jaren zal exploderen. Als gevolg daarvan hebben bedrijfsdiscussies over verantwoorde AI een grotere urgentie gekregen.

Het goede nieuws is dat meer dan de helft van de organisaties al AI-ethiek bevordert. Echter, slechts ongeveer 20% hebben uitgebreide programma’s geïmplementeerd met kaders, governance en waarborgen om de ontwikkeling van AI-modellen te controleren en proactief risico’s te identificeren en te mitigeren. Gezien het snelle tempo van AI-ontwikkeling, zouden leiders nu moeten beginnen met het implementeren van kaders en volwassen processen. Reguleringen over de hele wereld zijn in aantocht, en één op de twee organisaties heeft al een verantwoorde AI-fout meegemaakt.

Uitdagingen bij de implementatie van verantwoorde AI

Verantwoorde AI omvat tot 20 verschillende bedrijfsfuncties, waardoor de processen en besluitvorming complexer worden. Teams voor verantwoorde AI moeten samenwerken met belangrijke stakeholders, waaronder leiders; bedrijfseigenaren; data-, AI- en IT-teams; en partners om:

• AI-oplossingen te bouwen die eerlijk en vrij van vooroordelen zijn: Teams en partners kunnen verschillende technieken gebruiken, zoals exploratoire gegevensanalyse, om potentiële vooroordelen te identificeren en te mitigeren voordat ze oplossingen ontwikkelen – zodat modellen vanaf het begin met eerlijkheid in gedachten worden gebouwd. Teams en partners kunnen ook de gegevens die worden gebruikt bij voorverwerking, algoritme-ontwerp en postverwerking controleren om ervoor te zorgen dat deze representatief en gebalanceerd zijn. Bovendien kunnen ze groeps- en individuele rechtvaardigheidstechnieken gebruiken om ervoor te zorgen dat algoritmes verschillende groepen en individuen eerlijk behandelen. En met counterfactuele rechtvaardigheidsbenaderingen kunnen uitkomsten worden gemodelleerd als bepaalde factoren worden gewijzigd, waardoor vooroordelen kunnen worden geïdentificeerd en aangepakt.
• AI-transparantie en verklarende kracht te bevorderen: AI-transparantie betekent dat het gemakkelijk is om te begrijpen hoe AI-modellen werken en beslissingen nemen. Verklarende kracht betekent dat deze beslissingen gemakkelijk aan anderen kunnen worden uitgelegd in niet-technische termen. Het gebruik van gemeenschappelijke terminologie, het houden van regelmatige discussies met stakeholders en het creëren van een cultuur van AI-bewustzijn en voortdurend leren kunnen helpen om deze doelen te bereiken.
• Gegevensbescherming en -beveiliging te garanderen: AI-modellen gebruiken enorme hoeveelheden gegevens. Bedrijven gebruiken eerste- en derdepartijgegevens om modellen te voeden. Ze gebruiken ook technieken voor privacy-beschermend leren, zoals het creëren van synthetische gegevens om problemen met schaarste te overwinnen. Leiders en teams zullen de gegevensbeschermings- en beveiligingsmaatregelen willen controleren en aanpassen om ervoor te zorgen dat vertrouwelijke en gevoelige gegevens nog steeds worden beschermd wanneer ze op nieuwe manieren worden gebruikt. Bijvoorbeeld, synthetische gegevens moeten de belangrijkste kenmerken van klanten emuleren, maar niet traceerbaar zijn naar individuen.
• Governance te implementeren: Governance zal variëren op basis van de AI-maturiteit van het bedrijf. Bedrijven moeten echter AI-principes en -beleid vanaf het begin vaststellen. Naarmate het gebruik van AI-modellen toeneemt, kunnen ze AI-functionarissen aanstellen; kaders implementeren; verantwoordings- en rapportagemechanismen creëren; en feedbackloops en voortdurende verbeteringsprogramma’s ontwikkelen.

Kritieke stimulansen voor een verantwoord AI-programma

Wat onderscheidt bedrijven die verantwoorde AI-leiders zijn van anderen? Zij:

• Een visie en doelen voor AI creëren: Leiders communiceren hun visie en doelen voor AI en hoe het het bedrijf, klanten en de samenleving ten goede komt.
• Verwachtingen stellen: Senior leiders stellen de juiste verwachtingen met teams om verantwoorde AI-oplossingen vanaf de grond af aan te bouwen, in plaats van te proberen oplossingen aan te passen nadat ze zijn voltooid.
• Een kader en processen implementeren: Partners bieden verantwoorde AI-kaders met transparante processen en waarborgen. Bijvoorbeeld, gegevensbescherming, eerlijkheid en vooroordeelcontroles moeten worden ingebouwd in de initiële gegevensvoorbereiding, modelontwikkeling en voortdurende monitoring.
• Toegang tot domein-, industrie- en AI-vaardigheden: Teams willen de innovatie van AI-oplossingen versnellen om de bedrijfsconcurrentie te vergroten. Ze kunnen partners inschakelen voor relevante domein- en industrievaardigheden, zoals data- en AI-strategie-vaststelling en -uitvoering, in combinatie met klantanalyse, marketingtechnologie, supply chain en andere capaciteiten. Partners kunnen ook volledige AI-vaardigheden bieden, waaronder large-language model (LLM) engineering, ontwikkeling, operaties en platform engineering, met behulp van verantwoorde AI-kaders en -processen om oplossingen te ontwerpen, ontwikkelen, operationeel te maken en in productie te nemen.
• Toegang tot acceleratoren: Partners bieden toegang tot een AI-ecosysteem, waardoor de ontwikkelingstijd voor verantwoorde traditionele en generatieve AI-pilotprojecten met tot 50% kan worden verkort. Bedrijven krijgen verticale oplossingen die hun marktconcurrentie verhogen.
• Teamadoptie en verantwoordelijkheid garanderen: Enterprise- en partnerteams worden getraind op nieuwe beleid en processen. Bovendien controleren bedrijven teams op naleving van belangrijke beleid.
• De juiste metrieken gebruiken om resultaten te kwantificeren: Leiders en teams gebruiken benchmarks en andere metrieken om te demonstreren hoe verantwoorde AI bedrijfswaarde levert om stakeholderbetrokkenheid op peil te houden.
• AI-systemen controleren: Partners bieden modelmonitoringdiensten, waardoor problemen proactief worden opgelost en vertrouwde resultaten worden geleverd.

Plan nu voor verantwoorde AI

Als uw bedrijf AI-innovatie versnelt, heeft u waarschijnlijk een verantwoord AI-programma nodig. Ga proactief te werk om risico’s te verminderen, programma’s en processen te laten rijpen en verantwoordelijkheid aan stakeholders te demonstreren.

Een partner kan de vaardigheden, kaders, tools en partnerschappen bieden die u nodig heeft om bedrijfswaarde te ontsluiten met verantwoorde AI. Implementeer modellen die eerlijk en vrij van vooroordelen zijn, voer controles uit en verhoog de naleving van bedrijfsvereisten, terwijl u zich voorbereidt op aanstaande reguleringen.