Hoe Explainable AI Vertrouwen en Verantwoordelijkheid Opbouwt

Bedrijven zijn al volledig in de AI-adaptatie gedoken, racend om chatbots, contentgeneratoren en beslissingsondersteunende tools over hun operaties te implementeren. Volgens McKinsey gebruiken 78% van de bedrijven AI in tenminste één bedrijfsfunctie.

De haast om te implementeren is begrijpelijk — iedereen ziet de potentiële waarde. Maar in deze haast laten veel organisaties het feit buiten beschouwing dat alle op neurale netwerken gebaseerde technologieën, waaronder elk LLM- en generatief AI-systeem dat vandaag en in de toekomst wordt gebruikt, een aanzienlijk gebrek hebben: ze zijn onvoorspelbaar en uiteindelijk onbeheersbaar.

Sommigen hebben ontdekt dat er echte gevolgen kunnen zijn als gevolg hiervan. Bij een Chevrolet-dealer die een chatbot op zijn website had geïmplementeerd, overhaalde een klant de ChatGPT-geactiveerde bot om hem een $58.195 Chevy Tahoe voor slechts $1 te verkopen. Een andere klant gaf de zelfde chatbot de opdracht om een Python-script te schrijven voor complexe vloeistofdynamische vergelijkingen, wat het met plezier deed. De dealer schakelde de bots snel uit nadat deze incidenten waren uitgelekt.

Vorig jaar verloor Air Canada een zaak in een kleine claimsrechtbank toen het beweerde dat zijn chatbot, die een passagier onjuiste informatie over een rouwverlof-korting had gegeven, “een afzonderlijke juridische entiteit is die verantwoordelijk is voor zijn eigen acties”.

Deze onvoorspelbaarheid stamt uit de fundamentele architectuur van LLM’s. Ze zijn zo groot en complex dat het onmogelijk is om te begrijpen hoe ze bij specifieke antwoorden komen of te voorspellen wat ze zullen genereren totdat ze een output produceren. De meeste organisaties reageren op dit betrouwbaarheidsprobleem zonder het volledig te erkennen.

De voor de hand liggende oplossing is om AI-resultaten handmatig te controleren, wat werkt maar de potentie van de technologie drastisch beperkt. Wanneer AI wordt teruggebracht tot een persoonlijke assistent — het opstellen van tekst, het bijwonen van vergaderingen, het samenvatten van documenten en het helpen bij codering — levert het matige productiviteitswinsten op. Niet genoeg om de economie te revolutioneren.

De echte voordelen van AI zullen arriveren wanneer we stoppen met het gebruik ervan om bestaande banen te ondersteunen en in plaats daarvan hele processen, systemen en bedrijven opnieuw bedraden om AI te gebruiken zonder menselijke betrokkenheid bij elke stap. Overweeg het verwerken van leningen: als een bank aan leningfunctionarissen een AI-assistent geeft om aanvragen samen te vatten, kunnen ze 20-30% sneller werken. Maar het implementeren van AI om het hele beslissingsproces te behandelen (met passende waarborgen) kan de kosten met meer dan 90% verlagen en bijna alle verwerkingstijd elimineren. Dit is het verschil tussen incrementele verbetering en transformatie.

Het pad naar betrouwbare AI-implementatie

Het volledige potentieel van AI benutten zonder te bezwijken voor zijn onvoorspelbaarheid vereist een geavanceerde combinatie van technische benaderingen en strategisch denken. Terwijl verschillende huidige methoden gedeeltelijke oplossingen bieden, heeft elke daarvan aanzienlijke beperkingen.

Sommige organisaties proberen de betrouwbaarheidsproblemen te mitigeren via systeemsturing — subtiel sturen van AI-gedrag in gewenste richtingen zodat het reageert op specifieke invoer. Anthropic-onderzoekers demonstreerden de kwetsbaarheid van deze benadering door een “Golden Gate Bridge-functie” in Claude’s neurale netwerk te identificeren en, door deze kunstmatig te versterken, Claude een identiteitscrisis te geven. Toen hem werd gevraagd naar zijn fysieke vorm, erkende Claude in plaats van te erkennen dat hij er geen had, zichzelf als de Golden Gate Bridge. Dit experiment onthulde hoe gemakkelijk een model’s kernfunctie kan worden gewijzigd en dat elke sturing een compromis vertegenwoordigt, waarbij mogelijk één aspect van de prestaties wordt verbeterd terwijl andere worden verslechterd.

Een andere benadering is om AI te laten controleren door andere AI. Hoewel deze gelaagde benadering enkele fouten kan detecteren, introduceert het extra complexiteit en komt het nog steeds niet in de buurt van een alomvattende betrouwbaarheid. Hardgecodeerde beveiligingsmaatregelen zijn een directe interventie, zoals het blokkeren van antwoorden die bepaalde trefwoorden of patronen bevatten, zoals precursor-ingrediënten voor wapens. Hoewel effectief tegen bekende problemen, kunnen deze beveiligingsmaatregelen niet voorzien in nieuwe problematische uitvoer die voortkomt uit deze complexe systemen.

Een effectievere benadering is het opbouwen van AI-georiënteerde processen die autonoom kunnen werken, met menselijke toezicht strategisch gepositioneerd om betrouwbaarheidsproblemen te detecteren voordat ze echte problemen in de wereld veroorzaken. U zou AI niet rechtstreeks laten goedkeuren of afkeuren van leningaanvragen, maar AI zou een initiële beoordeling kunnen uitvoeren voor menselijke operators om te controleren. Dit kan werken, maar het hangt af van menselijke waakzaamheid om AI-fouten te detecteren en ondermijnt de potentiële efficiëntiegewinsten van het gebruik van AI.

Opbouwen voor de toekomst

Deze gedeeltelijke oplossingen wijzen naar een meer alomvattende benadering. Organisaties die fundamenteel opnieuw nadenken over hoe hun werk wordt gedaan, in plaats van alleen bestaande processen te versterken met AI-ondersteuning, zullen de grootste voordelen behalen. Maar AI mag nooit de laatste stap zijn in een proces of beslissing met hoge inzet, dus wat is de beste weg vooruit?

Ten eerste bouwt AI een herhaalbaar proces dat consistent en transparant resultaten zal opleveren. Ten tweede controleren mensen het proces om ervoor te zorgen dat ze begrijpen hoe het werkt en dat de invoer passend is. Ten slotte wordt het proces autonoom uitgevoerd — zonder enige AI — met periodieke menselijke controle van de resultaten.

Overweeg de verzekeringsindustrie. De conventionele benadering zou AI-assistenten kunnen toevoegen om claimsverwerkers te helpen efficiënter te werken. Een meer revolutionaire benadering zou AI gebruiken om nieuwe tools te ontwikkelen — zoals computerzicht dat schadefoto’s analyseert of verbeterde fraude detectie modellen die verdachte patronen identificeren — en deze tools combineren in geautomatiseerde systemen die worden beheerst door duidelijke, begrijpelijke regels. Mensen zouden deze systemen ontwerpen en controleren in plaats van individuele claims te verwerken.

Deze benadering behoudt menselijk toezicht op het kritieke punt waar het het meest telt: het ontwerp en de validatie van het systeem zelf. Het maakt exponentiële efficiëntiegewinsten mogelijk terwijl het de risico’s elimineert dat AI-onvoorspelbaarheid leidt tot schadelijke resultaten in individuele gevallen.

Een AI kan potentieel indicatoren van leningaflossingsvermogen identificeren in transactiegegevens, bijvoorbeeld. Menselijke experts kunnen deze indicatoren dan evalueren op eerlijkheid en expliciete, begrijpelijke modellen opbouwen om hun voorspellende kracht te bevestigen.

Deze benadering van explainable AI zal een duidelijker scheiding creëren tussen organisaties die AI oppervlakkig gebruiken en die hun operaties transformeren rond het. De laatste zal steeds verder voorop lopen in hun industrieën, in staat om producten en diensten aan te bieden tegen prijspunten die hun concurrenten niet kunnen evenaren.

In tegenstelling tot black-box AI zorgen explainable AI-systemen ervoor dat mensen een betekenisvol toezicht houden op de toepassing van de technologie, waardoor een toekomst ontstaat waarin AI het menselijk potentieel versterkt in plaats van simpelweg menselijke arbeid te vervangen.