Het openen van de zwarte doos van AI-verklaarbaarheid

Kunstmatige intelligentie (AI) is verweven in bijna alle facetten van ons dagelijks leven, van gepersonaliseerde aanbevelingen tot kritische besluitvorming. Het is een gegeven dat AI zal blijven evolueren, en met dat, zullen de bedreigingen die samenhangen met AI ook meer geavanceerd worden. Terwijl bedrijven AI-geactiveerde verdedigingen inzetten als reactie op de groeiende complexiteit, is de volgende stap naar het bevorderen van een organisatiebrede cultuur van beveiliging het verbeteren van de verklaarbaarheid van AI.

Terwijl deze systemen indrukwekkende mogelijkheden bieden, functioneren ze vaak als “zwarte dozen” – resultaten produceren zonder duidelijk inzicht in hoe het model tot de conclusie is gekomen. Het probleem van AI-systemen die valse verklaringen afleggen of valse acties uitvoeren kan aanzienlijke problemen en potentiële bedrijfsstoringen veroorzaken. Wanneer bedrijven fouten maken door AI, eisen hun klanten en consumenten een verklaring en spoedig daarna een oplossing.

Maar wat is de oorzaak? Vaak wordt slechte data gebruikt voor training. Bijvoorbeeld, de meeste openbare GenAI-technologieën worden getraind op data die beschikbaar is op internet, die vaak ongeverifieerd en onnauwkeurig is. Terwijl AI snel antwoorden kan genereren, hangt de nauwkeurigheid van die antwoorden af van de kwaliteit van de data waarop het getraind is.

AI-fouten kunnen optreden in verschillende gevallen, waaronder scriptgeneratie met onjuiste opdrachten en valse beveiligingsbeslissingen, of het weren van een werknemer van het werken op de bedrijfssystemen vanwege valse beschuldigingen die door het AI-systeem zijn gemaakt. Al deze hebben het potentieel om aanzienlijke bedrijfsstoringen te veroorzaken. Dit is slechts een van de vele redenen waarom het waarborgen van transparantie essentieel is om vertrouwen in AI-systemen op te bouwen.

Vertrouwen opbouwen

We bestaan in een cultuur waarin we vertrouwen stellen in allerlei bronnen en informatie. Maar tegelijkertijd eisen we steeds meer bewijs en validatie, en moeten we constant nieuws, informatie en claims valideren. Wanneer het gaat om AI, stellen we vertrouwen in een systeem dat het potentieel heeft om onnauwkeurig te zijn. Nog belangrijker, het is onmogelijk om te weten of de acties die AI-systemen uitvoeren nauwkeurig zijn zonder enige transparantie over de basis waarop beslissingen worden genomen. Stel dat uw cyber AI-systeem machines uitschakelt, maar het een fout maakte bij het interpreteren van de signalen? Zonder inzicht in de informatie die het systeem ertoe bracht om die beslissing te nemen, is er geen manier om te weten of het de juiste beslissing was.

Terwijl storingen in het bedrijf frustrerend zijn, is een van de belangrijkste zorgen bij het gebruik van AI de gegevensbescherming. AI-systemen, zoals ChatGPT, zijn machine learning-modellen die antwoorden halen uit de data die ze ontvangen. Daarom, als gebruikers of ontwikkelaars per ongeluk gevoelige informatie verstrekken, kan het machine learning-model die data gebruiken om antwoorden te genereren voor andere gebruikers die vertrouwelijke informatie onthullen. Deze fouten hebben het potentieel om een bedrijf ernstig te schaden, de efficiëntie, winstgevendheid en, het belangrijkste, het vertrouwen van de klant. AI-systemen zijn bedoeld om efficiëntie te verhogen en processen te vereenvoudigen, maar in het geval dat constante validatie noodzakelijk is omdat uitvoer niet te vertrouwen is, verspillen organisaties niet alleen tijd, maar openen ze ook de deur voor potentiële kwetsbaarheden.

Teams trainen voor verantwoord AI-gebruik

Om organisaties te beschermen tegen de potentiële risico’s van AI-gebruik, hebben IT-professionals de belangrijke verantwoordelijkheid om hun collega’s adequaat te trainen om ervoor te zorgen dat AI op een verantwoorde manier wordt gebruikt. Door dit te doen, helpen ze hun organisaties te beschermen tegen cyberaanvallen die hun levensvatbaarheid en winstgevendheid bedreigen.

Echter, voordat teams getraind worden, moeten IT-leiders intern overeenkomen om te bepalen welke AI-systemen een goede fit zijn voor hun organisatie. Haasten naar AI zal alleen later terugslaan, dus in plaats daarvan, begin klein, met een focus op de behoeften van de organisatie. Zorg ervoor dat de standaarden en systemen die u selecteert, overeenkomen met de huidige technische stack en bedrijfsdoelen van uw organisatie, en dat de AI-systemen voldoen aan dezelfde beveiligingsstandaarden als elke andere leverancier die u zou selecteren.

Zodra een systeem is geselecteerd, kunnen IT-professionals hun teams dan blootstellen aan deze systemen om succes te garanderen. Begin met het gebruik van AI voor kleine taken en zie waar het goed presteert en waar het niet, en leer wat de potentiële gevaren of validaties zijn die moeten worden toegepast. Vervolgens kan het gebruik van AI worden geïntroduceerd om het werk te ondersteunen, waardoor snellere zelfbedieningsoplossingen mogelijk worden, inclusief eenvoudige “hoe te”-vragen. Van daaruit kan het worden onderwezen hoe validaties kunnen worden ingesteld. Dit is waardevol, omdat we zullen beginnen te zien dat meer banen worden over het instellen van grensvoorwaarden en validaties, en zelfs al te zien zijn in banen zoals het gebruik van AI om te helpen bij het schrijven van software.

Naast deze actiepunten voor het trainen van teamleden, is het initiëren en stimuleren van discussies ook van cruciaal belang. Moedig open, gegevensgedreven dialoog aan over hoe AI de gebruikersbehoeften dient – lost het problemen op een nauwkeurige en snelle manier op, stimuleren we de productiviteit voor zowel het bedrijf als de eindgebruiker, neemt onze klanttevredenheidsscore toe door deze AI-gedreven tools? Wees duidelijk over de return on investment (ROI) en houd dat centraal. Duidelijke communicatie zal het bewustzijn van verantwoord gebruik laten groeien, en naarmate teamleden een beter begrip krijgen van hoe de AI-systemen werken, zijn ze meer geneigd om ze op een verantwoorde manier te gebruiken.

Hoe transparantie in AI te bereiken

Hoewel het trainen van teams en het vergroten van het bewustzijn belangrijk is, is het om transparantie in AI te bereiken van cruciaal belang dat er meer context is over de data die wordt gebruikt om de modellen te trainen, om ervoor te zorgen dat alleen kwaliteitsdata wordt gebruikt. Hopelijk zal er uiteindelijk een manier zijn om te zien hoe het systeem redeneert, zodat we het volledig kunnen vertrouwen. Maar tot die tijd hebben we systemen nodig die kunnen werken met validaties en bewakingsmechanismen en kunnen aantonen dat ze zich houden aan deze mechanismen.

Terwijl volledige transparantie uiteindelijk tijd zal vereisen om te bereiken, is de snelle groei van AI en haar gebruik het noodzakelijk om snel te werken. Aangezien AI-modellen steeds complexer worden, hebben ze de kracht om een grote impact te hebben op de mensheid, maar de gevolgen van hun fouten nemen ook toe. Als gevolg hiervan is het begrijpen van hoe deze systemen tot hun beslissingen komen, uiterst waardevol en noodzakelijk om effectief en betrouwbaar te blijven. Door ons te concentreren op transparante AI-systemen, kunnen we ervoor zorgen dat de technologie zo nuttig is als het bedoeld is, terwijl ze onbevooroordeeld, ethisch, efficiënt en nauwkeurig blijft.