De AI-vertrouwenskloof overbruggen

De adoptie van AI bereikt een kritiek keerpunt. Bedrijven omarmen AI enthousiast, gedreven door de belofte om verbeteringen van grote orde in operationele efficiëntie te bereiken.

Een recente Slack-peiling toonde aan dat de adoptie van AI blijft versnellen, met een recente toename van 24% in het gebruik van AI op de werkplek en 96% van de ondervraagde executives gelooft dat “het dringend is om AI te integreren in hun bedrijfsoperaties”.

Er is echter een groeiende kloof tussen de bruikbaarheid van AI en de groeiende bezorgdheid over de potentiële negatieve gevolgen. Slechts 7% van de bureaumedewerkers gelooft dat uitvoer van AI betrouwbaar genoeg is om hen te helpen bij werkgerelateerde taken.

Deze kloof is zichtbaar in de scherpe contrast tussen de enthousiasme van executives voor AI-integratie en de scepsis van werknemers met betrekking tot factoren zoals:

• Vooringenomenheid en eerlijkheid: AI-systemen kunnen bestaande vooringenomenheden in stand houden of zelfs verergeren, waardoor oneerlijke resultaten ontstaan.
• Privacy en beveiliging: Werknemers maken zich zorgen over hoe hun persoonlijke gegevens worden verzameld, opgeslagen en gebruikt door AI-systemen.
• Ondoorzichtige besluitvorming: AI-systemen werken vaak als “black boxes”, waarbij beslissingen worden genomen die moeilijk voor mensen zijn om te begrijpen of uit te leggen.
• Automatiseringsangst: Er is een wijdverbreide angst dat AI banen van mensen zal overnemen, waardoor werkloosheid en economische instabiliteit ontstaat.

De rol van wetgeving bij het opbouwen van vertrouwen

Om deze veelzijdige vertrouwenskwesties aan te pakken, worden wetgevingsmaatregelen steeds vaker gezien als een noodzakelijke stap. Wetgeving kan een sleutelrol spelen bij het reguleren van de ontwikkeling en inzet van AI, waardoor vertrouwen wordt versterkt. Belangrijke wetgevingsbenaderingen zijn:

• Wetgeving inzake gegevensbescherming en privacy: Het implementeren van strikte gegevensbeschermingswetten zorgt ervoor dat AI-systemen persoonlijke gegevens verantwoordelijk behandelen. Regels zoals de Algemene Verordening Gegevensbescherming (AVG) in de Europese Unie zetten een precedent door transparantie, gegevensminimalisatie en gebruikersinstemming te eisen. In het bijzonder, artikel 22 van de AVG beschermt gegevensonderwerpen tegen de potentiële negatieve gevolgen van geautomatiseerde besluitvorming. Recentelijk hebben beslissingen van het Hof van Justitie van de Europese Unie (HvJ EU) de rechten van personen bevestigd om niet te worden onderworpen aan geautomatiseerde besluitvorming. In de zaak van Schufa Holding AG, waarin een Duitse inwoner werd afgewezen voor een banklening op basis van een geautomatiseerd creditsysteem, oordeelde het Hof dat artikel 22 maatregelen vereist om de rechten van privacy te waarborgen met betrekking tot het gebruik van AI-technologieën.
• AI-regulering: De Europese Unie heeft de EU AI-wet (EU AIA) goedgekeurd, die tot doel heeft de inzet van AI-systemen te reguleren op basis van hun risicograad. De wet omvat verplichte eisen voor AI-systemen met een hoog risico, waaronder gebieden als gegevenskwaliteit, documentatie, transparantie en menselijke toezicht. Een van de belangrijkste voordelen van AI-regulering is de bevordering van transparantie en uitlegbaarheid van AI-systemen. Bovendien stelt de EU AIA duidelijke aansprakelijkheidskaders in, waardoor ontwikkelaars, exploitanten en zelfs gebruikers van AI-systemen verantwoordelijk zijn voor hun acties en de resultaten van AI-inzet. Dit omvat mechanismen voor herstel als een AI-systeem schade veroorzaakt. Wanneer individuen en organisaties aansprakelijk worden gesteld, bouwt dit vertrouwen op dat AI-systemen verantwoordelijk worden beheerd.

Initiatieven voor normen om een cultuur van betrouwbaar AI te bevorderen

Bedrijven hoeven niet te wachten tot nieuwe wetten worden uitgevoerd om te bepalen of hun processen binnen ethische en betrouwbare richtlijnen vallen. AI-regulering werkt samen met opkomende AI-norminitiatieven die organisaties in staat stellen om verantwoorde AI-governance en beste praktijken te implementeren tijdens de gehele levenscyclus van AI-systemen, waaronder ontwerp, implementatie, inzet en uiteindelijk buiten gebruik stellen.

Het Nationaal Instituut voor Standaarden en Technologie (NIST) in de Verenigde Staten heeft een AI-risicobeheersingskader ontwikkeld om organisaties te helpen bij het beheersen van AI-gerelateerde risico’s. Het kader is gestructureerd rond vier kernfuncties:

• Het begrijpen van het AI-systeem en de context waarin het werkt. Dit omvat het definiëren van het doel, stakeholders en potentiële gevolgen van het AI-systeem.
• Het kwantificeren van de risico’s die zijn verbonden aan het AI-systeem, waaronder technische en niet-technische aspecten. Dit omvat het evalueren van de prestaties, betrouwbaarheid en potentiële vooringenomenheden van het systeem.

• Het implementeren van strategieën om geïdentificeerde risico’s te mitigeren. Dit omvat het ontwikkelen van beleid, procedures en controles om ervoor te zorgen dat het AI-systeem binnen aanvaardbare risicogrenzen werkt.
• Het instellen van governance-structuren en aansprakelijkheidsmechanismen om het AI-systeem en de risicobeheersingsprocessen te controleren. Dit omvat regelmatige beoordelingen en updates van de risicobeheersingsstrategie.

Als reactie op de vooruitgang in generatieve AI-technologieën heeft NIST ook het Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile gepubliceerd, dat richtlijnen biedt voor het mitigeren van specifieke risico’s die zijn verbonden aan Foundational Models. Dergelijke maatregelen omvatten het beschermen tegen kwaadwillig gebruik (bijv. desinformatie, verslechterende inhoud, haatzaaiende uitlatingen) en ethische toepassingen van AI die zijn gericht op menselijke waarden zoals eerlijkheid, privacy, informatiebeveiliging, intellectueel eigendom en duurzaamheid.

Bovendien hebben de Internationale Organisatie voor Standaardisatie (ISO) en de Internationale Electrotechnische Commissie (IEC) samen ISO/IEC 23894 ontwikkeld, een uitgebreide standaard voor AI-risicobeheer. Deze standaard biedt een systematische aanpak voor het identificeren en beheren van risico’s tijdens de gehele levenscyclus van AI, waaronder risicoidentificatie, beoordeling van risicograde, behandeling om risico’s te mitigeren of te vermijden, en continue monitoring en beoordeling.

De toekomst van AI en openbaar vertrouwen

Als we vooruitkijken, zal de toekomst van AI en openbaar vertrouwen waarschijnlijk afhangen van verschillende belangrijke factoren die essentieel zijn voor alle organisaties om te volgen:

• Het uitvoeren van een uitgebreide risicobeoordeling om potentiële compliance-problemen te identificeren. Beoordeel de ethische implicaties en potentiële vooringenomenheden in uw AI-systemen.
• Het instellen van een cross-functioneel team, waaronder juridische, compliance-, IT- en data science-professionals. Dit team moet verantwoordelijk zijn voor het monitoren van wijzigingen in de regelgeving en ervoor zorgen dat uw AI-systemen voldoen aan nieuwe regels.
• Het implementeren van een governance-structuur die beleid, procedures en rollen omvat voor het beheersen van AI-initiatieven. Zorg voor transparantie in AI-bewerkingen en besluitvormingsprocessen.
• Het uitvoeren van regelmatige interne audits om ervoor te zorgen dat u voldoet aan AI-regulering. Gebruik monitoringtools om de prestaties van AI-systemen en de naleving van regelgevingsstandaarden te volgen.
• Het opleiden van werknemers over AI-ethiek, regelgevingsvereisten en beste praktijken. Bied regelmatige trainingsessies aan om het personeel op de hoogte te houden van wijzigingen in AI-regulering en compliance-strategieën.
• Het bijhouden van gedetailleerde records van AI-ontwikkelingsprocessen, gegevensgebruik en besluitvormingscriteria. Wees bereid om rapporten te genereren die kunnen worden ingediend bij regelgevers als dat nodig is.
• Het opbouwen van relaties met regelgevende instanties en deelnemen aan openbare consultaties. Geef feedback op voorgestelde regels en vraag om verduidelijking wanneer nodig.

AI contextualiseren om betrouwbare AI te bereiken

Uiteindelijk hangt betrouwbare AI af van de integriteit van gegevens. De afhankelijkheid van generatieve AI van grote gegevenssets betekent niet noodzakelijkerwijs de nauwkeurigheid en betrouwbaarheid van uitvoer; het is zelfs tegenintuïtief voor beide standaarden. Retrieval Augmented Generation (RAG) is een innovatieve techniek die “statische LLM’s combineert met contextspecifieke gegevens. En het kan worden beschouwd als een zeer kundige assistent. Een die querycontext combineert met specifieke gegevens uit een uitgebreide kennisbasis“. RAG stelt organisaties in staat om contextspecifieke toepassingen te leveren die voldoen aan verwachtingen op het gebied van privacy, beveiliging, nauwkeurigheid en betrouwbaarheid. RAG verbetert de nauwkeurigheid van gegenereerde antwoorden door relevante informatie op te halen uit een kennisbasis of documentenrepository. Dit stelt het model in staat om zijn generatie te baseren op nauwkeurige en up-to-date informatie.

RAG stelt organisaties in staat om purpose-built AI-toepassingen te bouwen die zeer nauwkeurig, contextueel en aanpasbaar zijn om besluitvorming te verbeteren, klantervaringen te verbeteren, operaties te stroomlijnen en aanzienlijke concurrentievoordelen te behalen.

Het overbruggen van de AI-vertrouwenskloof houdt in dat transparantie, aansprakelijkheid en ethisch gebruik van AI worden gewaarborgd. Hoewel er geen enkel antwoord is om deze standaarden te handhaven, hebben bedrijven strategieën en instrumenten tot hun beschikking. Het implementeren van robuuste gegevensbeschermingsmaatregelen en het naleven van regelgevingsstandaarden bouwt gebruikersvertrouwen op. Het regelmatig auditen van AI-systemen op vooringenomenheid en onnauwkeurigheden waarborgt eerlijkheid. Het aanvullen van Large Language Models (LLM’s) met purpose-built AI levert vertrouwen op door het integreren van propriëtaire kennisbases en gegevensbronnen. Het betrekken van stakeholders bij de mogelijkheden en beperkingen van AI bevordert ook vertrouwen en acceptatie

Betrouwbare AI is niet gemakkelijk te bereiken, maar het is een vitaal engagement voor onze toekomst.