Verantwoordelijk door ontwerp – Waarom AI mensgericht moet zijn

Kunstmatige intelligentie verandert de digitale ervaringen die ons dagelijks leven bepalen. Van gepersonaliseerde productaanbevelingen en voorspellende gezondheidszorg tot autonome rijden en zelfs attractieparken, maakt AI deze ervaringen goedkoper, efficiënter en zelfs leuker. Tenminste, dat is de belofte.

Maar al te vaak komen we koppen tegen over zogenaamde “AI-fouten” – momenten waarop gebruikers zich misleid, gefrustreerd of gewoon niet begrepen voelen. En wanneer vertrouwen afneemt, neemt ook het potentieel van AI om echt betekenisvol en effectief te zijn af.

Het publieke vertrouwen neemt af. Waarom? Omdat de meeste systemen niet zijn ontworpen met de menselijke ervaring in gedachten – ze zijn ontworpen voor wat snel, schaalbaar en winstgevend is. Dat zou een grote zorg moeten zijn voor bedrijven van alle maten die hun AI-investeringen verdubbelen.

Om vertrouwen op te bouwen, moeten bedrijven even pauzeren en diepere vragen stellen: Waarom bouwen we dit systeem? Moet het überhaupt gebouwd worden? Kortom, ontwerpen we AI om menselijke behoeften te dienen – of dwingen we mensen om zich aan machine-logica aan te passen?

De vertrouwenskloof met AI

Te vaak wordt AI ontwikkeld in geïsoleerde technische omgevingen, waar succes wordt gemeten door nauwkeurigheid of snelheid, en niet door sociale impact of bruikbaarheid. Ethisch denken, een kerncomponent van vertrouwen, is niet automatisch ingebakken in de AI-ontwikkelingspijplijn. Deze disconnectie resulteert in systemen die theoretisch innovatief kunnen zijn, maar in de praktijk tekortschieten.

Neem Air Canada’s chatbot, die een klant met vertrouwen verkeerde informatie gaf over het rouwverlofbeleid, alleen om het bedrijf later te horen zeggen dat het niet verantwoordelijk was voor wat de chatbot zei. Of Meta’s AI-chatbot, die feitelijk onjuiste verklaringen gaf in zoekresultaten. Deze voorbeelden vertegenwoordigen meer dan technische storingen; ze onthullen een systematische fout om AI-toepassingen te ontwerpen met empathie, veiligheidsvoorzieningen en reële context.

Het publiek heeft het opgemerkt. Volgens het Pew Research Center hebben 59% van de Amerikanen en 55% van de AI-experts weinig tot geen vertrouwen in het vermogen van Amerikaanse bedrijven om AI op een verantwoorde manier te ontwikkelen. Dat is een vertrouwenskloof die we niet kunnen negeren.

Mensgericht ontwerp is geen luxe

Ontwerp is geen window dressing voor AI. Het is fundamenteler voor hoe het zich gedraagt en hoe het wordt waargenomen door eindgebruikers. Mensgericht ontwerp begint met het begrijpen van de mensen voor wie we ontwerpen: hun doelen, frustraties, waarden en levensrealiteiten.

Het is essentieel om tijdens het ontwerpproces specifieke vragen te stellen om ervoor te zorgen dat de technologie menselijke behoeften dient, niet de andere weg around, definiërend:

• Wie ontwerpen we voor?
• Wat zijn hun doelen, waarden en uitdagingen?
• Hoe interacteren ze emotioneel en functioneel met systemen?
• Is het product betrouwbaar en doet het wat het zegt dat het gaat doen?
• Bevordert het inclusiviteit en toegankelijkheid voor alle soorten mensen?

Deze vragen zijn niet abstract. Ze beïnvloeden rechtstreeks hoe AI in de praktijk functioneert. En in hoogrisicovolle contexten zoals gezondheidszorg, veiligheid of onderwijs kunnen ze bepalen of een systeem inclusief en eerlijk is of verwarrend en schadelijk.

Hoe een beter ontwerp eruitziet

Ontwerpers verbinden menselijke behoeften met machinecapaciteiten door middel van prototyping, testen en itereren, wat ervoor zorgt dat producten zin hebben voor de mensen die ze gebruiken. Dat omvat het bevragen van hoe AI communiceert, welke beslissingen het automatiseren en hoeveel controle het de gebruiker biedt.

Neem attractieparken als voorbeeld. AI wordt deze zomer ingezet om wachttijden te verminderen, ervaringen te personaliseren en menigten te beheren. Het is een veelbelovend gebruik. Maar succes is niet alleen een kwestie van doorvoer. Een goed ontworpen systeem zal menselijke ervaring prioriteren, niet alleen efficiëntie. Dat betekent transparante communicatie, intuïtieve interfaces, duidelijke opt-ins en fallback-opties voor gebruikers met unieke behoeften (zoals gezinnen zonder smartphones of gasten met toegankelijkheidsbehoeften).

De kans hier is niet alleen om logistieke bedrijfsoperaties te optimaliseren ten gunste van de onderste regel; het is om vreugde te verhogen, wrijving te verminderen en gedeelde ervaringen te creëren die magisch aanvoelen, niet mechanisch. Dat is een kans voor ontwerp.

Testen van het menselijke element

In mensgericht AI-ontwerp is testen essentieel. Het is ideaal om potentiële eindgebruikers vroeg en vaak in het proces te betrekken, met als doel potentiële blind spots te identificeren. Wanneer gebruikers een systeem niet kunnen begrijpen of vertrouwen, heeft het systeem gefaald, ongeacht hoe indrukwekkend de backend mag zijn.

Testen zorgt er ook voor dat toegankelijkheid wordt gewaarborgd, wat vaak over het hoofd wordt gezien in AI-gedreven ervaringen. Een chatbot kan technisch functioneel zijn, maar als het niet neurodiverse gebruikers of niet-moedertaalsprekers dient, is het niet echt functioneel. Inclusief ontwerp heeft niet alleen voordeel voor de randen, het versterkt producten voor iedereen.

Verantwoordelijkheid begint met ontwerp

Beleid kan helpen om grenzen te stellen en de slechtste resultaten te voorkomen. Dus kaders zoals de EU AI Act en de Blueprint voor een AI Bill of Rights zijn cruciale stappen. Maar naleving is alleen de vloer. Ontwerp is hoe we het plafond bereiken.

Bedrijven moeten verder gaan dan controlelijsten om AI-systemen te bouwen die waardigheid, agentie en toezicht ondersteunen. Dat betekent dat ze de neiging moeten weerstaan om menselijke oordeel volledig te automatiseren en in plaats daarvan tools ontwerpen die het versterken. Verantwoorde AI wist menselijke controle niet uit; integendeel, het versterkt het.

Dit werk is niet alleen technisch. Het vereist multidisciplinaire teams van ontwerpers, ingenieurs, beleidsexperts en ethici die allemaal vanaf de eerste dag samenwerken. Het betekent ontwerpen met mensen, niet alleen voor hen.

De rol van ontwerpers in het vormgeven van AI

Ontwerpers spelen een unieke rol in het vormgeven van de richting van AI. Ze zijn vertalers die vloeiend zijn in zowel de gestructureerde logica van machines als de complexiteit van het menselijk leven. Ontwerpers zijn getraind om wrijvingspunten, emotionele signalen en sociale implicaties te herkennen die data alleen niet kunnen vangen.

Net als de specifieke vragen die ervoor zorgen dat de technologie menselijke behoeften dient, moeten ontwerpers pleiten voor vragen die niet netjes in trainingsdata passen, zoals:

• Hoe maakt dit iemand voelen?
• Is de gebruiker in controle?
• Wat gebeurt er als dingen misgaan?

Te vaak wordt ontwerp aan het einde van de AI-pijplijn ingebracht om het “goed uit te laten zien.” Maar de ware kracht van ontwerp is strategisch. Het moet bepalen hoe problemen in de eerste plaats worden gedefinieerd, niet alleen hoe interfaces eruit zien.

Mensgericht, niet machinegericht

AI is niet alleen een technische uitdaging, het is een ontwerpuitegave. En om die aan te gaan, moeten we menselijke waarden vanaf het begin centraal stellen.

Mensgericht AI is geen luxe – het is een noodzaak. Het creëert systemen die betrouwbaar, betrouwbaar, onbevooroordeeld, controleerbaar en conform zijn. Maar meer dan dat, het bouwt producten die de eindgebruiker ten goede komen en menselijke productiviteit en potentieel verhogen.

We hebben de tools en we hebben de verantwoordelijkheid om een toekomst te ontwerpen waarin technologie mensen dient, niet de andere weg around. Die toekomst begint met ontwerp.