Ethiek & Technologie: Heeft AI een Piloot aan het Roer Nodig?

Samenvatting: De vooruitgang in conversational AI-technologie vereist een zorgvuldige afweging van belangen die innovatie stimuleren en tegelijkertijd de potentiële schadelijke gevolgen mitigeren.

De Aantrekkingskracht van Conversational AI

De lancering van ChatGPT-3 heeft ongekende interesse gegenereerd met meer dan 100 miljoen actieve gebruikers per maand.

Zowel consumenten als organisaties erkennen hoe de vooruitgang in conversational AI vrijwel elk aspect van ons persoonlijke en professionele leven kan transformeren. De geavanceerde toepassing van deep learning door ChatGPT-3 genereert overtuigende mensachtige conversaties met indrukwekkende resultaten. In recente tests heeft ChatGPT-3 de U.S. Medical Licensing Exam en een MBA-examen van een van de meest prestigieuze business schools behaald.

De zakelijke voordelen van conversational AI zijn enorm, zodanig dat Microsoft $10 miljard heeft geïnvesteerd in Open AI om de commerciële toepassingen van ChatGPT-3 te versnellen. Microsoft wil zijn producten “superchargen” met de conversational capaciteiten van ChatGPT-3.

Irrationele Uitbundigheid

Maar laten we even een stap terug doen voordat we toelaten dat zo’n transformatieve technologie ons voorbij gaat. Ongeacht zijn potentieel, is ChatGPT-3 nog steeds in een embryonaal stadium met, toegegeven, veel imperfecties. Onze uitbundigheid kan bewezen worden als premature. In het gebrek aan een zinvolle analyse kan een ongeremde adoptie van conversational AI zonder regulerende richtlijnen en menselijke toezicht ons leiden naar een dystopische wereld, voorafgeschetst door de Engelse romanschrijver Aldous Huxley. Te veel vertrouwen op technologie zonder begrip van de socio-economische gevolgen kan leiden tot ernstige, zij het onbedoelde, gevolgen, zoals werkloosheid, onderwijs, inclusiviteit en eerlijkheid.

Per slot van rekening, hoewel Chat-GPT-3 een stap vooruit is, zijn zijn “cognitieve” capaciteiten gebaseerd op bestaande datasets met ingebouwde vooroordelen die versterkt kunnen worden, resulterend in een veelheid van potentiële schaden. ChatGPT-3 heeft een “donkere kant” die reden tot bezorgdheid zou moeten zijn en de pauzeknop zou moeten indrukken voordat er verdere verspreiding van dergelijke gevolgrijke technologie plaatsvindt.

Risico of Kans?

Er moet een balans zijn tussen de risico’s die verbonden zijn aan de toepassing van conversational AI en de potentiële kansen. Als het op een zorgvuldige manier wordt ingezet, met een zinvolle regulering van AI die een risicogebaseerde aanpak met robuuste toezicht overweegt, dan kunnen de potentiële voordelen van conversational AI worden gerealiseerd. Het moet worden ingezet als een mensgerichte samenwerking met conversational AI-toepassingen die de werkervaring verrijken. Net als alle innovaties die eraan vooraf zijn gegaan, heeft AI het potentieel om de behoefte aan nieuwe vaardigheden te creëren en bepaalde banen meer lonend te maken.

Wat is de Rol van de Wetgever?

De democratisering van AI-technologieën impliceert dat openbare autoriteiten een proactieve rol moeten spelen bij de regulering van hun gebruik. De angsten die verbonden zijn aan disruptieve innovaties zijn reëel. Ondanks zijn capaciteiten blijft kunstmatige intelligentie afhankelijk van mensen, of het nu gaat om het gebruik ervan of de regulering ervan. Er moet inderdaad een piloot aan het roer zijn, we weten alleen nog niet exact welke koers hij vaart. Er is een groeiende behoefte aan een alomvattende AI-regulering, met name de concept-EU Artificial Intelligence Act. Met de potentiële alomtegenwoordige adoptie van conversational AI, zoals ChatGPT-3, groeit de behoefte aan een striktere regulering en governance, met de EU als voorbeeld, om te waarborgen dat maatregelen worden genomen die specifieke toepassingen van conversational AI die als inbreuk op fundamentele mensenrechten worden beschouwd, verbieden.