Ethiek & Technologie: Heeft AI een Piloot aan het Roer Nodig?

Samenvatting: De vooruitgang in de technologie van conversational AI vereist een zorgvuldige afweging van belangen die innovatie stimuleren en potentieel schadelijke gevolgen mitigeren.

De Aantrekkingskracht van Conversational AI

De lancering van ChatGPT-3 heeft ongekende interesse gewekt met meer dan 100 miljoen actieve gebruikers per maand.

Zowel consumenten als organisaties erkennen hoe de vooruitgang in conversational AI vrijwel elk aspect van ons persoonlijke en professionele leven kan transformeren. De geavanceerde toepassing van deep learning door ChatGPT-3 genereert overtuigende mensachtige conversaties met indrukwekkende resultaten. Onlangs slaagde ChatGPT-3 voor het Amerikaanse Medische Licentie-examen en een MBA-examen van een van de meest prestigieuze zakenscholen.

De zakelijke voordelen van conversational AI zijn enorm, zodanig dat Microsoft 10 miljard dollar heeft geïnvesteerd in Open AI om de commerciële toepassingen van ChatGPT-3 te versnellen. Microsoft wil zijn producten “superchargeren” met de conversational mogelijkheden van ChatGPT-3.

Irrationele Exuberantie

Maar laten we even diep ademhalen voordat we toelaten dat zo’n transformatieve technologie ons voorbij gaat. Ongeacht zijn potentieel, is ChatGPT-3 nog steeds in een embryonaal stadium met, toegegeven, veel imperfecties. Onze exuberantie kan prematuur blijken te zijn. In het gebrek aan zinvolle analyse kan een ongebreideld gebruik van conversational AI zonder regulerende richtlijnen en menselijke toezicht ons leiden naar een dystopische wereld, voorafgeschetst door de Engelse roman schrijver Aldous Huxley. Te veel vertrouwen op technologie zonder begrip van de sociaal-economische gevolgen kan ernstige, onbedoelde gevolgen hebben, zoals werkgelegenheid, onderwijs, inclusiviteit en eerlijkheid.

Per slot van rekening, terwijl Chat-GPT-3 een stap vooruit is, zijn zijn “cognitieve” capaciteiten gebaseerd op bestaande gegevenssets, met ingebouwde vooroordelen die versterkt kunnen worden, resulterend in een veelheid van potentiële schaden. ChatGPT-3 heeft een “donkere kant” die reden tot bezorgdheid zou moeten zijn en ons zou moeten doen pauzeren voordat we deze gevolgrijke technologie verder verspreiden.

Risico of Kans?

Er moet een balans zijn tussen de risico’s die verbonden zijn aan de toepassing van conversational AI en zijn potentieel. Als het op een doordachte manier wordt ingezet, met een zinvolle regulering van AI die een risicogebaseerde aanpak met robuuste toezicht overweegt, kunnen de potentiële voordelen van conversational AI worden gerealiseerd. Het moet worden ingezet als een mensgerichte samenwerking met conversational AI-toepassingen die de werkervaring verrijken. Net als alle innovaties die eraan vooraf zijn gegaan, heeft AI het potentieel om de behoefte aan nieuwe vaardigheden te creëren en bepaalde banen meer lonend te maken.

Wat is de Rol van de Wetgever?

De democratisering van AI-technologieën impliceert dat openbare autoriteiten een proactieve rol moeten spelen bij de regulering van hun gebruik. De angsten die verbonden zijn aan disruptieve innovaties zijn reëel. Ondanks zijn capaciteiten is kunstmatige intelligentie nog steeds afhankelijk van mensen, of het nu gaat om het gebruik of de regulering ervan. Er moet inderdaad een piloot aan het roer zijn, we weten alleen nog niet exact welke koers hij vaart. Er is een groeiende impuls voor een alomvattende AI-regulering, met name de ontwerp-EU Kunstmatige Intelligentie-wet. Met het potentieel voor een alomvattende adoptie van conversational AI, zoals ChatGPT-3, groeit de impuls voor een striktere regulering en governance met de EU om ervoor te zorgen dat maatregelen worden ingesteld die specifieke toepassingen van conversational AI die als inbreuk makend op fundamentele mensenrechten worden beschouwd, zullen verbieden.