Etik og teknologi: Har AI brug for en pilot ved roret?

Resumé: Fremgangene i konversations-AI-teknologi kræver en omhyggelig afvejning af interesser, der fremmer innovation samtidig med, at de potentielle skadelige virkninger mindskes.

Den tiltrækkende konversations-AI

Lanceringen af ChatGPT-3 har været mødt med en hidtil uset interesse med over 100 millioner aktive brugere om måneden.

Forbrugere og organisationer anerkender, hvorledes fremgangene i konversations-AI kan potentielt transformere næsten alle aspekter af vores personlige liv og professionelle interaktioner. ChatGPT-3’s avancerede anvendelse af dyb læring genererer overbevisende menneske-lignende samtaler med imponerende resultater. I nyere tests har ChatGPT-3 bestået den amerikanske medicinske licensuddannelse og en MBA-uddannelse fra en af de mest prestigefyldte forretningsuddannelsesinstitutioner.

De erhvervsmæssige fordele ved konversations-AI er enorme, så meget, at Microsoft har investeret 10 milliarder dollars i Open AI for at accelerere kommercielle anvendelser af ChatGPT-3. Microsoft har til hensigt at “supercharge” sine produkter med konversationsfunktionerne i ChatGPT-3.

Irrationel eufori

Men lad os tage en dyb indånding, før vi lader sådan en transformatorisk teknologi få overhånd. Dens potentielle nytte til trods er ChatGPT-3 stadig i en spæd stage med, medgivet mange ufuldkomheder. Vores eufori kan vise sig at være forhastet. I mangelen på meningsfuld analyse kan en ubegrænset anvendelse af konversations-AI uden regulering og menneskelig tilsyn føre os ind i en dystopisk verden, forudsagt af den engelske forfatter Aldous Huxley. For meget tillid til teknologi uden forståelse af dens socio-økonomiske virkninger kan have alvorlige, omend uforudsete konsekvenser, såsom beskæftigelse, uddannelse, inklusivitet og lighed.

Desuden er ChatGPT-3’s “kognitive” evner baseret på eksisterende datasæt med indbyggede fordomme, der kan forstærkes og føre til en række potentielle skader. ChatGPT-3 har en “mørk side”, der burde være årsag til bekymring og få os til at trykke pause-knappen, før yderligere udbredelse af en sådan konsekvensfuld teknologi.

Risiko eller mulighed?

Der skal være en afvejning af risikoen forbundet med anvendelsen af konversations-AI og dens potentielle muligheder. Hvis den anvendes på en omhyggelig måde, med meningsfuld regulering af AI, der tager en risikobaseret tilgang med robust tilsyn, kan de potentielle fordele ved konversations-AI muligvis realiseres. Den skal anvendes som et menneskecentreret samarbejde med konversations-AI-applikationer, der beriger arbejdsmiljøet. Ligesom alle de innovationer, der er gået forud, har AI potentialet til at skabe behov for nye færdigheder og at gøre visse job mere tilfredsstillende.

Hvad er lovgivernes rolle?

Demokratiseringen af AI-teknologier indebærer, at offentlige myndigheder skal spille en proaktiv rolle i reguleringen af deres anvendelse. Frygten forbundet med disruptiv innovation er reel. På trods af sin dygtighed er kunstig intelligens stadig afhængig af mennesker, enten til at bruge den eller til at regulere den. Der skal være en pilot ved roret, vi ved bare ikke nøjagtig, hvilken kurs han er på vej mod endnu. Der er øget momentum for en omfattende AI-regulering, især den udskitsede EU-AI-forordning. Med den potentielle ubegrænsede anvendelse af konversations-AI, såsom ChatGPT-3, er momentum for en mere omfattende regulering og styring voksende med EU for at sikre, at der indføres foranstaltninger, der forbyder bestemte anvendelser af konversations-AI, der anses for at krænke grundlæggende menneskerettigheder.