Bekymringer over potentielle risici ved ChatGPT vinder frem, men er en pause i AI en god beslutning?

Mens Elon Musk og andre globale tech-ledere har opfordret til en pause i AI efter udgivelsen af ChatGPT, mener nogle kritikere, at en pause i udviklingen ikke er svaret. AI- forkæmper Andrew Pery fra intelligent automationsvirksomhed ABBYY mener, at en pause er som at putte tandpasta tilbage i tuben. Her fortæller han os, hvorfor…

AI-anvendelser er almindelige og påvirker næsten alle aspekter af vores liv. Mens det kan være berettiget at sætte bremserne på nu, kan det være uvirkeligt.

Der er bestemt bekymringer, der opfordrer til øget regulering for at indfange dens potentielt skadelige virkninger.

For nylig har den italienske datatilsynsmyndighed midlertidigt blokeret brugen af ChatGPT på nationalt plan på grund af bekymringer omkring privatlivets beskyttelse i forbindelse med indsamlingen og behandlingen af personlige data, der bruges til at træne modellen, samt en åbenbar mangel på sikkerhedsforanstaltninger, der udsætter børn for svar, der er “absolut uacceptable for deres alder og bevidsthed”.

Den europæiske forbrugerorganisation (BEUC) opfordrer EU til at undersøge potentielt skadelige virkninger af store sprogmodeller, da “bekymringerne om, hvordan ChatGPT og lignende chatbots kan bedrage og manipulere mennesker, vokser”. Disse AI-systemer har brug for større offentlig gennemsigtighed, og offentlige myndigheder må genoprette kontrollen over dem.

I USA har Center for AI og Digital Politik indgivet en klage til Federal Trade Commission, da ChatGPT ifølge dem overtræder section 5 af Federal Trade Commission Act (FTC Act) (15 USC 45). Grundlaget for klagen er, at ChatGPT angiveligt ikke opfylder retningslinjerne fastsat af FTC for gennemsigtighed og forklarbarhed af AI-systemer. Der henvises til ChatGPT’s anerkendelse af flere kendte risici, herunder krænkelse af privatlivets rettigheder, generering af skadelig indhold og spredning af misinformation.

Nytten af store sprogmodeller som ChatGPT til trods for, at forskning viser dens mørke side. Det er bevist, at den kan producere forkerte svar, da den underliggende ChatGPT-model er baseret på dybe læringsalgoritmer, der udnytter store træningsdata fra internettet. I modsætning til andre chatbots bruger ChatGPT sprogmodeller baseret på dybe læringsmetoder, der genererer tekst, der ligner menneskelige samtaler, og platformen “kommer til et svar ved at gøre en række gæt, hvilket er en del af årsagen til, at den kan argumentere for forkerte svar, som om de var helt sande”.

Derudover er ChatGPT bevist at fremhæve og forstærke bias, hvilket resulterer i “svar, der diskriminerer køn, race og minoritetsgrupper, noget som virksomheden forsøger at mindske”. ChatGPT kan også være en guldgrube for skurkagtige aktører til at udnytte uvidende brugere, hvilket kan kompromittere deres privatliv og udsætte dem for svindelangreb.

Disse bekymringer har ført til, at Europa-Parlamentet har offentliggjort en kommentar, der understreger behovet for at styrke den nuværende udgave af det foreslåede EU-direktiv om kunstig intelligens (AIA), der stadig er under forhandling. Kommentaren påpeger, at den nuværende udgave af direktivet fokuserer på, hvad der kaldes snævert AI-anvendelser, bestående af bestemte kategorier af højrisiko AI-systemer, såsom rekruttering, kreditværdighed, beskæftigelse, lov og orden og berettigelse til sociale ydelser. EU’s direktivforslag omfatter dog ikke generel formål AI, såsom store sprogmodeller, der giver mere avancerede kognitive evner og kan “udføre en bred vifte af intelligente opgaver”. Der er opfordringer til at udvide direktivets omfang til at omfatte en separat, højrisiko-kategori af generel formål AI-systemer, der kræver, at udviklere skal gennemføre omfattende ex ante-konformitetstest før udbringelse på markedet og kontinuerligt overvåge deres ydelse for potentielt uventede skadelige udsagn.

En særligt nyttig forskning retter opmærksomheden på denne lukning, som EU’s AIA-regulering “primært fokuserer på konventionelle AI-modeller og ikke på den nye generation, hvis fødsel vi er vidne til i dag”.

Den anbefaler fire strategier, som reguleringer bør overveje.

1. Kræv, at udviklerne af sådanne systemer regelmæssigt rapporterer om effikken af deres risikostyringsprocesser for at mindske skadelige udsagn.
2. Virksomheder, der bruger store sprogmodeller, bør være forpligtede til at informere deres kunder om, at indholdet er genereret af AI.
3. Udviklerne bør abonnere på en formaliseret proces for trinvis udgivelse som en del af en risikostyringsramme, designet til at beskytte mod potentielt uventede skadelige udsagn.
4. Læg ansvaret på udviklerne for at “mindske risikoen ved dens rødder” ved at “proaktivt gennemgå træningsdata-sættet for misrepræsentationer”.

En faktor, der bidrager til risiciene forbundet med innovative teknologier, er innovatorernes drive for at opnå first mover-fordele ved at antage en “ship first and fix later”-forretningsmodel. Mens OpenAI er nogenlunde gennemsigtig omkring de potentielle risici ved ChatGPT, har de udgivet det til bred kommerciel brug med en “køber-beware”-forpligtelse på brugerne til at vejre og påtage sig risikoen selv. Det kan være en uholdbar tilgang, given den omfattende virkning af konversations-AI-systemer. Proaktiv regulering kombineret med robuste gennemførelsesforanstaltninger må være af største betydning, når man har at gøre med sådan en innovativ teknologi.

Kunstig intelligens er allerede en del af næsten alle aspekter af vores liv, hvilket betyder, at en pause i AI-udviklingen kunne medføre en række uventede hindringer og konsekvenser. I stedet for at bremse pludseligt bør branchens og lovgivningens spillere samarbejde i god tro om at iværksætte håndgribelige reguleringer, der er baseret på menneskecentrerede værdier som gennemsigtighed, ansvarlighed og retfærdighed. Ved at henvise til eksisterende lovgivning som AIA kan ledere i den private og offentlige sektor designe omfattende, globalt standardiserede politikker, der kan forhindre skurkagtige anvendelser og mindske ugunstige udsagn, og således holde kunstig intelligens inden for rammerne af at forbedre menneskelige oplevelser.