Zorgen over potentiële risico’s van ChatGPT nemen toe, maar is een pauze in AI een goede zet?

Terwijl Elon Musk en andere wereldwijde technologie-leiders hebben opgeroepen tot een pauze in AI na de release van ChatGPT, geloven sommige critici dat een halt in de ontwikkeling niet het antwoord is. AI-evangelist Andrew Pery, van het bedrijf ABBYY voor intelligente automatisering, gelooft dat een pauze nemen net zo is als proberen om de tandpasta terug in de tube te krijgen. Hier legt hij uit waarom…

AI-toepassingen zijn overal aanwezig en hebben een impact op vrijwel elk aspect van ons leven. Hoewel het lovenswaardig is om nu de rem op te gooien, kan dit onhaalbaar zijn.

Er zijn zeker aanwijsbare zorgen die oproepen tot een verhoogde regulatoire toezicht om de potentieel schadelijke gevolgen in te perken.

Onlangs heeft de Italiaanse Autoriteit voor Gegevensbescherming het gebruik van ChatGPT tijdelijk landelijk geblokkeerd vanwege privacy-bezwaren met betrekking tot de manier van verzamelen en verwerken van persoonsgegevens die worden gebruikt om het model te trainen, evenals een kennelijke gebrek aan waarborgen, waardoor kinderen worden blootgesteld aan antwoorden “absoluut ongeschikt voor hun leeftijd en bewustzijn”.

De Europese Consumentenorganisatie (BEUC) dringt er bij de EU op aan om de potentiële schadelijke gevolgen van grote taalmodellen te onderzoeken, gezien “zorgen over hoe ChatGPT en soortgelijke chatbots mensen kunnen bedriegen en manipuleren. Deze AI-systemen hebben meer openbare controle nodig, en openbare autoriteiten moeten de controle over hen terugnemen.”

In de VS heeft het Centrum voor AI en Digitaal Beleid een klacht ingediend bij de Federal Trade Commission dat ChatGPT artikel 5 van de Federal Trade Commission Act (FTC Act) (15 USC 45) schendt. De basis voor de klacht is dat ChatGPT naar verluidt niet voldoet aan de richtlijnen die door de FTC zijn vastgesteld voor transparantie en verklaring van AI-systemen. Er wordt verwezen naar ChatGPT’s erkenning van verschillende bekende risico’s, waaronder het schenden van privacyrechten, het genereren van schadelijke inhoud en het verspreiden van desinformatie.

Het nut van grote taalmodellen zoals ChatGPT ten spijt, wijst onderzoek op zijn potentieel donkere kant. Het is bewezen dat het onjuiste antwoorden produceert, omdat het onderliggende ChatGPT-model is gebaseerd op diepe leer-algoritmen die grote trainingsdatasets van het internet gebruiken. In tegenstelling tot andere chatbots, gebruikt ChatGPT taalmodellen op basis van diepe leer-technieken die tekst genereren die lijkt op menselijke conversaties, en het platform “komt tot een antwoord door een reeks gissingen te doen, wat deel is van de reden waarom het verkeerde antwoorden kan verdedigen alsof ze volledig waar waren.”

Verder is ChatGPT bewezen om vooroordelen te benadrukken en te versterken, waardoor “antwoorden ontstaan die discriminatie vertonen tegen geslacht, ras en minderheidsgroepen, iets waar het bedrijf probeert iets aan te doen.” ChatGPT kan ook een goudmijn zijn voor boosaardige actoren om onschuldige gebruikers te exploiteren, waardoor hun privacy in gevaar komt en hen blootstelt aan scam-aanvallen.

Deze zorgen hebben ertoe geleid dat het Europees Parlement een commentaar heeft gepubliceerd dat de noodzaak benadrukt om de huidige bepalingen van het ontwerp EU Kunstmatige Intelligentie-wet (AIA) verder te versterken, die nog steeds in afwachting is van ratificatie. Het commentaar wijst erop dat het huidige ontwerp van de voorgestelde verordening zich richt op wat wordt genoemd narrow AI-toepassingen, bestaande uit specifieke categorieën van high-risk AI-systemen, zoals werving, kredietwaardigheid, werkgelegenheid, handhaving van de wet en recht op sociale diensten. Het EU-ontwerp AIA-reglement dekt echter geen algemene doel-AI, zoals grote taalmodellen die geavanceerde cognitieve mogelijkheden bieden en die “een breed scala aan intelligente taken kunnen uitvoeren.” Er zijn oproepen om het bereik van het ontwerp-reglement uit te breiden tot een afzonderlijke, high-risk-categorie van algemene doel-AI-systemen, waarbij ontwikkelaars verplicht worden om een strikte ex ante-conformiteitstest uit te voeren voordat dergelijke systemen op de markt worden gebracht en hun prestaties voortdurend te controleren op potentieel onverwachte schadelijke uitvoer.

Een bijzonder nuttig stuk onderzoek vestigt de aandacht op deze lacune dat de EU-AIA-reglementering “primair gericht is op conventionele AI-modellen en niet op de nieuwe generatie waarvan we vandaag getuige zijn.”

Het beveelt vier strategieën aan die regulators moeten overwegen.

1. Ontwikkelaars van dergelijke systemen moeten regelmatig rapporteren over de effectiviteit van hun risicobeheersingsprocessen om schadelijke uitvoer te mitigeren.
2. Bedrijven die grote taalmodellen gebruiken, moeten verplicht worden om hun klanten te informeren dat de inhoud door AI is gegenereerd.
3. Ontwikkelaars moeten zich houden aan een formele procedure van gefaseerde releases, als onderdeel van een risicobeheersingskader, om te waarborgen tegen potentieel onverwachte schadelijke gevolgen.
4. De verantwoordelijkheid leggen bij ontwikkelaars om “het risico aan de wortel aan te pakken” door “pro-actief de trainingsdataset te auditen op misrepresentaties”.

Een factor die de risico’s die samenhangen met disruptieve technologieën in stand houdt, is de drang van innovators om een eerste-mover-voordeel te behalen door een “eerst schepen en later repareren”-zakelijke model te hanteren. Terwijl OpenAI enigszins transparant is over de potentiële risico’s van ChatGPT, hebben ze het vrijgegeven voor brede commerciële gebruik met een “koper, wees gewaarschuwd”-verantwoordelijkheid voor gebruikers om de risico’s zelf te wegen en aan te nemen. Dat kan een onhoudbare aanpak zijn, gezien de alomtegenwoordige impact van conversatie-AI-systemen. Proactief reguleren, gekoppeld aan robuuste handhavingsmaatregelen, moet voorop staan bij het omgaan met een dergelijke disruptieve technologie.

Kunstmatige intelligentie doordringt nu bijna elk deel van ons leven, wat betekent dat een pauze in de AI-ontwikkeling een veelheid aan onvoorziene obstakels en gevolgen kan impliceren. In plaats van plotseling de rem op te gooien, moeten industrie- en wetgevende spelers samenwerken in goede trouw om doeltreffende regelgeving tot stand te brengen die geworteld is in mensgerichte waarden zoals transparantie, verantwoordelijkheid, en fairness. Door bestaande wetgeving te raadplegen, zoals de AIA, kunnen leiders in de private en publieke sectoren grondige, wereldwijd gestandaardiseerde beleidsmaatregelen ontwerpen die nefaste gebruiken zullen voorkomen en nadelige gevolgen zullen mitigeren, en zo kunstmatige intelligentie binnen de grenzen van het verbeteren van menselijke ervaringen houden.