Bekymringer over potensielle risikoer med ChatGPT øker, men er en pause i AI en god avgjørelse?

Mens Elon Musk og andre globale teknologiledere har bedt om en pause i AI etter lanseringen av ChatGPT, mener noen kritikere at en pause i utviklingen ikke er svaret. AI-entusiasten Andrew Pery, fra det intelligente automasjonsfirmaet ABBYY, mener at å ta en pause er som å putte tannkremmen tilbake i tuben. Her forteller han oss hvorfor…

AI-applikasjoner er overalt, og påvirker nesten alle aspekter av våre liv. Mens det kan være lovenskjent å bremse nå, kan det være vanskelig å stoppe.

Det finnes bestemte bekymringer som krever økt regulering for å begrense de potensielle skadevirkningene.

For nylig blokkerte den italienske datatilsynet midlertidig bruken av ChatGPT på landsbasis på grunn av bekymringer knyttet til måten personlige data ble samlet inn og behandlet for å trene modellen, samt en åpenbar mangel på sikkerhetstiltak som utsatte barn for svar som var “absolutt upassende for deres alder og bevissthet”.

Den europeiske forbrukerorganisasjonen (BEUC) oppfordrer EU til å undersøke potensielle skadevirkninger av store språkmodeller, ettersom “bekymringer vokser om hvordan ChatGPT og lignende chatboter kan bedra og manipulere mennesker. Disse AI-systemene trenger større offentlig granskning, og offentlige myndigheter må gjenopprette kontrollen over dem.”

I USA har Center for AI and Digital Policy innledet en klage mot Federal Trade Commission, hvor det hevdes at ChatGPT bryter § 5 av Federal Trade Commission Act (FTC Act) (15 USC 45). Grunnlaget for klagen er at ChatGPT angivelig ikke møter retningslinjene for åpenhet og forklarbarhet av AI-systemer fastsatt av FTC. Det ble henvisning til ChatGPTs anerkjennelse av flere kjente risikoer, inkludert å krenke personlige rettigheter, generere skadelig innhold og spre desinformasjon.

Nytten av store språkmodeller som ChatGPT til tross for at forskning viser at det har en mørk side. Det er bevist at det kan produsere feilaktige svar, ettersom den underliggende ChatGPT-modellen er basert på dyptlæring salg som utnytter store treningsdatasett fra internettet. I motsetning til andre chatboter, bruker ChatGPT språkmodeller basert på dyptlæringsteknikker som genererer tekst som ligner menneskelig samtale, og plattformen “kommer frem til et svar ved å gjøre en rekke gjettinger, som er en del av grunnene til at det kan argumentere feilaktige svar som om de var helt sanne”.

VIDERE er det bevist at ChatGPT aksentuerer og forsterker bias, noe som resulterer i “svar som diskriminerer mot kjønn, rase og minoritetsgrupper, noe som selskapet prøver å mildne.” ChatGPT kan også være en gullgruve for skurker å utnytte uoppmerksomme brukere, og kompromittere deres personlige data og utsatte dem for svindelangrep.

Disse bekymringene førte til at det europeiske parlamentet offentliggjorde en kommentar som understreker behovet for å ytterligere styrke de nåværende bestemmelsene i utkastet til EU kunstig intelligenslov, som fortsatt er under behandling. Kommentaren påpeker at utkastet til den foreslåtte loven fokuserer på såkalt “smal” AI-applikasjoner, bestående av bestemte kategorier av høyrisiko AI-systemer som rekruttering, kredittverdighet, ansatt, lovverk og kvalifisering for sosiale tjenester. EU-utkastet til kunstig intelligenslov dekker imidlertid ikke generell formål AI, som store språkmodeller som tilbyr mer avanserte kognitive evner og som kan “utføre en rekke intelligente oppgaver”. Det er krav om å utvide omfanget av utkastet til å inkludere en separat, høyrisiko kategori av generell formål AI-systemer, som krever at utviklere gjennomfører strenge ex ante konformitetstester før de plasseres på markedet og kontinuerlig overvåker deres ytelse for potensielle uventede skadevirkninger.

En særlig nyttig forskning trekker oppmerksomheten til denne gapen som EU kunstig intelligenslovreguleringen “i hovedsak er fokusert på konvensjonelle AI-modeller, og ikke på den nye generasjonen hvis fødsel vi er vitne til i dag”.

Det anbefaler fire strategier som regulatorer bør vurdere.

1. Krever at utviklere av slike systemer regelmessig rapporterer om effikheten av deres risikostyringsprosesser for å mildne skadevirkninger.
2. Bedrifter som bruker store språkmodeller bør være forpliktet til å opplyse kundene om at innholdet er AI-generert.
3. Utviklere bør abonnere på en formell prosess for trinnvis lansering, som en del av en risikostyringsramme, designet for å beskytte mot potensielt uventede skadevirkninger.
4. Legge ansvaret på utviklere til å “mildne risikoen ved dens røtter” ved å måtte “proaktivt granske treningsdatasettet for misrepresentasjoner”.

En faktor som bidrar til risikoene forbundet med banebrytende teknologier er innovatørenes drivkraft for å oppnå førstegangseffekten ved å adoptere en “skip først og fikse senere”-forretningsmodell. Mens OpenAI er noe åpen om de potensielle risikoene med ChatGPT, har de lansert det for bred kommersiell bruk med en “kjøper var” pålegg på brukerne til å vurdere og påta seg risikoen selv. Det kan være en uholdbar tilnærming gitt den omfattende virkningen av konversasjons-AI-systemer. Proaktiv regulering kombinert med robuste gjennomførings tiltak må være av største betydning når det gjelder en så banebrytende teknologi.

Kunstig intelligens er allerede en del av nesten alle aspekter av våre liv, og en pause i AI-utviklingen kan innebære en rekke uventede hindringer og konsekvenser. I stedet for å bremse brått, bør industri- og lovgivende aktører samarbeide i god tro for å iverksette håndfast regulering som er rotfestet i menneskesenterte verdier som åpenhet, ansvar og rettferdighet. Ved å henvise til eksisterende lovgivning som kunstig intelligensloven, kan ledere i private og offentlige sektorer designe grundige, globalt standardiserte politikker som vil forhindre skurkeaktige bruk og mildne negative resultater, og dermed holde kunstig intelligens innenfor grensene for å forbedre menneskelige erfaringer.