Etikk og teknologi: Trenger AI en pilot i cockpit?

Sammendrag: Fremgangen i konversasjons-AI-teknologi nødvendiggjør en balansering av interesser som fremmer innovasjon samtidig som potensielle skadelige virkninger mildnes.

The Allure of Conversational AI

Lanseringen av ChatGPT-3 har vakt en utenkelig interesse med over 100 millioner aktive brukere per måned.

Forbrukere og organisasjoner anerkjenner hvordan fremgangen i konversasjons-AI kan potensielt transformere nesten alle aspekter av våre personlige liv og profesjonelle interaksjoner. ChatGPT-3s avanserte anvendelse av dyp læring genererer overbevisende menneskelignende samtaler med imponerende resultater. I nylige tester passerte ChatGPT-3 U.S. Medical Licensing Exam og en MBA-eksamen fra en av de mest prestisjefylte forretnings-skolene.

Forretningsfordelene med konversasjons-AI er enorme, så mye at Microsoft har investert 10 milliarder dollar i Open AI for å akselerere kommersielle anvendelser av ChatGPT-3. Microsoft har til hensikt å “supercharge” sine produkter med konversasjonskapasiteten til ChatGPT-3.

Irrational Exuberance

Men la oss ta en dypt pust før vi lar slik transformasjonsteknologi komme foran oss selv. Dets potensielle nytte til tross, er ChatGPT-3 fortsatt i en tidlig fase med, innrømmet mange ufullkomhet. Vår entusiasme kan vise seg å være forhastet. I fravær av meningsfull analyse kan en ubegrenset anvendelse av konversasjons-AI uten regulering og menneskelig tilsyn føre oss inn i en dystopisk verden, forutsett av den engelske romanforfatteren Aldous Huxley. For mye avhengighet av teknologi uten forståelse av dens samfunnsmessige og økonomiske virkninger kan ha alvorlige, om enn uforutsette konsekvenser, som sysselsetting, utdanning, inklusivitet og rettferdighet.

Etter alt, mens ChatGPT-3 er et skritt fremover, er dets “kognitive” evner basert på eksisterende datasamlinger, med innebygde fordommer som kan bli forsterket og resultere i en mengde potensielle skader. ChatGPT-3 har en “mørk side” som bør være årsak til bekymring og trykke pauseknappen før videre spredning av slik konsekvensfull teknologi.

Risiko eller mulighet?

Det må være en balansering av risikoene forbundet med anvendelsen av konversasjons-AI og dens potensielle muligheter. Hvis det blir anvendt på en tankefull måte, med meningsfull regulering av AI som tar en risikobasert tilnærming med robust tilsyn, kan de potensielle fordelene med konversasjons-AI bli realisert. Det bør bli anvendt som et menneskesentrert partnerskap med konversasjons-AI-applikasjoner som beriker arbeidsplassen. Liksom alle innovasjonene som har gått forut det, har AI potensialet til å skape behov for nye ferdigheter og å gjøre visse jobber mer givende.

Hva er rollen til lovgiveren?

Demokratiseringen av AI-teknologier innebærer at offentlige myndigheter må spille en proaktiv rolle i å regulere deres bruk. Frykten forbundet med disruptiv innovasjon er reel. Til tross for sin dyktighet, er kunstig intelligens fortsatt avhengig av mennesker, enten for å bruke det eller for å regulere det. Det må være en pilot i cockpit, vi vet bare ikke eksakt hvilken kurs han er på vei mot ennå. Det er økt momentum for omfattende AI-regulering, mest merkbart, utkastet til EU-artificial Intelligence Act. Med den potensielle ubegrensede anvendelsen av konversasjons-AI, som ChatGPT-3, øker momentum for mer rigorøs regulering og styring med EU for å sikre at tiltak blir innført som vil forbytte bestemt anvendelse av konversasjons-AI som anses å være i konflikt med grunnleggende menneskerettigheter.