Etik och teknik: Behöver AI en pilot i förarsätet?

Sammanfattning: Framstegen inom konversations-AI-teknik kräver en noggrann avvägning av intressen som främjar innovation samtidigt som man mildrar potentiella skadliga effekter.

Lockelsen av konversations-AI

Lanseringen av ChatGPT-3 har väckt ett utan motstycke intresse med över 100 miljoner aktiva användare per månad.

Konsumenter och organisationer erkänner båda hur framstegen inom konversations-AI potentiellt kan transformera nästan varje aspekt av våra personliga liv och professionella interaktioner. ChatGPT-3:s avancerade tillämpning av djupinlärning genererar övertygande mänskliga konversationer med imponerande resultat. I nyliga tester klarade ChatGPT-3 den amerikanska medicinska licensexamen och en MBA-examen från en av de mest prestigefyllda handelshögskolorna.

Fördelarna med konversations-AI är enorma, så mycket att Microsoft har investerat 10 miljarder dollar i Open AI för att påskynda kommersiella tillämpningar av ChatGPT-3. Microsoft avser att “superladda” sina produkter med ChatGPT-3:s konversationsförmågor.

Irrationell entusiasm

Men låt oss ta ett djupt andetag innan vi låter sådan transformerande teknik få försprång. Dess potentiella nytta till trots är ChatGPT-3 fortfarande i ett tidigt skede med, medgivet, många ofullkomligheter. Vår entusiasm kan visa sig vara förhastad. I avsaknad av meningsfull analys kan en obehindrad adoption av konversations-AI utan regulatoriska skydd och mänsklig tillsyn kunna leda oss in i en dystopisk värld, förutspådd av den engelske romanförfattaren Aldous Huxley. För mycket tillit till teknik utan förståelse för dess socioekonomiska effekter kan ha allvarliga, om än oavsiktliga, konsekvenser, såsom sysselsättning, utbildning, inkludering och rättvisa.

Efter allt, medan Chat-GPT-3 är ett steg framåt, baseras dess “kognitiva” förmågor på förutvarande datamängder, med inbyggda fördomar som kan förstärkas och resultera i en mängd potentiella skador. ChatGPT-3 har en “mörk sida” som bör vara orsak till oro och trycka på pausknappen innan ytterligare spridning av sådan konsekvensfull teknik.

Risk eller möjlighet?

Det behövs en avvägning av riskerna förknippade med tillämpningen av konversations-AI och dess potentiella möjligheter. Om den används på ett genomtänkt sätt, med meningsfull reglering av AI som överväger en riskbaserad approach med robust tillsyn, kan de potentiella fördelarna med konversations-AI förverkligas. Den bör användas som ett mänskligt centrerat partnerskap med konversations-AI-applikationer som berikar arbetsplatsupplevelsen. Liksom alla innovationer som har gått före det har AI potentialen att skapa behov av nya färdigheter och göra vissa jobb mer givande.

Vad är lagstiftarens roll?

Demokratiseringen av AI-teknik innebär att offentliga myndigheter måste ta en proaktiv roll i att reglera dess användning. Rädslan för disruptiva innovationer är verklig. Trots sin duglighet är artificiell intelligens fortfarande beroende av människor, antingen för att använda den eller reglera den. Det måste finnas en pilot i förarsätet, vi vet bara inte exakt vilken kurs han är på väg mot ännu. Det finns en ökad momentum för omfattande AI-reglering, främst utkastet till EU:s artificiella intelligenslag. Med den potentiella allomfattande antagandet av konversations-AI, såsom ChatGPT-3, växer momentum för mer rigorös reglering och styrning med EU för att säkerställa att åtgärder införs som skulle förbjuda specifika tillämpningar av konversations-AI som anses kränka grundläggande mänskliga rättigheter.