Etik och teknik: Behöver AI en pilot i ledningen?

Sammanfattning: Framstegen inom konversations-AI-teknik kräver en noggrann avvägning av intressen som främjar innovation samtidigt som man mildrar potentiella skadliga effekter.

Lockelsen av konversations-AI

Lanseringen av ChatGPT-3 har väckt ett utan motstycke intresse med över 100 miljoner aktiva användare per månad.

Konsumenter och organisationer erkänner båda hur framstegen inom konversations-AI kan potentiellt förvandla nästan varje aspekt av våra personliga liv och professionella interaktioner. ChatGPT-3:s avancerade tillämpning av djupinlärning genererar övertygande mänskliga konversationer med imponerande resultat. I nyliga tester klarade ChatGPT-3 den amerikanska läkarexamen och en MBA-examen från en av de mest prestigefyllda handelshögskolorna.

Fördelarna med konversations-AI är enorma, så mycket att Microsoft har investerat 10 miljarder dollar i Open AI för att påskynda kommersiella tillämpningar av ChatGPT-3. Microsoft avser att “superchargera” sina produkter med ChatGPT-3:s konversationsförmåga.

Irrationell entusiasm

Men låt oss ta ett djupt andetag innan vi låter sådan transformerande teknik få försprång. Dess potentiella nytta till trots är ChatGPT-3 fortfarande i sin linda med, medgivet, många ofullkomligheter. Vår entusiasm kan visa sig vara förhastad. I avsaknad av meningsfull analys kan en obegränsad tillämpning av konversations-AI utan regulatoriska skydd och mänsklig tillsyn leda oss in i en dystopisk värld, förutspådd av den engelske romanförfattaren Aldous Huxley. För mycket tillit till teknik utan förståelse för dess socioekonomiska påverkan kan ha allvarliga, om än oavsiktliga, konsekvenser, såsom sysselsättning, utbildning, inklusivitet och rättvisa.

Efter allt, medan Chat-GPT-3 är ett steg framåt, baseras dess “kognitiva” förmågor på befintliga datamängder, med inbyggda fördomar som kan förstärkas och resultera i en mängd potentiella skador. ChatGPT-3 har en “mörk sida” som borde vara anledning till oro och trycka på pausknappen innan ytterligare spridning av sådan konsekvensfull teknik.

Risk eller möjlighet?

Det behövs en avvägning av riskerna förknippade med tillämpningen av konversations-AI och dess potentiella möjligheter. Om den används på ett genomtänkt sätt, med meningsfull reglering av AI som överväger en riskbaserad ansats med robust tillsyn, kan de potentiella fördelarna med konversations-AI förverkligas. Den bör användas som ett mänskligt centrerat partnerskap med konversations-AI-applikationer som berikar arbetsplatsupplevelsen. Liksom alla innovationer som har gått före det har AI potentialen att skapa behovet av nya färdigheter och göra vissa jobb mer givande.

Vad är lagstiftarens roll?

Demokratiseringen av AI-teknik innebär att offentliga myndigheter måste ta en proaktiv roll i att reglera deras användning. Rädslan förknippad med disruptiva innovationer är verklig. Trots dess duglighet förblir artificiell intelligens beroende av människor, antingen för att använda den eller för att reglera den. Det måste verkligen finnas en pilot i ledningen, vi vet bara inte exakt vilken kurs han är på väg mot ännu. Det finns en ökad momentum för omfattande AI-reglering, mest anmärkningsvärt, utkastet till EU:s artificiella intelligenslag. Med den potentiella allomfattande antagandet av konversations-AI, såsom ChatGPT-3, växer momentum för mer rigorös reglering och styrning med EU för att säkerställa att åtgärder införs som skulle förbjuda specifika tillämpningar av konversations-AI som anses kränka grundläggande mänskliga rättigheter.