AI och kampen mot teknofobi

När det gäller generativ AI och stora språkmodeller, som ChatGPT, är AI-entusiasmen blandad med teknofobi. Detta är naturligt för allmänheten: de gillar nya spännande saker, men de är rädda för det okända. Den nya saken är att flera framstående forskare har blivit teknoskeptiker, om inte teknofobiska. Fallet med forskare och industriledare som begär en sex månaders paus i AI-forskning, eller skepticismen från den främsta AI-forskaren Prof. A. Hinton, är sådana exempel. Det enda relaterade historiska motsvarigheten jag kan komma ihåg är kritiken av atom- och kärnvapen från en del av den vetenskapliga gemenskapen under det kalla kriget. Lyckligtvis lyckades mänskligheten hantera dessa problem på ett ganska tillfredsställande sätt.

Naturligtvis har alla rätt att ifrågasätta den nuvarande AI-situationen:

• Ingen vet varför stora språkmodeller fungerar så bra och om de har en gräns.
• Det finns många faror med att illvilliga aktörer kan skapa “AI-bomber”, särskilt om staterna förblir passiva åskådare i regleringsfrågor.

Detta är legitima farhågor som underblåser rädslan för det okända, även för framstående forskare. De är trots allt också människor.

Men kan AI-forskning stoppas, även tillfälligt? Enligt min åsikt, nej, eftersom AI är mänsklighetens svar på ett globalt samhälle och en fysisk värld med ökande komplexitet. Eftersom de fysiska och sociala komplexitetsprocesserna är mycket djupa och tycks vara obönhörliga, är AI och medborgarnas bildning vårt enda hopp om en smidig övergång från det nuvarande informationsamhället till ett kunskapssamhälle. Annars kan vi stå inför en katastrofal social implosion.

Lösningen är att fördjupa vår förståelse av AI-framsteg, påskynda dess utveckling, reglera dess användning för att maximera dess positiva inverkan, samtidigt som vi minimerar de redan uppenbara och andra dolda negativa effekterna. AI-forskning kan och bör bli annorlunda: mer öppen, demokratisk, vetenskaplig och etisk. Här är en föreslagen lista med punkter för detta ändamål:

• Det avgörande ordet i viktiga AI-forskningsfrågor som har långtgående social inverkan bör delegeras till valda parlament och regeringar, snarare än till företag eller enskilda forskare.
• Varje ansträngning bör göras för att underlätta utforskningen av AI:s positiva aspekter i social och ekonomisk utveckling och för att minimera dess negativa aspekter.
• AI-systemens positiva inverkan kan vida uppväga deras negativa aspekter, om lämpliga regleringsåtgärder vidtas. Teknofobi är varken berättigad eller en lösning.
• Enligt min åsikt utgör det största nuvarande hotet det faktum att sådana AI-system kan på avstånd bedra alltför många vanliga människor som har lite (eller genomsnittlig) utbildning och/eller liten utredningsförmåga. Detta kan vara extremt farligt för demokrati och alla former av socioekonomisk utveckling.
• I närtid bör vi motverka det stora hotet som kommer från LLM och/eller CAN-användning i olagliga aktiviteter (fusk i universitetsexamen är ett ganska harmlöst användningsområde i förhållande till de relaterade kriminella möjligheterna).
• Deras inverkan på arbete och marknader kommer att vara mycket positiv på medellång och lång sikt.
• Med tanke på ovanstående bör AI-system: a) krävas av internationell lag att registreras i ett “AI-systemregister”, och b) meddela sina användare att de samtalar med eller använder resultaten från ett AI-system.
• Eftersom AI-system har en enorm samhällelig inverkan, och för att maximera fördelarna och socioekonomiska framstegen, bör avancerade nyckel-AI-systemteknologier bli öppna.
• AI-relaterade data bör (åtminstone delvis) demokratiseras, återigen för att maximera fördelarna och socioekonomiska framstegen.
• Lämpliga starka finansiella kompensationssystem måste förutses för pionjärer inom AI-teknik för att kompensera eventuella förluster, på grund av den ovannämnda öppenheten, och för att säkerställa starka framtida investeringar i AI-forskning och utveckling (t.ex. genom teknologipatent, obligatoriska licensieringssystem).
• AI-forskningsbalansen mellan akademi och industri bör omprövas för att maximera forskningsresultaten, samtidigt som man upprätthåller konkurrenskraft och belönar de risker som tagits för forskning och utveckling.
• Utbildningspraxis bör ses över på alla utbildningsnivåer för att maximera fördelarna med AI-teknologier, samtidigt som man skapar en ny generation av kreativa och anpassningsbara medborgare och (AI)-forskare.
• Lämpliga AI-reglerings-/tillsyns-/finansieringsmekanismer bör skapas och stärkas för att säkerställa ovanstående.

Flera sådana punkter behandlas i detalj i min senaste bok, en 4-volymers bok om “AI Science and Society”, särskilt i volym A (omskriven i maj 2023 för att täcka LLM och Artificiell Allmän Intelligens) och C.

Bokreferenser:

Artificiell Intelligens Vetenskap och Samhälle Del A: Introduktion till AI-vetenskap och informationsteknologi

Artificiell Intelligens Vetenskap och Samhälle Del C: AI-vetenskap och samhälle