AI och kampen mot teknofobi

När det gäller Generative AI och Large Language Models, som ChatGPT, är AI-entusiasmen blandad med teknofobi. Detta är naturligt för allmänheten: de gillar nya spännande saker, men de är rädda för det okända. Den nya saken är att flera framstående forskare har blivit teknoskeptiker, om inte teknofobiska. Fallet med forskare och industriledare som begär en sex månaders paus i AI-forskning, eller skepticismen från den främsta AI-forskaren Prof. A. Hinton, är sådana exempel. Det enda relaterade historiska motsvarigheten jag kan komma ihåg är kritiken av atom- och kärnvapen från en del av den vetenskapliga gemenskapen under det kalla kriget. Lyckligtvis lyckades mänskligheten hantera dessa problem på ett ganska tillfredsställande sätt.

Naturligtvis har alla rätt att ifrågasätta den nuvarande AI-situationen:

• Ingen vet varför Large Language Models fungerar så bra och om de har en gräns.
• Många faror som de dåliga killarna skapar “AI-bomber” lurar, särskilt om staterna förblir passiva åskådare när det gäller regleringar.

Dessa är legitima farhågor som bränsle för rädslan för det okända, även för framstående forskare. Efter allt är de själva människor.

Men kan AI-forskning stoppas, även tillfälligt? Enligt min åsikt, nej, eftersom AI är mänsklighetens svar på ett globalt samhälle och en fysisk värld med ökande komplexitet. Eftersom de fysiska och sociala komplexitetsprocesserna är mycket djupa och tycks vara obönhörliga, är AI och medborgaromvandling vår enda hopp om en smidig övergång från det nuvarande informationsamhället till ett kunskapssamhälle. Annars kan vi stå inför en katastrofal social implosion.

Lösningen är att fördjupa vår förståelse av AI-framsteg, påskynda dess utveckling, reglera dess användning för att maximera dess positiva inverkan, samtidigt som vi minimerar de redan uppenbara och andra dolda negativa effekterna. AI-forskning kan och bör bli annorlunda: mer öppen, demokratisk, vetenskaplig och etisk. Här är en föreslagen lista med punkter för detta ändamål:

• Det första ordet om viktiga AI-forskningsfrågor som har långtgående social inverkan bör delegeras till valda parlament och regeringar, snarare än till företag eller enskilda forskare.
• Varje ansträngning bör göras för att underlätta utforskningen av AI:s positiva aspekter i social och ekonomisk utveckling och för att minimera dess negativa aspekter.
• AI-systemens positiva inverkan kan vida överväga deras negativa aspekter, om lämpliga regleringsåtgärder vidtas. Teknofobi är varken berättigad eller en lösning.
• Enligt min åsikt utgör den största nuvarande hotet det faktum att sådana AI-system kan på avstånd bedra alltför många vanliga människor som har lite (eller genomsnittlig) utbildning och/eller liten utredningsförmåga. Detta kan vara extremt farligt för demokrati och alla former av socioekonomisk utveckling.
• I närtid bör vi motverka det stora hotet som kommer från LLM och/eller CAN-användning i olagliga aktiviteter (fusk i universitetsexamen är ett ganska harmlöst användningsområde i förhållande till de relaterade kriminella möjligheterna).
• Deras inverkan på arbete och marknader kommer att vara mycket positiv på medellång sikt.
• Med tanke på ovanstående bör AI-system: a) krävas av internationell lag att registreras i ett “AI-systemregister”, och b) meddela sina användare att de samtalade med eller använde resultaten från ett AI-system.
• Som AI-system har en enorm samhällelig inverkan, och för att maximera fördelarna och socioekonomiska framstegen, bör avancerade nyckel-AI-systemteknologier bli öppna.
• AI-relaterade data bör (åtminstone delvis) demokratiseras, återigen för att maximera fördelarna och socioekonomiska framstegen.
• Lämpliga starka finansiella kompensationsystem måste förutses för AI-teknologiska championer för att kompensera eventuella förluster, på grund av den ovannämnda öppenheten, och för att säkerställa starka framtida investeringar i AI-forskning och utveckling (t.ex. genom teknologipatent, obligatoriska licensieringssystem).
• AI-forskningsbalansen mellan akademi och industri bör omprövas för att maximera forskningsutbudet, samtidigt som man upprätthåller konkurrenskraft och belönar de risker som tagits för forskning och utveckling.
• Utbildningspraxis bör ses över på alla utbildningsnivåer för att maximera fördelarna med AI-teknologier, samtidigt som man skapar en ny generation av kreativa och anpassningsbara medborgare och (AI)-forskare.
• Lämpliga AI-reglerings-/tillsyns-/finansieringsmekanismer bör skapas och stärkas för att säkerställa ovanstående.

Flera sådana punkter behandlas i detalj i min senaste bok, en 4-volymers bok om “AI Science and Society”, särskilt i volym A (omskriven i maj 2023 för att täcka LLM och Artificiell Allmän Intelligens) och C.

Bokreferenser:

Artificiell Intelligens Vetenskap och Samhälle Del A: Introduktion till AI-vetenskap och informationsteknologi

Artificiell Intelligens Vetenskap och Samhälle Del C: AI-vetenskap och samhälle