AI og kampen mot teknofobi

Når det gjelder Generative AI og Large Language Models, som ChatGPT, er AI-entusiasmen blandet med teknofobi. Dette er naturlig for allmennheten: de liker nye spennende ting, men de er redd for det ukjente. Det nye er at flere fremtredende vitenskapsmenn selv har blitt teknoskeptikere, hvis ikke teknofobiske. Saken med vitenskapsmenn og industrialister som ber om en seks måneders pause i AI-forskning, eller skeptisismen til topp AI-vitenskapsmann Prof. A. Hinton, er slike eksempler. Det eneste relaterte historiske ekvivalent jeg kan huske, er kritikken av atom- og hydrogenbomber av en del av vitenskapsmiljøet under den kalde krigen. Heldigvis klarte menneskeheten å håndtere disse bekymringene på en ganske tilfredsstillende måte.

Selvfølgelig har alle rett til å spørre om den nåværende tilstanden i AI-saker:

• Ingen vet hvorfor Large Language Models fungerer så bra og om de har en grense.
• Mange farer som de dårlige guttene skaper ‘AI-bomber’ lurer, spesielt hvis statene forblir passive tilskuere, når det gjelder reguleringer.

Disse er legitime bekymringer som fyller frykten for det ukjente, selv til fremtredende vitenskapsmenn. Etter all, de er mennesker selv.

Men kan AI-forskning stoppe, selv midlertidig? Ifølge min mening, nei, fordi AI er menneskehetens svar på et globalt samfunn og en fysisk verden med økende kompleksitet. Ettersom de fysiske og sosiale kompleksitetsprosessene er dyptgående og synes å være uavvendelige, er AI og borger-morfosen vår eneste håp for å ha en jevn overgang fra det nåværende informasjonssamfunnet til et kunnskapssamfunn. Ellers kan vi møte en katastrofal sosial implosjon.

Løsningen er å dykke dyptere inn i vår forståelse av AI-fremgang, å påskynde utviklingen, å regulere bruken mot å maksimere den positive effekten, samtidig som vi minimerer de allerede synlige og andre skjulte negative effektene. AI-forskning kan og bør bli annerledes: mer åpen, demokratisk, vitenskapelig og etisk. Her er en foreslått liste over punkter til dette formålet:

• Det første ordet om viktige AI-forskningsproblemer som har langtrekkende sosial innvirkning, bør overføres til valgte parlament og regjeringer, snarere enn til korporasjoner eller enkelte vitenskapsmenn.
• Hver innsats bør gjøres for å lette utforskningen av de positive aspektene ved AI i sosial og finansiell fremgang og å minimere de negative aspektene.
• Den positive effekten av AI-systemer kan være mye større enn deres negative aspekter, hvis riktige reguleringstiltak blir tatt. Teknofobi er hverken berettiget eller en løsning.
• Ifølge min mening, kommer den største nåværende trusselen fra det faktum at slike AI-systemer kan narre for mange vanlige mennesker som har lite (eller gjennomsnittlig) utdanning og/eller lite undersøkende evne. Dette kan være ekstremt farlig for demokrati og enhver form for sosioøkonomisk fremgang.
• I nær fremtid bør vi motvirke den store trusselen som kommer fra LLM og/eller CAN-bruk i ulovlige aktiviteter (juks i universitets eksamener er en ganske harmløs bruk i rommet av de relaterte kriminelle mulighetene).
• Deres innvirkning på arbeid og markeder vil være svært positiv, på medium-lange sikt.
• I henhold til ovenstående, bør AI-systemer: a) være påkrevd av internasjonale lover til å bli registrert i en ‘AI-system-registrer’, og b) varsle brukerne om at de samtaler med eller bruker resultater fra et AI-system.
• Siden AI-systemer har stor sosial innvirkning, og mot å maksimere fordel og sosioøkonomisk fremgang, bør avanserte nøkkel AI-systemteknologier bli åpne.
• AI-relatert data bør (i det minste delvis) demokratiseres, igjen mot å maksimere fordel og sosioøkonomisk fremgang.
• Riktige sterke finansielle kompensasjonsskjemaer må bli forutsett for AI-teknologikjempene til å kompensere eventuelle profitttap, på grunn av ovennevnte åpenhet og å sikre sterke fremtidige investeringer i AI-forskning og utvikling (f.eks. gjennom teknologipatenter, obligatoriske lisensordninger).
• AI-forskningsbalansen mellom akademia og industri bør bli omtenkt for å maksimere forskningsutbytte, samtidig som konkurranse og belønninger for tatt forskningsrisiko blir opprettholdt.
• Utdannelsespraksis bør bli revurdert på alle utdannelsesnivåer for å maksimere fordelene av AI-teknologier, samtidig som en ny generasjon av kreative og tilpasningsdyktige borgere og (AI)-vitenskapsmenn blir skapt.
• Riktige AI-regulerings-/tilsyns-/finansieringsmekanismer bør bli skapt og styrket for å sikre ovenstående.

Flere slike punkter blir behandlet i detalj i min nylige 4-binds bok om ‘AI-vitenskap og samfunn’, spesielt i bind A (omskrevet i mai 2023 for å dekke LLM og kunstig generell intelligens) og C.

Bokreferanser:

Artificial Intelligence Science and Society Del A: Innføring i AI-vitenskap og informasjonsteknologi

Artificial Intelligence Science and Society Del C: AI-vitenskap og samfunn