Tankeledere

AI og kampen mot teknofobi

Prof. Ioannis Pitas
Legg til Unite.AI blant dine foretrukne kilder på Google
Viktige punkterAI-forskning kan ikke stanse fordi den er menneskehetens eneste håp for å håndtere…
Vis mer
  • AI-forskning kan ikke stanse fordi den er menneskehetens eneste håp for å håndtere økende global kompleksitet.
  • Den største trusselen fra AI er dens evne til å lure dårlig utdannede borgere og undergrave demokratiet.
  • AI-systemer bør registreres ved internasjonal lov og må varsle brukere når de samhandler med AI.

Når det gjelder generativ AI og store språkmodeller, som ChatGPT, er AI-entusiasmen blandet med teknofobi. Dette er naturlig for allmennheten: de liker nye spennende ting, men de er redde for det ukjente. Det nye er at flere fremtredende vitenskapsmenn selv har blitt teknoskeptikere, hvis ikke teknofobiske. Saken med vitenskapsmenn og industrialister som ber om en seks måneders pause i AI-forskning, eller skeptisismen til topp AI-vitenskapsmann Prof. A. Hinton, er slike eksempler. Det eneste relaterte historiske ekvivalent jeg kan huske, er kritikken av atom- og kjernevåpen av en del av vitenskapsmiljøet under den kalde krigen. Heldigvis klarte menneskeheten å håndtere disse bekymringene på en ganske tilfredsstillende måte.

Selvfølgelig har alle rett til å spørre om den nåværende tilstanden i AI-saker:

  • Ingen vet hvorfor store språkmodeller fungerer så bra og om de har en grense.
  • Det lurer mange farer ved at ondsinnede aktører kan skape «AI-bomber», særlig dersom statene forblir passive tilskuere når det gjelder regulering.

Disse er legitime bekymringer som forsterker frykten for det ukjente, selv til fremtredende vitenskapsmenn. De er tross alt også mennesker.

Men kan AI-forskning stoppe, selv midlertidig? Ifølge min mening, nei, fordi AI er menneskehetens svar på et globalt samfunn og en fysisk verden med økende kompleksitet. Ettersom de fysiske og sosiale kompleksitetsprosessene er dyptgående og synes å være uavvendelige, er AI og borgernes dannelse vårt eneste håp for å ha en jevn overgang fra det nåværende informasjonssamfunnet til et kunnskapssamfunn. Ellers kan vi møte en katastrofal sosial implosjon.

Løsningen er å dykke dyptere inn i vår forståelse av AI-fremgang, å påskynde utviklingen, å regulere bruken mot å maksimere den positive effekten, samtidig som vi minimerer de allerede synlige og andre skjulte negative effektene. AI-forskning kan og bør bli annerledes: mer åpen, demokratisk, vitenskapelig og etisk. Her er en foreslått liste over punkter til dette formålet:

  • Det avgjørende ordet i viktige AI-forskningsspørsmål som har langtrekkende sosial innvirkning, bør overføres til valgte parlament og regjeringer, snarere enn til korporasjoner eller enkelte vitenskapsmenn.
  • Hver innsats bør gjøres for å lette utforskningen av de positive aspektene ved AI i sosial og finansiell fremgang og å minimere de negative aspektene.
  • Den positive effekten av AI-systemer kan være mye større enn deres negative aspekter, hvis riktige reguleringstiltak blir tatt. Teknofobi er hverken berettiget eller en løsning.
  • Ifølge min mening, kommer den største nåværende trusselen fra det faktum at slike AI-systemer kan narre altfor mange vanlige mennesker på avstand som har lite (eller gjennomsnittlig) utdanning og/eller lite undersøkende evne. Dette kan være ekstremt farlig for demokrati og enhver form for sosioøkonomisk fremgang.
  • I nær fremtid bør vi motvirke den store trusselen som kommer fra LLM og/eller CAN-bruk i ulovlige aktiviteter (juks i universitetseksamener er en ganske harmløs bruk i rommet av de relaterte kriminelle mulighetene).
  • Deres innvirkning på arbeid og markeder vil være svært positiv, på mellomlang og lang sikt.
  • I henhold til ovenstående, bør AI-systemer: a) være påkrevd av internasjonale lover til å bli registrert i en ‘register over AI-systemer’, og b) varsle brukerne om at de samtaler med eller bruker resultater fra et AI-system.
  • Siden AI-systemer har stor sosial innvirkning, og mot å maksimere fordel og sosioøkonomisk fremgang, bør avanserte nøkkel AI-systemteknologier bli åpne.
  • AI-relatert data bør (i det minste delvis) demokratiseres, igjen mot å maksimere fordel og sosioøkonomisk fremgang.
  • Riktige sterke økonomiske kompensasjonsordninger må bli forutsett for pionerene innen AI-teknologi til å kompensere eventuelle profitttap, på grunn av ovennevnte åpenhet og å sikre sterke fremtidige investeringer i AI-forskning og utvikling (f.eks. gjennom teknologipatenter, obligatoriske lisensordninger).
  • AI-forskningsbalansen mellom akademia og industri bør vurderes på nytt for å maksimere forskningsutbytte, samtidig som konkurranse og belønninger for tatt forsknings- og utviklingsrisiko blir opprettholdt.
  • Utdannelsespraksis bør bli revurdert på alle utdannelsesnivåer for å maksimere fordelene av AI-teknologier, samtidig som en ny generasjon av kreative og tilpasningsdyktige borgere og (AI)-vitenskapsmenn blir skapt.
  • Riktige AI-regulerings-/tilsyns-/finansieringsmekanismer bør bli skapt og styrket for å sikre ovenstående.

Flere slike punkter blir behandlet i detalj i min nylige 4-binds bok om ‘AI-vitenskap og samfunn’, spesielt i bind A (omskrevet i mai 2023 for å dekke LLM og kunstig generell intelligens) og C.

Bokreferanser:

Artificial Intelligence Science and Society Del A: Innføring i AI-vitenskap og informasjonsteknologi

Artificial Intelligence Science and Society Del C: AI-vitenskap og samfunn

Prof. Ioannis Pitas (IEEE fellow, IEEE Distinguished Lecturer, EURASIP fellow) er professor ved Institutt for informatikk ved AUTH og direktør for laboratoriet for kunstig intelligens og informasjonsanalyse (AIIA). Han har vært gjesteprofessor ved flere universiteter. Han har publisert over 920 artikler, bidratt til 45 bøker innenfor hans interesseområder og redigert eller (co-)forfattet ytterligere 11 bøker om datavisjon og maskinlæring. Han er leder for International AI Doctoral Academy (AIDA).