Tankeledere
AI og kampen mot teknofobi
Når det gjelder Generative AI og Large Language Models, som ChatGPT. AI-entusiasme er blandet med teknofobi. Dette er naturlig for allmennheten: de liker nye spennende ting, men de er redde for det ukjente. Det nye er at flere fremtredende forskere ble selv teknoskeptikere, om ikke teknofobe. Saken med forskerne og industrimennene som ber om et seks måneders forbud mot AI-forskning, eller skepsisen til den fremste AI-forskeren Prof. A. Hinton, er slike eksempler. Den eneste relaterte historiske ekvivalenten jeg kan huske, er kritikken av atom- og atombomber fra en del av det vitenskapelige samfunnet under den kalde krigen. Heldigvis klarte menneskeheten å løse disse bekymringene på en ganske tilfredsstillende måte.
Selvfølgelig har alle rett til å stille spørsmål ved den nåværende tilstanden til AI-saker:
- Ingen vet hvorfor store språkmodeller fungerer så bra og om de har en grense.
- Mange farer for at skurkene lager 'AI-bomber' lurer, spesielt hvis statene forblir passive tilskuere, når det gjelder forskrifter.
Dette er legitime bekymringer som gir næring til frykten for det ukjente, selv for fremtredende forskere. De er tross alt mennesker selv.
Men kan AI-forskning stoppe selv midlertidig? Etter mitt syn, nei, ettersom AI er menneskehetens svar på et globalt samfunn og en fysisk verden med stadig økende kompleksitet. Ettersom prosessene for å øke fysisk og sosial kompleksitet er veldig dype og tilsynelatende nådeløse, er AI og borgermorfose vårt eneste håp om å få en jevn overgang fra dagens informasjonssamfunn til et kunnskapssamfunn. Ellers kan vi møte en katastrofal sosial implosjon.
Løsningen er å utdype vår forståelse av AI-fremskritt, fremskynde utviklingen, regulere bruken for å maksimere den positive effekten, samtidig som de allerede synlige og andre skjulte negative effektene minimeres. AI-forskning kan og bør bli annerledes: mer åpen, demokratisk, vitenskapelig og etisk. Her er en foreslått liste over punkter for dette formål:
- Det første ordet om viktige AI-forskningsspørsmål som har vidtrekkende sosial innvirkning bør delegeres til valgte parlamenter og regjeringer, snarere enn til selskaper eller individuelle forskere.
- Alt bør gjøres for å lette utforskningen av de positive aspektene ved AI i sosial og økonomisk fremgang og for å minimere negative aspekter.
- Den positive virkningen av AI-systemer kan i stor grad oppveie deres negative aspekter, hvis det tas riktige regulatoriske tiltak. Teknofobi er verken berettiget, eller er en løsning.
- Etter mitt syn kommer den største trusselen nå fra det faktum at slike AI-systemer eksternt kan lure for mange vanlige mennesker som har liten (eller gjennomsnittlig) utdanning og/eller liten etterforskningskapasitet. Dette kan være ekstremt farlig for demokratiet og enhver form for sosioøkonomisk fremgang.
- I nær fremtid bør vi motvirke den store trusselen som kommer fra LLM og/eller CAN-bruk i ulovlige aktiviteter (juks i universitetseksamener er en ganske godartet bruk i forhold til de relaterte kriminelle mulighetene).
- Deres innvirkning på arbeidskraft og markeder vil være svært positiv på mellomlang sikt.
- I lys av ovenstående bør AI-systemer: a) være pålagt i henhold til internasjonal lov å være registrert i et 'AI-systemregister', og b) varsle brukerne om at de snakker med eller bruker resultatene av et AI-system.
- Ettersom AI-systemer har stor samfunnsmessig innvirkning, og for å maksimere fordeler og sosioøkonomisk fremgang, bør avanserte nøkkelteknologier for AI-system bli åpne.
- AI-relaterte data bør (i det minste delvis) demokratiseres, igjen for å maksimere nytte og sosioøkonomisk fremgang.
- Riktige, sterke økonomiske kompensasjonsordninger må forutses for AI-teknologimestere for å kompensere ethvert fortjenestetap, på grunn av den forutnevnte åpenheten og for å sikre sterke fremtidige investeringer i AI FoU (f.eks. gjennom teknologipatentering, obligatoriske lisensieringsordninger).
- AI-forskningsbalansen mellom akademia og industri bør revurderes for å maksimere forskningsresultatet, samtidig som konkurranseevnen opprettholdes og belønning for påtatte FoU-risikoer.
- Utdanningspraksis bør revurderes på alle utdanningsnivåer for å maksimere fordelene av AI-teknologier, samtidig som det skapes en ny rase av kreative og tilpasningsdyktige innbyggere og (AI)-forskere.
- Riktige AI-regulerings-/tilsyns-/finansieringsmekanismer bør opprettes og styrkes for å sikre det ovennevnte.
Flere slike punkter er behandlet i detalj i min siste bok 4 bind om 'AI Science and Society', spesielt i bind A (omskrevet i mai 2023 for å dekke LLM og kunstig generell intelligens) og C.
Bokreferanser:
Artificial Intelligence Science and Society Del C: AI Science and Society
