AI og kampen mod teknofobi

Når det kommer til Generative AI og Large Language Models, som ChatGPT, er AI-entusiasmen blandet med teknofobi. Dette er naturligt for den brede offentlighed: de kan lide nye spændende ting, men de er bange for det ukendte. Det nye er, at flere fremtrædende videnskabsmænd selv er blevet teknisk-skeptiske, hvis ikke teknofobiske. Faldet med videnskabsmænd og industrialister, der beder om en seks måneders forbud på AI-forskning, eller skeptikeren hos top-AI-videnskabsmanden Prof. A. Hinton, er sådanne eksempler. Det eneste relaterede historiske ekvivalent, jeg kan huske, er kritikken af atom- og kernevåben af en del af det videnskabelige samfund under den kolde krig. Heldigvis lykkedes det menneskeheden at tackle disse bekymringer på en ret tilfredsstillende måde.

Selvfølgelig har alle ret til at stille spørgsmål ved den nuværende tilstand af AI-anliggender:

• Ingens ved, hvorfor Large Language Models fungerer så godt og om de har en grænse.
• Mange farer, som de dårlige folk skaber ‘AI-bomber’, lurer, især hvis staterne forbliver passive tilskuere, når det kommer til reguleringer.

Disse er legitime bekymringer, der føder frygten for det ukendte, selv hos fremtrædende videnskabsmænd. Til sidst er de selv mennesker.

Men kan AI-forskning stoppe, selv midlertidigt? Ifølge min mening, nej, da AI er menneskehedens svar på et globalt samfund og en fysisk verden med stigende kompleksitet. Da processerne med øget fysisk og social kompleksitet er meget dybe og synes uafvendelige, er AI og borger-morfosen vores eneste håb for en smidig overgang fra det nuværende informations-samfund til et viden-samfund. Ellers kan vi risikere en katastrofal social implosion.

Løsningen er at dykke dybere i vores forståelse af AI-fremgang, accelerere udviklingen, regulere brugen til at maksimere den positive effekt, mens vi minimiserer de allerede synlige og andre skjulte negative effekter. AI-forskning kan og bør blive anderledes: mere åben, demokratisk, videnskabelig og etisk. Her er en foreslået liste af punkter til dette formål:

• Det første ord om vigtige AI-forsknings-emner, der har langtrækkende social impact, bør overdrages til valgte parlamenter og regeringer, snarere end til virksomheder eller enkelte videnskabsmænd.
• Enhver indsats bør gøres for at lette udforskningen af de positive aspekter af AI i social og finansielle fremskridt og minimere dens negative aspekter.
• Den positive effekt af AI-systemer kan langt overveje deres negative aspekter, hvis der tages passende reguleringer. Teknofobi er hverken berettiget eller en løsning.
• Ifølge min mening kommer den største nuværende trussel fra, at sådanne AI-systemer kan fjern-deceive mange almindelige mennesker, der har lidt (eller gennemsnitlig) uddannelse og/eller lidt undersøgelseskapacitet. Dette kan være ekstremt farligt for demokrati og enhver form for socio-økonomisk fremskridt.
• I den nære fremtid bør vi imødegå den store trussel, der kommer fra LLM og/eller CAN-brug i ulovlige aktiviteter (svindel i universitets-eksamener er en ret harmløs brug i rummet af de relaterede kriminelle muligheder).
• Deres impact på arbejdsmarkedet og markedet vil være meget positiv i det medium-lange løb.
• Med hensyn til ovenstående bør AI-systemer: a) kræves af international lovgivning at blive registreret i en ‘AI-system-registrer’, og b) underrette deres brugere om, at de kommunikerer med eller bruger resultaterne af et AI-system.
• Som AI-systemer har en enorm samfundsmæssig impact, og med henblik på at maksimere fordel og socio-økonomisk fremskridt, bør avancerede nøgle-AI-system-teknologier blive åbne.
• AI-relaterede data bør (i hvert fald delvis) demokratiseres, igen med henblik på at maksimere fordel og socio-økonomisk fremskridt.
• Passende stærke finansielle kompensationsordninger bør være forudset for AI-teknologiske mestre for at kompensere enhver profit-tab, på grund af den nævnte åbenhed, og for at sikre stærke fremtidige investeringer i AI-forskning og udvikling (f.eks. gennem teknologi-patentering, obligatoriske licensordninger).
• AI-forsknings-balancen mellem akademiet og industrien bør omovervejes for at maksimere forskningsoutput, mens man opretholder konkurrenceevne og giver belønninger for påtaget forsknings-risiko.
• Uddannelsespraksis bør gennemgås på alle uddannelsesniveauer for at maksimere fordelene af AI-teknologier, mens man skaber en ny type kreative og tilpasningsdygtige borgere og (AI)-videnskabsmænd.
• Passende AI-regulerings-/tilsyns-/finansierings-mekanismer bør oprettes og styrkes for at sikre ovenstående.

Flere af disse punkter behandles i detaljer i min nyeste 4-binds bog om ‘AI Science and Society’, især i bind A (gen-skrevet i maj 2023 for at dække LLM’er og kunstig generel intelligens) og C.

Bog-referencer:

Artificial Intelligence Science and Society Del A: Introduktion til AI-videnskab og informations-teknologi

Artificial Intelligence Science and Society Del C: AI-videnskab og samfund