AI in boj proti tehnofobiji

Ko gre za Generative AI in modele velikih jezikov, kot je ChatGPT. Navdušenje nad AI se meša s tehnofobijo. To je naravno za širšo javnost: radi imajo nove vznemirljive stvari, a se bojijo neznanega. Novost je, da je več uglednih znanstvenikov postalo tehnoskeptikov, če že ne tehnofobikov. Primer znanstvenikov in industrialcev, ki so zahtevali šestmesečno prepoved raziskav umetne inteligence, ali skepticizem vrhunskega znanstvenika umetne inteligence prof. A. Hintona sta takšna primera. Edini sorodni zgodovinski ekvivalent, ki se ga lahko spomnim, je kritika atomskih in jedrskih bomb s strani dela znanstvene skupnosti med hladno vojno. Na srečo je človeštvu uspelo rešiti te skrbi na precej zadovoljiv način.

Seveda ima vsakdo pravico dvomiti o trenutnem stanju AI:

• Nihče ne ve, zakaj veliki jezikovni modeli delujejo tako dobro in ali imajo omejitev.
• Prežijo številne nevarnosti, da slabi fantje ustvarijo 'bombe AI', zlasti če države ostanejo pasivne opazovalke v smislu predpisov.

To so upravičeni pomisleki, ki spodbujajo strah pred neznanim, tudi pri uglednih znanstvenikih. Navsezadnje so tudi sami ljudje.

Vendar, ali se lahko raziskave umetne inteligence ustavijo celo začasno? Po mojem mnenju ne, saj je umetna inteligenca odgovor človeštva na globalno družbo in fizični svet vedno večje kompleksnosti. Ker so procesi povečanja fizične in družbene kompleksnosti zelo globoki in se zdijo neizprosni, sta umetna inteligenca in morfoza državljanov naše edino upanje za nemoten prehod iz sedanje informacijske družbe v družbo znanja. V nasprotnem primeru se lahko soočimo s katastrofalno družbeno implozijo.

Rešitev je poglobiti naše razumevanje napredka umetne inteligence, pospešiti njen razvoj, urediti njeno uporabo v smeri maksimiranja njenega pozitivnega učinka, hkrati pa minimizirati že očitne in druge skrite negativne učinke. Raziskave umetne inteligence lahko in morajo postati drugačne: bolj odprte, demokratične, znanstvene in etične. Tukaj je predlagani seznam točk v ta namen:

• Prvo besedo o pomembnih raziskovalnih vprašanjih umetne inteligence, ki imajo daljnosežen družbeni vpliv, je treba prenesti na izvoljene parlamente in vlade, ne pa na korporacije ali posamezne znanstvenike.
• Treba je storiti vse, da bi olajšali raziskovanje pozitivnih vidikov umetne inteligence v družbenem in finančnem napredku ter zmanjšali njene negativne vidike.
• Pozitiven vpliv sistemov umetne inteligence lahko močno odtehta njihove negativne vidike, če se sprejmejo ustrezni regulativni ukrepi. Tehnofobija ni niti upravičena niti ni rešitev.
• Po mojem mnenju največja trenutna grožnja izvira iz dejstva, da lahko takšni sistemi umetne inteligence na daljavo zavedejo preveč običajnih ljudi, ki imajo nizko (ali povprečno) izobrazbo in/ali malo preiskovalnih zmogljivosti. To je lahko izjemno nevarno za demokracijo in kakršno koli obliko družbeno-ekonomskega napredka.
• V bližnji prihodnosti bi se morali zoperstaviti veliki grožnji, ki prihaja iz uporabe LLM in/ali CAN v nezakonitih dejavnostih (goljufanje na univerzitetnih izpitih je precej benigna uporaba v prostoru povezanih kriminalnih možnosti).
• Njihov vpliv na delo in trge bo srednjeročno zelo pozitiven.
• Glede na zgoraj navedeno bi morali sistemi umetne inteligence: a) mednarodno pravo zahtevati registracijo v „registru sistemov umetne inteligence“ in b) obveščati svoje uporabnike, da se pogovarjajo s sistemom umetne inteligence ali uporabljajo rezultate sistema.
• Ker imajo sistemi umetne inteligence ogromen družbeni vpliv in v smeri maksimiranja koristi in družbeno-ekonomskega napredka, bi morale napredne ključne sistemske tehnologije umetne inteligence postati odprte.
• Podatke, povezane z umetno inteligenco, je treba (vsaj delno) demokratizirati, spet v smeri maksimiranja koristi in družbeno-ekonomskega napredka.
• Za prvake v tehnologiji umetne inteligence je treba predvideti ustrezne močne sheme finančnih nadomestil, da bi nadomestili kakršno koli izgubo dobička zaradi omenjene odprtosti in zagotovili močne prihodnje naložbe v raziskave in razvoj umetne inteligence (npr. s patentiranjem tehnologije, shemami obveznega licenciranja).
• Raziskovalno ravnovesje umetne inteligence med akademskim svetom in industrijo bi bilo treba ponovno razmisliti, da bi povečali rezultate raziskav, hkrati pa ohranili konkurenčnost in dodelili nagrade za prevzeta tveganja v zvezi z raziskavami in razvojem.
• Izobraževalne prakse bi bilo treba ponovno preučiti na vseh ravneh izobraževanja, da bi povečali koristi tehnologij umetne inteligence, hkrati pa ustvarili novo vrsto ustvarjalnih in prilagodljivih državljanov in (AI) znanstvenikov.
• Treba je ustvariti in okrepiti ustrezne regulativne/nadzorne/financirne mehanizme umetne inteligence, da se zagotovi zgoraj navedeno.

Več takšnih točk je podrobno obravnavanih v moji nedavni knjigi 4. zvezka z naslovom 'AI Science and Society', zlasti v zvezkih A (prepisan maja 2023, da pokrije LLM in umetno splošno inteligenco) in C.

Reference knjig:

Znanost o umetni inteligenci in družba, del A: Uvod v znanost o umetni inteligenci in informacijsko tehnologijo

Umetna inteligenca Znanost in družba Del C: AI Znanost in družba