Vođe misli
AI i borba protiv tehnofobije
Kada je riječ o Generativnoj umjetnoj inteligenciji i modelima velikih jezika, kao što je ChatGPT. Entuzijazam za umjetnom inteligencijom pomiješan je s tehnofobijom. To je prirodno za širu publiku: vole nove uzbudljive stvari, ali se boje nepoznatog. Novost je da je nekoliko istaknutih znanstvenika postalo tehnoskeptici, ako ne i tehnofobi. Slučaj znanstvenika i industrijalaca koji su tražili šestomjesečnu zabranu istraživanja umjetne inteligencije ili skepticizam vrhunskog znanstvenika umjetne inteligencije, prof. A. Hintona, takvi su primjeri. Jedini srodni povijesni ekvivalent kojeg se mogu sjetiti jest kritika atomskih i nuklearnih bombi od strane dijela znanstvene zajednice tijekom hladnog rata. Srećom, čovječanstvo je uspjelo riješiti ove probleme na prilično zadovoljavajući način.
Naravno, svatko ima pravo propitivati trenutno stanje AI:
- Nitko ne zna zašto veliki jezični modeli rade tako dobro i imaju li ograničenja.
- Mnoge opasnosti koje loši dečki stvaraju 'AI bombe' vrebaju, osobito ako države ostanu pasivni promatrači, u smislu propisa.
To su opravdane brige koje potiču strah od nepoznatog, čak i kod istaknutih znanstvenika. Uostalom, i sami su ljudi.
Međutim, može li se istraživanje umjetne inteligencije čak i privremeno zaustaviti? Po mom mišljenju, ne, budući da je umjetna inteligencija odgovor čovječanstva na globalno društvo i fizički svijet sve veće složenosti. Budući da su procesi povećanja fizičke i društvene složenosti vrlo duboki i naizgled neumoljivi, umjetna inteligencija i morfoza građana jedina su nam nada za nesmetan prijelaz iz sadašnjeg informacijskog društva u društvo znanja. Inače bismo se mogli suočiti s katastrofalnom društvenom implozijom.
Rješenje je produbiti naše razumijevanje napretka AI-ja, ubrzati njegov razvoj, regulirati njegovu upotrebu prema maksimiziranju pozitivnog utjecaja, a minimizirati već evidentne i druge skrivene negativne učinke. Istraživanje umjetne inteligencije može i treba postati drugačije: otvorenije, demokratičnije, znanstveno i etično. Evo predloženog popisa točaka u tu svrhu:
- Prvu riječ o važnim istraživačkim pitanjima umjetne inteligencije koja imaju dalekosežni društveni utjecaj trebalo bi delegirati izabranim parlamentima i vladama, a ne korporacijama ili pojedinačnim znanstvenicima.
- Treba uložiti sve napore kako bi se olakšalo istraživanje pozitivnih aspekata umjetne inteligencije u društvenom i financijskom napretku i smanjili njezini negativni aspekti.
- Pozitivan učinak sustava umjetne inteligencije može uvelike nadmašiti njihove negativne aspekte ako se poduzmu odgovarajuće regulatorne mjere. Tehnofobija nije opravdana, niti je rješenje.
- Po mom mišljenju, najveća trenutačna prijetnja dolazi od činjenice da takvi sustavi umjetne inteligencije mogu daljinski prevariti previše običnih ljudi koji imaju malo (ili prosječno) obrazovanje i/ili malo istraživačkih kapaciteta. To može biti iznimno opasno za demokraciju i svaki oblik društveno-ekonomskog napretka.
- U bliskoj budućnosti trebali bismo se suprotstaviti velikoj prijetnji koja dolazi od korištenja LLM-a i/ili CAN-a u ilegalnim aktivnostima (varanje na sveučilišnim ispitima je prilično benigna upotreba u prostoru povezanih kriminalnih mogućnosti).
- Njihov utjecaj na rad i tržišta bit će vrlo pozitivan, u srednjem i dugom roku.
- S obzirom na gore navedeno, sustavi umjetne inteligencije trebali bi: a) prema međunarodnom pravu biti registrirani u „registru sustava umjetne inteligencije” i b) obavijestiti svoje korisnike da razgovaraju sa sustavom umjetne inteligencije ili koriste rezultate sustava.
- Budući da sustavi umjetne inteligencije imaju ogroman društveni utjecaj i prema maksimiziranju koristi i socio-ekonomskog napretka, napredne ključne tehnologije sustava umjetne inteligencije trebale bi postati otvorene.
- Podaci povezani s umjetnom inteligencijom trebali bi se (barem djelomično) demokratizirati, opet prema maksimiziranju koristi i socio-ekonomskog napretka.
- Moraju se predvidjeti odgovarajuće snažne sheme financijske naknade za prvake tehnologije umjetne inteligencije kako bi se nadoknadio svaki gubitak dobiti, zbog naprijed navedene otvorenosti i kako bi se osigurala snažna buduća ulaganja u istraživanje i razvoj umjetne inteligencije (npr. kroz patentiranje tehnologije, sheme obveznog licenciranja).
- Ravnotežu istraživanja umjetne inteligencije između akademske zajednice i industrije trebalo bi preispitati kako bi se maksimizirao rezultat istraživanja, uz održavanje konkurentnosti i dodjeljivanje nagrada za poduzete rizike istraživanja i razvoja.
- Obrazovne prakse treba preispitati na svim obrazovnim razinama kako bi se maksimizirale koristi od AI tehnologija, istovremeno stvarajući novu vrstu kreativnih i prilagodljivih građana i (AI) znanstvenika.
- Trebalo bi stvoriti i ojačati odgovarajuće mehanizme za regulaciju/nadzor/financiranje umjetne inteligencije kako bi se osiguralo gore navedeno.
Nekoliko takvih točaka detaljno je obrađeno u mojoj nedavnoj knjizi 4 sveska o 'AI znanost i društvo', posebno u svezcima A (prepisanom u svibnju 2023. kako bi se pokrili LLM i opća umjetna inteligencija) i C.
Reference knjiga:
Umjetna inteligencija, znanost i društvo, dio C: umjetna inteligencija, znanost i društvo
