Lideri de opinie
Inteligența Artificială și Lupta Împotriva Tehnofobiei

Puncte cheieCercetarea în domeniul IA nu poate fi oprită, deoarece este singura speranță a…
Vezi mai mult
- Cercetarea în domeniul IA nu poate fi oprită, deoarece este singura speranță a umanității pentru gestionarea complexității globale în creștere.
- Cea mai mare amenințare a IA este capacitatea sa de a înșela cetățenii slab educați și de a submina democrația.
- Sistemele de IA ar trebui înregistrate prin legea internațională și trebuie să notifice utilizatorii atunci când aceștia interacționează cu IA.
Când vine vorba de Inteligența Artificială Generativă și Modelele Lingvistice Mari, precum ChatGPT, entuziasmul pentru IA este amestecat cu tehnofobie. Acest lucru este natural pentru publicul larg: le plac lucrurile noi și interesante, dar se tem de necunoscut. Noutatea este că mai mulți oameni de știință proeminenți au devenit ei înșiși sceptici față de tehnologie, dacă nu tehnofobi. Cazul oamenilor de știință și al industrialiștilor care cer o interzicere de șase luni a cercetărilor de IA sau scepticismul celui mai bun om de știință de IA, prof. A. Hinton, sunt astfel de exemple. Singurul echivalent istoric pe care îl pot aminti este critica bombelor atomice și nucleare de către o parte a comunității științifice în timpul războiului rece. Din fericire, omenirea a reușit să abordeze aceste preocupări într-un mod satisfăcător.
Desigur, toată lumea are dreptul de a pune la îndoială situația actuală a IA:
- Nimeni nu știe de ce Modelele Lingvistice Mari funcționează atât de bine și dacă au o limită.
- Există numeroase pericole ca persoane rău intenționate să creeze “bombe de IA”, mai ales dacă statele rămân spectatori pasivi în privința reglementării.
Acestea sunt preocupări legitime care alimentează teama de necunoscut, chiar și pentru oamenii de știință proeminenți. La urma urmei, ei sunt oameni și ei înșiși.
Cu toate acestea, poate fi oprită cercetarea de IA, chiar și temporar? În opinia mea, nu, deoarece IA este răspunsul omenirii la o societate globală și la un mediu fizic din ce în ce mai complex. Întrucât procesele de creștere a complexității fizice și sociale sunt profunde și par neîncetate, IA și educarea cetățenilor sunt singurele noastre speranțe pentru a avea o tranziție lină de la Societatea Informațională la o Societate a Cunoașterii. Altfel, ne putem confrunta cu o implozie socială catastrofală.
Soluția constă în aprofundarea înțelegerii noastre a progreselor de IA, accelerarea dezvoltării sale, reglementarea utilizării sale pentru a maximiza impactul său pozitiv, în timp ce minimizează efectele negative evidente și ascunse. Cercetarea de IA poate și ar trebui să devină diferită: mai deschisă, democratică, științifică și etică. Iată o listă propusă de puncte în acest sens:
- Rolul principal în stabilirea direcției pentru problemele importante de cercetare de IA care au un impact social semnificativ ar trebui să fie delegat parlamentelor și guvernelor alese, și nu corporațiilor sau oamenilor de știință individuali.
- Trebuie făcută toată strădania pentru a facilita explorarea aspectelor pozitive ale IA în progresul social și financiar și pentru a minimiza aspectele sale negative.
- Impactul pozitiv al sistemelor de IA poate depăși cu mult aspectele sale negative, dacă se iau măsuri de reglementare corespunzătoare. Tehnofobia nu este nici justificată, nici o soluție.
- În opinia mea, cea mai mare amenințare actuală vine din faptul că astfel de sisteme de IA pot înșela de la distanță foarte mulți oameni obișnuiți care au o educație limitată (sau medie) și/sau o capacitate de investigație redusă. Acest lucru poate fi extrem de periculos pentru democrație și orice formă de progres socio-economic.
- În viitorul apropiat, ar trebui să contracarăm amenințarea mare care vine din utilizarea LLM și/sau CAN în activități ilegale (înșelăciunea la examenele universitare este o utilizare relativ inofensivă în spațiul posibilităților criminale legate).
- Impactul lor asupra forței de muncă și a piețelor va fi foarte pozitiv, pe termen mediu și lung.
- În vederea celor de mai sus, sistemele de IA ar trebui: a) să fie obligate de legea internațională să fie înregistrate într-un “registru al sistemelor de IA” și b) să notifice utilizatorii lor că vorbesc cu sau folosesc rezultatele unui sistem de IA.
- Deoarece sistemele de IA au un impact social semnificativ, și pentru a maximiza beneficiul și progresul socio-economic, tehnologiile avansate esențiale ale sistemelor de IA ar trebui să devină deschise.
- Datele legate de IA ar trebui să fie (cel puțin parțial) democratizate, din nou pentru a maximiza beneficiul și progresul socio-economic.
- Trebuie prevăzute scheme de compensare financiară corespunzătoare pentru promotorii de vârf ai tehnologiei IA, pentru a compensa orice pierdere de profit, din cauza deschiderii menționate și pentru a asigura investiții viitoare susținute în cercetarea și dezvoltarea IA (de exemplu, prin brevete de tehnologie, scheme de licențiere obligatorie).
- Echilibrul cercetării IA între mediul academic și industrie ar trebui reevaluată pentru a maximiza producția de cercetare, în timp ce menține competitivitatea și acordă recompense pentru riscurile asumate în cercetare și dezvoltare.
- Practicile educaționale ar trebui revizuite la toate nivelurile de educație, pentru a maximiza beneficiul din tehnologiile de IA, în timp ce se creează o nouă generație de cetățeni și oameni de știință creativi și adaptabili.
- Trebuie create și consolidate mecanisme de reglementare, supraveghere și finanțare a IA, pentru a asigura cele de mai sus.
Mai multe astfel de puncte sunt tratate în detaliu în cartea mea recentă în 4 volume despre “Știința și Societatea Inteligenței Artificiale”, în special în volumele A (rescris în mai 2023 pentru a acoperi LLM și Inteligența Artificială Generală) și C.
Referințe de carte:












