Îngrijorările cu privire la riscurile potențiale ale ChatGPT câștigă avânt, dar o pauză în dezvoltarea IA este o mișcare bună?

În timp ce Elon Musk și alți lideri globali din domeniul tehnologiei au cerut o pauză în dezvoltarea IA după lansarea ChatGPT, unii critici consideră că o pauză în dezvoltare nu este răspunsul. Evanghelistul IA, Andrew Pery, de la compania de automatizare inteligentă ABBYY, consideră că o pauză este ca și cum ai pune pasta de dinți înapoi în tub. Aici, el ne spune de ce…

Aplicațiile IA sunt omniprezente, afectând practic fiecare aspect al vieții noastre. În timp ce este lăudabil să punem frânele acum, poate fi implauzibil.

Există, cu siguranță, îngrijorări palpabile care cer o reglementare mai strictă pentru a preveni impacturile nocive potențiale.

Recent, Autoritatea Italiană pentru Protecția Datelor a blocat temporar utilizarea ChatGPT la nivel național din cauza îngrijorărilor legate de confidențialitate, legate de modul de colectare și prelucrare a datelor personale utilizate pentru a antrena modelul, precum și de lipsa unor garanții, expunând copiii la răspunsuri “absolut inadecvate pentru vârsta și conștientizarea lor”.

Organizația Europeană a Consumatorilor (BEUC) îndeamnă UE să investigheze impacturile potențial nocive ale modelelor de limbaj la scară largă, având în vedere “îngrijorările crescânde cu privire la modul în care ChatGPT și alte chatbot-uri ar putea înșela și manipula oamenii. Aceste sisteme IA necesită o mai mare atenție publică, iar autoritățile publice trebuie să-și reafirme controlul asupra lor”.

În Statele Unite, Centrul pentru Politica IA și Digitală a depus o plângere la Comisia Federală pentru Comerț, în care se afirmă că ChatGPT încalcă secțiunea 5 a Legii Comisiei Federale pentru Comerț (FTC Act) (15 USC 45). Motivul plângerii este că ChatGPT nu respectă îndrumările stabilite de FTC pentru transparență și explicabilitate a sistemelor IA. S-a făcut referire la recunoașterea de către ChatGPT a mai multor riscuri cunoscute, inclusiv compromiterea drepturilor la confidențialitate, generarea de conținut dăunător și propagarea de informații false.

Utilitatea modelelor de limbaj la scară largă, cum ar fi ChatGPT, este în afara oricărei îndoieli, dar cercetările arată partea întunecată a acestor sisteme. S-a dovedit că produce răspunsuri incorecte, deoarece modelul ChatGPT se bazează pe algoritmi de învățare profundă care utilizează seturi de date de antrenament mari de pe internet. În contrast cu alte chatbot-uri, ChatGPT utilizează modele de limbaj bazate pe tehnici de învățare profundă care generează text asemănător cu conversațiile umane, iar platforma “ajunge la un răspuns prin efectuarea unei serii de presupuneri, ceea ce este parte a motivului pentru care poate argumenta răspunsuri incorecte ca și cum ar fi complet adevărate”.

În plus, ChatGPT este dovedit a accentua și amplifica prejudecățile, rezultând “răspunsuri care discriminează împotriva sexului, rasei și grupurilor minoritare, ceea ce compania încearcă să mitigeze”. ChatGPT poate fi, de asemenea, un bun de valoare pentru actorii răi care exploatează utilizatorii neștiutori, compromițând confidențialitatea și expunându-i la atacuri de tip scam.

Îngrijorările au determinat Parlamentul European să publice un comentariu care subliniază necesitatea de a consolida în continuare dispozițiile actuale ale proiectului Legii UE privind Inteligența Artificială (AIA), care este încă în așteptarea ratificării. Comentariul subliniază că proiectul de reglementare actual se concentrează pe ceea ce se numește aplicații IA cu scop limitat, constând în categorii specifice de sisteme IA cu risc ridicat, cum ar fi recrutarea, credibilitatea, angajarea, aplicarea legii și eligibilitatea pentru servicii sociale. Cu toate acestea, proiectul de reglementare AIA al UE nu acoperă IA cu scop general, cum ar fi modelele de limbaj la scară largă care oferă capacități cognitive avansate și care pot “executa o gamă largă de sarcini inteligente”. Există apeluri pentru a extinde domeniul de aplicare a proiectului de reglementare pentru a include o categorie separată de sisteme IA cu scop general și cu risc ridicat, care să oblige dezvoltatorii să efectueze teste de conformitate riguroase înainte de a pune astfel de sisteme pe piață și să monitorizeze în mod continuu performanța lor pentru a preveni ieșiri nocive neașteptate.

O cercetare deosebit de utilă atrage atenția asupra acestei lacune, subliniind că reglementarea AIA a UE “se concentrează în primul rând pe modelele convenționale de IA și nu pe noua generație pe care o vedem astăzi”.

Recomandă patru strategii pe care ar trebui să le ia în considerare regulatorii.

1. Să solicite dezvoltatorilor de astfel de sisteme să raporteze în mod regulat despre eficacitatea proceselor lor de gestionare a riscurilor pentru a preveni ieșirile dăunătoare.
2. Întreprinderile care utilizează modele de limbaj la scară largă ar trebui să fie obligate să informeze clienții lor că conținutul a fost generat de IA.
3. Dezvoltatorii ar trebui să se angajeze într-un proces formal de lansare etapizată, ca parte a unui cadru de gestionare a riscurilor, destinat să protejeze împotriva unor rezultate potențial dăunătoare și neașteptate.
4. Să pună accentul pe dezvoltatori pentru a “mitiga riscul la rădăcină” prin efectuarea unui audit proactiv al setului de date de antrenament pentru a depista reprezentările inexacte.

Un factor care perpetuează riscurile asociate cu tehnologiile disruptive este impulsul inovatorilor de a obține un avantaj de pionierat prin adoptarea unui model de afaceri “lansează mai întâi și repară mai târziu”. În timp ce OpenAI este într-o oarecare măsură transparent cu privire la riscurile potențiale ale ChatGPT, au lansat-o pentru utilizare comercială largă cu o atenționare “cumpărătorul să fie atent” care pune accentul pe utilizatori pentru a cântări și a-și asuma riscurile înșiși. Acesta poate fi un mod de abordare impracticabil, având în vedere impactul pervaziv al sistemelor de inteligență artificială conversațională. Reglementarea proactivă, împreună cu măsuri de aplicare robuste, trebuie să fie esențiale atunci când se are de-a face cu o tehnologie atât de disruptivă.

Inteligența artificială déjà pătrunde în aproape fiecare parte a vieții noastre, ceea ce înseamnă că o pauză în dezvoltarea IA ar putea implica o mulțime de obstacole și consecințe neașteptate. În loc de a frâna brusc, jucătorii din industrie și cei legislativi ar trebui să colaboreze în bună credință pentru a adopta reglementări care să fie bazate pe valori umane, cum ar fi transparența, responsabilitatea, și echitatea. Prin referirea la legislația existentă, cum ar fi AIA, liderii din sectorul privat și public pot proiecta politici cuprinzătoare și standardizate la nivel global, care să prevină utilizările nocive și să atenueze rezultatele adverse, astfel încât inteligența artificială să rămână în limitele îmbunătățirii experiențelor umane, și echității. Prin referire la legislația existentă, cum ar fi AIA, liderii din sectorul privat și public pot proiecta politici cuprinzătoare și standardizate la nivel global, care să prevină utilizările nocive și să atenueze rezultatele adverse, astfel încât inteligența artificială să rămână în limitele îmbunătățirii experiențelor umane, abilității și echității.