OpenAI formează un consiliu de siguranță, antrenează un model AI de nouă generație în mijlocul controverselor

OpenAI a făcut progrese semnificative în avansarea tehnologiilor de inteligență artificială, cu cel mai recent realizare fiind sistemul GPT-4o care alimentează chatbot-ul popular ChatGPT. Astăzi, OpenAI a anunțat înființarea unui nou comitet de siguranță, Consiliul de Siguranță OpenAI, și a dezvăluit că a început antrenarea unui model AI de nouă generație.

Cine parte din Consiliul de Siguranță al OpenAI?

Noul Consiliu de Siguranță OpenAI are scopul de a oferi îndrumare și supraveghere a deciziilor critice de siguranță și securitate legate de proiectele și operațiunile companiei. Obiectivul principal al consiliului este de a asigura că practicile de dezvoltare AI ale OpenAI prioritizează siguranța și se aliniază cu principiile etice. Comitetul de siguranță este format dintr-un grup divers de indivizi, inclusiv directori executivi ai OpenAI, membri ai consiliului de administrație și experți tehnici și de politică.

Membri notabili ai Consiliului de Siguranță OpenAI includ:

• Sam Altman, CEO al OpenAI
• Bret Taylor, Președinte al OpenAI
• Adam D’Angelo, CEO al Quora și membru al consiliului de administrație al OpenAI
• Nicole Seligman, fost avocat general al Sony și membru al consiliului de administrație al OpenAI

În faza inițială, noul comitet de siguranță și securitate se va concentra pe evaluarea și consolidarea proceselor și garanțiilor de siguranță existente ale OpenAI. Consiliul de Siguranță OpenAI a stabilit un termen de 90 de zile pentru a oferi recomandări consiliului de administrație cu privire la modul de îmbunătățire a practicilor de dezvoltare AI și a sistemelor de siguranță ale companiei. Odată ce recomandările sunt adoptate, OpenAI planifică să le facă publice într-un mod consistent cu considerațiile de siguranță și securitate.

Antrenarea noului model AI

În paralel cu înființarea Consiliului de Siguranță OpenAI, OpenAI a anunțat că a început antrenarea modelului său AI de frontieră. Acest model AI de ultimă generație este așteptat să depășească capacitățile sistemului GPT-4 care alimentează în prezent ChatGPT. Deși detalii despre noul model AI rămân rare, OpenAI a declarat că va conduce industria atât în ceea ce privește capacitățile, cât și siguranța.

Dezvoltarea acestui model AI de nouă generație subliniază ritmul rapid de inovare în domeniul inteligenței artificiale și potențialul pentru inteligență artificială generală (AGI). Pe măsură ce sistemele AI devin mai avansate și puternice, este crucial să se prioritizeze siguranța și să se asigure că aceste tehnologii sunt dezvoltate în mod responsabil.

Controversele și plecările recente ale OpenAI

Reînnoirea focusului OpenAI pe siguranță vine într-o perioadă de tulburări interne și scrutin public. În ultimele săptămâni, compania a fost criticată din interiorul propriilor sale rânduri, cercetătorul Jan Leike demisionând și exprimându-și îngrijorarea că siguranța a fost lăsată în urmă față de dezvoltarea de “produse strălucitoare”. Demisia lui Leike a fost urmată de plecarea lui Ilya Sutskever, co-fondator și șef-științific al OpenAI.

Plecările lui Leike și Sutskever au ridicat întrebări cu privire la prioritățile companiei și abordarea sa față de siguranța AI. Cei doi cercetători au condus împreună echipa “superaliniere” a OpenAI, care se ocupa de riscurile pe termen lung ale AI. După demisiile lor, echipa de superaliniere a fost desființată, ceea ce a alimentat și mai mult îngrijorările cu privire la angajamentul companiei față de siguranță.

În plus față de tulburările interne, OpenAI a fost acuzat și de imitarea vocii în chatbot-ul său ChatGPT. Unii utilizatori au afirmat că vocea chatbot-ului este foarte asemănătoare cu cea a actriței Scarlett Johansson. Deși OpenAI a negat intenționat să imite vocea lui Johansson, incidentul a declanșat o discuție mai largă despre implicațiile etice ale conținutului generat de AI și potențialul de abuz.

O discuție mai largă despre etica AI

Pe măsură ce domeniul inteligenței artificiale continuă să evolueze rapid, este crucial pentru companii precum OpenAI să se implice într-un dialog continuu și o colaborare cu cercetători, factori de decizie politică și publicul larg pentru a asigura că tehnologiile AI sunt dezvoltate în mod responsabil și cu garanții solide în loc. Recomandările prezentate de Consiliul de Siguranță OpenAI și angajamentul OpenAI față de transparență vor contribui la discuția mai largă despre guvernanța AI și vor ajuta la modelarea viitorului acestei tehnologii transformaționale, dar doar timpul va arăta ce va rezulta din aceasta.