OpenAI Tworzy Radę Bezpieczeństwa, Szkoli Nowy Model AI Wśród Kontrowersji

OpenAI dokonało znaczących postępów w rozwoju technologii sztucznej inteligencji, a jego najnowszym osiągnięciem jest system GPT-4o, który napędza popularnego chatbota ChatGPT. Dziś OpenAI ogłosiło utworzenie nowego komitetu bezpieczeństwa, Rady Bezpieczeństwa OpenAI, oraz ujawniło, że rozpoczęło szkolenie nowego modelu AI.

Kto jest w Radzie Bezpieczeństwa OpenAI?

Nowo utworzona Rada Bezpieczeństwa OpenAI ma na celu zapewnienie wytycznych i nadzoru nad krytycznymi decyzjami dotyczącymi bezpieczeństwa i bezpieczeństwa w projekcie i operacjach firmy. Głównym celem rady jest zapewnienie, że praktyki rozwoju AI OpenAI priorytetem są bezpieczeństwo i zgodność z zasadami etyki. Komitet bezpieczeństwa składa się z zróżnicowanej grupy osób, w tym dyrektorów OpenAI, członków zarządu oraz ekspertów technicznych i politycznych.

Godni uwagi członkowie Rady Bezpieczeństwa OpenAI to:

• Sam Altman, CEO OpenAI
• Bret Taylor, Przewodniczący OpenAI
• Adam D’Angelo, CEO Quora i członek zarządu OpenAI
• Nicole Seligman, były radca prawny Sony i członek zarządu OpenAI

W swojej początkowej fazie nowy komitet bezpieczeństwa i bezpieczeństwa będzie się koncentrował na ocenie i wzmocnieniu istniejących procesów i zabezpieczeń bezpieczeństwa OpenAI. Rada Bezpieczeństwa OpenAI ustaliła 90-dniowy termin na przedstawienie zaleceń zarządowi w sprawie poprawy praktyk rozwoju AI i systemów bezpieczeństwa. Po przyjęciu zaleceń OpenAI planuje opublikować je publicznie w sposób zgodny z uwzględnieniem bezpieczeństwa i bezpieczeństwa.

Szkolenie nowego modelu AI

Wraz z utworzeniem Rady Bezpieczeństwa OpenAI, OpenAI ogłosiło, że rozpoczęło szkolenie swojego następnego modelu AI. Ten najnowszy model sztucznej inteligencji ma przewyższyć możliwości systemu GPT-4, który obecnie wspiera chatbota ChatGPT. Chociaż szczegóły dotyczące nowego modelu AI są niejasne, OpenAI powiedziało, że będzie on przewodził branży zarówno pod względem możliwości, jak i bezpieczeństwa.

Rozwój tego nowego modelu AI podkreśla szybki postęp innowacji w dziedzinie sztucznej inteligencji i potencjał sztucznej inteligencji ogólnej (AGI). W miarę jak systemy AI stają się bardziej zaawansowane i potężne, jest niezwykle ważne, aby priorytetem było bezpieczeństwo i zapewnienie, że te technologie są rozwijane w sposób odpowiedzialny.

Niedawne kontrowersje i odejścia OpenAI

Odnowiony nacisk OpenAI na bezpieczeństwo następuje w okresie wewnętrznych zamieszek i publicznej krytyki. W ostatnich tygodniach firma spotkała się z krytyką ze strony własnych szeregów, gdy badacz Jan Leike zrezygnował i wyraził obawy, że bezpieczeństwo zajęło drugie miejsce w rozwoju “lśniących produktów”. Rezygnacja Leike została poprzedzona przez odejście Ilii Sutskevera, współzałożyciela i głównego naukowca OpenAI.

Odejścia Leike i Sutskevera wywołały pytania dotyczące priorytetów firmy i jej podejścia do bezpieczeństwa AI. Dwaj badacze wspólnie kierowali zespołem “superalignment” OpenAI, który zajmował się długoterminowymi ryzykami AI. Po ich rezygnacji zespół superalignment został rozwiązany, co dodatkowo wzmogło obawy dotyczące zaangażowania firmy w kwestie bezpieczeństwa.

Ponadto OpenAI spotkało się z zarzutami dotyczącymi naśladownictwa głosu w swoim chatbocie ChatGPT. Niektórzy użytkownicy twierdzą, że głos chatbota wykazuje uderzające podobieństwo do głosu aktorki Scarlett Johansson. Chociaż OpenAI zaprzeczyło celowemu naśladownictwu Johansson, incydent wywołał szerszą dyskusję na temat etycznych implikacji treści generowanych przez AI i potencjału ich nadużycia.

Szersza dyskusja na temat etyki AI

W miarę jak dziedzina sztucznej inteligencji ewoluuje w szybkim tempie, jest niezwykle ważne, aby firmy takie jak OpenAI angażowały się w ciągłą dyskusję i współpracę z badaczami, decydentami i społeczeństwem, aby zapewnić, że technologie AI są rozwijane w sposób odpowiedzialny i z solidnymi zabezpieczeniami. Zalecenia przedstawione przez Radę Bezpieczeństwa OpenAI oraz zaangażowanie OpenAI w przejrzystość przyczynią się do szerszej dyskusji na temat zarządzania AI i pomogą kształtować przyszłość tej przełomowej technologii, ale tylko czas pokaże, co z tego wyniknie.