OpenAI Membentuk Dewan Keamanan, Melatih Model AI Berikutnya di Tengah Kontroversi

OpenAI telah membuat kemajuan signifikan dalam mengembangkan teknologi kecerdasan buatan, dengan pencapaian terbarunya adalah sistem GPT-4o yang memungkinkan chatbot ChatGPT. Hari ini, OpenAI mengumumkan pembentukan komite keamanan baru, Dewan Keamanan OpenAI, dan mengungkapkan bahwa mereka telah memulai pelatihan model AI baru.

Siapa yang Ada di Dewan Keamanan OpenAI?

Dewan Keamanan OpenAI yang baru dibentuk bertujuan untuk memberikan bimbingan dan pengawasan pada keputusan keamanan dan keamanan yang kritis yang terkait dengan proyek dan operasi perusahaan. Tujuan utama dewan adalah untuk memastikan bahwa praktik pengembangan AI OpenAI memprioritaskan keamanan dan selaras dengan prinsip etika. Komite keamanan terdiri dari kelompok orang-orang yang beragam, termasuk eksekutif OpenAI, anggota dewan, dan ahli teknis dan kebijakan.

Anggota terkenal dari Dewan Keamanan OpenAI termasuk:

• Sam Altman, CEO OpenAI
• Bret Taylor, Ketua OpenAI
• Adam D’Angelo, CEO Quora dan anggota dewan OpenAI
• Nicole Seligman, mantan penasihat hukum Sony dan anggota dewan OpenAI

Pada fase awal, komite keamanan dan keamanan baru akan fokus pada mengevaluasi dan memperkuat proses keamanan dan pengamanan yang ada di OpenAI. Dewan Keamanan OpenAI telah menetapkan batas waktu 90 hari untuk memberikan rekomendasi kepada dewan tentang cara meningkatkan praktik pengembangan AI dan sistem keamanan perusahaan. Setelah rekomendasi diadopsi, OpenAI berencana untuk merilisnya secara terbuka dengan cara yang konsisten dengan pertimbangan keamanan dan keamanan.

Pelatihan Model AI Baru

Bersamaan dengan pembentukan Dewan Keamanan OpenAI, OpenAI telah mengumumkan bahwa mereka telah memulai pelatihan model AI berikutnya. Model AI terbaru ini diharapkan dapat melampaui kemampuan sistem GPT-4 yang saat ini mendukung ChatGPT. Meskipun detail tentang model AI baru masih langka, OpenAI telah mengatakan bahwa model ini akan memimpin industri dalam kemampuan dan keamanan.

Pengembangan model AI baru ini menekankan kecepatan inovasi di bidang kecerdasan buatan dan potensi kecerdasan buatan umum (AGI). Ketika sistem AI menjadi lebih maju dan kuat, sangat penting untuk memprioritaskan keamanan dan memastikan bahwa teknologi ini dikembangkan dengan bertanggung jawab.

Kontroversi dan Kepartaan Terbaru OpenAI

Fokus OpenAI pada keamanan kembali datang di tengah-tengah periode gejolak internal dan pengawasan publik. Dalam beberapa minggu terakhir, perusahaan telah menghadapi kritik dari dalam barisan mereka sendiri, dengan peneliti Jan Leike mengundurkan diri dan mengungkapkan keprihatinan bahwa keamanan telah menjadi nomor dua dalam pengembangan “produk yang mengkilap.” Pengunduran diri Leike diikuti oleh kepartaan Ilya Sutskever, co-pendiri dan ilmuwan utama OpenAI.

Kepartaan Leike dan Sutskever telah memicu pertanyaan tentang prioritas perusahaan dan pendekatan mereka terhadap keamanan AI. Kedua peneliti tersebut secara bersama-sama memimpin tim “superalignment” OpenAI, yang didedikasikan untuk menangani risiko jangka panjang AI. Setelah pengunduran diri mereka, tim superalignment dibubarkan, yang lebih lanjut memicu kekhawatiran tentang komitmen perusahaan terhadap keamanan.

Selain gejolak internal, OpenAI juga telah menghadapi tuduhan peniruan suara di chatbot ChatGPT. Beberapa pengguna telah mengklaim bahwa suara chatbot tersebut sangat mirip dengan suara aktris Scarlett Johansson. Meskipun OpenAI telah menyangkal peniruan suara Johansson secara sengaja, insiden tersebut telah memicu diskusi yang lebih luas tentang implikasi etika konten AI yang dihasilkan dan potensi penyalahgunaan.

Diskusi yang Lebih Luas tentang Etika AI

Ketika bidang kecerdasan buatan terus berkembang dengan cepat, sangat penting bagi perusahaan seperti OpenAI untuk terlibat dalam diskusi dan kerja sama yang berkelanjutan dengan peneliti, pembuat kebijakan, dan publik untuk memastikan bahwa teknologi AI dikembangkan dengan bertanggung jawab dan dengan pengaman yang kuat. Rekomendasi yang diberikan oleh Dewan Keamanan OpenAI dan komitmen OpenAI terhadap transparansi akan berkontribusi pada diskusi yang lebih luas tentang tata kelola AI dan membantu membentuk masa depan teknologi ini, tetapi hanya waktu yang akan menentukan apa yang akan terjadi.