Inisiatif Baru OpenAI: Mengarahkan Superintelligent AI ke Arah yang Benar

OpenAI, pemain terkemuka di bidang kecerdasan buatan, baru-baru ini mengumumkan pembentukan tim khusus untuk mengelola risiko yang terkait dengan AI superintelligent. Langkah ini dilakukan pada saat pemerintah di seluruh dunia sedang mempertimbangkan bagaimana mengatur teknologi AI yang muncul.

Memahami Superintelligent AI

AI superintelligent mengacu pada model AI hipotetis yang melampaui manusia paling berbakat dan cerdas di berbagai bidang keahlian, bukan hanya domain tunggal seperti beberapa model generasi sebelumnya. OpenAI memprediksi bahwa model seperti itu dapat muncul sebelum akhir dekade ini. Organisasi tersebut percaya bahwa superintelijen dapat menjadi teknologi paling berpengaruh yang pernah ditemukan umat manusia, berpotensi membantu kita memecahkan banyak masalah paling mendesak di dunia. Namun, kekuatan superintelijen yang sangat besar juga dapat menimbulkan risiko yang signifikan, termasuk potensi ketidakberdayaan umat manusia atau bahkan kepunahan manusia.

Tim Superalignment OpenAI

Untuk mengatasi masalah ini, OpenAI telah membentuk ' barupenyelarasan super' tim, dipimpin bersama oleh Kepala Ilmuwan OpenAI Ilya Sutskever dan Jan Leike, kepala penyelarasan lab penelitian. Tim akan memiliki akses ke 20% daya komputasi yang saat ini diamankan oleh OpenAI. Tujuan mereka adalah mengembangkan peneliti penyelarasan otomatis, sebuah sistem yang dapat membantu OpenAI dalam memastikan kecerdasan super aman untuk digunakan dan selaras dengan nilai-nilai kemanusiaan.

Sementara OpenAI mengakui bahwa ini adalah tujuan yang sangat ambisius dan kesuksesan tidak dijamin, organisasi tetap optimis. Eksperimen pendahuluan telah menunjukkan harapan, dan tersedia metrik yang semakin berguna untuk kemajuan. Selain itu, model saat ini dapat digunakan untuk mempelajari banyak masalah ini secara empiris.

Perlunya Regulasi

Pembentukan tim Superalignment muncul saat pemerintah di seluruh dunia sedang mempertimbangkan bagaimana mengatur industri AI yang baru lahir. CEO OpenAI, Sam Altman, telah bertemu dengan setidaknya 100 anggota parlemen federal dalam beberapa bulan terakhir. Altman secara terbuka menyatakan bahwa regulasi AI adalah "penting", dan bahwa OpenAI "bersemangat" untuk bekerja dengan pembuat kebijakan.

Namun, penting untuk mendekati proklamasi tersebut dengan tingkat skeptisisme. Dengan memusatkan perhatian publik pada risiko hipotetis yang mungkin tidak pernah terwujud, organisasi seperti OpenAI berpotensi mengalihkan beban regulasi ke masa depan, daripada menangani masalah langsung seputar AI dan tenaga kerja, misinformasi, dan hak cipta yang perlu ditangani oleh pembuat kebijakan saat ini.

Inisiatif OpenAI untuk membentuk tim khusus untuk mengelola risiko AI superintelligent merupakan langkah signifikan ke arah yang benar. Ini menggarisbawahi pentingnya tindakan proaktif dalam mengatasi potensi tantangan yang ditimbulkan oleh AI tingkat lanjut. Seiring kami terus menavigasi kompleksitas pengembangan dan regulasi AI, inisiatif seperti ini berfungsi sebagai pengingat akan perlunya pendekatan yang seimbang, pendekatan yang memanfaatkan potensi AI sekaligus melindungi dari risikonya.