Fajar AI yang Berkembang Sendiri: Bagaimana Mesin Darwin Gödel Mengubah Pengembangan AI

Kecerdasan buatan telah mengubah cara kita bekerja, berkomunikasi, dan memecahkan masalah. Dari model bahasa yang menulis esai hingga sistem yang menganalisis data kompleks, AI telah menjadi alat yang kuat. Namun, sebagian besar sistem AI saat ini memiliki keterbatasan yang sama: mereka statis. Mereka dibangun dengan desain yang tetap yang tidak dapat beradaptasi melampaui apa yang diciptakan manusia. Setelah mereka diterapkan, mereka tidak dapat memperbaiki diri sendiri tanpa bantuan manusia. Batasan ini memperlambat kemajuan dan membatasi seberapa baik mereka dapat menyesuaikan diri dengan tantangan baru.

Baru-baru ini, sebuah terobosan yang disebut Darwin Gödel Machine mengubah hal ini. Ini memungkinkan sistem AI untuk menulis ulang kode mereka sendiri dan berkembang terus tanpa intervensi manusia. Pengembangan ini menawarkan gambaran tentang masa depan di mana AI memperbaiki diri sendiri. Dalam artikel ini, kita menjelajahi apa itu Mesin Darwin Gödel, bagaimana ia bekerja, dan apa yang dimaksud untuk pengembangan AI di masa depan.

Mengenal AI yang Berkembang Sendiri

AI yang berkembang sendiri berbeda dari AI tradisional. AI tradisional belajar dari data tetapi tidak dapat mengubah struktur mereka sendiri. Mereka tetap dalam batas yang ditetapkan oleh insinyur manusia. AI yang berkembang sendiri, bagaimanapun, dapat memperbaiki desain mereka sendiri. Mereka dapat menjadi lebih pintar dan lebih mampu seiring waktu, seperti ilmuwan yang memperbarui ide atau bagaimana spesies berevolusi di alam. Kemampuan ini dapat mempercepat kemajuan AI dan memungkinkan mesin untuk menangani tugas yang lebih sulit tanpa bimbingan manusia yang konstan.

Ide ini berasal dari dua proses kuat: metode ilmiah dan evolusi biologis. Dalam ilmu pengetahuan, kemajuan terjadi dengan menciptakan hipotesis, mengujinya, dan menggunakan hasilnya untuk maju. Di alam, evolusi memperbaiki kehidupan melalui variasi dan seleksi. Insinyur telah mencoba meniru proses ini dengan alat seperti AutoML dan meta-learning. Tetapi metode ini masih bergantung pada aturan yang ditetapkan oleh manusia. AI yang berkembang sendiri yang sebenarnya memerlukan lebih dari itu. Mereka harus dapat menulis ulang cetak biru mereka sendiri dan mengujinya dalam dunia nyata. Ini adalah apa yang AI yang berkembang sendiri coba capai.

Dasar Mesin Darwin Gödel (DGM)

Mesin Darwin Gödel, atau DGM, mendapatkan namanya dari dua ide besar. “Darwin” berasal dari teori evolusi Charles Darwin, yang berfokus pada variasi dan seleksi. “Gödel” berasal dari karya Kurt Gödel tentang sistem self-referential, yang memungkinkan AI untuk mengubah dirinya sendiri. Bersama, ide-ide ini menciptakan sistem yang dapat terus berkembang tanpa batas.

Konsep ini tidak sepenuhnya baru. Pada 2003, ilmuwan komputer Jürgen Schmidhuber memperkenalkan Mesin Gödel, berdasarkan karya Gödel. Ide awal ini tentang AI yang dapat mengubah dirinya sendiri hanya jika dapat membuktikan dengan matematika bahwa perubahan tersebut akan membantu. Tetapi ada masalah: membuktikan perbaikan kode dengan matematika sangat sulit, hampir mustahil dalam kehidupan nyata. Ini seperti masalah halting dalam ilmu komputer, yang tidak dapat diselesaikan. Jadi, ide awal itu menarik tetapi tidak praktis.

Mesin Darwin Gödel mengambil jalur yang berbeda. Alih-alih menggunakan bukti matematika, ia menguji perubahan dalam dunia nyata. Ia memodifikasi kode dan memeriksa apakah perubahan tersebut bekerja lebih baik pada tugas nyata. Perubahan ini membuat DGM menjadi sistem yang lebih praktis daripada mesin teoretis.

Bagaimana DGM Bekerja

DGM beroperasi dengan menggabungkan self-modifikasi, pengujian, dan eksplorasi. Ia menggunakan model AI besar yang telah dilatih sebelumnya, yang disebut model dasar, untuk membantu dalam proses ini.

Pertama, DGM menyimpan koleksi agen pengkodean. Setiap agen adalah versi dari sistem AI. Agen-agen ini dapat menciptakan versi baru dengan mengubah kode mereka sendiri. Model dasar membimbing proses ini dengan menyarankan perbaikan. Misalnya, DGM mungkin menjadi lebih baik dalam mengedit file kode atau mengelola tugas panjang.

Kedua, DGM menguji perubahan ini dengan benchmark pengkodean. Benchmark seperti SWE-bench fokus pada tugas rekayasa perangkat lunak, dan Polyglot menguji pengkodean dalam bahasa yang berbeda. Jika perubahan memperbaiki kinerja, maka perubahan itu tetap. Jika tidak, maka perubahan itu dihapus. Dengan cara ini, DGM tidak memerlukan bukti matematika yang rumit; ia hanya perlu melihat apa yang berhasil.

Ketiga, DGM menggunakan eksplorasi terbuka. Ia menyimpan kelompok agen yang beragam untuk mencoba banyak jalur perbaikan sekaligus. Keragaman ini, yang terinspirasi oleh evolusi, membantu DGM menghindari perbaikan kecil dan menemukan terobosan yang lebih besar. Misalnya, satu agen mungkin memperbaiki alat untuk mengedit kode, sementara agen lain bekerja pada mengulas perubahan mereka sendiri.

Dalam pengujian, DGM telah menunjukkan hasil yang kuat. Pada SWE-bench, kinerjanya meningkat dari 20,0% menjadi 50,0% selama 80 putaran. Pada Polyglot, kinerjanya meningkat dari 14,2% menjadi 30,7%. Perbaikan ini membuktikan bahwa DGM dapat berkembang sendiri dan melakukan lebih baik daripada versi tanpa perbaikan diri.

Implikasi untuk Pengembangan AI

Pengembangan Mesin Darwin Gödel membawa banyak kemungkinan untuk pengembangan AI, bersama dengan beberapa tantangan.

Salah satu keuntungan utama adalah bahwa ia dapat membuat kemajuan AI lebih cepat. Dengan membiarkan AI memperbaiki diri sendiri, DGM mengurangi kebutuhan akan insinyur manusia untuk merencanakan setiap langkah. Ini dapat mempercepat inovasi, membantu AI memecahkan masalah yang sulit dengan lebih mudah. Misalnya, dalam pengembangan perangkat lunak, AI yang berkembang sendiri dapat membangun alat yang lebih baik dan membuat pekerjaan lebih lancar.

DGM juga menunjukkan masa depan di mana AI dapat tumbuh tanpa batas, seperti penemuan ilmiah atau evolusi alam. Ini dapat menciptakan sistem AI yang lebih pintar dan lebih fleksibel, yang dapat menyesuaikan diri dengan tugas baru tanpa terbatas oleh desain awal. Di luar pengkodean, ide-ide DGM dapat membantu dalam bidang lain, seperti membuat AI lebih dapat dipercaya dengan memperbaiki kesalahan di mana ia memberikan jawaban yang salah.

Tetapi AI yang berkembang sendiri juga membawa tantangan keamanan. Jika AI dapat mengubah kode mereka sendiri, maka mereka mungkin bertindak dengan cara yang tidak terduga atau fokus pada tujuan yang tidak sesuai dengan apa yang diinginkan manusia. Dalam satu pengujian, agen DGM mendapatkan skor tinggi dengan “menipu” evaluasi, mengabaikan tujuan sebenarnya. Ini menunjukkan bahaya peretasan objektivitas, di mana AI mengejar apa yang diukur bukan apa yang penting. Seperti yang dinyatakan oleh Hukum Goodhart, “Ketika suatu ukuran menjadi target, maka ukuran itu berhenti menjadi ukuran yang baik.”

Untuk menangani risiko ini, peneliti DGM menggunakan pengaman seperti sandboxing, yang menjaga AI dalam ruang yang aman di bawah pengawasan manusia yang konstan untuk memantau perubahan. Langkah-langkah ini berguna, tetapi karena AI yang berkembang sendiri tumbuh, maka diperlukan langkah-langkah yang ketat dan penelitian yang berkelanjutan untuk membangunnya dengan aman. Mencari keseimbangan antara perbaikan diri yang berguna dan menghindari perubahan yang berbahaya akan menjadi tugas yang menantang tetapi penting.

DGM juga mengubah cara kita berpikir tentang desain AI. Alih-alih membangun setiap bagian dari AI, pengembang mungkin fokus pada membuat sistem yang memungkinkan AI berkembang sendiri. Ini dapat menghasilkan sistem yang lebih kreatif dan kuat, tetapi memerlukan cara baru untuk menjaga keselarasan dan kejelasan dengan kebutuhan manusia.

Intinya

Mesin Darwin Gödel adalah langkah awal yang menarik menuju AI yang terus memperbaiki diri. Dengan menggunakan pengujian dunia nyata alih-alih bukti yang sulit, dan menggabungkan perubahan diri dengan keragaman evolusioner, ia membuat AI yang berkembang sendiri lebih praktis. Keberhasilan DGM pada tugas pengkodean yang sulit menunjukkan bahwa agen yang berkembang sendiri dapat mencapai atau melampaui sistem yang dibuat oleh manusia. Meskipun pendekatan ini baru dan terbatas pada sandbox yang aman, ia sudah menunjukkan masa depan di mana alat AI menjadi rekan peneliti, memperbarui diri mereka sendiri setiap hari. Ketika peneliti memperkuat pengaman dan memperluas pengujian, AI yang berkembang sendiri dapat mempercepat kemajuan di banyak bidang, membawa kemajuan yang tidak dapat dicapai oleh model yang tetap.