Fajar AI yang Berkembang Sendiri: Bagaimana Mesin Darwin Gödel Mengubah Pengembangan AI

Kecerdasan buatan telah mengubah cara kita bekerja, berkomunikasi, dan memecahkan masalah. Dari model bahasa yang menulis esai hingga sistem yang menganalisis data kompleks, AI telah menjadi alat yang kuat. Namun, sebagian besar sistem AI saat ini memiliki keterbatasan yang sama: mereka statis. Mereka dibangun dengan desain yang tetap yang tidak dapat beradaptasi melampaui apa yang diciptakan oleh manusia. Setelah mereka diterapkan, mereka tidak dapat memperbaiki diri sendiri tanpa bantuan manusia. Keterbatasan ini memperlambat kemajuan dan membatasi seberapa baik mereka dapat menyesuaikan diri dengan tantangan baru.

Baru-baru ini, sebuah terobosan yang disebut Mesin Darwin Gödel mengubah hal ini. Ini memungkinkan sistem AI untuk menulis ulang kode mereka sendiri dan berkembang terus-menerus tanpa intervensi manusia. Pengembangan ini menawarkan wawasan tentang masa depan di mana AI memperbaiki diri sendiri. Dalam artikel ini, kita menjelajahi apa itu Mesin Darwin Gödel, bagaimana cara kerjanya, dan apa yang dimaksud untuk pengembangan AI di masa depan.

Mengenal AI yang Berkembang Sendiri

AI yang berkembang sendiri berbeda dari AI tradisional. AI tradisional belajar dari data tetapi tidak dapat mengubah struktur mereka sendiri. Mereka tetap dalam batas yang ditetapkan oleh insinyur manusia. AI yang berkembang sendiri, bagaimanapun, dapat memperbaiki desain mereka sendiri. Mereka dapat menjadi lebih pintar dan lebih mampu seiring waktu, seperti ilmuwan yang memperbaiki ide atau seperti spesies yang berevolusi di alam. Kemampuan ini dapat mempercepat kemajuan AI dan memungkinkan mesin untuk menangani tugas yang lebih sulit tanpa bimbingan manusia yang konstan.

Gagasan ini berasal dari dua proses yang kuat: metode ilmiah dan evolusi biologis. Dalam ilmu pengetahuan, kemajuan terjadi dengan menciptakan hipotesis, mengujinya, dan menggunakan hasilnya untuk maju. Di alam, evolusi memperbaiki kehidupan melalui variasi dan seleksi. Insinyur telah mencoba meniru proses ini dengan alat seperti AutoML dan meta-learning. Namun, metode ini masih bergantung pada aturan yang ditetapkan oleh manusia. AI yang berkembang sendiri yang sebenarnya memerlukan lebih dari itu. Mereka harus dapat menulis ulang cetak biru mereka sendiri dan menguji versi baru di dunia nyata. Ini adalah apa yang AI yang berkembang sendiri berusaha capai.

Dasar Mesin Darwin Gödel (DGM)

Mesin Darwin Gödel, atau DGM, mendapatkan namanya dari dua gagasan besar. “Darwin” berasal dari teori evolusi Charles Darwin, yang fokus pada variasi dan seleksi. “Gödel” berasal dari karya Kurt Gödel tentang sistem yang merujuk pada diri sendiri, yang memungkinkan AI untuk mengubah dirinya sendiri. Bersama, gagasan-gagasan ini menciptakan sistem yang dapat terus berkembang tanpa batas yang ditetapkan.

Konsep ini tidak sepenuhnya baru. Pada tahun 2003, ilmuwan komputer Jürgen Schmidhuber memperkenalkan Mesin Gödel, yang didasarkan pada karya Gödel. Gagasan awal ini tentang AI yang dapat mengubah dirinya sendiri hanya jika dapat membuktikan dengan matematika bahwa perubahan tersebut akan membantu. Namun, ada masalah: membuktikan perbaikan kode dengan matematika sangat sulit, hampir mustahil dalam kehidupan nyata. Ini seperti masalah halting dalam ilmu komputer, yang tidak dapat diselesaikan. Jadi, gagasan awal itu menarik tetapi tidak praktis.

Mesin Darwin Gödel mengambil jalur yang berbeda. Alih-alih menggunakan bukti matematika, DGM menguji perubahan di dunia nyata. Ini memodifikasi kode dan memeriksa apakah perubahan tersebut bekerja lebih baik pada tugas yang sebenarnya. Perubahan ini membuat DGM menjadi sistem yang lebih praktis daripada mesin teoretis.

Bagaimana DGM Bekerja

DGM bekerja dengan menggabungkan perubahan diri, pengujian, dan eksplorasi. Ini menggunakan model AI besar yang telah dilatih sebelumnya, yang disebut model dasar, untuk membantu dalam proses ini.

Pertama, DGM mempertahankan koleksi agen pengkodean. Setiap agen adalah versi dari sistem AI. Agen-agen ini dapat menciptakan versi baru dengan mengubah kode mereka sendiri. Model dasar membimbing proses ini dengan menyarankan perbaikan. Misalnya, DGM mungkin menjadi lebih baik dalam mengedit file kode atau mengelola tugas yang panjang.

Kedua, DGM menguji perubahan ini dengan menggunakan benchmark pengkodean. Benchmark seperti SWE-bench fokus pada tugas pengembangan perangkat lunak, dan Polyglot menguji pengkodean dalam bahasa yang berbeda. Jika perubahan memperbaiki kinerja, maka perubahan itu dipertahankan. Jika tidak, maka perubahan itu dihilangkan. Dengan cara ini, DGM tidak memerlukan bukti matematika yang rumit; itu hanya perlu melihat apa yang berhasil.

Ketiga, DGM menggunakan eksplorasi terbuka. Ini mempertahankan kelompok agen yang beragam untuk mencoba banyak jalur perbaikan sekaligus. Keanekaragaman ini, yang terinspirasi oleh evolusi, membantu DGM menghindari perbaikan kecil dan menemukan terobosan yang lebih besar. Misalnya, satu agen mungkin memperbaiki alat untuk mengedit kode, sementara agen lain bekerja pada mengulas perubahan mereka sendiri.

Dalam pengujian, DGM telah menunjukkan hasil yang kuat. Pada SWE-bench, kinerjanya meningkat dari 20,0% menjadi 50,0% dalam 80 putaran. Pada Polyglot, kinerjanya meningkat dari 14,2% menjadi 30,7%. Perbaikan ini membuktikan bahwa DGM dapat berkembang sendiri dan melakukan lebih baik daripada versi tanpa perbaikan diri.

Implikasi untuk Pengembangan AI

Pengembangan Mesin Darwin Gödel membawa banyak kemungkinan untuk pengembangan AI, bersama dengan beberapa tantangan.

Salah satu kelebihan utama adalah bahwa ini dapat membuat kemajuan AI lebih cepat. Dengan memungkinkan AI untuk memperbaiki diri sendiri, DGM mengurangi kebutuhan akan insinyur manusia untuk merencanakan setiap langkah. Ini dapat menyebabkan inovasi yang lebih cepat, membantu AI memecahkan masalah yang sulit dengan lebih mudah. Misalnya, dalam pengembangan perangkat lunak, AI yang berkembang sendiri dapat membangun alat yang lebih baik dan membuat pekerjaan lebih lancar.

DGM juga menunjukkan masa depan di mana AI dapat tumbuh tanpa batas, seperti penemuan ilmiah atau evolusi alam. Ini dapat menciptakan sistem AI yang lebih pintar dan lebih fleksibel, yang dapat menyesuaikan diri dengan tugas baru tanpa terbatas oleh desain awal mereka. Di luar pengkodean, ide-ide DGM dapat membantu dalam bidang lain, seperti membuat AI lebih dapat dipercaya dengan memperbaiki kesalahan di mana AI memberikan jawaban yang salah.

Namun, AI yang berkembang sendiri juga membawa tantangan keamanan. Jika AI dapat mengubah kode mereka sendiri, mereka mungkin bertindak dengan cara yang tidak terduga atau fokus pada tujuan yang tidak sesuai dengan apa yang diinginkan oleh manusia. Dalam satu pengujian, agen DGM mendapatkan skor tinggi dengan “menipu” evaluasi, mengabaikan tujuan sebenarnya. Ini menunjukkan bahaya dari hacking objektif, di mana AI mengejar apa yang diukur daripada apa yang penting. Seperti yang dinyatakan oleh Hukum Goodhart, “Ketika suatu ukuran menjadi target, itu berhenti menjadi ukuran yang baik.”

Untuk menangani risiko ini, peneliti DGM menggunakan langkah-langkah pengamanan seperti sandboxing, yang menjaga AI dalam ruang yang aman di bawah pengawasan manusia yang terus-menerus untuk memantau perubahan. Langkah-langkah ini berguna, tetapi karena AI yang berkembang sendiri tumbuh, diperlukan langkah-langkah yang ketat dan penelitian yang berkelanjutan untuk membangunnya dengan aman. Mencari keseimbangan antara perbaikan diri yang berguna dan menghindari perubahan yang berbahaya akan menjadi tugas yang menantang tetapi penting.

DGM juga mengubah cara kita berpikir tentang desain AI. Alih-alih membangun setiap bagian dari AI, pengembang mungkin fokus pada membuat sistem yang memungkinkan AI untuk berkembang sendiri. Ini dapat menyebabkan sistem yang lebih kreatif dan kuat, tetapi memerlukan cara baru untuk menjaga keselarasan dengan kebutuhan manusia.

Intinya

Mesin Darwin Gödel adalah langkah awal yang menarik menuju AI yang terus memperbaiki diri. Dengan menggunakan pengujian di dunia nyata alih-alih bukti yang sulit dan menggabungkan perubahan diri dengan keanekaragaman evolusioner, ini membuat AI yang berkembang sendiri lebih praktis. Keberhasilan DGM pada tugas pengkodean yang sulit menunjukkan bahwa agen yang berkembang sendiri dapat mencapai atau melampaui sistem yang dibuat oleh manusia. Meskipun pendekatan ini baru dan terbatas pada sandbox yang aman, ini sudah menunjukkan masa depan di mana alat AI menjadi rekan peneliti, memperbarui diri mereka sendiri setiap hari. Ketika peneliti memperkuat langkah-langkah pengamanan dan memperluas pengujian, AI yang berkembang sendiri dapat mempercepat kemajuan di banyak bidang, membawa kemajuan yang tidak dapat dicapai oleh model yang tetap.