Ketika Agen AI Mulai Membangun AI: Ledakan Kecerdasan Rekursif yang Tak Terduga

Selama beberapa dekade, kecerdasan buatan berkembang secara hati-hati, sebagian besar secara linier. Para peneliti membangun model. Para insinyur meningkatkan kinerja. Organisasi menerapkan sistem untuk mengotomatiskan tugas-tugas tertentu. Setiap peningkatan sangat bergantung pada desain dan pengawasan manusia. Pola itu sekarang mulai berubah. Diam-diam tetapi tegas, sistem AI melintasi ambang batas di mana mereka bukan lagi sekadar alat yang dibangun oleh manusia. Mereka menjadi pembangun itu sendiri.

Agen AI mulai merancang, mengevaluasi, dan menerapkan sistem AI lainnya. Dengan melakukan hal itu, mereka menciptakan lingkaran umpan balik di mana setiap generasi meningkatkan generasi berikutnya. Pergeseran ini tidak diumumkan dengan berita utama yang dramatis. Pergeseran ini terungkap melalui makalah penelitian, alat pengembang, dan platform perusahaan. Namun, implikasinya sangat mendalam. Ketika kecerdasan dapat secara rekursif meningkatkan dirinya sendiri, kemajuan tidak lagi mengikuti garis waktu atau intuisi manusia. Kemajuan tersebut justru semakin cepat.

Artikel ini mengeksplorasi bagaimana kita sampai pada momen ini, mengapa kecerdasan rekursif penting, dan mengapa masyarakat jauh kurang siap menghadapinya daripada seharusnya. Ledakan kecerdasan, yang dulunya merupakan gagasan filosofis, kini telah menjadi tantangan rekayasa yang nyata.

Evolusi Ledakan Intelijen

Gagasan bahwa sebuah mesin dapat meningkatkan kecerdasannya sendiri sudah ada sebelum komputasi modern. Pada awal tahun 1960-an, matematikawan Inggris IJ Good diperkenalkan konsep sebuah “ledakan kecerdasanAlasannya adalah: Jika sebuah mesin menjadi cukup cerdas untuk meningkatkan desainnya sendiri, bahkan sedikit pun, versi yang lebih baik akan lebih mampu meningkatkan versi berikutnya. Siklus ini dapat berulang dengan cepat, menyebabkan pertumbuhan yang jauh melampaui pemahaman atau kendali manusia. Pada saat itu, ini adalah eksperimen pemikiran filosofis, yang lebih banyak dibahas dalam teori daripada dalam praktik.

Beberapa dekade kemudian, gagasan tersebut mendapatkan landasan teknis melalui karya ilmuwan komputer Jürgen Schmidhuber. Usulannya tentang Mesin Gödel Ia menggambarkan sebuah sistem yang dapat menulis ulang bagian mana pun dari kode programnya sendiri, asalkan dapat membuktikan secara formal bahwa perubahan tersebut akan meningkatkan kinerjanya di masa mendatang. Tidak seperti sistem pembelajaran tradisional, yang menyesuaikan parameter dalam arsitektur tetap, Mesin Gödel dapat mengubah aturan pembelajarannya sendiri. Meskipun masih bersifat teoretis, karya ini membingkai ulang ledakan kecerdasan sebagai sesuatu yang dapat dipelajari, diformalkan, dan pada akhirnya dibangun.

Pergeseran terakhir dari teori ke praktik terjadi dengan munculnya agen AI modern. Sistem ini tidak hanya menghasilkan keluaran sebagai respons terhadap perintah. Mereka merencanakan, bernalar, bertindak, mengamati hasil, dan menyesuaikan perilaku dari waktu ke waktu. Dengan munculnya arsitektur agen, ledakan kecerdasan bergeser dari filsafat ke rekayasa. Eksperimen awal, seperti Mesin Darwin Gödel Konsep-konsep tersebut mengisyaratkan sistem yang berevolusi melalui peningkatan diri secara iteratif. Yang membuat momen ini berbeda adalah rekursi. Ketika agen AI dapat menciptakan dan menyempurnakan agen lain, belajar dari setiap iterasi, peningkatan akan berlipat ganda.

Ketika Agen AI Mulai Membangun AI

Dua tren utama mendorong transisi ini. Pertama adalah munculnya sistem AI yang bersifat agenik. Sistem ini mengejar tujuan dalam jangka waktu yang lama, memecah tugas menjadi beberapa langkah, mengoordinasikan alat, dan beradaptasi berdasarkan umpan balik. Sistem ini bukanlah model statis, melainkan proses.

Tren kedua adalah pembelajaran mesin otomatis. Kini terdapat sistem yang dapat merancang arsitektur, menyetel hyperparameter, menghasilkan pipeline pelatihan, dan bahkan mengusulkan algoritma baru dengan input manusia minimal. Ketika penalaran agen digabungkan dengan pembuatan model otomatis, AI memperoleh kemampuan untuk membangun AI.

Ini bukan lagi skenario hipotetis. Agen otonom seperti GPT Otomatis Menunjukkan bagaimana satu tujuan tunggal dapat memicu siklus perencanaan, pelaksanaan, evaluasi, dan revisi. Dalam lingkungan penelitian, sistem seperti Ilmuwan-v2 dari Sakana AI dan AlphaEvolve dari DeepMind Menunjukkan agen yang merancang eksperimen, mengusulkan algoritma, dan menyempurnakan solusi melalui umpan balik berulang. Dalam pencarian arsitektur sarafSistem AI telah menemukan struktur model yang menyaingi atau melampaui jaringan yang dirancang manusia. Sistem ini tidak hanya memecahkan masalah, tetapi juga meningkatkan mekanisme yang digunakan untuk memecahkan masalah. Setiap siklus menghasilkan alat yang lebih baik, yang memungkinkan siklus yang lebih baik lagi.

Untuk meningkatkan skala proses ini, para peneliti dan perusahaan semakin bergantung pada pemimpin orkestra Arsitektur. Sebuah meta-agen pusat menerima tujuan tingkat tinggi. Meta-agen ini memecah tugas menjadi submasalah, menghasilkan agen khusus untuk mengatasinya, mengevaluasi hasilnya menggunakan data dunia nyata, dan mengintegrasikan hasil terbaik. Desain yang buruk dibuang dan desain yang berhasil diperkuat. Seiring waktu, orchestrator menjadi lebih baik dalam mendesain agen itu sendiri.

Meskipun jangka waktu pasti kapan agen AI akan sepenuhnya membangun dan meningkatkan sistem AI lainnya masih belum pasti, lintasan penelitian dan penilaian terkini dari para ahli terkemuka menunjukkan hal tersebut. Peneliti AI dan praktisi Menunjukkan bahwa transisi ini terjadi lebih cepat dari yang diperkirakan banyak orang. Versi awal yang terbatas dari kemampuan ini sudah mulai muncul di laboratorium penelitian dan penerapan di perusahaan, di mana agen mulai merancang, mengevaluasi, dan menyempurnakan sistem lain dengan keterlibatan manusia yang terbatas.

Kemunculan Ketidakpastian

Kecerdasan rekursif menghadirkan tantangan yang tidak pernah dihadapi oleh otomatisasi tradisional. Salah satu tantangan tersebut adalah ketidakpastian pada tingkat sistem. Ketika banyak agen berinteraksi, perilaku kolektif mereka dapat menyimpang dari tujuan di balik desain individual mereka. Fenomena ini dikenal sebagai perilaku yang muncul.

Kemunculan (emergence) tidak berasal dari satu komponen yang cacat, tetapi dari interaksi di antara banyak komponen yang kompeten. Pertimbangkan sistem perdagangan otomatis. Setiap agen perdagangan mungkin mengikuti aturan rasional yang dirancang untuk memaksimalkan keuntungan dalam batasan tertentu. Namun, ketika ribuan agen tersebut berinteraksi dengan kecepatan tinggi, lingkaran umpan balik dapat terbentuk. Reaksi satu agen dapat memicu respons agen lain, yang kemudian dapat memicu respons agen lain lagi, hingga sistem menjadi tidak stabil. Kejatuhan pasar dapat terjadi tanpa adanya satu pun agen yang mengalami kerusakan. Kegagalan ini bukan disebabkan oleh niat jahat. Hal ini diakibatkan oleh ketidaksesuaian antara optimasi lokal dan tujuan sistem secara keseluruhan. Dinamika yang sama juga dapat diterapkan pada bidang lain.

Krisis Penyelarasan Multi-Agen

Penelitian penyelarasan AI tradisional berfokus pada penyelarasan satu model tunggal dengan nilai-nilai manusia. Pertanyaannya sederhana: bagaimana kita memastikan sistem tunggal ini berperilaku seperti yang kita inginkan? Pertanyaan itu menjadi... jauh lebih sulit Ketika sistem tersebut berisi puluhan, ratusan, atau ribuan agen yang saling berinteraksi. Menyelaraskan agen individual tidak menjamin perilaku sistem yang selaras. Bahkan ketika setiap komponen mengikuti aturannya, hasil kolektifnya dapat berbahaya. Metode keselamatan yang ada tidak cocok untuk mendeteksi atau mencegah kegagalan ini.

Risiko keamanan juga berlipat ganda. Agen yang disusupi dalam jaringan multi-agen dapat meracuni informasi yang diandalkan oleh agen lain. Satu penyimpanan data yang rusak dapat menyebarkan perilaku yang tidak selaras ke seluruh sistem. Kerentanan infrastruktur yang mengancam satu agen dapat berantai ke atas dan mengancam model-model dasar. Permukaan serangan meluas dengan setiap agen baru yang ditambahkan.

Sementara itu, kesenjangan tata kelola terus melebar. Penelitian dari Microsoft dan organisasi lain menemukan bahwa hanya sekitar satu dari sepuluh perusahaan yang memiliki strategi yang jelas untuk mengelola Identitas agen AI dan izin. Diperkirakan lebih dari empat puluh miliar identitas otonom akan ada pada akhir tahun ini. Sebagian besar beroperasi dengan akses luas ke data dan sistem tetapi tanpa protokol keamanan yang diterapkan pada pengguna manusia. Sistem-sistem tersebut berkembang pesat. Mekanisme pengawasan tidak.

The Bottom Line

AI telah memasuki fase di mana ia dapat meningkatkan dirinya sendiri dengan membangun versi dirinya yang lebih baik. Kecerdasan rekursif yang digerakkan oleh agen menjanjikan keuntungan luar biasa, tetapi juga memperkenalkan risiko yang berkembang lebih cepat daripada pengawasan, tata kelola, dan intuisi manusia. Tantangan di depan bukanlah apakah pergeseran ini dapat dihentikan, tetapi apakah keselamatan, keselarasan, dan akuntabilitas dapat berkembang dengan kecepatan yang sama dengan kemampuan. Jika tidak, ledakan kecerdasan akan melampaui kemampuan kita untuk mengarahkannya.