Menavigasi Jalan Menuju Kecerdasan Buatan Umum (AGI) Bersama: Pendekatan Seimbang

Ketika kecerdasan buatan umum (AGI) berkembang pesat, percakapan bergeser dari debat filosofis ke relevansi praktis, dengan peluang besar untuk mengubah bisnis global dan potensi manusia.

Seri acara AGI Icons Turing mengumpulkan inovator AI untuk membahas kemajuan praktis dan bertanggung jawab dari solusi AGI. Pada 24 Juli, Turing menyelenggarakan acara AGI Icons kedua kami di SHACK15, pusat eksklusif untuk wirausaha dan inovator teknologi di San Francisco. Dengan moderator Anita Ramaswamy, kolomnis keuangan di The Information, saya duduk bersama CEO Quora, Adam D’Angelo untuk membahas jalan menuju AGI dan berbagi wawasan tentang garis waktu pengembangan, aplikasi dunia nyata, dan prinsip untuk penerapan yang bertanggung jawab.

Jalan dari AI ke AGI

“Bintang utara” yang mengarahkan penelitian AI adalah pencarian “kecerdasan” tingkat manusia. Yang membedakan AGI dari AI standar adalah kemajuan melampaui fungsionalitas sempit menuju keumuman (kualitas) dan kinerja (kedalaman) yang lebih besar, bahkan melebihi kemampuan manusia.

Ini adalah “jalan menuju AGI,” di mana AI berkembang menjadi sistem yang lebih otonom, alasan yang unggul, kemampuan yang ditingkatkan, dan fungsionalitas yang diperbaiki. Kemajuan ini dibagi menjadi lima tingkat taksonomi:

• Tingkat 0: Tidak ada AI – Alat sederhana seperti kalkulator
• Tingkat 1: AGI yang muncul – LLM saat ini seperti ChatGPT
• Tingkat 2: AGI yang kompeten – Sistem AI yang sesuai dengan orang dewasa terampil pada tugas tertentu
• Tingkat 3: AGI ahli – Sistem AI pada persentil 90 orang dewasa terampil
• Tingkat 4: AGI virtuoso – Sistem AI pada persentil 99
• Tingkat 5: AGI superhuman – Sistem AI yang mengungguli semua manusia

Source

Selama diskusi kami, Adam mendefinisikan konsep AGI sebagai, “perangkat lunak yang dapat melakukan semua yang dapat dilakukan manusia.” Ia membayangkan masa depan di mana AI memperbaiki dirinya sendiri, akhirnya mengambil alih tugas manusia yang kompleks yang ditangani oleh peneliti pembelajaran mesin.

Mengambil langkah lebih jauh, saya membandingkan pandangan saya tentang AGI dengan “otak buatan” yang mampu melakukan tugas yang beragam seperti “terjemahan mesin, pertanyaan kompleks, dan pengkodean.” Itulah perbedaan antara AGI dan AI prediktif dan bentuk ML yang lebih sempit yang ada sebelumnya. Ini terasa seperti perilaku emergen.

Garisi Waktu Pengembangan Realistis di Jalan Menuju AGI

Sama seperti dalam perjalanan, pertanyaan utama tentang AGI adalah, “Apakah kita sudah sampai?” Jawaban singkatnya adalah tidak, tetapi karena penelitian AI dipercepat, pertanyaan yang tepat untuk diajukan adalah, “Bagaimana kita dapat menyeimbangkan ambisi AGI dengan harapan yang realistis?”

Adam menekankan bahwa otomatisasi yang meningkat dari AGI akan menggeser peran manusia daripada menghilangkannya, mengarah pada pertumbuhan ekonomi yang lebih cepat dan produktivitas yang lebih efisien. “Ketika teknologi ini menjadi lebih kuat, kita akan mencapai titik di mana 90% dari apa yang orang lakukan hari ini diotomatisasi, tetapi semua orang akan bergeser ke hal-hal lain.”

Saat ini, sebagian besar perekonomian dunia dibatasi oleh jumlah orang yang tersedia untuk bekerja. Setelah kita mencapai AGI, kita dapat tumbuh dengan kecepatan yang jauh lebih cepat daripada yang mungkin dilakukan hari ini.

Kita tidak dapat memberikan garis waktu pasti kapan AGI sejati akan terwujud, tetapi Adam dan saya menyebutkan beberapa contoh kemajuan AI yang membuka jalan bagi kemajuan AGI di masa depan. Misalnya, eksperimen Turing dengan alat pengembang AI menunjukkan peningkatan produktivitas pengembang sebesar 33%, menunjukkan potensi yang lebih besar.

Aplikasi Dunia Nyata dan Efek

Salah satu aplikasi paling menjanjikan dari AGI terletak di bidang pengembangan perangkat lunak. Model bahasa besar (LLM), pendahulu AGI, sudah digunakan untuk meningkatkan pengembangan perangkat lunak dan memperbaiki kualitas kode. Saya melihat era AI ini lebih dekat dengan biologi daripada fisika, di mana semua jenis pekerjaan pengetahuan akan ditingkatkan. Akan ada produktivitas yang jauh lebih besar yang dibuka dari dan untuk kemanusiaan.

Perspektif saya berasal dari pengalaman, di mana saya telah menyaksikan peningkatan produktivitas pribadi sebesar 10 kali lipat ketika menggunakan LLM dan alat pengembang AI. Kami juga menggunakan AI di Turing untuk mengevaluasi bakat teknis dan mencocokkan insinyur perangkat lunak dan ahli domain tingkat PhD yang tepat dengan pekerjaan yang tepat.

Apa yang saya lihat di ruang pelatihan LLM, misalnya, adalah bahwa pelatih memanfaatkan model ini untuk meningkatkan produktivitas pengembang dan mempercepat garis waktu proyek. Dengan mengotomatisasi tugas pengkodean rutin dan memberikan saran kode cerdas, LLM membebaskan pengembang untuk fokus pada aspek strategis dan kreatif dari pekerjaan mereka.

Adam menutup, “”LLM tidak akan menulis semua kode, tetapi memahami dasar-dasar perangkat lunak tetap penting. Kalkulator tidak menghilangkan kebutuhan untuk belajar aritmatika.” Ia menambahkan, “Pengembang menjadi lebih berharga ketika menggunakan model ini. Keberadaan LLM adalah positif untuk pekerjaan pengembang dan akan ada banyak keuntungan bagi pengembang.”

Kami memasuki era emas pengembangan perangkat lunak di mana satu insinyur perangkat lunak dapat 10 kali lebih produktif, menciptakan lebih banyak, dan memberi manfaat bagi dunia.

Tantangan Teknis dan Pemerintahan

Meskipun potensi AGI yang menjanjikan, tantangan harus diatasi. Proses evaluasi yang kuat dan kerangka kerja regulasi diperlukan untuk menyeimbangkan inovasi AGI dengan keamanan publik.

Adam menekankan kebutuhan akan pengujian yang menyeluruh dan sandboxing untuk membatasi skenario terburuk. “Anda ingin memiliki beberapa jenis proses evaluasi yang kuat… dan mendapatkan distribusi yang Anda uji untuk menjadi sedekat mungkin dengan penggunaan dunia nyata.”

Dan saya setuju. Bottleneck untuk kemajuan AGI sekarang adalah kecerdasan manusia, bukan kekuatan komputasi atau data. Keahlian manusia sangat penting untuk fine-tuning dan mengkustomisasi model AI, yang mengapa Turing fokus pada sumber daya dan mencocokkan profesional teknologi tingkat atas untuk menyeimbangkan model dengan kecerdasan manusia.

Kita harus mengatasi tantangan AGI secara langsung dengan fokus pada kemampuan daripada proses, keumuman dan kinerja, dan potensi.

Perspektif pada Tantangan: Meningkatkan Interaksi Manusia-AGI

Beberapa praktik terbaik untuk mengatasi tantangan AGI termasuk:

• Fokus pada kemampuan atau “apa yang dapat dilakukan AGI” daripada proses atau “bagaimana melakukannya”.
• Seimbangkan keumuman dan kinerja sebagai komponen esensial AGI.
• Fokus pada tugas kognitif/metakognitif dan kemampuan belajar daripada tugas fisik/hasil.
• Ukur AGI dengan potensi dan kemampuannya.
• Fokus pada validitas ekologis dengan mengatur benchmark dengan tugas dunia nyata yang dihargai orang.
• Ingatlah bahwa jalan menuju AGI bukanlah satu titik akhir, melainkan proses iteratif.

Menambahkan pada praktik terbaik ini, Adam dan saya menekankan pentingnya meningkatkan interaksi manusia-AGI. Adam menekankan nilai belajar bagaimana dan kapan menggunakan model ini, melihatnya sebagai alat pembelajaran yang kuat yang dapat mengajarkan subdomain programming apa pun dengan cepat sambil menekankan pentingnya memahami dasar-dasar.

Sama seperti itu, saya sarankan bahwa membuat setiap manusia menjadi pengguna kuat LLM dapat secara signifikan meningkatkan produktivitas dan pemahaman di berbagai bidang. LLM dapat membuat informasi kompleks menjadi dapat diakses oleh semua orang, meningkatkan produktivitas di berbagai bidang. Tetapi ini memerlukan pendekatan yang berfase dan iteratif: dimulai dengan kopilot AI yang membantu manusia, kemudian beralih ke agen dengan pengawasan manusia, dan akhirnya mencapai agen yang sepenuhnya otonom dalam tugas yang dievaluasi dengan baik.

Dengan itu, diferensiasi pascapelanitian sangat penting, melibatkan fine-tuning yang diawasi (SFT) dan memanfaatkan kecerdasan manusia untuk membangun model kustom. Perusahaan yang dapat menyumberdayakan dan mencocokkan pelatih, insinyur, dan lain-lain akan mempercepat kemampuan fine-tuning dan rekayasa kustom mereka. Berkolaborasi dengan perusahaan terkemuka seperti OpenAI dan Anthropic juga kunci untuk menerapkan model ini di berbagai industri.

Prinsip Pengembangan AGI yang Bertanggung Jawab

“Pengembangan AGI harus bertanggung jawab dan etis, memastikan keamanan dan transparansi sambil mendorong inovasi.” – Adam D’Angelo

Pengembangan AGI yang bertanggung jawab memerlukan kepatuhan pada beberapa prinsip inti:

• Keamanan dan Keamanan: Memastikan sistem AGI dapat diandalkan dan tahan terhadap penyalahgunaan, terutama karena model skala untuk mengakomodasi input data atau algoritma baru.
• Transparansi: Realistis tentang kemampuan AGI, keterbatasan, dan “bagaimana cara kerjanya”.
• Pertimbangan Etis: Mengatasi keadilan, bias, dan bagaimana AGI akan mempengaruhi pekerjaan dan faktor sosioekonomi lainnya.
• Regulasi: Bekerja dengan pemerintah dan organisasi lain untuk mengembangkan kerangka kerja yang menyeimbangkan kemajuan dengan keamanan publik.
• Benchmarking: Benchmark di masa depan harus mengukur perilaku dan kemampuan AGI terhadap pertimbangan etis dan tingkat taksonomi.

Kesimpulan: Fokus pada Jalan Menuju AGI, Bukan Satu Titik Akhir

Jalan menuju AGI kompleks, tetapi setiap pemberhentian di sepanjang jalan penting untuk perjalanan. Dengan memahami perbaikan iteratif AGI—bersama dengan implikasinya—orang dan bisnis akan dapat mengadopsi teknologi yang berkembang ini dengan bertanggung jawab. Ini adalah inti dari pengembangan AGI yang bertanggung jawab, di mana interaktivitas dunia nyata memandu bagaimana kita menavigasi frontier baru ini.