Kami Tidak Lagi Mengatur AIs. Kami Mengatur Peradaban

Selama bertahun-tahun, pertanyaan utama dalam kecerdasan buatan (AI) adalah bagaimana mengatur model AI dengan nilai-nilai manusia. Peneliti mencoba mendefinisikan aturan keselamatan, prinsip etika, dan mekanisme kontrol yang memandu keputusan AI. Pekerjaan ini telah mencapai kemajuan yang signifikan. Namun, sekarang, ketika sistem AI ini tumbuh lebih kuat dan tersebar luas, fokus pengaturan mulai bergeser. Apa yang dimulai sebagai tantangan mengatur satu model untuk satu set instruksi sekarang telah menjadi tantangan yang jauh lebih besar, yaitu mengatur peradaban seluruh yang menggunakan sistem ini pada skala global. AI tidak lagi hanya menjadi alat. Ini berkembang menjadi lingkungan di mana masyarakat bekerja, berkomunikasi, bernegosiasi, dan bersaing. Sebagai hasilnya, pengaturan tidak lagi menjadi masalah teknis. Ini telah menjadi masalah peradaban. Dalam artikel ini, saya menjelaskan mengapa pengaturan tidak lagi hanya tentang model dan mengapa kita harus mulai berpikir dalam hal peradaban daripada mesin. Saya juga membahas bagaimana pergeseran ini mempengaruhi tanggung jawab kita dan apa yang dimaksud dengan kerja sama global.

Siapa yang Nilainya AI Benar-Benar Wakili?

Jika Anda bertanya kepada AI tentang peristiwa sejarah yang sensitif, jawabannya tergantung pada data yang dipelajari. Jika data itu sebagian besar berasal dari internet Barat, jawabannya akan memiliki bias Barat. Ini akan memprioritaskan individualisme, kebebasan berbicara, dan ideal demokratis. Nilai-nilai ini baik bagi banyak orang. Namun, nilai-nilai ini tidak satu-satunya nilai di dunia.

Pengguna di Singapura, pengguna di Riyadh, dan pengguna di San Francisco memiliki definisi yang berbeda tentang apa yang “bermanfaat” dan apa yang “merugikan.” Di beberapa budaya, harmoni sosial lebih penting daripada kebebasan berbicara yang absolut. Di budaya lain, rasa hormat terhadap hierarki lebih penting daripada perubahan.

Ketika perusahaan di Silicon Valley menggunakan “Reinforcement Learning from Human Feedback” (RLHF), mereka merekrut manusia untuk menilai jawaban AI. Namun, siapa manusia-manusia itu? Apa keyakinan mereka? Jika mereka mengatur model dengan standar Amerika, mereka secara tidak sengaja membangun ekspor budaya Amerika. Mereka membangun diplomat digital yang menerapkan aturan peradaban tertentu pada dunia lain.

Munculnya Lingkaran Umpan Balik

Tantangan tidak hanya bahwa AI mencerminkan keyakinan satu budaya. Ini tentang bagaimana keyakinan itu dapat mengubah kita. Sistem AI modern memiliki potensi untuk membentuk perilaku individu, organisasi, dan bahkan negara. Mereka dapat mempengaruhi bagaimana kita berpikir, bekerja, percaya, dan bersaing. Ini menciptakan lingkaran umpan balik antara sistem AI dan masyarakat manusia; kita melatih AI dan AI membentuk bagaimana kita berpikir dan bertindak. Lingkaran ini menjadi lebih kuat ketika AI menjadi lebih meresap. Untuk melihat bagaimana lingkaran umpan balik ini bekerja, berikut adalah dua contoh:

• Penggunaan AI skala besar mengubah perilaku sosial, dan perilaku sosial mengubah data yang melatih sistem baru. Misalnya, algoritma rekomendasi dapat membentuk apa yang orang tonton, baca, dan percayai. Alat produktivitas mengubah cara tim bekerja sama dan cara siswa belajar. Perubahan perilaku ini mengubah pola data dalam bentuk kebiasaan menonton, pola komunikasi tempat kerja, atau gaya menulis. Ketika data ini mengalir ke dalam dataset pelatihan masa depan, model tersebut menyesuaikan asumsi dan outputnya. Perilaku manusia membentuk model, dan model, pada gilirannya, membentuk perilaku manusia.
• Alat keputusan otomatis mempengaruhi kebijakan publik, dan kebijakan publik mempengaruhi pelatihan model di masa depan. Misalnya, banyak pemerintah sekarang menggunakan AI untuk menyarankan di mana untuk mengalokasikan sumber daya seperti mengidentifikasi lingkungan mana yang membutuhkan lebih banyak dukungan kesehatan atau area mana yang mungkin melihat risiko kejahatan yang lebih tinggi. Ketika pembuat kebijakan bertindak berdasarkan rekomendasi ini, hasil dari keputusan tersebut kemudian menjadi bagian dari dataset baru. Seiring waktu, keputusan kebijakan yang dibentuk oleh AI akhirnya membentuk generasi model AI berikutnya.

Setelah Anda mengenali lingkaran umpan balik ini, menjadi jelas bahwa AI secara bertahap membentuk dan mengatur peradaban. Sebagai hasilnya, negara-negara mulai bertanya: Bagaimana mereka dapat melindungi nilai-nilai mereka sambil mengintegrasikan AI ke dalam masyarakat dan lembaga mereka?

Munculnya AI Berdaulat

Tantangan pengaturan ini telah memicu reaksi signifikan dari pemerintah di seluruh dunia. Negara-negara telah menyadari bahwa mengandalkan AI impor adalah risiko bagi kedaulatan mereka. Mereka tidak dapat membiarkan warga negara mereka dididik, diberitahu, dan diberi nasihat oleh kotak hitam yang berpikir seperti orang asing.

Penyadaran ini telah mengarah pada munculnya “AI Berdaulat.” Perancis sedang berinvestasi besar-besaran untuk membangun model yang berbicara bahasa Perancis dan memahami hukum dan budaya Perancis. India sedang membangun model AI asli untuk memastikan nilai-nilai budaya mereka. Uni Emirat Arab dan Cina sedang membangun model AI yang sesuai dengan visi nasional mereka.

Ini adalah perlombaan senjata baru. Ini adalah perlombaan untuk kontrol narasi. Peradaban yang tidak memiliki AI sendiri akhirnya akan kehilangan ingatan mereka sendiri. Jika anak-anak Anda bertanya kepada mesin, dan mesin itu menjawab dengan logika budaya lain, budaya Anda mulai terkikis. Penyadaran ini, bagaimanapun, mungkin mengarah pada pembentukan blok digital yang berbeda. Kami mungkin berakhir dengan AI Barat, AI Cina, AI India, dan seterusnya. Sistem ini akan beroperasi dengan fakta dan kompas moral yang berbeda. Pengembangan ini membuat jelas bahwa jika kita ingin menciptakan model AI yang benar-benar terintegrasi, kita harus terlebih dahulu menemukan cara untuk mengintegrasikan peradaban.

Keperluan untuk AI Diplomatik

Pengaturan tradisional menganggap bahwa model dapat diatur dengan pelatihan, pemancingan, dan pengaman yang hati-hati. Pemikiran ini berasal dari mindset teknis penelitian keselamatan AI awal. Namun, bahkan pengaturan model yang sempurna tidak dapat menyelesaikan tantangan mengatur peradaban. Pengaturan tidak dapat tetap stabil ketika masyarakat menarik ke arah yang berlawanan. Jika negara, perusahaan, dan komunitas memiliki tujuan yang bertentangan, mereka akan mendorong sistem AI untuk mencerminkan konflik tersebut. Batasan ini menunjukkan bahwa pengaturan tidak hanya masalah teknis. Ini adalah masalah tata kelola, budaya, dan koordinasi. Dan masalah-masalah ini memerlukan tidak hanya ahli atau pengembang. Mereka melibatkan seluruh peradaban.

Jadi, bagaimana kita melangkah maju? Jika kita menerima bahwa pengaturan universal adalah mustahil, kita harus mengubah strategi. Kita perlu berhenti mencari solusi teknis untuk masalah filosofis. Kita perlu mulai berpikir seperti diplomat. Kita akan perlu membangun protokol untuk “Pengaturan Peradaban.” Kita perlu mengetahui bagaimana AI dapat menghormati keyakinan dan nilai-nilai suatu masyarakat tanpa mengimposkan keyakinan budaya lain. Dengan kata lain, kita perlu sebuah Perserikatan Bangsa-Bangsa digital untuk algoritma kita.

Ini memerlukan transparansi. Saat ini, kita tidak benar-benar tahu nilai-nilai apa yang tersembunyi di dalam lapisan dalam jaringan saraf. Kita hanya melihat output. Untuk mengatur peradaban, kita perlu jelas tentang “Konstitusi” dari setiap model. Model harus dapat menyatakan biasnya. Ini harus dapat mengatakan, “Saya dilatih pada data ini, dengan aturan keselamatan ini, memprioritaskan nilai-nilai ini.” Hanya ketika bias terlihat jelas, kita dapat mempercayai sistem. Pengguna harus dapat beralih antara perspektif. Anda harus dapat bertanya dan melihat bagaimana model “Barat” menjawab versus bagaimana model “Timur” menjawab. Ini akan mengubah AI menjadi alat untuk pemahaman, bukan alat untuk indoktrinasi.

Intinya

Kita telah menghabiskan terlalu banyak waktu untuk khawatir tentang Terminator. Risiko nyata bukanlah bahwa robot akan menghancurkan kita. Risiko nyata adalah bahwa robot akan membuat kita lupa siapa kita. Pengaturan bukanlah kode yang dapat kita tulis sekali dan lupakan. Ini adalah negosiasi konstan dengan model AI untuk menjaga mereka tetap terintegrasi dengan keyakinan dan nilai-nilai kita. Ini adalah tindakan politik. Ketika kita memasuki fase berikutnya dari usia kecerdasan, kita harus melihat melampaui layar. Kita harus mempertimbangkan bagaimana AI menafsirkan sejarah kita, perbatasan kita, dan keyakinan kita. Kita sedang membangun pikiran yang akan membantu kita mengelola dunia. Kita harus memastikan bahwa pikiran itu menghormati perbedaan antara peradaban.