Kecerdasan Buatan dan Busur Kepercayaan

Awal tahun lalu, ketika tim kami membuat prediksi tentang apa yang akan terjadi di masa depan, kesepakatan kami adalah bahwa pembungkus kecerdasan buatan (AI) akan dibuka. Kami akhirnya akan melihat apa yang bisa dilakukan AI dan berharap memperoleh kejelasan tentang dampaknya pada bisnis dan masyarakat, serta bagaimana cara melanjutkannya. Ini bukanlah prediksi yang baru, tetapi intinya akurat, meskipun kami masih bergumul dengan implikasi AI dan bagaimana (atau jika) itu harus dikendalikan dengan cara tertentu.

Kami akan melihat Apple, Microsoft, dan Google membangun AI ke dalam perangkat dan membawa kekuatan AI kepada audiens yang lebih luas. Kemudian, sebuah chatbot dalam alat pencarian yang ditenagai AI mengancam pengguna dan mengklaim bahwa mereka mengintai karyawan, sementara yang lain menyarankan menggunakan lem Elmer untuk membuat pizza homemade agar keju tidak terlepas. Namun, kasus penggunaan AI dalam bisnis tumbuh secara dramatis, dan begitu juga pasar. Menurut data dari Crunchbase, hampir seperempat dari semua pendanaan ventura global tahun lalu saja untuk perusahaan di bidang terkait AI.

Tapi bahkan ketika OpenAI menghadirkan alasan yang sangat luar biasa, peneliti AI terkenal, Yoshua Bengio, mendesak adopsi langkah-langkah keamanan untuk “model frontier” yang memiliki potensi menyebabkan kerusakan yang sangat parah. Dan meskipun teknologi itu akan membawa pulang dua Hadiah Nobel untuk aplikasi dalam ilmu pengetahuan, salah satu penerimanya mengungkapkan kekhawatiran tentang memiliki sistem “lebih pintar dari kita yang akhirnya mengambil alih kendali.”

Di ruang yang bergerak sangat cepat ini, sulit bagi teknolog yang ahli untuk mengikuti, apalagi bagi mereka yang berada di mainstream.

Dan gangguan AI – dan kekhawatiran tentang privasi dan penggunaan yang tidak terkendali – hanya meningkatkan kehati-hatian masyarakat.

Percayalah Padaku

Kami menemukan diri kami di tengah-tengah busur kepercayaan, yang memerlukan penerimaan publik yang meningkat terhadap AI, sementara memastikan komunitas bisnis dan teknologi bertindak secara bertanggung jawab. Bagian pertama adalah di mana permainan sedang dimainkan sekarang, pada tingkat perusahaan, mendapatkan momentum dengan setiap penerapan yang aman dan suara. Kami membangun atas dasar bukti kami, yang akhirnya akan mengarah pada kepercayaan publik yang meningkat. Bagian kedua, bagaimanapun, jauh lebih sulit.

Siapa yang mendefinisikan dan menerapkan penggunaan AI yang bertanggung jawab? Apakah industri dapat menciptakan pedoman ketika mereka sendiri yang memerlukan pengawasan? Jika teknolog ahli memiliki kesulitan mengikuti AI, apakah pembuat kebijakan akan terinformasi, dan menjaga agenda politik mereka keluar dari diskusi? Dan ketika seorang miliarder AI tiba-tiba ingin berbicara tentang kontrol, apakah mereka memiliki epifani atau hanya mencoba memompa rem untuk mengejar?

“Percayalah padaku” tidak akan cukup dengan AI, tidak peduli siapa Anda.

Percayalah dan Verifikasi

Orang-orang melihat AI generatif seperti ChatGPT dan bertanya-tanya apakah itu akan menjadi Google mereka berikutnya? Nah, hasil teratas dari pencarian Google sekarang diciptakan oleh model AI-nya, Gemini. Masalahnya adalah Anda tidak bisa mengandalkannya untuk bisnis skala besar ketika pertanyaan sederhana seperti “Apakah daging mentah aman untuk dikonsumsi?” memberikan jawaban, “Ya, beku.” Anda perlu memeriksa data.

Busur kepercayaan publik akan mencerminkan apa yang dilakukan dengan pencarian konvensional, diperoleh dari waktu ke waktu dan dengan bukti keandalan. Ironisnya, dalam upaya kami untuk menyederhanakan dan meningkatkan pencarian, kami telah mengambil langkah mundur. Sekarang, setelah mendapatkan jawaban yang dihasilkan AI di atas, Anda harus menggulir melewati daftar panjang tautan sponsor, mengklik lima berikutnya dan masih memenuhi informasi.

Itu banyak pekerjaan ketika Anda mencari jawaban yang cepat – dan Anda tidak bisa memiliki perusahaan seluruhnya melakukan hal yang sama. Namun, jika Anda memperkaya data yang telah Anda tambang dengan puluhan ribu tiket layanan Anda sendiri dan membawa pengetahuan sebenarnya tentang lingkungan Anda, Anda dapat mengkonfigurasi halusinasi ke bawah, tetapi masih merupakan situasi “percayalah dan verifikasi”.

Jauhkan Politik dari Ini

Ketika datang ke pengaturan AI, beberapa orang mengatakan bahwa kuda telah meninggalkan kandang dan mungkin tidak akan ditangkap. Misalnya, ada kekurangan alat yang benar-benar efektif untuk memeriksa apakah seorang siswa menulis makalah atau menggunakan GenAI. Teknologi ini terlalu jauh di depan.

Mengatur ini akan sangat kompleks, dan untuk jujur, kami akan menuju ke es yang tipis. Kami tahu perusahaan teknologi telah beberapa dekade lebih maju dari pengatur luar yang diusulkan. Namun, kami pandai menciptakan jalur, bukan terhambat. Namun, pada akhir hari, mungkin jatuh pada inovator untuk mencoba menerapkan tata kelola. Siapa lagi yang bisa melakukannya – dengan bertanggung jawab?

Ada banyak politisi yang ingin mencobanya. Risikonya, selain kurangnya pemahaman, adalah jika mereka memiliki agenda pribadi dan politik untuk dipromosikan. Fokus mereka, potensial, akan kurang pada mengembangkan AI dan lebih pada melakukan apa yang terbaik untuk kepentingan politik mereka. Mereka mungkin dapat bekerja dari ketakutan publik, menggunakan tangan yang berat untuk menghambat kemajuan AI.

Undang-Undang CHIPS dan Sains adalah contoh tindakan pemerintah yang sehat, menghasilkan peningkatan dramatis 15 kali lipat dalam pembangunan fasilitas manufaktur untuk perangkat komputasi dan elektronik. Namun, ini dimungkinkan melalui bipartisanship – yang semakin langka di era ini.

Apakah Kita Layak?

Ada banyak uang yang mengalir ke AI dan selama dua dekade berikutnya, banyak yang akan dibuat oleh perusahaan teknologi. Berapa banyak, seberapa cepat, dan seberapa aman masih belum terlihat. Pada hari tertentu, deep fake dapat diedarkan, menunjukkan seseorang di sorotan yang memainkan telur burung yang terancam punah. Masyarakat akan bereaksi dengan terkejut, dan meskipun mungkin terungkap bahwa itu dihasilkan AI, telur itu tidak akan kembali ke dalam cangkang – kerusakan sudah dilakukan.

Kami memerlukan hal-hal seperti itu untuk diatur oleh teknolog yang terinformasi. Bentuk apa yang diambil – dewan, badan standar, kerangka kerja internasional – masih belum terlihat. Yang diketahui adalah AI berada pada busur kepercayaan, dan sebagai industri, kami perlu membuktikan bahwa kami layak mendapatkannya.