Model dan platform AI
Pemimpin Teknologi Menyoroti Risiko AI & Urgensi Regulasi AI yang Kuat
Tambahkan Unite.AI ke sumber pilihan Anda di Google
Pertumbuhan dan kemajuan AI telah meningkat secara eksponensial selama beberapa tahun terakhir. Statista melaporkan bahwa pada tahun 2024, pasar AI global akan menghasilkan pendapatan yang mencengangkan sekitar $3000 miliar, dibandingkan dengan $126 miliar pada tahun 2015. Namun, pemimpin teknologi sekarang memperingatkan kita tentang berbagai risiko AI.
Terutama, gelombang terbaru dari model AI generatif seperti ChatGPT telah memperkenalkan kemampuan baru di berbagai sektor yang sensitif terhadap data, seperti kesehatan, pendidikan, keuangan, dll. Pengembangan AI ini rentan karena banyak kekurangan AI yang dapat dieksploitasi oleh agen jahat.
Mari kita diskusikan apa yang dikatakan oleh ahli AI tentang perkembangan terbaru dan menyoroti risiko potensial AI. Kami juga akan menyentuh secara singkat bagaimana risiko ini dapat dikelola.
Pemimpin Teknologi & Keprihatinan Terkait Risiko AI
Geoffrey Hinton
Geoffrey Hinton – seorang pemimpin teknologi AI terkenal (dan bapak dari bidang ini), yang baru-baru ini keluar dari Google (GOOGL ), telah mengungkapkan keprihatinannya tentang perkembangan AI yang cepat dan potensi bahayanya. Hinton percaya bahwa chatbot AI dapat menjadi “sangat menakutkan” jika mereka melebihi kecerdasan manusia.
Hinton mengatakan:
“Saat ini, apa yang kita lihat adalah hal-hal seperti GPT-4 yang melampaui kemampuan manusia dalam hal pengetahuan umum, dan itu melampaui mereka dengan jarak yang cukup jauh. Dalam hal penalaran, itu tidak sebaik, tetapi itu sudah melakukan penalaran sederhana. Dan dengan tingkat kemajuan yang cepat, kita harus khawatir tentang hal itu.”
Selain itu, ia percaya bahwa “aktor jahat” dapat menggunakan AI untuk “hal-hal buruk”, seperti memungkinkan robot memiliki tujuan sampingan. Meskipun keprihatinannya, Hinton percaya bahwa AI dapat membawa manfaat jangka pendek, tetapi kita juga harus berinvestasi besar-besaran dalam keamanan dan kontrol AI.
Elon Musk
Keterlibatan Elon Musk dalam AI dimulai dengan investasinya di DeepMind pada tahun 2010, hingga co-pendiri OpenAI dan mengintegrasikan AI ke dalam kendaraan otonom Tesla.
Meskipun ia antusias tentang AI, ia sering mengungkapkan keprihatinan tentang risiko AI. Musk mengatakan bahwa sistem AI yang kuat dapat lebih berbahaya bagi peradaban daripada senjata nuklir. Dalam sebuah wawancara di Fox News pada April 2023, ia mengatakan:
“AI lebih berbahaya daripada, katakanlah, desain pesawat yang tidak tepat atau produksi mobil yang buruk. Dalam arti bahwa itu memiliki potensi — meskipun kecil — tetapi itu tidak trivial dan memiliki potensi untuk menghancurkan peradaban.”
Selain itu, Musk mendukung regulasi pemerintah pada AI untuk memastikan keamanan dari risiko potensial, meskipun “itu tidak menyenangkan”.
Jeda Eksperimen AI Raksasa: Surat Terbuka yang Didukung oleh Ribuan Ahli AI
Future of Life Institute menerbitkan surat terbuka pada 22 Maret 2023. Surat itu meminta penangguhan sementara selama enam bulan pada pengembangan sistem AI yang lebih maju daripada GPT-4. Penulis surat itu mengungkapkan keprihatinan tentang kecepatan dengan mana sistem AI sedang dikembangkan yang menimbulkan tantangan sosio-ekonomi yang parah.
Selain itu, surat itu menyatakan bahwa pengembang AI harus bekerja sama dengan pembuat kebijakan untuk mendokumentasikan sistem tata kelola AI. Hingga Juni 2023, surat itu telah ditandatangani oleh lebih dari 31.000 pengembang AI, ahli, dan pemimpin teknologi. Tanda tangan terkenal termasuk Elon Musk, Steve Wozniak (Co-pendiri Apple (AAPL )), Emad Mostaque (CEO, Stability AI), Yoshua Bengio (pemenang Hadiah Turing), dan banyak lagi.
Argumen Kontra terhadap Penangguhan Pengembangan AI
Dua pemimpin AI terkemuka, Andrew Ng, dan Yann LeCun, telah menentang penangguhan enam bulan pada pengembangan sistem AI yang maju dan menganggap jeda itu sebagai ide yang buruk.
Ng mengatakan bahwa meskipun AI memiliki beberapa risiko, seperti bias, nilai yang diciptakan oleh AI di bidang seperti pendidikan, kesehatan, dan pelatihan yang responsif sangat besar.
Yann LeCun mengatakan bahwa penelitian dan pengembangan tidak boleh dihentikan, meskipun produk AI yang mencapai pengguna akhir dapat diatur.
Apa Risiko dan Bahaya AI yang Potensial?
1. Penggantian Pekerjaan
Ahli AI percaya bahwa sistem AI yang cerdas dapat menggantikan tugas kognitif dan kreatif. Bank investasi Goldman Sachs memperkirakan bahwa sekitar 300 juta pekerjaan akan diotomatisasi oleh AI generatif.
Oleh karena itu, harus ada regulasi pada pengembangan AI sehingga tidak menyebabkan kemerosotan ekonomi yang parah. Harus ada program pendidikan untuk meningkatkan keterampilan dan mengembangkan kembali karyawan untuk menghadapi tantangan ini.
2. Sistem AI yang Bias
Bias yang ada di antara manusia tentang gender, ras, atau warna dapat secara tidak sengaja meresap ke dalam data yang digunakan untuk melatih sistem AI, sehingga membuat sistem AI menjadi bias.
Sebagai contoh, dalam konteks perekrutan pekerja, sistem AI yang bias dapat menolak resume dari individu dengan latar belakang etnis tertentu, sehingga menciptakan diskriminasi di pasar kerja. Dalam penegakan hukum, prediksi kejahatan yang bias dapat menargetkan lingkungan atau kelompok demografis tertentu.
Oleh karena itu, penting untuk memiliki strategi data yang komprehensif yang menangani risiko AI, terutama bias. Sistem AI harus dievaluasi dan diaudit secara teratur untuk menjaga keadilan.
3. Aplikasi AI yang Kritis untuk Keselamatan
Kendaraan otonom, diagnosis dan pengobatan medis, sistem aviasi, kontrol pembangkit listrik tenaga nuklir, dll., adalah contoh aplikasi AI yang kritis untuk keselamatan. Sistem AI ini harus dikembangkan dengan hati-hati karena kesalahan kecil dapat memiliki konsekuensi yang parah bagi kehidupan manusia atau lingkungan.
Sebagai contoh, kerusakan pada perangkat lunak AI yang disebut Maneuvering Characteristics Augmentation System (MCAS) dikaitkan dengan kecelakaan dua pesawat Boeing 737 MAX, pertama pada Oktober 2018 dan kemudian pada Maret 2019. Sayangnya, kecelakaan itu menewaskan 346 orang.
Bagaimana Kami Dapat Mengatasi Risiko Sistem AI? – Pengembangan AI yang Bertanggung Jawab & Kepatuhan Regulasi
AI yang Bertanggung Jawab (RAI) berarti mengembangkan dan menerapkan sistem AI yang adil, akuntabel, transparan, dan aman yang memastikan privasi dan mengikuti regulasi hukum dan norma sosial. Menerapkan RAI dapat kompleks mengingat perkembangan AI yang luas dan cepat.
Namun, perusahaan teknologi besar telah mengembangkan kerangka RAI, seperti:
Laboratorium AI di seluruh dunia dapat mengambil inspirasi dari prinsip-prinsip ini atau mengembangkan kerangka RAI mereka sendiri untuk membuat sistem AI yang dapat dipercaya.
Kepatuhan Regulasi AI
Karena data adalah komponen integral dari sistem AI, organisasi dan laboratorium AI harus mematuhi regulasi berikut untuk memastikan keamanan data, privasi, dan keselamatan.
- GDPR (General Data Protection Regulation) – kerangka perlindungan data yang dikeluarkan oleh Uni Eropa.
- CCPA (California Consumer Privacy Act) – undang-undang negara bagian California untuk hak-hak privasi dan perlindungan konsumen.
- HIPAA (Health Insurance Portability and Accountability Act) – undang-undang AS yang melindungi data medis pasien.
- EU AI Act, dan Etika untuk AI yang Dapat Dipercaya – regulasi AI Komisi Eropa.
Ada berbagai undang-undang regional dan lokal yang dikeluarkan oleh negara-negara untuk melindungi warga negaranya. Organisasi yang gagal memastikan kepatuhan regulasi sekitar data dapat mengakibatkan hukuman yang parah. Sebagai contoh, GDPR telah menetapkan denda sebesar €20 juta atau 4% dari laba tahunan untuk pelanggaran serius seperti pemrosesan data yang tidak sah, persetujuan data yang tidak terbukti, pelanggaran hak subjek data, atau transfer data yang tidak dilindungi ke entitas internasional.
Pengembangan AI & Regulasi – Saat Ini & Masa Depan
Dengan setiap bulan yang berlalu, kemajuan AI mencapai ketinggian yang belum pernah terjadi sebelumnya. Namun, regulasi dan kerangka tata kelola AI yang menyertainya tertinggal. Mereka perlu lebih kuat dan spesifik.
Pemimpin teknologi dan pengembang AI telah mengeluarkan peringatan tentang risiko AI jika tidak diatur dengan baik. Penelitian dan pengembangan AI dapat membawa nilai tambah di banyak sektor, tetapi jelas bahwa regulasi yang hati-hati sekarang sangat penting.
Untuk konten AI yang lebih banyak, kunjungi unite.ai.
