Model dan platform AI

Pemimpin Teknologi Menyoroti Risiko AI & Urgensi Regulasi AI yang Kuat

Haziqa Sajid
Tambahkan Unite.AI ke sumber pilihan Anda di Google
Poin utamaPara pemimpin teknologi memperingatkan bahwa kecerdasan buatan yang melampaui…
Lihat selengkapnya
  • Para pemimpin teknologi memperingatkan bahwa kecerdasan buatan yang melampaui kecerdasan manusia menimbulkan risiko eksistensial yang memerlukan investasi keamanan mendesak.
  • Lebih dari 300 juta pekerjaan menghadapi otomatisasi oleh AI generatif yang menuntut program pelatihan ulang tenaga kerja secara besar-besaran.
  • Sistem AI yang bias dapat melanggengkan diskriminasi dalam perekrutan dan penegakan hukum tanpa audit yang ketat.

Pertumbuhan dan kemajuan AI telah meningkat secara eksponensial selama beberapa tahun terakhir. Statista melaporkan bahwa pada tahun 2024, pasar AI global akan menghasilkan pendapatan yang mencengangkan sekitar $3000 miliar, dibandingkan dengan $126 miliar pada tahun 2015. Namun, pemimpin teknologi sekarang memperingatkan kita tentang berbagai risiko AI.

Terutama, gelombang terbaru dari model AI generatif seperti ChatGPT telah memperkenalkan kemampuan baru di berbagai sektor yang sensitif terhadap data, seperti kesehatan, pendidikan, keuangan, dll. Pengembangan AI ini rentan karena banyak kekurangan AI yang dapat dieksploitasi oleh agen jahat.

Mari kita bahas pendapat para ahli AI tentang perkembangan terbaru dan soroti potensi risikonya. Kami juga akan menyentuh secara singkat bagaimana risiko ini dapat dikelola.

Pemimpin Teknologi & Keprihatinan Terkait Risiko AI

Geoffrey Hinton

Geoffrey Hinton – seorang pemimpin teknologi AI terkenal (dan bapak dari bidang ini), yang baru-baru ini keluar dari Google (GOOGL ), telah mengungkapkan keprihatinannya tentang perkembangan AI yang cepat dan potensi bahayanya. Hinton percaya bahwa chatbot AI dapat menjadi “sangat menakutkan” jika mereka melebihi kecerdasan manusia.

Hinton mengatakan:

“Saat ini, apa yang kita lihat adalah hal-hal seperti GPT-4 yang melampaui kemampuan manusia dalam hal pengetahuan umum, dan itu melampaui mereka dengan jarak yang cukup jauh. Dalam hal penalaran, kemampuannya belum sebaik manusia, tetapi sudah dapat melakukan penalaran sederhana. Mengingat laju kemajuan ini, kami memperkirakan kemampuan tersebut akan meningkat cukup cepat. Karena itu, kita perlu mengkhawatirkannya.”

Selain itu, ia percaya bahwa “aktor jahat” dapat menggunakan AI untuk “hal-hal buruk”, seperti memungkinkan robot memiliki subtujuan mereka sendiri. Terlepas dari kekhawatirannya, Hinton percaya bahwa AI dapat membawa manfaat jangka pendek, tetapi kita juga harus berinvestasi besar-besaran dalam keamanan dan kontrol AI.

Elon Musk

Keterlibatan Elon Musk dalam AI dimulai dengan investasinya di DeepMind pada tahun 2010, dilanjutkan dengan ikut mendirikan OpenAI dan mengintegrasikan AI ke dalam kendaraan otonom Tesla.

Meskipun ia antusias tentang AI, ia sering mengungkapkan keprihatinan tentang risiko AI. Musk mengatakan bahwa sistem AI yang kuat dapat lebih berbahaya bagi peradaban daripada senjata nuklir. Dalam sebuah wawancara di Fox News pada April 2023, ia mengatakan:

“AI lebih berbahaya daripada, misalnya, desain pesawat, produksi atau pemeliharaan yang dikelola dengan buruk, atau produksi mobil yang buruk. AI berpotensi menghancurkan peradaban — betapa pun kecilnya kemungkinan itu dianggap, risikonya tidak dapat diabaikan.”

Selain itu, Musk mendukung regulasi pemerintah pada AI untuk memastikan keamanan dari risiko potensial, meskipun “itu tidak menyenangkan”.

Jeda Eksperimen AI Raksasa: Surat Terbuka yang Didukung oleh Ribuan Ahli AI

Future of Life Institute menerbitkan surat terbuka pada 22 Maret 2023. Surat itu meminta penangguhan sementara selama enam bulan pada pengembangan sistem AI yang lebih maju daripada GPT-4. Penulis surat itu mengungkapkan keprihatinan tentang kecepatan dengan mana sistem AI sedang dikembangkan yang menimbulkan tantangan sosio-ekonomi yang parah.

Selain itu, surat itu menyatakan bahwa pengembang AI harus bekerja sama dengan pembuat kebijakan untuk mendokumentasikan sistem tata kelola AI. Hingga Juni 2023, surat itu telah ditandatangani oleh lebih dari 31.000 pengembang AI, ahli, dan pemimpin teknologi. Tanda tangan terkenal termasuk Elon Musk, Steve Wozniak (Salah satu pendiri Apple (AAPL )), Emad Mostaque (CEO, Stability AI), Yoshua Bengio (pemenang Hadiah Turing), dan banyak lagi.

Argumen Kontra terhadap Penangguhan Pengembangan AI

Dua pemimpin AI terkemuka, Andrew Ng, dan Yann LeCun, telah menentang penangguhan enam bulan pada pengembangan sistem AI yang maju dan menganggap jeda itu sebagai ide yang buruk.

Ng mengatakan bahwa meskipun AI memiliki risiko seperti bias dan pemusatan kekuasaan, nilai yang diciptakannya dalam pendidikan, kesehatan, dan pendampingan yang responsif sangat besar.

Yann LeCun mengatakan bahwa penelitian dan pengembangan tidak boleh dihentikan, meskipun produk AI yang mencapai pengguna akhir dapat diatur.

Apa Potensi Bahaya dan Risiko Langsung AI?

Potensi Bahaya dan Risiko Langsung AI

1. Penggantian Pekerjaan

Ahli AI percaya bahwa sistem AI yang cerdas dapat menggantikan tugas kognitif dan kreatif. Bank investasi Goldman Sachs (GS ) memperkirakan bahwa sekitar 300 juta pekerjaan akan diotomatisasi oleh AI generatif.

Oleh karena itu, harus ada regulasi pada pengembangan AI sehingga tidak menyebabkan kemerosotan ekonomi yang parah. Harus ada program pendidikan untuk meningkatkan keterampilan dan melatih ulang karyawan untuk menghadapi tantangan ini.

2. Sistem AI yang Bias

Bias yang ada di antara manusia tentang gender, ras, atau warna dapat secara tidak sengaja meresap ke dalam data yang digunakan untuk melatih sistem AI, sehingga membuat sistem AI menjadi bias.

Sebagai contoh, dalam konteks perekrutan pekerja, sistem AI yang bias dapat menolak resume dari individu dengan latar belakang etnis tertentu, sehingga menciptakan diskriminasi di pasar kerja. Dalam penegakan hukum, pemolisian prediktif yang bias dapat menyasar lingkungan atau kelompok demografis tertentu secara tidak proporsional.

Oleh karena itu, penting untuk memiliki strategi data yang komprehensif yang menangani risiko AI, terutama bias. Sistem AI harus dievaluasi dan diaudit secara teratur untuk menjaga keadilan.

3. Aplikasi AI yang Kritis untuk Keselamatan

Kendaraan otonom, diagnosis dan pengobatan medis, sistem aviasi, kontrol pembangkit listrik tenaga nuklir, dll., adalah contoh aplikasi AI yang kritis untuk keselamatan. Sistem AI ini harus dikembangkan dengan hati-hati karena kesalahan kecil dapat memiliki konsekuensi yang parah bagi kehidupan manusia atau lingkungan.

Sebagai contoh, kerusakan pada perangkat lunak AI yang disebut Maneuvering Characteristics Augmentation System (MCAS) disebut sebagai salah satu penyebab kecelakaan dua pesawat Boeing 737 MAX, pertama pada Oktober 2018 dan kemudian pada Maret 2019. Sayangnya, kecelakaan itu menewaskan 346 orang.

Bagaimana Kita Dapat Mengatasi Risiko Sistem AI? – Pengembangan AI yang Bertanggung Jawab & Kepatuhan Regulasi

Pengembangan AI yang Bertanggung Jawab & Kepatuhan Regulasi

AI yang Bertanggung Jawab (RAI) berarti mengembangkan dan menerapkan sistem AI yang adil, akuntabel, transparan, dan aman yang memastikan privasi dan mengikuti regulasi hukum dan norma sosial. Menerapkan RAI dapat kompleks mengingat perkembangan AI yang luas dan cepat.

Namun, perusahaan teknologi besar telah mengembangkan kerangka RAI, seperti:

  1. AI yang Bertanggung Jawab dari Microsoft
  2. Prinsip AI Google
  3. AI Tepercaya IBM

Laboratorium AI di seluruh dunia dapat mengambil inspirasi dari prinsip-prinsip ini atau mengembangkan kerangka RAI mereka sendiri untuk membuat sistem AI yang dapat dipercaya.

Kepatuhan Regulasi AI

Karena data adalah komponen integral dari sistem AI, organisasi dan laboratorium AI harus mematuhi regulasi berikut untuk memastikan keamanan data, privasi, dan keselamatan.

  1. GDPR (General Data Protection Regulation) – kerangka perlindungan data yang dikeluarkan oleh Uni Eropa.
  2. CCPA (California Consumer Privacy Act) – undang-undang negara bagian California untuk hak-hak privasi dan perlindungan konsumen.
  3. HIPAA (Health Insurance Portability and Accountability Act) – undang-undang AS yang melindungi data medis pasien.
  4. EU AI Act, dan Pedoman Etika untuk AI yang Dapat Dipercaya – regulasi AI Komisi Eropa.

Ada berbagai undang-undang regional dan lokal yang dikeluarkan oleh negara-negara untuk melindungi warga negaranya. Organisasi yang gagal memastikan kepatuhan terhadap regulasi data dapat menghadapi sanksi berat. Sebagai contoh, GDPR telah menetapkan denda sebesar €20 juta atau 4% dari laba tahunan untuk pelanggaran serius seperti pemrosesan data yang tidak sah, persetujuan data yang tidak terbukti, pelanggaran hak subjek data, atau transfer data yang tidak dilindungi ke entitas internasional.

Pengembangan AI & Regulasi – Saat Ini & Masa Depan

Dengan setiap bulan yang berlalu, kemajuan AI mencapai ketinggian yang belum pernah terjadi sebelumnya. Namun, regulasi dan kerangka tata kelola AI yang menyertainya tertinggal. Mereka perlu lebih kuat dan spesifik.

Pemimpin teknologi dan pengembang AI telah mengeluarkan peringatan tentang risiko AI jika tidak diatur dengan baik. Penelitian dan pengembangan AI dapat membawa nilai tambah di banyak sektor, tetapi jelas bahwa regulasi yang hati-hati sekarang sangat penting.

Untuk konten AI yang lebih banyak, kunjungi unite.ai.

Haziqa adalah Ilmuwan Data dengan pengalaman luas dalam menulis konten teknis untuk perusahaan AI dan SaaS.