Transparansi AI dan Kebutuhan Model Sumber Terbuka

Untuk melindungi orang dari potensi bahaya AI, beberapa regulator di Amerika Serikat dan Uni Eropa semakin menganjurkan kontrol dan keseimbangan pada kekuatan model AI sumber terbuka. Ini sebagian besar dipicu oleh keinginan perusahaan besar untuk mengendalikan pengembangan AI dan membentuk pengembangan AI agar menguntungkan mereka. Regulator juga khawatir tentang kecepatan pengembangan AI, karena mereka khawatir AI berkembang terlalu cepat dan tidak ada waktu yang cukup untuk mengimplementasikan pengamanan untuk mencegahnya digunakan untuk tujuan jahat.

Bill of Rights AI dan Kerangka Manajemen Risiko AI NIST di AS, bersama dengan Undang-Undang AI EU, mendukung berbagai prinsip seperti akurasi, keamanan, non-diskriminasi, keamanan, transparansi, akuntabilitas, keterjelasan, keterbacaan, dan privasi data. Selain itu, baik EU maupun AS memprediksi bahwa organisasi standar, baik entitas pemerintah maupun internasional, akan memainkan peran penting dalam menetapkan pedoman untuk AI.

Mengingat situasi ini, sangat penting untuk berusaha menuju masa depan yang mengutamakan transparansi dan kemampuan untuk memeriksa dan memantau sistem AI. Ini akan memungkinkan pengembang di seluruh dunia untuk memeriksa, menganalisis, dan memperbaiki AI, terutama fokus pada data pelatihan dan proses.

Untuk berhasil membawa transparansi ke AI, kita harus memahami algoritma pengambilan keputusan yang mendasarinya, sehingga mengungkap “pendekatan kotak hitam” AI. Model sumber terbuka dan dapat diinspeksi memainkan peran integral dalam mencapai tujuan ini, karena mereka menyediakan akses ke kode dasar, arsitektur sistem, dan data pelatihan untuk pemeriksaan dan audit. Keterbukaan ini memfasilitasi kolaborasi, mendorong inovasi, dan melindungi terhadap monopoli.

Untuk menyaksikan terwujudnya visi ini, sangat penting untuk memfasilitasi perubahan kebijakan, inisiatif akar rumput, dan mendorong partisipasi aktif dari semua pemangku kepentingan, termasuk pengembang, perusahaan, pemerintah, dan masyarakat.

Keadaan Saat Ini AI: Konsentrasi dan Kontrol

Saat ini, pengembangan AI, terutama terkait model bahasa besar (LLM), terutama terpusat dan dikendalikan oleh perusahaan besar. Konsentrasi kekuatan ini menimbulkan kekhawatiran tentang potensi penyalahgunaan dan memicu pertanyaan tentang akses yang adil dan distribusi manfaat dari kemajuan AI.

Khususnya, model populer seperti LLM kekurangan alternatif sumber terbuka selama proses pelatihan karena sumber daya komputasi yang luas diperlukan, yang biasanya hanya tersedia untuk perusahaan besar. Namun, bahkan jika situasi ini tetap tidak berubah, memastikan transparansi tentang data pelatihan dan proses sangat penting untuk memfasilitasi pemeriksaan dan akuntabilitas.

Pengenalan sistem lisensi oleh OpenAI untuk beberapa jenis AI telah menimbulkan kekhawatiran dan kekhawatiran tentang penangkapan regulator, karena dapat mempengaruhi tidak hanya jalur AI, tetapi juga aspek sosial, ekonomi, dan politik yang lebih luas.

Kebutuhan akan AI Transparan

Bayangkan bergantung pada teknologi yang membuat keputusan yang berdampak pada kehidupan manusia, tetapi tidak meninggalkan jejak, tidak ada pemahaman tentang alasan di balik kesimpulan tersebut. Inilah tempat transparansi menjadi sangat penting.

Pertama dan terutama, transparansi sangat penting dan membangun kepercayaan. Ketika model AI menjadi dapat diamati, mereka membangun kepercayaan pada keandalan dan akurasi mereka. Selain itu, transparansi seperti itu akan membuat pengembang dan organisasi lebih akuntabel untuk hasil algoritma mereka.

Aspek kritis lain dari transparansi adalah identifikasi dan mitigasi bias algoritma. Bias dapat disuntikkan ke dalam model AI dengan beberapa cara.

• Elemen manusia: Ilmuwan data rentan untuk memperkuat bias mereka sendiri ke dalam model.
• Pelatihan mesin: Bahkan jika ilmuwan menciptakan AI yang sepenuhnya objektif, model masih sangat rentan terhadap bias. Pelatihan mesin dimulai dengan dataset yang ditentukan, tetapi kemudian dilepaskan untuk menyerap data baru dan menciptakan jalur pembelajaran baru dan kesimpulan baru. Hasil ini mungkin tidak diinginkan, bias, atau tidak akurat, karena model mencoba berkembang sendiri dalam apa yang disebut “drift data.”

Penting untuk menyadari sumber bias potensial ini sehingga mereka dapat diidentifikasi dan dimitrasi. Salah satu cara untuk mengidentifikasi bias adalah dengan memeriksa data yang digunakan untuk melatih model. Ini termasuk mencari pola yang mungkin menunjukkan diskriminasi atau ketidakadilan. Cara lain untuk memitigasi bias adalah dengan menggunakan teknik debiasing. Teknik ini dapat membantu menghilangkan atau mengurangi bias dari model. Dengan transparan tentang potensi bias dan mengambil langkah-langkah untuk memitigasinya, kita dapat membantu memastikan bahwa AI digunakan dengan cara yang adil dan bertanggung jawab.

Model AI transparan memungkinkan peneliti dan pengguna untuk memeriksa data pelatihan, mengidentifikasi bias, dan mengambil tindakan korektif untuk mengatasi mereka. Dengan membuat proses pengambilan keputusan terlihat, transparansi membantu kita berusaha untuk keadilan dan mencegah penyebaran praktik diskriminatif. Selain itu, transparansi diperlukan sepanjang umur model seperti yang dijelaskan di atas untuk mencegah drift data, bias, dan halusinasi AI yang menghasilkan informasi palsu. Halusinasi ini sangat umum pada Model Bahasa Besar, tetapi juga ada pada semua bentuk produk AI. Keterbacaan AI juga memainkan peran penting dalam memastikan kinerja dan akurasi model yang menciptakan AI yang lebih aman, lebih andal, dan kurang rentan terhadap kesalahan atau konsekuensi yang tidak diinginkan.

Namun, mencapai transparansi dalam AI tidak tanpa tantangan. Mencapai keseimbangan yang hati-hati diperlukan untuk mengatasi kekhawatiran seperti privasi data, keamanan, dan hak cipta. Ini melibatkan implementasi teknik yang menjaga privasi, anonymisasi data sensitif, dan menetapkan standar industri dan peraturan yang mempromosikan praktik transparansi yang bertanggung jawab.

Membuat AI Transparan Menjadi Kenyataan

Mengembangkan alat dan teknologi yang dapat memungkinkan inspeksi dalam AI sangat penting untuk mempromosikan transparansi dan akuntabilitas dalam model AI.

Selain mengembangkan alat dan teknologi yang memungkinkan inspeksi dalam AI, pengembangan teknologi juga dapat mempromosikan transparansi dengan menciptakan budaya transparansi di sekitar AI. Mendorong bisnis dan organisasi untuk transparan tentang penggunaan AI juga dapat membantu membangun kepercayaan dan kepercayaan. Dengan membuatnya lebih mudah untuk memeriksa model AI dan menciptakan budaya transparansi di sekitar AI, pengembangan teknologi dapat membantu memastikan bahwa AI digunakan dengan cara yang adil dan bertanggung jawab.

Namun, pengembangan teknologi juga dapat memiliki efek sebaliknya. Misalnya, jika perusahaan teknologi mengembangkan algoritma proprietary yang tidak terbuka untuk pemeriksaan publik, ini dapat membuatnya lebih sulit untuk memahami bagaimana algoritma tersebut bekerja dan untuk mengidentifikasi potensi bias atau risiko. Memastikan bahwa AI memberikan manfaat bagi masyarakat secara keseluruhan daripada beberapa orang tertentu memerlukan tingkat kolaborasi yang tinggi.

Peneliti, pembuat kebijakan, dan ilmuwan data dapat menetapkan peraturan dan standar yang mencapai keseimbangan yang tepat antara keterbukaan, privasi, dan keamanan tanpa menghambat inovasi. Peraturan ini dapat menciptakan kerangka yang mendorong berbagi pengetahuan sambil mengatasi risiko potensial dan menetapkan harapan untuk transparansi dan keterjelasan dalam sistem kritis.

Semua pihak yang terkait dengan pengembangan dan penerapan AI harus memprioritaskan transparansi dengan mendokumentasikan proses pengambilan keputusan, membuat kode sumber tersedia, dan menerima transparansi sebagai prinsip inti dalam pengembangan sistem AI. Ini memungkinkan semua orang memiliki kesempatan untuk memainkan peran penting dalam menjelajahi metode untuk membuat algoritma AI lebih dapat diinterpretasikan dan mengembangkan teknik yang memfasilitasi pemahaman dan penjelasan model kompleks.

Akhirnya, keterlibatan masyarakat sangat penting dalam proses ini. Dengan meningkatkan kesadaran dan memfasilitasi diskusi publik tentang transparansi AI, kita dapat memastikan bahwa nilai-nilai masyarakat tercermin dalam pengembangan dan penerapan sistem AI.

Kesimpulan

Ketika AI semakin terintegrasi ke dalam berbagai aspek kehidupan kita, transparansi AI dan penggunaan model sumber terbuka menjadi pertimbangan yang sangat penting. Mengutamakan AI yang dapat diinspeksi tidak hanya memastikan keadilan dan akuntabilitas, tetapi juga merangsang inovasi, mencegah konsentrasi kekuatan, dan mempromosikan akses yang adil ke kemajuan AI.

Dengan memprioritaskan transparansi, memungkinkan pemeriksaan model AI, dan mendorong kolaborasi, kita dapat bersama-sama membentuk masa depan AI yang memberikan manfaat bagi semua orang sambil mengatasi tantangan etika, sosial, dan teknis yang terkait dengan teknologi transformatif ini.