Membangun Jembatan Kepercayaan AI

Adopsi AI telah mencapai titik infleksi kritis. Bisnis dengan antusias memeluk AI, didorong oleh janji untuk mencapai perbaikan efisiensi operasional yang signifikan.

Survei Slack baru-baru ini menemukan bahwa adopsi AI terus meningkat, dengan penggunaan AI di tempat kerja mengalami peningkatan 24% dan 96% eksekutif yang disurvei percaya bahwa “sangat penting untuk mengintegrasikan AI ke seluruh operasi bisnis mereka.”

Namun, ada kesenjangan yang membesar antara utilitas AI dan kekhawatiran yang meningkat tentang dampak negatif potensialnya. Hanya 7% pekerja meja percaya bahwa output dari AI cukup dapat dipercaya untuk membantu mereka dalam tugas-tugas terkait pekerjaan.

Kesenjangan ini tampak dalam kontras yang tajam antara antusiasme eksekutif untuk integrasi AI dan skeptisisme karyawan terkait faktor-faktor seperti:

• Bias dan Keadilan: Sistem AI dapat memperpetuasi atau bahkan memperburuk bias yang ada yang mengarah pada hasil yang tidak adil.
• Privasi dan Keamanan: Karyawan khawatir tentang bagaimana data pribadi mereka dikumpulkan, disimpan, dan digunakan oleh sistem AI.
• Pengambilan Keputusan yang Tidak Transparan: Sistem AI sering beroperasi sebagai “black box,” membuat keputusan yang sulit dipahami atau dijelaskan oleh manusia.
• Kekhawatiran Otomatisasi: Ada kekhawatiran yang meluas bahwa AI akan menggantikan pekerjaan manusia, yang mengarah pada pengangguran dan ketidakstabilan ekonomi.

Peran Legislatif dalam Membangun Kepercayaan

Untuk mengatasi masalah kepercayaan yang multifaset ini, langkah-langkah legislatif semakin dipandang sebagai langkah yang diperlukan. Legislatif dapat memainkan peran penting dalam mengatur pengembangan dan penerapan AI, sehingga meningkatkan kepercayaan. Pendekatan legislatif kunci termasuk:

• Undang-Undang Perlindungan Data dan Privasi: Mengimplementasikan undang-undang perlindungan data yang ketat memastikan bahwa sistem AI menangani data pribadi dengan bertanggung jawab. Regulasi seperti General Data Protection Regulation (GDPR) di Uni Eropa menetapkan preseden dengan mewajibkan transparansi, minimisasi data, dan persetujuan pengguna.
• Regulasi AI: Uni Eropa telah meratifikasi EU AI Act (EU AIA), yang bertujuan untuk mengatur penggunaan sistem AI berdasarkan tingkat risiko. Undang-undang ini mencakup persyaratan wajib untuk sistem AI berisiko tinggi, mencakup bidang seperti kualitas data, dokumentasi, transparansi, dan pengawasan manusia.

Inisiatif Standar untuk Membudayakan AI yang Dapat Dipercaya

Perusahaan tidak perlu menunggu undang-undang baru untuk dieksekusi untuk menentukan apakah proses mereka sesuai dengan pedoman etika dan kepercayaan. Regulasi AI bekerja bersama dengan inisiatif standar AI yang muncul yang memberdayakan organisasi untuk mengimplementasikan tata kelola AI yang bertanggung jawab dan praktik terbaik selama seluruh siklus hidup sistem AI, mencakup desain, implementasi, penerapan, dan akhirnya pembongkaran.

National Institute of Standards and Technology (NIST) di Amerika Serikat telah mengembangkan Kerangka Manajemen Risiko AI untuk membantu organisasi dalam mengelola risiko terkait AI. Kerangka ini terstruktur sekitar empat fungsi inti:

• Mengerti sistem AI dan konteks di mana ia beroperasi. Ini termasuk mendefinisikan tujuan, pemangku kepentingan, dan dampak potensial sistem AI.
• Mengukur risiko yang terkait dengan sistem AI, termasuk aspek teknis dan non-teknis. Ini melibatkan mengevaluasi kinerja sistem, keandalan, dan potensi bias.

• Mengimplementasikan strategi untuk memitigasi risiko yang diidentifikasi. Ini termasuk mengembangkan kebijakan, prosedur, dan kontrol untuk memastikan sistem AI beroperasi dalam tingkat risiko yang dapat diterima.
• Membangun struktur tata kelola dan mekanisme akuntabilitas untuk mengawasi sistem AI dan proses manajemen risikonya. Ini melibatkan tinjauan reguler dan pembaruan strategi manajemen risiko.

Masa Depan AI dan Kepercayaan Publik

Menghadap ke depan, masa depan AI dan kepercayaan publik kemungkinan akan bergantung pada beberapa faktor kunci yang penting untuk diikuti oleh semua organisasi:

• Melakukan penilaian risiko yang komprehensif untuk mengidentifikasi potensi masalah kepatuhan. Evaluasi implikasi etika dan potensi bias dalam sistem AI Anda.
• Membangun tim lintas fungsional yang mencakup profesional hukum, kepatuhan, IT, dan ilmu data. Tim ini harus bertanggung jawab untuk memantau perubahan regulasi dan memastikan bahwa sistem AI Anda mematuhi regulasi baru.
• Mengimplementasikan struktur tata kelola yang mencakup kebijakan, prosedur, dan peran untuk mengelola inisiatif AI. Pastikan transparansi dalam operasi AI dan proses pengambilan keputusan.
• Melakukan audit internal reguler untuk memastikan kepatuhan dengan regulasi AI. Gunakan alat pemantauan untuk melacak kinerja sistem AI dan kepatuhan terhadap standar regulasi.
• Mengedukasi karyawan tentang etika AI, persyaratan regulasi, dan praktik terbaik. Sediakan sesi pelatihan berkelanjutan untuk menjaga staf tetap informasi tentang perubahan regulasi AI dan strategi kepatuhan.
• Mempertahankan catatan rinci tentang proses pengembangan AI, penggunaan data, dan kriteria pengambilan keputusan. Siapkan untuk menghasilkan laporan yang dapat diserahkan kepada regulator jika diperlukan.
• Membangun hubungan dengan badan regulasi dan berpartisipasi dalam konsultasi publik. Berikan umpan balik tentang regulasi yang diusulkan dan cari klarifikasi jika perlu.

Mengkontekstualisasikan AI untuk Mencapai AI yang Dapat Dipercaya

Pada akhirnya, AI yang dapat dipercaya bergantung pada integritas data. Ketergantungan AI generatif pada set data besar tidak sama dengan akurasi dan keandalan output; jika tidak, itu bertentangan dengan standar. Retrieval Augmented Generation (RAG) adalah teknik inovatif yang “menggabungkan LLM statis dengan data kontekstual. Dan dapat dianggap sebagai asisten yang sangat berpengetahuan.” RAG memungkinkan organisasi untuk mengembangkan aplikasi AI yang kontekstual, yang memenuhi harapan privasi, keamanan, akurasi, dan keandalan. RAG meningkatkan akurasi respons yang dihasilkan dengan mengambil informasi relevan dari basis data atau repositori dokumen. Ini memungkinkan model untuk berdasarkan informasi yang akurat dan mutakhir.

RAG memberdayakan organisasi untuk membangun aplikasi AI yang dirancang khusus, yang sangat akurat, kontekstual, dan dapat disesuaikan untuk meningkatkan pengambilan keputusan, meningkatkan pengalaman pelanggan, memperlancar operasi, dan mencapai keunggulan kompetitif yang signifikan.

Membangun jembatan kepercayaan AI melibatkan memastikan transparansi, akuntabilitas, dan penggunaan etis AI. Sementara tidak ada jawaban tunggal untuk mempertahankan standar ini, bisnis memiliki strategi dan alat yang tersedia. Mengimplementasikan langkah-langkah privasi data yang kuat dan mematuhi standar regulasi membangun kepercayaan pengguna. Mengaudit sistem AI secara teratur untuk bias dan ketidakakuratan memastikan keadilan. Mengintegrasikan Large Language Models (LLM) dengan AI yang dirancang khusus memberikan kepercayaan dengan mengintegrasikan basis data dan sumber data khusus. Menglibatkan pemangku kepentingan tentang kemampuan dan keterbatasan AI juga memupuk kepercayaan dan penerimaan

AI yang dapat dipercaya tidak mudah dicapai, tetapi merupakan komitmen yang vital bagi masa depan kita.