Ketika ‘Pengetahuan’ AI Berusia 50 Tahun: Risiko Kepatuhan yang Tidak Bisa Diabaikan

Masalah kesalahan wawasan AI adalah tantangan yang mendesak karena perusahaan meningkatkan penggunaan alat generatif. Meskipun antusiasme yang luas tentang adopsi AI, ada juga arus kritik yang kuat. Komentator kritis sering menunjuk pada ketidakakuratan yang tampaknya acak dan tidak terduga dalam output AI, yang melemahkan nilainya – dan bahkan dapat membahayakan manusia, terutama di sektor seperti kesehatan dan transportasi, di mana output yang salah bisa secara teoretis menyebabkan segala sesuatu dari resep yang salah hingga kereta yang bertabrakan.

Seringkali, ketidakakuratan ini telah dikaitkan dengan “halusinasi” AI – contoh di mana AI menghasilkan jawaban “tebakan terbaik”, yang disampaikan dengan kepercayaan yang sama seperti jawaban “asli”, bukan memberitahu pengguna tentang kesenjangan dalam pengetahuan atau kemampuan AI. Halusinasi dapat sulit dikenali pada pandangan pertama – tetapi ada masalah yang lebih serius dan lebih sulit dideteksi.

Utang Kualitas Data: Achilles’ Heel AI

Ketika sistem AI menarik dari data yang sudah ketinggalan zaman, tidak lengkap, atau tidak akurat, output yang salah terjadi tetapi kurang dapat dikenali segera. Misalnya, Anda mungkin meminta AI untuk mengidentifikasi gejala suatu kondisi medis dan menerima jawaban berdasarkan makalah 50 tahun yang lalu, bukan penelitian saat ini. Hasilnya tidak mungkin tampak jelas salah – tetapi lapisan awal yang tampaknya masuk akal itu membawa risiko nyata bagi pasien yang bersangkutan dan penyedia layanan kesehatan.

Hal yang sama berlaku di seluruh industri – jika data yang diberikan kepada model AI termasuk informasi lama, ketinggalan zaman, atau sebagian, maka ada risiko tinggi output yang salah. Dan ketika lebih banyak perusahaan mengintegrasikan AI ke dalam proses bisnis yang kritis, risiko mengambil kesimpulan yang salah dari data yang tidak teratur tumbuh.

Akurasinya untuk Regulator

Ini bukan hanya masalah untuk operasi sehari-hari – tetapi juga tantangan kepatuhan yang signifikan. Persyaratan regulasi berkembang pesat untuk mengatasi kekhawatiran tentang ketidakakuratan AI. Misalnya, beberapa tindakan regulasi awal tentang AI telah terjadi; terutama ketika Italia sementara melarang ChatGPT karena kekhawatiran privasi, dan Dewan Perlindungan Data UE meluncurkan tim tugas khusus untuk mengkoordinasikan tindakan penegakan potensial terhadap ChatGPT.

Salah satu perubahan regulasi yang paling mengungkapkan adalah pengesahan Undang-Undang AI UE, kerangka hukum komprehensif pertama di dunia untuk AI. Undang-Undang tersebut menetapkan kewajiban berdasarkan tingkat risiko sistem AI, dari sistem “risiko tidak dapat diterima” yang dilarang, hingga sistem “risiko tinggi” yang menghadapi persyaratan ketat sekitar transparansi, kualitas data, tata kelola, dan pengawasan manusia.

Signifikansi Undang-Undang AI UE terletak tidak pada cakupan ambisiusnya, tetapi pada preseden yang ditetapkan. Regulator membuat jelas bahwa AI akan tunduk pada aturan yang mengikat dan dapat ditegakkan, dan organisasi harus memperlakukan kepatuhan dan transparansi tentang di mana dan bagaimana AI digunakan sebagai integral dari adopsi AI, bukan sebagai pemikiran terakhir.

Undang-Undang tersebut memiliki cakupan yang luas, dengan potensi mempengaruhi sebagian besar pengembangan AI. Di intinya adalah membuat AI aman sambil menghormati hak dan nilai dasar. Dalam ekosistem berprinsip baru ini, ada diagnosis sumber potensial untuk ketidakakuratan AI, termasuk data dan dataset yang memberi makan model, opasitas model dan akses, serta desain sistem dan penggunaan. Solusi AI adalah konstruksi dari ketiganya – masalah dengan salah satunya dapat memiliki hasil negatif. Bukan hanya itu, tetapi data yang masuk ke dalam desain, pengembangan, penerapan, dan operasi AI kemungkinan besar terdiri dari catatan bisnis yang tunduk pada berbagai persyaratan kepatuhan.

Dengan kata lain, lingkungan regulasi sekitar AI menjadi semakin ketat – dan itu sama benar untuk input data sebagai output data, meskipun yang terakhir mendapatkan lebih banyak liputan.

Lima Langkah untuk Memberi AI Data yang Patuh, Mutakhir, dan Relevan

Untuk menyelesaikan tantangan ganda ini – memastikan penanganan data yang patuh dan input berkualitas tinggi yang memungkinkan output berkualitas tinggi – bisnis memerlukan kontrol atas data pelatihan dan inferensi. Sayangnya, ini adalah sesuatu yang masih kurang dimiliki oleh banyak perusahaan.

Setidaknya, organisasi harus menerapkan program kepatuhan dan tata kelola yang lebih luas ke inisiatif AI. Mereka perlu mulai menangkap dan memelihara catatan yang tepat tentang data yang diberikan kepada model AI, bagaimana model dan sistem dirancang, serta keputusan dan konten yang dihasilkan melalui AI.

Namun, juga menjadi sangat penting bagi organisasi untuk melangkah lebih jauh dan memastikan mereka memiliki kontrol penuh atas semua data yang mungkin digunakan dalam penerapan AI, baik untuk pelatihan awal atau “kerja langsung”. Ini memerlukan strategi manajemen dan penyimpanan data berkualitas tinggi, memastikan semua data yang relevan dikumpulkan, dibersihkan, disimpan, diklasifikasikan, dan diberi hak akses. Untuk mencapai ini, organisasi perlu mempertimbangkan empat langkah kunci:

1. Garis Keturunan dan Asal Data

Ini termasuk memelihara catatan tentang sumber data, asal, kepemilikan, dan perubahan metadata (jika diizinkan) sepanjang siklus hidupnya. Ini juga berarti memelihara metadata yang kaya dan semua dokumen atau artefak yang mendasarinya.

2. Keaslian Data

Ini memerlukan memelihara rantai kepemilikan yang jelas untuk semua data, menyimpan objek dalam bentuk aslinya, dan menghash objek yang diterima untuk menunjukkan data tetap tidak berubah. Selain itu, organisasi harus memelihara sejarah audit penuh untuk setiap objek, dan untuk semua tindakan dan peristiwa yang terkait dengan perubahan.

3. Klasifikasi Data

Mengatur sifat dari satu set atau jenis data sangat penting. Organisasi perlu dapat mengatur data terstruktur, data semi-terstruktur, dan set data terstruktur. Memberikan skema unik untuk setiap kelas memungkinkan organisasi untuk mengelola berbagai set data tanpa ontology tetap yang kaku – menghindari data yang tidak perlu dimanipulasi untuk dipaksa ke dalam struktur data yang tidak fleksibel.

4. Normalisasi Data

Mengatur definisi dan format metadata yang umum sangat penting untuk digunakan dalam analitik dan solusi AI. Skema yang jelas didefinisikan adalah elemen penting, bersama dengan alat yang dapat mengubah atau memetakan data untuk mempertahankan tampilan yang konsisten dan normalisasi dari data yang terkait.

5. Hak Akses Data

Perusahaan memerlukan kontrol hak akses yang granular, termasuk pada tingkat objek atau bidang, berdasarkan profil pengguna atau sistem. Ini berarti data yang tepat tersedia untuk pengguna dan sistem yang berhak mengaksesnya, sementara membatasi atau mengurangi akses bagi mereka yang tidak berhak.

Dengan elemen-elemen kritis ini di tempat, bisnis akan berada dalam posisi terbaik untuk memastikan data yang diberikan kepada model AI adalah berkualitas tinggi dan patuh. AI akan mengarahkan perbaikan dan efisiensi di seluruh industri – tetapi untuk itu terjadi, fondasi data yang solid sangat penting.