Mengapa GenAI Macet di Tahap Pilot

Ketika perusahaan berusaha mengubah proyek Generative AI dari eksperimen ke produksi, banyak bisnis masih terjebak di mode pilot. Penelitian terbaru kami menyoroti bahwa 92% organisasi khawatir bahwa pilot GenAI dipercepat tanpa menyelesaikan masalah data fundamental terlebih dahulu. Lebih lagi, 67% tidak dapat menskalakan setengah dari pilot mereka ke produksi. Kesenjangan produksi ini lebih terkait dengan kesiapan data daripada kematangan teknologi. Potensi GenAI bergantung pada kekuatan fondasi data yang digunakannya. Dan saat ini, bagi sebagian besar organisasi, fondasi tersebut masih rapuh.

Mengapa GenAI Macet di Tahap Pilot

Meskipun solusi GenAI sangat kuat, mereka hanya efektif sebaik data yang memasoknya. Peribahasa “sampah masuk, sampah keluar” lebih benar hari ini daripada sebelumnya. Tanpa data yang terpercaya, lengkap, berhak, dan dapat dijelaskan, model GenAI sering menghasilkan hasil yang tidak akurat, bias, atau tidak sesuai dengan tujuan.

Sayangnya, organisasi telah terburu-buru menerapkan kasus penggunaan dengan sedikit upaya, seperti chatbot AI yang menawarkan jawaban yang disesuaikan dari dokumen internal yang berbeda. Dan meskipun ini memperbaiki pengalaman pelanggan hingga batas tertentu, mereka tidak memerlukan perubahan besar pada infrastruktur data perusahaan. Namun, untuk menskalakan GenAI secara strategis, baik di bidang kesehatan, layanan keuangan, atau otomatisasi rantai pasokan, diperlukan tingkat kematangan data yang berbeda.

Faktanya, 56% Pejabat Data Utama menyebutkan keandalan data sebagai hambatan utama dalam penerapan AI. Masalah lainnya termasuk data yang tidak lengkap (53%), masalah privasi (50%), dan celah tata kelola AI yang lebih besar (36%).

Tidak Ada Tata Kelola, Tidak Ada GenAI

Untuk membawa GenAI melampaui tahap pilot, perusahaan harus memperlakukan tata kelola data sebagai imperatif strategis bagi bisnis mereka. Mereka perlu memastikan data cukup baik untuk memasok model AI, dan untuk itu, pertanyaan-pertanyaan berikut perlu dijawab:

• Apakah data yang digunakan untuk melatih model berasal dari sistem yang tepat?
• Apakah kita telah menghapus informasi yang dapat diidentifikasi secara pribadi dan mengikuti semua peraturan data dan privasi?
• Apakah kita transparan, dan dapat membuktikan garis keturunan data yang digunakan model?
• Apakah kita dapat mendokumentasikan proses data kita dan siap menunjukkan bahwa data tidak memiliki bias?

Tata kelola data juga perlu tertanam dalam budaya organisasi. Untuk melakukan ini, diperlukan membangun literasi AI di seluruh tim. Undang-Undang AI Uni Eropa formalisasi tanggung jawab ini, mengharuskan baik penyedia dan pengguna sistem AI untuk berusaha sebaik mungkin untuk memastikan karyawan mereka cukup melek AI, memastikan mereka memahami bagaimana sistem ini bekerja dan bagaimana menggunakannya dengan bertanggung jawab. Namun, adopsi AI yang efektif melampaui pengetahuan teknis. Ini juga menuntut fondasi yang kuat dalam keterampilan data, dari memahami tata kelola data hingga merumuskan pertanyaan analitis. Mengobati melek AI secara terpisah dari melek data akan menjadi tindakan yang kurang bijak, mengingat betapa eratnya keduanya terkait.

Dalam hal tata kelola data, masih banyak pekerjaan yang harus dilakukan. Di antara bisnis yang ingin meningkatkan investasi pengelolaan data mereka, 47% setuju bahwa kurangnya melek data adalah hambatan utama. Ini menyoroti kebutuhan untuk membangun dukungan tingkat atas dan mengembangkan keterampilan yang tepat di seluruh organisasi adalah sangat penting. Tanpa fondasi ini, bahkan LLM (Model Bahasa Besar) yang paling kuat akan bergelut untuk menghasilkan.

Mengembangkan AI yang Harus Bertanggung Jawab

Dalam lingkungan regulasi saat ini, tidak cukup lagi bagi AI untuk “hanya bekerja”, tetapi juga harus dapat dipertanggungjawabkan dan dijelaskan. Undang-Undang AI Uni Eropa dan Rencana Tindakan AI yang diusulkan oleh Inggris mengharuskan transparansi dalam kasus penggunaan AI berisiko tinggi. Lainnya mengikuti, dan 1.000+ tagihan kebijakan terkait sedang dalam agenda di 69 negara.

Gerakan global menuju akuntabilitas ini merupakan hasil langsung dari meningkatnya tuntutan konsumen dan pemangku kepentingan untuk keadilan dalam algoritma. Misalnya, organisasi harus dapat menjelaskan alasan mengapa seorang pelanggan ditolak untuk pinjaman atau dikenakan premi asuransi yang lebih tinggi. Untuk melakukan itu, mereka perlu tahu bagaimana model membuat keputusan itu, dan itu bergantung pada memiliki jejak yang jelas dan dapat diaudit dari data yang digunakan untuk melatihnya.

Jika tidak ada keterjelasan, bisnis berisiko kehilangan kepercayaan pelanggan serta menghadapi dampak keuangan dan hukum. Oleh karena itu, jejak keturunan data dan justifikasi hasil bukanlah “yang baik untuk dimiliki”, tetapi merupakan persyaratan kepatuhan.

Dan ketika GenAI berkembang melampaui alat sederhana menjadi agen yang dapat membuat keputusan dan bertindak berdasarkan keputusan itu, taruhan untuk tata kelola data yang kuat meningkat lebih tinggi.

Langkah-Langkah Membangun AI yang Dapat Dipercaya

Jadi, apa yang terlihat baik? Untuk menskalakan GenAI secara bertanggung jawab, organisasi harus mengadopsi strategi data tunggal di tiga pilar:

• Menyesuaikan AI dengan Bisnis: Katalog data Anda di sekitar tujuan bisnis utama, memastikan itu mencerminkan konteks, tantangan, dan peluang unik bagi bisnis Anda.
• Membangun Kepercayaan pada AI: Tetapkan kebijakan, standar, dan proses untuk kepatuhan dan pengawasan penerapan AI yang etis dan bertanggung jawab.
• Membangun Pipa Data yang Siap AI: Gabungkan sumber data yang beragam menjadi fondasi data yang tangguh untuk memasak AI dengan memasukkan konektivitas GenAI yang sudah jadi.

Ketika organisasi melakukan ini dengan benar, tata kelola mempercepat nilai AI. Dalam layanan keuangan, misalnya, dana lindung menggunakan gen AI untuk mengungguli analis manusia dalam prediksi harga saham sambil mengurangi biaya secara signifikan. Dalam manufaktur, optimisasi rantai pasokan yang dipandu AI memungkinkan organisasi untuk bereaksi secara real-time terhadap perubahan geopolitik dan tekanan lingkungan.

Dan ini bukanlah hanya ide futuristik, tetapi sedang terjadi, didorong oleh data yang terpercaya.

Dengan fondasi data yang kuat, perusahaan mengurangi gangguan model, membatasi siklus pelatihan ulang, dan meningkatkan kecepatan untuk mendapatkan nilai. Itulah mengapa tata kelola bukanlah penghalang; itu adalah penggerak inovasi.

Apa yang Berikutnya?

Setelah eksperimen, organisasi bergerak melampaui chatbot dan berinvestasi dalam kemampuan transformasional. Dari mempersonalisasi interaksi pelanggan hingga mempercepat penelitian medis, memperbaiki kesehatan mental dan menyederhanakan proses regulasi, GenAI mulai menunjukkan potensinya di seluruh industri.

Namun, kemajuan ini sepenuhnya bergantung pada data yang mendasarinya. GenAI dimulai dengan membangun fondasi data yang kuat, melalui tata kelola data yang kuat. Dan meskipun GenAI dan AI agen akan terus berkembang, itu tidak akan menggantikan pengawasan manusia dalam waktu dekat. Sebaliknya, kita memasuki fase penciptaan nilai terstruktur, di mana AI menjadi co-pilot yang dapat diandalkan. Dengan investasi yang tepat dalam kualitas data, tata kelola, dan budaya, bisnis dapat akhirnya mengubah GenAI dari pilot yang menjanjikan menjadi sesuatu yang benar-benar lepas landas.