Data— Bukan AI— Adalah Kunci

Kecerdasan buatan telah menjadi sangat melekat dalam bisnis sehingga hampir setiap operasi telah terpengaruh oleh teknologi ini dengan cara tertentu. Dan melihat penggunaan AI secara khusus, kita melihat organisasi melakukan lompatan dengan bentuk AI yang lebih baru untuk berinovasi dan mengulangi sistem yang ada. Faktanya, survei baru-baru ini dari survei dari pemimpin IT menemukan bahwa 98% sudah menggunakan agen AI untuk mengatur kasus penggunaan GenAI atau berencana untuk melakukannya di masa depan.

Di tengah ledakan alat dan teknologi AI yang telah hadir selama beberapa tahun terakhir, agen AI dengan cepat menjadi salah satu yang paling populer. Agen-agen ini membantu organisasi melakukan apa saja dan segalanya – dari meningkatkan pengalaman pelanggan dan dukungan hingga mengotomatisasi proses internal atau mengoptimalkan model GenAI yang sudah ada. Namun, mengembangkan manfaat agen AI, dan AI secara umum, di seluruh perusahaan tidaklah mudah.

Alasan banyak organisasi kesulitan dengan AI, dan agen AI khususnya, pada skala besar datang dari kepercayaan, bukan teknologi. Agen AI, oleh sifatnya, bekerja di berbagai sistem. Di mana pun sistem tersebut berada, kemungkinan besar mereka bergantung pada data yang sangat sensitif – apakah itu volume besar data pelanggan, informasi medis, atau data perbankan dan keuangan. Ini adalah tempat masalahnya. Mengambil sejumlah besar data ke dalam model AI tanpa infrastruktur privasi dan keamanan data yang tepat meninggalkan perusahaan dengan sejumlah besar risiko.

Tidak peduli output dari model AI, itu hanya berharga jika data yang melatihnya dapat dipercaya. Tapi itu jauh lebih dari sekadar memastikan data diamankan. Terutama dengan agen AI, ada banyak kebebasan yang terlibat dalam cara model ini beroperasi. Memastikan mereka dilengkapi dengan pemahaman tentang siapa yang seharusnya mengakses data, kapan harus diakses, dan bagaimana, sangat penting untuk membangun kepercayaan.

Mengatasi komplikasi privasi data tidaklah mustahil, meskipun. Dengan kebijakan data yang tepat, pemerintahan metadata, API, dan kerangka otorisasi perusahaan yang kuat, pemimpin IT perusahaan dapat memastikan bahwa data yang mengisi AI mereka aman dan dapat dipercaya.

Mari kita lihat lebih dekat.

Mengarahkan Privasi Data dan Kebutuhan AI pada Skala Besar

Salah satu tujuan yang lebih luas dari integrasi agen AI ke dalam perusahaan adalah untuk merampingkan alur kerja di seluruh operasi dan sistem. Tapi melakukannya tanpa guardrail apa pun bisa secara tidak sengaja mengungkapkan data sensitif di sepanjang jalan. Pada saat serangan data dan serangan jahat terus berkembang, setiap data yang terungkap atau diakses oleh pengguna yang tidak berwenang bisa berarti bencana – tidak hanya untuk inisiatif AI, tetapi seluruh perusahaan. Biaya rata-rata pelanggaran data lebih dari $4 juta pada tahun 2025, menurut IBM. Adopsi AI meningkat dengan cepat, seringkali meninggalkan tata kelola dan keamanan di belakang saat pemimpin perusahaan mendorong inovasi lebih banyak, wawasan lebih dalam, dan peluang pertumbuhan baru. Tapi bahkan ketika adopsi AI meningkat, kebijakan regulasi dan persyaratan terus berkembang untuk mengikuti dan memastikan data tetap aman.

Dari GDPR hingga CCPA dan bahkan kebijakan lama seperti HIIPA, komplikasi regulasi menimbulkan tantangan yang kompleks untuk mengembangkan agen AI. Alat AI yang memerlukan sejumlah besar data, jika dibiarkan tanpa pengawasan, mengundang sejumlah besar risiko. Ketika model AI mencapai semua sistem internal ini, data sensitif sering dipindahkan dan diakses dalam prosesnya. Ketika datang ke data, lembaga regulasi di seluruh dunia menekankan lebih banyak pada memastikan privasi, tata kelola yang efektif, dan keamanan yang kuat.

Kebijakan yang lebih baru seperti DORA – serangkaian pedoman untuk mengelola risiko ICT untuk perusahaan jasa keuangan yang beroperasi di UE – secara eksplisit memerlukan klasifikasi dan pelaporan insiden ICT, termasuk yang mempengaruhi kerahasiaan, integritas, atau ketersediaan data. Dan sementara kebijakan ini memiliki penekanan primer pada ketahanan operasional, implikasinya mencapai adopsi AI juga. Ketika lebih banyak inisiatif AI, termasuk yang dengan agen AI, mengakses data pada skala perusahaan, risiko akses tidak sah tumbuh. Jika proyek AI mengakibatkan kehilangan atau pengungkapan data, peraturan seperti ini akan dengan cepat menjadi relevan.

Dengan banyak yang dipertaruhkan, sangat penting bahwa organisasi perusahaan tidak kehilangan fokus pada seberapa pentingnya keamanan, tata kelola, dan akses data.

Membangun Fondasi untuk Mengisi Agen AI

Perusahaan perlu membangun fondasi yang berakar pada tata kelola yang efektif, dengan guardrail yang kuat dan aturan yang dapat ditegakkan yang mendefinisikan apa yang dapat dan tidak dapat dilakukan agen. Di jantung fondasi ini terletak tata kelola data – kebijakan, standar, dan struktur tingkat tinggi yang mengelola bagaimana data digunakan secara bertanggung jawab di seluruh organisasi. Kebijakan ini memastikan agen tidak melangkah terlalu jauh, baik dengan mengakses set data yang terbatas atau memulai proses tanpa pengawasan manusia.

Mengimplementasikan kebijakan tata kelola data yang kuat harus dimulai dengan beberapa poin kunci. Ini termasuk akuntabilitas dan kepemilikan, kualitas dan konsistensi data, keamanan dan privasi, kepatuhan dan auditabilitas, dan transparansi dan jejak.

Dengan poin-poin ini sebagai fondasi tata kelola, pemimpin perusahaan mendapatkan kontrol yang lebih besar atas pengambilan keputusan, kepercayaan yang lebih besar terhadap data mereka, dan risiko regulasi yang lebih rendah yang ditimbulkan oleh silo data. Ini dilakukan dengan memanfaatkan kemampuan seperti pengelolaan metadata, klasifikasi data, dan jejak untuk meningkatkan transparansi dan visibilitas ke dalam siapa, atau alat AI apa, yang dapat mengakses. Setiap mekanisme ini memungkinkan perusahaan untuk melacak dari mana data berasal, bagaimana data mengalir, dan bagaimana data diubah.

Teknologi Penting, tapi Kepercayaan Lebih Utama

Setiap kali model AI atau inovasi baru muncul, adopsi melonjak. Tapi dengan setiap inisiatif AI, risiko muncul – meskipun tidak selalu di tempat yang diharapkan. Tantangan teknis yang sering menghambat adopsi alat baru tidak selalu menjadi penyebab lambatnya integrasi AI. Seringkali hal ini berkaitan dengan data. Secara khusus, kepercayaan pada data dan kekhawatiran seputar privasi. Karena AI bergerak sangat cepat, terkadang bisa menjadi tantangan untuk memastikan bahwa hal-hal seperti kontrol akses, tata kelola data, jejak, dan kepatuhan tetap mengikuti kecepatan itu.

Tata kelola adalah bagian penting dari kepercayaan, tapi apa yang juga diperlukan adalah evaluasi yang efektif. Terutama dalam agen AI, masih ada celah besar dalam evaluasi standar, namun evaluasi tersebut sangat penting untuk membuktikan sistem yang berperilaku dapat diandalkan dan aman.

Apakah Anda ingin mengoptimalkan kinerja sistem internal, meningkatkan deteksi penipuan, atau hanya membuat pengalaman pelanggan untuk klien lebih lancar, agen AI terbaik, dan inisiatif AI secara umum, semua dibangun di atas fondasi data yang dipercaya, privasi, dan keamanan.