3 Pertimbangan untuk Agen AI yang Aman dan Dapat Diandalkan untuk Perusahaan

Menurut Gartner, 30% proyek GenAI kemungkinan akan ditinggalkan setelah proof-of-concept pada akhir 2025. Adopsi awal GenAI menunjukkan bahwa sebagian besar infrastruktur data dan praktik tata kelola perusahaan tidak siap untuk penerapan AI yang efektif. Gelombang pertama produk GenAI menghadapi hambatan yang signifikan, dengan banyak organisasi yang berjuang untuk melampaui tahap proof-of-concept untuk mencapai nilai bisnis yang berarti.

Ketika kita memasuki gelombang kedua produk GenAI, perusahaan menyadari bahwa menerapkan teknologi ini dengan sukses memerlukan lebih dari sekadar menghubungkan LLM ke data mereka. Kunci untuk membuka potensi AI terletak pada tiga pilar inti: mempersiapkan data dengan benar dan memastikan bahwa data tersebut siap untuk diintegrasikan dengan AI; memperbarui praktik tata kelola data untuk mengatasi tantangan unik yang diperkenalkan oleh GenAI; dan menerapkan agen AI dengan cara yang membuat penggunaan yang aman dan dapat diandalkan menjadi alami dan intuitif, sehingga pengguna tidak dipaksa untuk mempelajari keterampilan khusus atau pola penggunaan yang tepat. Bersama-sama, tiga pilar ini menciptakan fondasi yang kuat untuk agen AI yang aman dan efektif di lingkungan perusahaan.

Mempersiapkan Data Anda untuk AI dengan Benar

Sementara data terstruktur mungkin tampak terorganisir bagi mata telanjang, dengan rapi disusun dalam tabel dan kolom, LLM seringkali mengalami kesulitan untuk memahami dan bekerja dengan data terstruktur ini secara efektif. Hal ini terjadi karena, di sebagian besar perusahaan, data tidak diberi label dengan cara yang bermakna secara semantik. Data sering memiliki label yang tidak jelas, seperti “ID” tanpa indikasi yang jelas tentang apakah itu pengidentifikasi untuk pelanggan, produk, atau transaksi. Dengan data terstruktur, juga sulit untuk menangkap konteks yang tepat dan hubungan antara berbagai titik data yang terhubung, seperti bagaimana langkah-langkah dalam perjalanan pelanggan terkait satu sama lain. Sama seperti kita perlu melabeli setiap gambar dalam aplikasi penglihatan komputer untuk memungkinkan interaksi yang bermakna, organisasi sekarang harus melakukan tugas yang kompleks untuk melabeli data mereka secara semantik dan mendokumentasikan hubungan di seluruh sistem untuk memungkinkan interaksi AI yang bermakna.

Selain itu, data tersebar di banyak tempat yang berbeda – dari server tradisional hingga berbagai layanan cloud dan aplikasi perangkat lunak yang berbeda. Ini menyebabkan masalah interoperabilitas dan integrasi yang kritis yang menjadi lebih problematis ketika menerapkan solusi AI.

Tantangan lainnya terletak pada inkonsistensi definisi bisnis di seluruh sistem dan departemen. Sebagai contoh, tim keberhasilan pelanggan mungkin mendefinisikan “upsell” dengan cara yang berbeda, sementara tim penjualan mendefinisikannya dengan cara yang lain. Ketika Anda menghubungkan agen AI atau chatbot ke sistem ini dan mulai mengajukan pertanyaan, Anda akan mendapatkan jawaban yang berbeda karena definisi data tidak selaras. Ketiadaan keselarasan ini bukanlah ketidaknyamanan kecil – ini adalah hambatan kritis untuk menerapkan solusi AI yang dapat diandalkan.

Kualitas data yang buruk menciptakan skenario “sampah masuk, sampah keluar” yang klasik yang menjadi jauh lebih serius ketika alat AI diterapkan di seluruh perusahaan. Data yang tidak tepat atau kacau mempengaruhi jauh lebih dari satu analisis – ini menyebarkan informasi yang tidak tepat ke semua orang yang menggunakan sistem melalui pertanyaan dan interaksi mereka. Untuk membangun kepercayaan pada sistem AI untuk keputusan bisnis yang nyata, perusahaan harus memastikan bahwa aplikasi AI mereka memiliki data yang bersih, akurat, dan dipahami dalam konteks bisnis yang tepat. Ini mewakili perubahan fondamental dalam cara organisasi harus memikirkan tentang aset data mereka di era AI – di mana kualitas, konsistensi, dan kejelasan semantik menjadi sama pentingnya dengan data itu sendiri.

Menguatkan Pendekatan Tata Kelola

Tata kelola data telah menjadi fokus utama bagi organisasi dalam beberapa tahun terakhir, terutama berpusat pada pengelolaan dan perlindungan data yang digunakan dalam analitik. Perusahaan telah berusaha untuk memetakan informasi sensitif, mematuhi standar akses, mematuhi hukum seperti GDPR dan CCPA, dan mendeteksi data pribadi. Inisiatif ini sangat penting untuk menciptakan data yang siap AI. Namun, ketika organisasi memperkenalkan agen AI generatif ke dalam alur kerja mereka, tantangan tata kelola meluas tidak hanya pada data itu sendiri, tetapi juga pada pengalaman interaksi pengguna dengan AI.

Kami sekarang menghadapi keharusan untuk mengatur tidak hanya data yang mendasarinya, tetapi juga proses oleh mana pengguna berinteraksi dengan data tersebut melalui agen AI. Peraturan yang ada, seperti Undang-Undang AI Uni Eropa, dan peraturan lain yang akan datang menekankan kebutuhan untuk mengatur proses jawaban pertanyaan itu sendiri. Ini berarti memastikan bahwa agen AI memberikan respons yang transparan, dapat dijelaskan, dan dapat dilacak. Ketika pengguna menerima jawaban “black-box” – seperti mengajukan pertanyaan, “Berapa banyak pasien flu yang dirawat kemarin?” dan hanya mendapatkan “50” tanpa konteks – sulit untuk mempercayai informasi tersebut untuk keputusan kritis. Tanpa mengetahui dari mana data berasal, bagaimana data dihitung, atau definisi istilah seperti “dirawat” dan “kemarin”, output AI kehilangan keandalannya.

Tidak seperti interaksi dengan dokumen, di mana pengguna dapat melacak jawaban kembali ke dokumen tertentu atau kebijakan untuk memverifikasi akurasi, interaksi dengan data terstruktur melalui agen AI seringkali kekurangan tingkat pelacakan dan kejelasan ini. Untuk mengatasi masalah ini, organisasi harus menerapkan langkah-langkah tata kelola yang tidak hanya melindungi data sensitif, tetapi juga membuat pengalaman interaksi AI menjadi teratur dan dapat diandalkan. Ini termasuk membangun kontrol akses yang kuat untuk memastikan bahwa hanya personil yang berwenang yang dapat mengakses informasi tertentu, mendefinisikan tanggung jawab kepemilikan data dan tata kelola yang jelas, dan memastikan bahwa agen AI memberikan penjelasan dan referensi untuk output mereka. Dengan memperbarui praktik tata kelola data untuk mencakup pertimbangan ini, perusahaan dapat dengan aman memanfaatkan kekuatan agen AI sambil mematuhi peraturan yang berkembang dan mempertahankan kepercayaan pengguna.

Berpikir di Luar Teknik Prompt

Ketika organisasi memperkenalkan agen AI generatif dalam upaya untuk meningkatkan aksesibilitas data, teknik prompt telah muncul sebagai hambatan teknis baru bagi pengguna bisnis. Sementara dianggap sebagai jalur karir yang menjanjikan, teknik prompt pada dasarnya adalah menciptakan kembali hambatan yang sama yang kita hadapi dalam analitik data. Menciptakan prompt yang sempurna tidak berbeda dengan menulis kueri SQL khusus atau membangun filter dasbor – ini adalah menggeser keahlian teknis dari satu format ke format lain, masih memerlukan keahlian khusus yang sebagian besar pengguna bisnis tidak memiliki dan tidak seharusnya perlu.

Perusahaan telah lama mencoba untuk memecahkan aksesibilitas data dengan melatih pengguna untuk lebih memahami sistem data, membuat dokumentasi, dan mengembangkan peran khusus. Namun, pendekatan ini terbalik – kita meminta pengguna untuk menyesuaikan diri dengan data, bukan membuat data menyesuaikan diri dengan pengguna. Teknik prompt mengancam untuk melanjutkan pola ini dengan menciptakan lapisan teknis perantara lainnya.

Demokratisasi data yang sebenarnya memerlukan sistem yang memahami bahasa bisnis, bukan pengguna yang memahami bahasa data. Ketika eksekutif mengajukan pertanyaan tentang retensi pelanggan, mereka tidak perlu menggunakan istilah yang tepat atau prompt. Sistem harus memahami niat, mengenali data relevan di seluruh label yang berbeda (apakah itu “churn”, “retensi”, atau “siklus hidup pelanggan”), dan memberikan jawaban kontekstual. Ini memungkinkan pengguna bisnis untuk fokus pada keputusan daripada belajar untuk mengajukan pertanyaan yang teknis sempurna.

Kesimpulan

Agen AI akan membawa perubahan penting dalam cara perusahaan beroperasi dan membuat keputusan, tetapi juga datang dengan tantangan unik yang harus diatasi sebelum mereka diterapkan. Dengan AI, setiap kesalahan diperbesar ketika pengguna non-teknis memiliki akses self-service, membuatnya kritis untuk mendapatkan fondasi yang benar.

Organisasi yang berhasil mengatasi tantangan dasar kualitas data, keselarasan semantik, dan tata kelola sambil melampaui keterbatasan teknik prompt akan diposisikan untuk mendemokratisasikan akses data dan pengambilan keputusan dengan aman. Pendekatan terbaik melibatkan menciptakan lingkungan kolaboratif yang memfasilitasi kerja tim dan menyelaraskan interaksi manusia-ke-mesin serta mesin-ke-mesin. Ini menjamin bahwa wawasan yang didorong oleh AI akurat, aman, dan dapat diandalkan, mendorong budaya perusahaan yang mengelola, melindungi, dan memaksimalkan data ke potensi penuhnya.