Agen AI Anda Mengetahui Semua — dan Tidak Memahami Apa Pun

“Kita harus bergabung dengan orang tua saya dalam perjalanan mereka ke Irlandia” — pernyataan yang tampaknya tidak berbahaya ini mengirimkan rasa dingin di tulang belakang saya.

Istri saya dan saya melakukan perjalanan secara ekstensif. Kami tahu apa yang kami sukai. Orang tua istri saya, di sisi lain, jarang bepergian lebih dari beberapa ratus mil dari rumah mereka dan telah meninggalkan negara bersama hanya sekali — untuk pernikahan kami.

Untuk memunculkan perjalanan ini, ini adalah hadiah Natal dari mertua saya kepada ibu mertua saya sehingga dia bisa pergi dan mengunjungi keluarganya, mungkin untuk terakhir kalinya.

Saya bisa melihat perjalanan ini terbentuk dalam satu kata: bencana. Bagaimana di dunia kita bisa menyintesis pengalaman dan harapan yang sangat berbeda sehingga kita bisa memiliki perjalanan yang luar biasa — atau setidaknya tidak membenci satu sama lain di akhir perjalanan?

Seperti teknisi yang memiliki rasa hormat, saya mencapai teknologi — khususnya AI.

Tapi apa yang tidak saya harapkan adalah bahwa eksperimen kecil saya dalam membuat aplikasi perencanaan perjalanan keluarga yang ditenagai AI akan mengajarkan saya hampir semua yang saya butuhkan untuk mengetahui tentang menerapkan AI dalam IT perusahaan.

Semakin Banyak Anda Memberi Makan AI, Semakin Bodoh Itu Menjadi

Sebagian besar penerapan AI perusahaan mengikuti pola yang dapat diprediksi. Organisasi memulai dengan memberikan agen sebuah set instruksi dan menghubungkannya ke sumber informasi, apakah itu kerangka Retrieval-Augmented Generation (RAG), basis pengetahuan yang ada, atau bahkan server MCP. Berikutnya, tambahkan lapisan LLM dan biarkan itu melakukan tugasnya.

Masalahnya adalah LLM pada intinya bodoh. Mereka tidak tahu cara memprioritaskan semua informasi yang mereka miliki, sehingga mereka cenderung memperlakukan setiap potongan konteks secara sama. Manusia harus menambahkan lapisan kurasi, mengajarkan model apa yang penting dan apa yang tidak. Tanpa kurasi, Anda mendapatkan AI yang mengetahui semuanya dan tidak memahami apa pun.

Tiga Jenis Memori yang Mempengaruhi

Kurasi AI perusahaan yang efektif berarti membuat yang terbaik dari tiga jenis memori tertentu.

Yang pertama adalah memori institusional, yang dapat tampak cukup dasar pada awalnya. Ketika seseorang mengatakan “jasa keuangan”, agen tahu mereka mengacu pada divisi Jasa Keuangan perusahaan dan bukan seluruh industri. Ini menjadi pengetahuan organisasi yang kaya yang diisi dengan definisi, preferensi, dan konvensi yang tidak sering berubah. Ketika ini diperluas ke pengetahuan institusional tentang prioritas strategis, inisiatif kunci, dan dinamika organisasi, itu menjadi sumber konteks institusional yang kaya.

Berikutnya adalah riwayat tindakan, yang fokus pada keputusan, tugas, dan peristiwa yang signifikan. Ketika tiket layanan difile atau sistem diterapkan, agen mengenali tindakan tertentu itu dan merekamnya ke dalam riwayat tindakan. Ini menjadi catatan sejarah yang menjahit konteks organisasi.

Terakhir, ada konteks percakapan jangka pendek. Bayangkan ini sebagai interaksi momen-per-momen dengan agen. Ini berguna dalam momen itu, tetapi cenderung kehilangan relevansi dengan cepat.

Diambil bersama, ketiga jenis memori ini menciptakan sistem penimbangan yang hilang dalam model AI generik. Sekarang ketika seseorang memberitahu agen tentang bisnis, mereka mengklasifikasikan dan memprioritaskan semua memori itu dan mengkurasi informasi yang penting. Ini membentuk inti dari apa yang harus disampaikan AI: tidak hanya data domain, tetapi juga penilaian domain.

Apa Kurasi Memori Terlihat seperti di Skala

Tapi cukup dengan kerangka, apa yang terlihat dalam praktek? Berikut adalah apa yang telah kami temukan dalam membangun agen-agen ini sendiri.

Skenario IT yang umum adalah mengirim tiket masalah ke agen help desk. Katakanlah Outlook Anda tidak berfungsi, sehingga Anda mengetikkan deskripsi masalah dan menunggu agen untuk meninjau dan menyarankan perbaikan.

Tapi dengan memori yang dikurasi bekerja untuk keuntungan Anda, proses yang lebih baik bisa melibatkan mengambil screenshot yang menunjukkan kesalahan Outlook dan mengunggahnya ke agen. Sekarang agen (1) mengandalkan memori institusional untuk memahami lingkungan kerja Anda; (2) memeriksa riwayat tindakan untuk insiden terkait; dan (3) menerapkan penilaian kontekstual untuk solusi spesifik, bukan hanya jawaban generik.

Hasilnya adalah agen pintar yang tidak perlu menebak jawaban berdasarkan screenshot. Sekarang agen benar-benar menginterogasi, melihat semua informasi yang sedang berjalan dan menyampaikan respons yang lebih berguna. Agen bahkan bisa memperluas ke dalam efek jaringan atau kawanan, melihat pengguna lain dalam sistem untuk melihat apakah masalah Outlook hanya Anda atau masalah perusahaan secara keseluruhan.

Kontekstualisasi sejarah atau memori adalah pembuat perbedaan. Jika Anda tidak mengkurasi memori Anda secara efektif, Anda akan ketinggalan mereka yang melakukannya. Ini penting untuk memiliki arsitektur yang tahu cara mengelola data itu seiring waktu dan memahami apa yang harus disimpan, apa yang harus disampaikan, dan apa yang harus dilepaskan.

Kembali ke Perjalanan

Jadi, bagaimana perencana perjalanan AI saya mengubah pandangan saya tentang AI dalam IT perusahaan?

Apa yang saya bangun adalah aplikasi yang bertindak sebagai koncierge perjalanan pribadi kami dan dimulai dengan “mewawancarai” setiap peserta. Kami semua menjelaskan apa yang penting bagi kami dalam perjalanan: apa yang harus dilakukan dan apa yang bisa dilewati. Lebih penting lagi, itu bertanya kepada kami tentang “mengapa” — mengapa sesuatu penting bagi kami, apa yang dimaksudkan dengan itu.

Menggunakan informasi ini, itu melakukan dua hal. Pertama, itu mengkurasi rencana perjalanan yang seimbang untuk menyampaikan sesuatu untuk semua orang — kami semua bisa melihat keinginan dan preferensi kami terwakili dalam rencana yang dihasilkan.

Tapi, tentu saja, itu hanya draf pertama. Masih banyak pertanyaan yang harus dijawab.

Dan itu saat keajaiban sebenarnya terjadi. Kami bertanya kepada agen tentang hotel atau atraksi atau perjalanan, dan jawaban yang diberikannya diperkaya dengan konteks situasi unik kami: “Itu akan menjadi perjalanan panjang bagi anak-anak, tapi mertua saya akan menyukai kastil (dan kafe kopi unik di sebelah) — dan ini bisa menjadi tempat yang tepat bagi istri saya untuk mendapatkan pijat.”

Penuh dengan pemahaman yang kaya tentang apa yang penting bagi kami, itu bisa membantu kami merencanakan dan memperbarui perjalanan dengan cara yang saya tidak pikir akan mungkin dengan cara lain.

Dan itu dalam salah satu momen pertama bahwa saya memahami apa yang kita butuhkan untuk membangun untuk pelanggan perusahaan kami: sistem pintar yang sangat sarat dengan konteks organisasi, transaksional, dan pribadi sehingga setiap jawaban dan interaksi akan seperti sidik jari: unik untuk momen dan interaksi itu dan menyampaikan jenis nilai yang tidak bisa terjadi dengan cara lain.