Agen AI Anda Mengetahui Semua — dan Tidak Mengerti Apa Pun

“Kita harus bergabung dengan orang tua saya dalam perjalanan ke Irlandia” — pernyataan yang tampaknya tidak berbahaya ini membuat saya merasa takut.

Istri saya dan saya banyak bepergian. Kami tahu apa yang kami sukai. Orang tua istri saya, di sisi lain, jarang bepergian lebih dari beberapa ratus mil dari rumah mereka dan telah meninggalkan negara bersama hanya sekali — untuk pernikahan kami.

Untuk memperburuk keadaan, perjalanan ini adalah hadiah Natal dari ayah mertua saya kepada ibu mertua saya sehingga dia bisa pergi dan mengunjungi keluarganya, mungkin untuk terakhir kalinya.

Saya bisa melihat perjalanan ini terbentang dalam satu kata: bencana. Bagaimana di dunia ini kita bisa mensintesis pengalaman dan harapan yang sangat berbeda sehingga kita bisa memiliki perjalanan yang luar biasa — atau setidaknya tidak membenci satu sama lain di akhir perjalanan?

Seperti teknisi yang memiliki rasa hormat, saya mencari teknologi — khususnya AI.

Tapi apa yang tidak saya harapkan adalah bahwa eksperimen kecil saya dalam membuat aplikasi perencana perjalanan keluarga yang ditenagai AI akan mengajarkan saya hampir semua yang perlu saya ketahui tentang menerapkan AI dalam IT perusahaan.

Anda Semakin Banyak Memberi Makan AI, Semakin Bodoh AI

Sebagian besar penerapan AI perusahaan mengikuti pola yang dapat diprediksi. Organisasi memulai dengan memberikan instruksi kepada agen dan menghubungkannya ke sumber informasi, apakah itu kerangka kerja RAG (Retrieval-Augmented Generation), basis pengetahuan yang ada, atau bahkan server MCP. Kemudian, tambahkan lapisan LLM dan biarkan melakukan tugasnya.

Masalahnya adalah LLM pada intinya bodoh. Mereka tidak tahu cara memprioritaskan semua informasi yang mereka miliki, sehingga mereka cenderung memperlakukan setiap potongan konteks secara sama. Manusia harus menambahkan lapisan kurasi, mengajarkan model apa yang penting dan apa yang tidak. Tanpa kurasi, Anda akan mendapatkan AI yang mengetahui semua dan tidak mengerti apa pun.

Tiga Jenis Memori yang Penting

Kurasi AI perusahaan yang efektif berarti membuat yang terbaik dari tiga jenis memori tertentu.

<p Yang pertama adalah memori institusional, yang dapat tampak cukup dasar di awal. Ketika seseorang mengatakan "jasa keuangan", agen tahu mereka berarti divisi Jasa Keuangan perusahaan dan bukan seluruh industri. Ini menjadi pengetahuan organisasi yang persisten yang diisi dengan definisi, preferensi, dan konvensi yang tidak sering berubah. Ketika ini diperluas ke pengetahuan institusional tentang prioritas strategis, inisiatif kunci, dan dinamika organisasi, ini menjadi sumber kaya konteks institusional.

Berikutnya adalah sejarah tindakan, yang fokus pada keputusan, tugas, dan peristiwa yang signifikan. Ketika tiket layanan diajukan atau sistem diterapkan, agen mengenali tindakan tersebut dan merekamnya ke dalam sejarah tindakan. Ini menjadi catatan sejarah yang menjahit konteks organisasi.

Akhirnya, ada konteks percakapan jangka pendek. Pikirkan ini sebagai interaksi momen-ke-momen dengan agen. Ini berguna pada saat itu, tetapi cenderung kehilangan relevansi dengan cepat.

Diambil bersama, ketiga jenis memori ini menciptakan sistem penimbangan yang hilang dari model AI generik. Sekarang, ketika seseorang memberitahu agen tentang bisnis, mereka mengklasifikasikan dan memprioritaskan semua memori itu dan mengkurasi informasi yang penting. Ini membentuk inti dari apa yang harus disampaikan AI: tidak hanya data domain, tetapi juga penilaian domain.

Apa yang Terlihat seperti Memori yang Dikurasi pada Skala Besar

Tapi cukup dengan kerangka kerja, apa yang terlihat seperti ini dalam praktek? Berikut adalah apa yang kami temukan dalam membangun agen-agen ini sendiri.

Satu skenario IT yang umum adalah mengirim tiket masalah ke agen bantuan. Katakanlah Outlook Anda tidak berfungsi, sehingga Anda mengetikkan deskripsi masalah dan menunggu agen untuk meninjau dan menyarankan perbaikan.

Tapi dengan memori yang dikurasi bekerja untuk Anda, proses yang lebih baik bisa melibatkan mengambil screenshot yang menunjukkan kesalahan Outlook dan mengunggahnya ke agen. Sekarang agen (1) mengandalkan memori institusional untuk memahami lingkungan kerja Anda; (2) memeriksa sejarah tindakan untuk insiden terkait; dan (3) menerapkan penilaian kontekstual untuk solusi spesifik, bukan hanya jawaban generik.

Hasilnya adalah agen pintar yang tidak perlu menebak jawaban berdasarkan screenshot. Sekarang agen benar-benar menginterogasi, melihat semua informasi yang saat ini berjalan dan menyampaikan respons yang lebih berguna. Agen bahkan bisa berkembang menjadi efek jaringan atau kawanan, melihat pengguna lain dalam sistem untuk melihat apakah masalah Outlook hanya Anda atau masalah perusahaan secara keseluruhan.

Kontekstualisasi sejarah atau memori adalah perbedaan pembuat. Jika Anda tidak mengurasi memori Anda secara efektif, Anda akan ketinggalan mereka yang melakukannya. Sangat penting untuk memiliki arsitektur yang tahu cara mengelola data tersebut dari waktu ke waktu dan memahami apa yang harus disimpan, apa yang harus ditampilkan, dan apa yang harus dilepaskan.

Kembali ke Perjalanan

Jadi, bagaimana perencana perjalanan yang ditenagai AI saya mengubah pandangan saya tentang AI dalam IT perusahaan?

Apa yang saya bangun adalah aplikasi yang bertindak sebagai koncierge perjalanan pribadi kami dan memulai dengan “mewawancarai” setiap peserta. Kami semua menjelaskan apa yang penting bagi kami dalam perjalanan: apa yang harus dilakukan dan apa yang bisa dilewati. Lebih penting lagi, itu bertanya kepada kami tentang “mengapa” — mengapa sesuatu penting bagi kami, apa yang dimaksudkan dengan itu.

Menggunakan informasi ini, itu melakukan dua hal. Pertama, itu mengurasi rencana perjalanan yang seimbang untuk menyampaikan sesuatu untuk semua orang — kami semua bisa melihat keinginan dan preferensi kami terwakili dalam rencana yang dihasilkannya.

Tapi, tentu saja, itinerary pertama itu hanya draf. Masih banyak pertanyaan yang harus dijawab.

Dan itu saat keajaiban yang sebenarnya terjadi. Kami bertanya kepada agen tentang hotel atau atraksi atau perjalanan, dan jawaban yang diberikannya diperkaya dengan konteks situasi unik kami: “Ini akan menjadi perjalanan panjang bagi anak-anak, tetapi ayah mertua saya akan mencintai kastil (dan rumah kopi unik di sebelah) — dan ini bisa menjadi tempat yang tepat bagi istri saya untuk mendapatkan pijat.”

Penuh dengan pemahaman yang kaya tentang apa yang penting bagi kami, itu bisa membantu kami merencanakan dan memperbarui perjalanan kami dengan cara yang saya tidak pikir bisa dilakukan dengan cara lain.

Dan itu dalam salah satu momen pertama bahwa saya memahami apa yang kami butuhkan untuk dibangun untuk pelanggan perusahaan kami: sistem pintar yang sangat dipenuhi dengan konteks organisasi, transaksional, dan pribadi sehingga setiap jawaban dan interaksi akan seperti sidik jari: sepenuhnya unik untuk saat dan interaksi itu sehingga akan menyampaikan jenis nilai yang tidak bisa terjadi dengan cara lain.