Mikrodosis pada AI Rendah-Halusinasi

Agentforce hadir. Salesforce (CRM ) membungkus edisi lain dari konferensi tahunan Dreamforce pada September ini. Bergabung dengan kerumunan peserta — dan kerumunan Waymos yang mengantar mereka ke San Francisco yang dibersihkan ekstra — kita semua sekarang memiliki kerumunan agen di ujung jari kita untuk mengubah pekerjaan, dikendalikan dengan rapi dalam ekosistem Salesforce. Sementara Dreamforce selalu menjadi spektakuler karena pernyataan pemasaran yang terfokus pada masa depan, tahun ini memberikan visi yang cukup menarik tentang bagaimana agen berbasis AI akan merevolusi tempat kerja dan pengalaman pelanggan.

Mari kita menurunkan ekspektasi kita untuk sedikit lebih lama. Benioff merenungkan dalam keynote-nya, “Mengapa agen kita harus rendah-halusinasi?” Ya, mereka memiliki data, metadata, alur kerja, dan berbagai layanan untuk terhubung; dan selama sistem Anda hanya hidup dalam Salesforce, terdengar cukup ideal. Salesforce mungkin atau tidak telah menciptakan teknik prompt, klaim yang juga dibuat Benioff dalam keynote yang mengingatkan mungkin monolog Dr. Evil “Austin Powers” tentang ayahnya yang menciptakan tanda tanya. Tapi bisakah Salesforce memenuhi visi Agentforce? Jika mereka melakukannya, itu akan menjadi hal besar bagi cara kerja dilakukan.

Mari kita jujur; sistem dan data kita tidak semua hidup dalam Salesforce. Jika masa depan pekerjaan ditentukan oleh kelompok agen yang bekerja bersama, seberapa jauh taman yang tertutup dan ekosistem yang tertutup dapat membawa kita dalam menghasilkan hasil di seluruh bisnis kita? Tentu saja Apple (AAPL ), Microsoft (MSFT ), Amazon (AMZN ), dan banyak lainnya ingin mengambil kesempatan agen yang besar di depan kita. Tapi ketika setiap gelombang kemajuan teknis membawa debat tertutup vs terbuka, kita akhirnya akan membutuhkan standar untuk agen bekerja bersama dengan satu sama lain di luar batas. Jika tidak, hanya sebagian dari bisnis Anda yang akan memenuhi kesempatan ini.

Ketika kita sering melakukannya ketika dihadapkan pada dilema tertutup/terbuka, mari kita lihat web terbuka sebagai cara maju. Sama seperti aplikasi di ponsel Anda membutuhkan tampilan web untuk memungkinkan berbagai hasil aplikasi mobile, hal yang sama akan diperlukan dalam cakrawala multi-agen yang akan datang. Alat seperti Slack menyediakan kerangka UI seperti Block Kit yang dapat memberdayakan antarmuka pengguna untuk interaksi agen sederhana, tetapi tidak cukup untuk menangani kedalaman pengalaman pengguna modern. Ambil Clockwise Prism sebagai contoh. Kami telah membangun agen penjadwalan tingkat lanjut untuk menemukan waktu untuk pertemuan bahkan jika tidak ada “ruang kosong” di kalender besok. Ketika menghubungkannya dengan agen lain untuk mendapatkan pertemuan yang mustahil dengan prospek penjualan terpanas Anda, Anda akan membutuhkan cara untuk mengonfirmasi atau menjelajahi berbagai pilihan penjadwalan yang canggih dan kuat. Menyediakan tampilan web untuk melakukan ini adalah jalan maju yang jelas.

Di seluruh keynote-nya, Benioff mengulangi mantra bahwa Anda tidak ingin agen DIY dalam bisnis Anda. Dan dia benar. Perusahaan ingin alur kerja yang dikendalikan dan disederhanakan yang menghasilkan nilai yang dapat diulang. Dan mereka tidak ingin terjebak dalam silo. Inilah mengapa kita membutuhkan standar terbuka untuk masa depan multi-agen. Kita membutuhkan cara yang dapat diandalkan bagi agen untuk berinteraksi satu sama lain, menyeberangi batas aplikasi dan ekosistem, dan melakukannya dengan cara yang menjaga bisnis tetap mengendalikan pengalaman produk mereka.

Anda mungkin sama-sama mungkin memulai serangkaian agen kerja dari dalam tiket Atlassian (TEAM ) Jira yang terhubung ke kasus pelanggan Salesforce, serta Anda ingin memulai serangkaian agen sebaliknya, berasal dari dalam Salesforce yang terhubung ke Atlassian. Agar agen dapat bekerja bersama tanpa memandang dari mana permintaan kerja berasal dan dalam berbagai arah dengan pengalaman pengguna yang konsisten, sekali lagi, standar untuk melakukan ini diperlukan.

Apa lagi yang harus diwakili dalam standar ini? Di luar Salesforce, ekosistem multi-agen saat ini adalah “wild west” yang menarik. Setiap hari kita melihat inovasi dan cara baru untuk menghubungkan dan membangun sistem AI dan alur kerja agen. Salah satu keterkaitan baru-baru ini antara kerangka AI LangChain dan alat yang disebut Assitant-UI membawa wawasan ini:

“UX sangat penting bagi agen. Semua orang ingin agen dengan streaming, antarmuka generatif, dan manusia dalam loop dalam aplikasi mereka.”

Memang, kita telah membahas betapa pentingnya pengalaman pengguna bagi agen. Dan jelas agen harus dapat dengan cepat mengalirkan respons mereka ketika bekerja dengan agen lain. Tapi apa tentang antarmuka generatif dan manusia dalam loop dalam aplikasi mereka?

Mari kita mulai dengan manusia dalam loop; area lain dari persetujuan luas. Sementara Salesforce dan lainnya berbicara besar tentang otomatisasi, itu selalu didasarkan pada kebutuhan untuk dapat membawa manusia kembali ke pusat ketika diperlukan. Kami belajar pelajaran ini juga di Clockwise, dan telah membangun pengalaman agen penjadwalan kami di sekitar konsep inti untuk dapat memeriksa kembali dengan pengguna dengan serangkaian pilihan penjadwalan yang diusulkan. Ketika Anda melakukan pekerjaan yang kompleks, itu luar biasa untuk mencapai otomatisasi penuh, tetapi dimulai dari tulang punggung melibatkan pengguna dan menjaga mereka dalam loop. Setiap standar harus dibangun di sekitar kemampuan opsional untuk memeriksa dan mengonfirmasi dengan pengguna sebelum melanjutkan, dan akhirnya memungkinkan otomatisasi penuh ketika kepercayaan cukup tinggi.

Dan apa tentang antarmuka generatif? Di sini saya akan mengusulkan bahwa apa yang diperlukan bukanlah antarmuka generatif, tetapi “antarmuka asli”. Yang penting adalah agen menghasilkan antarmuka yang asli dan dikendalikan oleh layanan/agen yang merespons permintaan. Hanya layanan asli yang akan memiliki konteks dan pemahaman yang diperlukan untuk merender antarmuka pengguna yang terhubung ke permintaan agen. Apakah antarmuka itu di-render menggunakan AI generatif atau mekanisme non-AI lainnya, itu ditinggalkan pada layanan yang merespons sebagai detail implementasi. Jadi di sini, kita pikir standar terbuka harus memungkinkan layanan yang merespons untuk mengendalikan dan mengirimkan antarmuka asli ke permintaan agen.

Apa yang terjadi selanjutnya? Kami bersemangat untuk terus memeriksa apa yang mungkin terlihat seperti masa depan multi-agen yang terbuka. Kami telah membuat draf sesuatu yang kami sebut Protokol Multi-Agen Terbuka (OMAP) dan kami bersemangat untuk terus mendorong percakapan ke depan. Tidak akan lama sebelum ada jenis pekerjaan baru di luar sana di mana orang menggunakan agen untuk melakukan pekerjaan dengan cara yang kuat dan terstruktur. Era deskripsi pekerjaan Orkestrator Agen telah tiba, dan sementara Salesforce melukis jalur yang menarik ke depan, kita akan membutuhkan cara standar bagi agen untuk terhubung di luar batas.