Agentic AI “Digital Double Pribadi” Memerlukan Evolusi Verifikasi Identitas

Pengumuman Amazon tentang fitur ” Buy for Me ” adalah langkah yang berani yang menunjukkan potensi nyata dari agentic AI di e-commerce. Dengan memungkinkan agen AI untuk membeli produk secara langsung dari situs web lain ketika item tersebut tidak tersedia di Amazon, perusahaan ini memposisikan dirinya sebagai penyedia pengalaman belanja yang paling nyaman dan memuaskan.

Agentic AI – di mana agen otonom bertindak atas nama pengguna nyata – sedang dalam jalur untuk adopsi perusahaan yang cepat, terutama dalam konteks B2B. Bayangkan dunia di mana “agen AI B2B” yang beroperasi dalam berbagai kapasitas (seperti layanan pelanggan, penjualan, rantai pasokan, operasi TI, keuangan, dan SDM) dapat mengambil tindakan pada tugas perusahaan yang lebih mundur tanpa intervensi manusia.

Agentic AI juga merupakan kabar baik di dunia konsumen, dengan “agen AI B2C” yang menawarkan peluang besar bagi konsumen untuk menghemat waktu dan upaya dalam kehidupan sehari-hari. Pertimbangkan “agen pembeli” yang dapat membantu pembeli online menemukan penawaran terbaik, memantau penurunan harga, mengotomatisasi pembelian, menangani pengembalian, dan melakukan pemesanan perjalanan. Kemungkinan di berbagai industri tampaknya tidak terbatas:

• Keuangan pribadi dan manajemen kekayaan – Bayangkan agen AI yang dapat menjalankan strategi keuangan secara otonom, mengimbangkan portofolio, menemukan suku bunga yang optimal untuk tabungan, dan bahkan mengelola pengajuan pajak.
• Layanan pelanggan dan dukungan (untuk individu) – Alih-alih menelepon helpline atau berbicara dengan bot, Agentic AI pribadi dapat berkomunikasi langsung dengan Agentic AI perusahaan untuk menyelesaikan masalah, memperjelas pesanan, atau membuat perubahan. Ini menghilangkan kebutuhan bagi individu untuk mengulangi informasi atau menavigasi sistem IVR yang kompleks.
• Perawatan kesehatan – Agen AI akan dapat mengelola janji temu, memesan resep, mengajukan klaim asuransi, dan bahkan mencari pendapat kedua atau menganalisis penelitian medis atas nama pasien.

Mengadopsi agentic AI menawarkan kesempatan bagi situs web untuk membedakan diri melalui kenyamanan pengguna dan pengalaman yang luar biasa. Namun, di sisi lain, agentic AI sangat rentan terhadap penipuan. Penelitian menunjukkan bahwa bot membentuk antara 40 dan 50 persen dari semua lalu lintas web, dengan sekitar 65 persen dari bot tersebut diyakini sebagai malware. Agentic AI pada dasarnya adalah cara bagi konsumen biasa untuk menggunakan bot, dan penipu – yang sering menggunakan bot dalam volume besar untuk memungkinkan operasi skala besar – sekarang akan memiliki waktu yang lebih mudah untuk bersembunyi di balik lalu lintas agentic yang sah.

Pada tingkat dasar, kemampuan untuk membedakan antara bot yang berbahaya dan sah dalam skala besar akan menjadi faktor kunci dalam membedakan pemimpin dalam perlombaan agentic AI. Di dunia agentic, mesin akan diberi kekuatan dan akan berjalan di “cyber-aisles” yang sama dengan manusia.

Tapi Apakah Lanskap E-commerce Sudah Siap?

Agentic AI akan memerlukan pemikiran ulang, atau perluasan, dari kerangka verifikasi identitas online seperti yang kita kenal sekarang, yang pada gilirannya akan memerlukan penyedia solusi untuk terus meningkatkan kemampuan mereka. Sampai saat ini, kerangka ini telah berfokus pada tiga pertanyaan:

• Apakah orang ini nyata? Proliferasi cepat dari deepfakes memerlukan pemeriksaan liveness untuk semua transaksi berisiko tinggi, memastikan bahwa mereka dipicu oleh orang yang nyata dan hidup. Dalam konteks agentic AI, jawabannya mungkin, “tidak, saya bukan orang,” tetapi itu tidak berarti liveness tidak relevan. Pemeriksaan liveness harus selalu menjadi bagian dari pemeriksaan biometrik yang terjadi pada titik-titik berisiko tinggi dalam perjalanan pengguna, untuk memastikan bahwa manusia ada di dalam loop – seperti saat akun dibuat, uang ditransfer atau pemulihan akun diminta (“Saya lupa kata sandi”).
• Apakah orang ini dipercaya? Ini adalah kemampuan untuk menentukan apakah pengguna adalah penipu, pelanggan VIP di masa depan atau sesuatu di antaranya, yang sering melibatkan pemeriksaan terhadap database publik. Sebagai contoh, seseorang yang mencoba memesan akomodasi di pasar sewa online akan diidentifikasi sebagai risiko tinggi jika mereka memiliki riwayat kriminal yang diketahui tentang menggelapkan atau merusak properti.
• Apakah ini masih orang di balik akun? Ini merujuk pada autentikasi terus-menerus – atau memastikan pada interval reguler bahwa orang yang identitasnya diverifikasi saat masuk masih ada, mencegah pengambilalihan akun oleh manusia lain.

Agentic AI menambahkan pertanyaan keempat – apakah agen ini memiliki wewenang untuk bertindak sebagai proksi pengguna yang sebenarnya? Masalah wewenang ini sangat kritis, mengonfirmasi ruang lingkup dan durasi otorisasi manusia untuk agen AI untuk bertindak sebagai proksinya, sesuai dengan konteks. Ini bukan hanya tentang manusia yang mendelegasikan tugas; itu tentang memastikan bahwa agen AI memiliki izin manusia yang spesifik, dapat dibatalkan, dan sadar konteks. Semua tindakan agen AI harus dapat dilacak ke manusia yang nyata dan sah; ini adalah kunci untuk situs B2C yang mengimplementasikan agentic AI dengan cara yang aman dan akuntabel.

Menurut perkiraan terbaru, AI bertanggung jawab atas sekitar 20 persen dari penipuan yang dilakukan pada 2024 di semua sektor, dan angka ini hanya diharapkan tumbuh ketika peretas mengembangkan teknik baru. Selain agen AI yang jahat yang menyamar sebagai agen yang sah, contoh lainnya adalah perampokan agen, atau ketika penyerang mengganggu bagaimana agen memahami informasi atau membuat keputusan. Jadi, selain memverifikasi legitimasi dan wewenang agen AI, memeriksa integritas agen juga sangat penting untuk memastikan bahwa mereka tidak telah diubah.

Gartner membatasi prediksi yang kuat untuk pertumbuhan agentic AI secara keseluruhan dengan catatan penting: lebih dari 40 persen proyek agentic AI akan dibatalkan pada akhir 2027. Ini adalah panggilan bangun yang keras – tanda bahwa banyak organisasi meremehkan kompleksitas implementasi agentic AI, terutama kebutuhan untuk memastikan kontrol risiko yang memadai. Sementara ada banyak cara agen AI agentic dapat dieksploitasi untuk menyebabkan kerusakan, kemampuan untuk memverifikasi legitimasi dan wewenang adalah langkah dasar, fondasional untuk meminimalkan risiko. Untungnya, apa yang diperlukan bukanlah penemuan kembali, tetapi evolusi – augmentasi dari kerangka verifikasi identitas online yang terbukti yang ada saat ini.