Agentic AI’s “Personal Digital Doubles” Akan Memerlukan Evolusi Verifikasi Identitas

Pengumuman Amazon tentang fitur “Buy for Me” merupakan langkah berani yang menunjukkan potensi nyata dari agentic AI di e-commerce. Dengan memungkinkan agen AI untuk melakukan pembelian produk secara langsung dari situs web lain ketika item tidak tersedia di Amazon, perusahaan ini memposisikan diri sebagai penyedia pengalaman belanja yang paling nyaman dan memuaskan.

Agentic AI – di mana agen otonom bertindak atas nama pengguna nyata – sedang dalam jalur untuk adopsi perusahaan yang cepat, terutama dalam konteks B2B. Bayangkan sebuah dunia di mana “agen AI B2B” yang beroperasi dalam berbagai kapasitas (seperti layanan pelanggan, penjualan, rantai pasokan, operasi TI, keuangan, dan SDM) dapat mengambil tindakan pada tugas-tugas perusahaan yang lebih mundane tanpa intervensi manusia.

Agentic AI juga merupakan kabar baik di dunia konsumen, dengan “agen AI B2C” menawarkan peluang besar bagi konsumen untuk menghemat waktu dan upaya dalam kehidupan sehari-hari. Pertimbangkan sebuah “agen pembeli” yang dapat membantu pembeli online menemukan penawaran terbaik, memantau penurunan harga, mengautomasi pembelian, menangani pengembalian, dan melakukan pemesanan perjalanan. Kemungkinan-kemungkinan di berbagai industri tampaknya tidak terbatas:

• Keuangan pribadi dan manajemen kekayaan – Bayangkan agen AI yang dapat menjalankan strategi keuangan secara otonom, mengimbangkan portofolio, menemukan suku bunga simpanan yang optimal, dan bahkan mengelola pengajuan pajak.
• Layanan pelanggan dan dukungan (untuk individu) – Sebagai gantinya menghubungi helpline atau berbicara dengan bot, agen AI pribadi dapat berkomunikasi langsung dengan agen AI perusahaan untuk menyelesaikan masalah, memperjelas pesanan, atau membuat perubahan. Ini menghilangkan kebutuhan bagi individu untuk mengulangi informasi atau menavigasi sistem IVR yang kompleks.
• Perawatan kesehatan – Agen AI akan dapat mengelola janji temu, memesan resep, mengajukan klaim asuransi, dan bahkan secara proaktif mencari pendapat kedua atau menganalisis penelitian medis atas nama pasien.

Mengadopsi agentic AI menawarkan kesempatan bagi situs web untuk membedakan diri melalui kenyamanan dan pengalaman pengguna yang luar biasa. Namun, di sisi lain, agentic AI sangat rentan terhadap penipuan. Penelitian menunjukkan bahwa bot membentuk antara 40 dan 50 persen dari semua lalu lintas web, dengan sekitar 65 persen dari bot ini diyakini sebagai bot jahat. Agentic AI pada dasarnya adalah cara bagi konsumen biasa untuk menggunakan bot, dan penipu – yang sering menggunakan bot dalam volume tinggi untuk memungkinkan operasi skala besar – sekarang akan memiliki waktu yang jauh lebih mudah untuk bersembunyi di balik lalu lintas agen yang sah.

Pada tingkat dasar, kemampuan untuk membedakan antara bot jahat dan bot yang sah dalam skala besar akan menjadi faktor kunci dalam membedakan pemimpin dalam perlombaan agentic AI. Dalam dunia agen, mesin akan diberi keagenan dan akan berjalan di sepanjang “cyber-aisles” yang sama dengan manusia.

Tapi Apakah Lanskap E-commerce Siap?

Agentic AI akan memerlukan pemikiran ulang, atau perluasan, dari kerangka verifikasi identitas online seperti yang diketahui saat ini, yang pada gilirannya akan memerlukan penyedia solusi untuk terus meningkatkan apa yang mereka lakukan saat ini. Sampai saat ini, kerangka ini telah berpusat pada tiga pertanyaan:

• Apakah orang ini nyata? Proliferasi cepat dari deepfakes memerlukan pemeriksaan liveness untuk semua transaksi berisiko tinggi, memastikan bahwa mereka dipicu oleh orang yang nyata dan hidup. Dalam konteks agentic AI, jawabannya mungkin, “tidak, saya bukan orang,” tetapi itu tidak berarti liveness tidak relevan. Pemeriksaan liveness harus selalu menjadi bagian dari pemeriksaan biometrik yang terjadi pada titik-titik berisiko tinggi dalam perjalanan pengguna, untuk memastikan bahwa manusia ada di dalam loop – seperti saat akun dibuat, uang ditransfer atau pemulihan akun diminta (“Saya lupa kata sandi saya”).
• Apakah orang ini dipercaya? Ini adalah kemampuan untuk menentukan apakah pengguna adalah penipu, pelanggan VIP di masa depan atau sesuatu di antaranya, yang sering melibatkan pemeriksaan terhadap basis data publik. Sebagai contoh, seseorang yang mencoba memesan akomodasi di pasar sewa online akan diidentifikasi sebagai risiko tinggi jika dia memiliki riwayat kriminal yang diketahui tentang menggelapkan atau merusak properti.
• Apakah ini masih orang yang sama di balik akun? Ini mengacu pada autentikasi terus-menerus, atau memastikan pada interval teratur bahwa orang yang identitasnya diverifikasi saat login masih ada, mencegah pengambilalihan akun oleh manusia lain.

Agentic AI menambahkan pertanyaan keempat – apakah agen ini memiliki wewenang untuk bertindak sebagai proksi pengguna nyata? Masalah wewenang ini sangat kritis, mengkonfirmasi ruang lingkup dan durasi otorisasi manusia untuk agen AI bertindak sebagai proksinya, sesuai dengan konteks. Ini bukan hanya tentang manusia yang mendelegasikan tugas; itu tentang memastikan bahwa agen AI memiliki izin yang spesifik, dapat dibatalkan, dan sadar konteks yang berasal dari manusia. Semua tindakan agen AI harus dapat dilacak ke manusia yang nyata dan sah; ini adalah kunci untuk situs B2C mengirimkan agentic AI dengan cara yang aman dan akuntabel.

Menurut perkiraan terbaru, AI bertanggung jawab atas sekitar 20 persen dari penipuan yang dilakukan di 2024 di semua sektor, dan angka ini hanya diharapkan tumbuh karena peretas mengembangkan teknik-teknik baru. Selain agen AI jahat yang menyamar sebagai agen yang sah, contoh lainnya adalah perampokan agen, atau ketika penyerang mengganggu bagaimana agen memahami informasi atau membuat keputusan. Jadi, selain memverifikasi legitimasi dan wewenang agen AI, memeriksa integritas agen juga sangat penting untuk memastikan bahwa mereka tidak telah dimanipulasi.