Melampaui Ekspektasi: Agen AI dan Bab Baru Kerja

Agen AI, atau agen otonom, masih dalam tahap awal. Sangat awal – di dasar inning pertama awal. Bidang ini penuh dengan inovasi, dari penelitian yang mendalam hingga konsep bukti dan aplikasi praktis – semua mengisyaratkan potensi AI yang luas. 

Tidak ada keraguan bahwa agen otonom akan mengubah setiap industri, dengan kemampuan mereka melampaui otomatisasi tugas untuk merancang ulang alur kerja, mensimulasikan skenario kompleks, dan mengurangi kebutuhan intervensi manusia dalam berbagai proses. Kami sedang melihat masa depan (dalam jangka waktu dekat) di mana agen dapat menjalankan simulasi skala besar, merancang kampanye pemasaran, atau bahkan mengotomatisasi proses pengujian R&D yang kompleks.

Boston Consulting Group (BCG) menyoroti lompatan evolusioner dari model bahasa besar (LLM) ke agen otonom yang dirancang untuk mengeksekusi tugas dari awal hingga akhir, memantau hasil, beradaptasi, dan menggunakan alat secara otonom untuk mencapai tujuan. Mereka mewakili langkah besar menuju kecerdasan buatan yang sebenarnya, yang mampu beroperasi secara independen tanpa pengawasan manusia terus-menerus. 

Dalam hal ukuran pasar, AI otonom dan agen otonom dinilai sebesar 4,8 miliar USD pada 2023 dan diperkirakan akan tumbuh dengan tingkat pertumbuhan tahunan gabungan (CAGR) lebih dari 43% antara 2023 dan 2028, mencapai 28,5 miliar. Jelas bahwa kita berada di ambang perubahan paradigma – fase yang penuh dengan antisipasi, kegembiraan, skeptisisme, dan evaluasi pragmatis. Perubahan ini tidak hanya tentang kemajuan teknologi; itu tentang meredefinisi pendekatan kita terhadap kerja, produktivitas, dan inovasi. Hampir setiap investor, pendiri, pengembang, dan penggemar teknologi mencoba memahami dampak yang akan ditimbulkan oleh teknologi ini terhadap cara kita bekerja dalam hidup kita dan setelahnya, serta menilai implikasinya bagi operasi dan tujuan strategis mereka. 

Namun, saat ini, kita belum memiliki kemampuan untuk sepenuhnya memahami besarnya perubahan massal yang akan disebabkan. Yang bisa kita lakukan hanyalah berspekulasi. Artikel ini hanya spekulasi saya tentang dinamika yang terbentuk dari agen otonom dan implikasinya bagi pendiri, investor, dan perekonomian yang lebih luas. Saya akan membahas bagaimana kami di Forum Ventures memikirkan dan berinvestasi di ruang ini, serta menyediakan peta pasar dengan perusahaan yang kami percayai memimpin eksplorasi. 

Di Mana Kita Berada Saat Ini

Meskipun kemajuan yang cukup dalam penelitian dan konsep bukti, kita semua masih mencoba memahami dan memproyeksikan bagaimana kita dapat memanfaatkan kemampuan penuh agen AI. Sampai saat ini, ada tiga tren yang menyatu:

1. Kemajuan dalam keahlian AI dan efisiensi, memperluas batas kemampuan. 
2. Biaya aksi kemampuan, seperti ChatGPT 4.0, misalnya, membuat penggunaan agen AI lebih mudah diakses oleh lebih banyak orang dan menyebabkan adopsi yang lebih luas dan penerimaan teknologi ini.
3. Demokratisasi akses ke AI, baik sumber terbuka atau tidak, memungkinkan berbagai entitas untuk mengeksplorasi dan mengimplementasikan solusi AI, sehingga mempercepat laju inovasi.

Seperti halnya teknologi baru, terutama perubahan sebesar ini, ada serangkaian tantangan yang sedang diatasi. Berikut dua tantangan utama:

1. Keamanan & Akurasi

Saat ini, ada fokus yang berkembang untuk mengembangkan infrastruktur yang diperlukan untuk memastikan penerapan agen AI yang aman dan etis. Bagi banyak industri dan bisnis, tidak ada ruang untuk kesalahan. Jika LLM memiliki tingkat khayalan sebesar 0,1%, itu tidak pernah dapat dipercaya dalam proses kritis, dan tingkat kesalahan ini perlu lebih rendah lagi untuk proses 10 langkah atau 100 langkah. Mengatasi masalah ini sangat penting untuk adopsi yang luas, dan banyak perusahaan menunggu sebelum mereka menerima LLM baik sebagai bagian dari tumpukan teknologi mereka atau sebagai cara baru untuk beroperasi. 

Alat untuk memantau akurasi dan keamanan melalui observabilitas dan izin pengguna, serta kerangka etika, sedang dibentuk untuk memfasilitasi pendekatan yang bertanggung jawab terhadap integrasi AI. Kami telah melihat beberapa perusahaan melakukan ini dengan baik, PrivateAI salah satunya. Mereka menggunakan inferensi untuk memastikan perusahaan tidak melatih data pribadi sehingga tidak bocor. Kami juga sangat antusias tentang perusahaan baru yang masuk ke pasar seperti SafeguardAI – agen AI otonom yang melindungi dari khayalan, memungkinkan perusahaan untuk menerapkan penggunaan AI generatif lebih cepat.

Selain itu, alat seperti metrik evaluasi otomatis, kerangka evaluasi manusia, dan dataset diagnostik sedang dikembangkan untuk membantu dalam penilaian dan perbaikan akurasi LLM. Alat ini membantu peneliti dan pengembang mengidentifikasi kekuatan dan kelemahan LLM dan memandu kemajuan lebih lanjut di bidang ini.

2. Interaksi Manusia-AI

Tantangan di sini adalah seberapa jauh manusia harus berinteraksi dengan perangkat lunak yang otonom. Ada kekhawatiran tentang risiko potensial dari sistem AI yang beroperasi tanpa kontrol manusia yang cukup, yaitu seberapa banyak otonomi yang terlalu banyak. Tapi kita juga perlu mengetahui seberapa banyak kita ingin manusia terlibat, dan tingkat interaksi manusia apa yang menciptakan lebih banyak keamanan sambil membatasi bias dan mengurangi kemungkinan kesalahan manusia. Kita belum memiliki jawaban yang baik untuk ini, dalam skala yang wajar.

Dari perspektif oportunis, saya berharap kita dapat mendefinisikan paradigma baru untuk perangkat lunak otonom untuk beroperasi di dalam kontrol manusia dengan cara yang dipantau dan diamati sehingga manusia dapat menghentikan hal-hal yang potensial “fatal” dari terjadi seperti versi yang lebih besar dari flash crash di ekonomi. Menurut pendapat saya, mereka yang dapat membangun ini akan menang dan menyampaikan kesempatan transformasional. 

Perubahan dari Proses Berorientasi Tugas ke Proses Berorientasi Tujuan

Tidak akan ada sektor atau bidang kerja yang tidak akan tersentuh oleh agen AI, dan banyak perubahan yang terjadi akan dalam waktu dekat. Menurut pendapat saya, salah satu dampak paling mendalam yang akan dimiliki agen AI adalah perubahan dari proses berorientasi tugas ke proses berorientasi tujuan. Saat ini, Anda memasukkan sesuatu ke komputer, seperti “tulis op-ed tentang Agen AI”, dan komputer memberikan sesuatu kembali kepada Anda, yang kemudian Anda lakukan. Ini adalah prompt yang sangat berorientasi tugas, dan masih memerlukan pengguna untuk melatih agen sesuai dengan tujuan dan nada suara orang tersebut. Namun, ini terbatas pada ini, dan oleh karena itu, outputnya sebagian besar ditentukan oleh kualitas input pelatihan, plus tujuan yang telah ditentukan sebelumnya (dan mungkin terbatas) pengguna, yang masih sangat bergantung pada tindakan manusia. 

Kekuatan yang tidak termanfaatkan dari agen AI terletak pada kekuatan kerja berorientasi tujuan. Masa depan tidak akan lagi menjadi proses langkah demi langkah atau teknik prompt yang rumit untuk proses. Perusahaan dan pemimpin harus mengubah cara berpikir mereka tentang bagaimana mereka membangun dan menggunakan proses berbasis aturan otonom, di mana tujuan diberikan dan agen menentukan jalur terbaik untuk mencapai hasil tersebut (dengan intervensi manusia yang tepat). Contoh dari ini bisa jadi, “buku acara di New York City dengan 100 profesional yang ingin belajar tentang bagaimana AI memasuki pasar kesehatan AS dari salah satu pembicara kami”. Dalam kasus seperti ini, AI akan digunakan untuk mengoperasikan pemikiran strategis di luar cakupan kemungkinan yang terbatas yang dapat dilakukan oleh tugas sederhana.

Ini adalah cara berpikir dan bekerja yang baru. Hampir tidak ada set tujuan yang kita kejar dengan komputer yang tidak akan dikejar dengan cara yang sangat berbeda. Ini akan menjadi perubahan mendasar dalam cara kita mengorientasikan diri, dan bagaimana kerja didefinisikan dan dilaksanakan. 

Monetisasi dan Dinamika Pasar

Karena AI menjadi lebih integral bagi model bisnis, strategi monetisasi tradisional sedang dievaluasi kembali. Misalnya, saat ini di perangkat lunak perusahaan, umumnya, pelanggan membeli kursi dan penggunaan. Di sisi konsumen, orang melakukan pembelian dalam aplikasi. Hipotesis kami adalah bahwa ini akan bergeser sehingga perusahaan perangkat lunak akan dapat menjual hasil, bukan alat. Apakah orang dan bisnis akan membayar untuk hasil? Untuk tujuan mereka tercapai? Kami belum yakin. Tapi kami melihat ini sebagai refleksi dari tren yang lebih luas menuju keterlibatan berbasis nilai. Namun, ada tantangan dalam memprediksi profitabilitas dan mengelola biaya, terutama mengingat sifat komputasi yang intensif dari teknologi AI. 

Memutuskan Siapa dan Apa yang Dapat Diinvestasikan pada Tahap Awal

Setiap kali kami berinvestasi pada tahap awal, pendiri adalah salah satu taruhan terbesar yang kami buat – melihat kedua kesesuaian pendiri-pasar dan kepribadian pendiri. Dengan Agen AI, lensa ini menjadi lebih penting karena dengan banyak ketidakpastian, solusi yang dibangun hari ini mungkin tidak akan menjadi apa yang dibangun besok, tapi pendiri akan tetap sama. Jadi, kami melihat tidak hanya kesesuaian pendiri-pasar, tapi juga keterikatan mereka dengan masalah, bagaimana mereka melihat set masalah secara berbeda dari paradigma yang ada, bahwa mereka mau menerima ketidakpastian, dan bahwa mereka memiliki kelenturan dan fleksibilitas untuk terus mengikuti pasar yang memiliki banyak fluktuasi. 

Setelah pendiri, kami melihat pasar dan apakah ada pasar yang dapat diakses secara total dan jalur yang kredibel menuju kesempatan pendapatan sebesar $1 miliar. Kami terbuka untuk pasar warisan seperti proptech dan rantai pasokan, serta pasar yang lebih maju dan fleksibel seperti fintech dan eCommerce, selama solusi startup/alat akan memberikan perbaikan fungsional terhadap cara lama.

Fokus ketiga kami saat mengevaluasi solusi agen AI adalah apakah alat tersebut akan kompatibel dalam masa depan perangkat lunak yang berbasis AI. Dengan kata lain, apakah solusi yang diusulkan akan terintegrasi dengan mulus dan memperkuat bagaimana kita melihat lanskap perangkat lunak masa depan dan tumpukan dalam pasar tersebut.

Kami belum bisa membuat prediksi biaya yang tepat. Saat ini, bisnis AI secara fundamental kurang menguntungkan daripada bisnis SaaS. Biaya yang terkait dengan pengolahan dan menganalisis data dalam sistem AI dapat dengan cepat menumpuk. Akan perlu ada kemajuan jangka pendek yang meningkatkan efisiensi AI dan mengurangi biaya operasional sebelum kita bisa melakukan evaluasi ini. Idealnya, ada kemajuan yang mirip dengan Hukum Moore dalam sektor AI, dan baik biaya daya dan chip dikurangi karena investasi yang meningkat. Jika kita bisa menemukan keseimbangan di mana AI tidak hanya inovatif tetapi juga berkelanjutan secara ekonomi, maka kita akan sukses. Tapi masih banyak ketidakpastian, dan kebanyakan dari kita hanya berspekulasi (membuat spekulasi yang terinformasi, untuk mengatakannya dengan sopan).

‘Dunia Baru yang Berani’ dari Kemungkinan

Kebanyakan orang menganggap pengenalan ChatGPT sebagai “momennya iPhone” untuk AI. Namun, saya tidak berpikir kita sudah di sana… belum. Sampai saat ini, antarmuka chat ini belum melakukan banyak hal selain mempermudah alur kerja kita saat ini. Meskipun alat ini telah membuat tugas lebih mudah untuk dikelola, pendekatan kita masih fundamental berorientasi tugas. Visi yang lebih luas adalah untuk mengubah dinamika ini sepenuhnya, di mana AI akan dapat mengoperasikan pemikiran strategis dan melakukan output yang kompleks, dengan bahkan lebih sedikit input dari manusia. Momen yang sebenarnya mungkin adalah peluncuran Agen AI sebagai set aplikasi B2B default, yang pada gilirannya akan memiliki dampak yang tidak proporsional pada masa depan kerja. 

Sebuah dekade dari sekarang, tidak ada keraguan bahwa kita akan melihat kembali dan takjub pada gagasan bahwa kita pernah beroperasi berdasarkan daftar tugas daripada menetapkan tujuan strategis dan membiarkan AI membantu kita mengiterasi dan memperbarui tujuan tersebut. Perubahan ini menuju lingkungan kerja yang berorientasi tujuan mewakili tidak hanya evolusi teknologi tetapi transformasi dalam cara kita memahami dan mendekati pekerjaan kita. 

Jalan ke depan dipenuhi dengan ketidakpastian, tapi potensi AI untuk merevolusi industri, memperkuat potensi manusia, mendorong kemajuan yang berarti, dan menyampaikan nilai yang langgeng tidak dapat disangkal. Komitmen kami adalah untuk menavigasi ketidakpastian ini, dan mengidentifikasi, bertaruh pada, dan mendukung inisiatif AI tahap awal dan pikiran brilian yang membawa visi mereka ke kehidupan.