Wawancara

Brad Wardell, Pendiri dan CEO Clairvoyance AI – Seri Wawancara

Antoine Tardif
Tambahkan Unite.AI ke sumber pilihan Anda di Google
Brad Wardell, Founder and CEO of Clairvoyance AI
Poin utamaWardell berpendapat bahwa perutean pekerjaan antara perangkat keras lokal dan cloud…
Lihat selengkapnya
  • Wardell berpendapat bahwa perutean pekerjaan antara perangkat keras lokal dan cloud lebih penting daripada ukuran model mentah.
  • Clairvoyance menyimpan memori agen dalam sebuah graf sehingga pembaruan menyebar dan tetap terkini.
  • Wardell memprediksi 90 hingga 95% pekerjaan AI akan berjalan secara lokal dalam 18 bulan.

Brad Wardell adalah Pendiri dan CEO Clairvoyance AI sekaligus pendiri dan CEO Stardock. Selama lebih dari tiga dekade, ia mengembangkan perangkat lunak desktop dan game strategi, termasuk produk seperti Fences dan Galactic Civilizations. Pengalamannya dalam alur kerja pengembangan game, aset kreatif, dan pelaporan bisnis sehari-hari membentuk ketertarikannya pada agen AI yang terus bekerja dan dapat berinteraksi langsung dengan file serta aplikasi lokal.

Clairvoyance AI mengembangkan ruang kerja bagi staf AI bernama yang memiliki tugas berkelanjutan dan memori, serta menghubungkan file dan alat pengembangan lokal dengan layanan cloud dan model yang berjalan di perangkat keras milik pengguna. Dikembangkan sebagai proyek inkubasi di Stardock, ruang kerja ini mendukung alur kerja yang menghasilkan catatan, laporan, dan artefak lain yang dapat digunakan kembali. Dalam wawancara ini, Wardell membahas bagaimana pengembangan game membentuk produk tersebut, peran model lokal dalam pekerjaan sehari-hari, serta kontrol perutean, memori, dan izin yang diperlukan agar agen bermanfaat.

Anda telah menghabiskan lebih dari tiga dekade mengembangkan perangkat lunak desktop dan game strategi di Stardock, termasuk produk seperti Fences dan Galactic Civilizations. Masalah apa di dalam bisnis Anda sendiri yang mendorong Anda mengembangkan Clairvoyance AI, dan kapan Anda menyadari bahwa produk ini dapat berkembang menjadi perusahaan tersendiri?

Tantangan utamanya adalah Ara: History Untold, yang dibantu diselesaikan oleh Stardock bersama Microsoft dan Oxide Games. Banyak sekali waktu tersita hanya untuk memasukkan aset kreatif ke dalam game. Materi tulisan diterima dalam bentuk file .DOCX yang harus dikonversi secara manual dengan susah payah menjadi XML atau CSV. Aset 3D harus dimasukkan dengan cermat ke dalam mesin game kami. Satu perubahan keseimbangan saja mengharuskan kami mengutak-atik belasan file yang berbeda. Pelokalan berarti mencocokkan string terjemahan dengan kunci yang tepat di file yang tepat secara manual. Clairvoyance AI membuat semua itu mudah dan memungkinkan kami merilis game tepat waktu.

Menjelang akhir 2025, kami berdebat secara internal tentang apakah produk ini perlu dirilis untuk umum. Produk ini memberi keunggulan kompetitif yang nyata, seperti memiliki versi yang lebih lengkap dari sesuatu seperti OpenClaw setahun lebih awal. Yang mendorong kami untuk merilisnya adalah menyaksikan teman dan kolega kehilangan pekerjaan akibat otomatisasi AI, padahal mereka bisa mempertahankan pekerjaan itu jika memiliki alat yang lebih baik. Saat itu, kami tahu ingin membuka Clairvoyance AI untuk umum.

Anda berpendapat bahwa banyak alat agen AI menunjukkan kurangnya pengalaman dalam merilis perangkat lunak konsumen. Kesalahan apa yang paling sering Anda lihat, dan pelajaran apa dari perjalanan karier Anda yang seharusnya diterapkan oleh para pengembang AI?

Petunjuk paling jelas terlihat dari penggunaan istilah. Jika Anda belum tahu istilah seperti “glif”, yaitu gambar kecil pada tombol, Anda akan sangat dirugikan saat berkomunikasi dengan AI karena AI dilatih menggunakan data dari orang-orang yang sudah memahami jargon tersebut. Sebagian besar tim yang mengembangkan alat ini sangat cerdas, tetapi anggotanya masih sangat muda, dan hal itu terlihat dari pilihan desain yang memengaruhi kemudahan penggunaan. Contoh yang baik adalah ketika Anthropic menambahkan fitur untuk menyeret teks dari satu sesi terminal ke sesi lainnya; fitur itu ditonton jutaan kali. Kami sudah memiliki agen yang bisa langsung diberi tugas dengan menyebut @ dan namanya, tanpa perlu menyeret apa pun. Fitur mereka mengharuskan pengguna melakukan pekerjaan yang seharusnya dilakukan AI.

Pelajaran dari 30 tahun merilis perangkat lunak desktop adalah Anda harus benar-benar menggunakan produk yang sedang dikembangkan setiap hari, dengan tenggat waktu nyata, sebelum orang di luar perusahaan melihatnya. Banyak produk AI terasa seolah-olah dibuat oleh orang-orang yang belum pernah harus menjalani keseharian dengan perangkat lunak mereka sendiri.

Anda menggambarkan tahap berikutnya dalam AI sebagai masalah perutean: menentukan proses mana yang dijalankan di perangkat, melalui jaringan lokal, atau di cloud. Bisakah Anda menjelaskan alur kerja nyata dan memaparkan bagaimana keputusan tersebut sebaiknya dibuat?

Perutean bukan lagi keputusan yang benar-benar diambil oleh masing-masing individu; kini keputusan ini menjadi tanggung jawab perusahaan. Kami akan segera merilis fitur bernama Hivemind yang membuat hal ini menjadi nyata. Sebagian besar perusahaan sudah memiliki banyak mesin berkemampuan tinggi yang menganggur setiap malam. Hivemind memungkinkan perusahaan menggabungkan GPU yang menganggur di berbagai mesin miliknya sehingga siapa pun dalam tim dapat menjalankan pekerjaan AI di sana, alih-alih mengirimkannya ke cloud. Jika Anda melacak puluhan ribu pengiriman dalam rantai pasok atau mengaudit ke mana uang perusahaan dibelanjakan, Anda tidak memerlukan model cloud terdepan untuk itu. Anda hanya memerlukan daya komputasi yang memadai, dan sebagian besar perusahaan sudah memilikinya tetapi tidak digunakan di luar jam kerja.

Logika yang sama berlaku di tingkat individu, hanya dalam skala lebih kecil. Setiap malam, saya menjalankan dasbor, laporan kerusakan, laporan sentimen, dan data penjualan dengan model lokal, bukan model cloud. Sebelumnya, saya menjalankan beban kerja yang sama menggunakan Claude, dengan biaya sekitar $100 per bulan untuk token. Sekarang, pekerjaan itu berjalan gratis semalaman di perangkat keras yang sudah saya miliki, dan saya membaca hasilnya pada pagi hari.

Jadi, keputusan sebenarnya bukan “lokal atau cloud”, melainkan “apakah pekerjaan ini harus dilakukan saat seseorang sedang menatap layar, dan apakah perusahaan sudah memiliki perangkat keras untuk melakukannya tanpa membayar berdasarkan jumlah token”.

Anda yakin bahwa sebagian besar pekerjaan agen sehari-hari sudah dapat dijalankan di perangkat keras lokal. Tugas apa saja yang telah Anda buktikan bisa dilakukan dengan cara ini, perangkat keras apa yang digunakan, dan bagaimana Anda mengukur keberhasilan selain dari apakah model menghasilkan jawaban yang tampak masuk akal?

Kami cukup berhasil menggunakan AI lokal untuk menambahkan metadata ke berkas-berkas kami. Seperti banyak perusahaan lain, kami memiliki data berukuran terabita di jaringan kami. Stardock mengembangkan perangkat lunak sekaligus gim, dan di sisi gim, ada aset seni 3D dan 2D, video, hasil kerja, dan sebagainya yang telah terkumpul selama puluhan tahun.

Di seluruh perusahaan, kami memiliki banyak kartu grafis yang cukup mumpuni dari AMD dan NVIDIA. Kami mendapati bahwa model dengan 8B hingga 12B parameter sudah lebih dari cukup untuk melakukan semua yang kami perlukan, dan model-model itu dapat dijalankan bahkan pada perangkat keras yang relatif lama. Saat ini, kami memiliki laptop Qualcomm Snapdragon X2 yang melakukan sebagian pekerjaan ini di latar belakang pada malam hari.

AI lokal sangat bagus untuk memeriksa berkas-berkas ini secara bertahap dan menambahkan metadata, sehingga ketika kami perlu menemukan sesuatu, kami bisa mencarinya dan menemukannya dengan cepat. Alhasil, kami menemukan bahwa kami memiliki 16 model 3D serigala yang berbeda. Hadeh.

Hal apa yang seharusnya memicu pengalihan dari model lokal yang lebih kecil ke model cloud yang lebih mumpuni? Bagaimana Anda mendeteksi bahwa model lokal mengalami kesulitan sebelum model itu membuat kesalahan yang berdampak serius?

Saat ini, tugas apa pun yang memerlukan penilaian terbuka sebaiknya dialihkan ke cloud. Model-model terdepan sebagian besar telah mengatasi halusinasi. Namun, ketika beralih ke model yang lebih kecil (lokal), halusinasi kembali muncul. Karena itu, pada model lokal, kami biasanya perlu menerapkan banyak mekanisme pengaman.

Clairvoyance mengatur agen sebagai staf AI dengan memori persisten dan tugas berkelanjutan. Apa yang Anda pelajari tentang cara mempertahankan konteks yang berguna dari waktu ke waktu tanpa membiarkan instruksi usang, asumsi keliru, atau memori yang saling bertentangan menumpuk?

Di balik layar, Clairvoyance menyimpan memorinya dalam struktur graf. Jadi, ketika satu hal diperbarui, hal itu biasanya memicu pembaruan secara rekursif pada simpul-simpul lain. Ini membantu memastikan memori tetap teratur dan mutakhir.

Tantangannya adalah mencegah rekursi tak berujung, dan untuk mengatasinya diperlukan banyak percobaan dan kesalahan selama beberapa tahun terakhir.

Memberi agen akses ke berkas, aplikasi, dan alat pengembangan membuatnya lebih berguna, tetapi juga memperbesar dampak kesalahan. Bagaimana Anda mengatur izin, persetujuan manusia, dan pemulihan ketika agen melakukan tindakan yang keliru?

Langkah konkret yang kami miliki adalah File Protection: Clairvoyance dapat mencegah agen menghapus direktori, dengan penegakan di tingkat aplikasi, bukan melalui hook yang dapat diakali oleh agen.

Ketika alur kerja menggabungkan pemrosesan lokal dengan inferensi cloud, istilah “mengutamakan pemrosesan lokal” dapat memiliki arti yang berbeda-beda. Informasi apa yang meninggalkan perangkat pengguna, dan bagaimana pengguna dapat memahami serta mengendalikan batas tersebut?

Keamanan cloud berfokus pada mencegah orang lain mengaksesnya. Namun, hal itu tidak menjawab apakah penyedia model seharusnya memiliki rahasia perusahaan Anda sejak awal. Clairvoyance dirancang dengan mengutamakan pemrosesan lokal: catatan, proyek, dan memori staf Anda tersimpan di perangkat Anda sendiri. Anda yang memutuskan informasi apa yang dikirim ke model cloud, untuk setiap anggota staf, bukan melalui pengaturan yang berlaku untuk semua orang. Jika Anda menjalankan model lokal, tidak ada yang perlu meninggalkan perangkat keras Anda. Kami mendengar langsung dari pelanggan perusahaan yang frustrasi karena harus mengunggah seluruh alur kerja rahasia ke Anthropic atau OpenAI hanya untuk menyelesaikan pekerjaan.

Clairvoyance memiliki lebih dari 40.000 pengguna. Apa yang Anda pelajari dari cara orang benar-benar menggunakan Clairvoyance, dan dapatkah Anda membagikan contoh terukur dari alur kerja berulang yang telah memberikan manfaat berkelanjutan?

Tingkat retensi sangat bergantung pada banyaknya data yang dihasilkan pengguna melalui sesi mereka.

Sebagian besar pengguna AI belum benar-benar mencapai tahap ketika mereka menggunakan data yang dihasilkan AI sebagai landasan untuk mengembangkan pekerjaan lebih lanjut. Kebanyakan pengguna masih berpikir dalam kerangka prompt. Pengguna yang tetap menggunakan Clairvoyance adalah mereka yang menghasilkan banyak Lampiran dan Laporan, yang kemudian menjadi landasan bagi pekerjaan selanjutnya.

Jika melihat satu tahun ke depan, perkembangan apa yang paling memperluas cakupan pekerjaan yang dapat ditangani agen secara andal secara lokal? Apa yang harus terjadi agar Anda mempertimbangkan kembali pandangan bahwa perutean lebih penting daripada ukuran model?

Menurut saya, dalam 18 bulan, 90 hingga 95% pekerjaan AI akan dilakukan secara lokal, sementara mungkin 5% memerlukan cloud untuk pekerjaan yang membutuhkan model terdepan. Itu terutama karena saat ini hampir tidak ada pekerjaan yang didelegasikan kepada AI; bahkan tugas sederhana seperti menyaring resume berdasarkan lokasi atau memeriksa jadwal pengiriman masih dikerjakan secara manual, padahal model 4B sudah dapat melakukannya di laptop. Yang akan memperluas kemampuan ini adalah komputasi gabungan ala Hivemind (yang memungkinkan GPU perusahaan yang kurang dimanfaatkan melayani semua orang di domain tersebut) dan perutean yang semakin andal, sehingga tak seorang pun perlu tahu apa itu model 4B atau Opus.

Terima kasih atas wawancara yang menarik ini. Pembaca yang ingin mencoba aplikasi desktop untuk mengelola agen AI persisten di berbagai komputer mereka dapat mengunjungi Clairvoyance AI.

Antoine adalah pemimpin visioner dan mitra pendiri Unite.AI, yang didorong oleh semangat tak tergoyahkan untuk membentuk dan memajukan masa depan AI dan robotika. Sebagai pengusaha yang telah mendirikan beberapa perusahaan, ia percaya bahwa AI akan mengubah masyarakat secara mendasar seperti listrik. Ia kerap berbicara dengan antusias tentang potensi teknologi disruptif dan kecerdasan buatan umum (AGI).

Sebagai futuris, ia berdedikasi untuk menelusuri bagaimana inovasi ini akan membentuk dunia kita. Ia juga merupakan pendiri Securities.io, platform yang berfokus pada investasi dalam teknologi mutakhir yang mendefinisikan ulang masa depan dan mengubah berbagai sektor secara menyeluruh.