Yu Su, Co-founder dan CEO NeoCognition – Seri Wawancara

Yu Su, Co-founder dan CEO NeoCognition, adalah peneliti kecerdasan buatan yang berpengalaman lama dengan karir yang meliputi akademisi, kecerdasan buatan perusahaan, dan sistem agen canggih. Selain memimpin NeoCognition, ia juga menjabat sebagai Associate Professor dan Innovation Scholar di The Ohio State University, di mana pekerjaannya telah fokus pada agen kecerdasan buatan, sistem penalaran, dan pembelajaran mesin. Latar belakangnya juga termasuk lebih dari enam tahun sebagai Senior Researcher di Microsoft (MSFT ), di mana ia bekerja bersama peneliti terkemuka termasuk Percy Liang pada sistem kecerdasan buatan percakapan untuk Outlook menggunakan teknik parsing semantik. Di seluruh peran di Microsoft, akademisi, dan lembaga penelitian seperti IBM T.J. Watson Research Center, Yu Su telah membangun reputasi untuk memajukan sistem kecerdasan buatan yang dapat berpikir, belajar, dan berinteraksi dengan lingkungan digital yang kompleks, membantu menjembatani kesenjangan antara penelitian mutakhir dan aplikasi dunia nyata.

NeoCognition adalah perusahaan penelitian agen kecerdasan buatan yang berfokus pada mengembangkan apa yang mereka sebut sebagai “kecerdasan khusus” — sistem kecerdasan buatan yang terus-menerus belajar dan meningkatkan diri melalui pengalaman. Didirikan oleh peneliti kecerdasan buatan terkemuka, perusahaan ini sedang mengejar visi yang melampaui model bahasa besar statis menuju agen yang dapat mengembangkan keahlian mendalam dalam domain tertentu. Penelitiannya berfokus pada area seperti pembelajaran terus-menerus, penalaran, perencanaan, penggunaan alat, dan kolaborasi multi-agen, dengan tujuan menciptakan sistem kecerdasan buatan yang menjadi lebih mampu dan dapat diandalkan seiring waktu. Dengan menggabungkan kemajuan dalam pembelajaran mesin dengan penalaran terstruktur dan teknik pembelajaran adaptif, NeoCognition bertujuan untuk membantu membentuk generasi berikutnya dari agen kecerdasan buatan yang dapat menangani tugas dunia nyata yang semakin kompleks.

Banyak perusahaan terburu-buru untuk merilis kopilot kecerdasan buatan generik, tetapi kita semakin mendengar kekhawatiran tentang keandalan ketika sistem ini memasuki lingkungan produksi nyata. Mengapa Anda percaya banyak agen kecerdasan buatan saat ini mengalami kesulitan di luar demo terkontrol?

Sebagian besar agen kecerdasan buatan saat ini mengalami kesulitan dalam produksi karena mereka masih pada dasarnya generalis yang beroperasi tanpa pemahaman tahan lama tentang lingkungan di mana mereka bekerja. Mereka dapat menyelesaikan tugas sekali dalam demo, tetapi itu sangat berbeda dengan mengembangkan penilaian yang dapat diulang dalam sistem operasional nyata.

Model hari ini adalah pencocokan pola yang mengesankan, tetapi mereka masih kekurangan mekanisme yang digunakan manusia untuk menjadi ahli yang dapat diandalkan. Manusia tidak menjadi dapat diandalkan dengan menghafal tugas terisolasi. Kami mengkhususkan diri dengan mempelajari struktur dunia tertentu: alur kerja, kendala, hubungan, alat, prioritas, dan konsekuensi yang mendefinisikan profesi atau organisasi. Seiring waktu, kami membangun model kerja internal dari lingkungan itu, dan model itulah yang memungkinkan keputusan yang konsisten dan dapat diulang.

Sebagian besar agen kecerdasan buatan saat ini tidak membangun pemahaman operasional seperti itu. Mereka sangat bergantung pada lapisan prompt, pengambilan, atau orkestrasi yang membantu mereka menyelesaikan tindakan terisolasi, tetapi mereka masih sebagian besar berimprovisasi setiap kali mereka menghadapi situasi baru. Itulah mengapa kinerja sering rusak ketika lingkungan berubah dan lebih banyak ketika menjadi kacau, dinamis, atau bertaruh tinggi.

Bagian yang hilang adalah spesialisasi. Manusia berkembang karena kita dapat terus-menerus beradaptasi dengan lingkungan yang berubah dan menjadi ahli di dalamnya melalui pembelajaran terus-menerus. Kami percaya agen kecerdasan buatan memerlukan kemampuan serupa: kemampuan untuk mempelajari struktur lokal domain dengan cukup dalam untuk beroperasi dengan keahlian nyata.

NeoCognition telah menjelaskan visinya sebagai membangun agen yang dapat terus-menerus belajar dan beradaptasi lebih seperti manusia. Apa yang sebenarnya terlihat secara teknis dibandingkan dengan pendekatan fine-tuning statis atau berbasis pengambilan yang banyak digunakan perusahaan saat ini?

Sebagian besar sistem kecerdasan buatan perusahaan saat ini meningkatkan kinerja baik dengan fine-tuning model sekali atau dengan mengambil informasi relevan pada saat inferensi. Pendekatan tersebut dapat berguna, tetapi mereka tidak pada dasarnya memungkinkan agen untuk mengembangkan keahlian yang berkembang dalam domain.

Fine-tuning biasanya statis setelah pelatihan. Sistem pengambilan membantu menyajikan informasi, tetapi mengambil pengetahuan tidak sama dengan mengembangkan keahlian domain atau beradaptasi berdasarkan pengalaman seiring waktu. Dalam banyak kasus, agen masih kekurangan model lingkungan yang persisten yang mereka operasikan.

Ketika seorang manusia bergabung dengan perusahaan, mereka tidak menjadi efektif hanya karena mereka dapat mencari dokumen. Mereka secara bertahap mengembangkan penilaian dengan memahami bagaimana organisasi tersebut benar-benar berfungsi dan keahlian muncul dari terus-menerus memperbarui model internal tersebut.

Kami percaya generasi berikutnya dari agen memerlukan mekanisme pembelajaran serupa. Di NeoCognition, kami fokus pada memungkinkan agen untuk membentuk model operasional yang berkembang sehingga mereka dapat terus-menerus mengkhususkan diri dan meningkatkan diri dalam domain seiring waktu, bukan berulang kali memulai dari awal atau bergantung pada rekayasa ulang manusia yang konstan.

Tampaknya ada kesenjangan yang semakin besar antara eksperimen kecerdasan buatan dan kepercayaan operasional. Perusahaan mungkin berhasil membuat prototipe agen internal, tetapi menggunakannya dalam skala besar adalah tantangan lain sepenuhnya. Apa yang dinilai terlalu rendah oleh organisasi tentang transisi ini?

Banyak organisasi menilai terlalu rendah seberapa dinamis lingkungan operasional nyata sebenarnya. Agen yang berkinerja pada akurasi 85% mungkin terdengar kuat dalam pengujian, tetapi dalam skala perusahaan itu masih diterjemahkan menjadi aliran kesalahan dan situasi pemulihan konstan yang harus dikelola oleh tim manusia. Tantangan menjadi lebih signifikan dalam alur kerja multi-langkah di mana kegagalan berkompilasi melintasi sistem dan tugas, membuat pengawasan, intervensi, dan akuntabilitas jauh lebih sulit daripada yang banyak organisasi harapkan sebelumnya.

Perusahaan masih memperlakukan penerapan sebagai masalah orkestrasi atau prompt, ketika sebenarnya itu juga merupakan masalah pembelajaran. Bagian yang sulit bukan hanya mendapatkan agen untuk mengeksekusi tugas. Ini tentang memungkinkan sistem untuk mengembangkan kompetensi dan penilaian yang tahan lama di dalam lingkungan operasional dinamis.

Beban kustomisasi, prompt, pengawasan, dan rekayasa ulang masih jatuh berat pada tim manusia saat ini. Itu sering merupakan tanda bahwa sistem masih kekurangan pemahaman operasional; mereka sedang secara manual diarahkan melalui setiap kali. Itu bukan jalur menuju skala atau kepercayaan.

Sebuah tema besar yang muncul di seluruh industri kecerdasan buatan adalah tata kelola, pengaman, dan penegakan kebijakan. Namun NeoCognition berargumen bahwa tata kelola saja tidak cukup. Mengapa Anda percaya keandalan pada akhirnya memerlukan sistem yang terus-menerus beradaptasi dengan lingkungannya daripada hanya mengikuti aturan statis?

Tata kelola dan pengaman sangat penting, tetapi aturan statis saja tidak dapat sepenuhnya memecahkan keandalan dalam lingkungan yang kompleks.

Sistem operasional produksi-level terus-menerus berubah. Alur kerja berkembang, alat diperbarui, kebijakan bergeser, dan situasi yang tidak terduga muncul yang tidak selalu dapat diprediksi sebelumnya. Jika agen hanya tahu cara mengikuti aturan yang telah ditetapkan tanpa memahami lingkungan di mana mereka beroperasi, mereka akan akhirnya menghadapi situasi yang tidak diantisipasi oleh aturan tersebut.

Keandalan manusia berasal dari penilaian, bukan hanya ketaatan yang kaku terhadap skrip, tetapi karena kita mengembangkan penilaian melalui pemahaman struktur dan kendala dunia di sekitar kita. Kami belajar kapan harus menaikkan, kapan sesuatu tampak abnormal, dan kapan konteks mengubah jalur tindakan yang benar.

Kami percaya agen kecerdasan buatan memerlukan kapasitas adaptasi dan pemahaman lingkungan yang serupa. Sistem yang lebih aman akan datang dari membuat mereka lebih kompeten dan mengkhususkan diri dalam dunia operasional yang jelas. Jenis sistem ini mengamati lingkungannya sendiri dan outputnya sendiri dan melacak di mana mereka gagal dan memperbarui perilaku mereka.

Industri kecerdasan buatan sering menekankan model yang lebih besar dan kemampuan yang lebih luas, tetapi NeoCognition tampaknya fokus pada spesialisasi dan pembelajaran kontekstual. Apakah Anda percaya masa depan agen kecerdasan buatan perusahaan akan terlihat lebih seperti pekerja digital yang sangat mengkhususkan diri daripada asisten universal?

Kami sangat percaya bahwa masa depan akan didorong oleh spesialisasi. Industri telah fokus pada model yang semakin umum karena kemampuan yang luas itu mengesankan. Tetapi dalam lingkungan perusahaan, tantangan nyata bukanlah apakah agen dapat melakukan sedikit dari semua hal. Ini tentang apakah mereka dapat memainkan peran tertentu dengan keandalan dan penilaian yang solid seiring waktu. Kekuatan kami bukanlah bahwa kami lahir sebagai ahli di setiap lingkungan. Ini karena kami dapat mempelajari struktur dunia tertentu dengan cukup dalam untuk beroperasi secara efektif di dalamnya.

Di NeoCognition, kami percaya bahwa masa depan tidak akan menjadi satu super agen yang melakukan semua hal. Sebaliknya, itu akan menjadi kelimpahan agen yang mengkhususkan diri, masing-masing mempelajari dunia tertentu dengan cukup dalam untuk beroperasi dengan keahlian tingkat ahli, keandalan, dan penilaian. Tujuan mereka bukan untuk menggantikan keahlian manusia, tetapi untuk membuatnya lebih melimpah: untuk meletakkan kemampuan kelas terdepan di tangan lebih banyak orang dan meningkatkan batas dasar apa yang dapat dilakukan oleh siapa pun atau organisasi.

Salah satu kekhawatiran terbesar seputar agen otonom adalah bagaimana mereka berperilaku ketika lingkungan berubah secara tidak terduga. Seberapa pentingkah adaptasi dunia nyata dan kesadaran lingkungan untuk mencegah kegagalan, halusinasi, atau tindakan yang tidak aman?

Sangat kritis. Tanpa kesadaran lingkungan, agen dapat terus-menerus bertindak dengan percaya diri bahkan ketika pemahaman mereka tentang situasi sudah ketinggalan zaman atau tidak lengkap. Itulah di mana kegagalan operasional sering muncul.

Kami percaya keandalan memerlukan agen untuk terus-menerus mempelajari struktur lokal lingkungan di mana mereka beroperasi dan memperbarui pemahaman mereka seiring waktu. Keandalan berubah dan berkembang seiring waktu: apa yang tampaknya andal pada September mungkin tidak tampak sama pada Mei. Semakin dalam agen memahami sistem, kendala, alur kerja, dan hubungan di sekitar mereka, semakin mampu mereka mengenali perubahan kondisi atau ketidakpastian yang memerlukan eskalasi.

Seberapa dekat Anda percaya industri ini menuju penerapan sistem kecerdasan buatan yang dapat secara nyata meningkatkan diri melalui interaksi terus-menerus dengan lingkungan operasional nyata?

Kami masih pada awal membangun mekanisme pembelajaran yang diperlukan untuk pembelajaran terus-menerus dan perbaikan diri yang dapat diandalkan, tetapi industri ini jauh lebih dekat dengan transisi ini daripada yang banyak orang sadari. Kami hidup dalam timeline yang terkompresi. Bahan-bahan untuk terobosan teknologi berikutnya sudah siap. Ini bisa terjadi cukup segera.

Apa yang penting bukanlah hanya perbaikan diri dalam abstrak, tetapi spesialisasi terstruktur di dalam lingkungan nyata. Ini berarti mempelajari alur kerja, kendala, hubungan, dan pola perilaku sukses dengan cara yang stabil, dapat diatur, dan tahan terhadap penghapusan bencana. Itulah masalah yang kami fokuskan di NeoCognition.

Melihat beberapa tahun ke depan, apa yang Anda pikir akan membedakan agen kecerdasan buatan perusahaan yang dapat dipercaya dari gelombang sistem eksperimental yang saat ini membanjiri pasar?

Sistem yang berhasil akan menjadi sistem yang terasa kurang seperti skenario mainan dan lebih seperti operator yang dapat diandalkan.

Kemampuan model murni saja tidak akan cukup. Perusahaan pada akhirnya akan peduli tentang apakah agen dapat beroperasi secara konsisten dalam lingkungan mereka yang sebenarnya, memahami alur kerja dan kendala lokal, menghormati batasan dan izin, beradaptasi dengan aman seiring waktu, dan memberikan hasil yang dapat diulang.

Pemenang masa depan dalam kecerdasan buatan perusahaan tidak akan hanya menjadi sistem yang dapat menjawab rentang pertanyaan terluas. Mereka akan menjadi sistem yang dapat mempelajari dunia operasional tertentu dengan cukup dalam untuk bertindak dengan keahlian nyata, penilaian, dan keandalan di dalamnya.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut dapat mengunjungi NeoCognition.