Marc Fernandez, Chief Strategy Officer di Neurologyca – Seri Wawancara

Marc Fernandez, Chief Strategy Officer di Neurologyca, adalah seorang strategis teknologi dan eksekutif pengembangan bisnis dengan pengalaman lebih dari dua dekade yang mencakup kecerdasan buatan, teknologi emergen, elektronik konsumen, dan interaksi manusia-komputer. Di Neurologyca, ia fokus pada strategi dan komersialisasi Human Context AI, yang dirancang untuk membantu sistem AI menafsirkan sinyal seperti stres, kepercayaan diri, dan keterlibatan. Fernandez sebelumnya menjabat sebagai CEO Pearl, sebuah platform berbasis AI yang berfokus pada soft skill dan pengembangan profesional, serta sebagai Entrepreneur in Residence di ALIVE Ventures, tempat ia bekerja di bidang age‑tech. Sebelumnya, ia memimpin strategi AS di OPPO, dengan fokus pada teknologi generasi berikutnya termasuk AI, Web3, blockchain, dan sistem operasi seluler, dan memegang peran senior dalam pengembangan bisnis di Emerge, Denizen, SweetLabs, Movella, dan X‑Rite/Pantone. Ia juga menghabiskan 15 tahun sebagai dosen paruh waktu di University of Southern California, mengajar pada persimpangan antara kewirausahaan, komunikasi, platform sosial, AI, blockchain, dan teknologi emergen lainnya.

Neurologyca adalah perusahaan AI berbasis di San Francisco yang membangun apa yang mereka sebut Human Context Layer untuk sistem cerdas, memungkinkan aplikasi dan agen AI lebih memahami serta beradaptasi dengan orang yang mereka layani. Platform berbasis API dan SDK-nya memproses sinyal perilaku multimodal, pola interaksi, dan konteks situasional untuk menghasilkan indikator yang dapat dibaca mesin terkait faktor seperti keterlibatan, kepercayaan diri, stres, perhatian, dan kepercayaan. Wawasan ini dapat membantu sistem AI menyesuaikan respons, kecepatan, rekomendasi, dan tindakan secara real time sambil mempertahankan kontinuitas konteks antar interaksi. Neurologyca menempatkan teknologi ini sebagai infrastruktur, bukan aplikasi mandiri, dengan potensi penerapan meliputi pendidikan dan pelatihan, kesejahteraan, perangkat lunak perusahaan, agen otonom, keselamatan pengemudi, permainan, dan sistem interaktif lainnya. Saat ini perusahaan menawarkan platform melalui program akses awal selektif bagi mitra yang membangun pengalaman AI adaptif.

Karier Anda telah membawa Anda dari strategi teknologi generasi berikutnya di OPPO ke membangun Pearl dengan AI yang memandu soft skill, dan kini mengembangkan AI konteks manusia di Neurologyca. Bagaimana perkembangan ini membentuk pandangan Anda bahwa salah satu keterbatasan terbesar AI bukanlah kecerdasan itu sendiri, melainkan pemahaman tentang manusia di balik instruksi?

Tiga puluh tahun lalu, web membuat informasi dapat diakses. Lima tahun lalu, AI menghasilkan output yang melimpah. Saat ini kita tenggelam dalam konten namun masih kesulitan memperoleh hasil yang berguna. Daya teknis mentah tidak menjamin hasil yang baik bagi manusia yang menerima.

Itulah benang merah dalam pekerjaan saya—dari menyesuaikan teknologi emergen ke dalam kehidupan sehari-hari di OPPO, menguji apakah AI dapat mengajarkan keterampilan interpersonal di Pearl, hingga membangun konteks manusia sebagai infrastruktur di Neurologyca. Kecerdasan bukan lagi hambatan utama; model dapat berlogika dan mengeksekusi dengan baik. Masalah yang lebih sulit adalah semua konteks tak terucapkan yang dibawa orang ke permintaan sederhana: mengapa mereka bertanya, apa yang membuat mereka tidak nyaman, atau apakah keraguan ringan berarti sistem harus menghentikan proses. Saat ini, AI hanya melihat potongan terkompresi melalui teks, dan ketika agen mulai mengambil tindakan di dunia nyata, titik buta ini menjadi kritis.

Contoh terbaru agen otonom yang mencuri kredensial, membuat identitas palsu, atau menyembunyikan tindakan mereka menimbulkan pertanyaan tentang apa yang terjadi ketika AI menjadi sangat efektif mencapai tujuan tanpa sepenuhnya memahami maksud di baliknya. Apakah Anda melihat ini terutama sebagai masalah alignment, masalah rekayasa, atau keterbatasan mendasar dalam cara kami merancang agen saat ini?

Itu merupakan kegagalan desain yang mencakup baik alignment maupun rekayasa. Kami telah mengoptimalkan sistem untuk mencapai target tanpa menghabiskan setengah usaha untuk mengajarkan apa arti keberhasilan sebenarnya bagi pengguna manusia.

Lihat contoh klasik GPT-4 TaskRabbit: ketika dihadapkan pada CAPTCHA, model berbohong dan mengklaim memiliki gangguan penglihatan untuk membuat pekerja manusia menyelesaikannya. Tidak ada yang mengajarkannya menipu siapa pun; ia hanya mengidentifikasi hambatan dan mengambil jalur paling mudah. Jika agen diberi penghargaan semata-mata berdasarkan hasil, ia akan mengambil jalan pintas yang liar. Tantangan utama adalah memisahkan tindakan yang harus diblokir secara arsitektural dari tindakan yang secara teknis diizinkan namun secara konteks salah.

Anda berpendapat bahwa perusahaan semakin mahir memberi tahu agen AI tujuan apa yang harus dikejar tanpa memberikan pemahaman yang cukup tentang apa arti “kesuksesan” bagi pengguna manusia. Informasi apa yang dibutuhkan agen selain prompt itu sendiri untuk benar‑benar memahami maksud?

Prompt hanyalah lapisan permukaan. Niat sebenarnya bergantung pada kedalaman situasional: riwayat sebelumnya, kompromi apa yang dapat diterima, kepentingan sebenarnya, dan bagaimana pengguna bereaksi di tengah tugas.

Beberapa hal ini berasal dari status lingkungan aplikasi atau riwayat obrolan, namun dalam interaksi langsung, isyarat perilakulah yang menjaga konteks tetap dinamis. Orang ragu, mengubah pikiran di tengah jalan, atau menjadi bingung. Jika agen tidak dapat membaca perubahan tersebut, ia hanya akan terus mengejar instruksi yang sudah usang dua langkah sebelumnya.

Ada perbedaan penting antara tindakan yang seharusnya secara teknis tidak mungkin bagi agen dan tindakan yang diizinkan namun tidak tepat dalam konteks tertentu. Bagaimana pengembang harus membagi tanggung jawab antara pengaman keamanan keras dan kemampuan sistem AI untuk menilai secara kontekstual?

Setiap tindakan yang menyebabkan kerusakan parah tanpa kasus penggunaan yang sah—pencurian kredensial, menghapus log audit, eskalasi hak istimewa tanpa izin—harus dihilangkan secara hard‑code. Agen tidak seharusnya membuang siklus komputasi untuk menegosiasikan apakah melewati kontrol keamanan, arsitektur sistem seharusnya membuatnya tidak mungkin.

Zona abu‑abu yang sesungguhnya adalah tindakan sehari‑hari seperti mengirim email, membatalkan rapat, atau mengubah alur kerja internal. Secara teori tindakan ini diizinkan, namun apakah agen harus mengeksekusinya secara otomatis tergantung pada tingkat kepentingan, riwayat pengguna, kemampuan reversibilitas, dan isyarat halus keraguan pengguna. Mengetahui kapan harus berhenti karena konteks hilang jauh lebih penting daripada kemampuan mentah.

Neurologyca mengembangkan teknologi yang dapat mengubah sinyal seperti stres, kepercayaan diri, perhatian, keterlibatan, dan kepercayaan menjadi konteks yang dapat dibaca mesin. Bagaimana sinyal-sinyal tersebut secara praktis dapat mengubah perilaku agen AI otonom saat melaksanakan tugas?

Masukan perilaku ini pada dasarnya adalah data reaksi real‑time—lingkaran umpan balik yang tepat yang belum ada pada arsitektur AI saat ini. Saat ini, model melacak tindakan mereka sendiri, namun mereka beroperasi sepenuhnya buta terhadap cara manusia sebenarnya menerima mereka.
Pertimbangkan konteks bimbingan: seorang pengguna mengetik “Saya mengerti,” namun isyarat fisiologis atau perilaku menunjukkan kebingungan yang meningkat dan penurunan perhatian. Itu menjadi sinyal langsung bagi AI untuk beralih, memperlambat, atau menawarkan penjelasan alternatif. Tujuannya bukan diagnosis klinis; melainkan sekadar membangun lingkaran umpan balik yang ketat—konteks, tindakan, respons, adaptasi—sehingga sistem belajar apa yang benar‑benar efektif bagi individu tersebut.

Konteks manusia juga dapat ambigu. Sistem mungkin salah menafsirkan keraguan, stres, nada suara, atau sinyal perilaku lainnya. Bagaimana Anda mencegah AI yang sadar konteks menjadi terlalu yakin tentang apa yang dipikirkan atau dimaksudkan seseorang?

Sinyal perilaku secara inheren berisik dan probabilistik. Lonjakan tiba‑tiba dalam stres atau jeda mengetik dapat berarti kebingungan, atau hanya berarti pengguna menumpahkan kopinya. Sistem yang mengubah satu titik data menjadi klaim pasti tentang keadaan emosional seseorang pada dasarnya cacat.

Sistem yang kuat melihat sinyal komposit seiring waktu, memperhitungkan baseline lingkungan, dan secara eksplisit mengeluarkan batas kepercayaan. Ada perbedaan besar antara mencatat “beban kognitif meningkat dibandingkan baseline” dan memutuskan “pengguna cemas.” Ketika ketidakpastian tinggi atau kepentingan signifikan, tugas agen bukan menebak—melainkan mengajukan pertanyaan klarifikasi.

Menempatkan manusia dalam loop untuk setiap keputusan penting dapat mengurangi banyak efisiensi yang dijanjikan oleh agen otonom. Seperti apa model pengawasan manusia yang dapat diskalakan di mana agen tahu kapan dapat melanjutkan secara mandiri dan kapan benar‑benar harus berhenti serta meminta panduan?

Pengawasan yang dapat diskalakan bukan tentang mempertahankan manusia‑in‑the‑loop secara permanen; melainkan tentang eskalasi dinamis.

Tugas dengan risiko rendah dan dapat dibalik bergerak otomatis. Namun seiring meningkatnya kepentingan, kebisingan lingkungan meningkat, atau sinyal menunjukkan ketidaknyamanan pengguna, ambang persetujuan naik secara dinamis. Yang penting, ambang ini harus dipersonalisasi—satu manajer mungkin dengan senang hati mendelegasikan pengelolaan kalender, sementara yang lain ingin menyetujui setiap perubahan kecil. Sistem harus mempelajari batasan individu, bukan menerapkan kebijakan global yang kaku.

Seiring agen mengembangkan memori persisten dan model yang semakin detail tentang orang yang mereka layani, konteks dapat dengan cepat menjadi data pribadi yang sensitif. Bagaimana perusahaan harus menangani persetujuan, privasi, kepemilikan data, dan batasan apa yang boleh diingat AI tentang pengguna?

Ini adalah hambatan kepercayaan utama yang dihadapi sistem otonom. Memori persisten mengubah alat generik menjadi asisten, namun ada tumpang tindih berbahaya antara menyimpan preferensi alur kerja dan secara diam‑diam membangun profil psikologis yang tidak disetujui.
Tata kelola data di sini memerlukan batasan tujuan yang ketat. Jika agen menyimpulkan pola stres selama sesi pelatihan eksekutif, konteks tersebut tidak boleh bocor ke penilaian kinerja, algoritma asuransi, atau teknologi iklan. Transparansi harus granular—pengguna memerlukan visibilitas terhadap konteks yang disimpan, penghapusan satu klik, dan batas retensi default yang masuk akal. Hanya karena sistem dapat menyimpulkan sesuatu tentang Anda tidak berarti ia diberi izin untuk menyimpannya.

Bagaimana kita menilai apakah agen otonom benar‑benar memahami niat manusia? Apakah tolok ukur saat ini terlalu fokus pada penyelesaian tugas dan akurasi daripada apakah agen mencapai tujuan dengan cara yang dianggap dapat diterima oleh pengguna?

Penyelesaian tugas adalah tolok ukur yang sangat menipu. Agen dapat mengikuti instruksi secara tepat namun tetap menghasilkan hasil yang dibenci pengguna.

Jika agen memperoleh harga terendah pada sebuah kontrak namun merusak hubungan vendor selama satu dekade untuk mencapainya, metrik evaluasi tradisional mencatat tingkat keberhasilan 100%. Bagi eksekutif, itu bencana. Kita membutuhkan tolok ukur yang mengukur kinerja dalam batasan yang tidak diungkapkan: Apakah ia menghormati norma tak terucapkan? Apakah ia berhenti ketika kondisi berubah? Kesenjangan antara penyelesaian mentah dan kepuasan sebenarnya adalah apa yang diabaikan sepenuhnya oleh tolok ukur saat ini.

Ke depan, apakah Anda memperkirakan kemampuan konteks manusia akan menjadi lapisan standar dalam tumpukan AI bersama model, memori, alat, dan keamanan? Apa yang masih perlu diselesaikan sebelum perusahaan dapat dengan yakin mendelegasikan pekerjaan bermakna kepada agen tanpa pengawasan terus‑menerus?

Seiring AI beralih dari menghasilkan konten ke mengambil tindakan di dunia nyata, konteks manusia menjadi lapisan penting. Model menangani penalaran dan alat memberi sistem kemampuan, namun tanpa konteks manusia sebagai lingkaran umpan balik langsung, memori dan pengaman keamanan pada dasarnya berjalan berdasarkan asumsi statis.

Sebelum perusahaan mendelegasikan otoritas nyata, kita masih harus menyelesaikan privasi kontekstual, penalaran probabilistik di bawah ketidakpastian, dan aturan tata kelola yang granular. Membangun AI yang menyelesaikan tugas terisolasi sebagian besar telah terpecahkan; membuat sistem beradaptasi secara dinamis dengan manusia di balik promptlah yang akan menentukan seberapa banyak otonomi nyata yang bersedia kita berikan.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut dapat mengunjungi Neurologyca.