Apa yang Sebenarnya Dimaksud dengan Human-in-the-Loop?

Pada awal abad ke-20, filsuf Inggris Gilbert Ryle menciptakan istilah “hantu dalam mesin”. Menulis dalam Konsep Pikiran, Ryle menggunakan metafor untuk menentang dualisme pikiran-tubuh yang mempertahankan bahwa pikiran dan tubuh ada sebagai substansi terpisah. Bagi Ryle, pembagian ini adalah kesalahan karena kognisi dan tindakan fisik tidak dapat dipisahkan, merupakan bagian dari sistem tunggal daripada dua bagian yang berinteraksi.

Dengan munculnya AI, metafor serupa sekarang muncul ketika berbicara tentang pengguna alat AI untuk meningkatkan produktivitas: “human-in-the-loop” yang sering digunakan. Jika manusia dan sistem pintar sekarang lebih menyatu daripada sebelumnya, apakah kita sedang membangun fusi yang mulus atau menciptakan ilusi kontrol yang nyaman?

Perusahaan rintisan sangat mengandalkan konsep ini untuk berbicara tentang alat mereka. Sementara itu berjanji untuk membawa inovasi dan ketenangan, kenyataannya seringkali lebih berantakan. Tanggung jawab dapat dengan mudah menjadi kabur dan akuntabilitas lebih sulit untuk dilacak.

Saat sistem AI memasuki domain yang lebih sensitif – dari pendidikan hingga perang – taruhan tidak lagi abstrak. Apa yang sebenarnya dimaksud dengan human-in-the-loop dan apakah ini hanya eufemisme untuk saat mereka menghilang sepenuhnya?

1. Human-in-the-loop sebagai perisai tanggung jawab

Jika digunakan secara sembarangan, istilah human-in-the-loop dapat menjadi cara mudah untuk mengalihkan tanggung jawab tanpa benar-benar terlibat dengannya. Banyak orang menyadari bahwa tanda tangan manusia di akhir proses tidak menjamin integritas etis, terutama jika sistem yang mendasarinya dirancang dengan buruk atau tidak dipahami dengan cukup.

Maysa Hawwash, pendiri dan CEO Scale X, telah menulis tentang bergesernya tanggung jawab dan terus terang tentang cara konsep ini sering digunakan. “Sebenarnya tidak jauh berbeda dengan cara lain untuk mengalihkan beban,” kata Hawwash kepada Startup Beat, menggunakan contoh tentang bagaimana manajer HR sering menggunakan kebijakan tanda tangan untuk memindahkan perusahaan dari tanggung jawab. “Jika Anda memiliki kebijakan ini dan orang membacanya dan menandatanganinya, maka sebagai perusahaan, secara teknis Anda tidak bertanggung jawab, kan?” katanya.

Apa yang muncul adalah pola yang familiar di seluruh sistem perusahaan di mana tanggung jawab dipindahkan daripada dihilangkan. Hawwash melihat ini sebagai jalan keluar yang malas yang menghindari pemikiran kritis atau memahami area di mana itu dapat mempengaruhi orang atau komunitas. “Jadi Anda mengalihkan beban, dan kemudian tidak peduli jika orang memahami kebijakan, tidak peduli jika kebijakan itu masuk akal.”

Dalam kerangka ini, “human-in-the-loop” berisiko menjadi kurang tentang intervensi yang bermakna dan lebih tentang penutup prosedural. Bahaya di sini tidak hanya semantik. Ketika pengawasan dikurangi menjadi tanda tangan, peran manusia menjadi simbolis daripada substantif.

Hawwash merujuk pada kekejaman militer baru-baru ini – sekolah di Minab, Iran – di mana manusia menyetujui serangan tetapi kehadiran pembuat keputusan manusia tidak secara otomatis setara dengan kejelasan etis atau pertimbangan yang memadai. “Ketika Anda berperang atau melakukan operasi yang kompleks, Anda tidak memiliki kemewahan waktu untuk menggunakan human-in-the-loop sebagai perisai.”

2. Merancang untuk tanggung jawab, bukan hanya pengawasan

Alternatifnya bukanlah untuk meninggalkan sistem human-in-the-loop, tetapi untuk mengambilnya secara serius sebagai komitmen desain. Ini berarti melampaui pengawasan simbolis menuju struktur tanggung jawab yang disengaja.

“Ada perlombaan besar untuk mendapatkan AI yang lebih banyak ke pasar. Tidak banyak pemikiran melalui dari perspektif desain, seperti apa dampak hilirnya pada komunitas, orang, atau pengguna akhir,” kata Hawwash.

Kecepatan telah menjadi variabel kompetitif yang dominan. Dalam perlombaan itu, tanggung jawab sering ditunda daripada ditanamkan. Hasilnya adalah model etika reaktif di mana perbaikan masalah terjadi setelah penerapan daripada sebelumnya selama pengembangan.

Aksesibilitas mungkin mempercepat adopsi, tetapi juga menyebabkan konsekuensi yang lebih besar. Sistem tidak lagi terbatas pada pengguna teknis karena dapat membentuk keputusan untuk orang dengan tingkat pemahaman dan konteks yang bervariasi. Dalam lingkungan seperti itu, tanggung jawab tidak dapat dialihkan kepada pengguna akhir.

3. Human-in-the-loop sebagai akurasi dan akuntabilitas

Abhay Gupta, co-pendiri Frizzle, menawarkan perspektif operasional yang lebih – satu yang didasarkan pada membangun sistem di mana pengawasan manusia adalah praktis dan diperlukan.

Perusahaannya muncul dari masalah spesifik: guru yang bekerja berlebihan. “Di kota Anda mendengar tentang banker dan konsultan yang bekerja 70 jam seminggu, tetapi Anda tidak mendengar tentang guru yang bekerja sebanyak itu. Jadi, karena rasa ingin tahu, kami mewawancarai ratusan guru dan secara keseluruhan, pemberian nilai adalah sumber daya waktu terbesar mereka.”

Mengotomatisasi pemberian nilai mungkin tampak sederhana, tetapi kompleksitas tulisan tangan matematika memperkenalkan keterbatasan nyata untuk AI. “Ada masalah akurasi. AI tidak sempurna, jadi kami membangun sistem human-in-the-loop. Jika AI tidak percaya diri – seperti dengan tulisan tangan yang tidak rapi – itu membenderakannya untuk guru untuk meninjau dan menyetujui atau menolak.”

Di sini, peran manusia tidak hanya hiasan. Sistem secara eksplisit mengidentifikasi ketidakpastiannya sendiri dan mengarahkan kasus-kasus tersebut ke manusia. “Bagi kami, ini tentang akurasi. Selalu ada kasus tepi – mungkin 1-3% – di mana AI bergelut, sehingga manusia perlu campur tangan.”

Pendekatan ini mengubah human-in-the-loop menjadi mekanisme kontrol kualitas. Tetapi Gupta mendorong lebih jauh: “Pada intinya, AI tidak 100% akurat – dapat mengalami halusinasi atau menghasilkan output yang salah. Human-in-the-loop bertindak sebagai pemeriksaan kualitas terakhir sebelum hasil mencapai pengguna akhir. Ini juga tentang tanggung jawab. Seseorang harus bertanggung jawab atas output, dan saat ini itu masih harus menjadi manusia.”

Pentingnya, peran manusia juga melestarikan sesuatu yang kurang dapat diukur: aspek relasional mengajar. “Ini juga tentang melestarikan sisi manusia mengajar. Guru memiliki gaya yang berbeda, jadi kami membiarkan mereka menyesuaikan cara umpan balik disampaikan”

Mengedefinisikan Kembali Human-in-the-loop

Istilah “human in the loop” membawa kesederhanaan yang menenangkan. Ini menyiratkan bahwa tidak peduli seberapa maju sistem kita, manusia tetap berada dalam kontrol dan kita tidak hanya “hantu dalam mesin”. Tetapi ketika perusahaan rintisan semakin banyak menerapkan AI dalam lingkungan yang berisiko tinggi, jaminan itu menuntut pemeriksaan.

Masalah yang lebih dalam adalah desain. Jika risiko sistem tidak dipahami dengan baik atau sengaja diminimalkan, memasukkan manusia di akhir tidak banyak melakukan koreksi terhadap kelemahan dasar. Yang sangat penting, ini juga berarti mendefinisikan peran manusia tidak sebagai cadangan, tetapi sebagai bagian integral dari operasi sistem. Manusia dalam loop tidak boleh hanya menyetujui hasil. Perusahaan rintisan harus berusaha untuk memberdayakan staf mereka untuk membentuk mereka, menantang mereka, dan, jika perlu, membatalkan mereka dengan wewenang.