Apa yang Sebenarnya Dimaksud dengan Human-in-the-Loop?

Pada awal abad ke-20, filsuf Inggris Gilbert Ryle menciptakan istilah “hantu dalam mesin”. Menulis di The Concept of Mind, Ryle menggunakan metafor untuk menentang dualisme pikiran-tubuh yang mempertahankan bahwa pikiran dan tubuh ada sebagai substansi yang terpisah. Bagi Ryle, pembagian ini adalah kesalahan karena kognisi dan tindakan fisik tidak dapat dipisahkan, merupakan bagian dari sistem tunggal daripada dua bagian yang berinteraksi.

Dengan munculnya AI, metafor serupa sekarang muncul ketika berbicara tentang pengguna alat AI untuk meningkatkan produktivitas: “human-in-the-loop” yang sering digunakan. Jika manusia dan sistem cerdas sekarang lebih menyatu daripada sebelumnya, apakah kita membangun fusi yang mulus atau menciptakan ilusi kontrol yang nyaman?

Perusahaan rintisan sangat bergantung pada konsep ini untuk berbicara tentang alat mereka. Sementara itu berjanji untuk inovasi dan rasa aman, kenyataannya seringkali lebih rumit. Tanggung jawab dapat dengan mudah menjadi kabur dan akuntabilitas lebih sulit untuk dilacak.

Ketika sistem AI memasuki domain yang lebih sensitif – dari pendidikan hingga perang – taruhannya tidak lagi abstrak. Apa yang sebenarnya dimaksud dengan human-in-the-loop dan apakah ini hanya eufemisme ketika mereka menghilang sepenuhnya?

1. Human-in-the-loop sebagai perisai tanggung jawab

Digunakan secara sembarangan, istilah human-in-the-loop dapat menjadi cara mudah untuk mengalihkan tanggung jawab tanpa benar-benar terlibat dengannya. Banyak yang menyadari bahwa tanda tangan manusia di akhir proses tidak menjamin integritas etika, terutama jika sistem yang mendasarinya dirancang dengan buruk atau tidak dipahami dengan cukup.

Maysa Hawwash, pendiri dan CEO Scale X, telah menulis tentang pergeseran tanggung jawab dan terbuka tentang cara konsep ini sering diterapkan. “Sebenarnya tidak jauh berbeda dengan cara lain untuk mengalihkan beban,” kata Hawwash kepada Startup Beat, menggunakan contoh tentang bagaimana manajer HR sering menggunakan kebijakan tanda tangan untuk memindahkan perusahaan dari tanggung jawab. “Jika Anda memiliki kebijakan ini dan orang membacanya dan menandatanganinya, maka sebagai perusahaan, secara teknis Anda tidak bertanggung jawab, kan?” katanya.

Apa yang muncul adalah pola yang familiar di seluruh sistem perusahaan di mana tanggung jawab dipindahkan daripada dihilangkan. Hawwash melihat ini sebagai jalan keluar yang malas yang menghindari pemikiran kritis atau memahami area di mana itu dapat mempengaruhi orang atau komunitas. “Jadi Anda mengalihkan beban, dan kemudian tidak peduli jika orang memahami kebijakan, tidak peduli jika kebijakan masuk akal.”

Dalam kerangka ini, “human-in-the-loop” berisiko menjadi kurang tentang intervensi yang bermakna dan lebih tentang sampul prosedural. Bahaya di sini tidak hanya semantik. Ketika pengawasan dikurangi menjadi tanda tangan, peran manusia menjadi simbolis daripada substantif.

Hawwash merujuk pada kekejaman militer baru-baru ini – sekolah di Minab, Iran – di mana manusia menyetujui serangan tetapi kehadiran pembuat keputusan manusia tidak secara otomatis berarti kejelasan etika atau pertimbangan yang memadai. “Ketika Anda berperang atau melakukan operasi yang kompleks, Anda tidak memiliki kemewahan waktu untuk menggunakan human-in-the-loop sebagai perisai.”

2. Merancang untuk tanggung jawab, bukan hanya pengawasan

Alternatifnya bukan untuk meninggalkan sistem human-in-the-loop, tetapi untuk mengambilnya secara serius sebagai komitmen desain. Ini berarti melampaui pengawasan simbolis menuju struktur tanggung jawab yang disengaja.

“Ada perlombaan besar untuk mendapatkan lebih banyak AI yang tepat di pasar. Tidak banyak pemikiran dari perspektif desain, seperti apa dampak hilirnya pada komunitas, orang, atau pengguna akhir,” kata Hawwash.

Kecepatan telah menjadi variabel kompetitif dominan. Dalam perlombaan itu, tanggung jawab sering ditunda daripada ditanamkan. Hasilnya adalah model etika reaktif di mana perbaikan masalah terjadi setelah penerapan daripada antisipasi selama pengembangan.

Aksesibilitas mungkin mempercepat adopsi, tetapi juga menyebabkan konsekuensi yang lebih besar. Sistem tidak lagi terbatas pada pengguna teknis karena dapat membentuk keputusan untuk orang dengan tingkat pemahaman dan konteks yang bervariasi. Dalam lingkungan seperti itu, tanggung jawab tidak dapat dialihkan kepada pengguna akhir.

3. Human-in-the-loop sebagai akurasi dan akuntabilitas

Abhay Gupta, co-pendiri Frizzle, menawarkan perspektif operasional – satu yang didasarkan pada membangun sistem di mana pengawasan manusia baik praktis dan diperlukan.

Perusahaannya muncul dari masalah spesifik: guru yang bekerja berlebihan. “Di kota Anda mendengar tentang banker dan konsultan yang bekerja 70 jam seminggu, tetapi Anda tidak mendengar tentang guru yang bekerja sebanyak itu. Jadi, dari rasa ingin tahu, kami mewawancarai ratusan guru dan secara keseluruhan, pemberian nilai adalah sumber daya waktu terbesar mereka.”

Mengotomatisasi pemberian nilai mungkin tampak sederhana, tetapi kompleksitas matematika tulisan tangan memperkenalkan keterbatasan nyata untuk AI. “Ada masalah akurasi. AI tidak sempurna, jadi kami membangun sistem human-in-the-loop. Jika AI tidak percaya diri – seperti dengan tulisan tangan yang berantakan – itu meminta guru untuk meninjau dan menyetujui atau menolak.”

Di sini, peran manusia tidak hanya hiasan. Sistem secara eksplisit mengidentifikasi ketidakpastiannya sendiri dan mengarahkan kasus-kasus tersebut ke manusia. “Bagi kami, ini tentang akurasi. Selalu akan ada kasus tepi – mungkin 1-3% – di mana AI bergelut, sehingga manusia perlu campur tangan.”

Pendekatan ini mengubah human-in-the-loop menjadi mekanisme untuk kontrol kualitas. Tetapi Gupta mendorong lebih jauh: “Pada intinya, AI tidak 100% akurat – dapat mengalami halusinasi atau menghasilkan output yang salah. Human-in-the-loop bertindak sebagai pemeriksaan kualitas terakhir sebelum hasil mencapai pengguna akhir. Ini juga tentang tanggung jawab. Seseorang harus bertanggung jawab atas output, dan saat ini itu masih harus menjadi manusia.”

Pentingnya, peran manusia juga melestarikan sesuatu yang kurang dapat diukur: aspek relasional mengajar. “Ini juga tentang melestarikan sisi manusia dari mengajar. Guru memiliki gaya yang berbeda, jadi kami membiarkan mereka menyesuaikan bagaimana umpan balik disampaikan”

Mendefinisikan Kembali Human-in-the-loop

Istilah “human in the loop” membawa kesederhanaan yang menenangkan. Ini menunjukkan bahwa tidak peduli seberapa maju sistem kita, manusia tetap berada dalam kendali dan kita tidak hanya “hantu dalam mesin”. Tetapi ketika perusahaan rintisan semakin banyak menerapkan AI dalam lingkungan yang berisiko tinggi, rasa aman itu membutuhkan pemeriksaan.

Masalah yang lebih dalam adalah desain. Jika risiko sistem tidak dipahami dengan baik atau sengaja diminimalkan, memasukkan manusia di akhir tidak melakukan banyak untuk memperbaiki kelemahan dasar. Yang sangat penting, ini juga berarti mendefinisikan peran manusia tidak sebagai fallback, tetapi sebagai bagian integral dari operasi sistem. Manusia dalam loop tidak hanya harus menyetujui hasil. Perusahaan rintisan harus berusaha untuk memberdayakan staf mereka untuk membentuknya, menantangnya, dan, jika perlu, mengesampingkannya dengan wewenang.