Pemimpin pemikiran

Apa Sebenarnya Arti Human-in-the-Loop?

Arjun Harindranath
Tambahkan Unite.AI ke sumber pilihan Anda di Google
Poin utamaManusia-dalam-lingkaran sering mengalihkan tanggung jawab kepada pengguna tanpa…
Lihat selengkapnya
  • Manusia-dalam-lingkaran sering mengalihkan tanggung jawab kepada pengguna tanpa memastikan desain sistem yang etis.
  • Frizzle menggunakan pengawasan manusia untuk akurasi penilaian ketika AI tidak dapat menangani tulisan tangan yang berantakan.
  • Peran manusia yang bermakna membutuhkan pemberdayaan staf untuk menantang dan mengesampingkan AI, bukan sekadar menyetujui.

Pada awal abad ke-20, filsuf Inggris Gilbert Ryle menciptakan istilah “hantu dalam mesin”. Menulis dalam Konsep Pikiran, Ryle menggunakan metafora untuk menentang dualisme pikiran-tubuh yang menyatakan bahwa pikiran dan tubuh ada sebagai substansi terpisah. Bagi Ryle, pembagian ini adalah kesalahan karena kognisi dan tindakan fisik tidak dapat dipisahkan, merupakan bagian dari sistem tunggal daripada dua bagian yang berinteraksi.

Dengan munculnya AI, metafora serupa sekarang muncul ketika berbicara tentang pengguna alat AI untuk meningkatkan produktivitas: “human-in-the-loop” yang sering digunakan. Jika manusia dan sistem pintar sekarang lebih menyatu daripada sebelumnya, apakah kita sedang membangun fusi yang mulus atau menciptakan ilusi kontrol yang nyaman?

Perusahaan rintisan sangat mengandalkan konsep ini untuk berbicara tentang alat mereka. Walaupun konsep ini menjanjikan inovasi dan rasa aman, kenyataannya seringkali lebih berantakan. Tanggung jawab dapat dengan mudah menjadi kabur dan akuntabilitas lebih sulit untuk dilacak.

Saat sistem AI memasuki domain yang lebih sensitif – dari pendidikan hingga perang – taruhan tidak lagi abstrak. Apa yang sebenarnya dimaksud dengan human-in-the-loop dan apakah ini hanya eufemisme untuk saat manusia menghilang sepenuhnya?

1. Human-in-the-loop sebagai perisai tanggung jawab

Jika digunakan secara sembarangan, istilah human-in-the-loop dapat menjadi cara mudah untuk mengalihkan tanggung jawab tanpa benar-benar terlibat dengannya. Banyak orang menyadari bahwa tanda tangan manusia di akhir proses tidak menjamin integritas etis, terutama jika sistem yang mendasarinya dirancang dengan buruk atau tidak dipahami dengan cukup.

Maysa Hawwash, pendiri dan CEO Scale X, telah menulis tentang bergesernya tanggung jawab dan terus terang tentang cara konsep ini sering digunakan. “Sebenarnya tidak jauh berbeda dengan cara lain untuk mengalihkan beban,” kata Hawwash kepada Startup Beat, menggunakan contoh tentang bagaimana manajer HR sering menggunakan kebijakan persetujuan bertanda tangan untuk menjauhkan perusahaan dari tanggung jawab hukum. “Jika Anda memiliki kebijakan ini dan orang membacanya dan menandatanganinya, maka sebagai perusahaan, secara teknis Anda tidak bertanggung jawab, kan?” katanya.

Apa yang muncul adalah pola yang familiar di seluruh sistem perusahaan di mana tanggung jawab dipindahkan daripada dihilangkan. Hawwash melihat ini sebagai jalan keluar yang malas yang menghindari pemikiran kritis atau memahami area di mana itu dapat mempengaruhi orang atau komunitas. “Jadi Anda mengalihkan beban, dan kemudian tidak peduli jika orang memahami kebijakan, tidak peduli jika kebijakan itu masuk akal.”

Dalam kerangka ini, “human-in-the-loop” berisiko menjadi kurang tentang intervensi yang bermakna dan lebih tentang penutup prosedural. Bahaya di sini tidak hanya semantik. Ketika pengawasan dikurangi menjadi tanda tangan, peran manusia menjadi simbolis daripada substantif.

Hawwash merujuk pada kekejaman militer baru-baru ini – sekolah di Minab, Iran – di mana manusia menyetujui serangan tetapi kehadiran pembuat keputusan manusia tidak selalu berarti adanya kejelasan etis atau pertimbangan yang memadai. “Ketika Anda berperang atau melakukan operasi yang kompleks, Anda tidak memiliki kemewahan waktu untuk menggunakan human-in-the-loop sebagai perisai.”

2. Merancang untuk tanggung jawab, bukan hanya pengawasan

Alternatifnya bukanlah untuk meninggalkan sistem human-in-the-loop, tetapi untuk menanggapinya dengan serius sebagai komitmen desain. Ini berarti melampaui pengawasan simbolis menuju struktur tanggung jawab yang disengaja.

“Ada perlombaan besar untuk mendapatkan AI yang lebih banyak ke pasar. Tidak banyak pertimbangan mendalam dari sudut pandang desain, seperti apa dampak hilirnya pada komunitas, orang, atau pengguna akhir,” kata Hawwash.

Kecepatan telah menjadi variabel kompetitif yang dominan. Dalam perlombaan itu, tanggung jawab sering ditunda daripada ditanamkan. Hasilnya adalah model etika reaktif di mana masalah diperbaiki setelah penerapan, bukannya diantisipasi selama pengembangan.

Aksesibilitas mungkin mempercepat adopsi, tetapi juga menyebabkan konsekuensi yang lebih besar. Sistem tidak lagi terbatas pada pengguna teknis karena dapat membentuk keputusan untuk orang dengan tingkat pemahaman dan konteks yang bervariasi. Dalam lingkungan seperti itu, tanggung jawab tidak dapat dialihkan kepada pengguna akhir.

3. Human-in-the-loop sebagai akurasi dan akuntabilitas

Abhay Gupta, salah satu pendiri Frizzle, menawarkan perspektif yang lebih operasional, berdasarkan pembangunan sistem yang menjadikan pengawasan manusia praktis sekaligus diperlukan.

Perusahaannya muncul dari masalah spesifik: guru yang bekerja berlebihan. “Di kota Anda mendengar tentang banker dan konsultan yang bekerja 70 jam seminggu, tetapi Anda tidak mendengar tentang guru yang bekerja sebanyak itu. Jadi, karena rasa ingin tahu, kami mewawancarai ratusan guru dan secara keseluruhan, pemberian nilai adalah kegiatan yang paling menyita waktu mereka.”

Mengotomatisasi pemberian nilai mungkin tampak sederhana, tetapi kompleksitas tulisan tangan matematika memperkenalkan keterbatasan nyata untuk AI. “Ada masalah akurasi. AI tidak sempurna, jadi kami membangun sistem human-in-the-loop. Jika AI tidak yakin – seperti dengan tulisan tangan yang tidak rapi – sistem menandainya agar guru dapat meninjau lalu menyetujui atau menolaknya.”

Di sini, peran manusia tidak hanya hiasan. Sistem secara eksplisit mengidentifikasi ketidakpastiannya sendiri dan mengarahkan kasus-kasus tersebut ke manusia. “Bagi kami, ini tentang akurasi. Selalu ada kasus khusus – mungkin 1-3% – di mana AI bergelut, sehingga manusia perlu campur tangan.”

Pendekatan ini mengubah human-in-the-loop menjadi mekanisme kontrol kualitas. Tetapi Gupta mendorong lebih jauh: “Pada intinya, AI tidak 100% akurat – dapat mengalami halusinasi atau menghasilkan output yang salah. Human-in-the-loop bertindak sebagai pemeriksaan kualitas terakhir sebelum hasil mencapai pengguna akhir. Ini juga tentang tanggung jawab. Seseorang harus bertanggung jawab atas output, dan saat ini itu masih harus menjadi manusia.”

Yang juga penting, peran manusia melestarikan sesuatu yang kurang dapat diukur: aspek hubungan antarmanusia dalam pengajaran. “Ini juga tentang melestarikan sisi manusiawi pengajaran. Guru memiliki gaya yang berbeda, jadi kami membiarkan mereka menyesuaikan cara umpan balik disampaikan”

Mendefinisikan Kembali Human-in-the-loop

Istilah “human in the loop” membawa kesederhanaan yang menenangkan. Ini menyiratkan bahwa tidak peduli seberapa maju sistem kita, manusia tetap berada dalam kontrol dan kita tidak hanya “hantu dalam mesin”. Tetapi ketika perusahaan rintisan semakin banyak menerapkan AI dalam lingkungan yang berisiko tinggi, jaminan itu menuntut pemeriksaan.

Masalah yang lebih dalam adalah desain. Jika risiko sistem tidak dipahami dengan baik atau sengaja diminimalkan, memasukkan manusia di akhir tidak banyak melakukan koreksi terhadap kelemahan dasar. Yang sangat penting, ini juga berarti mendefinisikan peran manusia tidak sebagai cadangan, tetapi sebagai bagian integral dari operasi sistem. Manusia dalam loop tidak boleh hanya menyetujui hasil. Perusahaan rintisan harus berusaha untuk memberdayakan staf mereka untuk membentuk hasil tersebut, mempertanyakannya, dan, jika perlu, membatalkannya dengan kewenangan yang nyata.

Arjun Harindranath adalah seorang jurnalis lepas yang berbasis di Medellin, Kolombia, yang meliput cerita tentang konflik, migrasi, dan teknologi untuk audiens global. Artikel atas namanya pernah dimuat di Al Jazeera, TechCrunch, The Next Web, dan New York Times.