AI Masih Membutuhkan Pelatih dan Pengawasan Manusia Membutuhkan Buku Panduan

AI ada di mana-mana, dan sepak bola profesional tidak terkecuali.

NFL telah memperkenalkan Digital Athlete, yang menggunakan data dan AI untuk membantu tim mengidentifikasi skenario di mana pemain mungkin menghadapi risiko cedera yang meningkat. Ini menggabungkan video dan data dari pelatihan, latihan, dan pertandingan dengan jutaan simulasi, memberi semua 32 tim akses ke informasi tren seluruh liga. Pelatih dan staf pelatihan kemudian menggunakan informasi tersebut untuk mengembangkan program pencegahan cedera, pelatihan, dan pemulihan yang dipersonalisasi.

Meskipun teknologi membaca lapangan, pelatih tetap bertanggung jawab membuat keputusan. Saat organisasi memperluas penggunaan AI di seluruh proses bisnis, termasuk kepatuhan dan investigasi tempat kerja, potensi otomatisasi terasa tak terbatas. Namun, tugas apa yang seharusnya dilakukan AI, dalam kondisi apa, dan dengan pengawasan manusia seperti apa?

Di sinilah buku panduan organisasi dapat menetapkan nada: memberikan pelatih cara memanfaatkan alat AI sambil mempertahankan pengawasan manusia di titik yang penting.

Berikan AI Posisi, Bukan Seluruh Lapangan

Investigasi terdiri dari tingkat risiko yang bervariasi. AI dapat membantu mengatur informasi dari laporan awal dan:

• Mengidentifikasi detail yang hilang
• Menyimpulkan informasi menjadi laporan akhir
• Menyusun linimasa
• Menampilkan pola yang mungkin ingin diselidiki lebih lanjut oleh penyidik

Kasus penggunaan ini dapat mengurangi penyortiran manual dan memberi waktu lebih untuk fokus pada pekerjaan yang memerlukan penilaian manusia.

Pertimbangkan bahwa AI dapat merangkum sebuah tuduhan, tetapi tidak dapat memutuskan apakah tuduhan tersebut dapat dipercaya. AI dapat mengidentifikasi ketidaksesuaian, tetapi tidak dapat menentukan mengapa hal itu terjadi. Di sinilah organisasi dapat mengalami masalah bila hanya menggunakan AI tanpa pengaman.

Untuk mempertahankan pengawasan, AI memerlukan peran yang terdefinisi. Organisasi harus memutuskan:

• Tugas yang harus dilakukan sistem
• Informasi yang dapat diaksesnya
• Batasan apa yang diizinkannya lakukan
• Situasi di mana seseorang harus mengambil alih

Kerangka Manajemen Risiko AI National Institute of Standards and Technology’s AI Risk Management Framework menyediakan tolok ukur yang berguna. Peta jalan NIST menjelaskan Profil AI RMF sebagai cara untuk menunjukkan bagaimana kerangka kerja dapat diterapkan pada sektor, teknologi, konteks, atau pengaturan tertentu. Dengan kata lain, tata kelola AI yang bertanggung jawab menjadi lebih dapat ditindaklanjuti ketika organisasi menerjemahkan prinsip luas ke dalam realitas kasus penggunaan spesifik.
Buku panduan AI dapat melakukan hal serupa pada tingkat operasional. Ia mendefinisikan peran, situasi, dan tindakan dengan spesifik.

Pengawasan Manusia Adalah Masalah Desain Sistem

Istilah “human in the loop” telah menjadi umum dalam diskusi tentang AI yang bertanggung jawab. Namun, keberadaan seseorang di suatu bagian alur kerja tidak otomatis membuat sistem AI dikelola dengan baik.

NIST telah mengidentifikasi human-AI teaming sebagai area penting untuk penelitian dan panduan manajemen risiko AI. Di antara isu-isu yang disorot adalah bagaimana orang menafsirkan output yang dihasilkan AI dan bagaimana manusia mengawasi sistem AI yang beroperasi di lingkungan dunia nyata.

Pengawasan manusia tidak boleh diperlakukan sebagai solusi sementara sampai AI menjadi cukup canggih untuk beroperasi sendiri. Di banyak lingkungan dengan risiko tinggi, pengawasan merupakan bagian dari arsitektur yang diperlukan untuk menggunakan AI secara bertanggung jawab dalam jangka panjang.

Sebuah peer-reviewed examination of human oversight in AI governance mencatat bahwa pengawas manusia diharapkan meningkatkan akurasi dan keamanan untuk menegakkan nilai-nilai manusia serta membangun kepercayaan. Namun, manusia tidak selalu menjadi pengawas yang dapat diandalkan. Pengawasan yang efektif bergantung pada kompetensi, insentif, dan desain peran pengawasan.

Bagi penyidik, diminta menyetujui rekomendasi yang dihasilkan AI tidak cukup jika mereka kekurangan informasi atau wewenang untuk menantangnya. Buku panduan harus mendefinisikan tidak hanya bahwa seorang manusia terlibat, tetapi bagaimana dan kapan orang tersebut dapat campur tangan.

Serah Terima Sama Pentingnya dengan Model

Ada tantangan lain: bahkan ketika manusia memiliki otoritas akhir, cara AI menyajikan informasi dapat memengaruhi keputusan selanjutnya.

Sebuah preprint study from researchers at the University of California, Santa Barbara menunjukkan mengapa desain antarmuka penting. Dalam percobaan terkontrol yang melibatkan 108 peserta dalam skenario pengambilan keputusan perawatan kesehatan, peneliti menguji enam bentuk dukungan keputusan AI. Mereka menemukan bahwa mekanisme, termasuk informasi kepercayaan AI, penjelasan tekstual, dan visualisasi kinerja, meningkatkan akurasi keputusan manusia-AI dalam percobaan mereka.

Studi tersebut juga menyoroti risiko bias otomatisasi: orang dapat terlalu bergantung pada saran AI, termasuk yang salah.

Eksperimen ini menunjukkan mengapa serah terima antara mesin dan manusia memerlukan desain dan pengujian yang sengaja.

Ketika kami memperluas ini lebih jauh dan memperkenalkan konsep investigasi, beberapa pertanyaan muncul:

• Apakah penyidik hanya melihat kesimpulan yang dihasilkan AI, atau dapat mereka memeriksa informasi di baliknya?

• Dapatkah sistem menyampaikan ketidakpastian?

• Apakah jelas ketika informasi tidak tersedia?

• Dapatkah penyidik menolak output dan mendokumentasikan alasannya?

Itu adalah pertanyaan tata kelola sebanyak pertanyaan teknis.

Lima Pertanyaan yang Harus Dijawab Setiap Buku Panduan AI

Buku panduan AI yang berguna harus mengubah prinsip abstrak seperti “AI yang bertanggung jawab” dan “pengawasan manusia” menjadi aturan operasional yang konkret.

1. Apa yang diizinkan AI lakukan? Organisasi harus memberi wewenang pada tugas-tugas spesifik daripada memberikan izin luas untuk menggunakan AI di seluruh alur kerja.
2. Informasi apa yang dapat digunakannya? Untuk investigasi dan pelaporan pelanggaran, organisasi memerlukan batasan yang jelas mengenai informasi yang tersedia bagi sistem AI dan cara penanganannya.
3. Bagaimana orang akan mengevaluasi outputnya? Peninjau manusia memerlukan konteks yang cukup untuk memahami apa yang dihasilkan sistem, keterbatasan yang relevan, dan informasi yang diperlukan untuk mempertanyakan hasil tersebut.
4. Kapan manusia harus campur tangan? Buku panduan harus menetapkan pemicu eskalasi alih-alih mengandalkan karyawan individu untuk memutuskan kapan AI telah melampaui batas.
5. Di mana batas otoritas AI? Beberapa keputusan harus memerlukan penilaian manusia, dan orang yang bertanggung jawab atas keputusan tersebut memerlukan otoritas nyata untuk mengabaikan, mengganti, atau menghentikan teknologi.

Ide-ide ini tercermin dalam salah satu regulasi AI paling penting di dunia. Article 14 of the EU AI Act menetapkan persyaratan pengawasan manusia untuk sistem AI yang termasuk dalam kategori risiko tinggi menurut Undang-Undang tersebut. Dikatakan bahwa langkah-langkah pengawasan harus proporsional dengan risiko sistem, otonomi, dan konteks penggunaannya. Juga mengharuskan pengawas dapat memahami kemampuan dan keterbatasan yang relevan, menafsirkan output dengan tepat, tetap waspada terhadap bias otomatisasi, mengabaikan atau mengganti output, serta campur tangan atau menghentikan sistem.
Itu tidak berarti setiap alat AI yang digunakan dalam investigasi otomatis menjadi sistem risiko tinggi. Kerangka kerja tersebut menggambarkan prinsip penting untuk tata kelola AI. Pengawasan manusia harus memberikan kemampuan yang berarti bagi manusia, bukan sekadar tempat dalam alur kerja.

AI Tidak Menggantikan Pelatih. Ia Mengubah Apa yang Dapat Dilihat Pelatih.

Digital Athlete NFL menarik bukan karena menunjukkan AI dapat menggantikan pelatih, melainkan karena memperlihatkan bagaimana teknologi canggih dapat memperluas informasi yang tersedia bagi para profesional berpengalaman.

AI dapat membantu orang menavigasi informasi, menampilkan apa yang layak diperhatikan, dan menciptakan konsistensi yang lebih besar pada tugas berulang. Namun, momen paling penting dalam sebuah investigasi sering kali memerlukan hal yang berbeda: konteks, skeptisisme, interpretasi, dan akuntabilitas.

Oleh karena itu, organisasi yang paling siap memanfaatkan AI akan menanyakan lebih dari apa yang dapat diotomatisasi teknologi. Mereka akan menentukan apa yang harus dilakukan, apa yang tidak boleh dilakukan, dan bagaimana manusia serta AI harus bekerja bersama.