Robot Humanoid Segera Hadir di Pabrik. Siapa yang Bertanggung Jawab Jika Mereka Gagal?

Robot dapat berhasil melewati uji kinerja, tetapi tetap menjadi bahaya keselamatan jika menghadapi rintangan tak terduga, perubahan perilaku akibat pembaruan perangkat lunak, atau pekerja sungguhan. Pertanyaannya bukan lagi apakah robot humanoid mampu melakukan suatu tugas, melainkan bagaimana mereka melakukannya: apakah dengan aman atau tidak—dan siapa yang bertanggung jawab jika terjadi kesalahan.

Agility Robotics dan FORT Robotics mengumumkan kemitraan pada Oktober untuk meningkatkan arsitektur keselamatan robot humanoid Digit 5 milik Agility. Mereka merancang pendekatan dengan menyertakan sistem keselamatan di dalam robot, antarmuka eksternal, komunikasi, dan fitur pengambilalihan kendali secara manual. Perkembangan ini menandai pergeseran besar: robot harus aman digunakan di tempat kerja bersama manusia, dan itu mencakup lebih dari sekadar robot itu sendiri.

Namun, teknologi saja tidak cukup untuk menjawab pertanyaan tentang pertanggungjawaban. Jika robot melakukan kesalahan karena komponen yang rusak keliru diidentifikasi oleh sistem AI, produsen, pengembang perangkat lunak, integrator sistem, dan pemberi kerja yang menggunakan sistem tersebut dapat dimintai pertanggungjawaban.

Ketika Keputusan AI Menimbulkan Risiko Fisik

Robot industri tradisional biasanya ditempatkan di area kerja tertutup, terpisah dari pekerja oleh pembatas dan perangkat keselamatan. Robot humanoid menghadirkan tantangan lain: mereka dirancang untuk bernavigasi di lingkungan yang dibuat untuk manusia, melakukan berbagai tugas, dan beradaptasi dengan lingkungan yang berbeda.

Fleksibilitas itu menciptakan risiko baru. Deteksi keliru dapat memicu gerakan yang tidak perlu. Pembaruan perangkat lunak dapat mengubah perilaku robot. Perubahan tata letak pabrik dapat menimbulkan bahaya yang tidak ada dalam pengujian sebelumnya.

Dana R. Wolfe, Wakil Presiden dan Kepala Industri di GFT Americas, mengatakan kepada Unite AI bahwa untuk mencegah intervensi yang tidak aman, diperlukan beberapa lapis perlindungan, seperti batasan keselamatan perangkat lunak yang deterministik, ambang batas keyakinan khusus untuk setiap pabrik, penggabungan data sensor, dan validasi bertahap sebelum penerapan.

Menurut Wolfe, hasil positif palsu tidak mungkin dihindari sepenuhnya. Sebaliknya, produsen perlu memastikan bahwa kesalahan tidak diterjemahkan menjadi gerakan fisik yang tidak aman.

Menurut Wolfe, ambang batas keyakinan dan kewenangan manusia harus menjadi bagian dari arsitektur keselamatan sistem, begitu pula interlock perangkat keras.

Standar Keselamatan Harus Mengikuti Perkembangan

Standar robotika industri saat ini memberikan landasan yang berharga, tetapi belum tentu menjadi solusi bagi semua masalah yang ditimbulkan oleh robot humanoid bergerak.

Organisasi Internasional untuk Standardisasi (ISO) telah menerbitkan persyaratan keselamatan untuk robot industri, dan ISO 10218-2 mengatur integrasi robot ke dalam sistem lengkap.

Namun, standar tersebut tidak mencakup semua aplikasi atau bahaya yang terkait dengan robot bergerak yang bekerja bersama manusia.

Wolfe mengatakan bahwa pengujian independen, validasi berbasis skenario, dan uji coba bertahap di tempat kerja sangat penting, terutama seiring berkembangnya praktik industri.

Evaluasi keselamatan juga harus diulang jika perubahan pada model AI, perangkat lunak, batasan pergerakan, tugas, atau lingkungan pabrik dapat membuat evaluasi keselamatan sebelumnya tidak lagi berlaku.

Setelah perubahan besar, robot yang aman dalam satu rangkaian kondisi mungkin tidak aman dalam rangkaian kondisi yang baru.

Pengawasan Manusia Harus Lebih dari Sekadar Persetujuan

Memantau setiap keputusan yang dibuat sistem AI tidak praktis. Namun, jika manusia tidak dilibatkan dalam keputusan penting, muncul tantangan lain: pertanggungjawaban menjadi lebih sulit dibuktikan.

Adrian Figueroa Ramos, salah satu pendiri dan CEO Flexio dan Routina, mengatakan bahwa pengawasan sebaiknya berfokus pada keputusan yang paling tidak pasti atau paling berisiko.

“Di dunia AI saat ini, jumlah keluaran yang dihasilkan melampaui kapasitas manusia untuk memprosesnya. Meninjau semuanya menjadikan manusia sebagai hambatan, tetapi penilaian manusia tetap diperlukan untuk keputusan berisiko tinggi atau dengan tingkat keyakinan rendah,” katanya kepada Unite AI.

Hal ini terutama berlaku untuk AI fisik. Pengawasan manusia harus melibatkan individu tertentu yang berwenang mengambil alih kendali sistem serta memastikan keputusan didokumentasikan dan diperiksa, bukan sekadar mengeklik tombol persetujuan.

Siapa yang Bertanggung Jawab Jika Robot Gagal?

Pertanggungjawaban harus dibagi berdasarkan kendali masing-masing pihak atas sistem.

Misalnya, produsen bertanggung jawab untuk membuat dan mendokumentasikan langkah-langkah keselamatan. Pengembang perangkat lunak harus menguji perubahan yang dapat memengaruhi persepsi atau pergerakan.

Integrator harus memvalidasi keseluruhan sistem di lingkungan yang menjadi sasaran penggunaannya. Pemberi kerja bertanggung jawab melatih pekerja, memastikan perlindungan keselamatan tersedia, dan menetapkan prosedur untuk menghentikan operasi yang tidak aman.

Keamanan siber juga penting. Teknologi operasional dapat rentan terhadap masalah sensor, perangkat lunak, dan sistem eksternal yang terkait dengan robot. Kegagalan keamanan yang berdampak pada perilaku fisik merupakan masalah keselamatan kerja sekaligus masalah TI.

Robot humanoid diperkirakan akan menjadi lebih fleksibel dan produktif di pabrik pada masa mendatang. Namun, adopsi tidak akan hanya didasarkan pada ukuran kinerja. Diperlukan kejelasan tanggung jawab, validasi independen, dan perlindungan yang dipertahankan sepanjang masa kerja robot.

Pertanyaannya, bisakah robot melakukan kesalahan? Bisa, jika orang-orang yang menggunakannya telah menciptakan sistem yang akan meminta pertanggungjawaban mereka atas kesalahan tersebut.