Pemimpin pemikiran

Dari Jaringan Saraf ke Kelalaian: Siapa Bertanggung Jawab Saat AI Gagal?

Kanon Clifford
Tambahkan Unite.AI ke sumber pilihan Anda di Google
A conceptual legal illustration showing a lawyer in a boardroom, a scale of justice with a glowing AI brain and a human hand, and a digital
Poin utamaKetidaktransparanan AI menciptakan celah tanggung jawab hukum dengan mempersulit unsur…
Lihat selengkapnya
  • Ketidaktransparanan AI menciptakan celah tanggung jawab hukum dengan mempersulit unsur inti kelalaian seperti kewajiban dan hubungan sebab-akibat.
  • Pengadilan dapat menerapkan doktrin tanggung jawab produk yang ada pada AI tetapi memerlukan bukti teknis yang maju.
  • Rezim tanggung jawab mutlak dapat mengalokasikan risiko secara adil ketika kerugian akibat AI dapat diprediksi tetapi hubungan sebab-akibatnya tidak transparan.

Artikel ini membahas masalah hukum yang terkait dengan kerugian yang disebabkan oleh kecerdasan buatan, dan siapa yang mungkin menanggung tanggung jawab hukum jika jaringan saraf tidak berfungsi dengan benar di dunia nyata.

Kecerdasan buatan (AI) telah bergeser dari laboratorium penelitian ke pengadilan, klinik, mobil, dan bursa efek, dengan jaringan saraf mendiagnosis penyakit, menyetujui pinjaman, dan semakin banyak melakukan tugas yang sebelumnya dianggap sebagai domain manusia. Namun, ketika sistem tersebut gagal di dunia nyata, kegagalan itu membawa konsekuensi yang serius dan kadang-kadang fatal.

Sebagai pengacara yang mewakili penggugat dalam perkara cedera pribadi di Ontario, Kanada, dan calon Doktor Administrasi Bisnis yang saat ini mempelajari persimpangan antara bisnis, hukum, dan teknologi, saya semakin sering ditanya pertanyaan sederhana: Jika AI menimbulkan kerugian, siapa yang bertanggung jawab?

Jawabannya sebenarnya lebih kompleks. AI menimbulkan tantangan bagi doktrin kelalaian, hubungan sebab-akibat, dan keterdugaan, serta memicu pertanyaan mendasar tentang bagaimana hukum harus menanggapi keputusan mesin.

Peran AI yang Meluas dalam Pengambilan Keputusan Berisiko Tinggi

AI tidak lagi terbatas pada otomatisasi tugas dengan keterampilan rendah atau platform pembelajaran mesin. Sekarang, AI membuat keputusan tentang kesehatan, keuangan, pekerjaan, transportasi, penegakan hukum, dan analitik hukum.

Model AI saat ini biasanya terdiri dari jaringan saraf mendalam yang, meskipun dapat mendeteksi pola kompleks dalam dataset besar, tetap tidak transparan bagi pengembangnya. Akademisi telah mengamati bahwa sistem AI memperkenalkan ketakterdugaan dan otonomi ke dalam hukum, yang sebelumnya diatur secara ketat oleh keterdugaan dan niat. Ini menciptakan konflik antara inovasi dan akuntabilitas.

Sementara sistem hukum menganggap kerugian yang disebabkan sebagai sesuatu yang dapat dikaitkan dengan manusia, AI mendistribusikan tanggung jawab kepada para penyusun dataset, pengembang sistem, pihak yang menerapkannya, dan pengguna akhir. Tanggung jawab menjadi tidak jelas.

Celah Tanggung Jawab: Ketika Kerugian Tidak Dapat Dengan Mudah Diatribusikan

Sarjana hukum semakin sering merujuk pada “celah tanggung jawab” yang muncul dalam tata kelola AI. Hukum perbuatan melawan hukum (tort) tradisional mensyaratkan identifikasi:

  1. Kewajiban bertindak hati-hati
  2. Pelanggaran kewajiban tersebut
  3. Hubungan sebab-akibat
  4. Kerugian

AI mempersulit setiap elemen. Misalnya, pengembang mungkin tidak tahu bagaimana model akan berperilaku setelah diterapkan, dan organisasi mungkin menggunakan sistem pembelajaran mesin pihak ketiga. Dari perspektif pengguna akhir, mekanisme untuk menentukan output tidak transparan.

Satu studi akademis mencatat bagaimana membuktikan kesalahan lebih sulit jika sistem AI bertindak semiotonom atau beradaptasi secara otonom melalui proses seperti pembelajaran mesin. Fragmentasi ini menantang doktrin yang bergantung pada tindakan manusia.

Dalam litigasi cedera pribadi, pengadilan secara tradisional memeriksa apakah tergugat bertindak dengan cara yang wajar dalam keadaan tersebut. Namun, bagaimana pengadilan harus menilai kewajaran ketika pengambilan keputusan sebagian didelegasikan kepada model probabilistik?

Jaringan Saraf dan Masalah Keterjelasan

Sistem pembelajaran mendalam sering beroperasi sebagai “kotak hitam.” Proses pengambilan keputusan internal tidak dapat dengan mudah diinterpretasikan, bahkan oleh ahli. Kurangnya keterjelasan ini memiliki implikasi hukum yang serius.

Jika sistem AI medis salah mendiagnosis kanker, siapa yang akan bertanggung jawab? Bisa jadi:

  • Bagaimana model dilatih
  • Apakah data pelatihan mengandung bias
  • Apakah proses validasi memadai
  • Apakah klinisi terlalu banyak mengandalkan output otomatis

Literatur hukum merekomendasikan perbedaan antara tanggung jawab kausal, tanggung jawab peran, dan tanggung jawab hukum untuk mengatribusikan tanggung jawab atas kerugian yang disebabkan oleh AI.

Namun, dalam praktik, tanggung jawab bisa meluas ke rantai aktor:

  • Penyedia data
  • Pengembang perangkat lunak
  • Pelatih model
  • Penerap
  • Organisasi yang menggunakan output AI
  • Profesional yang mengandalkan rekomendasi AI

AI tidak menghilangkan tanggung jawab, tetapi mendistribusikannya.

Pelajaran dari Kendaraan Otonom: Studi Kasus tentang Tanggung Jawab AI

Litigasi kendaraan otonom memberikan gambaran awal tentang bagaimana pengadilan mungkin menangani kerugian yang terkait dengan AI. Pengadilan telah menerapkan prinsip-prinsip konvensional tentang kelalaian dan tanggung jawab produk kepada teknologi baru yang menyebabkan cedera. Dalam kasus-kasus baru-baru ini, juri telah mulai membagi tanggung jawab antara pengemudi manusia dan perusahaan teknologi yang menciptakan sistem mengemudi otomatis.

Komentator hukum telah menyarankan bahwa doktrin tanggung jawab produk yang ada, seperti cacat desain, cacat manufaktur, dan kegagalan untuk memperingatkan, relevan dengan sistem yang diaktifkan AI.

Namun, kendaraan otonom mengungkapkan keterbatasan kerangka hukum saat ini. Apakah tanggung jawab harus melekat pada: Produsen kendaraan? Pengembang perangkat lunak? Operator manusia? Atau data yang digunakan untuk melatih algoritma?

Beberapa sarjana telah menyarankan bahwa penerapan analogi prinsip tanggung jawab produk dapat secara efektif membatasi tanggung jawab antara aktor hulu dan hilir.

Dari perspektif penggugat, kasus-kasus tersebut menunjukkan bahwa pengadilan masih dapat menerapkan prinsip-prinsip konvensional kepada teknologi baru, tetapi hanya dengan bukti ahli yang sangat maju dan pengetahuan teknis.

Tanggung Jawab Mutlak dan Kelalaian: Teori Hukum yang Bersaing

Perdebatan utama adalah apakah kerangka kelalaian konvensional dapat diterapkan pada sistem AI. Beberapa sarjana mendukung rezim tanggung jawab mutlak, dengan alasan bahwa pihak yang dirugikan tidak harus menanggung beban membuktikan kesalahan dalam lingkungan teknologi yang sangat kompleks.

Tanggung jawab mutlak mungkin sangat berguna di mana kerugian dapat diprediksi tetapi tidak dapat dihindari, di mana sistem AI diterapkan dalam skala besar, dan di mana risiko secara sosial didistribusikan. Hal yang sama berlaku ketika hubungan sebab-akibat teknis sulit dibuktikan.

Juga ditegaskan bahwa hukum kelalaian dapat beradaptasi dengan perubahan teknologi. Penelitian hukum komparatif telah mendukung pengembangan berdasarkan doktrin yang ada, dengan efek stabilisasi intrinsik dan adaptasi inkremental terhadap kerugian baru.

Tanggung jawab mutlak dan kelalaian menggambarkan preferensi kebijakan yang terkait dengan inovasi, keadilan, dan bagaimana risiko dan biaya harus dialokasikan.

Apakah inovator harus bertanggung jawab atas risiko teknologi? Atau apakah masyarakat secara luas harus membagi biaya kemajuan?

Perspektif Bisnis: Alokasi Risiko dan Asuransi

Dari perspektif bisnis, tanggung jawab AI tidak hanya merupakan masalah hukum tetapi juga masalah manajemen risiko. Organisasi yang menerapkan sistem AI telah mulai fokus pada pertanyaan tentang alokasi risiko melalui kontrak, asuransi tanggung jawab profesional, cakupan asuransi risiko siber, kewajiban ganti rugi, serta kerangka kepatuhan regulasi.

Pasar asuransi mungkin memainkan peran penting dalam membangun akuntabilitas untuk AI. Beberapa penelitian menyarankan bahwa beberapa kerugian dari AI mungkin pada akhirnya paling baik ditangani dengan skema kompensasi hibrida yang menggabungkan asuransi dan hukum perbuatan melawan hukum.

Perusahaan yang mengintegrasikan AI ke dalam pengambilan keputusan operasional harus mempertimbangkan risiko litigasi dalam transformasi digital mereka. Kegagalan untuk melakukannya mungkin meninggalkan organisasi tersebut terbuka untuk kerugian reputasi, sanksi regulasi, dan tanggung jawab perdata.

Tanggung Jawab Etis vs Tanggung Jawab Hukum

Dalam banyak kasus, tanggung jawab hukum tidak setara dengan tanggung jawab etis. Debat tata kelola AI termasuk prinsip-prinsip berikut:

  • Keadilan
  • Transparansi
  • Akuntabilitas
  • Keterjelasan

Namun, kewajiban hukum tidak secara otomatis mengikuti dari pertimbangan etis.

Karya terbaru mengusulkan kerangka konseptual untuk mengalokasikan tanggung jawab dalam ekosistem AI multi-aktor dan untuk membangun aturan bukti yang menghubungkan keputusan desain dengan hasil hukum. Oleh karena itu, sistem hukum yang berupaya mendorong inovasi juga harus mempertimbangkan mereka yang dirugikan oleh teknologi baru. Upaya menyeimbangkan kepentingan ini akan membentuk masa depan tata kelola AI.

Masa Depan Kelalaian di Era Kecerdasan Buatan

Kecerdasan buatan menantang asumsi bahwa otoritas pengambilan keputusan selalu berada pada aktor manusia yang dapat diidentifikasi. Namun, tanggung jawab hukum pada akhirnya tetap berada pada manusia.

Dalam waktu dekat, kecil kemungkinan pengadilan akan mengakui sistem AI sebagai subjek hukum. Sebaliknya, diharapkan bahwa individu yang mengembangkan, menerapkan, dan memperoleh keuntungan dari sistem AI akan dimintai pertanggungjawaban.

Saat sistem AI tumbuh lebih mandiri, model hibrida mungkin berkembang, menggabungkan berbagai bentuk regulasi:

  1. Prinsip kelalaian
  2. Doktrin tanggung jawab produk
  3. Pengawasan regulasi
  4. Skema kompensasi berbasis asuransi

Alih-alih menggantikan konsep common law, AI mungkin hanya memaksa pengadilan untuk memperjelasnya. Dari perspektif penggugat, pertanyaannya adalah apa yang terjadi.

Siapa yang Menciptakan Risiko? Siapa yang Paling Mampu Mencegah Risiko Merugikan Individu?

Sampai pembentuk undang-undang menetapkan rezim tanggung jawab AI yang menyeluruh, pengadilan akan menerapkan doktrin hukum yang ada pada teknologi baru. Jaringan saraf mungkin merupakan hal baru. Kelalaian bukan hal baru.

Kanon Clifford adalah pengacara yang mewakili penggugat dalam perkara cedera pribadi di Bergeron Clifford. Kemampuan untuk membuat perubahan yang berarti dalam kehidupan orang banyak adalah yang menarik Kanon ke hukum cedera. Bagi Kanon, hak klien untuk kompensasi yang adil adalah pilar dari komitmennya yang mendalam untuk meningkatkan kehidupan orang-orang yang cedera dan keluarga mereka. Kanon memulai di Bergeron Clifford sebagai mahasiswa musim panas, belajar tentang hukum cedera. Dia kemudian menyelesaikan pelatihan praktik hukumnya di firma kami sebelum diterima untuk berpraktik sebagai pengacara di Ontario pada tahun 2020. Dia memegang B.Soc.Sc. dari Universitas Ottawa. Dia lulus dengan LL.B. (Honours) dari Universitas Exeter di Devon, Inggris dan juga memegang LL.M. (Conflict Resolution) dengan Distinctions dari Universitas Hukum di London, Inggris. Dia saat ini belajar paruh waktu untuk Doktor Administrasi Bisnis (D.B.A.), fokus pada persimpangan hukum, bisnis, dan teknologi.