Tantangan Selanjutnya bagi AI dalam Hukum Cedera Pribadi adalah Akuntabilitas

Beberapa penggunaan AI relatif tidak menimbulkan masalah; yang lain dapat menimbulkan kontroversi yang signifikan. Mengingat teknologi ini masih relatif baru, dapat dikatakan adopsi luasnya di industri hukum termasuk ke dalam kategori yang terakhir.

Kekhawatiran tentang peran AI dalam praktik hukum masih meluas, terutama ketika hasilnya memengaruhi analisis hukum atau hasil bagi klien. Orang khawatir bahwa pengacara menyerahkan pemikiran mereka kepada mesin, dan bukti penting yang disiapkan oleh alat tersebut dapat disalahartikan oleh hakim atau juri. Mungkinkah AI memiliki peran sah dalam sistem keadilan yang menjunjung keadilan, transparansi, dan proses hukum yang layak sebagai pilar-pilarnya?

Terlepas dari itu, AI sudah menemukan penggunaan praktis dalam pekerjaan hukum, terutama dalam peninjauan dokumen, riset, rangkuman, dan penyusunan. Dan tampaknya tidak akan menghilang: Tim hukum di sekitar 41 persen firma hukum kini menggunakan alat AI, dan angka tersebut diperkirakan akan terus meningkat.

Sebagai pengacara cedera pribadi, saya melihat celah regulasi muncul akibat penggunaan AI di firma hukum jauh lebih cepat daripada standar hukum yang dapat mengimbanginya. Aturan profesional yang ada membuat pengacara bertanggung jawab atas pekerjaan mereka, namun tidak selalu menyelesaikan setiap pertanyaan khusus AI terkait pengungkapan, auditabilitas, tanggung jawab vendor, retensi data, dan tingkat peninjauan manusia yang diperlukan.

Mendefinisikan Akuntabilitas

Akuntabilitas adalah salah satu pertanyaan paling sulit yang diajukan oleh AI: Siapa yang memikul tanggung jawab hukum ketika AI membuat kesalahan?

Secara terkenal, dalam kasus 2023 Mata vs. Avianca, pengacara penggugat menggunakan ChatGPT untuk menghasilkan kutipan hukum. Namun chatbot tersebut mengarang dan menyajikan kasus yang tidak ada yang kemudian secara resmi diajukan sebagai preseden kepada hakim. Keributan yang terjadi dalam banyak hal tak terelakkan, namun hal itu menegaskan prinsip penting: AI dapat membantu pengacara, tetapi tidak dapat menggantikan kewajiban profesional mereka untuk memverifikasi keakuratan pekerjaan mereka.

Namun dalam hukum cedera pribadi, tantangan akuntabilitas melampaui kutipan hukum. Mengingat sifat kasus yang sensitif dan sering rumit dalam bidang ini, setiap kesalahan dapat memengaruhi negosiasi penyelesaian atau strategi litigasi jauh sebelum kasus sampai ke ruang sidang.

Misalkan sebuah alat AI digunakan untuk merangkum dan memadatkan ratusan halaman rekam medis menjadi catatan kronologis peristiwa. Namun detail tentang cedera kritis yang terjadi lebih awal terkubur. Penghilangan semacam itu akan memengaruhi tuntutan pengacara dan klien, dan mungkin baru terdeteksi selama deposisi.

Tidak membantu bahwa kesalahan AI dapat sulit diidentifikasi. Kutipan yang dipalsukan merupakan kegagalan yang jelas dan dapat dikenali, tetapi sistem AI yang mengabaikan kondisi medis yang sudah ada, merangkum pendapat saksi secara keliru, atau menghitung biaya perawatan masa depan secara salah — kesalahan semacam itu dapat tampak wajar dan tidak terdeteksi.

Bias dapat menjadi lebih sulit dideteksi. Sebuah sistem penilaian yang dilatih dengan data yang secara historis tidak seimbang dapat, misalnya, secara sistematis meremehkan klaim yang terkait dengan kelompok demografis tertentu.

Menggunakan AI dengan Bijak

AI dapat menyaring tumpukan dokumen, menganalisis rekam medis, dan bahkan menyusun tuntutan hukum. Jika digunakan dengan tepat, kemampuan ini dapat mengurangi pekerjaan administratif yang berlebihan dan memungkinkan pengacara menghabiskan lebih banyak waktu untuk memberi nasihat kepada klien serta mengembangkan strategi hukum.

Namun tidak setiap tugas dapat didelegasikan, dan kasus cedera pribadi jarang sederhana. Mereka melibatkan kesaksian saksi yang saling bertentangan, bukti medis yang berkembang, pertanyaan tentang kredibilitas, dan negosiasi yang bergantung pada penilaian manusia sebanyak pada preseden hukum. Data historis dapat membantu AI mengidentifikasi pola penyelesaian, tetapi tidak dapat menggantikan penilaian penasihat tentang bagaimana seorang penggugat, saksi, atau fakta tertentu kemungkinan akan dipersepsikan di persidangan.

Bahaya terbesar, oleh karena itu, adalah pengacara menaruh kepercayaan yang tidak berdasar pada output yang tampak otoritatif dan objektif, padahal AI dapat salah, buta terhadap konteks, dan tidak mampu meniru penilaian manusia.

Kekhawatiran serupa muncul di sektor asuransi. Pertimbangkan reaksi negatif terhadap perusahaan asuransi kesehatan yang menggunakan AI untuk meninjau klaim. Orang ingin diyakinkan adanya pengawasan manusia, mengetahui bahwa seorang manusia sejati yang mampu menilai telah meninjau kasus mereka, meskipun beban kerja telah dikurangi dan dipercepat oleh AI.

Hukum tidak berbeda, dan sejauh apapun AI membantu mengurangi pekerjaan rutin, harus diakui bahwa AI harus digunakan secara selektif, dengan batas yang jelas dan pengawasan manusia yang bermakna. Untungnya, ini tampaknya menjadi arah yang diambil sebagian besar pengacara: sekitar 83 persen profesional hukum mengatakan penggunaan AI untuk memberikan nasihat hukum tidak tepat.

Kerangka Regulasi

Pada dasarnya, regulasi harus menargetkan cara penggunaan AI, serta di mana penggunaannya tepat.

Jika AI generatif digunakan untuk menghasilkan dokumen atau berkas pengadilan, maka secara hukum harus diwajibkan bagi pengacara untuk secara pribadi memverifikasi setiap analisis hukum, kutipan, atau perhitungan kerugian sebelum dibagikan kepada klien atau diajukan ke pengadilan.

Peninjauan manusia harus menjadi langkah wajib, bukan sekadar praktik terbaik yang direkomendasikan. Semakin penting outputnya, semakin ketat peninjauan yang diperlukan. Setiap kutipan hukum, perhitungan kerugian, kronologi medis, atau pernyataan faktual yang dihasilkan AI dan ditujukan untuk klien atau pengadilan tidak boleh sampai ke audiens tanpa verifikasi pengacara yang bermakna.

Kegagalan melakukan hal tersebut, misalnya tertangkap mengajukan informasi yang dihalusinasi di pengadilan, harus berakibat pada konsekuensi profesional yang serius.

Firma juga harus diwajibkan untuk menghasilkan dan memelihara catatan yang dapat diaudit tentang penggunaan AI mereka. Jika AI membantu meninjau rekam medis, menyusun surat tuntutan, atau merangkum kesaksian, pengacara harus dapat mengidentifikasi alat apa yang digunakan, informasi apa yang diproses, dan pengacara mana yang meninjau serta menyetujui dokumen akhir. Buatlah sistem yang menekankan akuntabilitas sehingga kesalahan dapat diperbaiki sebelum menjadi masalah selama litigasi.

Akhirnya, ada masalah perlindungan data. Kasus cedera pribadi sering melibatkan rekam medis yang luas, riwayat pekerjaan, dokumen keuangan, dan informasi rahasia klien lainnya. Memasukkan data ini ke dalam sistem AI menimbulkan risiko baru terkait retensi data, akses tidak sah, dan apakah informasi yang dikirim ke penyedia AI pihak ketiga dapat digunakan untuk melatih model di masa mendatang.

Langkah-langkah kerahasiaan yang ada sudah mengharuskan pengacara mempertimbangkan risiko tersebut. Regulator sebaiknya melangkah lebih jauh dengan menetapkan harapan minimum untuk ketelitian vendor, kebijakan retensi, penggunaan data pelatihan, dan kontrol akses.

Pemikiran Akhir

Seiring AI semakin banyak digunakan dalam litigasi, industri dihadapkan pada peluang sekaligus tantangan. Teknologi ini tentu dapat memberi pengacara waktu untuk fokus pada elemen yang lebih kritis, tetapi tanpa transparansi dan kerangka kerja yang dipertimbangkan dengan baik untuk penggunaan serta pengungkapan, AI berpotensi merusak kepercayaan pada sistem peradilan kita dan menanamkan bias dalam proses pengadilan.

Tampaknya AI sendiri kini berada di pengadilan. Namun sebelum dapat dipanggil sebagai saksi, harus ada regulasi spesifik yang menentukan apa yang secara hukum diperbolehkan dan tidak. Hanya dengan menciptakan standar yang jelas untuk transparansi dan akuntabilitas, klien dan pengadilan akan yakin bahwa AI meningkatkan litigasi tanpa mengorbankan prinsip keadilan, kejujuran, dan kesetaraan bagi semua.