Josephine Petrick, Kepala Produk AI di BriefCatch – Seri Wawancara

Josephine Petrick sebagai Kepala Produk AI di BriefCatch membawa kombinasi langka dari pengalaman litigasi banding, penilaian produk AI, dan keahlian drafting hukum tangan ke salah satu platform penulisan hukum yang paling berspesialisasi di industri hukum. Dalam perannya, dia memimpin strategi produk AI untuk BriefCatch, memandu pengembangan alat generatif dan berbasis pengambilan yang dirancang untuk meningkatkan cara pengacara dan hakim menyusun, mengedit, dan memperhalus dokumen hukum. Latar belakangnya termasuk menjabat sebagai mitra di The Norton Law Firm, penasihat senior dan litigator banding di Hanson Bridgett, dan clerk hukum untuk Hakim James L. Dennis dari Pengadilan Banding AS untuk Sirkuit Kelima. Campuran pengalaman pengadilan, banding, dan konsultasi itu memberinya perspektif praktisi dalam membangun alat AI yang menangani tantangan penulisan hukum yang nyata daripada masalah produktivitas abstrak.

BriefCatch adalah platform penulisan dan penyuntingan hukum yang ditenagai AI, dibangun khusus untuk pengacara, hakim, kantor hukum, pengadilan, dan lembaga pemerintah. Didirikan pada 2017 dan dibangun di sekitar keahlian penulisan hukum Ross Guberman, platform ini membantu para profesional hukum meningkatkan kejelasan, ketepatan, persuasi, dan kredibilitas langsung dalam alur kerja penulisan mereka. BriefCatch mengklaim mendukung lebih dari 300 kantor hukum, termasuk 45+ kantor hukum Am Law 200, bersama dengan 80+ pengadilan, dan produk BriefCatch Next yang lebih baru menggabungkan panduan penulisan hukum ahli dengan alat AI opsional yang dimaksudkan untuk meningkatkan – bukan menggantikan – penilaian hukum.

Baru-baru ini Anda bergabung dengan BriefCatch sebagai Kepala Produk AI setelah menjabat sebagai pengacara banding, spesialis banding bersertifikat, dan pembangun produk teknologi hukum. Bagaimana pengalaman Anda di persimpangan hukum banding, strategi hukum, dan teknologi telah membentuk visi Anda untuk AI dalam profesi hukum?

Setelah mengambil jurusan linguistik di Cal, saya sangat tertarik dengan AI dan selalu berharap bisa masuk ke bidang itu. Saya tertarik dengan potensi AI untuk memperluas kecerdasan manusia dan membantu menyelesaikan masalah praktis dalam skala besar. Saya menjadi pengacara karena alasan yang sama. Ibu saya adalah pengacara konstitusi, dan dari dia, saya belajar bahwa hukum dapat digunakan untuk membantu orang dengan efisien, dalam skala besar. Ketika saya berpraktik, saya menganggap bahwa jalur karir di AI telah tertutup. Jadi, ini sedikit ironis, dan sangat memuaskan, bahwa karir hukum saya telah membawa saya kembali ke pertanyaan yang menarik saya sejak awal: Bagaimana kita menggunakan teknologi untuk membuat keahlian lebih tersedia, lebih berguna, dan lebih manusiawi?

Saya telah bereksperimen dengan model bahasa besar sejak sebelum mereka dipaketkan sebagai chatbot, kembali ketika OpenAI menawarkan produknya sebagai sandbox. Dari awal, saya bisa melihat potensi untuk pemecahan masalah praktis. Bisakah ini membantu dengan tinjauan catatan? Bisakah ini membuat penelitian aturan lokal kurang menyakitkan? Bisakah ini membantu melacak kasus yang tertunda di Mahkamah Agung California, memperkirakan berapa lama banding akan berlangsung, atau merampingkan praktik gerakan pasca-persidangan? Bisakah ini membantu seseorang keluar dari kesulitan?

Salah satu contoh favorit saya tentang pertanyaan terakhir berasal dari ayah saya, seorang teoretikus angka pensiun yang masih bekerja pada masalah terbuka. Saya membujuknya untuk mencoba akun pro LLM, dan dia telah menggunakannya untuk membuktikan teorema dan membuat kemajuan pada masalah yang telah dia pikirkan selama bertahun-tahun. Salah satu alasan LLM sangat efektif dalam memecahkan masalah matematika terbuka, seperti masalah Erdős, adalah bahwa mereka memiliki pelatihan di banyak bidang matematika, dan dapat mentransfer teknik-teknik tersebut dari satu domain ke domain lain (misalnya, menggunakan teknik dari teori angka aljabar untuk memecahkan masalah dalam geometri elementer). Pengalaman itu menangkap sesuatu yang penting bagi saya: AI dapat memperluas jangkauan kreatif kita, membantu kita mengandalkan tubuh pengetahuan dan keahlian manusia yang lebih luas daripada yang dapat kita pegang secara individu, dan menggunakan itu untuk membuat kemajuan dalam pengetahuan dan upaya manusia yang akan memakan waktu lebih lama.

Saya melihat pola yang sama dalam praktik hukum. Sebagai pengacara banding, pertanyaan prosedural dan strategis yang sama muncul berulang-ulang. Jadi, saya membangun database, pelacak, infografis, sumber daya klien, kalkulator durasi banding, alat waktu pasca-persidangan, dan akhirnya membantu membangun basis data aturan hukum. Benang merahnya selalu sama: pengetahuan ada, tetapi terjebak dalam PDF, buku, seminar, catatan internal, atau kepala seorang ahli. Saya menjadi obsesif dengan masalah yang tidak biasa AI untuk diselesaikan: bagaimana membuat pengetahuan dan keahlian tersedia saat orang membutuhkannya.

Itu membentuk visi saya untuk AI hukum. Sebagian besar produk teknologi hukum berjanji bahwa AI akan mengotomatisasi kebosanan sehingga pengacara dapat fokus pada strategi. Itu benar dan berharga, tetapi itu hanya awal. Yang paling saya minati sekarang adalah mengaktifkan keahlian. Seorang pengacara mungkin telah membaca buku yang tepat, menghadiri CLE yang tepat, menyimpan posting yang tepat, atau belajar pelajaran yang tepat dari praktik, tetapi pengetahuan itu sering dorman ketika pengacara sebenarnya menyusun, meneliti, atau memberi nasihat kepada klien.

BriefCatch duduk langsung di kesempatan itu. Penulisan hukum tidak hanya polesan. Itu adalah tempat penilaian hukum, strategi, dan persuasi menjadi dapat digunakan oleh pikiran lain. Saya bersemangat tentang masa depan ketika AI membantu pengacara mengambil dan menerapkan aturan yang tepat, teknik, strategi, peringatan, atau wawasan strategis pada saat itu, sambil melestarikan penilaian profesional dan akuntabilitas. Saya memikirkannya sebagai eksoskeleton keahlian: teknologi yang membantu pengacara membawa lebih banyak pengetahuan, melihat lebih jelas, menghindari kesalahan yang dapat dicegah, dan menerapkan penilaian terbaik mereka ketika itu paling penting. Jika kita membangun sistem ini dengan baik, masyarakat akan diuntungkan karena keahlian hukum menjadi kurang terjebak dalam saluran satu-ke-satu yang mahal dan lebih tersedia bagi orang, bisnis, pengadilan, dan lembaga yang bergantung padanya.

BriefCatch baru-baru ini memperkenalkan RealityCheck, alat yang dirancang untuk mengidentifikasi kutipan hukum yang halusinatif atau tidak didukung sebelum pengajuan. Apa yang Anda lihat sebagai celah terbesar dalam alat AI hukum yang ada yang membuat kemampuan ini diperlukan, dan seberapa signifikan masalah keandalan kutipan saat ini?

Celah terbesar adalah bahwa terlalu banyak alat masih dioptimalkan sekitar generasi daripada verifikasi. Mereka dapat membantu menghasilkan teks dengan cepat, yang terlihat mengesankan, tetapi pekerjaan hukum tidak berakhir dengan teks yang masuk akal. Itu bahkan tidak dimulai dari sana. Sistem hukum kita secara fundamental bergantung pada hakim dan pengacara yang setia menghitung dan menerapkan wewenang. Setiap alat hukum harus dimulai dengan wewenang yang sebenarnya ada, harus secara akurat menggambarkan apa yang wewenang tersebut katakan, bagaimana mereka telah diterapkan, dan apakah proposisi untuk yang mereka ditunjuk didukung mempertimbangkan konteks di mana wewenang tersebut diputuskan. Apa pun yang kurang dari itu adalah fiksi hukum. Ada kata-kata yang kurang sopan untuk itu, tetapi saya akan meninggalkannya kepada hakim yang telah menanganinya di pengadilan mereka.

Itulah mengapa alat seperti RealityCheck sangat penting. Masalahnya tidak terbatas pada kasus yang sepenuhnya difabrikasi, meskipun itu jelas mengkhawatirkan. Ada mode kegagalan yang lebih halus dan lebih umum: kasus nyata yang dikutip untuk proposisi yang salah, suatu holding yang dilebih-lebihkan, kutipan yang sedikit diubah, kurung yang menghaluskan perbedaan yang tidak nyaman, atau kutipan yang terlihat secara wajah yang tepat tetapi tidak benar-benar mendukung kalimat yang diikuti.

Ini bukanlah masalah baru dalam praktik hukum, tetapi sekarang diperkuat. Pengacara selalu bertanggung jawab untuk memeriksa pekerjaan mereka, tetapi skala dan kecepatan penyusunan AI yang dibantu membuat verifikasi lebih penting. Pertanyaannya bukan hanya “Apakah AI mengalami halusinasi?” Ini adalah “Apakah dokumen yang diajukan ini berisi asersi hukum yang akurat, didukung, dan dapat dipertahankan secara profesional?”

Saya juga berpikir kita harus berhati-hati untuk tidak mengobati pekerjaan manusia sebagai standar emas. Manusia salah mengutip, melebih-lebihkan, dan melewatkan hal-hal, terutama di bawah tekanan waktu. Tidak peduli sumber teks, praktik terbaik adalah tinjauan berlapis: penilaian manusia, alat yang didasarkan pada sumber, periksa deterministik di mana tepat, dan alur kerja verifikasi yang membuat kesalahan lebih mudah ditangkap sebelum mereka menjadi perintah untuk menunjukkan penyebab.

Banyak pengacara masih skeptis tentang AI generatif karena kekhawatiran sekitar akurasi, etika, dan tanggung jawab profesional. Langkah-langkah praktis apa yang dapat diambil perusahaan teknologi hukum untuk membangun kepercayaan dan mendorong adopsi yang bertanggung jawab?

Produk yang dapat dipercaya harus membuat batasannya terlihat. Mereka harus menunjukkan sumber ketika sumber itu penting. Mereka harus membuat jelas kapan suatu sistem menghasilkan bahasa versus memverifikasi kutipan atau menerapkan aturan deterministik. Mereka juga harus jujur tentang keterbatasan, karena klaim yang berlebihan adalah salah satu cara tercepat untuk kehilangan kepercayaan pengacara.

Adopsi yang bertanggung jawab harus dibangun ke dalam alur kerja. Pengacara tidak perlu menjadi insinyur prompt atau petugas risiko AI untuk menggunakan alat ini dengan baik. Produk yang baik harus memandu pengguna menuju penggunaan yang bertanggung jawab dengan desain: melestarikan kerahasiaan, mendukung pengawasan, memungkinkan tinjauan, mempertahankan jejak audit di mana tepat, dan membuat verifikasi mudah.

Anda telah bekerja secara luas dengan teknik generasi yang ditingkatkan dengan pengambilan (RAG) dan teknik lain yang dirancang untuk meningkatkan keandalan sistem AI. Di mana Anda percaya produk AI hukum saat ini masih kurang, dan apa kemajuan teknis yang diperlukan untuk menutup celah-celah tersebut?

Produk AI hukum sudah sangat mengesankan dalam penyusunan, penyajian, brainstorming, dan pengambilan. Beberapa masih kurang pada metrik penting: akurasi yang ketat yang dituntut praktik hukum. (Sistem keadilan kita bergantung pada itu!)

Saya akan memikirkan celah keandalan sebagai masalah sistem, bukan masalah model tunggal. Model yang lebih baik akan membantu, tetapi keandalan kelas hukum datang dari beberapa lapisan yang bekerja bersama: pengambilan dan peringkat, loop verifikasi, memori, desain alur kerja, dan arsitektur hibrida deterministik/LLM.

Mekanika dasar pengambilan cukup dipahami, tetapi membutuhkan banyak pengujian dan iterasi untuk mendapatkan recall dan peringkat yang tepat. Agen adversarial dan loop agenik menjadi lebih umum, tetapi tantangan desain adalah membuat periksaan tersebut berdasar daripada menciptakan “double-check sprawl” yang mahal dan berat. Dengan memori LLM, tantangan teknis termasuk di mana memori itu berada (memori umum versus alur kerja khusus; sistem memori dapat terasa seperti tambahan) dan bentuknya untuk memastikan agen mengaksesnya saat diperlukan. Desain alur kerja masih penting; jika sistem diberi prompt panjang dan samar, itu akan menghasilkan hasil yang tidak lengkap atau generik. AI hukum membutuhkan alur kerja yang lebih terstruktur, memecah tugas menjadi langkah-langkah yang disengaja untuk memastikan itu memiliki konteks yang diperlukan dan melewati semua langkah yang diperlukan untuk menghasilkan produk hukum yang akurat dan luar biasa. Tetapi ini mungkin menjadi kurang dari masalah ketika kita mengembangkan model dasar yang lebih besar dan meningkatkan kompresi.

Satu lagi tuas untuk ditarik adalah campuran antara aturan deterministik seperti regex dan model probabilistik. LLM sangat berguna dalam fase prototipe karena membantu Anda menemukan bentuk masalah. Tetapi setelah Anda memiliki prototipe yang baik dan memahami pola, Anda mungkin ingin menggulirkan bagian dari alur kerja kembali ke logika deterministik. Dan meskipun LLM dapat inkonsisten, mereka sangat baik dalam melengkapi apa yang tidak cukup fleksibel untuk ditangkap oleh aturan deterministik, dan menggunakan aturan deterministik/kode itu sendiri. Sistem terkuat tidak akan murni deterministik atau murni berbasis LLM. Mereka akan menggunakan aturan deterministik di mana masalahnya dipahami, dan LLM di mana ambiguitas, penilaian, atau pemahaman bahasa yang sensitif konteks diperlukan. Pertanyaannya adalah di mana batasnya: di mana aturan berakhir, dan di mana model harus mengambil alih?

Ketika Anda mulai melapis-lapis teknik ini, Anda dapat membuat perbaikan besar dalam celah keandalan, tetapi pertukarannya adalah kompleksitas rekayasa, biaya token, dan latensi. Saya berharap ini akan ditingkatkan dengan kemajuan teknis dan ketika memori dan kompresi menjadi lebih efektif dan lebih mudah dibangun ke dalam model dasar.

Penulisan hukum sering memerlukan nuansa, persuasi, dan interpretasi hati-hati dari preseden. Aspek mana dari penulisan hukum yang Anda percaya AI dapat memperbaiki secara signifikan hari ini, dan aspek mana masih memerlukan penilaian manusia yang unik?

AI dapat memperbaiki banyak penulisan hukum, terutama ketika tugasnya terdefinisi dengan baik. Ini dapat membantu mengidentifikasi kalimat yang tidak jelas, poin yang terkubur, inkonsistensi, redundansi, organisasi yang lemah, asersi faktual yang tidak didukung, masalah kutipan, dan tempat-tempat di mana draf tidak membimbing pembaca dengan baik. Ini juga dapat membantu pengacara berpikir kreatif, menguji argumen, dan menerapkan prinsip-prinsip penulisan dan persuasi yang diketahui pada saat penyusunan daripada mengandalkan memori saja.

Bagian terakhir itu sangat menarik bagi saya. Seorang pengacara mungkin tahu, secara teori, bahwa sebuah brief memerlukan pengantar yang lebih kuat, pernyataan aturan yang lebih jelas, atau pernyataan fakta yang lebih ramah pembaca. Tetapi ketika Anda menyusun di bawah tekanan, mengetahui dan menerapkan bukanlah sama. AI dapat membawa panduan penulisan ahli ke dalam alur kerja ketika itu dapat memperbaiki dokumen.

Tapi penulisan hukum yang baik bukan hanya kerajinan atau optimasi teks. Ini juga kemampuan untuk mengidentifikasi detail yang paling penting, paling menarik, dan paling khas, dan kemudian mengubahnya menjadi teori yang membuat pembaca memahami mengapa perselisihan ini penting. Dalam pengalaman saya, itu masih di mana pengacara manusia jauh lebih kuat daripada LLM. Mungkin itu selera, mungkin itu pengalaman, dan mungkin itu sesuatu yang lebih dalam tentang bagaimana sistem ini bekerja. LLM dilatih untuk menghasilkan kelanjutan teks yang masuk akal, yang menciptakan gravitasi menuju teks yang terdengar biasa secara statistik. Dalam banyak konteks hukum, itu berguna. Anda sering tidak ingin penulisan hukum menarik perhatian pada dirinya sendiri. Anda ingin ide, fakta, dan wewenang bersinar melalui.

Tapi penulisan hukum yang persuasif sering bergantung pada menemukan apa yang berbeda. Apa detail yang membuat kasus hidup? Apa fakta yang mengubah valensi emosional perselisihan? Apa poin hukum yang akan membuat hakim duduk dan mengakui masalahnya? Sebagai pengacara banding, itu sering benang yang Anda coba temukan. Anda mencari versi kasus yang unik dan kompetitif enough untuk membuat tribunal peduli.

Itu adalah bagian yang saya tidak ingin AI menghilangkan dengan bias yang membosankan. Sistem dapat menyarankan kalimat yang lebih jelas, menandai kelemahan, menekan kutipan, atau mengingatkan pengacara tentang teknik persuasif. Tetapi pengacara masih harus memutuskan apa yang penting, apa yang dikompromikan, bagaimana agresifnya, apa yang tidak dikatakan, bagaimana menjelaskan ketidakpastian, dan bagaimana menjelaskan jantung emosional dan etis kasus.

Saya berhati-hati tentang mengatakan “AI tidak akan pernah bisa melakukan ini,” karena prediksi itu telah salah banyak kali. AI sudah melakukan banyak tugas diskrit lebih cepat dan lebih akurat daripada manusia, dan saya tidak berpikir itu masuk akal untuk merasa terancam oleh itu. Ini adalah alat. Tapi setidaknya hari ini, bagian paling penting dari persuasi hukum masih memerlukan penilaian manusia: memilih detail yang tepat, memahami mengapa mereka penting, dan membangun cerita yang secara emosional resonan.

Seiring AI menjadi lebih terintegrasi dalam alur kerja hukum, bagaimana Anda melihat peran asosiasi dan pengacara junior berkembang? Apakah AI secara fundamental dapat mengubah cara generasi pengacara berikutnya mengembangkan keterampilan penulisan dan penelitian hukum?

Ya, dan kita harus sengaja tentang itu. Pengacara junior telah belajar dengan melakukan pekerjaan yang sulit dengan lambat: meneliti, menyusun, merevisi, mendapatkan komentar, dan secara bertahap mengembangkan penilaian. AI akan mengubah jalur itu, tetapi itu tidak perlu melemahkan. Digunakan dengan baik, itu dapat membuat pelatihan lebih eksplisit dan lebih efektif.

Risikonya adalah pengacara junior melewatkan perjuangan yang membangun penilaian. Jika alat menghasilkan draf yang masuk akal terlalu cepat, pengacara baru mungkin tidak belajar bagaimana argumen itu dibangun, di mana titik lemahnya, atau mengapa satu kerangka lebih baik daripada yang lain. Itu akan menjadi kerugian yang nyata.

Tapi kesempatannya sangat besar. AI dapat berfungsi sebagai tutor, simulator, pelatih penulisan, dan sumber umpan balik langsung. Ini dapat menunjukkan struktur alternatif, mengidentifikasi klaim yang tidak didukung, menjelaskan mengapa kutipan mungkin tidak mendukung proposisi, atau membandingkan draf dengan prinsip-prinsip penulisan hukum yang efektif. Ini juga dapat memberi pengacara junior lebih banyak peluang. Mendapatkan peluang dan umpan balik adalah bagaimana kita belajar dan tumbuh.

Firma dan departemen hukum yang melakukan ini dengan baik tidak hanya akan memberi pengacara junior AI dan berharap yang terbaik. Mereka akan merancang kembali pelatihan di sekitar itu. Mereka akan meminta junior untuk menjelaskan pilihan mereka, memverifikasi output, membandingkan alternatif, dan belajar untuk mengawasi pekerjaan yang dibantu AI dengan cara yang sama seperti mereka akhirnya akan mengawasi pekerjaan manusia.

Anda telah menyarankan klien di berbagai industri, mulai dari cryptocurrency dan teknologi konsumen hingga litigasi komersial yang kompleks. Apakah ada sektor tertentu di mana Anda percaya adopsi AI hukum akan dipercepat, dan mengapa?

Saya percaya adopsi AI hukum akan bergerak cepat ketika

1. Organisasi memiliki alur kerja yang bekerja dengan baik dengan LLM,
2. Organisasi terbuka untuk inovasi, dan
3. Organisasi termotivasi untuk membuat perubahan.

Pada poin pertama, hukum adalah domain alami untuk LLM karena hukum, dalam banyak cara, adalah perilaku manusia dan nilai-nilai manusia yang dikodekan dalam bahasa. Pekerjaan hukum mengubah fakta yang berantakan menjadi kategori, aturan, kewajiban, argumen, risiko, dan konsekuensi. Itu adalah tepat wilayah di mana model bahasa dapat kuat, asalkan mereka didasarkan, dapat diverifikasi, dan dirancang di sekitar cara pengacara bekerja. Jadi, saya pikir sebagian besar organisasi di hukum adalah kandidat yang baik, kecuali mungkin mereka yang model layanan utamanya adalah interaksi manusia-ke-manusia. Tetapi bahkan untuk organisasi seperti klinik pro bono, LLM dapat membantu dengan hal-hal seperti triase dan manajemen pengetahuan, sehingga saya tidak akan mengecualikan mereka.

Faktor kedua, keterbukaan terhadap inovasi, mungkin lebih merupakan gerbang. Itulah mengapa saya pikir tim hukum internal sangat berposisi. Mereka duduk di dalam organisasi yang sudah mencoba meningkatkan kecepatan, mengurangi biaya, dan mengoperasikan pengetahuan dalam skala besar. Mereka mengelola kontrak, sengketa, kebijakan, kewajiban regulasi, masalah pelanggan, pertanyaan kepegawaian, konsultasi produk, dan penilaian risiko dalam skala besar. Alur kerja ini sering kali dapat diulang sehingga mendukung adopsi AI, sambil masih memerlukan penilaian hukum yang cukup sehingga alat yang lebih baik dapat membuat perbedaan yang signifikan.

Saya juga berpikir litigasi, praktik banding, industri yang diatur, fintech dan cryptocurrency, teknologi konsumen, asuransi, dan perawatan kesehatan akan menjadi area yang penting. Dalam litigasi dan praktik banding, misalnya, AI dapat membantu dengan tinjauan catatan, pelacakan masalah, pemeriksaan kutipan, aturan prosedural, analisis pelestarian, pemetaan argumen, dan umpan balik penyusunan. Taruhannya tinggi, jadi alat harus serius. Tetapi itu bukan alasan untuk menghindari adopsi. Itu adalah alasan untuk membangun produk yang lebih baik.

Faktor ketiga—motivasi untuk berubah—juga merupakan faktor penghalang yang signifikan. Industri hukum secara keseluruhan seharusnya termotivasi untuk berubah. Sistem peradilan lambat, mahal, dan tidak dapat diakses oleh terlalu banyak orang. Pertanyaan yang lebih sulit adalah apakah profesi itu terbuka untuk berubah. Saya pikir itu semakin terbuka. Beberapa bagian dari industri ini telah lambat untuk bergerak karena model yang ada menguntungkan dan familiar. Tetapi pengacara juga pemecah masalah. Banyak dari kita memiliki pemikiran keadilan, reformis, dan gigih dalam arti yang berguna. Kami dilatih untuk berargumen untuk perubahan ketika jawaban yang ada salah.

Sektor swasta mungkin bergerak lebih dulu karena lebih gesit dan lebih memiliki sumber daya. Pemerintah, bantuan hukum, dan organisasi pro bono menghadapi kendala yang berbeda dan sering harus fokus pada pekerjaan yang mendesak di depan mereka. Tetapi sektor-sektor ini tidak boleh meremehkan diri mereka sendiri. Jika AI dapat membantu membuat layanan hukum lebih efisien, lebih dapat diakses, dan lebih terjangkau, kesempatan jangka panjang tidak terbatas pada satu sektor. Ini relevan bagi semua orang yang peduli dengan membuat sistem hukum bekerja lebih baik.

Pengadilan, regulator, dan asosiasi pengacara semakin memeriksa penggunaan AI dalam praktik hukum. Apa kerangka etika atau regulasi yang Anda harapkan akan muncul dalam beberapa tahun mendatang, dan bagaimana penyedia teknologi hukum harus mempersiapkan diri?

Kerangka etika yang ada sudah dapat menangani sebagian besar kekhawatiran ini. Pengacara selalu diminta untuk memastikan bahwa semua yang mereka wakili kepada pengadilan didasarkan pada kebenaran. Mereka harus jujur ketika kasus melawan mereka dan transparan ketika mereka membuat kesalahan. Mereka harus menangani kasus mereka dengan kompeten dan mengawasi pengacara junior dan non-pengacara yang membantu mereka. Mereka harus menjaga informasi sensitif klien mereka dengan kerahasiaan.

Gelombang pertama etika AI tidak memerlukan sistem operasi moral yang sepenuhnya baru. Kita perlu menerapkan kewajiban yang familiar ini dengan seriusitas baru. Pengacara tidak dapat mengalihkan penilaian dan kemudian menyangkal tanggung jawab. Bagian itu tidak boleh kontroversial.

Satu hal yang kita harus mulai lakukan lebih banyak adalah pelatihan khusus teknologi sehingga pengacara tidak terkejut ketika mereka tidak memadai mengawasi atau memeriksa output AI. California, misalnya, sekarang mengharuskan kompetensi teknologi sebagai bagian dari pendidikan hukum berkelanjutan, dan saya pikir itu arah yang tepat. Tetapi satu jam setiap beberapa tahun tidak cukup. Firma hukum, departemen hukum, pengadilan, dan organisasi layanan hukum harus mengembangkan kebijakan AI internal mereka sendiri dan pelatihan wajib: tidak hanya “jangan kutip sumber yang halusinatif,” tetapi kapan menggunakan alat ini, kapan tidak menggunakannya, bagaimana memverifikasi output, bagaimana melindungi informasi rahasia, dan bagaimana berpikir tentang alokasi tanggung jawab antara manusia dan mesin.

Bagi penyedia teknologi hukum, etika tidak boleh diobati sebagai label peringatan yang ditempelkan pada produk di akhir. Ini harus menjadi arsitektur produk. Alat terbaik akan membuat penggunaan yang bertanggung jawab lebih mudah dengan desain: transparansi sumber, kontrol kerahasiaan, dan alur kerja yang memfasilitasi tinjauan manusia.

Jadi, tidak ada masalah yang kita hadapi sekarang yang saya sebut “baru.” Tapi ada pertanyaan etika hukum yang benar-benar belum pernah terjadi sebelumnya di cakrawala. Saat ini, hampir semua orang setuju bahwa AI harus membantu pengacara dan hakim, bukan menggantinya. Saya setuju dengan insting itu, mengingat di mana teknologi berada saat ini. Tapi apa yang terjadi jika sistem AI menjadi lebih cepat, lebih murah, lebih konsisten, lebih dapat diandalkan secara objektif, dan kurang bias daripada manusia dalam tugas penalaran hukum? Apakah kita masih akan mengatakan bahwa manusia harus selalu tetap dalam loop?

Itu adalah pertanyaan aneh dan tidak nyaman, tetapi saya pikir kita harus jujur enough untuk bertanya. Saya tidak berpikir kita dekat dengan menggantikan hakim atau pengacara dalam sengketa manusia yang berisiko tinggi, dan saya akan sangat skeptis terhadap sistem apa pun yang mengklaim sebaliknya hari ini. Tapi ini sudah terjadi dalam pengaturan diskrit: AI sudah menyelesaikan sengketa tertentu dengan penyedia ADR besar dan di X, Grok sering menyelesaikan sengketa fact-checking.

Kita biasanya menganggap penilaian manusia sebagai penyangga etika. Seringkali itu benar. Manusia membawa tanggung jawab moral, legitimasi institusional, empati, kebijaksanaan praktis, dan pemahaman konteks yang mesin belum miliki. Tetapi manusia juga membawa keterlambatan, biaya, inkonsistensi, kelelahan, bias, gatekeeping, dan akses yang tidak merata. Jika resolusi yang dibantu AI menjadi lebih akurat, lebih terjangkau, dan lebih dapat diakses daripada status quo, pertanyaan etika harus dijawab dengan jujur. Pertanyaannya harus, “Proses apa yang menghasilkan hasil yang paling adil, paling akurat, paling transparan, dan paling akuntabel?”

Jika sistem yang diotomatisasi atau dibantu AI akhirnya menangani sengketa rutin, tinjauan manusia mungkin menjadi paling penting di tepi: kasus yang tidak biasa, mode kegagalan yang tidak nyaman, dan tempat-tempat di mana konsistensi kaku mulai terlihat kurang seperti keadilan dan lebih seperti formalisme hukum yang kuno.

Itulah bagaimana saya pikir penyedia teknologi hukum harus mempersiapkan diri. Bangun untuk aturan etika saat ini, tetapi juga untuk masa depan di mana profesi harus membandingkan kinerja manusia dan mesin dengan jujur. Tujuannya tidak boleh mempertahankan setiap ritual praktik hukum yang ada. Tujuannya harus mempertahankan apa yang ritual-ritual itu seharusnya lindungi: keadilan, akurasi, akuntabilitas, legitimasi, dan akses ke keadilan.

BriefCatch telah membangun reputasinya dengan meningkatkan penulisan hukum daripada hanya mengotomatisasi pekerjaan hukum. Bagaimana Anda menyeimbangkan keuntungan produktivitas dari AI dengan kebutuhan untuk melestarikan pemikiran kritis, penalaran hukum, dan akuntabilitas profesional?

Saya tidak berpikir produktivitas dan pemikiran kritis harus berada dalam ketegangan. Sebenarnya, ketika pengacara lebih efisien dalam tugas rutin, itu menciptakan lebih banyak ruang untuk pemikiran kreatif dan kritis. Jadi, pertanyaannya adalah apa jenis produktivitas yang kita ciptakan. Jika AI hanya membantu pengacara menghasilkan lebih banyak kata lebih cepat, itu tidak selalu kemajuan. Pekerjaan hukum sudah memiliki banyak kata.

Tujuan yang lebih baik adalah membantu pengacara menghasilkan pekerjaan yang lebih jelas, lebih akurat, lebih persuasif, dan lebih dapat dipertahankan. Itulah mengapa fokus BriefCatch pada penulisan sangat penting. Penulisan hukum bukanlah lapisan dekoratif di atas analisis hukum. Itu adalah tempat analisis menjadi presisi, dapat diuji, dan berguna bagi pembaca.

Cara melestarikan akuntabilitas adalah dengan merancang AI sebagai lapisan keahlian, bukan pengganti otoritas. Alat dapat menyarankan, menandai, memverifikasi, membandingkan, dan menekan. Ini dapat membantu menerapkan prinsip-prinsip penulisan, mengidentifikasi kelemahan, dan menangkap masalah. Tetapi pengacara harus membuat keputusan akhir dan tetap bertanggung jawab atas pekerjaan. Untuk memparafrase instruktur Peloton favorit saya, “AI membuat saran. Anda membuat keputusan.”

Pandangan saya sendiri adalah bahwa AI paling berharga ketika membuat pengacara lebih terlibat. Sistem yang baik harus memperjelas perhatian pengacara. Ini harus mengajukan pertanyaan yang mungkin pengacara lewatkan, menonjolkan wewenang yang perlu diperiksa, atau menyarankan cara yang lebih jelas untuk mengekspresikan poin. Ini tidak boleh membuat pengguna merasa bahwa teks yang masuk akal adalah pekerjaan yang selesai.

Melihat ke depan lima tahun, apa hubungan ideal antara pengacara dan AI? Apakah Anda membayangkan AI terutama berfungsi sebagai asisten, kolaborator, atau sesuatu yang lebih dekat dengan co-pilot hukum yang tepercaya?

Saya lebih suka “eksoskeleton keahlian.” Sistem AI hukum ideal harus membantu pengacara dan hakim melakukan apa yang sudah mereka lakukan, tetapi dengan jangkauan yang lebih baik, ingatan yang lebih baik, konsistensi yang lebih baik, alat verifikasi yang lebih baik, dan kreativitas yang lebih baik.

Lima tahun dari sekarang, saya berharap pengacara akan memiliki sistem AI yang sangat terintegrasi dalam alur kerja mereka dan lebih berspesialisasi daripada chatbot umum saat ini. Seorang pengacara yang menyusun brief harus dapat mengandalkan keahlian penulisan, hukum, bahan catatan, aturan prosedural, pemeriksaan kutipan, pengetahuan internal, dan umpan balik strategis tanpa meninggalkan alur kerja. Tetapi sistem juga harus transparan tentang apa yang diketahuinya, apa yang diperiksa, dan di mana pengacara perlu mengeluarkan penilaian.

Hubungan ideal bukanlah pemahaman yang didelegasikan atau penilaian. Ini adalah kepercayaan yang dikalibrasi. Pengacara harus tahu tugas apa yang sistem ini sangat baik, tugas apa yang memerlukan pengawasan, dan tugas apa yang sepenuhnya milik penilaian manusia.

Jika kita melakukannya dengan benar, AI akan membuat keahlian lebih tersedia. Ini akan membantu pengacara menulis lebih baik, bernalar lebih hati-hati, menghindari kesalahan yang dapat dicegah, dan menghabiskan lebih banyak waktu pada bagian pekerjaan yang memerlukan intuisi dan penilaian. Saya menemukan gagasan tentang legiun “Pengacara Mecha” jauh lebih menarik dan optimis daripada sekadar otomatisasi. Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut harus mengunjungi BriefCatch.