Josephine Petrick, BriefCatch’ta AI Ürünleri Başkanı – Röportaj Serisi

Josephine Petrick, BriefCatch Yapay Zekâ Ürünleri Başkanı olarak temyiz davaları deneyimi, yapay zekâ ürünü muhakemesi ve uygulamalı hukuk yazımı uzmanlığının ender bir birleşimini hukuk sektörünün en uzmanlaşmış yazım platformlarından birine taşıyor. Bu görevde BriefCatch’in yapay zekâ ürün stratejisini yönetiyor; avukatların ve hâkimlerin hukuki belgeleri hazırlama, düzenleme ve geliştirme biçimini iyileştirmek için tasarlanmış üretken ve bilgi getirme tabanlı araçların geliştirilmesine yön veriyor. Geçmişinde The Norton Law Firm’da ortaklık, Hanson Bridgett’te kıdemli hukuk müşavirliği ve temyiz avukatlığı, ayrıca ABD Beşinci Daire Temyiz Mahkemesi Hâkimi James L. Dennis’in hukuk asistanlığı bulunuyor. Duruşma, temyiz ve danışmanlık deneyiminin bu birleşimi, soyut üretkenlik sorunları yerine gerçek hukuk yazımı güçlüklerini ele alan yapay zekâ araçları geliştirmesine uygulamacı bakışı kazandırıyor.

BriefCatch, avukatlar, hâkimler, hukuk büroları, mahkemeler ve kamu kurumları için özel olarak geliştirilmiş yapay zekâ destekli bir hukuk yazımı ve düzenleme platformudur. 2017’de kurulan ve Ross Guberman’ın hukuk yazımı uzmanlığı etrafında inşa edilen platform, hukuk profesyonellerinin doğrudan yazım iş akışları içinde açıklığı, kesinliği, ikna gücünü ve güvenilirliği artırmasına yardımcı olur. BriefCatch; 45’ten fazla Am Law 200 bürosu dahil 300’den fazla hukuk bürosunu ve 80’den fazla mahkemeyi desteklediğini belirtiyor. Yeni ürünü BriefCatch Next ise uzman hukuk yazımı rehberliğini, hukuki muhakemeyi değiştirmek yerine güçlendirmeyi amaçlayan isteğe bağlı yapay zekâ araçlarıyla birleştiriyor.

Temyiz avukatı, sertifikalı temyiz uzmanı ve hukuk teknolojisi ürünleri geliştiricisi olarak çalıştıktan sonra yakın zamanda BriefCatch’e Yapay Zekâ Ürünleri Başkanı olarak katıldınız. Temyiz hukuku, hukuk stratejisi ve teknolojinin kesişimindeki deneyiminiz hukuk mesleğinde yapay zekâ vizyonunuzu nasıl şekillendirdi?

Cal’da dilbilim okuduktan sonra yapay zekâ beni büyüledi ve hep bu alana girmiş olmayı diledim. İnsan zekâsını genişletme ve pratik sorunları büyük ölçekte çözmeye yardım etme potansiyeli ilgimi çekti. Benzer nedenlerle avukat oldum. Annem anayasa hukuku avukatıydı ve ondan hukukun insanlara verimli biçimde, büyük ölçekte yardım etmek için kullanılabileceğini öğrendim. Mesleği uygulamaya başladığımda yapay zekâ kariyerine giden yolun kapandığını düşünüyordum. Bu nedenle hukuk kariyerimin beni başta ilgimi çeken sorulara geri getirmesi biraz ironik ve son derece tatmin edici: Uzmanlığı daha erişilebilir, daha yararlı ve daha insani kılmak için teknolojiyi nasıl kullanırız?

Büyük dil modelleri sohbet robotları olarak paketlenmeden, OpenAI ürününü bir deneme ortamı olarak sunduğu dönemden beri bu modellerle çalışıyorum. En başından pratik sorun çözme potansiyelini görebiliyordum. Dava kayıtlarını incelemeye yardım edebilir miydi? Yerel kuralları araştırmayı daha az zahmetli hale getirebilir miydi? Kaliforniya Yüksek Mahkemesindeki derdest davaları takip etmeye, temyizlerin ne kadar süreceğini tahmin etmeye veya yargılama sonrası başvuru uygulamalarını kolaylaştırmaya yardım edebilir miydi? Bir kişinin tıkandığı yerden çıkmasını sağlayabilir miydi?

Son soruya ilişkin en sevdiğim örneklerden biri, hâlâ açık problemler üzerinde çalışan emekli sayı teorisyeni babamdan geliyor. Onu profesyonel bir büyük dil modeli hesabı denemeye ikna ettim; teoremler kanıtlamak ve yıllardır düşündüğü problemlerde ilerleme kaydetmek için kullandı. Büyük dil modellerinin Erdős problemleri gibi açık matematik sorunlarını çözmekte bu kadar etkili olmasının nedenlerinden biri, matematiğin pek çok alanında eğitim görmüş olmaları ve teknikleri bir alandan diğerindeki problemleri çözmek için aktarabilmeleridir; örneğin temel geometrideki bir problemi çözmek için cebirsel sayı teorisi tekniklerini kullanmak. Bu deneyim benim için önemli bir şeyi gösterdi: Yapay zekâ yaratıcı erişimimizi genişletebilir, bireysel olarak zihnimizde tutabileceğimizden daha geniş bir insan bilgisi ve uzmanlığı bütününden yararlanmamıza yardım edebilir ve aksi halde çok daha uzun sürecek bilgi ve insan faaliyetlerinde ilerleme sağlayabilir.

Aynı örüntüyü hukuk uygulamasında gördüm. Temyiz avukatı olarak aynı usule ve stratejiye ilişkin sorular tekrar tekrar karşıma çıkıyordu. Bu nedenle veri tabanları, takip araçları, infografikler, müvekkil kaynakları, temyiz süresi hesaplayıcıları, yargılama sonrası zamanlama araçları geliştirdim ve sonunda bir hukuk kuralları veri tabanı oluşturmaya yardım ettim. Ortak çizgi hep aynıydı: Bilgi vardı, ancak PDF’lerde, kitaplarda, seminerlerde, iç notlarda veya bir uzmanın zihninde sıkışıp kalmıştı. Yapay zekânın olağanüstü derecede uygun olduğu bir soruna odaklandım: Bilgi ve uzmanlığı insanların ihtiyaç duyduğu anda erişilebilir kılmak.

Bu, hukuk alanındaki yapay zekâ vizyonumu şekillendirdi. Çoğu hukuk teknolojisi ürünü, avukatların stratejiye odaklanabilmesi için yapay zekânın angaryayı otomatikleştireceğini vaat ediyor. Bu doğru ve değerli, ama yalnızca başlangıç. Şimdi beni en çok ilgilendiren uzmanlığı etkinleştirmek. Bir avukat doğru kitabı okumuş, doğru eğitime katılmış, doğru gönderiyi kaydetmiş veya uygulamada doğru dersi öğrenmiş olabilir; fakat bu bilgi çoğu zaman avukat belge hazırlarken, araştırma yaparken veya müvekkile danışmanlık verirken etkin değildir.

BriefCatch tam olarak bu fırsatın içinde yer alıyor. Hukuk yazımı yalnızca metni parlatmak değildir. Hukuki muhakeme, strateji ve ikna gücünün başka bir zihin için kullanılabilir hale geldiği yerdir. Yapay zekânın, mesleki muhakeme ve hesap verebilirliği korurken avukatların doğru kuralı, tekniği, stratejiyi, uyarıyı veya stratejik içgörüyü gerektiği anda bulup uygulamasına yardımcı olduğu bir gelecek beni heyecanlandırıyor. Bunu bir uzmanlık dış iskeleti olarak görüyorum: Avukatların daha fazla bilgi taşımasına, daha net görmesine, önlenebilir hatalardan kaçınmasına ve en iyi muhakemesini en önemli anda kullanmasına yardımcı olan teknoloji. Bu sistemleri iyi kurarsak hukuk uzmanlığı pahalı bire bir kanallarda daha az sıkışır; ona ihtiyaç duyan insanlar, işletmeler, mahkemeler ve kurumlar için daha erişilebilir hale gelir ve toplum bundan yararlanır.

BriefCatch kısa süre önce, dosyalama öncesinde uydurulmuş veya desteklenmeyen hukuki atıfları belirlemek için tasarlanan RealityCheck’i tanıttı. Mevcut hukuk yapay zekâ araçlarında bu özelliği gerekli kılan en büyük boşluklar nelerdi ve atıfların güvenilirliği bugün ne kadar ciddi bir sorun?

En büyük boşluk, çok fazla aracın hâlâ doğrulama yerine üretime göre optimize edilmesi. Hızla etkileyici görünen metin üretebilirler, ancak hukuk işi makul görünen metinle bitmez. Hatta orada başlamaz bile. Hukuk sistemimiz özünde hâkimlerin ve avukatların hukuk kaynaklarını sadakatle aktarmasına ve uygulamasına bağlıdır. Her hukuk aracı gerçekten var olan kaynaklarla başlamalı; bunların ne söylediğini, nasıl uygulandığını ve atıf yapılan önermeyi kararın verildiği bağlam göz önüne alındığında destekleyip desteklemediğini doğru anlatmalıdır. Bundan aşağısı hukuk fan kurgusudur. Daha az nazik ifadeler de var, ancak onları mahkeme salonlarında bu sorunla uğraşan hâkimlere bırakacağım.

RealityCheck gibi bir aracın önemli olmasının nedeni bu. Sorun, kuşkusuz kaygı verici olan tamamen uydurma davalarla sınırlı değil. Daha ince ve yaygın hata biçimleri de var: Gerçek bir davanın yanlış önerme için gösterilmesi, hükmün abartılması, bir alıntının biraz değiştirilmesi, rahatsız edici bir ayrımı geçiştiren parantez açıklaması veya görünüşte doğru olmakla birlikte ardından geldiği cümleyi aslında desteklemeyen bir atıf.

Bunlar hukuk uygulamasında yeni sorunlar değil, fakat bugün büyütülmüş durumdalar. Avukatlar çalışmalarını kontrol etmekten her zaman sorumluydu; yapay zekâ destekli belge hazırlamanın ölçeği ve hızı doğrulamayı daha da önemli kılıyor. Soru yalnızca “Yapay zekâ halüsinasyon gördü mü?” değil. Soru şudur: “Dosyalanan bu belge doğru, desteklenen ve mesleki açıdan savunulabilir hukuki iddialar içeriyor mu?”

Ayrıca yalnızca insanların yaptığı işi altın standart olarak görmemeye dikkat etmeliyiz. İnsanlar da özellikle zaman baskısı altında yanlış alıntı yapar, abartır ve unsurları gözden kaçırır. Metnin kaynağından bağımsız olarak en iyi uygulama katmanlı incelemedir: insan muhakemesi, kaynak temelli araçlar, uygun yerlerde deterministik kontroller ve hataların açıklama emrine dönüşmeden önce yakalanmasını kolaylaştıran doğrulama iş akışları.

Pek çok avukat doğruluk, etik ve mesleki sorumluluk kaygıları nedeniyle üretken yapay zekâya kuşkuyla yaklaşıyor. Hukuk teknolojisi şirketleri güven oluşturmak ve sorumlu benimsemeyi teşvik etmek için hangi pratik adımları atabilir?

Güvenilir ürünler sınırlarını görünür kılmalıdır. Kaynaklar önemli olduğunda onları göstermeli; sistemin ne zaman dil ürettiğini, ne zaman bir atfı doğruladığını veya deterministik kural uyguladığını açıklamalıdır. Sınırlamalar konusunda da dürüst olmalıdır, çünkü aşırı iddia avukatların güvenini kaybetmenin en hızlı yollarından biridir.

Sorumlu benimseme iş akışının içine yerleştirilmelidir. Avukatların bu araçları doğru kullanmak için istem mühendisi veya yapay zekâ risk sorumlusu haline gelmesi gerekmez. İyi ürünler tasarımlarıyla kullanıcıları sorumlu kullanıma yönlendirmelidir: gizliliği korumalı, denetimi desteklemeli, incelemeye olanak tanımalı, uygun yerlerde denetim kayıtlarını saklamalı ve doğrulamayı kolaylaştırmalıdır.

Yapay zekâ sistemlerinin güvenilirliğini geliştirmek amacıyla bilgi getirmeyle güçlendirilmiş üretim, RAG, ve başka teknikler üzerinde yoğun çalıştınız. Güncel hukuk yapay zekâ ürünleri nerede yetersiz kalıyor ve boşlukları kapatmak için hangi teknik ilerlemeler gerekli?

Hukuk yapay zekâ ürünleri belge hazırlama, özetleme, fikir geliştirme ve bilgi getirmede zaten etkileyici. Bazıları önemli bir ölçütte hâlâ yetersiz: hukuk uygulamasının talep ettiği titiz doğruluk. Adalet sistemimiz buna bağlı.

Güvenilirlik açığını tek model sorunu değil, sistem sorunu olarak düşünürüm. Daha iyi modeller yardımcı olacak, ancak hukuk düzeyinde güvenilirlik bir arada çalışan birkaç katmandan gelir: bilgi getirme ve sıralama, doğrulama döngüleri, bellek, iş akışı tasarımı ve deterministik sistemlerle büyük dil modellerini birleştiren hibrit mimari.

Bilgi getirmenin temel mekanikleri oldukça iyi anlaşılmış durumda, ancak kapsama ve sıralamayı doğru yapmak çok fazla test ve yineleme gerektiriyor. Karşıt ajanlar ve ajan döngüleri yaygınlaşıyor; tasarım güçlüğü bu kontrolleri pahalı ve gecikmeli bir sonsuz çifte kontrol yığınına çevirmek yerine ilkeye dayalı kılmak. Büyük dil modeli belleğinde teknik sorunlar belleğin nerede yer alacağı, genel mi yoksa belirli bir iş akışına mı özgü olacağı ve ajanın gerektiğinde erişmesini sağlamak için hangi biçimi alacağıdır; bellek sistemleri sonradan eklenmiş gibi hissedilebilir. İş akışı tasarımı hâlâ önemlidir. Sisteme tek, uzun ve belirsiz bir istem verilirse eksik veya genel sonuçlar üretir. Hukuk yapay zekâsı, gerekli bağlamı edinmesi ve doğru, mükemmel bir hukuk ürünü oluşturmak için gereken tüm adımlardan geçmesi amacıyla görevi bilinçli aşamalara bölen daha yapılandırılmış iş akışlarına ihtiyaç duyar. Daha büyük temel modeller ve daha iyi sıkıştırma geliştikçe bu daha küçük bir sorun olabilir.

Başka bir kaldıraç, düzenli ifadeler gibi deterministik kurallarla olasılıksal modellerin karışımıdır. Büyük dil modelleri prototip aşamasında son derece yararlıdır, çünkü sorunun biçimini keşfetmeye yardım eder. İyi çalışan bir prototipiniz olduğunda ve örüntüyü anladığınızda iş akışının bazı parçalarını deterministik mantığa geri çekmek isteyebilirsiniz. Büyük dil modelleri tutarsız olabilse de deterministik kuralların yakalayamayacak kadar katı kaldığı şeyleri tamamlamakta ve deterministik kuralları ve kodu kendileri kullanmakta çok iyidir. En güçlü sistemler ne tamamen deterministik ne de tamamen büyük dil modeli tabanlı olacaktır. Sorunun anlaşıldığı yerde deterministik kurallar, belirsizlik, muhakeme veya bağlama duyarlı dil anlayışı gerektiğinde büyük dil modelleri kullanacaklardır. Soru sınırın nerede olduğudur: Kurallar nerede biter, model nerede devreye girer?

Bu teknikleri katmanlandırdığınızda güvenilirlik açığında büyük iyileşmeler sağlayabilirsiniz; bunun karşılığı mühendislik karmaşıklığı, belirteç maliyeti ve gecikmedir. Teknik ilerlemelerle ve bellek ile sıkıştırma daha etkili, temel modellere daha kolay yerleşik hale geldikçe bunların iyileşmesini bekliyorum.

Hukuk yazımı çoğu zaman incelik, ikna gücü ve emsal kararların dikkatli yorumunu gerektirir. Yapay zekâ bugün hukuk yazımının hangi yönlerini gerçekten geliştirebilir, hangi unsurlar hâlâ benzersiz insan muhakemesi gerektiriyor?

Yapay zekâ, özellikle görev iyi tanımlanmışsa hukuk yazımının pek çok yönünü şimdiden geliştirebilir. Belirsiz cümleleri, gizlenmiş ana noktaları, tutarsızlığı, tekrarı, zayıf düzeni, desteklenmeyen olgusal iddiaları, uyuşmayan tanımlı terimleri, atıf sorunlarını ve taslağın okuru iyi yönlendirmediği yerleri belirleyebilir. Ayrıca avukatların yaratıcı biçimde fikir geliştirmesine, argümanları sınamasına ve bilinen yazım ve ikna ilkelerini yalnızca belleğe güvenmek yerine yazma anında uygulamasına yardım edebilir.

Son kısım benim için özellikle heyecan verici. Bir avukat teoride bir dilekçenin daha güçlü bir girişe, daha temiz bir kural açıklamasına veya daha okur dostu bir olay anlatımına ihtiyacı olduğunu bilebilir. Ancak baskı altında yazarken bilmekle uygulamak aynı şey değildir. Yapay zekâ, uzman yazım rehberliğini belgeyi gerçekten geliştirebileceği anda iş akışına getirebilir.

İyi hukuk yazımı yalnızca zanaat veya metin optimizasyonu değildir. Aynı zamanda en önemli, ilginç ve davaya özgü ayrıntıları belirleme ve bunları okura uyuşmazlığın neden önemli olduğunu anlatan bir teoriye dönüştürme yeteneğidir. Deneyimime göre insan avukatların büyük dil modellerinden hâlâ çok daha güçlü olduğu yer burasıdır. Belki zevk, belki deneyim, belki de bu sistemlerin işleyişinde daha derin bir şeydir. Modeller olası metin devamlarını üretmek üzere eğitilir; bu da metni istatistiksel olarak sıradan ifadelere çeken bir güç yaratır. Pek çok hukuk bağlamında bu yararlıdır. Genellikle hukuk yazısının kendine dikkat çekmesini istemezsiniz; fikirlerin, olguların ve kaynakların öne çıkmasını istersiniz.

Ancak gerçekten ikna edici hukuk yazımı çoğu zaman farklı olanı bulmaya bağlıdır. Davayı canlandıran ayrıntı hangisi? Uyuşmazlığın duygusal değerini hangi olgu değiştirir? Hangi hukuki nokta hâkimin dikkat kesilip sorunu görmesini sağlar? Temyiz avukatı olarak çoğu zaman aradığınız iplik budur: davanın heyetin önemsemesini sağlayacak kadar özgün ve ikna edici anlatımı.

Yapay zekânın sıradanlığa doğru eğilimle bu kısmı silmesini istemem. Sistem daha açık ifadeler önerebilir, zayıflıkları işaretleyebilir, atıfları zorlayarak sınayabilir veya avukata ikna tekniklerini hatırlatabilir. Ancak neyin önemli olduğuna, neyi kabul edeceğine, ne kadar saldırgan olacağına, neyi söylemeyeceğine, belirsizliği nasıl çerçeveleyeceğine ve davanın duygusal ve etik özünü nasıl açıklayacağına yine avukat karar vermelidir.

Yapay zekâ bunu asla yapamaz demekte temkinliyim, çünkü bu tür öngörüler birçok kez yanlış çıktı. Yapay zekâ pek çok ayrı görevi insanlardan daha hızlı ve doğru yapıyor; bir araç karşısında tehdit hissetmenin anlamlı olduğunu düşünmüyorum. Ancak en azından bugün hukuki iknanın en önemli kısımları hâlâ insan muhakemesi gerektiriyor: doğru ayrıntıları seçmek, neden önemli olduklarını anlamak ve duygusal karşılığı olan bir anlatı kurmak.

Yapay zekâ hukuk iş akışlarına daha derin yerleştikçe yardımcı ve genç avukatların rolü nasıl gelişecek? Yapay zekâ gelecek kuşağın hukuk yazımı ve araştırma becerilerini geliştirme biçimini temelden değiştirebilir mi?

Evet, bu konuda bilinçli olmalıyız. Genç avukatlar geleneksel olarak zor işleri yavaşça yaparak öğrendi: araştırmak, yazmak, yeniden düzenlemek, yorum almak ve zamanla muhakeme geliştirmek. Yapay zekâ bu yolu değiştirecek, ancak zayıflatmak zorunda değil. Doğru kullanılırsa eğitimi daha açık ve etkili hale getirebilir.

Risk, genç avukatların muhakemeyi geliştiren mücadeleyi atlamasıdır. Bir araç çok hızlı biçimde makul bir taslak üretirse yeni avukat argümanın nasıl kurulduğunu, zayıf noktaların nerede olduğunu veya bir çerçevenin neden diğerinden daha iyi olduğunu öğrenmeyebilir. Bu gerçek bir kayıp olur.

Fırsat ise çok büyük. Yapay zekâ öğretmen, simülatör, yazım koçu ve anında geri bildirim kaynağı olabilir. Alternatif yapılar gösterebilir, desteklenmeyen iddiaları belirleyebilir, bir atfın önermeyi neden desteklemeyebileceğini açıklayabilir veya taslağı etkili hukuk yazımı ilkeleriyle karşılaştırabilir. Genç avukatlara daha fazla tekrar olanağı da verebilir. Tekrar yapmak ve geri bildirim almak öğrenme ve gelişme biçimimizdir.

Bunu en iyi yapan bürolar ve hukuk bölümleri, genç avukatlara yapay zekâyı verip en iyisini ummakla yetinmeyecek. Eğitimi bunun etrafında yeniden tasarlayacaklar. Gençlerden seçimlerini açıklamalarını, çıktıları doğrulamalarını, alternatifleri karşılaştırmalarını ve gelecekte insan çalışmalarını denetleyecekleri gibi yapay zekâ destekli çalışmayı denetlemeyi öğrenmelerini isteyecekler.

Kripto para ve tüketici teknolojisinden karmaşık ticari davalara kadar farklı sektörlerde müvekkillere danışmanlık verdiniz. Hukuk yapay zekâsının en hızlı benimseneceği belirli sektörler var mı, neden?

Hukuk yapay zekâsının en hızlı şu koşullarda benimseneceğini düşünüyorum:

1. Kuruluşun büyük dil modelleriyle iyi çalışan iş akışları varsa,
2. kuruluş yeniliğe açıksa ve
3. kuruluş değişim için motiveyse.

İlk noktada hukuk, büyük dil modelleri için doğal bir alandır; çünkü hukuk pek çok açıdan dilde kodlanmış insan davranışı ve insan değerleridir. Hukuk işi dağınık olguları kategorilere, kurallara, yükümlülüklere, argümanlara, risklere ve sonuçlara dönüştürür. Dil modelleri, kaynaklara dayalı, doğrulanabilir ve avukatların gerçek çalışma biçimi etrafında tasarlanmış olmaları koşuluyla tam da bu alanda güçlü olabilir. Bu nedenle birincil hizmet modeli insandan insana etkileşim olanlar belki hariç, çoğu hukuk kuruluşunun iyi aday olduğunu düşünüyorum. Fakat pro bono kliniklerinde bile bu modeller ön değerlendirme ve bilgi yönetimi gibi işlere yardım edebilir; bu nedenle onları dışlamam.

İkinci etken, yeniliğe açıklık, daha büyük bir kapı olabilir. Bu nedenle şirket içi hukuk ekiplerinin özellikle iyi konumda olduğunu düşünüyorum. Hızı artırmaya, maliyeti düşürmeye ve bilgiyi işletilebilir kılmaya çalışan kuruluşların içindeler. Sözleşmeleri, uyuşmazlıkları, politikaları, düzenleyici yükümlülükleri, müşteri sorunlarını, istihdam sorularını, ürün danışmanlığını ve risk değerlendirmelerini büyük ölçekte yönetiyorlar. Bu iş akışları yapay zekâyı destekleyecek kadar tekrarlanabilir, fakat daha iyi araçların anlamlı fark yaratabileceği kadar hukuki muhakeme de gerektiriyor.

Dava ve temyiz uygulamaları, düzenlemeye tabi sektörler, fintech ve kripto para, tüketici teknolojisi, sigorta ve sağlık hizmetlerinin de önemli alanlar olacağını düşünüyorum. Dava ve temyizde yapay zekâ kayıt inceleme, sorun takibi, atıf kontrolü, usul kuralları, koruma analizi, argüman haritalama ve taslak geri bildiriminde yardımcı olabilir. Risk yüksek olduğundan araçlar ciddi olmalıdır. Ancak bu, benimsemekten kaçınma nedeni değil, daha iyi ürünler geliştirme nedenidir.

Üçüncü nokta, değişim motivasyonu, hâlâ önemli bir sınırlayıcı etkendir. Bana göre hukuk sektörü genel olarak değişmek için motive olmalıdır. Adalet sistemi yavaş, pahalı ve çok fazla insan için erişilemez. Daha zor soru, mesleğin değişime açık olup olmadığıdır. Giderek daha açık olduğunu düşünüyorum. Sektörün bazı bölümleri mevcut model kârlı ve tanıdık olduğu için yavaş hareket etti. Ancak avukatlar aynı zamanda sorun çözücüdür. Birçoğumuz adalet ve reform odaklıyız ve yararlı anlamda inatçıyız. Mevcut yanıt yanlış olduğunda değişimi savunmak üzere eğitildik.

Özel sektör daha çevik ve daha iyi kaynaklara sahip olduğu için ilk hareket eden olabilir. Kamu, adli yardım ve pro bono kuruluşlarının farklı kısıtları var ve çoğu zaman önlerindeki acil işe odaklanmaları gerekiyor. Ancak bu sektörler kendilerini küçümsememeli. Yapay zekâ hukuk hizmetlerini daha verimli, daha erişilebilir ve daha uygun maliyetli yapabiliyorsa uzun vadeli fırsat tek sektörle sınırlı değildir. Hukuk sistemini daha iyi hale getirmek isteyen herkesle ilgilidir.

Mahkemeler, düzenleyiciler ve barolar hukuk uygulamasında yapay zekâ kullanımını giderek daha fazla inceliyor. Önümüzdeki birkaç yılda hangi düzenleyici veya etik çerçevelerin ortaya çıkmasını bekliyorsunuz ve hukuk teknolojisi sağlayıcıları nasıl hazırlanmalı?

Mevcut etik çerçevemiz bu kaygıların çoğunu şimdiden karşılayabilir. Avukatların mahkemeye sundukları her şeyin gerçeğe dayanmasını sağlaması her zaman gerekiyordu. Bir dava onlara karşı olduğunda dürüst, hata yaptıklarında şeffaf olmalılar. Davalarını yetkinlikle yürütmeli ve kendilerine yardım eden genç avukatlarla hukukçu olmayan kişileri denetlemeliler. Müvekkillerinin hassas bilgilerini gizli tutmalılar.

Yapay zekâ etiğinin ilk dalgası tamamen yeni bir ahlaki işletim sistemi gerektirmiyor. Bu tanıdık görevleri yeni bir ciddiyetle uygulamalıyız. Avukat muhakemesini dışarıya devredip sonra sorumluluğu reddedemez. Bu tartışmalı olmamalıdır.

Daha fazla teknolojiye özgü eğitim yapmalıyız ki avukatlar yapay zekâ çıktısını yeterince denetlemediklerinde veya kontrol etmediklerinde hazırlıksız yakalanmasın. Örneğin Kaliforniya artık sürekli hukuk eğitiminde teknoloji yeterliliği istiyor ve bunun doğru yön olduğunu düşünüyorum. Ancak birkaç yılda bir saat yeterli değil. Hukuk büroları, şirket hukuk bölümleri, mahkemeler ve hukuk hizmeti kuruluşları kendi iç yapay zekâ politikalarını ve zorunlu eğitimlerini geliştirmeli: yalnızca “halüsinasyon kaynaklara atıf yapmayın” değil, araçların ne zaman kullanılacağı, ne zaman kullanılmayacağı, çıktının nasıl doğrulanacağı, gizli bilginin nasıl korunacağı ve insanla makine arasındaki sorumluluk dağılımının nasıl düşünüleceği ele alınmalıdır.

Hukuk teknolojisi sağlayıcıları için etik, sonradan ürüne yapıştırılan uyarı etiketi gibi görülmemelidir. Ürün mimarisi olmalıdır. En iyi araçlar sorumlu kullanımı tasarımları gereği kolaylaştıracaktır: kaynak şeffaflığı, gizlilik kontrolleri ve insan incelemesini kolaylaştıran iş akışları.

Dolayısıyla bugün gördüğümüz sorunların hiçbiri gerçekten yeni değil. Fakat ufukta gerçekten benzeri görülmemiş bir hukuk etiği sorusu var. Bugün neredeyse herkes yapay zekânın avukat ve hâkimlere yardım etmesi, onların yerine geçmemesi gerektiği konusunda hemfikir. Teknolojinin bugünkü durumunda bu içgüdüye katılıyorum. Ancak yapay zekâ sistemleri hukuki muhakeme işlerinde insanlardan daha hızlı, daha ucuz, daha tutarlı, nesnel olarak daha güvenilir ve daha az önyargılı hale gelirse ne olur? İnsan her zaman döngüde kalmalıdır demeyi sürdürecek miyiz?

Bu garip ve rahatsız edici bir soru, fakat soracak kadar dürüst olmalıyız. Yüksek riskli insan uyuşmazlıklarında hâkimlerin veya avukatların yerini almaya yakın olduğumuzu düşünmüyorum; bugün tersini iddia eden her sisteme ciddi kuşkuyla yaklaşırım. Ancak bu zaten sınırlı ortamlarda oluyor: Yapay zekâ büyük bir alternatif uyuşmazlık çözümü sağlayıcısında bazı uyuşmazlıkları şimdiden çözüyor ve X’te Grok olgu kontrolü anlaşmazlıklarını sık sık karara bağlıyor.

İnsan muhakemesinin etik güvenlik ağı olduğunu genellikle varsayarız. Çoğu zaman öyledir. İnsanlar makinelerin henüz sahip olmadığı ahlaki sorumluluk, kurumsal meşruiyet, empati, pratik bilgelik ve bağlam anlayışı getirir. Fakat gecikme, maliyet, tutarsızlık, yorgunluk, önyargı, erişim denetimi ve eşitsiz erişim de getirirler. Yapay zekâ destekli çözüm mevcut durumdan daha doğru, daha uygun maliyetli ve daha erişilebilir olursa etik soruya refleksle yanıt verilmemelidir. Soru “Hangi süreç en adil, en doğru, en şeffaf ve en hesap verebilir sonucu üretir?” olmalıdır.

Otomatik veya yapay zekâ destekli sistemler sonunda daha fazla rutin uyuşmazlığı ele alırsa insan incelemesi uçlarda en önemli hale gelebilir: olağan dışı davalar, rahatsız edici hata biçimleri ve katı tutarlılığın adaletten çok eski usul hukuk biçimciliğine benzemeye başladığı yerler.

Hukuk teknolojisi sağlayıcılarının böyle hazırlanması gerektiğini düşünüyorum. Güncel etik kurallar için geliştirin, ancak mesleğin insanla makinenin performansını dürüstçe karşılaştırması gereken gelecek için de geliştirin. Amaç hukuk uygulamasındaki her mevcut ritüeli korumak olmamalı. Amaç, bu ritüellerin koruması gereken şeyi korumalıdır: adalet, doğruluk, hesap verebilirlik, meşruiyet ve adalete erişim.

BriefCatch itibarını yalnızca hukuk işini otomatikleştirmek yerine hukuk yazımını geliştirmek üzerine kurdu. Yapay zekânın üretkenlik kazanımlarıyla eleştirel düşünmeyi, hukuki muhakemeyi ve mesleki hesap verebilirliği koruma gereksinimini nasıl dengeliyorsunuz?

Üretkenlikle eleştirel düşünmenin gerilim içinde olmak zorunda olduğunu düşünmüyorum. Avukat rutin işlerde daha verimli olduğunda aslında yaratıcı ve eleştirel düşünmeye daha fazla alan açılır. Bu nedenle soru hangi tür üretkenliği oluşturduğumuzdur. Yapay zekâ avukatların yalnızca daha hızlı daha fazla sözcük üretmesine yardım ediyorsa bu zorunlu olarak ilerleme değildir. Hukuk işinde zaten yeterince sözcük var.

Daha iyi hedef, avukatların daha açık, daha doğru, daha ikna edici ve daha savunulabilir iş üretmesine yardım etmektir. BriefCatch’in yazıma odaklanmasının önemi budur. Hukuk yazımı hukuk analizinin üzerindeki dekoratif katman değildir. Analizin kesin, sınanabilir ve okur için yararlı hale geldiği yerdir.

Hesap verebilirliği korumanın yolu, yapay zekâyı otorite yerine uzmanlık katmanı olarak tasarlamaktır. Araç öneride bulunabilir, işaretleyebilir, doğrulayabilir, karşılaştırabilir ve zorlayarak sınayabilir. Yazım ilkelerini uygulamaya, zayıflıkları belirlemeye ve sorunları yakalamaya yardımcı olabilir. Ancak son kararı avukat vermeli ve çalışmadan sorumlu kalmalıdır. En sevdiğim Peloton eğitmeninin sözünü uyarlarsak: “Yapay zekâ öneride bulunur. Kararı siz verirsiniz.”

Bana göre yapay zekâ, avukatı daha ilgili hale getirdiğinde en değerlidir. İyi bir sistem avukatın dikkatini keskinleştirmelidir. Avukatın gözden kaçırdığı soruyu sormalı, kontrol edilmesi gereken kaynağı ortaya çıkarmalı veya noktayı daha açık ifade etme yolu önermelidir. Kullanıcıyı makul görünen metnin bitmiş işle aynı şey olduğuna inandırmamalıdır.

Beş yıl sonrasına baktığınızda avukatlarla yapay zekâ arasındaki ideal ilişki nasıl görünüyor? Yapay zekâyı öncelikle asistan, işbirlikçi veya güvenilir bir hukuk yardımcı pilotuna daha yakın bir şey olarak mı görüyorsunuz?

“Uzmanlık dış iskeleti” ifadesini tercih ediyorum. İdeal hukuk yapay zekâsı, avukatların ve hâkimlerin zaten sorumlu oldukları işleri daha geniş erişim, daha iyi hatırlama, daha yüksek tutarlılık, daha fazla yaratıcılık ve daha iyi doğrulama araçlarıyla yapmasına yardım etmelidir.

Beş yıl sonra avukatların iş akışlarına derinden yerleşmiş ve bugünün genel amaçlı sohbet robotlarından çok daha uzmanlaşmış yapay zekâ sistemlerine sahip olmasını umuyorum. Dilekçe hazırlayan bir avukat iş akışından ayrılmadan yazım uzmanlığına, içtihada, dava kayıtlarına, usul kurallarına, atıf kontrollerine, kurum içi bilgiye ve stratejik geri bildirime başvurabilmelidir. Ancak sistem ne bildiği, neyi kontrol ettiği ve avukatın nerede muhakeme kullanması gerektiği konusunda şeffaf olmalıdır.

İdeal ilişki anlayışı veya muhakemeyi devretmek değildir. Ayarlanmış güvendir. Avukatlar sistemin hangi görevlerde mükemmel olduğunu, hangilerinin denetim gerektirdiğini ve hangilerinin doğrudan insan muhakemesine ait olduğunu bilmelidir.

Bunu doğru yaparsak yapay zekâ uzmanlığı daha erişilebilir kılacak. Avukatların daha iyi yazmasına, daha dikkatli muhakeme etmesine, önlenebilir hatalardan kaçınmasına ve işin sezgi ve muhakeme gerektiren kısımlarına daha fazla zaman ayırmasına yardım edecek. Bir “Mecha Avukatlar” ordusu fikrini basit otomasyondan çok daha ilginç ve iyimser buluyorum.

Harika röportaj için teşekkür ederiz. Daha fazla bilgi edinmek isteyen okurlar BriefCatch‘i ziyaret edebilir.