Röportajlar

Stavros Gadinis, Berkeley Law Profesörü ve Corporate Ordering kitabının yazarı – Röportaj Dizisi

Antoine Tardif
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin
Stavros Gadinis, George R. Johnson Professor of Law at UC Berkeley School of Law
Öne çıkan noktalarKurumsal düzenleme, düzenleyiciler harekete geçmeden önce firmaların nasıl kural…
Daha fazla göster
  • Kurumsal düzenleme, düzenleyiciler harekete geçmeden önce firmaların nasıl kural yazdığını ve kendilerini nasıl denetlediğini tanımlar.
  • Yapay zeka güvenliği değerlendirmeleri, yönetim kendi dış değerlendiricilerini işe alıp işten çıkarabildiğinde bağımsızlıktan yoksundur.
  • Bir lansmanı hiç geciktirmemiş bir güvenlik çerçevesi, halkla ilişkilerden ayırt edilemez.

Stavros Gadinis, UC Berkeley Hukuk Fakültesi’nde George R. Johnson Hukuk Profesörüdür. Araştırmaları kurumsal yönetimi, finansal düzenlemeleri ve şirketlerin karar alma ve bu kararları izleme süreçlerinde kullandıkları iç sistemleri inceler. Akademiye geçmeden önce Avrupa’da şirketler hukuku alanında çalışmıştır.

Cambridge University Press tarafından yayımlanan yeni kitabı Corporate Ordering: Şirketler Toplumsal Çatışmayı Nasıl Yönetiyor, kamusal kuralların henüz netleşmediği durumlarda işletmelerin yönetişim sistemlerini nasıl geliştirdiğini inceliyor. Araç paylaşımı, iklim sürdürülebilirliği ve yapay zekâyla ilgili vakalar üzerinden şirketlerin nasıl kurallar koyduğunu, yetkilerini nasıl kullandığını ve kendi davranışlarını nasıl denetlediğini ele alıyor.

Kariyeriniz, Avrupa’daki şirketler hukuku uygulamalarından Berkeley Law’da kurumsal yönetim ve finansal düzenlemeler üzerine yürüttüğünüz araştırmalara uzanıyor. Bu geçmiş düşünce biçiminizi nasıl şekillendirdi ve Corporate Ordering’ı yazmanıza ne ilham verdi?

Kariyerime Avrupa’da şirketler hukuku alanında çalışarak başladım; ardından Berkeley’de kurumsal yönetim ve finansal düzenlemeler üzerine uzun yıllar araştırma yaptım. Bu çalışmalar, tek bir hükümetin söz sahibi olmadığı durumlarda kuralların sınırları nasıl aştığını da kapsıyordu. İş dünyasıyla düzenleme dünyasını genellikle birbirine zıt görürüz: Biri hızlı kararlar almaya ve yüksek kâr elde etmeye hevesliyken diğeri bürokratik süreçlere ve kamu yararına bağlıdır. Hem mesleki deneyimim hem de araştırmalarım, aradaki çizginin bundan çok daha belirsiz olduğunu gösterdi.

Kitap, çalışanların, müşterilerin, toplulukların ve hükümetlerin farklı taleplerde bulunduğu tartışmalı kararların nasıl ele alındığı üzerine şirket hukuk müşavirleri ve üst düzey yöneticilerle yaptığım sohbetlerden doğdu. Dikkatimi çeken, izledikleri yöntemlerin iyi bir düzenleyicinin yöntemlerine ne kadar benzediğiydi. Etkilenen kişilere ulaşarak bilgi topluyor, tercihlerini kamuoyuna açıklıyor ve bu tercihlerin işe yarayıp yaramadığını denetleyecek mekanizmalar kuruyorlar. Bunlar ne yalnızca düzenleme dünyasına ne de yalnızca şirketlere özgü alışkanlıklar. Başkaları üzerinde güç kullanan her kurumda sağlıklı karar almanın ilkeleri bunlardır. Corporate Ordering’da bu mekanizmayı açıklamaya, nerede işe yaradığını ve nerede başarısız olduğunu göstermeye çalışıyorum.

“Kurumsal düzen” nedir ve düzenlemelerin henüz yetişemediği teknolojiler için yapay zekâ şirketlerinin kuralları nasıl belirlediğini açıklamaya nasıl yardımcı olur?

Kurumsal düzen, şirketlerin yasa ne yapmaları gerektiğini söylemeden önce tartışmalı kararlar alabilmek için kurduğu iç yönetişim altyapısıdır. Devletin erklerine karşılık gelen üç işlevi vardır. Kural koyma, şirketin kendi ilkelerini oluşturma biçimidir. Yürütme, bu ilkeleri somut kararlara nasıl uyguladığıdır. İzleme ise şirketin gereğini yerine getirip getirmediğini denetlemesi ve getirmediyse bunu nasıl fark ettiğidir.

Yapay zekâ şirketlerinde bu üç işlevin tümünü görmek mümkün. Öncü laboratuvarlar anayasalar, model şartnameleri ve güvenlik çerçeveleri yazar; bu, kural koyma işlevidir. Bir modelin kullanıma sunulmaya hazır olup olmadığına, neleri reddedeceğine ve kimlerin erişebileceğine karar verirler; bu da yürütme işlevidir. Ayrıca kırmızı takım testleri, dış değerlendirmeler ve olay raporlaması yaptırırlar; bunlar da izleme kapsamına girer. Kitapta bu işlevlerin başlıca laboratuvarlardaki işleyişini inceliyorum. Aralarındaki farklar gerçek; ancak her şirket, bu işlevlerin her birine neden ihtiyaç duyduğunu fark ettikçe dikkat çekici bir yakınlaşma da yaşanıyor.

Sık sık yanlış anlaşıldığı için bir noktayı açıkça belirtmek istiyorum: Kurumsal düzen, düzenlemelere karşı bir sav değildir. Düzenlemelerin üzerine inşa edileceği malzemeyi tanımlar. Yasa koyucular harekete geçtiğinde, şirketlerin daha önce geliştirdiği kavramlardan yararlanırlar. Asıl soru, bu ilk taslağın ödünç alınmayı hak edecek kadar özenle yazılıp yazılmadığıdır.

Kitabınız araç paylaşımını, iklim sürdürülebilirliğini ve yapay zekâ yönetişimini inceliyor. İlk iki alandan çıkarılan hangi dersler yapay zekâ için en yararlı ve yapay zekâ hangi yönlerden temelden farklı zorluklar doğuruyor?

Araç paylaşımı ve iklim alanlarından çıkarılacak ders, şirketlerin çoğu zaman yasanın ilk taslağını yazdığıdır. Uber ve Lyft, eyaletler bu konuda kurallar koymadan önce sigorta ve güvenlik raporlaması uygulamaları geliştirdi; kurumsal karbon muhasebesinin büyük bölümü de işletmelerin geliştirilmesine katkıda bulunduğu GHG Protocol’e dayanıyor. Düzenleyiciler daha sonra bu uygulamaları onayladı, geliştirdi ya da yasaya dönüştürdü. Düzenlemeler nadiren boş bir sayfadan başlar. Şirketler tercihlerini ne kadar dikkatle yapar ve etkilenen tarafları ne kadar çok dikkate alırsa, bu tercihlerin düzenlemelerde yerini koruma olasılığı da o kadar artar.

Yapay zekâ iki açıdan farklıdır. İlki hızdır. Düzenleyiciler çoğu zaman sektörün bir adım gerisinde kalır; ancak yapay zekâ alanındaki fark çok daha büyüktür. Düzenleyicilerin standartlar ve iç süreçler geliştirmek için şirketlere başvurması, kendi çalışmalarını ise gözetim, doğrulama ve yaptırım uygulamaya yoğunlaştırması gerekecek. Bu, rollerinin küçüldüğü değil, değiştiği anlamına gelir. Kamu gücü en çok doğrulama aşamasında önem taşır; çünkü yönetimle çıkar çatışması burada en belirgin hâlini alır. İkinci fark ise erişim alanıdır. Yapay zekâ gündelik yaşamın neredeyse her alanını etkiliyor ve bir bütün olarak ülke için büyük bir yatırım hâline geldi. Sistemik riskin sonuçlarını göz ardı etmek de kavramak da kolay değil.

Bir yapay zekâ şirketi kendi dış güvenlik değerlendiricilerini seçip ücretlerini ödediğinde, bu gözetimin gerçekten bağımsız olmasını hangi güvenceler sağlar?

Bu çıkar çatışması, finansal denetimden tanıdıktır ve şirketler hukuku bunu yönetmek için hâlihazırda araçlar sunar. İlk mesele, değerlendiriciyi kimin işe alıp işten çıkaracağıdır. Değerlendiriciyle ilişki, tıpkı dış denetçiyi CEO ya da CFO’nun değil denetim komitesinin gözetmesi gibi, şirketle başka mali bağları olmayan bağımsız yönetim kurulu üyelerinin sorumluluğunda olmalıdır. Yönetim, bulguları işine gelmeyen bir incelemeciyi görevden alamamalıdır.

İkinci mesele, erişim ve yayımlama hakkıdır. Değerlendirici, incelemek istediği bilgilere erişebilmeli ve bulgularını ya da en azından anlamlı bir özetini şirketin engellemesi olmadan yayımlama hakkına sahip olmalıdır. Bir incelemeyi etkili kılan, itibar kaybı riskidir. Üçüncü mesele, değerlendirmelerin şirketler arasında aynı anlama gelmesini ve değerlendiricilerin daha hoşgörülü davranarak rekabet etmesini önleyecek ortak inceleme standartlarıdır. Dördüncüsü, ihbarcıların korunması, hatta uygulanabilir bilgiler sunduklarında ödüllendirilmeleridir; çünkü bir değerlendirmenin yönlendirildiğini çoğu zaman ilk fark edenler şirket içindekilerdir.

Bağımsız bir değerlendiricinin, büyük bir modelin piyasaya sürülmesinden hemen önce ciddi bir güvenlik sorunu tespit ettiğini varsayalım. Bu bulgu kime iletilmeli ve dağıtımı erteleme ya da durdurma yetkisi kimde olmalıdır?

Bulgu doğrudan yönetim kuruluna, ideal olarak güvenlikten sorumlu bağımsız yönetim kurulu üyelerinden oluşan bir komiteye iletilmeli; yalnızca piyasaya sürülmesi için baskı yapan yönetim ekibi üzerinden aktarılmamalıdır. Yönetim yanıt verebilir ve vermelidir, ancak süzgeç işlevi görmemelidir. Dağıtımı erteleme ya da durdurma yetkisi yönetim kurulunda olmalıdır; çünkü büyük sonuçlar doğuran, çıkarların çatıştığı ve doğru yanıtın açık olmadığı bu tür kararları almak, yönetim kurullarının varlık nedenidir.

Ancak daha önemli olan, kararın açıkça alınması, belgelenmesi ve kararı veren kişilere kadar izlenebilir olmasıdır. Yönetim kurulu, kaygılara rağmen ilerleme kararı alırsa kayıtlar, neleri bildiğini, neleri değerlendirdiğini ve riski neden kabul edilebilir bulduğunu göstermelidir. Bu belge izi, hukuki sorumluluğun ya da en azından itibar kaybının koşullarını yaratır ve insanları iki kez düşünmeye sevk eder. Mahkemeler, yazılımdaki tasarım tercihlerinin kullanıcılar açısından sonuçları olduğunu giderek daha fazla kabul ediyor. Ciddi ve belgelenmiş bir çaba gösterdiğini ortaya koyabilen bir şirketin konumu, bunu yapamayan bir şirketinkinden çok farklıdır.

Güvenlik kaygıları gelir hedefleriyle ya da rekabet baskısıyla çatıştığında, güvenilir bir yönetim kurulu karar alma süreci nasıl olmalıdır?

Güvenilir bir süreç, bilgiye dayalıdır ve kayıt bırakır. Yönetim kurulu; ertelemenin maliyetleri, güvenlik kaygısının niteliği ve olasılığı ile bu kaygıyı azaltmaya yönelik seçenekler hakkında somut bilgiler görmelidir. Testlerin yeterli olup olmadığını sorgulamalı; yetersiz kaldığı durumlarda daha fazla test yaptırmalı ya da dışarıdan inceleme istemelidir. Gerçek belirsizliğin sürdüğü durumlarda, piyasaya sürmekle ürünü rafa kaldırmak arasında seçenekler vardır: sınırlı bir sürüm, aşamalı bir kullanıma sunum ya da şirketin taahhütte bulunmadan önce daha fazla bilgi edinmesini sağlayan kontrollü bir test ortamı. Yönetim kurulu hangi kararı alırsa alsın, şirketin modelin güvenliği hakkında kamuoyuna söyledikleri doğru olmalıdır; bugün karşı karşıya olunan dava riskinin büyük bölümü de bu noktadan kaynaklanmaktadır.

Yönetim kurulu daha sonra neye karar verdiğini ve nedenini yazılı hâle getirmelidir. Zamanla bu kayıtlar bir emsal kararlar bütünü oluşturur; böylece bir sonraki zor karar önceki kararla karşılaştırılır ve şirketi inceleyen herkes, açıklanan ilkelerin gerçekten bağlayıcı olup olmadığını görebilir. Microsoft bu tür bir karar kaydı oluşturmaya başladı ve bence bu, yapay zekâ yönetişiminde yeterince takdir edilmeyen en önemli araçlardan biri. Rekabet baskısı gerçektir ve yönetim kurulu ilerleme yönünde makul bir karar verebilir. Ancak varsayılan olarak karar veremez.

Çalışmanız, yönetim kurulu kararlarını değerlendirmek için “toplumsal iş kararı” standardını öneriyor. Potansiyel kamu zararını gözeterek kârlı bir ürünün piyasaya sürülmesini erteleyen bir yapay zekâ şirketine bu standart nasıl uygulanır?

Mevcut şirketler hukuku uyarınca, kârlı bir ürünün piyasaya sürülmesini erteleyen bir yönetim kurulu zaten güçlü bir hukuki korumaya sahiptir. Mahkemeler, yöneticilerin iş kararlarına müdahale etmez; bugünkü kârın azalmasını kabul ederek yarının zararını önlemek de bu ilkenin kapsamına rahatlıkla girer. Daha zor soru bunun tersidir: Yönetim kurulu, kamuya verilebilecek zararı gerçekten ciddiye aldı mı?

Toplumsal iş kararı standardı, yönetim kurulunun potansiyel kamu zararını, diğer iş risklerini değerlendirdiği gibi, mümkün olduğunda somut, ölçülebilir ve belirli ölçütler kullanarak değerlendirmesini ister. Vurgu, sonuca değil sürece ve gerekli özenin gösterilmesine yapılır. Doğru bilgileri toplayan, etkilenecek kişileri dinleyen ve gerekçelerini kayda geçiren bir yönetim kurulu, ürünün piyasaya sürülmesini ertelese de sürdürse de mahkemelerin kararına saygı göstermesini hak eder. Bunların hiçbirini yapmayan bir yönetim kurulu ise bunu hak etmez. Dolayısıyla, sözünü ettiğiniz durumda sorun erteleme kararının kendisi değildir. Önemli olan, yönetim kurulunun bu karara nasıl ulaştığını gösterebilmesi ve aynı koşullarda yine aynı kararı verip vermeyeceğidir.

Yapay zekâ şirketleri güvenlik çerçeveleri ve gönüllü taahhütler yayımlıyor, ancak okurlar bu politikaların münferit kararları nasıl etkilediğini nadiren görebiliyor. Etkili yönetişimi bir halkla ilişkiler çalışmasından ayıracak kanıt ne olurdu?

Şirketler çerçeveler yayımladığında kamuoyu çoğu zaman bu çerçevelerin belirli kararlara gerçekten uygulanıp uygulanmadığını, yoksa şirketin hiçbir zaman hayata geçirmediği bir söylemden mi ibaret kaldığını merak eder. Yanıt, belirli türde bir açıklama yapmaktır. Şirketler yeni ilke beyanları yayımlamak yerine, aldıkları somut kararları ve çerçevenin bu kararları nasıl şekillendirdiğini; hangi lansmanların ertelendiğini, hangi özelliklerin kullanıma sunulmadığını, hangi risk eşiklerinin aşıldığını ve ardından neler yaşandığını açıklamalıdır.

En açıklayıcı kanıt, şirkete bir bedel ödeten karardır. Sonuçları hiç değiştirmemiş, hiçbir lansmanı ertelememiş ve gelirden vazgeçme pahasına hiç devreye sokulmamış bir çerçeveyi halkla ilişkiler faaliyetlerinden ayırt etmek zordur. Bu açıklamalar doğrulanabilecek kadar somut olmalı; en önemli konularda ise bunu kamuoyu önünde söyleyebilecek yetkinliğe sahip bağımsız bir üçüncü tarafça doğrulanmalıdır.

Şirketlerin kendi kendilerini yönetmesi hangi noktada sınırlarına ulaşır? Kabul edilebilir yapay zekâ riskine ilişkin hangi kararlar kamusal kurallar veya demokratik denetim gerektirir?

En önemli sınır, denetim eksiklikleriyle ilgilidir. İyi niyetli ve sorumlu bir şirket bile büyük bir krizle karşı karşıya kalabilir; böyle bir anda çıkar çatışmaları çoğalır. Çalışanlar, işlerine veya primlerine zarar verebilecek bilgileri saklayabilir. Yöneticiler, kamuoyunun eleştirisinden kaçınmak için kötü haberleri bastırabilir. Dava açılma korkusu şirketin açık davranmasını engelleyebilir. Geçmişteki kurumsal krizlerde kritik bilgiler genellikle yöneticilerin kontrol edemediği kişilerden, dış denetçilerden ve incelemecilerden, etkilenen taraflardan ya da bağımsız bildirim kanallarını kullanan şirket içi ihbarcılardan gelmiştir.

Kamusal kuralların en çok önem taşıdığı nokta burasıdır. Yasalar, kural koyma aşamasında görece az katkı sağlayabilir; çünkü mevzuat, temel kavramlarını çoğunlukla şirketlerden alır. Gönüllü olarak bilgi açıklamayacak şirketleri de kapsayarak şeffaflığa daha fazla katkıda bulunabilir. Bağımsız incelemeyi zorunlu kılarak, ihbarcıları koruyarak ve dış denetimlere gerçek yetki vererek doğrulama konusunda ise en büyük katkıyı sağlar.

Diğer sınır ise kolektif niteliktedir. Tek bir şirketin yapabileceği en fazla şey, kendi faaliyetlerini durdurmaktır. Rakiplerini durduramaz. Sınır teknolojisinin ilerlemesini yavaşlatıp yavaşlatmamak da dâhil olmak üzere yıkıcı risklere ilişkin kararlar, ülkeler içinde ve uluslararası düzeyde şirketler ve hükümetler arasında koordinasyon gerektirir. Umut verici bulduğum modellerden biri, sürdürülebilirlik raporlamasında ISSB örneğinde olduğu gibi, hükümetlerden bağımsız ancak hükümetlerin de yer aldığı mütevelli heyetlerinin gözetiminde çalışan uluslararası bir standart belirleyici kurumdur. Bu çalışma için şirketlerin kendi düzenlerini kurması gereklidir; çünkü bu modellerin denetim altına alınması onları geliştiren şirketlerin içinde gerçekleşir. Ancak bu çalışma tek başına şirketlerin omuzlarına bırakılamaz.

Bugün hızla büyüyen bir yapay zekâ şirketinin yönetim kuruluna danışmanlık yapıyor olsaydınız, hangi üç yönetişim değişikliğine öncelik verirdiniz? Bunların işe yarayıp yaramadığını anlamak için bir yıl sonra hangi kanıtlara bakardınız?

İlk olarak, kural koyma sürecinde paydaşlarla istişare. Şirket, güvenlik çerçevesini veya kullanım politikalarını kabul etmeden ya da gözden geçirmeden önce etkilenen kişilere (kullanıcılara, sivil topluma ve alan uzmanlarına) danışmalı; kendisine iletilen görüşleri ve bunlara nasıl yanıt verdiğini yayımlamalıdır. İkinci olarak, düzenli sorumluluk raporlaması: Yönetim kurulunun ve yönetimin çerçeve kapsamında aldığı zor kararları, doğrulanmaya yetecek ayrıntıyla ele alan yıllık bir rapor. Üçüncü olarak, bağımsız yönetim kurulu üyelerinin görevlendirdiği ve onlara rapor sunan, bilgilere tam erişimi ve bulgularını yayımlama hakkı bulunan bir dış denetçi.

Bir yıl sonra, bu değişikliklerin her birinin gerçekten etkili olduğuna dair kanıt arardım. Paydaşlarla istişare için, şirketin aldığı görüşler sonucunda değişen en az bir kural. Raporlama için, şirketin açıklamayı tercih etmeyeceği, gelir veya zamana mal olan kararlar da dâhil olmak üzere açıklanmış kararlar. Dış denetçi için, şirketin duymak istemediği bulgular ve yönetim kurulunun bunlar üzerine ne yaptığına ilişkin bir kayıt. Bir yılın sonunda raporlanan her şey iyi haberlerden ibaretse, değişiklikler işe yaramamış demektir.

Harika röportaj için teşekkürler. Kitabı keşfetmek ve satın alma seçeneklerini incelemek isteyen okurlar, Corporate Ordering kitabının resmî web sitesini ziyaret edebilir.

Antoine, Unite.AI'nin vizyoner lideri ve kurucu ortağıdır. Yapay zekâ ve robotiğin geleceğini şekillendirmeye ve ilerletmeye yönelik sarsılmaz bir tutku taşır. Birden fazla şirket kurmuş bir girişimci olarak yapay zekânın toplumu elektrik kadar köklü biçimde dönüştüreceğine inanır ve çığır açan teknolojiler ile yapay genel zekânın (AGI) potansiyelinden sık sık heyecanla söz eder.

Bir fütürist olarak bu yeniliklerin dünyamızı nasıl şekillendireceğini araştırmaya kendini adamıştır. Ayrıca geleceği yeniden tanımlayan ve tüm sektörleri dönüştüren ileri teknolojilere yatırım yapmaya odaklanan Securities.io platformunun kurucusudur.