Gerald Kierce, Trustible’nin CEO’su ve Kurucu Ortağı – Röportaj Serisi

Gerald Kierce, Trustible’nin CEO’su ve Kurucu Ortağı, sorumlu AI’yi operasyonel hale getirmeye odaklanan bir teknoloji ve politika lideridir. Trustible’nin misyonunu, organizasyonların güven oluşturmasına, riski yönetmesine ve ortaya çıkan AI düzenlemelerine uymasına yardımcı olmak için yürütür. Önceden, FiscalNote’de AI Çözümleri Başkan Yardımcısı ve Genel Müdürü olarak görev yaptı ve şirketin kurumsal AI ürünlerinden sorumluydu ve kurumsal geliştirme, ürün, müşteri başarısı ve yönetici operasyonları gibi çeşitli rollerde bulundu. Kariyeri, teknoloji, düzenleme ve ölçeklenebilir şirket operasyonlarının kesişme noktasında sürekli olarak yer almıştır.

Trustible, organizasyonların AI sistemlerini envanterine almasına, riski değerlendirmesine ve azaltmasına ve yapılandırılmış iş akışları ve belgeler aracılığıyla uyumu operasyonel hale getirmesine yardımcı olan bir AI yönetim platformu sağlar. Hukuk, uyum ve AI ekipleri için tasarlanan platform, yönetim faaliyetlerini merkezileştirir, AI kullanım örneklerini düzenleyici çerçevelerle hizalar ve şirket genelinde sorumlu AI’nin daha hızlı ve daha şeffaf bir şekilde dağıtılmasını sağlar.

Ürün pazarlaması ve Baş Danışmanlık çalışmalarından FiscalNote’de AI çözümlerine liderlik yapmaya geçmeden önce, AI yönetimine adanmış bir platforma ihtiyaç duyduğunuzu gördüğünüz şeyi bu rollerde ne gördünüz ve Trustible’yi lanç ettiğinizde ilk olarak hangi problemi çözmeye karar verdiniz?

FiscalNote’de 8 yıldan fazla bir süredir çeşitli rollerde görev yaptım ve IPO’dan sonra senior yönetici olarak ayrıldım.

FiscalNote’de ürün pazarlaması, Baş Danışmanlık ve sonunda AI çözümlerine liderlik yaptığım süre boyunca, aynı sorunu farklı açılardan gördüm. AI yönetimi temel olarak bir sosyo-teknik problemdir, ancak çoğu organizasyon bunu parçalı bir şekilde ele almıştır. Ekipler, AI performansını, güvenliğini, gizliliğini, etiğini ve yasal incelemelerini ayrı ayrı izler ve genellikle paylaşılan bir operasyonel omurga olmadan farklı fonksiyonlara sahip olurlar. Bu beş boyut kesinlikle önemlidir ve birlikte ele alınmalıdır. Ancak organizasyonlar, bu sosyo-teknik niyeti, AI gerçek kararlar almaya başladığında dayanıklı bir şeye çevirmekte zorlanmaktadır.

Aynı zamanda, AI etrafındaki düzenleyici ortam açıkça değişiyordu. AB AI Yasası ve ilgili standartlar, AI’yi deneysel teknoloji yerine düzenlenmiş altyapı olarak yönetme yönünde bir değişimi işaret ediyordu. Anlaşılabilir olan şey, birçok şirketin AI sistemlerine, dağıtımdan sonra politika ve düzenleyici beklentileri haritalamak yerine, düzenleyici niyeti sürekli olarak operasyonel hale getirebilecek bir yönetimi tasarlamaya çalıştığıydı.

FiscalNote’deki deneyimim önemliydi, çünkü biz AI’yi kendisi politik, yasal ve düzenleyici manzaraya uyguluyorduk. Organizasyonların, yasaların nasıl evrildiğini, gereksinimlerin nasıl yorumlandığını ve düzenleyici beklentilerin nasıl operasyonel yükümlülüklerine dönüştüğünü anlamalarına yardımcı oluyorduk. Bu deneyim, etkili AI yönetimine, politika ve düzenleyici düşünceyi doğrudan AI sistemlerinin nasıl inşa edildiği, dağıtıldığı, izlendiği ve koşullar değiştiğinde nasıl uyarlandığı konusunda aynı disiplini gerektirdiğini gösterdi.

Müşteriler sürekli olarak aynı ağrı noktalarını tanımladılar. Üretimdeki AI sistemlerini, hangi sistemlerin yeni düzenlemeler altında yüksek risk altında olduğunu, sistemler işlevsel sınırları aştığında kimin sorumlu olduğunu veya modeller, veriler, satıcılar ve düzenlemeler aynı anda evrimleşirken nasıl sürekli uyum sağlayacaklarını güvenle cevaplayamadılar.

Trustible’yi lanç ettiğimizde, ilk olarak sosyo-teknik yönetimden teoriden operasyonel gerçekliğe geçmek için bir sistem oluşturmayı hedefledik. Teknik davranış, kullanım durumu risk bağlamı, mülkiyet ve düzenleyici beklentileri bir araya getiren bir sistem yaratmak için çalıştık. Trustible, organizasyonlara AI için yaşayan bir kayıt sistemi sunmak üzere tasarlandı, sürekli görünürlük ve hesap verebilirlik ile birlikte, böylece yönetim teknoloji değişimi ve düzenleyici evrimi takip edebilsin.

Ön saflardan, AI gerçek kararlar, iş akışları ve müşteri odaklı deneyimler almaya başladığında neden yönetim programlarının durakladığını öğrendiğiniz gì?

AI gerçek iş akışlarına geçtiğinde, yönetim genellikle çok pratik nedenlerle durur, felsefi nedenlerle değil. Çoğu organizasyon, AI riskini, sistemlerin gerçekten kullanıldığı şekilde değerlendirmeyi bilmez. Modelleri soyut olarak değerlendirebilirler, ancak kullanım durumu seviyesinde, bağlam, etki ve aşağı akış kararları çok daha önemli olduğundan riski değerlendirmekte zorlanırlar.

Bu sorun, özellikle üretken AI ile daha da belirgin hale gelir. Tek bir temel model, müşteri desteği, iç araştırma, karar desteği veya içerik oluşturma için kullanılabilir, her biri çok farklı risk profillerine sahip olabilir. Bu kullanımların yapılandırılmış bir şekilde değerlendirilmesi ve karşılaştırılması yoksa, ekipler ya aşırı ihtiyatlı davranırlar ya da gerçek güven olmadan ilerlerler.

Üçüncü taraf AI things daha da karmaşık hale getirir. Organizasyonlar, satıcılar ve gömülü AI yeteneklerine büyük ölçüde güvenir, ancak bu sistemleri değerlendirmek, yukarı akış kontrollerini anlamak veya satıcı riskinin kendi düzenleyici ve operasyonel maruziyetlerine nasıl dönüştüğünü belirlemek için tutarlı yöntemlere sahip değildir. Bu nedenle, incelemeler öznel ve yavaş olur.

Bu zorluklar, uzmanlık ve mülkiyet boşlukları ile daha da artar. Yönetim sorumlulukları thường, yasal, uyum, güvenlik, veri ve ürün ekipleri arasında dağıtılır ve sistemler üretim aşamasına ulaştığında明確 bir sahibi yoktur. Eksik uzmanlık ve mülkiyet, birlikte eski araçlar gibi elektronik tablolar, belge depoları veya eski GRC platformları ile birlikte, yönetim ekiplerinin neyin değiştiğini ve neden önemli olduğunu görmelerini engeller.

Temelde, yönetim durur, çünkü organizasyonlar, statik sistemler için tasarlanmış eski oyun kitaplarını dinamik AI sistemlerine uygulamaktadır. AI, sürekli risk değerlendirmesi, net mülkiyet ve sistemlerin gerçekten nasıl davrandığını yansıtan araçlar gerektirir, değil kağıt üzerinde nasıl onaylandığını.

Son olarak, mülkiyet genellikle çözülmez. Birçok organizasyonda, bir AI sisteminin deneyselden üretime geçtiği anda明確 bir sahibi yoktur. Bir iş sahibi, AI sisteminin sonuçlarından sorumlu değilse, yönetim danışmanlık haline gelir ve ilerleme yavaşlar.

Ortak iplik, organizasyonların yeni teknolojiye eski yönetim oyun kitaplarını uyguluyor olmasıdır. Bu oyun kitapları statik sistemler ve periyodik incelemeler için tasarlanmıştır. AI, sürekli risk değerlendirmesi, daha net mülkiyet ve sistemlerin gerçekten nasıl çalıştığını yansıtan araçlar gerektirir.

AI yönetimine hangi yetenekleri standartlaştırmak gerekiyor ve sınırlı kaynaklarla şirketler hangi yetenekleri önceliklendirmelidir?

Kaynaklar sınırlı olduğunda, organizasyonlar nerede başladıklarına dikkat etmelidir, çünkü erken seçimler her şeyin yolunu belirler. İlk öncelik, AI sistemlerinin gerçekten nerede olduğunu belirlemektir, hangi kararları etkilediğini anlamak ve明確 bir mülkiyet atamaktır.

AI sistemlerinin envanterini oluşturduktan sonra, hesap verebilirliği AI kullanım durumlarına sokmak önemlidir. Organizasyonlar, riski nasıl sınıflandıracağını tanımlamalıdır, daha yüksek riskli sistemler için onay noktaları tanımlamalıdır ve en önemli alanları izlemeye başlamalıdır.

Son olarak, yönetim kurulumdan operasyona geçmelidir. İzleme, mevcut iş akışlarına entegre edilmelidir, uyarı yolları明確 olarak tanımlanmalıdır ve kanıtlar sistemlerin çalışmasıyla birlikte doğal olarak birikmelidir.

Neden AI yönetimine siber güvenlik veya GRC gibi aynı ciddiyetle yaklaşılması gerektiğini düşünüyorsunuz ve liderler operasyonel iş yükünü nerede yanlış değerlendirmektedir?

AI yönetimi, siber güvenlik ve GRC ile karşılaştırılabilir sistemik risk taşır, ancak AI sistemleri davranışlarını insan müdahalesi olmadan değiştirebildiği için daha karmaşıktır. AI başarısızlıkları, siber güvenlik başarısızlıkları gibi hızlı bir şekilde ve görünmeden bir organizasyon boyunca yayılabilir. AI, yasal, etik ve operasyonel yükümlülüklerle kesişir.

Liderler, AI yönetimine bir defalık bir uyum egzersizi olarak yaklaşma eğilimindedir. Ancak AI yönetimi, sürekli bir operasyonel altyapıdır. İzleme sürekli olmalıdır, koordinasyon ürün, veri, BT, yasal, uyum ve satın alma ekipleri arasında olmalıdır ve değişim yönetimi sürekli olmalıdır.

Organizasyonlar, AI yönetimine operasyonel altyapı olarak yaklaşanlar, AI’yi güvenli ve sürdürülebilir bir şekilde ölçeklendirme konusunda daha iyi bir konumdadırlar.

Amerika Birleşik Devletleri eyaletleri AI kurallarını ilerletirken federal politika tartışmalı kalırken, şirketlerin nasıl bir yönetim tasarlamaları gerekir?

AI için düzenleyici ortam belirsiz ve gelişmektedir. En dayanıklı yönetim programları, bireysel düzenlemeler yerine gereksinimlere dayanmaktadır. Organizasyonlar, her yeni yasaya özel süreçler oluşturmak yerine, çeşitli yargı bölgeleri boyunca ortak beklentilere odaklanmalıdır.

Yönetim sistemleri modüler olduğunda, yeni düzenleyici gereksinimler mevcut kontrollere haritalanabilir ve yönetim, politika değişiklikleriyle birlikte ilerleyebilir.

Hedef, bugünün kurallarına uyum sağlamak değil, beklentilerin evrimine uyum sağlamaktır.

2026’ya doğru bakıldığında, AI yönetimine hangi yeteneklerin kaçınılmaz olacağını düşünüyorsunuz?

AI, gerçek dünya kararlarına şekil vermeye başladığında, yönetim beklentileri de aynı hızda değişmektedir. 2026’ya gelindiğinde, organizasyonlar 2024 ve 2025’te geçerli olan oyun kitaplarına güvenemeyeceklerdir. Sürekli izleme, masa başı olacaktır, çünkü statik belgeler ve nokta-işlem değerlendirmeleri, düzenleyicilere, yönetim kurullarına, çalışanlara ve müşterilere karşı yeterli olmayacaktır.

AI, daha fazla iş birimi ve iş akışlarına entegre edildiğinde, organizasyonlar AI tedarik zincirlerini tutarlı bir şekilde yönetmek zorunda kalacaktır. İç AI modelleri, üçüncü taraf satıcılar, gömülü AI özellikler ve otonom bileşenler, aynı lens aracılığıyla yönetilmelidir.

Denetimi hazır kanıtlar, düzenleyici uygulamaların sıkılaştığı ve şeffaflık beklentilerinin arttığı medida zorunludur. Bu, AI sistemleri tasarlanırken, dağıtılırken ve izlenirken yönetim faaliyetini yakalamak anlamına gelir, değil sonra yeniden inşa etmek.

Son olarak, yönetim AI yaşam döngüsünün her aşamasına entegre edilmelidir. Denetim, yalnızca yasal bir inceleme değil, SDLC, MLOps ve üçüncü taraf satıcılar için satın alma iş akışlarına entegre edilmiş bir operasyonel yetenektir. Bu yetenekleri oluşturan organizasyonlar, düzenleyici belirsizliğe uyum sağlamak, olaylara cevap vermek ve AI’yi daha hızlı ve daha güvenli bir şekilde ölçeklemek için daha iyi bir konumda olacaktır.

Zaten üretim aşamasında AI olan ancak resmi bir yönetim programı olmayan bir şirkete danışman olsaydınız, ilk 90 gün nasıl olurdu?

İlk 30 gün, temel görünürlüğü elde etmeye odaklanmalıdır. AI sistemlerinin üretim aşamasında olduğunu, hangi kararları etkilediğini ve明確 bir mülkiyet atamak anlamına gelir.

Sonraki aşama, temel kontrolleri oluşturmaktır. Organizasyonlar, nasıl risk sınıflandırması yaptıklarını, daha yüksek riskli sistemler için onay noktaları tanımlamalıdır ve izlemeye başlamalıdır.

Son aşama, yönetim kurulumdan operasyona geçmelidir. İzleme, mevcut iş akışlarına entegre edilmelidir, uyarı yolları明確 olarak tanımlanmalıdır ve kanıtlar sistemlerin çalışmasıyla birlikte doğal olarak birikmelidir.

İlk 90 günün hedefi mükemmellik değildir, momentumdur. Uygulamada işleyen bir yönetim programı, yalnızca kağıt üzerinde var olan bir programdan daha değerlidir.

Harika röportaj için teşekkür ederiz. Daha fazla bilgi öğrenmek isteyen okuyucular Trustible‘i ziyaret edebilir.