Cillian Kieran, Ethyca’nın Kurucusu ve CEO’su – Röportaj Serisi

Cillian Kieran, Ethyca’nın Kurucusu ve CEO’su, iki thập kỷdan fazla deneyimle veri yoğun teknoloji şirketleri kurmuş bir girişimcidir. Ethyca’yı 2019’da kurmadan önce, dijital ajans CKSK’yı on yıl yönetmiş ve daha sonra yazılım mühendisliği, kullanıcı deneyimi ve büyük ölçekli entreprise veri programlarındaki geçmişine dayanarak BrandCommerce’i kurmuştur. Ethyca’da Kieran, gizlilik ve veri yönetimini büyük ölçüde manuel bir uyum fonksiyonundan, teknolojiyi oluşturan ve işleten organizasyonlar içinde doğrudan gömülebilecek altyapıya dönüştürmeye odaklanmıştır.

Ethyca güvenilir veri altyapısı geliştirir ve şirketlere duyarlı bilgileri keşfetme, onayları yönetme, gizlilik taleplerini yerine getirme ve geleneksel uygulamalar ve yapay zeka sistemleri boyunca veri kullanımını düzenleyen kuralları uygulama konusunda yardımcı olur. Platform, sistemler, API’ler ve AI boru hatları boyunca izin verilen veri kullanımlarını tanımlamak, denetlemek ve zorlamak için tutarlı bir çerçeve oluşturan açık kaynaklı bir yönetim dili olan Fides etrafında inşa edilmiştir. Şirket şimdi, Astralis’i, düzenleyici değerlendirmeleri amaç tabanlı erişim kontrolleriyle birleştiren bir AI yönetim katmanı olarak piyasaya sürmektedir. Bu, organizasyonların modellerin ve ajanların belirli verileri neden eriştiğini belirlemelerine ve bu izinleri gerçek zamanlı olarak zorlamalarına olanak tanır. Ethyca, platformun geleneksel olarak 40 ila 60 saatlik manuel çalışmaya gerek duyan değerlendirmeleri yaklaşık 20 ila 40 dakikaya indirerek, şirketlerin AI dağıtımlarını genişletmelerine yardımcı olurken, yönetim süreçlerinin bir engel haline gelmesini önler.

Ethyca’yı 2019’da kurmadan önce, Fortune 500 şirketlerine hizmet veren küresel bir dijital danışmanlık şirketi olan CKSK’yi kurmuştunuz. Bu yolculuk sırasında, veri yönetimi yerine AI modellerinin kendilerine odaklanmanızın sizi ikna eden deneyimler nelerdi?

Heineken, Sony ve Pepsi gibi büyük şirketlere hizmet veren bir dijital danışmanlık şirketi kurmuştum. Her seferinde aynı modeli gördüm: Güçlü bir teknoloji ortaya çıkıyor, herkes onu benimsemek için yarışıyor ve ancak o zaman düzenleyiciler ortaya çıkıp sınırlar koyuyor ve uyum ekipleri sonuçlarla başa çıkmak zorunda kalıyor. GDPR, şirketlerin kişisel verileri kullanımına ilişkin ilk gerçek baskıydı. Düzenleyiciler, yalnızca martech ve sosyal medyanın already veri toplama işini iş modelinin omurgası haline getirdikten sonra müdahale etti. AI ile aynı modelin ortaya çıkacağına ikna oldum.

Bu şüphemi pekiştiren şey, Ethyca’da yaptığım gizlilik uyum çalışmasıydı. Büyük şirketler için uyum sistemleri oluştururken, bir şirketin verilerine bir katman oluşturabileceğinizi fark ettim. Bu katman, her isteği üç şeye karşı değerlendirir: Veri nedir, veriyle ne yapmanıza izin verilir ve veriyle bunu yaparsanız ne gibi bir risk vardır. Bu çalışmayı yaparken, gerçek kısıtlamanın ne olduğu açıktı. Şirketler veriden yana değil, ne tür verilerin hangi amaçlar için kullanılabileceğini belirleyen bir yönetim katmanından yoksundular. 2019’da bu bahse girdik ve AI’nin ortaya çıkmasıyla bu daha da önemli hale geldi.

Son bir yıl içinde, şirketlerin AI kullanımı basit sohbet botlarından otonom AI ajanlarına geçti. Bu evrim, organizasyonların karşılaştığı yönetim zorluklarını nasıl değiştirdi ve geleneksel uyum yaklaşımları neden artık ölçeklenmiyor?

İnsanlar, şirketlerin AI’dan elde ettiği değerin, basitçe bir ajanı iş akışlarına bağlamaktan geldiğini düşünüyor. Aslında, değer, ajanı geniş bir sistem yelpazesine bağlayarak, insanların bir araya getiremeyeceği verileri sentezleyerek ve çıktılar üretmesinden geliyor. Veriye erişim, gerçek bir engel.

Sorun, ajanın değerli olmasını sağlayan şeyin aynı zamanda riskli olmasını sağlamasıdır. Bağlandığı sistemlerin sayısı arttıkça, veri farklı organizasyon bölümleri arasında akışmaya başlar ve her bir akış, verilerin yanlış yere gitme ihtimalini artırır.

Her bir akışın denetlenmesi gerekir: Bu veri bu şekilde kullanıma izin verilir mi, bu amaç için, gizlilik yasalarına ve kendi politikamıza göre? Bu kararları insan eliyle almak mümkün olabilir, ancak AI ajanları saniyede binlerce istek gönderdiğinde, bu insan gücüyle yapılması imkansız hale gelir. İşte geleneksel uyumun bozulduğu nokta.

Büyük AI şirketlerinin köpürtülen değerlemelerinin gerçekleşmesi için, yönetim gerçek zamanlı olarak, makine hızında, veri erişim anında gerçekleşmelidir.

Ethyca, Astralis’i bir AI yönetim katmanı olarak piyasaya sürüyor. Müşteri sorunları nelerdi ve neden şimdi piyasaya sürülmesi gerekiyor?

AI için veri temizleme işi hala 2016’daki gizlilik çalışması gibi elle doldurulan formlarla ve değerlendirmelerle gerçekleşiyor. Bu süreç zaten ordinary gizlilik çalışması için çok yavaş ve AI kullanım örneklerinin hacmine karşı hiçbir şansı yok. Şu anda satılan çoğu AI yönetimi, AI etiketiyle aynı formlar ve iş akışlarıdır. Bir formu doldurmak, yönetim değildir. Eksik olan, yönetim işini yapan yazılım, insan tarafından elle yapılanın kaydını üreten değil. İşte Astralis’i yapmak için bunu inşa ettik.

Cevap verdiğimiz talep, AI’ı hızlı ve güvenli bir şekilde göndermekle görevlendirilen ekiplerden geliyor ve şu anda bunu yapamıyorlar. Ajanlar üretim aşamasına geçiyorlar, ancak hiçbir ekip onları takip edemiyor ve düzenleyicilerin sorduğu soru değişti. Artık bir politikanız olup olmadığı değil, o politikanın belirli bir veri parçasına, belirli bir amaç için uyumlu olup olmadığını kanıtlamak.

Gartner, 2028 yılına kadar ortalama bir Fortune 500 şirketinin 15’ten 150.000’e çıkacak AI ajanları çalıştırabileceğini öngörüyor. Bu durum, otonom ajanların insan çalışanlardan daha fazla veri ile etkileşime girebileceği bir dünyaya doğru ilerlerken, empresa liderlerinin yönetim anlayışını nasıl yeniden düşünmeleri gerekiyor?

2028 yılına kadar, şirketlerin verilerine erişen ajanlar, insan çalışanlardan daha fazla olacak. Bu durumda, kim sorumlu tutulacak? Eski model, insan onayına dayanıyordu, ancak ajanların çoğu kararı ne insan veriyor ne de insan tarafından gözden geçiriliyor. Sorumluluk, insanlardan sistemlere kaymalı.

Bankacılık bu değişimi uzun zaman önce gerçekleştirdi. Bir bankaya güveniyoruz, çünkü bir memur elle paraları sayıyor değil, çünkü kontroller sağlam ve bu kontrolleri korumakla sorumlu kişiler var. Veri yönetimi de aynı şeyi yapmalı. Bir şirketin verilerini sorumlu bir şekilde işlediğinin kanıtı, artık bir insanın bunu incelediği değil, sistemlerin her kullanım için otomatik olarak politikayı uyguladığı ve bunu kanıtladığıdır. Bu, iş liderlerinin yargı uygulamaya, kuralları belirlemeye ve sistemi desteklemeye odaklanmalarına olanak tanır.

Astralis, Büyük Dil Düzenleme Modeli (LLRM) ile Amaç Tabanlı Erişim Kontrolü’nü (PBAC) birleştiriyor. Bu iki teknolojinin AI sistemlerinin sadece kimin veri erişimi olduğuna değil, aynı zamanda neden erişmesi gerektiğine karar vermesini sağlamak için nasıl çalıştığını açıklar mısınız?

Geleneksel erişim kontrolü, kim olduğunuzu ve kimlikinizin belirli verilere erişmenize izin verip vermediğini kontrol eder.

Ancak gizlilik farklıdır; bu, kimin girebileceği değil, veri hangi amaçla kullanılıyor ve bu amaç izin verilen bir amaç mı? İşte PBAC’nin cevabı ve bunu zorlaması.

Zor olan, amaçların teknik bir gerçeklik değil, işinizin ne yaptığına, müşterilere neler vaat ettiğinize ve yasaların neye izin verdiğine bağlı olmasıdır. İşte LLRM’nin görevi. LLRM, şirketinizin nasıl çalıştığını öğrenir, sonra buna uygulanabilecek düzenlemeleri işler ve şirketin özel işleyişine göre politika oluşturur. PBAC, o politikanın her kullanım anında uygulanmasını sağlar – yani politika değiştiğinde, uygulama mekanizması etkilenmez.

Astralis’in lansman açıklamasına göre, AI değerlendirmeleri 40 ila 60 saatlik manuel çalışmadan 20 ila 40 dakikaya indirilebiliyor. Bugün yönetim sürecinin en verimsiz kısımları neler ve otomasyon en büyük kazanımları nerede sağlıyor?

O 40 ila 60 saatlik sürenin çoğu, insan yargısına ihtiyaç duyan şeyler için harcanmıyor. Verileri elle haritalamak, bir elektronik tabloda tutmak ve sonra ekipler arasında bağlamı takip etmek için harcanıyor. Bir assessment, bir anlık görüntü ve gerçek assessment, yani bir insanın düşünmesi gereken kısım, küçük bir parçadır. Geri kalanı, zaten işin sahip olduğu bilgileri toplamak için profesyonellerin uğraştığı işlerdir.

Üzücü olan, bu işin bir kere yapıldıktan sonra bitmesi değildir. Bir assessment bir anlık görüntüdür, ancak AI kullanım örnekleri durmaksızın gelir ve her biri kendi değerlendirmesini gerektirir. Böylece manuel süreç, sadece yavaş değil, aynı zamanda işin ilerlemek istediği tempoya karşı kalıcı olarak geri kalır ve şirketler büyüdükçe yönetilemez hale gelir.

Verimlilik kazanımları, kimin ne yaptığını değiştirmekten geliyor. Sistem, metadata’yı kendisi toplar, böylece kimse elle bağlamı takip etmek zorunda kalmaz. Sadece bir insan tarafından gerçekten cevaplanabilecek soruları ortaya çıkarır – gerçek yargı çağrıları – ve bir insanın makine tarafından doldurulabilecek alanları ezerek geçirmesine gerek kalmaz. Ayrıca, denetim izi, değerlendirme gerçekleşirken kendiliğinden oluşturulur, böylece 40 saat, 40 dakikaya dönüşür.

Bir büyük ABD finans kuruluşunun Astralis aracılığıyla saniyede yaklaşık 6.000 yönetim isteğini işlediğini söylüyorsunuz. Bu ölçekte çalışmak, empresa AI altyapısı için gelecekteki altyapı gereksinimlerini neler öğretiyor?

Öğrendiğimiz şey, yönetim artık ayrı bir adım olamaz. 6.000 karar saniyede, yönetim verinin kendisiyle aynı hızda, sorguları ve modelleri yönettiği aynı anda gerçekleşmelidir. AI için yönetim, altyapı olmalı: her zaman açık ve her zaman hat içinde, değilken bir rapor olarak üretilen. Hızlı olmalı, çünkü yönetim yavaşsa, insanlar onu atlayıp deadline’lerini karşılamak için acele eder.

AI düzenlemeleri hem ABD’de hem de Avrupa’da hızla evrim geçiriyor. Değişen yasal çerçevelere uyum sağlamak için bir yönetim platformu nasıl inşa edersiniz ve şirketleri sürekli manuel politika güncellemelerine zorlamadan bunu nasıl başarmışsınız?

Çoğu uyum aracı, kuralları ürüne gömerek hata yapar, böylece yasa değiştiğinde, aracın yeniden mühendislik yapılmasını beklersiniz. Astralis bunun tersini çalıştırır. Temelinde, verilerin ve kullanımlarının tanımlanması için ortak bir dil bulunur ve hiçbir kural içermez. Kurallar, üstünde bir politika katmanında bulunur. LLRM, düzenleyiciyi okur, işinize ne anlama geldiğini belirler ve politika oluşturur. PBAC, o politikanın ne dediğini o anda uygular – böylece kural değişikliği, uygulama mekanizmasını tamamen etkilemez.

Yeni bir düzenleme geldiğinde, bir şirketin tüm çabası, bunu işlerine nasıl uygulayacağına odaklanabilir; hiçbiri gizlilik sistemlerini yeniden mühendislik yapmakla uğraşmaz.

Çok sayıda yönetici, yetkisiz kararlar alan veya duyarlı bilgileri erişen AI ajanlarına karşı endişe duyuyor. Bu endişe ne kadar gerçekçi ve şirketlerin AI ajanlarını geniş ölçekte dağıtmadan önce uygulamaları gereken somut önlemler neler?

Bu endişe tamamen gerçekçi ve zaten oluyor. California, Disney’e 2.75 milyon dolar para cezası kesti, çünkü sistemleri, temel bir şey gibi bir müşterinin opt-out’unu güvenilir bir şekilde uygulayamıyordu. Bir tüketici, bir cihazda opt-out yapmış olsa da, diğer cihazlarda opt-in olarak kalıyordu ve tarayıcı düzeyinde opt-out talimatları geçerli bir talep olarak kabul edilmiyordu. Bu olay, bir ajanın beklenmedik bir şekilde davranmasıyla değil, daha çok temel bir şey olan bir tüketicinin opt-out’u arasındaki uçurumdan kaynaklanıyordu.

Gerçekten bu tür başarısızlıkları önleyen önlemler çok basit: Ne verilere sahip olduğunuzu ve onlara ilişkin neler taahhüt ettiğinizi bilin ve hepsini bir yerde tutun, çünkü bu tür başarısızlıkların çoğu, bir ekibin vaadini diğerinin veritabanına ulaşmamasından kaynaklanıyor.

Üç ila beş yıl sonrasına bakıldığında, AI’ı erfolgreich bir şekilde işletecek şirketleri, AI girişimlerini pilot projelerde bırakmış şirketlerden ayıran nedir ve yönetim bu rekabet avantajının yaratılmasındaki rolü nedir?

Fark, bir şirketin tüm verilerini yönetmek için tek bir sistem olup olmadığına bağlı olacaktır. Departman departman yönetim yapan şirketler, AI’ın departmanlar arası ulaştığı için duvarlarla karşılaşmaya devam edeceklerdir. AI’ı hızlı bir şekilde göndermek ve aynı zamanda bir düzenleyici mektubunda yer almamakla görevlendirilen her şirket, şimdiye kadar bu iki hedef birbirine karşı çekmiştir. Her ikisini çözen, birini diğerine tercih etmeyen şirket, on yılın galibi olacaktır.

Harika bir röportaj için teşekkür ederiz. Daha fazla bilgi edinmek isteyen okuyucular, Ethyca veya Astralis ziyaret edebilir.