Rowan Stewart, Sr. Ürün Müdürü, AI Güvenliği ve Platform, Transcend – Röportaj Serisi

Rowan Stewart, Transcend’de Ürün Müdürü, AI Güvenliği ve Platform, organizasyonların yapay zeka sistemlerinde veri keşfetmesine, yönetmesine ve güvenli kullanmasına yardımcı olan ürün girişimlerini yönetiyor. AI ve makine öğrenimi ürün geliştirme, kurumsal yazılım, doğal dil işleme, veri stratejisi ve sıfır-bir ürün liderliği konularında on yıldan fazla deneyime sahip. Transcend’e katılmadan önce Stewart, BCG X’de yaklaşık altı yıl çalıştı ve büyük şirketlerin AI stratejileri geliştirmesine, iç süreçlerini yeniden tasarlamasına ve ölçülebilir iş sonuçları sağlayan ürünleri oluşturmasına yardımcı oldu. Kariyerinin早期lerinde, influencer zekası için doğal dil işleme API’lerinin geliştirilmesini yönetti, bunlar arasında sentiment analizi, bilgi grafikleri, kişilik değerlendirmesi, bot algılama ve marka güvenliği özellikleri bulunuyordu.

Transcend , müşteri büyümesini ölçeklendirmek için “Bu veriyi kullanabilir miyim?” sorusuna cevap veren tek özerk veri kararı platformudur. Fortune 500 şirketleri ve ortaya çıkan kategori liderleri, Transcend’i, müşteri verilerini işleyen kurumsal sistemlere tam veri kullanım izinlerini doğrudan kodlayarak, rıza, tercihler ve iş kuralları için gerçek zamanlı bir gerçeklik kaynağı sunarak, üstün veri kalitesi, markayı koruyan etik kullanım ve ölçeklenebilir denetim uyumluluğu sağlayarak kullanıyorlar. Transcend ile şirketler, AI, kişiselleştirme ve diğer birinci taraf veri girişimlerinden güvenle gelir elde edebilir. 2017 yılında Ben Brook (CEO) ve Mike Farrell (CTO) tarafından kurulan Transcend, San Francisco Körfez Bölgesi’nde merkezini bulunduruyor.

BCG X’de dünyanın en büyük organizasyonlarına AI ve makine öğrenimi çözümleri dağıtmalarına yardım etmek için neredeyse altı yıl geçirdiniz, ardından Transcend’de AI güvenliği ve yönetimiyle ilgilenmeye başladınız. Sistemlere entegre edilmeyen yönetimdeki tekrarlayan başarısızlıkları veya kör noktaları gözlemlediniz, bunlar sizi AI yönetimini baştan itibaren sistemlere entegre etmeyi düşünmeye sevk etti, yoksa daha sonra eklenmeyecek miydi?

BCG’de, AI olgunluğunun her aşamasındaki şirketlerle çalıştım ve bir kalıp bana takıldı: yönetim her zaman geç geldi. Ekipler hızlı bir şekilde bir model veya ürün göndermeye çalışırlar ve veri izinleri, rıza veya denetim hakkında konuşma gerçekten üretimden önce odak noktasına gelir ve bir ‘yakalama’ gibi hisseder. O anda inşa edilen her şey, yönetim düşünülmeden tasarlanan bir sistemin yamasına dönüşür.

Bu, Transcend’e katılmaya neden olduğum şeyin bir parçasıdır. Şirketlere ne yapmaları gerektiğini danışmak sadece belirli bir noktaya gider. Altyapıyı inşa etmeye yardımcı olmak istedim, bu yönetim kolay bir seçim haline gelir.

Çok sayıda kuruluş, müşteri desteği, operasyonlar ve bilgi işleri için AI ajanlarını dağıtmak için yarışıyor. Geleneksel yazılım sistemlerini veya daha önceki AI modellerini yönetmekle karşılaştırıldığında, otonom AI ajanlarını yönetmek nasıl farklılık gösterir?

Çoğu kurumsal güvenlik mimarisi, her eylemin diğer ucunda bir insan olduğunu ve bu insanın tanımlanabileceğini, güvenebileceğini ve bir şey yanlış gittiğinde sorumlu tutulabileceğini varsayar. Ancak ajanlar insanlar değildir. Kendi başlarına hareket ederler, diğer ajanlara görevler verirler ve kararları birbirine zincirleyerek, nadiren tek bir sorumlu kişiye haritalanan bir şekilde hareket ederler.

Bir ajana, bir çalışana verdiğiniz aynı statik, sürekli izinleri vermeniz, ajanların ortak sentidoğrafya eksikliği nedeniyle bir uyumsuzluk yaratır. Yönetim, ajanın alacağı específik eylemi, o anda, o özel verilerle değerlendirmelidir. Çoğu şirket, hala insanlara inşa ettikleri kimlik ve erişim yönetimi playbook’unu çalıştırıyor ve birçoğu, ajan dağıtımının governance tarafından ele alındığı boşluğu keşfedecek.

AI inovasyonunun birden fazla dalgasında çalıştınız, NLP ürünleri ve influencer zekası platformlarından, kurumsal AI dönüşüm girişimlerine. AI güvenliği around konuşması son on yılda nasıl evrimleşti ve size en çok hangi şey endişe veriyor?

Bugünkü ve yarının AI’ini önceki nesillerle karşılaştırmak fascinatör, çünkü bu inanılmaz bir hızlı hareket eden alan. Son bir veya iki yılın en önemli evrimi, ajanların yükselişi ve uzun süreli bellek yönetimi (OpenClaw, herhangi biri?) olmuştur. Bu ajanlar çok daha fazla şey yapabilir, çok daha yüksek kalitede, bu da onları daha değerli ve tabii ki daha riskli yapar.

AI sistemleri müşteri ve kurumsal verilerini kullanarak kararlar alırken, şirketlerin AI odaklı ortamlarda rıza, izinler ve veri yönetimi hakkında en büyük yanlış anlamaları nelerdir?

En yaygın yanlış anlama, rızayı bir kez yakaladığınız ve dosyaladığınız bir şey olarak ele almaktır. Bir müşteri, kaydolduğunda bir dizi şartı kabul eder ve şirketler, bu anlaşmanın sonsuza kadar geçerli olduğunu varsayar, verilerin nasıl hareket ettiğine veya hangi yeni sistemlere girdiğine bakılmaksızın. Rıza, verilerin yanında seyahat etmelidir. Bir müşteri tercihlerini güncellerse veya yeni bir düzenleme neyin izinli olduğunu değiştirirse, bu değişiklik her yerde görünmelidir, sadece rızanın orijinal olarak toplandığı sistemde değil.

İkinci yanlış anlama, izinleri, IT veya hukuk tarafından arka planda sessizce ele alınan bir teknik ayrıntı olarak ele almaktır. AI sistemleri, o verilere dayalı kararlar almaya başladığında, izinler bir ürün ve iş sorusu haline gelir ve herhangi bir boşluk doğrudan AI girişimine miras kalır.

Çok sayıda kuruluş hala statik politikalar ve periyodik uyum gözden geçirmelerine güveniyor. AI sistemleri sürekli öğrenme, adapte olma ve diğer ajanlarla etkileşim kurma yeteneklerine sahipken, bu yaklaşımlar neden zorlanıyor?

Statik bir politika, bir sistemin neye benzediğini ve neyin kabul edilebilir olduğunu yakalar, jemand tarafından yazıldığı anda. AI, o ankağın doğru kalması için uzun süre durmaz. Politikanızın yazıldığı model, altı ay sonra çalıştırdığınız model olmayabilir ve üç aylık veya yıllık bir uyum gözden geçirmesi, sürekli kararlar alan ve adapte olan bir sistemle aynı hızda ilerleyemez.

Bu kadar hızlı hareket eden bir şeyi yönetmek, aynı hızda hareket eden bir politika gerektirir. Bu, verilerin gerçekten kullanıldığı noktada, gerçek zamanlı olarak governance’i uygulamak anlamına gelir, değil de daha sonra bir belgeye karşı kontrol etmek, o belge yayınlandığı gün zaten eskimiş olabilir.

Organizasyonlar, birbirleriyle işbirliği yapan ve birden fazla dahili sistemi erişen AI ajanları ağlarını dağıtmaya başladıklarında, etkili yönetim nasıl görünür?

Bu, geleneksel erişim kontrolünün sınırlarının açıkça görüldüğü yerdir. Bir ajan, bir kaydı okuyabilir, bir aracı çağırabilir ve sonuçları başka bir ajana verebilir ve her biri kendi başına makul görünür. Ancak birleştirilen eylem (gerçekte meydana gelen şey), genellikle hiçbir insanın açıkça onaylamadığı bir şeydir. Geleneksel IAM, bir ajana bir sistemi dokunmasına izin verilip verilmediğini doğrulayabilir, ancak verilerin bu kullanım için toplanıp toplanmadığı veya oluşan eylem zincirinin bir insan tarafından gerçekten onaylanıp onaylanmadığı hakkındalittle şey söyleyebilir.

Transcend, entreprise iş akışlarına veri kullanım izinlerini doğrudan entegre etmeye odaklanıyor. Organizasyonlar AI deneyinden üretim ölçekli dağıtıma geçerken, gerçek zamanlı governance altyapısı ne kadar önemli?

Test sırasında, bir ekip genellikle manuel incelemelerle ve periyodik denetimlerle idare edebilir, çünkü riskler düşüktür. Üretimde, özellikle ajans AI ile, bu kırılır, çünkü ölçek sadece muazzamdır. Bugün kullanılan kontrol listeleri ve toplantılar, bir kaybeden-kaybeden durumudur. Uyum ve güvenlik ekipleri, gerçek bir sürekli uygulama olmadan, sadece bir parmak vaadi alırlar, ürün ekibi ise, son kullanıcuya gerçek bir değer sağlamayan, hantal manuel incelemelere bağlıdır. İşte gerçek zamanlı altyapının, sadece çalıştığı yaklaşım olduğu yer burasıdır. Veri taşındığında veya bir karar alındığında, izinleri uygulamak, bir şey yanlış gittiğinde ne olduğunu yeniden inşa etmek yerine, governance’in anlamlı olmasını sağlar, hem uyum için hem de kullanıcılar için değerli olur.

Ajans AI’nin próximo üç ila beş yıl içindeki en önemli riskleri nelerdir ve hangileri iş liderleri tarafından şu anda yeterince değerlendirilmemektedir?

Ajansların bir kullanıcının izinlerini miras alması modeli, gerçekleştirdiğimizden daha risklidir. İnsanların yargısı vardır, ancak bir AI, talimatlarınızı bir uçurumdan aşağıya kadar takip edecektir.

Ürün ekipleri, AI özelliklerini hızlı bir şekilde gönderme baskısı ile governance, şeffaflık ve hesap verebilirlik çerçevelerini oluşturma ihtiyacını nasıl dengelemelidir?

Düşündüğüm somut bir şey, “Slop Tax”e çözüm.

Hızlı bir şekilde AI çıktılarının geçerliliğini ve değerini indirmeye alıştık. Neden her şeyi em dashes (herhangi bir uygunluk durumunda) kaldırmamızı tavsiye ediyorlar, neden bir site standard Claude renk paletini kullanıyorsa ucuz görünüyor (her ne kadar güzel görünse de) ve neden AI tarafından sunulan bilgi şüpheli olarak muamele görüyor (her ne kadar doğru olsa da). Bu, ürününüzün algılanan değerini gerçekten etkiler.

“Slop Tax”e çözüm, aslında daha iyi governance ve şeffaflıktır. Örneğin, yakın zamanda “Satıcı AI Kullanımı” adlı bir özellik çıkardık, bu, AI özelliklerini ve governance postürünü gösteren top şirketlerin kamuoyunda available bilgilerini çekerek, AI etkinleştirme, güvenlik ve satın alma ekiplerinin işlerini daha hızlı yapmalarına yardımcı oluyor. Çoklu ajan orkestrasyon çerçevesi kullanarak ve bulgular için kaynak bağlantıları ve alıntılar toplayarak, sonuçlarımızın kalitesinde muazzam bir iyileşme bulduk. Bu kanıt toplama ve ajan QA uygulaması, bir kazan-kazan durumudur, çünkü kullanıcı için gerçek sonuçlar daha iyidir ve uyum daha güçlüdür.

İleriye bakıldığında, AI governance’in sonunda bir rekabet avantajı haline geleceğine inanıyorum, sadece bir uyum gereksinimi değil, ve bu organizasyonlar arasında ne ayrım yapacak?

İnanıyorum ve bu, BCG’de izlediğim aynı modele geri dönüyor. Ürün already pazara sürülmüşken governance’i bir şeyler olarak ekleyen şirketler, her zaman son dakika kontrolünden önce takıldılar ve “Pilot Cehennemi”ne sıkıştılar. Sistemlerine governance’i inşa eden şirketler, diğer grubun sahip olmadığı bir güvenle hareket edebiliyorlar, çünkü AI’lerinin gerçekten nasıl veri kullandığını yakından incelemeye çalıştıklarında ne bulacaklarını merak etmiyorlar.

Bu boşluk, ajan dağıtımının hızlandıkça sadece genişleyecek. Ajansları governance’i yeniden düşünmeden dağıtmak için en hızlı yarışan şirketler, en çok sorunlarla karşılaşma olasılığı en yüksek olanlar. Geç kaldıklarında, altyapıyı doğru yapan şirketler zaten bir hızda çalışacaklar, geç gelenler kolayca takip edemeyecekler. Governance, bir uyum maddesi olmaktan çıkıp, AI’yi daha hızlı ve daha güvenle dağıtmaya izin veren şey olduğunda, bu olur.

Harika röportaj için teşekkür ederiz, daha fazla bilgi öğrenmek isteyen okuyucular Transcend‘i ziyaret edebilir.