Credo AI’nin CEO ve Kurucusu Navrina Singh – Röportaj Serisi

Navrina Singh, Credo AI şirketinin CEO ve kurucusudur. Credo AI, şirketlerin ve bireylerin güvenilir ve etik AI geliştirmelerine olanak tanıyan, yeni düzenlemelere ve politikalarına uyum sağlamalarına yardımcı olan ve AI kayıtlarının şeffaf ve denetlenebilir olmasını sağlayan ilk kapsamlı AI yönetişimi SaaS platformunu tasarlayan bir şirkettir. Şirket, stealth modunda çalışmış ve dünyanın en büyük hükümet müteahhitleri ve finansal hizmet şirketleri de dahil olmak üzere etkileyici bir müşteri portföyü oluşturmuştur; diğer Fortune 100 markaları da müşterileri arasındadır.

Siz, Hindistan’da küçük bir kasabada mütevazı bir şekilde büyüdünüz. Mühendislik ve AI alanına nasıl çekildiniz?

Ben, orta sınıf bir aileden geliyorum; babam askeri alanda kırk yıl çalıştı ve annem bir öğretmen olarak başladı, daha sonra moda tasarımcısı oldu. Genç yaşta, merak duygumu, bilimsel keşiflere olan sevgimi ve “ya şöyle olsaydı” sorusunu sormama olanak tanıyan bir ortam sağladılar.

Hindistan’da büyürken, kadınlar erkekler kadar fazla fırsat bulamıyordu. Toplum tarafından kabul gören kararlar zaten alınmıştı. İyi bir yaşam sürmek için tek yol eğitimdi.

Liseyi bitirdikten sonra, ilk bilgisayarımı aldım ve bu, dünyaya açılan bir pencereydi. Donanım ile çok ilgileniyordum ve saatlerce online olarak nasıl anakartları sökeceğimi, robotik uygulamaları nasıl geliştireceğimi, kodlama nasıl yapılacağını, evimde elektrik nasıl yapılacağını (yikes!) ve çok daha fazlasını öğreniyordum. Mühendislik, benim için güvenli bir alan oldu; burada deney yapabilir, keşfedebilir, inşa edebilir ve teknolojilerin insanlığa nasıl olumlu etkiler bırakabileceğini görebilirdim. Özellikle kadınlar için teknolojinin nasıl güçlü bir araç olabileceğini gördüm ve heyecanlandım.

Büyürken, imkanlarım sınırlıydı, ancak olanaklar sınırsızdı. ABD’ye gelerek teknoloji alanında güçlü bir temel oluşturmak istiyordum; insanlığın karşılaştığı en büyük zorlukları çözmek için. 2001 yılında, Wisconsin-Madison Üniversitesi’nde mühendislik eğitimime devam etmek için ABD’ye göçtüm.

Yaklaşık yirmi yıl boyunca mühendislik alanında çalıştım ve birçok öncü teknolojiyle çalıştım; mobil teknoloji, artırılmış gerçeklik gibi.

2011 yılında, Qualcomm’ (QCOM ) da yeni ortaya çıkan işleri inşa etmek için Yapay Zeka’yı keşfetmeye başladım. Microsoft (MSFT ) ve Qualcomm’da, son on yılda konuşma, görme ve NLP’de AI ve makine öğrenimi uygulamaları geliştirdim. AI ve makine öğrenimi hakkında daha çok şey öğrendikçe, bu teknolojinin hayatlarımızı hayal ettiğimizden daha fazla değiştireceği açıktı.

Şirket çapında Yapay Zeka inşa etmek, bu teknolojinin insanlara ve toplumlara zarar verebileceğini, denetimsiz bırakıldığında gerçekleştirdi. Liderler olarak, inşa ettiğimiz teknolojiler için aşırı sorumluluk almak zorundayız. AI’nin insanlığa faydasını en üst düzeye çıkarmak ve risklerini minimize etmek için proaktif olmalıyız. Sonuçta, “yaptığımız şey, bizi yapar” AI yönetimini kritik olarak düşünmeye başladım ve bu, kariyerimin bir sonraki aşamasını inşa etmeye yöneltti.

Aİ yönetimine ciddi olarak ne zaman başladınız?

Qualcomm’da inovasyon başkanı olarak, AI’nin ortaya çıkarabileceği olanakları keşfediyorduk. İlk çalışmalarımız, tedarik zincirinde kullanılan işbirliği yapan robotlar üzerine odaklanmıştı. Bu, AI’nin “gerçek” riskleriyle ilk karşılaşmam oldu; özellikle bu robotik sistemlerle birlikte çalışan insanların fiziksel güvenliği açısından.

O sırada, Soul Machines gibi şirketlerle birlikte yeni kullanım örnekleri öğrenmek ve işbirliği yapmak için önemli zaman harcadık. Soul Machines, nöral ağ tarafından çalışan bir bebek avatarı olan “Baby X”i çıkardı. Bu, etrafındaki dünyadan aktif olarak öğrenen bir bebekti ve AI teknolojisindeki istenmeyen sonuçlar hakkında düşünmeme neden oldu. Kızım Ziya o sıralar doğdu ve Soul Machines’ın Baby “X”ine benzeyen bir takma adı olan Baby “Z”yi verdi. Bunu 2019’da Women In Product ana konuşmasında da konuşmuştum.

Baby X ve Baby Z’nin öğrenme süreçleri şaşırtıcı bir şekilde benzerdi! Ziya büyürken, ona ilk kelime ve araçları veriyorduk ve zamanla kendisi dünyayı anlar ve şeyler birleştirirdi. Baby X, nöral ağ tarafından çalışan bir bebekti ve görsel sensörler ve konuşma tanıma yoluyla hızlı bir şekilde insan dünyasını öğreniyordu.

AI’nin erken döneminde, bu anlar, bu güçlü teknolojinin etrafına etkili koruma önlemleri koymak ve AI’nin insanlığın hizmetine sunulmasını sağlamak için kritik önlemler almak gerektiğini gösterdi.

Credo AI’nin doğuş hikayesini paylaşabilir misiniz?

Qualcomm’dan sonra, Microsoft’ta AI teknolojilerinin ticarileştirilmesine liderlik etmek için ticari geliştirme grubunda ve daha sonra ürün grubunda çalıştım. Görev sürem boyunca, konuşma AI’den sözleşme zekasına, görsel denetimlerden konuşma tabanlı ürün keşfine kadar çeşitli AI teknolojileriyle çalıştım.

Qualcomm’da AI yönetimine ilişkin tohum, AI teknolojilerinin geliştirilmesinde artan “gözetim açığı”na tanık olurken büyümeye devam etti. Ürün lideri olarak, veri bilimcileri ve mühendislerle birlikte çalıştım ve yüksek performanslı AI uygulamaları geliştirmek ve bunları hızlı bir şekilde piyasaya sürmek için motive olmuştum.

Uygunluk ve yönetim, inovasyon hızını yavaşlatan bir kapı kontrolü olarak görülüyordu. Ancak, AI yönetimindeki artan endişelerim, AI teknolojilerinin geliştirilmesinde teknik ve denetim profesyonelleri arasındaki yönetim açığını gerçekleştirmeye devam etmeme neden oldu.

Tüm bu cevapsız AI yönetimine ilişkin sorular, cevaplar aramama yol açtı. Bu nedenle, sorumlu AI geliştirilmesine odaklanan startup’lar ve Global 2000 şirketleri için bir ekosistem oluşturmak amacıyla MERAT (Marketplace for Ethical and Responsible AI Tools) adlı kâr amacı gütmeyen bir kuruluşu kurma çalışmalarına başladım.

MERAT’taki erken deneyimler, AI ve makine öğrenimi uygulamalarının kapsamlı yönetimini sağlayan çok paydaşlı araçlara sahip startup’ların olmadığını gösterdi – Credo AI’nin kurulmasına kadar. Bu boşluk, AI’yi bilinçli bir şekilde yönlendirmek için bir fırsat oldu. Hipotezim, AI devriminin bir sonraki aşamasının yönetim tarafından yönlendirileceği yönündeydi. Yönetim benimseyen şirketler, güvenilir markalar olarak ortaya çıkacaktı.

Tanınmış AI uzmanı Andrew Ng tarafından kurulan AI Fund adlı kuluçka merkezi benimle iletişime geçti. AI Fund, benim son on yıldır yoğunlaştığım AI denetlenebilirliği ve yönetişimi konularına odaklanıyordu. Credo AI, AI Fund finansmanıyla 28 Şubat 2020 tarihinde kuruldu.

Credo, “eylemlerini yönlendiren değerler kümesi” demektir. Credo AI ile vizyonumuz, şirketlerin en yüksek etik standartlarla AI geliştirmelerini sağlamaktır.

Önceki bir röportajda, gelecekte markalara duyulan güvenin yalnızca AI’yi nasıl geliştirdiklerine ve kullanıma sunduklarına değil, onu insanlığın hizmetinde nasıl ölçeklendirdiklerine de bağlı olacağını söylemiştiniz. Bunu açıklar mısınız?

Yapay Zeka, bu yüzyılın oyun değiştiren teknolojilerinden biridir ve ekonomi ve toplum için dönüştürücü fırsatlar sunar. 2030 yılına kadar küresel ekonomiye yaklaşık 16 trilyon dolar katkıda bulunması beklenmektedir.

Son birkaç yıl, AI tehditlerine dikkat çekti – ve bunlar robot üstünlüğü değil! Örneğin, yeniden suç işleme olasılığını en aza indirmek için optimize edilen yargı algoritmaları, önyargı üretebilir ve hak eden kişilerin şartlı tahliyesini reddedebilir.

Sosyal algoritmalar, bir ulusu bölebilir.

Adaletsiz algoritmalar, bir iş veya üniversite kabulü almanıza engel olabilir.

ARAçlara verdiğimiz özerklik arttıkça, istenmeyen sonuçların kapsamı da genişler. Olağanüstü ölçek, olağanüstü etki yaratır, ancak her zaman amaçladığımız etki değildir (Credo AI Manifestosu‘nda buna değiniyorum).

Şirketlerin AI yönetimine yatırım yapmaları, AI’yi sorumlu bir şekilde kullanmalarına ve etik veri kullanımına bağlı olarak, paydaşlar – müşteriler, tüketiciler, yatırımcılar, çalışanlar ve diğerleri – arasında güven oluşturmalarına yardımcı olabileceğini öngörüyorum.

Credo AI, şirketleri nasıl sorumlu tutar?

Sorumluluk, eylemlerden sorumlu olmaktır. AI geliştirme ve dağıtım bağlamında, bu, şirketlerin yalnızca “iyi görünmenin” ne anlama geldiğine karar vermesi değil, bu hedeflere ulaşma adımlarını atmaları ve sonuçlardan sorumlu olmaları anlamına gelir.

Credo AI, şirketlerin etik ve sorumlu AI girişimlerinde bir rehber olarak hareket etmeyi amaçlar. Bu, çeşitli paydaşlara – kullanıcılara, çalışanlara, düzenleyicilere, denetçilere, yatırımcılara, yöneticilere ve diğerlerine – karşı sorumlu olmalarını sağlar. Credo AI, gerçek zamanlı, bağlama dayalı, kapsamlı ve sürekli bir çözümü geniş ölçekte sunarak, şirketlerin AI yönetimini gerçekleştirmelerine yardımcı olur.

AI’de hesap verebilirlik ve güven oluşturmak dinamik bir süreçtir. Kuruluşlar, kurumsal değerlere uymalıdır, bu değerleri kodlamalıdır, organizasyon altyapısına entegre etmelidir, etkiyi gözlemlemeli ve farklı seslerden her aşamada girdi sağlayarak süreci tekrarlamalıdır. Credo AI, AI dağıtımlarında uyumluluk yönetimini ve risk ölçümünü gerçekleştiren kapsamlı ve gerçek zamanlı bir çözüm sunarak bu hesap verebilirliği sağlar.

Credo AI yönetim çözümünü kullanan şirketler:

• AI kullanım örnekleri ve modelleri için yönetim gereksinimlerini özelleştirilebilir politika paketleri ve model değerlendirme ölçütleri seçimi için karar destek araçlarıyla uyumlu hale getirebilir.
• Verileri ve makine öğrenimi modellerini bu hedeflere karşı değerlendirebilir ve sorgulayabilir.
• Her aşamada teknik özellikleri iş için eyleme geçirilebilir risk etkisine dönüştürebilir, böylece yönetim sorunlarını büyük sorunlar haline gelmeden önce yakalayabilir ve düzeltebilirsiniz.

Her aşamada alınan kararları ve eylemleri kaydederek, Credo AI, modellerin oluşturulmasına giden kararların kökenini kanıt olarak yakalar. Bu kanıt, şirket içi paydaşlarla ve dış denetçilerle paylaşılacak bir kayıt olarak güven oluşturur.

Bu kanıt, geliştirme ekiplerinin istenmeyen sonuçları öngörmesini ve önlenmesini sağlayacak ve AI modellerinin etkinliği ve güvenilirliğinin değerlendirilme şeklini standartlaştıracaktır.

AI yönetimini kapsamlı değerlendirmeler ve güvence yoluyla sağlamaya yönelik çok erken aşamadayız ve daha fazla şirketle çalışarak hesap verebilirliği teşvik etmek için heyecan duyuyoruz.

Credo AI, şirketlerin AI yönetimini bir sonra düşünmekten vazgeçmelerine nasıl yardımcı oluyor?

Şu anda, “sorumlu”, “etik” ve “güvenilir” AI’nin ne olduğu ve şirketlerin bunu nasıl gerçekleştireceği konusunda netlik yoktur. Credo AI SaaS platformunu kullanarak, şirketlerin bu temel soruyu yeniden çerçevelemesine ve ‘etiğin ekonomisini’ görmesine yardımcı oluyoruz.

Credo AI ile şirketler, yalnızca adil, uyumlu ve denetlenebilir AI sunmakla kalmaz, aynı zamanda müşteri güvenini de oluşturabilir.

Müşteri güvenini oluşturmak, bir şirketin müşteri tabanını genişletmesine ve daha fazla satış yapmasına yardımcı olabilir. Örneğin, şirketler, müşteri hizmetleri sohbet botlarında etik AI kullanabilir veya kullanıcı faaliyetini anlamak ve onlara önerilerde bulunmak için AI’yi sorumlu bir şekilde kullanabilir. Çok memnun müşteriler, deneyimlerini arkadaşları ve aileleriyle paylaşarak en iyi reklamı sağlar.

Şirketler, teknik ve gözetim işlevleri arasındaki işbirliğinin daha hızlı uyumluluk, bilgiye dayalı risk yönetimi ve daha düşük marka ve düzenleme riski sayesinde maliyet tasarrufu sağladığını da görebilir. Teknik metriklerle somut iş sonuçları arasında köprü kurarak kuruluşların etik AI kullanmasına yardım ediyoruz. Etik AI’yi savunmak yalnızca bir düzenleyici uyumluluk kutusunu işaretlemekten çok daha fazlasıdır. Daha adil bir dünyaya katkının ötesinde sonuçlar sağlayabilir; o katkı da kendi başına değerlidir.

Şirketler, yüksek etik standartlara uymaları halinde, gerçekçi iş sonuçları bekleyebilir; Örneğin, artan gelir. AI yönetimini soyut bir “yumuşak” kavramdan, nesnel bir iş kararına dönüştürmek, şirketlerin AI yönetimini ekonomik ve sosyal motorlarının kritik bir parçası olarak konumlandırmasına yardımcı olmak için kilit bir yol olmuştur.

Biden Yönetimi, Ulusal Yapay Zeka Danışma Komitesi’ni oluşturdu. AI işleri için bu kararın anlamı nedir?

Ülkeler, AI’yi düzenleme konusunda tam hız ilerlemektedir ve şirketlerin hazırlanması gerekmektedir. Biden yönetiminin Ulusal AI Danışma Komitesi’ni oluşturması ve Beyaz Saray OSTP’ye yatırımlar yapması, AI sistemlerini yönetmek için AI sistemleriyle ilgili bir haklar bildirgesi konusundaki tartışmalara eylem katmak için iyi bir ilk adımdır. Ancak, sorumlu AI’nin ne anlama geldiğini gerçekleştirmek için daha fazla çalışma yapılması gerekmektedir.

2022, sorumlu AI için eylem yılı olarak konumlandırılmaktadır. Şirketlerin, mevcut çerçevelerindeki boşlukları değerlendirmeleri veya bir yaklaşım eksikse, güvenilir AI için sağlam bir çerçeve oluşturmaları için uyandırma çağrısıdır. Şimdi, şirketlerin AI etik çerçevesini değerlendirmeleri, boşlukları belirlemeleri ve AI’nin gelecekte liderlik etmesi için güçlü bir temel oluşturmaları için zamanıdır.

Çok daha fazla sert ve yumuşak düzenleme ortaya çıkmasını bekleyebiliriz. Beyaz Saray’ın eylemlerinin yanı sıra, Senate’in Algorithmic Accountability Act taslağı, Federal Ticaret Komisyonu (FTC) tarafından AI yanlılığı konusunda rehberlik ve daha fazlası gibi diğer politika yapıcılar ve ajanslardan da çok fazla momentum gelmektedir.

Geleceğe hızlıca ilerlediğimizde, AI etiği ve AI yönetimi beş yıl içinde ne kadar önemli olacak?

AI yönetiminde erken aşamadayız. AI yönetiminin ne kadar kritik olduğunu vurgulamak için, önümüzdeki birkaç yıl için bazı öngörülerim şunlar:

• Etik AI yönetimi, organizasyonların en önemli önceliklerinden biri haline gelecek

Şirketler, AI’yi işlerine entegre etmeye ve AI’den faydalanmaya devam etmektedir. IDC, 2022’de AI’ye 340 milyar dolarlık harcama öngörüyor. Yönetim olmadan, şirketler AI’ye yatırım yapmakta tereddüt edecektir; çünkü yanlılık, güvenlik, doğruluk ve bu sistemlerin uyumluluğu konusunda endişeler vardır.

Güven olmadığında, tüketiciler de AI tabanlı ürünleri kabul etmek veya bu sistemleri inşa etmek için veri paylaşmak istemeyecektir. Önümüzdeki beş yıl içinde, etik AI yönetimi, yönetim kurulu odalarında bir öncelik ve şirketlerin paydaşlarına güven oluşturmak için raporlayacağı önemli bir ölçüt haline gelecektir.

• Yeni sosyo-teknik iş kategorileri ortaya çıkacak

Etik önceliğe sahip organizasyonlar, geliştirme süreçlerini geleceğe hazırlamak için önemli yatırımlar yapmaya başladılar. AI uygulamalarının adil, uyumlu ve denetlenebilir olmasını sağlamak için teknik ve denetim fonksiyonları arasındaki işbirliğini kolaylaştıran yeni bir sosyo-teknik iş kategorisi ortaya çıkabilir. Bu yeni iş kategorisi, teknik ve denetim arasında ara bulucu olarak hareket edebilir ve ortak standartlar ve hedefler geliştirmelerine yardımcı olabilir.

AI alanında lider olmak için şirketlerin AI düzenlemelerini öğrenmeyi ve geniş ölçekte hesap verebilirlik yapıları kurmayı hızlandırmaları gerekir. Etik AI uygulama alanı geliştikçe bu görüşmeleri kolaylaştıracak ve alanda sorumluluk alacak yeni sosyoteknik roller doğabilir.

• Yeni AI deneyimleri daha sıkı yönetim gerektirecek

AI’nin amaçlanan ve amaçlanmayan sonuçlarını yönetmek, özellikle Metaverse ve web3 dünyasına girerken kritiktir. AI riskleri gerçek dünyada ve sanal dünyada da mevcuttur, ancak sanal dünyada daha da artar. AI yönetimindeki sorunları gerçek dünyada çözmeden Metaverse’e dalmak, şirketlerin müşterilerini kimlik hırsızlığı ve dolandırıcılık gibi zorluklara maruz bırakabilir. AI yönetimindeki sorunları gerçek dünyada çözmek, Metaverse’de tüketicileri güvende tutmak için kritiktir.

• Etik AI yönetimi için yeni ekosistemler ortaya çıkacak

Dünya, AI yönetimini sorumlu AI’yi operasyonelleştirmek için temel bir bileşen olarak fark etti. Önümüzdeki birkaç yıl içinde, hizmet sağlayıcıların, araçların, eğitimlerin ve diğer yeteneklerin ortaya çıkacağı ve AI yönetimine olan büyük ihtiyaca destek olacak rekabetçi ve dinamik bir pazar göreceğiz.

Bunun yanı sıra, mevcut MLops ve GRC platformlarının, AI yönetimine ve değerlendirme yeteneklerine sahip olmak için konsolidasyonunu ve güçlendirilmesini de göreceğiz.

Credo AI hakkında paylaşmak istediğiniz başka bir şey var mı?

Etik AI yönetimi, geleceğe yönelik bir yatırımdır ve bu yatırımı yapmamanın bedelini göze alamazsınız. Bugün, başlamasının en iyi zamanıdır.

AI yönetimine ve etiğine ilişkin görüşlerinizi paylaştığınız için teşekkür ederiz. Daha fazla bilgi edinmek isteyen okuyucular, Credo AI web sitesini ziyaret edebilir.