Credo AI’nin CEO ve Kurucusu Navrina Singh – Röportaj Serisi

Navrina Singh, Credo AI şirketinin CEO ve kurucusudur. Credo AI, şirketlerin ve bireylerin güvenilir ve etik AI geliştirmelerine olanak tanıyan, yeni düzenlemelere ve politikalarına uyum sağlamalarına yardımcı olan ve AI kayıtlarının şeffaf ve denetlenebilir olmasını sağlayan ilk kapsamlı AI yönetim platformunu tasarlayan bir şirkettir. Şirket, stealth modunda çalışmış ve dünyanın en büyük hükümet müteahhitleri ve finansal hizmet şirketleri de dahil olmak üzere etkileyici bir müşteri portföyü oluşturmuştur.

Siz, Hindistan’da küçük bir kasabada mütevazı bir şekilde büyüdünüz. Mühendislik ve AI alanına nasıl çekildiniz?

Ben, orta sınıf bir aileden geliyorum; babam askeri alanda dört thập yıl çalıştı ve annem bir öğretmen olarak başladı, daha sonra moda tasarımcısı oldu. Genç yaşta, merak duygumu, bilimsel keşiflere olan sevgimi ve “neden” sorusunu sormama olanak tanıyan bir ortam sağladılar.

Hindistan’da büyürken, kadınlar erkekler kadar fazla fırsat bulamıyordu. Toplum tarafından kabul gören kararlar zaten alınmıştı. İyi bir yaşam sürmek için tek yol eğitimdi.

Liseyi bitirdikten sonra, ilk bilgisayarımı aldım ve bu, dünyaya açılan bir pencereydi. Donanım ile çok ilgileniyordum ve saatlerce online olarak nasıl anakartları sökeceğimi, robotik uygulamaları nasıl geliştireceğimi, kodlama nasıl yapılacağını, evimde elektrik nasıl yapılacağını (yikes!) ve çok daha fazlasını öğreniyordum. Mühendislik, benim için güvenli bir alan oldu; burada deney yapabilir, keşfedebilir, inşa edebilir ve teknolojilerin insanlığa nasıl olumlu etkiler bırakabileceğini görebilirdim. Özellikle kadınlar için teknolojinin nasıl güçlü bir araç olabileceğini gördüm ve heyecanlandım.

Büyürken, imkanlarım sınırlıydı, ancak olanaklar sınırsızdı. ABD’ye gelerek teknoloji alanında güçlü bir temel oluşturmak istiyordum; insanlığın karşılaştığı en büyük zorlukları çözmek için. 2001 yılında, Wisconsin-Madison Üniversitesi’nde mühendislik eğitimime devam etmek için ABD’ye göçtüm.

Yaklaşık iki thập yıl boyunca mühendislik alanında çalıştım ve birçok öncü teknolojiyle çalıştım; mobil teknoloji, artırılmış gerçeklik gibi.

2011 yılında, Qualcomm’ (QCOM ) da yeni ortaya çıkan işleri inşa etmek için Yapay Zeka’yı keşfetmeye başladım. Microsoft (MSFT ) ve Qualcomm’da, son on yılda konuşma, görme ve NLP’de AI ve makine öğrenimi uygulamaları geliştirdim. AI ve makine öğrenimi hakkında daha çok şey öğrendikçe, bu teknolojinin hayatlarımızı hayal ettiğimizden daha fazla değiştireceği açıktı.

Şirket çapında Yapay Zeka inşa etmek, bu teknolojinin insanlara ve toplumlara zarar verebileceğini, denetimsiz bırakıldığında gerçekleştirdi. Liderler olarak, inşa ettiğimiz teknolojiler için aşırı sorumluluk almak zorundayız. AI’nin insanlığa faydasını en üst düzeye çıkarmak ve risklerini minimize etmek için proaktif olmalıyız. Sonuçta, “yaptığımız şey, bizi yapar” AI yönetimini kritik olarak düşünmeye başladım ve bu, kariyerimin bir sonraki aşamasını inşa etmeye yöneltti.

Aİ yönetimine ciddi olarak ne zaman başladınız?

Qualcomm’da inovasyon başkanı olarak, AI’nin ortaya çıkarabileceği olanakları keşfediyorduk. İlk çalışmalarımız, tedarik zincirinde kullanılan işbirliği yapan robotlar üzerine odaklanmıştı. Bu, AI’nin “gerçek” riskleriyle ilk karşılaşmam oldu; özellikle bu robotik sistemlerle birlikte çalışan insanların fiziksel güvenliği açısından.

O sırada, Soul Machines gibi şirketlerle birlikte yeni kullanım örnekleri öğrenmek ve işbirliği yapmak için önemli zaman harcadık. Soul Machines, nöral ağ tarafından çalışan bir bebek avatarı olan “Baby X”i çıkardı. Bu, etrafındaki dünyadan aktif olarak öğrenen bir bebekti ve AI teknolojisindeki istenmeyen sonuçlar hakkında düşünmeme neden oldu. Kızım Ziya o sıralar doğdu ve Soul Machines’ın Baby “X”ine benzeyen bir takma adı olan Baby “Z”yi verdi. Bunu 2019’da Women In Product Keynote’ta da konuşmuştum.

Baby X ve Baby Z’nin öğrenme süreçleri şaşırtıcı bir şekilde benzerdi! Ziya büyürken, ona ilk kelime ve araçları veriyorduk ve zamanla kendisi dünyayı anlar ve şeyler birleştirirdi. Baby X, nöral ağ tarafından çalışan bir bebekti ve görsel sensörler ve konuşma tanıma yoluyla hızlı bir şekilde insan dünyasını öğreniyordu.

AI’nin erken döneminde, bu anlar, bu güçlü teknolojinin etrafına etkili koruma önlemleri koymak ve AI’nin insanlığın hizmetine sunulmasını sağlamak için kritik önlemler almak gerektiğini gösterdi.

Credo AI’nin doğuş hikayesini paylaşabilir misiniz?

Qualcomm’dan sonra, Microsoft’ta AI teknolojilerinin ticarileştirilmesine liderlik etmek için ticari geliştirme grubunda ve daha sonra ürün grubunda çalıştım. Görev sürem boyunca, konuşma AI’den sözleşme zekasına, görsel denetimlerden konuşma tabanlı ürün keşfine kadar çeşitli AI teknolojileriyle çalıştım.

Qualcomm’da AI yönetimine ilişkin tohum, AI teknolojilerinin geliştirilmesinde artan “gözetim açığı”na tanık olurken büyümeye devam etti. Ürün lideri olarak, veri bilimcileri ve mühendislerle birlikte çalıştım ve yüksek performanslı AI uygulamaları geliştirmek ve bunları hızlı bir şekilde piyasaya sürmek için motive olmuştum.

Uygunluk ve yönetim, inovasyon hızını yavaşlatan bir kapı kontrolü olarak görülüyordu. Ancak, AI yönetimindeki artan endişelerim, AI teknolojilerinin geliştirilmesinde teknik ve denetim profesyonelleri arasındaki yönetim açığını gerçekleştirmeye devam etmeme neden oldu.

Tüm bu cevapsız AI yönetimine ilişkin sorular, cevaplar aramama yol açtı. Bu nedenle, sorumlu AI geliştirilmesine odaklanan startup’lar ve Global 2000 şirketleri için bir ekosistem oluşturmak amacıyla MERAT (Marketplace for Ethical and Responsible AI Tools) adlı bir非kâr kuruluşu kurma çalışmalarına başladım.

MERAT’taki erken deneyimler, AI ve makine öğrenimi uygulamalarının kapsamlı yönetimini sağlayan çok paydaşlı araçlara sahip startup’ların olmadığını gösterdi – Credo AI’nin kurulmasına kadar. Bu boşluk, AI’yi bilinçli bir şekilde yönlendirmek için bir fırsat oldu. Hipotezim, AI devriminin bir sonraki aşamasının yönetim tarafından yönlendirileceği yönündeydi. Yönetim benimseyen şirketler, güvenilir markalar olarak ortaya çıkacaktı.

Andrew Ng tarafından kurulan AI Fund adlı bir kuluçka merkezi, AI denetimi ve yönetimine ilişkin aynı konulara odaklanıyordu. AI Fund, Credo AI’yi 28 Şubat 2020’de fonladı.

Credo, “eylemlerini yönlendiren değerler kümesi” demektir. Credo AI ile vizyonumuz, şirketlerin en yüksek etik standartlarla AI geliştirmelerini sağlamaktır.

Önceki bir röportajda, şirketlerin gelecekte AI’yi nasıl inşa ettikleri ve nasıl ölçeklediklerine göre güvenilir olacağından bahsetmiştiniz. Bunu açıklar mısınız?

Yapay Zeka, bu yüzyılın oyun değiştiren teknolojilerinden biridir ve ekonomi ve toplum için dönüştürücü fırsatlar sunar. 2030 yılına kadar küresel ekonomiye yaklaşık 16 trilyon dolar katkıda bulunması beklenmektedir.

Son birkaç yıl, AI tehditlerine dikkat çekti – ve bunlar robot üstünlüğü değil! Örneğin, yeniden suç işleme olasılığını en aza indirmek için optimize edilen yargı algoritmaları, hak ettikleri halde parolayı reddedebilir.

Sosyal algoritmalar, bir ulusu bölebilir.

Adaletsiz algoritmalar, bir iş veya üniversite kabulü almanıza engel olabilir.

ARAçlara verdiğimiz özerklik arttıkça, istenmeyen sonuçların kapsamı da genişler. Olağanüstü ölçek, olağanüstü etki yaratır, ancak her zaman amaçladığımız etki değildir (Credo AI Manifesto’da buna değiniyorum).

Şirketlerin AI yönetimine yatırım yapmaları, AI’yi sorumlu bir şekilde kullanmalarına ve etik veri kullanımına bağlı olarak, paydaşlar across – müşteriler, tüketiciler, yatırımcılar, çalışanlar ve diğerleri – arasında güven oluşturmalarına yardımcı olabileceğini öngörüyorum.

Credo AI, şirketleri nasıl sorumlu tutar?

Sorumluluk, eylemlerden sorumlu olmaktır. AI geliştirme ve dağıtım bağlamında, bu, şirketlerin yalnızca “iyi görünmenin” ne anlama geldiğine karar vermesi değil, bu hedeflere ulaşma adımlarını atmaları ve sonuçlardan sorumlu olmaları anlamına gelir.

Credo AI, şirketlerin etik ve sorumlu AI girişimlerinde bir rehber olarak hareket etmeyi amaçlar. Bu, çeşitli paydaşlara – kullanıcılara, çalışanlara, düzenleyicilere, denetçilere, yatırımcılara, yöneticilere ve diğerlerine – karşı sorumlu olmalarını sağlar. Credo AI, kapsamlı ve sürekli bir çözüm sunarak, şirketlerin AI yönetimini gerçekleştirmelerine yardımcı olur.

AI’de hesap verebilirlik ve güven oluşturmak dinamik bir süreçtir. Kuruluşlar, kurumsal değerlere uymalıdır, bu değerleri kodlamalıdır, organizasyon altyapısına entegre etmelidir, etkiyi gözlemlemeli ve diverse seslerle her aşamada girdi sağlayarak süreci tekrarlamalıdır. Credo AI, AI dağıtımlarında uyumluluk yönetimini ve risk ölçümünü gerçekleştiren kapsamlı ve gerçek zamanlı bir çözüm sunarak bu hesap verebilirliği sağlar.

Credo AI yönetim çözümünü kullanan şirketler:

• AI kullanım örnekleri ve modelleri için yönetim gereksinimlerini özelleştirilebilir politika paketleri ve model değerlendirme ölçütleri seçimi için karar destek araçlarıyla uyumlu hale getirebilir.
• Verileri ve makine öğrenimi modellerini bu hedeflere karşı değerlendirebilir ve sorgulayabilir.
• Her aşamada teknik özellikleri iş için eyleme geçirilebilir risk etkisine dönüştürebilir, böylece yönetim sorunlarını büyük sorunlar haline gelmeden önce yakalayabilir ve düzeltebilirsiniz.

Her aşamada alınan kararları ve eylemleri kaydederek, Credo AI, modellerin oluşturulmasına giden kararların kökenini kanıt olarak yakalar. Bu kanıt, şirket içi paydaşlarla ve dış denetçilerle paylaşılacak bir kayıt olarak güven oluşturur.

Bu kanıt, geliştirme ekiplerinin istenmeyen sonuçları öngörmesini ve önlenmesini sağlayacak ve AI modellerinin etkinliği ve güvenilirliğinin değerlendirilme şeklini standartlaştıracaktır.

AI yönetimini kapsamlı değerlendirmeler ve güvence yoluyla sağlamaya yönelik çok erken aşamadayız ve daha fazla şirketle çalışarak hesap verebilirliği teşvik etmek için heyecan duyuyoruz.

Credo AI, şirketlerin AI yönetimini bir sonra düşünmekten vazgeçmelerine nasıl yardımcı oluyor?

Şu anda, “sorumlu”, “etik” ve “güvenilir” AI’nin ne olduğu ve şirketlerin bunu nasıl gerçekleştireceği konusunda netlik yoktur. Credo AI SaaS platformunu kullanarak, şirketlere bu kritik soruyu yeniden çerçeveleme konusunda yardımcı oluyoruz.

Credo AI ile şirketler, yalnızca adil, uyumlu ve denetlenebilir AI sunmakla kalmaz, aynı zamanda müşteri güvenini de oluşturabilir.

Müşteri güvenini oluşturmak, bir şirketin müşteri tabanını genişletmesine ve daha fazla satış yapmasına yardımcı olabilir. Örneğin, şirketler, müşteri hizmetleri sohbet botlarında etik AI kullanabilir veya kullanıcı faaliyetini anlamak ve onlara önerilerde bulunmak için AI’yi sorumlu bir şekilde kullanabilir. Çok memnun müşteriler, deneyimlerini arkadaşları ve aileleriyle paylaşarak en iyi reklamı sağlar.

Şirketler, teknik ve denetim fonksiyonları arasındaki işbirliğinin, daha hızlı uyumluluk nedeniyle maliyet tasarrufu sağlayabileceğini de görebilir. AI yönetimini bir sonra düşünmekten vazgeçmeleri için şirketlere yardımcı oluyoruz ve etik AI’yi inşa etmelerine yardımcı oluyoruz. Bu, teknik metriklerle somut iş sonuçları arasında bir köprü kurmayı içerir. Daha fazla insan, etik AI’nin yalnızca daha adil bir dünya katkıda bulunmaktan daha fazlasını sunabileceğini, ancak bunun bir şirket için ekonomik ve sosyal motor olarak kritik bir parça olabileceğini fark etmektedir.

Şirketler, yüksek etik standartlara uymaları halinde, gerçekçi iş sonuçları bekleyebilir; Örneğin, artan gelir. AI yönetimini soyut bir “yumuşak” kavramdan, nesnel bir iş kararına dönüştürmek, şirketlerin AI yönetimini ekonomik ve sosyal motorlarının kritik bir parçası olarak konumlandırmasına yardımcı olmak için kilit bir yol olmuştur.

Biden Yönetimi, Ulusal Yapay Zeka Danışma Komitesi’ni oluşturdu. AI işleri için bu kararın anlamı nedir?

Ülkeler, AI’yi düzenleme konusunda tam hız ilerlemektedir ve şirketlerin hazırlanması gerekmektedir. Biden yönetiminin Ulusal AI Danışma Komitesi’ni oluşturması ve Beyaz Saray OSTP’ye yatırımlar yapması, AI sistemlerini yönetmek için haklar faturalandırma konusundaki tartışmalara eylem katmak için iyi bir ilk adımdır. Ancak, sorumlu AI’nin ne anlama geldiğini gerçekleştirmek için daha fazla çalışma yapılması gerekmektedir.

2022, sorumlu AI için eylem yılı olarak konumlandırılmaktadır. Şirketlerin, mevcut çerçevelerindeki boşlukları değerlendirmeleri veya bir yaklaşım eksikse, güvenilir AI için sağlam bir çerçeve oluşturmaları için uyandırma çağrısıdır. Şimdi, şirketlerin AI etik çerçevesini değerlendirmeleri, boşlukları belirlemeleri ve AI’nin gelecekte liderlik etmesi için güçlü bir temel oluşturmaları için zamanıdır.

Çok daha fazla sert ve yumuşak düzenleme ortaya çıkmasını bekleyebiliriz. Beyaz Saray’ın eylemlerinin yanı sıra, Senate’in Algorithmic Accountability Act taslağı, Federal Ticaret Komisyonu (FTC) tarafından AI yanlılığı konusunda rehberlik ve daha fazlası gibi diğer politika yapıcılar ve ajanslardan da çok fazla momentum gelmektedir.

Geleceğe hızlıca ilerlediğimizde, AI etiği ve AI yönetimi beş yıl içinde ne kadar önemli olacak?

AI yönetiminde erken aşamadayız. AI yönetiminin ne kadar kritik olduğunu vurgulamak için, önümüzdeki birkaç yıl için bazı öngörülerim şunlar:

• Etik AI yönetimi, organizasyonların en önemli önceliklerinden biri haline gelecek

Şirketler, AI’yi işlerine entegre etmeye ve AI’den faydalanmaya devam etmektedir. IDC, 2022’de AI’ye 340 milyar dolarlık harcama öngörüyor. Yönetim olmadan, şirketler AI’ye yatırım yapmakta tereddüt edecektir; çünkü yanlılık, güvenlik, doğruluk ve bu sistemlerin uyumluluğu konusunda endişeler vardır.

Güven olmadığında, tüketiciler de AI tabanlı ürünleri kabul etmek veya bu sistemleri inşa etmek için veri paylaşmak istemeyecektir. Önümüzdeki beş yıl içinde, etik AI yönetimi, yönetim kurulu odalarında bir öncelik ve şirketlerin paydaşlarına güven oluşturmak için raporlayacağı önemli bir ölçüt haline gelecektir.

• Yeni sosyo-teknik iş kategorileri ortaya çıkacak

Etik önceliğe sahip organizasyonlar, geliştirme süreçlerini future-proofing etmek için önemli yatırımlar yapmaya başladılar. AI uygulamalarının adil, uyumlu ve denetlenebilir olmasını sağlamak için teknik ve denetim fonksiyonları arasındaki işbirliğini kolaylaştıran yeni bir sosyo-teknik iş kategorisi ortaya çıkabilir. Bu yeni iş kategorisi, teknik ve denetim arasında ara bulucu olarak hareket edebilir ve ortak standartlar ve hedefler geliştirmelerine yardımcı olabilir.

• Yeni AI deneyimleri daha sıkı yönetim gerektirecek

AI’nin amaçlanan ve amaçlanmayan sonuçlarını yönetmek, özellikle Metaverse ve web3 dünyasına girerken kritiktir. AI riskleri gerçek dünyada ve sanal dünyada da mevcuttur, ancak sanal dünyada daha da artar. AI yönetimindeki sorunları gerçek dünyada çözmeden Metaverse’e dalmak, şirketlerin müşterilerini kimlik hırsızlığı ve dolandırıcılık gibi zorluklara maruz bırakabilir. AI yönetimindeki sorunları gerçek dünyada çözmek, Metaverse’de tüketicileri güvende tutmak için kritiktir.

• Etik AI yönetimi için yeni ekosistemler ortaya çıkacak

Dünya, AI yönetimini responsable AI’yi operasyonelleştirmek için temel bir bileşen olarak fark etti. Önümüzdeki birkaç yıl içinde, hizmet sağlayıcıların, araçların, eğitimlerin ve diğer yeteneklerin ortaya çıkacağı ve AI yönetimine olan büyük ihtiyaca destek olacak rekabetçi ve dinamik bir pazar göreceğiz.

Bunun yanı sıra, mevcut MLops ve GRC platformlarının, AI yönetimine ve değerlendirme yeteneklerine sahip olmak için konsolidasyonunu ve güçlendirilmesini de göreceğiz.

Credo AI hakkında paylaşmak istediğiniz başka bir şey var mı?

Etik AI yönetimi, geleceğe yönelik bir yatırımdır ve bunu yapmamak için bir bahane yoktur. Bugün, başlamasının en iyi zamanıdır.

AI yönetimine ve etiğine ilişkin görüşlerinizi paylaştığınız için teşekkür ederiz. Daha fazla bilgi edinmek isteyen okuyucular, Credo AI web sitesini ziyaret edebilir.