Navrina Singh, Credo AI’nin CEO ve Kurucusu – Röportaj Serisi

Navrina Singh, Credo AI‘nin CEO ve kurucusudur. Credo AI, şirketlerin ve bireylerin güvenilir ve etik AI’yi daha iyi anlamalarına ve sunmalarına, yeni düzenlemelere ve politikalarına uyum sağlamalarına ve organizasyon genelinde denetlenebilir ve şeffaf bir AI kaydı oluşturmalarına olanak tanıyan ilk kapsamlı AI yönetim SaaS platformunu tasarlayan bir şirkettir. Şirket, gizlilik içinde çalışarak dünyanın en büyük hükümet müteahhitleri ve finansal hizmetler şirketleri de dahil olmak üzere etkileyici bir müşteri portföyü oluşturdu.

Siz, Hindistan’da küçük bir kasabada mütevazı bir başlangıçla büyüdünüz, mühendisliğe ve AI alanına nasıl çekildiniz?

Orta sınıf bir ailede büyüdüm; babam dört deset boyunca askerdi ve annem öğretmendi, daha sonra moda tasarımcısı oldu. Erken yaşlarda, merak duygumu, bilimsel keşiflere olan sevgimi ve “nedir” sorusunu sormama olanak tanıdılar.

Hindistan’da büyürken, kadınların erkeklerle aynı fırsatları elde etmesi mümkün değildi. Toplum tarafından kabul gören birçok karar already kızlar için verilmişti. Aile için iyi bir yaşam sağlayabilmek için eğitimden başka yol yoktu.

Liseden mezun olduktan sonra, ilk bilgisayarımı aldım ve bu, dünyaya açılan pencereydim. Donanım ile çok ilgilendim ve saatlerce online olarak anakartları söküp takma, robotik uygulamalar geliştirme, programlama, evimin elektrik tesisatını yenileme (ne yazık ki!) ve daha pek çok şey yapma fırsatı buldum. Mühendislik, deney yapabileceğim, keşfedebileceğim, inşa edebileceğim ve icatlarımı kullanarak katıldığım bir dünya olan güvenli bir alan haline geldi. Teknolojinin, özellikle kadınların yaşamını değiştirebilecek bir araç olabileceği düşüncesi beni heyecanlandırıyordu.

Büyürken, olanaklarım sınırlıydı, ancak olanaklar sınırsızdı. Teknoloji alanında daha güçlü bir temel oluşturmak ve insanlığın karşılaştığı en büyük zorlukları çözmek için Amerika Birleşik Devletleri’ne gelmek hayalimdi. 2001 yılında, mühendislik yolculuğuma Wisconsin-Madison Üniversitesi’nde devam etmek için buraya göçtüm.

Mühendislik kariyerimin neredeyse iki deset boyunca, mobil teknoloji ve artırılmış gerçeklik gibi çok çeşitli ön teknoloji alanlarında çalıştım.

2011 yılında, Qualcomm’da yeni ortaya çıkan işleri inşa etmek için Yapay Zeka’yı keşfetmeye başladım. Ayrıca Microsoft ve Qualcomm’da, son on yılda konuşma, görme ve NLP’de AI ve makine öğrenimi uygulamaları geliştirdim. AI ve makine öğrenimi hakkında daha fazla şey öğrendikçe, bu ön teknolojinin hayatımızı hayal bile edemeyeceğimiz ölçüde değiştireceği açıktı.

Kurumsal ölçekli Yapay Zeka’nın da teknolojiyi kontrolsüz bırakırsak insanlara ve toplumlara zarar verebileceğini fark ettim. Liderler olarak, inşa ettiğimiz teknolojiler için aşırı sorumluluk almamız gerekiyor. AI’nin insanlığa faydalarını en üst düzeye çıkarmak ve risklerini en aza indirmek için proaktif olmalıyız. Sonuçta, “yaptığımız şey, bizi yapar” diye bir söz vardır. Bu nedenle, AI yönetimini inşa etmek, kariyerimin bir sonraki aşamasını ilham etti.

AI yönetimine ciddi olarak ne zaman began düşünmeye?

Qualcomm’da inovasyon başıyken, AI’nin ortaya çıkan işlere getirebileceği olanakları keşfediyorduk. İlk çalışmalarımız, tedarik zincirinde kullanılan işbirliği yapan robotlarla ilgiliydi. Bu, AI’nin fiziksel güvenlik açısından insanlara yönelik riskleri ile ilgili olarak AI’nin “gerçek” risklerine ilişkin ilk maruz kalışım oldu.

Bu süre zarfında, Soul Machines gibi startuplarla önemli zaman geçirdik, yeni kullanım örnekleri öğrenip onlara nasıl ortak olabileceğimizi keşfettik. Soul Machines, nöral ağ tarafından güçlendirilmiş bir bebek olan “Baby X”ın yeni bir sürümünü çıkarmıştı. Bu bebeğin, çevresindeki dünyadan aktif olarak öğrenerek büyümesini izlemek beni durdurup AI teknolojisinin istenmeyen sonuçları üzerine düşünmeye sevk etti. Kızım Ziya da aynı zamanda doğdu ve onu sevgiyle Soul Machines’ın Baby “X”ından esinlenerek Baby “Z” olarak adlandırdık. Bunu 2019’da Women In Product Keynote’da konuştuğum gibi birkaç yerde konuşmuştum.

Baby X ve Baby Z’nin öğrenme yolculukları benzerdi! Ziya büyürken, ona ilk kelime dağarcığını ve öğrenme araçlarını sağlıyorduk. Zamanla, dünya hakkında anlamaya başladı ve her şeyi kendisi birleştirmeye başladı. Nöral ağ bebek Baby X de benzer şekilde, görme sensörleri ve konuşma tanıma yoluyla öğreniyor ve insan dünyası hakkında derin bir anlayış geliştiriyordu.

Bu erken AI anları, bu güçlü teknolojiyi iyiye kullanmak için riski yönetmek ve etkili guardrails oluşturmak gerektiğini bana gösterdi.

Credo AI’nin köken hikayesini paylaşabilir misiniz?

Qualcomm’dan sonra, Microsoft’ta AI teknolojilerinin ticarileştirilmesini liderlik etmek için ticari geliştirme grubuna ve ardından ürün grubuna katıldım. Görev sürem boyunca, konuşma AI’inden sözleşmeye ait zekaya, görsel kontrollere ve konuşma tabanlı ürün keşfine kadar çeşitli AI teknolojilerinde çalıştım.

Ancak, Qualcomm’da AI yönetimine ilişkin olarak ekilen tohum, AI teknolojilerinin geliştirilmesinde artan “gözetim açığı”na tanık olarak büyümeye devam etti. Bir ürün lideri olarak, veri bilimi ve mühendislik ekibiyle birlikte, yüksek performanslı bir AI uygulaması geliştirmek ve hızlı bir şekilde pazara sürmek istedik.

Uygunluk ve yönetim gibi konuları, inovasyon hızını yavaşlatan bir kapı kontrolü olarak görüyorduk. Ancak, AI yönetimindeki artan endişelerim, risk, uyum ve denetim profesyonelleri arasında teknik ve gözetim uzmanları arasındaki yönetim açığını motive etti.

AI yönetimine ilişkin tüm cevapsız sorular, cevaplar aramamı sağladı. Bu nedenle, sorumlu AI geliştirilmesine odaklanan bir ekosistem oluşturmak amacıyla MERAT (Etik ve Sorumlu AI Araçları Pazarı) adlı bir非kâr kuruluşunun temelini attım.

MERAT’taki早期 deneyimler, AI ve makine öğrenimi uygulamalarının kapsamlı yönetimini sağlayan çok paydaşlı araçlar sunan startupların olmadığını gösterdi – ta ki Credo AI’ye kadar. Bu boşluk, AI’yi kasıtlı olarak yönlendirmek için bir fırsat oldu. Hipotezim, AI devriminin bir sonraki aşamasının yönetim tarafından yönlendirileceği şeklini aldı. AI yönetimini benimseyen işletmeler, güvenilir markalar olarak ortaya çıkacaktır.

Andrew Ng tarafından kurulan bir AI işleme şirket olan AI Fund tarafından yaklaşıldım. AI Fund, AI denetimi ve yönetimine ilişkin aynı konulara odaklanıyordu.

Credo AI, 28 Şubat 2020’de AI Fund’dan fon ile kuruldu.

Credo, “davranışlarınızı yönlendiren bir değerler kümesidir” anlamına gelir. Credo AI ile vizyonumuz, işletmelerin en yüksek etik standartlarla AI oluşturmalarına olanak tanımaktır.

Önceki bir röportajda, markaların gelecekte yalnızca AI’yi nasıl inşa ettikleri ve nasıl dağıttıkları değil, AI’yi insanlık hizmetine sunmak için nasıl ölçeklediklerine göre güvenilir olacağından bahsetmiştiniz. Bunu açıklar mısınız?

Yapay Zeka, bu yüzyılın oyun değiştirici teknolojilerinden biridir ve ekonomi ve toplum için dönüştürücü fırsatlar sunar. 2030 yılına kadar küresel ekonomiye yaklaşık 16 trilyon dolar katkıda bulunması beklenmektedir.

Ancak, son birkaç yıl, zaten burada olan önemli AI tehditlerine (ve hayır, bunlar robot üstünlükleri değil!) dikkat çekti. Örneğin, minimal recidivizmi (suçlu davranışa geri dönüş) optimize eden yargı algoritmaları, önyargı oluşturabilir ve hak ettikleri halde individualsa tahliye etmeyebilir.

Sosyal algoritmalar, katılımı optimize edebilir ve bir ulusu bölebilir.

Adil olmayan algoritmalar, bir iş veya üniversite kabulü alamamanızın nedeni olabilir.

Araçlara verdiğimiz otonomi ne kadar genişlerse, istenmeyen sonuçların kapsamı da o kadar genişler. Olağanüstü ölçek, olağanüstü etkiye neden olur, ancak her zaman amaçladığımız etki değildir (Credo AI Manifesto’da buna değiniyorum).

AI yönetimine yatırım yapan işletmelerin, teknolojiyi sorumlu bir şekilde inşa ettiklerini ve verilerin etik kullanımına bağlı kaldıklarını kanıtladıklarında, paydaşlar arasında güven oluşturabileceklerini öngörüyorum – müşteriler, tüketiciler, yatırımcılar, çalışanlar ve diğerleri.

Credo AI, şirketleri sorumlu tutmada nasıl yardımcı oluyor?

Sorumluluk, eylemlerden sorumlu olmaktır. AI geliştirme ve dağıtımı bağlamında, bu, işletmelerin yalnızca “neye benzediğine” kararlaştırmakla kalmadığını, aynı zamanda bu hedeflere ulaşma konusunda kasıtlı adımlar atması ve sonuçlardan sorumlu olması anlamına gelir.

Credo AI, işletmelerin AI’nin etik ve sorumlu kullanımına ilişkin çeşitli paydaşlara (kullanıcılar, çalışanlar, düzenleyiciler, denetçiler, yatırımcılar, yöneticiler ve diğerleri) karşı sorumlu olmalarına yardımcı olmak için bir rehber olarak görev yapar. Bu nedenle, Credo AI, AI yönetimini gerçekleştirmek için gerçek zamanlı, bağlam tarafından yönlendirilen, kapsamlı ve sürekli bir çözüm sunmayı başarmıştır.

AI’de hesap verebilirlik ve güven oluşturmak dinamik bir süreçtir. Kuruluşlar, kurumsal değerlere uyum sağlamalı, bu değerleri kodlamalı, organizasyon altyapısına entegre etmeli, etkiyi gözlemlemeli ve çeşitli seslerin her aşamada girdi sağladığı bir süreçte bu işlemi tekrarlamalıdır. Credo AI, AI dağıtımlarını ölçeklendirirken uyumluluk ve riski yönetmek için kapsamlı ve gerçek zamanlı bir çözüm sunarak bu hesap verebilirliği sağlar.

Credo AI yönetim çözümünü kullanarak, işletmeler:

• AI kullanım örnekleri ve modelleri için yönetim gereksinimlerine uyum sağlamayı ve model değerlendirme metriklerini seçmek için karar destek araçları ve özelleştirilebilir politika paketleri ile
• Veri ve makine öğrenimi modellerini bu hedeflere karşı sorgulamak ve soruşturmak
• Her aşama boyunca teknik özellikleri iş için eyleme geçirilebilir risk etkisine dönüştürmek, böylece yönetim sorunlarını büyük sorunlar haline gelmeden önce yakalayabilir ve düzeltebilirsiniz

Kararların ve eylemlerin her noktada kaydedilmesi, Credo AI’nin AI modellerinin oluşturulmasına giden kararların kaynağını kanıt olarak yakalar. Bu kanıt, işletme paydaşları ile paylaşılacak ve AI’nin niyetlerine güven oluşturmak için denetçilerle paylaşılacak bir kayıt olacaktır.

Bu kanıt, geliştirme ekiplerinin istenmeyen sonuçları öngörmesini ve önmesini sağlayacak ve AI modellerinin etkinliği ve güvenilirliğini değerlendirmenin standardını oluşturacaktır.

AI yönetimini kapsamlı değerlendirmeler ve güvence yoluyla sağlamak için çok erken aşamadayız ve daha fazla işletme ile çalışarak hesap verebilirliği teşvik etmek için heyecan duyuyoruz.

Credo AI, şirketlerin AI yönetimini bir sonra düşünmekten vazgeçmelerine nasıl yardımcı oluyor?

Bugünün dünyasında, “sorumlu”, “etik” ve “güvenilir” AI’nin ne anlama geldiği ve işletmelerin bunu nasıl gerçekleştirebileceği konusunda netlik yoktur. Credo AI SaaS platformunu kullanarak, işletmelere bu kritik soruyu yeniden çerçeveleme olanağı sunuyoruz ve “etiklerin ekonomisini” gösteriyoruz.

Credo AI ile işletmeler, yalnızca adil, uyumlu ve denetlenebilir AI sunmakla kalmaz, aynı zamanda müşteri güvenini de oluşturabilir.

Müşteri güvenini oluşturmak, bir şirketin müşteri tabanını genişletmesine ve daha fazla satış yapmasına olanak tanır. Örneğin, şirketler, müşteri hizmetleri sohbet botlarında etik AI kullanabilir veya kullanıcı faaliyetini anlamak ve onlara ek içerik veya ürünler önermek için AI’yi sorumlu bir şekilde kullanabilir. Çok memnun müşteriler, deneyimlerini arkadaşları ve aileleri ile paylaşarak en iyi reklamı sunar.

İşletmeler ayrıca, teknik ve gözetim fonksiyonları arasındaki işbirliğinin, daha hızlı uyuma, bilgilendirilmiş risk yönetimine, marka ve düzenleyici risklerin azaltılmasına yardımcı olarak maliyetleri azaltabileceğini görebilir. AI yönetimini bir sonra düşünmekten vazgeçmeleri için işletmelere yardımcı oluyoruz.

Bir şirket yüksek etik standartlara uyduğunda, gerçekçi iş sonuçları bekleyebilir, Örneğin, artan gelir. AI yönetimini, soyut bir “yumuşak” kavramdan ziyade nesnel bir iş kararı olarak konumlandırmak, AI yönetimini şirketin ekonomik ve sosyal motorunun kritik bir parçası olarak konumlandırmak için bizim için kilit bir yol olmuştur.

Biden Yönetimi, Ulusal Yapay Zeka Danışma Komitesi’ni oluşturdu. AI işletmeleri için bunun anlamı nedir?

Dünya çapındaki hükümetler, AI’yi düzenleme konusunda tam hız ilerlemektedir ve işletmelerin hazırlanması gerekmektedir. Biden Yönetimi’nin Ulusal AI Danışma Komitesi’ni oluşturması ve Beyaz Saray OSTP’ye yaptığı yatırımlar, AI sistemlerini yönetmek için haklar fırsatına ilişkin tartışmalara eylem getirmek için iyi bir ilk adımdır. Ancak, sorumlu AI’nin ne anlama geldiği konusunda ülke ve ekonomi için çok fazla çalışma yapılması gerekmektedir.

2022’nin sorumlu AI için eylem yılı olacağını düşünüyorum. İşletmelerin, mevcut çerçevelerini boşluklar için değerlendirmeleri veya bir yaklaşım eksikliği olan şirketlerin güçlü bir AI etik çerçevesi oluşturmaları için bir uyanış çağrısıdır. Şimdi, şirketlerin AI etik çerçevesini değerlendirmeleri, boşlukları belirlemeleri ve AI liderliğini sağlamak için sorumlu AI’yi gerçekleştirmek için bir çerçeve oluşturmaları için en iyi zamandır.

Sert ve yumuşak düzenlemelerin ortaya çıkmasını bekleyebiliriz. Beyaz Saray’ın eylemlerinin yanı sıra, Senato’nun Algoritmik Sorumluluk Yasası taslağı, Federal Ticaret Komisyonu (FTC) tarafından AI önyargısı hakkında rehberlik ve daha fazlası gibi diğer politika yapıcılar ve ajanslardan da çok fazla momentum geliyor.

Geleceğe hızlı bir şekilde ilerlersek, AI etiği ve AI yönetimi beş yıl içinde ne kadar önemli olacak?

AI yönetiminde erken aşamadayız. AI yönetiminin ne kadar kritik olduğunu vurgulamak için önümüzdeki birkaç yıl için bazı öngörülerim var:

• Etik AI yönetimi, bir işletme önceliği haline gelecek

İşletmeler, AI’yi işlerinde kullanmaktan faydalanmaya devam ediyor. IDC, 2022’de AI’ye 340 milyar dolarlık harcama öngörüyor. Yönetim olmadan, işletmeler, AI sistemlerinin önyargı, güvenlik, doğruluk ve uyumluluk konusundaki endişeleri nedeniyle AI’ye yatırım yapmaya isteksiz olacaklar.

Güven olmadığında, tüketiciler de AI tabanlı ürünleri kabul etmekte veya bu sistemleri inşa etmek için veri paylaşmakta isteksiz olacaklar. Önümüzdeki beş yıl içinde, etik AI yönetimi, bir yönetim kurulu önceliği haline gelecek ve şirketlerin paydaşlarına güven oluşturmak için açıklamak ve raporlamak zorunda oldukları bir metric olacaktır.

• Yeni sosyo-teknik iş kategorileri işletmeler içinde ortaya çıkacak

Ethics forward organizasyonlar, already AI uygulamalarının adil, uyumlu ve denetlenebilir olmasını sağlamak için geliştirme süreçlerini geleceğe hazırlamak için önemli yatırımlar yapıyor.

AI yönetim uygulamasının ortaya çıkan alanında, işletmelerin AI düzenleyici manzarası hakkında öğrenmeyi hızlandırması ve ölçeklerde hesap verebilirlik yapılarını oluşturması gerekiyor. AI uygulamasının gelişmesiyle, teknik ve gözetim arasında aracı olarak hareket edecek yeni bir sosyo-teknik iş kategorisi ortaya çıkabilir. Bu yeni iş gücü bileşeni, ortak standartlar ve hedefler geliştirmelerine yardımcı olarak teknik ve gözetim arasında aracı olarak hareket edebilir.

• Yeni AI güçlendirilmiş deneyimler, daha sıkı yönetim talep edecek

AI’nin amaçlanan ve amaçlanmayan sonuçlarını yönetmek, özellikle Metaverse ve web3 dünyasına girerken kritiktir. AI yönetimindeki sorunlar, gerçek dünyada ve sanal dünyada da mevcuttur, ancak latter’da daha da artırılmaktadır.

AI gözetimi olmadan Metaverse’e dalmak, işletmelerin müşterilerini kimlik hırsızlığı ve dolandırıcılık gibi zorluklara maruz bırakmasına neden olabilir. AI ve yönetim sorunlarının gerçek dünyada çözülmesi, Metaverse’de müşterileri güvende tutmak için çok önemlidir.

• Etik AI yönetiminde yeni ekosistemler ortaya çıkacak

Dünya, AI yönetiminin sorumlu AI’yi operasyonelleştirmek için temel bir yapı taşı olduğunu fark etti. Önümüzdeki birkaç yıl içinde, AI yönetimini desteklemek için araçlar, hizmetler, eğitim ve diğer yetenekler sunan rekabetçi ve dinamik bir pazarın ortaya çıkmasını bekliyoruz.

Ayrıca, AI yönetimini ve değerlendirmesini AI’ye getirmek için mevcut MLops ve GRC platformlarının konsolidasyonunu ve güçlendirilmesini de göreceğiz.

Credo AI hakkında paylaşmak istediğiniz başka bir şey var mı?

Etik AI yönetimi, yapamayacağınız bir yatırım değil, bugün başlamanız gereken bir yatırımdır.

Detaylı röportaj için teşekkür ederiz ve AI yönetimi ve etiği hakkında paylaştığınız tüm içgörüler için teşekkür ederiz. Daha fazla bilgi öğrenmek isteyen okuyucular Credo AI‘yi ziyaret edebilir.