Credo AI CEO'su ve Kurucusu Navrina Singh - Röportaj Dizisi

Navrina Singh CEO'su ve Kurucusu kredi kartı yapay zekası, şirketlerin ve bireylerin güvenilir ve etik yapay zekayı daha iyi anlamasını ve sunmasını, yeni düzenlemelerin ve politikaların bir adım önünde olmasını ve kuruluş genelinde denetlenebilir ve şeffaf bir yapay zeka kaydı oluşturmasını sağlayan ilk kapsamlı yapay zeka yönetişim SaaS platformunu tasarlayan bir şirket. Şirket, diğer Fortune 100 markalarının yanı sıra dünyanın en büyük devlet müteahhitlerinden ve finansal hizmetler şirketlerinden birini içeren etkileyici bir müşteri portföyü oluşturmak için gizlice ve sessizce çalışıyor.

Hindistan'da küçük bir kasabada mütevazi başlangıçlarla büyüdünüz, kendinizi nasıl mühendisliğe ve yapay zeka alanına ilgi duydunuz?

Orta sınıf bir aileden geliyorum; babam kırk yıldır ordudaydı ve annem moda tasarımcısı olan bir öğretmendi. Küçük yaşlardan itibaren merak duygumu, bilimsel keşiflere olan sevgimi her zaman teşvik ettiler ve bana "eğer olsaydı"ları keşfetmem için güvenli bir yer sağladılar.

Ben Hindistan'da büyürken kadınlara erkekler kadar fırsat tanınmıyordu. Bir kız için toplum tarafından neyin kabul edilebilir olduğuna bağlı olarak birçok karar zaten verilmişti. Ailenizden ayrılmanın ve ailenize iyi bir hayat sağlamanın tek yolu eğitimdi.

Liseden mezun olduktan sonra dünyaya açılan pencerem olan ilk bilgisayarıma sahip oldum. Gerçekten donanımla ilgileniyordum ve çevrimiçi olarak anakartları nasıl sökeceğimi, robotik uygulamalar yapmayı, kodlamayı öğrenmeyi, evimde elektriği yeniden yapmayı (yikes!) ve çok daha fazlasını öğrenmek için çevrimiçi saatler harcadım. Mühendislik, buluşlarım aracılığıyla parçası olmak istediğim bir dünyayı deneyebileceğim, keşfedebileceğim, inşa edebileceğim ve deneyimleyebileceğim güvenli alanım oldu. Teknolojinin, özellikle kadınlar için değişimi etkilemek için nasıl güçlü bir araç olabileceği konusunda hem ilham aldım hem de heyecanlandım.

Büyürken, imkanlarım sınırlıydı ama olasılıklar değildi. Her zaman insanlığın karşı karşıya olduğu en büyük sorunları çözmek için teknolojide daha güçlü bir temel oluşturmak üzere Amerika Birleşik Devletleri'ne gelmeyi hayal ettim. Mühendislik yolculuğuma University of Wisconsin Madison'da devam etmek için 2001 yılında buraya göç ettim.

Mühendislikteki yaklaşık yirmi yılım boyunca, mobilden artırılmış gerçekliğe kadar çok sayıda öncü teknolojide çalışma ayrıcalığına sahip oldum.

2011 yılında Qualcomm'da yeni gelişen işler kurmak için Yapay Zekayı keşfetmeye başladım. Ayrıca son on yılda Microsoft ve Qualcomm'da konuşma, vizyon ve NLP genelinde yapay zeka alanında iş ve uygulamalar geliştirmeye de zaman harcadım. Yapay zeka ve makine öğrenimi hakkında daha fazla şey öğrendikçe, bu öncü teknolojinin hayatlarımızı hayal edemeyeceğimiz kadar büyük ölçüde değiştireceği açıkça ortaya çıktı.

Kurumsal ölçekte Yapay Zeka oluşturmak, teknolojinin kontrol edilmediği takdirde insanlarımıza ve topluluklarımıza nasıl zarar verebileceğini ve zarar verebileceğini anlamamı da sağladı. Liderler olarak bizler, inşa ettiğimiz teknolojiler için aşırı sorumluluk almalıyız. İnsanlığa faydalarını en üst düzeye çıkarmak ve riskini en aza indirmek için proaktif olmalıyız. Ne de olsa "Yaptığımız şey bizi biz yapar" Dolayısıyla, sorumlu bir şekilde oluşturmak kritik öneme sahiptir ve bu da kariyerimin bir sonraki aşaması olan yapay zeka yönetişimine ilham verdi.

Yapay zeka yönetişimi hakkında ciddi olarak düşünmeye ilk ne zaman başladınız?

Qualcomm'da inovasyon başkanıyken, yapay zekanın gelişmekte olan işletmelerimize getirebileceği olasılıkları araştırıyorduk. İlk çalışmalarımız, tedarik zincirinde kullanılan kolaboratif robotlara odaklanmıştı. Bu, özellikle bu robotik sistemlerin yanında çalışan insanların fiziksel güvenliği ile ilgili olarak yapay zekanın "gerçek" risklerine ilk kez maruz kalmamdı.

Bu süre zarfında, Soul Machines gibi girişimlerle, yeni kullanım durumları öğrenerek ve çalışmalarımızı hızlandırmak için onlarla ortaklık kurmanın yollarını bularak önemli ölçüde zaman geçirdik. Soul Machines, bebek avatarları "Baby X"in yeni bir versiyonunu yayınladı. Aktif olarak etrafındaki dünyadan öğrenen bu nöral ağ destekli bebeği izlemek, bu teknolojinin istenmeyen sonuçları üzerinde durup düşünmeme neden oldu. Kızım Ziya da aynı sıralarda doğdu ve biz ona Soul Machines Baby “X”ten dolayı sevgiyle “Z” adını verdik. Bunun hakkında oldukça fazla konuştum, buna da dahil olmak üzere 2019'da Üründeki Kadınlar Açılış Konuşması.

Baby X ve Baby Z'nin öğrenme yolculukları ürkütücü bir şekilde benzerdi! Ziya büyürken, ona ilk kelime dağarcığını ve öğrenmesi için araçlar sağlıyorduk. Zamanla dünyayı anlamaya ve her şeyi kendisi bir araya getirmeye başladı. Sinir ağı bebeği Baby X de benzer şekilde görme sensörleri ve konuşma tanıma yoluyla öğreniyor ve hızla insan dünyasına dair derin bir anlayış geliştiriyordu.

Bu erken AI anları, riski yönetmenin yollarını bulmanın ve bu güçlü teknolojinin etrafına etkili korkuluklar koymanın, iyi bir şekilde konuşlandırılmasını sağlamak için kritik olduğunu bana açıkça gösterdi.

Credo AI'nın arkasındaki oluşum hikayesini paylaşabilir misiniz?

Qualcomm'dan sonra, Microsoft'ta yapay zeka teknolojilerinin ticarileştirilmesine liderlik etmek üzere iş geliştirme grubunda ve ardından ürün grubunda işe alındım. Görev sürem boyunca, Konuşmalı Yapay Zekadan sözleşme zekasına ve görsel denetimlerden konuşma destekli ürün keşfine kadar kullanım durumlarındaki uygulamalarla birlikte bir AI teknolojileri yelpazesi üzerinde çalışma şansına sahip oldum.

Bununla birlikte, Yapay Zeka teknolojilerinin geliştirilmesinde artan "gözetim açığına" tanık olmaya devam ettikçe, Qualcomm'da ekilen yapay zeka yönetişiminin tohumu büyümeye devam etti. Veri bilimi ve mühendislik ekibiyle birlikte çalışan bir ürün lideri olarak, makine öğrenimiyle desteklenen yüksek performanslı bir yapay zeka uygulaması oluşturmak ve bunu pazarda hızla devreye almak için motive olduk.

Uyumluluğu ve yönetişimi, inovasyon hızını yavaşlatan kapı kontrolü olarak gördük. Ancak, risk, uyum ve denetim alanlarındaki teknik ve gözetim uzmanları arasındaki yönetişim açığıyla ilgili artan endişelerim, beni yapay zeka yönetişimini gerçekleştirmedeki zorlukları keşfetmeye devam etmeye motive etti.

Yapay zeka yönetişimiyle ilgili tüm yanıtlanmamış sorular beni yanıt aramaya yöneltti. Böylece, yapay zekanın sorumlu gelişimine odaklanan yeni başlayanlar ve Global 2000'ler için bir ekosistem oluşturmak amacıyla MERAT (Etik ve Sorumlu Yapay Zeka Araçları Pazarı) adlı kar amacı gütmeyen bir kuruluşun temellerini atmaya başladım.

MERAT'ta yapılan ilk deneyler sayesinde, Credo AI'a kadar yapay zeka ve makine öğrenimi uygulamalarının kapsamlı yönetişimini güçlendirmek için çok paydaşlı araçları etkinleştiren yeni girişimler olmadığı ortaya çıktı. Bu boşluk, yapay zekaya kasıtlı olarak rehberlik etme misyonunu gerçekleştirme fırsatımdı. Yapay zeka devriminin bir sonraki sınırının yönetişim tarafından yönlendirileceğine dair hipotezim doğrulanmaya devam etti. Yönetişimi benimseyen kuruluşlar, güvenilir markalarda lider olarak ortaya çıkacaktır.

Tanınmış bir AI uzmanı olan Andrew Ng tarafından kurulan bir inkübatör olan AI Fund bana ulaştı. AI Fonu, son on yıldır tükettiğim aynı AI denetlenebilirliği ve yönetişimi konularına odaklanmıştı.

Credo AI, 28 Şubat'ta kuruldu^th, 2020, AI Fund'dan sağlanan fonla.

Credo, "eylemlerinize rehberlik eden bir dizi değer" anlamına gelir. Credo AI ile vizyonumuz, kuruluşları en yüksek etik standartlarla yapay zeka oluşturma konusunda güçlendirmektir.

İçinde önceki röportaj, gelecekte markalara nasıl "Yalnızca" yapay zekayı nasıl oluşturup dağıttıklarına bağlı olarak değil, yapay zekayı insanlığın hizmetinde olacak şekilde nasıl ölçeklendireceklerine bağlı olarak nasıl güvenileceğini tartıştınız. Bu konuda ayrıntılı misiniz?

Yapay Zeka, bu yüzyılın oyun değiştiren teknolojilerinden biridir ve ekonomi ve toplum için dönüştürücü fırsatlar sunmaktadır. 16 yılına kadar küresel ekonomiye yaklaşık 2030 trilyon dolar katkıda bulunma yolunda ilerliyor.

Bununla birlikte, geçtiğimiz birkaç yıl, zaten burada olan büyük yapay zeka tehditlerine (ve hayır, robot derebeyleri değil!) dikkatleri üzerine çekti. Örneğin, minimum suç işleme (suç davranışına dönüş) için optimize eden adli algoritmalar önyargı getirebilir ve bunu hak edenlerin şartlı tahliyesini reddedebilir.

Katılımı optimize eden sosyal algoritmalar bir ulusu bölebilir.

İş bulamamanızın veya üniversiteye kabul edilmemenizin nedeni haksız algoritmalar olabilir.

Araçlarımıza ne kadar özerklik verirsek, istenmeyen sonuçların aralığı o kadar genişler. Olağanüstü ölçek, olağanüstü etki yaratır, ancak her zaman amaçladığımız etkiyi yaratmaz (bu konuda yazıyorum. Credo AI Manifestosu).

Teknolojiyi sorumlu bir şekilde oluşturmalarına yardımcı olmak için yapay zeka yönetişimine yatırım yapan ve verilerin etik kullanımını taahhüt eden işletmelerin müşteriler, tüketiciler, yatırımcılar, çalışanlar ve diğerleri gibi paydaşlar arasında güven oluşturabileceklerini tahmin ediyorum.

Credo AI, şirketlerin hesap verebilir olmasına nasıl yardımcı olur?

Hesap verebilirlik, kişinin eylemlerinin sorumluluğunu kabul etme yükümlülüğü anlamına gelir. Yapay zeka geliştirme ve devreye alma bağlamında bu, kuruluşların yalnızca "kendilerine iyi görünen" şeyler üzerinde uyum sağlamaları değil, aynı zamanda bu uyumlu hedeflere yönelik eylem göstermek ve sonuçların sorumluluğunu üstlenmek için kasıtlı adımlar atmaları gerektiği anlamına gelir.

Credo AI, etik ve sorumlu AI girişimlerinde işletmeler için onları farklı paydaşlara karşı sorumlu tutmak için bir sherpa olmayı amaçlamaktadır: kullanıcılar, çalışanlar, düzenleyiciler, denetçiler, yatırımcılar, yöneticiler ve diğerleri. Bu nedenle Credo AI, ölçekte etik ve sorumlu AI sunmak için gerçek zamanlı, bağlama dayalı, kapsamlı ve sürekli bir çözüme öncülük etmiştir.

Yapay zekada sorumluluk ve güven oluşturmak dinamik bir süreçtir. Kuruluşlar, kurumsal değerler üzerinde uyum sağlamalı, bu değerleri kodlamalı, bunları kurumsal altyapılarında oluşturmalı, etkiyi gözlemlemeli ve her aşamada girdi sağlayan farklı seslerle süreci tekrar etmelidir. Credo AI, uyumluluğu yönetmek ve AI dağıtımları için riski ölçmek için kapsamlı ve gerçek zamanlı bir çözüm aracılığıyla bu hesap verebilirliği mümkün kılar.

Credo AI yönetişim çözümünü kullanan kuruluşlar şunları yapabilir:

• Özelleştirilebilir ilke paketleri ve model değerlendirme ölçümlerini seçmeye yönelik karar destek araçlarıyla yapay zeka kullanım senaryoları ve modelleri için yönetişim gereksinimlerine uyum sağlayın.
• Verileri ve makine öğrenimi modellerini bu uyumlu hedeflere göre değerlendirin ve sorgulayın
• Teknik özellikleri, model geliştirme ve devreye almanın her aşamasında iş için eyleme geçirilebilir risk etkisine göre analiz edin, böylece yönetişim sorunlarını büyük sorunlara dönüşmeden önce yakalayıp düzeltebilirsiniz.

Credo AI, kararları ve eylemleri her noktada kaydederek, modellerin oluşturulmasına giden kararların kaynağını kanıt olarak yakalar. Bu kanıt, dahili olarak kurumsal paydaşlarla ve harici olarak denetçilerle paylaşılan ve yapay zekanın amaçlarına güven oluşturan bir kayıt olacaktır.

Bu kanıt, geliştirme ekiplerinin istenmeyen sonuçları tahmin etmesine ve önlemesine yardımcı olacak ve yapay zeka modellerinin etkinliğini ve güvenilirliğini değerlendirme şeklimizi standartlaştıracaktır.

Kapsamlı değerlendirmeler ve güvenceler yoluyla yapay zeka yönetişimini etkinleştirmenin çok başındayız ve hesap verebilirliği teşvik etmek için daha fazla kuruluşla çalışmaktan heyecan duyuyoruz.

Credo AI, şirketlerin AI yönetişiminin sonradan akla gelen bir düşünce olmaktan çıkmasına nasıl yardımcı olur?

Günümüz dünyasında yapay zekanın gerçekte ne "sorumlu", "etik" ve "güvenilir" olduğu ve işletmelerin bunu nasıl yerine getirebileceği konusunda netlik eksikliği var. "Etik ekonomisini" göstermek için Credo AI SaaS platformunu kullanarak işletmeler için bu kilit soruyu yeniden çerçevelendirmeye yardımcı oluyoruz.

Credo AI ile kuruluşlar yalnızca adil, uyumlu ve denetlenebilir AI sunmakla kalmaz, aynı zamanda müşteri güveni de oluşturabilirler.

Tüketici güveni oluşturmak, bir şirketin müşteri tabanını genişletebilir ve daha fazla satışın önünü açabilir. Örneğin şirketler, müşteri hizmetleri sohbet robotlarında etik yapay zekayı kullanarak mümkün olan en iyi müşteri deneyimini sağlayabilir veya kullanıcı etkinliğini anlamak ve onlara ek içerik veya ürünler önermek için yapay zekayı sorumlu bir şekilde kullanabilir. Son derece memnun müşteriler, deneyimlerini arkadaşları ve aileleriyle paylaşarak en iyi reklamı sunar.

Buna ek olarak kuruluşlar, teknik ve gözetim fonksiyonları genelinde işbirliğinin, daha kısa uyum süresi, bilinçli risk yönetimi, azaltılmış marka ve düzenleme riskleri nedeniyle maliyet tasarrufu yapmalarına nasıl yardımcı olabileceğini de görebilir. Teknik ölçümler ve somut iş sonuçları arasında bir köprü kurarak kuruluşların etik yapay zekayı devreye almalarına yardımcı oluyoruz. Giderek daha fazla insanın farkına vardığı gibi, etik yapay zekayı savunmak, bir "mevzuata uygunluk" kutusunu işaretlemekten çok daha fazlasını içerir. Ancak daha adil bir dünyaya katkı sağlamaktan daha fazlasını sağlama gücüne sahiptir ki bu da kendi başına değerli bir sonuç olacaktır.

Bir şirket yüksek etik standartları desteklediğinde, artan gelir gibi gerçek hayattaki iş sonuçlarını bekleyebilir. Bakış açısını soyut bir "yumuşak" kavramdan nesnel bir iş kararına kaydırmak, AI yönetişimini şirketin ekonomik ve sosyal motorunun kritik bir parçası olarak konumlandırmamıza yardımcı olmamız için kilit bir yol oldu.

Son zamanlarda, Biden Yönetimi Ulusal Yapay Zeka Danışma Komitesini oluşturdu. Sizce bunun AI işletmeleri için sonuçları nelerdir?

Dünya genelinde hükümetler yapay zekayı düzenlemek için tüm güçleriyle çalışıyor ve işletmelerin buna hazır olması gerekiyor. Biden yönetiminin Ulusal Yapay Zeka Danışma Komitesi'ni (NSDK) kurması ve Beyaz Saray'a yatırım yapması, yapay zeka sistemlerini yönetme hakları yasası etrafındaki tartışmalara hareket kazandırmak için iyi bir ilk adım. Ancak, Sorumlu Yapay Zeka'nın ülkemiz ve ekonomimiz için ne anlama geldiğini anlamak için daha çok çalışma yapılması gerekiyor.

2022'nin sorumlu yapay zeka için eylem yılı olacağına inanıyorum. AI etik çerçevelerini uygulamak veya güçlendirmek isteyen kuruluşlar için bir uyandırma çağrısı. Şimdi şirketlerin boşluklar için mevcut çerçevelerini değerlendirmelerinin veya bir yaklaşımdan yoksun şirketlerin, yapay zeka çağında liderlik edecekleri başarıya ulaşmalarını sağlamak için güvenilir yapay zeka için sağlam bir çerçeve uygulamalarının zamanı geldi.

Daha sert ve yumuşak düzenlemelerin ortaya çıkmasını beklemeliyiz. Beyaz Saray'ın eylemlerine ek olarak, Senato'nun Algoritmik Hesap Verebilirlik Yasası taslağı, Federal Ticaret Komisyonu'nun (FTC) yapay zeka yanlılığı hakkındaki rehberliği ve daha fazlası gibi diğer politika yapıcılardan ve kurumlardan gelen çok fazla ivme var.

Geleceğe hızlı bir şekilde ilerlersek, yapay zeka etiği ve yapay zeka yönetişimi beş yıl içinde ne kadar önemli olacak?

Yapay zeka yönetişiminin ilk aşamalarındayız. Yapay zeka yönetişiminin ne kadar kritik olduğunun altını çizmek için, önümüzdeki birkaç yıl için tahminlerimden bazıları şunlardır:

• Etik yapay zeka yönetişimi en önemli kuruluş önceliği haline gelecek

Kuruluşlar, işletmelerinde yapay zeka kullanmanın avantajlarından yararlanmaya ve yatırım yapmaya devam ediyor. IDC, 340'de yapay zeka için 2022 milyar dolarlık bir harcama öngörüyor. Yönetişim olmadan işletmeler, bu sistemlerin önyargısı, güvenliği, doğruluğu ve uyumluluğuyla ilgili endişeler nedeniyle yapay zekaya yatırım yapmak konusunda isteksiz olacak.

Güven olmadan, tüketiciler AI tabanlı ürünleri kabul etme veya bu sistemleri oluşturmak için veri paylaşma konusunda da isteksiz olacaktır. Önümüzdeki beş yıl içinde, etik yapay zeka yönetişimi, şirketlerin paydaşları arasında güven oluşturmak için açıklamaları ve raporlamaları gereken bir yönetim kurulu önceliği ve önemli bir ölçüt haline gelecek.

• Bir işletme içinde yeni sosyo-teknik iş kategorileri ortaya çıkacaktır.

Adil, uyumlu ve denetlenebilir yapay zeka uygulamaları sağlamak için gelişimlerini geleceğe hazır hale getirmeye önemli ölçüde yatırım yapan etik ileriye dönük kuruluşları şimdiden görüyoruz.

Yapay zekada liderlik etmek için kuruluşların, yapay zeka düzenleyici ortamı ve hesap verebilirlik yapılarının geniş ölçekte uygulamaları hakkında öğrenmeyi daha da hızlandırması gerekecek. Ortaya çıkan etik AI uygulaması alanı geliştikçe, bu konuşmaları kolaylaştırmak ve bu alanda görev almak için yeni bir sosyoteknik iş kategorisi ortaya çıkabilir. İş gücünün bu yeni bileşeni, teknik ve gözetim arasında aracılar olarak işlev görerek ortak standartlar ve hedefler geliştirmeye yardımcı olabilir.

• Yapay zeka destekli yeni deneyimler, daha sıkı yönetişim gerektirecek

Yapay zekanın amaçlanan ve amaçlanmayan sonuçlarını yönetmek, özellikle Metaverse ve web3 dünyasına girdiğimizde çok önemlidir. Yapay zekanın riskleri gerçek dünyada ve sanal dünyada mevcuttur, ancak ikincisinde daha da artar.

Kuruluşlar, yapay zeka gözetimi eksikliğiyle önce Metaverse'e dalarak müşterilerini kimlik hırsızlığı ve dolandırıcılık gibi zorluklar için riske atıyor. Tüketicileri Metaverse'te güvende tutmak için AI ve yönetişim sorunlarının artık gerçek dünyada çözülmesi çok önemlidir.

• Etik yapay zeka yönetişiminde yeni ekosistemler ortaya çıkacak

Dünya, yapay zeka yönetişiminin, sorumlu yapay zekayı operasyonel hale getirmek için temel yapı taşını temsil ettiği fikrine uyandı. Önümüzdeki birkaç yıl içinde, bu büyük ihtiyacı desteklemek için araçlar, hizmetler, eğitim ve diğer yetenekleri sağlamak üzere rekabetçi ve dinamik bir hizmet sağlayıcı pazarının ortaya çıktığını göreceğiz.

Ayrıca, yönetişim ve değerlendirme yeteneklerini yapay zekaya getirmek için mevcut MLops ve GRC platformlarının konsolidasyonunu ve büyütülmesini de göreceğiz.

Credo AI hakkında paylaşmak istediğiniz başka bir şey var mı?

Etik yapay zeka yönetişimi, karşılayamayacağınız, geleceğe hazır bir yatırımdır değil yapmak ve bugün başlamak için en iyi gün.

Ayrıntılı röportaj için ve AI yönetişimi ve etiği ile ilgili tüm görüşlerinizi paylaştığınız için teşekkür ederiz, daha fazla bilgi edinmek isteyen okuyucular ziyaret etmelidir. kredi kartı yapay zekası.