Güvenilir Yapay Zeka Eksikliği İnovasyonu ve İş Değerini Engelleyebilir

Küresel iş dünyası liderleri arasında yakın zamanda yapılan bir anket, güvenilir yapay zekanın büyük bir öncelik olduğunu, ancak birçoğunun bunu başarmak için yeterli adımları atmadığını, ancak ne pahasına olduğunu gösteriyor?

Gerçekten de, IBM anketi Yanıt verenlerin şaşırtıcı bir şekilde %85'inin, tüketicilerin yapay zeka modellerinin nasıl oluşturulduğu, yönetildiği ve kullanıldığı konusunda şeffaf olan bir şirketi seçme olasılığının daha yüksek olduğu konusunda hemfikir olduğunu ortaya çıkardı.

Ancak çoğunluk, yapay zekalarının güvenilir ve sorumlu olmasını sağlamak için önyargıyı azaltmak (%74), performans değişikliklerini ve model sapmasını izlemek (%68) ve yapay zeka destekli sistemleri açıklayabileceklerinden emin olmak gibi önemli adımlar atmadıklarını itiraf etti. kararlar (%61). Bu endişe verici, özellikle de yapay zeka kullanımının artmaya devam ettiğini düşündüğünüzde - bir yıl önce %35'e kıyasla artık işlerinde yapay zeka kullandıklarını söyleyenlerin oranı %31.

Geçenlerde sadece davetlilere katıldım Kurumsal İnovasyon Zirvesi Toronto'da katılımcılar yenilikçi fikir alışverişinde bulundular ve geleceği şekillendirmeye hazır teknolojileri sergilediler. Finansal hizmetler, sigorta ve perakende segmentlerinde ortaya çıkan üç kilit alanla birlikte üç yuvarlak masa toplantısına katılma ayrıcalığına sahip oldum: yapay zekaya güveni artırmak için daha fazla şeffaflığa duyulan ihtiyaç, kodsuz/düşük kod yoluyla yapay zekanın demokratikleştirilmesi ve geliştirme AI düzenleyici yönetişim en iyi uygulamaları aracılığıyla daha hızlı değer elde etme süresi ve risk azaltma sağlayın.

AI teknolojilerine olan güveni artırın. COVID-19, yapay zeka destekli sohbet robotlarını, sanal finansal asistanları ve temassız müşteri katılımını benimseme eğilimini güçlendirdi ve hızlandırdı. Bu eğilim, onaylandığı gibi devam edecek Cap Gemini tarafından yapılan araştırma Bu, ankete katılan tüketicilerin %78'inin finansal hizmet kuruluşlarıyla etkileşimlerinde dijital kimlik yönetimi de dahil olmak üzere yapay zeka teknolojilerinin kullanımını artırmayı planladığını gösteriyor.

Doğal faydalara rağmen, bir takım zorluklar ortaya çıkar. Bunların başında ise yapay zeka teknolojilerine yönelik devam eden tüketici güvensizliği ve her yerde bulunmalarının mahremiyet ve güvenlik haklarını nasıl etkilediği. Tüketicilerin %30'u, finansal hizmet sağlayıcılarının bilgilerinin nasıl toplandığını, yönetildiğini ve güvenceye alındığını açıklamada daha fazla şeffaflık sağlaması durumunda biyometrik bilgilerini daha rahat paylaşacaklarını belirtti.

CIO'lar benimsemeli güvenilir yapay zeka ilkeleri ve mahremiyet ve güvenlik haklarını koruyan sıkı önlemler alın. Bunu başarabilirler şifreleme, veri minimizasyonu ve daha güvenli kimlik doğrulama dahil olmak üzere, ortaya çıkan merkezi olmayan dijital kimlik standartları. Sonuç olarak, akıllı otomasyon çabalarınız ve self servis teklifleriniz daha fazla benimsenecek ve daha az insan müdahalesine ihtiyaç duyulacaktır.

Yapay zekanın demokratikleşmesinin önündeki engelleri kaldırın. Kodsuz/düşük kodlu yapay zeka uygulamaları geliştirmeye doğru büyüyen bir geçiş var. araştırma 45.5 yılına kadar 2025 milyar dolara ulaşacağı tahmin ediliyor. daha hızlı değer elde etme süresi uygulama geliştirme üretkenliğindeki iyileştirmelerle 10x tarafından.

Örneğin, ankete katılan finansal hizmet kuruluşlarının %56'sı bilgi toplama kredi başvuru sürecindeki en zorlu ve verimsiz adımlardan biri olarak borçlulardan, yüksek vazgeçme oranlarına neden olur. Yapay zeka güdümlü biyometrik tanımlama ve veri toplama teknolojilerinin kredi başvuru sürecinde verimliliği artırdığı kanıtlanmış olsa da, aynı zamanda uyum riskleri yaratmak özellikle, veri gizliliği, mahremiyet ve AI algoritmik önyargı.

Bu tür riskleri azaltmak ve düzeltmek için düşük kodlu/kodsuz uygulamalar, ilk tasarım hedeflerine uygun olarak çalıştıklarından emin olmak için kapsamlı testler içermelidir, örnekleme yanlılığını, etiketleme yanlılığını içerebilecek eğitim veri setindeki olası yanlılığı ortadan kaldırmalıdır ve rakiplere karşı güvenlidir AI algoritmik sonuçlarını olumsuz etkileyebilecek AI saldırıları. Dikkate almak sorumlu veri bilimi ilkeleri adalet, doğruluk, gizlilik ve güvenlik esastır.

Bir AI yönetişimi ve düzenleyici çerçeve geliştirin. Yapay zeka yönetişimi artık inisiyatif sahibi olmak güzel bir şey değil, bir zorunluluktur. OECD'nin ulusal yapay zeka politikaları izleyicisine göre, üzerinde 700'tan fazla ülkede geliştirilmekte olan 60 yapay zeka düzenleme girişimi. Bununla birlikte, aşağıdakiler gibi uluslararası standart kuruluşları tarafından geliştirilen gönüllü davranış kuralları ve etik AI ilkeleri vardır: Elektrik ve Elektronik Mühendisleri Enstitüsü (“IEEE”) ve Ulusal Standartlar ve Teknoloji Enstitüsü (NIST).

Kuruluşların endişeleri, yapay zeka düzenlemelerinin daha fazla empoze edeceği varsayımını çevreliyor. katı uyum yükümlülükleri uyumsuzluk için cezalar da dahil olmak üzere zahmetli uygulama mekanizmaları tarafından desteklenmektedir. Yine de, AI düzenlemesi kaçınılmazdır.

Avrupa ve Kuzey Amerika, CIO'ların etkili politikalar oluşturmak için teknoloji ve ticari muadilleriyle işbirliği yapmasını gerektirecek proaktif tavırlar alıyor. Örneğin, Avrupa Komisyonu'nun önerdiği bir Yapay Zeka Yasası AI teknolojileriyle ilişkili inovasyonu ve ekonomik fırsatları teşvik ederken aynı zamanda tüketici haklarını korumak için AI sağlayıcılarına riske dayalı yükümlülükler getirmeyi teklif ediyor.

Ek olarak, Haziran 2022'de Kanada Federal Hükümeti çok beklenen açıklamasını yayınladı. Dijital Şart Uygulama Yasası yüksek riskli AI sistemlerinin olumsuz etkilerine karşı koruma sağlayan. ABD ayrıca sektörel bazda da olsa AI düzenleyici girişimlerine devam ediyor. Federal Ticaret Komisyonu (FTC), Tüketici Mali Koruma Bürosu (CFPB)) Ve Federal Rezerv Kurulu Hepsi, tüketicileri yapay zekanın artan uygulamalarından kaynaklanan ve kasıtsız da olsa ayrımcı sonuçlara yol açabilecek olumsuz etkilere karşı korumak için uygulama mekanizmaları yoluyla düzenleyici kaslarını esnetiyor. Herhangi bir yenilikçi şirket için bir AI düzenleyici çerçeve şarttır.

Güvenilir Yapay Zekaya Ulaşmak, Veriye Dayalı Görüşler Gerektirir

Güvenilir yapay zekanın uygulanması, uygulamaya geçmeden önce yapay zeka teknolojilerinin uygulamalarının nerede en büyük etkiye sahip olabileceğini belirlemek için veriye dayalı bir yaklaşım olmadan gerçekleştirilemez. Müşteri katılımını iyileştirmek mi, yoksa operasyonel verimlilikleri gerçekleştirmek mi yoksa uyum risklerini azaltmak mı?

Bu iş sürücülerinden her biri, süreçlerin nasıl yürütüldüğüne, yükseltmelerin ve istisnaların nasıl ele alındığına dair bir anlayış ve süreç yürütme engellerindeki varyasyonları ve bunların temel nedenlerini belirlemeyi gerektirir. Kuruluşlar, bu tür veriye dayalı analizlere dayanarak, müşteri katılım anlaşmazlığını azaltmak ve operasyonel verimlilikleri artırmak için yapay zeka tabanlı çözümlerin uygulanmasıyla ilişkili etki ve sonuçlara ilişkin bilinçli iş kararları alabilir. Kuruluşlar veriye dayalı içgörülerin avantajına sahip olduklarında, finansal hizmetlerde AI uyumluluk zorunluluklarını karşılama, uyumluluk denetimi, KYC ve AML gibi oldukça emek yoğun süreçleri otomatikleştirebilirler.

Ana çıkarım, AI özellikli süreç otomasyonunun ayrılmaz bir parçasının, güvenilir AI en iyi uygulamalarının uygulanması olmasıdır. AI'nın etik kullanımı sadece yasal ve ahlaki bir zorunluluk olarak değil, bir iş zorunluluğu olarak görülmelidir. Yapay zeka uygulamasında şeffaf olmak iyi bir iş anlayışıdır. Güveni besler ve marka sadakati oluşturur.