Güvenilir Yapay Zeka Bulunmaması İnovasyonu ve İş Değeri Engelleyebilir

Küresel iş liderleri arasında yapılan bir recent anket, güvenilir yapay zekaın bir öncelik olduğunu gösteriyor, ancak birçokları bunu başarmak için yeterli adımları atmıyor, ancak bu maliyeti nedir?

Gerçekten de, IBM anketi şaşırtıcı bir şekilde, katılımcıların %85’inin, tüketicilerin AI modellerinin nasıl inşa edildiği, yönetildiği ve kullanıldığı konusunda şeffaf olan bir şirketi tercih etme olasılığının daha yüksek olduğunu ortaya koydu.

Ancak, çoğunluk, AI’lerinin güvenilir ve sorumlu olduğundan emin olmak için gerekli adımları atmamış olduğunu kabul etti, Örneğin, önyargıları azaltma ( %74 ), performans varyasyonlarını ve model kaymasını izleme ( %68 ) ve AI tarafından alınan kararları açıklama ( %61 ) gibi. Bu endişe verici, özellikle AI kullanımının devam ettiği düşünüldüğünde – %35, artık işlerinde AI kullandıklarını söyledi, bir yıl öncesine göre %31’den daha fazla.

Toronto’da düzenlenen davet-only Kurumsal İnovasyon Zirvesi‘ne katıldım, burada katılımcılar yenilikçi fikirleri paylaştı ve geleceği şekillendirecek teknolojileri sergiledi. Finansal hizmetler, sigorta ve perakende segmentlerinde üç yuvarlak masa içinde yer aldım ve üç ana alan ortaya çıktı: AI’de güveni artırmak için daha fazla şeffaflık ihtiyacı, AI’nin demokratikleştirilmesi için düşük kod/no-kod ve AI düzenleme en iyi uygulamaları yoluyla daha hızlı zaman-a-değere ve risk azaltma.

AI teknolojilerinde güveni artırın. COVID-19, AI destekli sohbet botları, sanal finansal asistanlar ve dokunmatik müşteri kaydının trendini güçlendirdi ve hızlandırdı. Bu trend devam edecek, Cap Gemini tarafından yapılan bir araştırmaya göre, finansal hizmetler organizasyonları ile etkileşimlerinde AI teknolojilerini kullanmayı planlayan tüketicilerin %78’i.

Kendiliğinden faydaları olmasına rağmen, bir dizi zorluk ortaya çıkıyor. Bunların başında, AI teknolojilerine karşı devam eden tüketici güvensizliği geliyor ve bunların yaygın doğası, gizlilik ve güvenlik haklarını nasıl etkiliyor. Tüketicilerin %30’u, finansal hizmet sağlayıcılarının biyometrik bilgilerini nasıl topladığını, yönettiğini ve güvence altına aldığını açıklarsa, biyometrik bilgilerini paylaşmakta daha rahat hissedeceklerini söyledi.

CIO’lar, güvenilir AI ilkelerini benimsemeli ve gizlilik ve güvenlik haklarını korumak için katı önlemler almalılar. Bunu, şifreleme, veri minimizasyonu ve daha güvenli kimlik doğrulama yoluyla, ortaya çıkan dağıtılmış dijital kimlik standartları da dahil olmak üzere.

AI’nin demokratikleştirilmesine engel olan engelleri kaldırın. Düşük kod/no-kod AI uygulamaları geliştirme yönünde bir eğilim var, araştırmaya göre, 2025 yılına kadar 45,5 milyar dolara ulaşması bekleniyor. Ana sürücü, daha hızlı zaman-a-değere sahip olma ve uygulama geliştirme verimliliğinde iyileşme.

Örneğin, finansal hizmet organizasyonlarının %56’sı, borçlulardan veri toplamanın, kredi başvurusu sürecindeki en zorlu ve verimsiz adımlardan biri olduğunu düşünüyor, bu da yüksek terk oranlarına yol açıyor. AI destekli biyometrik tanımlama ve veri toplama teknolojileri, kredi başvurusu sürecinde verimliliği artırabilir, ancak uygunluk riskleri oluşturabilir, özellikle veri gizliliği, gizlilik ve AI algoritma önyargısı.

Bu riskleri azaltmak ve gidermek için, düşük kod/no-kod uygulamalarının, ilk tasarım hedeflerine uygun olarak çalıştığından emin olmak için kapsamlı testler içermesi gerekir, ayrıca eğitim veri kümesindeki önyargıları ortadan kaldırmak için, örneğin, örneklem önyargısı, etiketleme önyargısı ve AI saldırılarına karşı güvende olmalıdır. Sorumlu veri bilimi ilkeleri nin adil, doğru, gizli ve güvenli olması önemlidir.

AI yönetim ve düzenleme çerçevesi geliştirin. AI yönetimi artık bir lüks değil, bir zorunluluk. OECD’nin ulusal AI politikaları izleyicisi, 60’tan fazla ülkede 700’den fazla AI düzenleme girişimi olduğunu gösteriyor. Ancak, uluslararası standart kuruluşları tarafından geliştirilen gönüllü davranış kuralları ve etik AI ilkeleri var, Örneğin, Elektrik ve Elektronik Mühendisleri Enstitüsü (IEEE) ve Ulusal Standartlar ve Teknoloji Enstitüsü (NIST).

Organizasyonlar, AI düzenlemelerinin daha katı uyum zorunlulukları getireceğinden endişe ediyor, bunları destekleyen zorlu uygulama mekanizmaları ve uyumsuzluk cezaları ile birlikte. Ancak, AI düzenlemesi kaçınılmaz.

Avrupa ve Kuzey Amerika, CIO’ların teknoloji ve iş ortaklarıyla birlikte etkili politikalar oluşturmak zorunda kalacağı proaktif adımlar atıyor. Örneğin, Avrupa Komisyonu’nun önerdiği Yapay Zeka Yasası, AI sağlayıcılarına tüketici haklarını korumak için risk bazlı yükümlülükler getirme önerisini içeriyor, aynı zamanda AI teknolojileriyle ilgili yenilikçi ve ekonomik fırsatları da tanıyor.

Ek olarak, Haziran 2022’de, Kanada Federal Hükümeti, uzun süredir beklenen Dijital Vizyon Uygulama Yasası‘nı yayınladı, bu yasa, yüksek riskli AI sistemlerinin olumsuz etkilerine karşı koruma sağlıyor. ABD de, AI düzenleme girişimlerini sektörel bazda yürütüyor. Federal Ticaret Komisyonu (FTC), Tüketici Finansal Koruma Bürosu (CFPB) ve Federal Rezerv Kurulu da dahil olmak üzere, tüketicileri AI’nin artan uygulamalarından kaynaklanan olumsuz etkilere karşı korumak için düzenleyici mekanizmalarını kullanıyor.

Güvenilir AI için veri odaklı içgörüler elde edin

Güvenilir AI uygulaması, AI teknolojilerinin nerede en büyük etkiye sahip olabileceğini belirlemek için veri odaklı bir yaklaşım olmadan gerçekleştirilemez. Müşteri etkileşimini iyileştirmek, operasyonel verimliliği gerçekleştirmek veya uyum risklerini azaltmak için mi?

Her bir iş sürücüsü, işlemlerin nasıl yürütüldüğünü, nasıl artırımların ve istisnaların nasıl ele alındığını ve işlem yürütme engellerinin ve bunların kök nedenlerinin nasıl tanımlanacağını anlamak için bir anlayış gerektirir. Bu veri odaklı analiz temelinde, organizasyonlar, AI dayalı çözümlerin müşteri kaydı sürtüşmesini azaltma ve operasyonel verimliliği artırma üzerindeki etkisine ve sonuçlarına ilişkin bilgilendirilmiş iş kararları alabilir. Organizasyonlar veri odaklı içgörülere sahip olduğunda, o zaman AI uyumluluk zorunluluklarını, uyum denetimini, KYC ve AML’yi finansal hizmetlerde gibi yüksek işgücü yoğun süreçleri otomatikleştirebilir.

Ana alınan şey, AI destekli iş süreci otomasyonunun bir parçası olan güvenilir AI en iyi uygulamalarının uygulanmasıdır. AI’nin etik kullanımı, yalnızca yasal ve ahlaki bir yükümlülük olarak değil, bir iş zorunluluğu olarak düşünülmelidir. AI uygulamasında şeffaf olmak iyi bir iş kararıdır. Güveni teşvik eder ve marka bağlılığını sağlar.