Düşünce Liderleri

Güvenilir Yapay Zekâ Eksikliği İnovasyonu ve İş Değerini Engelleyebilir

Andrew Pery
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin
Öne çıkan noktalarTüketicilerin %'si yapay zeka model yönetimi konusunda şeffaf olan şirketleri tercih…
Daha fazla göster
  • Tüketicilerin %'si yapay zeka model yönetimi konusunda şeffaf olan şirketleri tercih ediyor.
  • Kodsuz/düşük kodlu yapay zeka geliştirmenin 2025 yılına kadar 45,5 milyar dolara ulaşması öngörülüyor.
  • Küresel çapta 60 ülkede 700'ün üzerinde yapay zeka düzenleme girişimi devam ediyor.

Küresel iş liderleri arasında yapılan yakın zamanda yapılan bir anket, güvenilir yapay zekânın bir öncelik olduğunu gösteriyor, ancak birçokları bunu başarmak için yeterli adımları atmıyor, ancak bu maliyeti nedir?

Gerçekten de, IBM anketi şaşırtıcı bir şekilde, katılımcıların %85’inin, tüketicilerin AI modellerinin nasıl inşa edildiği, yönetildiği ve kullanıldığı konusunda şeffaf olan bir şirketi tercih etme olasılığının daha yüksek olduğunu ortaya koydu.

Ancak, çoğunluk, AI’lerinin güvenilir ve sorumlu olduğundan emin olmak için gerekli adımları atmamış olduğunu kabul etti, Örneğin, önyargıları azaltma ( %74 ), performans varyasyonlarını ve model kaymasını izleme ( %68 ) ve AI tarafından alınan kararları açıklama ( %61 ) gibi. Bu endişe verici, özellikle AI kullanımının devam ettiği düşünüldüğünde – %35, artık işlerinde AI kullandıklarını söyledi, bir yıl öncesine göre %31’den daha fazla.

Toronto’da düzenlenen yalnızca davetlilere açık Kurumsal İnovasyon Zirvesi‘ne katıldım, burada katılımcılar yenilikçi fikirleri paylaştı ve geleceği şekillendirecek teknolojileri sergiledi. Finansal hizmetler, sigorta ve perakende segmentlerinde üç yuvarlak masa içinde yer aldım ve üç ana alan ortaya çıktı: AI’de güveni artırmak için daha fazla şeffaflık ihtiyacı, AI’nin demokratikleştirilmesi için düşük kod/no-kod ve AI düzenleme en iyi uygulamaları yoluyla daha kısa sürede değer elde etmeye ve risk azaltma.

AI teknolojilerine duyulan güveni artırın. COVID-19, AI destekli sohbet botlarının, sanal finansal asistanların ve temassız müşteri kaydının benimsenmesini güçlendirdi ve hızlandırdı. Bu eğilim sürecek. Cap Gemini araştırması ankete katılan tüketicilerin %78’inin finansal hizmet kuruluşlarıyla etkileşimlerinde, dijital kimlik yönetimi de dahil olmak üzere, AI teknolojilerinin kullanımını artırmayı planladığını gösteriyor.

Kendiliğinden faydaları olmasına rağmen, bir dizi zorluk ortaya çıkıyor. Bunların başında, AI teknolojilerine karşı devam eden tüketici güvensizliği geliyor ve bunların yaygın doğası, gizlilik ve güvenlik haklarını nasıl etkiliyor. Tüketicilerin %30’u, finansal hizmet sağlayıcılarının biyometrik bilgilerini nasıl topladığını, yönettiğini ve güvence altına aldığını açıklarsa, biyometrik bilgilerini paylaşmakta daha rahat hissedeceklerini söyledi.

CIO’lar, güvenilir AI ilkelerini benimsemeli ve gizlilik ve güvenlik haklarını korumak için katı önlemler almalılar. Bunu, şifreleme, veri minimizasyonu ve daha güvenli kimlik doğrulama yoluyla, ortaya çıkan dağıtılmış dijital kimlik standartlarını da değerlendirerek sağlayabilirler. Böylece akıllı otomasyon ve self servis çözümleri daha fazla benimsenecek ve daha az insan müdahalesi gerektirecektir.

AI’nin demokratikleştirilmesinin önündeki engelleri kaldırın. No-code/low-code AI uygulaması geliştirmeye yönelik eğilim artıyor. Araştırmalar bu pazarın 2025 yılına kadar 45,5 milyar dolara ulaşacağını öngörüyor. Temel etken, daha kısa sürede değer elde edilmesi ve uygulama geliştirme verimliliğinin on katına çıkmasıdır.

Örneğin, finansal hizmet organizasyonlarının %56’sı, borçlulardan veri toplamanın, kredi başvurusu sürecindeki en zorlu ve verimsiz adımlardan biri olduğunu düşünüyor, bu da yüksek terk oranlarına yol açıyor. AI destekli biyometrik tanımlama ve veri toplama teknolojileri, kredi başvurusu sürecinde verimliliği artırabilir, ancak uygunluk riskleri oluşturabilir, özellikle veri gizliliği, gizlilik ve AI algoritma önyargısı.

Bu riskleri azaltmak ve gidermek için, düşük kod/no-kod uygulamalarının, ilk tasarım hedeflerine uygun olarak çalıştığından emin olmak için kapsamlı testler içermesi gerekir, ayrıca eğitim veri kümesindeki önyargıları ortadan kaldırmak için, örneğin, örneklem önyargısı, etiketleme önyargısı ve AI saldırılarına karşı güvende olmalıdır. Sorumlu veri bilimi ilkeleri nin adil, doğru, gizli ve güvenli olması önemlidir.

AI yönetim ve düzenleme çerçevesi geliştirin. AI yönetimi artık bir lüks değil, bir zorunluluk. OECD’nin ulusal AI politikaları izleyicisi, 60’tan fazla ülkede 700’den fazla AI düzenleme girişimi olduğunu gösteriyor. Ancak, uluslararası standart kuruluşları tarafından geliştirilen gönüllü davranış kuralları ve etik AI ilkeleri var, Örneğin, Elektrik ve Elektronik Mühendisleri Enstitüsü (IEEE) ve Ulusal Standartlar ve Teknoloji Enstitüsü (NIST).

Organizasyonlar, AI düzenlemelerinin daha katı uyum zorunlulukları getireceğinden endişe ediyor, bunları destekleyen zorlu uygulama mekanizmaları ve uyumsuzluk cezaları ile birlikte. Ancak, AI düzenlemesi kaçınılmaz.

Avrupa ve Kuzey Amerika, CIO’ların teknoloji ve iş ortaklarıyla birlikte etkili politikalar oluşturmak zorunda kalacağı proaktif adımlar atıyor. Örneğin, Avrupa Komisyonu’nun önerdiği Yapay Zeka Yasası, AI sağlayıcılarına tüketici haklarını korumak için risk bazlı yükümlülükler getirme önerisini içeriyor, aynı zamanda AI teknolojileriyle ilgili yenilikçi ve ekonomik fırsatları da tanıyor.

Ek olarak, Haziran 2022’de, Kanada Federal Hükümeti, uzun süredir beklenen Dijital Şart Uygulama Yasası‘nı yayınladı, bu yasa, yüksek riskli AI sistemlerinin olumsuz etkilerine karşı koruma sağlıyor. ABD de, AI düzenleme girişimlerini sektörel bazda yürütüyor. Federal Ticaret Komisyonu (FTC), Tüketici Finansal Koruma Bürosu (CFPB) ve Federal Rezerv Kurulu da dahil olmak üzere, tüketicileri AI’nin artan uygulamalarından kaynaklanan olumsuz etkilere karşı korumak için düzenleyici mekanizmalarını kullanıyor. Bu uygulamalar kasıtsız da olsa ayrımcı sonuçlara yol açabilir. Her yenilikçi şirket için AI düzenleme çerçevesi zorunludur.

Güvenilir AI için veri odaklı içgörüler elde edin

Güvenilir AI uygulaması, AI teknolojilerinin nerede en büyük etkiye sahip olabileceğini belirlemek için veri odaklı bir yaklaşım olmadan gerçekleştirilemez. Müşteri etkileşimini iyileştirmek, operasyonel verimliliği gerçekleştirmek veya uyum risklerini azaltmak için mi?

Her bir iş sürücüsü, işlemlerin nasıl yürütüldüğünü, sorunların üst kademeye iletilmesinin ve istisnaların nasıl ele alındığını ve işlem yürütme engellerinin ve bunların kök nedenlerinin nasıl tanımlanacağını anlamak için bir anlayış gerektirir. Bu veri odaklı analiz temelinde, organizasyonlar, AI dayalı çözümlerin müşteri kaydı sürtüşmesini azaltma ve operasyonel verimliliği artırma üzerindeki etkisine ve sonuçlarına ilişkin bilgilendirilmiş iş kararları alabilir. Organizasyonlar veri odaklı içgörülere sahip olduğunda, o zaman AI uyumluluk zorunluluklarını, uyum denetimini, KYC ve AML’yi finansal hizmetlerde gibi yüksek işgücü yoğun süreçleri otomatikleştirebilir.

Temel çıkarım, AI destekli iş süreci otomasyonunun bir parçası olan güvenilir AI en iyi uygulamalarının uygulanmasıdır. AI’nin etik kullanımı, yalnızca yasal ve ahlaki bir yükümlülük olarak değil, bir iş zorunluluğu olarak düşünülmelidir. AI uygulamasında şeffaf olmak iyi bir iş kararıdır. Güveni teşvik eder ve marka bağlılığını sağlar.

Andrew Pery, küresel akıllı otomasyon şirketi ABBYY'de Yapay Zekâ Etiği Savunucusu'dir. Northwestern Üniversitesi Pritzker Hukuk Okulu'ndan üstün başarıyla Hukuk Yüksek Lisans derecesine sahiptir ve Sertifikalı Veri Gizliliği Profesyoneli'dir. Pery, önde gelen küresel teknoloji şirketleri için teknoloji yönetim programlarını yönetme konusunda 25 yıldan fazla deneyime sahiptir. Uzmanlık alanları akıllı belge süreci otomasyonu ve süreç zekâsıdır; özellikle yapay zekâ teknolojileri, uygulama yazılımları, veri gizliliği ve yapay zekâ etiği konularında uzmandır.