AI Tabanlı Sistemlerin Finansal Suç İçindeki Önyargı ve Adaleti

Finansal suçu mücadele etmek söz konusu olduğunda, sadece dolandırıcıları veya diğer kötü aktörleri durdurmanın ötesinde zorluklar vardır.

Çoğu yeni ve gelişmiş teknoloji, benimsenme aşamasında dikkate alınması gereken kendi özel sorunlarına sahiptir ve bu, dolandırıcılarla savaşırken düzenleyici sonuçlardan kaçınmak için yapılır. Dolandırıcıları tespit etme konusunda, model adaleti ve veri önyargısı, bir sistem belirli gruplar veya veri kategorilerinin daha ağır veya temsil edilmemesi nedeniyle oluşabilir. Teoride, bir öngörülü model, diğer kültürlerden gelen soyadlarını hileli hesaplarla yanlış bir şekilde ilişkilendirebilir veya belirli tür finansal faaliyetler için nüfus segmentleri içinde riski yanlış bir şekilde azaltabilir.

Önyargılı AI sistemleri, itibarların etkilenebileceği ciddi bir tehdit oluşturabilir ve mevcut verilerin nüfus veya keşif olgusunu temsil etmediği zaman ortaya çıkar. Bu veriler, öngörülmesini istediğimiz olguyu doğru bir şekilde yakalamak için gerekli değişkenleri içermez. Ya da alternatif olarak, veriler, insan tarafından üretilen ve kültürel ve kişisel deneyimlerden kaynaklanan önyargıları içeren içerikler içerebilir, bu da kararlar alırken bozulmalara neden olabilir. İlk bakışta veri nesnel gibi görünse de, hala insanlar tarafından toplanır ve analiz edilir, bu nedenle önyargılı olabilir.

AI sistemlerinde ve makine öğrenimi modelinin mimarisi ve kullanımında adaletsizlik ve önyargı tehlikelerinin giderilmesinde kalıcı çözümler olmasa da, bu konular hem toplumsal hem de ticari nedenlerle dikkate alınmalıdır.

AI’de Doğru Şeyi Yapmak

AI tabanlı sistemlerdeki önyargıya çözüm bulmak, sadece doğru şey değil, aynı zamanda iş için akıllıca bir şeydir ve iş liderleri için riskler yüksektir. Önyargılı AI sistemleri, finansal kurumları yanlış yola sürükleyerek fırsatlar, kaynaklar, bilgi veya hizmet kalitesini adil bir şekilde dağıtabilir. Ayrıca, medeni hakları ihlal etme, bireylerin güvenliğini tehlikeye atma veya bir kişinin refahını olumsuz etkileme potansiyeline sahiptir, eğer küçümseme veya saldırı olarak algılanırsa.

İşletmelerin AI önyargısının gücünü ve risklerini anlaması önemlidir. Bir kurumun, kurum tarafından bilinmeyen, önyargılı bir AI tabanlı sistemin, ırk veya cinsiyet önyargısını kredilendirme kararına dahil eden zararlı modeller veya verileri kullanabileceği bilinmelidir. İsim ve cinsiyet gibi bilgiler, yasalara aykırı bir şekilde başvuruları kategorize etmek ve tanımlamak için vekiller olabilir. Önyargı kasıtlı olmasa da, kurumları düzenleyici gereksinimlere uymamak ve belirli grupların krediler veya kredi limitleri konusunda haksız bir şekilde reddedilmesine neden olmakla risk altına sokar.

Şu anda, kurumlar AI sistemlerindeki önyargıları erfolgreich bir şekilde gidermek için gerekli parçaları bulundurmuyorlar. Ancak AI, karar verme süreçlerinin otomasyonunda ve maliyet tasarrufu sağlama konusunda giderek daha fazla işletme tarafından kullanılıyor, bu nedenle kurumların önyargılı kararların verilmediğinden emin olmak için çalışması çok önemlidir. Bu, sadece ahlaki nedenlerle değil, aynı zamanda düzenleyici gereksinimlere uymak ve gelir elde etmek için de gereklidir.

“Adalet Farkında” Kültür ve Uygulama

Adalet farkında tasarım ve uygulama odaklı çözümler en faydalı sonuçları sağlayacaktır. Sağlayıcılar, algoritmik adaletin gerekli bileşenleri olarak sorumlu veri edinimi, işleme ve yönetimine odaklanan analitik bir kültüre sahip olmalıdır, çünkü AI projesinin sonuçları, önyargılı, tehlikeye açık veya çarpık veri kümelerinden oluşuyorsa, etkilenen taraflar, ayrımcı zararlardan yeterli şekilde korunmayacaktır.

Veri adaletinin unsurları, veri bilimcilerinin dikkate alması gerekenler şunlardır:

• Temsil Edilme: Bağlamın bağlı olarak, dezavantajlı veya yasal olarak korunan grupların veri örneğinde temsil edilmemesi veya fazla temsil edilmesi, eğitilen modelin sonuçlarında savunmasız tarafların sistematik olarak dezavantajlı olmasına neden olabilir. Bu tür örneklem önyargısını önlemek için, alan uzmanlığı, toplanan veya edinilen verilerin altta yatan nüfusla uyumlu olup olmadığını değerlendirmek için çok önemlidir. Teknik ekip üyeleri, örneklemdeki temsil edilme kusurlarını düzeltmek için düzeltme yöntemleri sunmalıdır.
• Amaca Uygunluk ve Yeterlilik: Verilerin projenin amaçlanan amacına uygun olup olmadığını ve yeterli olup olmadığını anlamak önemlidir. Yetersiz veri kümeleri, AI sisteminin amaçlanan amacına uygun ve tutarlı bir sonuç üretmek için gereken özellikleri adil bir şekilde yansıtmayabilir. Buna göre, teknik ve politika yetkinliklerine sahip proje ekibi üyeleri, verilerin miktarının yeterli ve amaca uygun olup olmadığını belirlemek için işbirliği yapmalıdır.
• Kaynak Bütünlüğü ve Ölçüm Doğruluğu: Etkili önyargı azaltma, veri çıkarma ve toplama süreçlerinin başlangıcında başlar. Hem kaynaklar hem de ölçüm araçları, veri kümesine ayrımcı faktörler ekleyebilir. Ayrımcı zararsızlığı güvence altına almak için, veri örneğinin optimal kaynak bütünlüğü olmalıdır. Bu, veri toplama süreçlerinin uygun, güvenilir ve tarafsız ölçüm kaynakları ve güçlü toplama yöntemleri içerdiğinden emin olmak anlamına gelir.
• Zamansallık ve Tazelik: Veri kümeleri, eski verileri içeriyorsa, temel veri dağılımındaki değişiklikler, eğitilen modelin genelleme yeteneğini olumsuz etkileyebilir. Bu dağılım kaymaları, sosyal ilişkiler veya grup dinamiklerindeki değişiklikleri yansıtıyorsa, altta yayan nüfusun gerçek özelliklerine ilişkin doğruluğun kaybı, AI sistemine önyargı getirebilir. Ayrımcı sonuçları önlemek için, veri kümesinin tüm unsurlarının zamansallığı ve tazeliliği dikkatlice incelenmelidir.
• İlgililik, Uygunluk ve Alan Bilgisi: En uygun veri kaynakları ve türlerinin seçiminde, güçlü ve önyargısız bir AI sistemi oluşturmak için çok önemlidir. Altta yatan nüfus dağılımı ve projenin öngörme amacına ilişkin sağlam alan bilgisi, tanımlanan çözümü makul bir şekilde çözmeye katkıda bulunan ilgili ölçüm girişlerini seçmede çok önemlidir. Alan uzmanları, veri bilimcileri ile yakın işbirliği içinde, en uygun kategorileri ve ölçüm kaynaklarını belirlemelerine yardımcı olmalıdır.

AI tabanlı sistemler, karar verme süreçlerinin otomasyonunda ve maliyet tasarrufu sağlama konusunda yardımcı olurken, AI’yi bir çözüm olarak değerlendiren finansal kurumlar, önyargılı kararların verilmediğinden emin olmak için dikkatli olmalıdır. Uyum liderleri, AI yeteneklerinin sorumlu, etkili ve önyargısız olduğunu doğrulamak için veri bilim ekibi ile birlikte çalışmalıdır. Sorumlu AI’yi destekleyen bir strateji, doğru şey yapmaktır ve gelecekteki AI düzenlemelerine uyum sağlamak için bir yol olabilir.