Düşünce Liderleri
Sektörler Hızlanan AI Kullanımına Hazırlanırken Etik ve Sorumluluk Yeniden Odakta

Öne çıkan noktalarBFSI'de yapay zeka, önyargıyı büyütme riski taşır; siyahi başvuru sahiplerinin konut…
Daha fazla göster
- BFSI'de yapay zeka, önyargıyı büyütme riski taşır; siyahi başvuru sahiplerinin konut kredisi reddedilme olasılığı %80 daha fazladır.
- Sağlık hizmetlerinde yapay zeka benimsenmesi, önyargılı veriler ve eşitsizlikleri kötüleştirme riski gibi zorluklarla karşı karşıyadır.
- Medya şirketleri, etik, gizlilik ve rekabet avantajını dengelemek için yapay zekayı dağıtım sonrası izlemelidir.
Yazar: Pandurang Kamat, Persistent Systems CTO’su (PERSISTENT.BO )
Yapay zeka (AI) temelde makine öğrenimi (ML) sürecidir ve makinelerin veri girişlerine dayanarak performanslarını iyileştirmeyi öğrenmelerini sağlar. Bugün mevcut olan büyük miktarda veri, AI’ın gelişmesi için uygun bir zemin sunmuş ve son birkaç yılda hızla ilerlemiştir. AI’ın vaatleri, farklı sektörlerdeki teknoloji uzmanları ve yöneticilerin çeşitli uygulamalar hakkında yaratıcı düşünmesini sağlamıştır.
Endüstri devriminden bu yana, hızlı teknolojik ilerlemenin her dönemi eşit ölçüde coşku ve endişeyle karakterizedir. World Wide Web Consortium (W3C), web geliştirici endüstri standartları oluşturan bir grup, “makine öğreniminin uygulanmasının riskler oluşturabileceğini ve zarara neden olabileceğini” belirtmiştir – örneğin; yanlılık, gizlilik, güvenlik, sürdürülebilirlik ve genel sorumluluk alanlarında.
“Etik bir ML yaklaşımına yönelik açık bir talep var, sivil toplumdan aktivizm, dünya çapında yaklaşık 100 etik AI ilkeleri kümesinin ortaya çıkması ve hükümetlerin AI’ı düzenleme hareketleri aracılığıyla görüldüğü gibi” grup yazdı. “Eğer teknolojiler, içinde çalıştıkları toplumların değerleriyle uyumlu değilse, onları zayıflatabilirler.”
Seçimi Dikkatli Yapın
Yüzeyde, artan hız ve çıktının işletmeler için kötü olduğunu söylemek zor. Ancak bazı endüstriler için, bazıları tarafından algoritmaya bırakılmaması gereken bir karar verme süreci var. En büyük endüstrilere bakıldığında, makine hatasına karşı ne kadar savunmasız olduğumuz ve sorumlu AI’ın neden bu kadar önemli olduğu görülebilir.
Bankacılık, Finansal Hizmetler ve Sigorta (BFSI)
Dünya Ekonomik Forumu (WEF) ve Deloitte, BFSI şirketlerinde AI’ı dağıtmayı inceledi ve “AI’ın büyük miktarda bilgiyi işleyerek yararlı iş içgörülerine yardımcı olabileceğini” ancak “AI’ın yabancı bir kavram” olacağını ve ciddi risklerin kaynağı olacağını belirtti.
“AI, insan gibi düşünmez” raporda denildi. “AI sistemleri, insan mantığının yapılarını takip etmez ve aynı görevi verilen insan aktörlerden farklı davranır. Ayrıca, AI sistemlerinin kendi kendine öğrenme özelliği, insan girdisi olmadan gelişmelerine olanak tanır; bu da bilinmeyen değişkenlere dayalı beklenmedik sonuçlara yol açabilir.”
Sorumlu AI savunucuları, makine öğreniminin, otomatik risk puanlaması, kredi ve kredi kararları gibi konularda ciddi sorunlara neden olabileceğini iddia ediyor – bu kararlar tarihsel olarak belirli demografik gruplara karşı önyargılıdır. Son çalışmalar, AI tabanlı karar motorları kullanan kredi verenlerin beyaz olmayan kişilerin konut kredilerini reddetmeye daha yatkın olduğunu göstermiştir; bazı durumlarda siyah başvuru sahiplerinin reddedilme olasılığı %80 daha yüksek olduğunu göstermiştir.
Sağlık Hizmetleri
Birkaç yıl önce, Amerikan Tıp Derneği Dergisi (JAMA), sağlık hizmetlerinde AI’ın benimsenmesini inceledi ve zorlukların çok sayıda olduğunu, “gerçekçi olmayan beklentiler, yanlı ve temsil edilmeyen veriler, eşitlik ve kapsayıcılığın yetersiz önceliklendirilmesi, sağlık hizmetleri farklılıklarının artma riski, düşük düzeyde güven ve belirsiz düzenleyici ortamlar” olduğunu belirtti.
Tam olarak bir onay değil, ancak sağlık hizmetlerinde sorumlu AI için daha yüksek bir standart var, özellikle AI’ın literal yaşam veya ölüm potansiyeli düşünüldüğünde. Genel olarak, sağlık profesyonelleri, AI’ın geleceği hakkında iyimser ancak temkinli davranıyorlar ve diğer sağlık çalışanlarına AI’ın klinik ortamda kullanımını öğretmeye ve tüm hastalara fayda sağlayacak biçimde sorumlu ilerlemeyi destekleyen rehberler oluşturmaya odaklanıyorlar.
Medya
PwC’ye göre, AI 2030 yılına kadar 15,7 trilyon dolarlık küresel ekonomik büyümeye katkıda bulunacak, ancak Salesforce’e göre (CRM ) müşterilerin yalnızca %48’i şirketlerin AI’ı etik olarak kullanacağına güveniyor ve %65’i AI’ın etik dışı kullanımından endişe ediyor. Kâr ve güvenin kesişim noktasında, geniş erişim ve etki gücü olan medya şirketleri var. AI’ın “kur ve unut” uygulaması olmadığı konusunda endişeler var, yani medya şirketlerinin sorumluluğu yalnızca içerik üretimiyle sınırlı değil, aynı zamanda içeriğin devam eden izlenmesi.
Reklamlar nasıl sunuluyor ve kişiselleştiriliyor? İçerik belirli bir kitleye nasıl ulaşıyor ve mesajı ne? AI’ya “nasıl” öğreneceğini kim öğretiyor? Gizliliğe saygı gösterirken belirli tüketiciler nasıl hedeflenebilir? Bunlar, medya şirketlerinin etik ile rekabet avantajı arasında denge kurarken karşılaştıkları sorulardan yalnızca bazıları.
Sorumluluğa Verilen Yanıt
Sorumlu AI geliştirmedeki ilerleme her gün görülüyor: yasa koyucular düzenlemeler hazırlıyor, tüketiciler daha fazla şeffaflık istiyor ve birçok şirket AI’nın uygun biçimde kullanılmasını sağlamakla görevli özel bölümler oluşturuyor. Şirketler, etik, şeffaflık, hesap verebilirlik, adalet, gizlilik ve güvenliği kapsayan iyi tanımlanmış bir sorumlu AI çerçevesine ihtiyaç duyuyor. Tartışmalar ve reformlar sürerken, MIT Sloan Management Review ile Boston Consulting Group’un yakın tarihli ortak çalışması basit bir genel rehberlik sunuyor: “Sorumlu bir AI lideri olmak istiyorsanız, sorumlu bir şirket olmaya odaklanın.”












