Endüstriler Hızlı AI Benimsenmeye Hazırlanırken, Yeni Odak Etik ve Sorumluluk Üzerine

By: Pandurang Kamat, Persistent Systems’in CTO’su

Yapay zeka (AI) temelde makine öğrenimi (ML) sürecidir ve makinelerin veri girişlerine dayanarak performanslarını iyileştirmeyi öğrenmelerini sağlar. Bugün mevcut olan büyük miktarda veri, AI’ın gelişmesi için uygun bir zemin sunmuş ve son birkaç yılda hızla ilerlemiştir. AI’ın vaatleri, teknoloji ve yöneticilerin çeşitli uygulamalar hakkında yaratıcı düşünmesini sağlamıştır.

Endüstri devriminden bu yana, hızlı teknolojik ilerlemenin her dönemi eşit ölçüde coşku ve endişeyle karakterizedir. World Wide Web Consortium (W3C), web geliştirici endüstri standartları oluşturan bir grup, “makine öğreniminin uygulanmasının riskler oluşturabileceğini ve zarara neden olabileceğini” belirtmiştir – örneğin; yanlılık, gizlilik, güvenlik, sürdürülebilirlik ve genel sorumluluk alanlarında.

“Etik bir ML yaklaşımına yönelik açık bir talep var, sivil toplumdan aktivizm, dünya çapında yaklaşık 100 küresel etik AI ilkelerinin ortaya çıkması ve hükümetlerin AI’ı düzenleme hareketleri aracılığıyla görüldüğü gibi” grup yazdı. “Eğer teknolojiler, içinde çalıştıkları toplumların değerleriyle uyumlu değilse, onları zayıflatabilirler.”

Seçimi Dikkatli Yapın

Yüzeyde, artan hız ve çıktı için kötü bir şey olduğunu söylemek zor. Ancak bazı endüstriler için, bazıları tarafından algoritmaya bırakılmaması gereken bir karar verme süreci var. En büyük endüstrilere bakıldığında, makine hatasına karşı ne kadar savunmasız olduğumuz ve sorumlu AI’ın neden bu kadar önemli olduğu görülebilir.

Bankacılık, Finansal Hizmetler ve Sigorta (BFSI)

Dünya Ekonomik Forumu (WEF) ve Deloitte, BFSI şirketlerinde AI’ı dağıtmayı inceledi ve “AI’ın büyük miktarda bilgiyi işleyerek yararlı iş içgörülerine yardımcı olabileceğini” ancak “AI’ın yabancı bir kavram” olacağını ve ciddi risklerin kaynağı olacağını belirtti.

“AI, insan gibi düşünmez” raporda denildi. “AI sistemleri, insan mantığının yapılarını takip etmez ve aynı görevi verilen insan aktörlerden farklı davranır. Ayrıca, AI sistemlerinin kendi kendine öğrenme özelliği, bilinmeyen değişkenlere dayalı beklenmedik sonuçlara yol açabilir.”
Sorumlu AI savunucuları, makine öğreniminin, otomatik risk puanlaması, kredi ve kredi kararları gibi konularda ciddi sorunlara neden olabileceğini iddia ediyor – bu kararlar tarihsel olarak belirli demografik gruplara karşı önyargılıdır. Recent çalışmalar, AI tabanlı karar motorları kullanan kredilerin, bazı durumlarda siyah adayların %80’inin reddedilme olasılığı daha yüksek olduğunu göstermiştir.

Sağlık Hizmetleri

Birkaç yıl önce, Amerikan Tıp Derneği Dergisi (JAMA), sağlık hizmetlerinde AI’ın benimsenmesini inceledi ve zorlukların banyak olduğunu, “gerçekçi olmayan beklentiler, yanlı ve temsil edilmeyen veriler, eşitlik ve kapsayıcılığın yetersiz önceliklendirilmesi, sağlık hizmetleri farklılıklarının artma riski, düşük düzeyde güven ve belirsiz düzenleyici ortamlar” olduğunu belirtti.

Tam olarak bir onay değil, ancak sağlık hizmetlerinde sorumlu AI için daha yüksek bir standart var, özellikle AI’ın literal yaşam veya ölüm potansiyeli düşünüldüğünde. Genel olarak, sağlık profesyonelleri, AI’ın geleceği hakkında iyimser ancak temkinli davranıyorlar ve diğer uygulamaları AI’ın klinik ortamda kullanımını öğretmeye ve sorumlu bir şekilde ilerlemeyi sağlayacak rehberler oluşturmaya odaklanıyorlar.

Medya

PwC’ye göre, AI 2030 yılına kadar 15,7 trilyon dolarlık küresel ekonomik büyümeye katkıda bulunacak, ancak Salesforce’e göre müşterilerin yalnızca %48’i şirketlerin AI’ı etik olarak kullanacağına güveniyor ve %65’i AI’ın etik dışı kullanımından endişe ediyor. Kâr ve güvenin kesişim noktasında, büyük etki ve ulaşım gücü olan medya şirketleri var. AI’ın “kur ve unut” uygulaması olmadığı konusunda endişeler var, yani medya şirketlerinin sorumluluğu yalnızca içerik üretimiyle sınırlı değil, aynı zamanda içeriğin devam eden izlenmesi.