Yapay Zekadaki Önyargıları Ortadan Kaldırmak: Zorluklar ve Çözümler

Son zamanlarda yapay zeka teknolojisinin gelişmesiyle birlikte, finans, sağlık, ulaşım gibi sektörlerde şirket uygulamalarında bir patlama yaşandı. Bu teknolojinin gelişmesi, siber güvenlik savunma teknolojileri, kuantum hesaplama gelişmeleri ve devrim niteliğinde kablosuz iletişim tekniklerinin de gelişmesine yol açacak. Ancak bu yeni nesil teknolojilerin patlaması, kendi sorunlarını da beraberinde getiriyor.

Örneğin, yapay zekanın benimsenmesi, daha sofistike siber saldırılar, artan hesaplama gücü nedeniyle bellek ve depolama tıkanıklıkları ve yapay zeka modelleri tarafından sunulan önyargıların etik endişelerine neden olabilir. İyi haber, NTT Araştırma’nın yapay zeka’da önyargıları aşmak için bir yol önermiş olması.

Bu araştırma, önyargılı olmayan yapay zeka modellerinin, işe alım, ceza adaleti sistemi ve sağlık gibi alanlarda ırk, cinsiyet gibi özelliklerden etkilenmediğinde önemli bir atılımdır. Gelecekte, bu tür otomatik sistemlerin kullanılmasıyla ayrımcılık ortadan kaldırılabilir ve endüstri genelinde DE&I iş girişimleri verbessirilebilir. Ayrıca, önyargılı olmayan yapay zeka modelleri, verimliliği artırabilir ve bu görevleri tamamlamak için gereken süreyi azaltabilir. Ancak, bazı şirketler, teknolojinin önyargılı çözümleri nedeniyle yapay zeka üretimi programlarını durdurmak zorunda kaldı.

Örneğin, Amazon, bir işe alım algoritması kullanmayı bıraktı çünkü algoritma, daha sık “yürütme” veya “ele geçirme” gibi kelimeleri kullanan adayları tercih ediyordu ve bu kelimeler daha çok erkeklerin özgeçmişlerinde görülüyordu. Bir başka önyargı örneği, 2023’te TIME dergisinin en etkili insanları listesinde yer alan Joy Buolamwini ve MIT’den Timnit Gebru, yüz analizi teknolojilerinin, özellikle kadın azınlıkların yüzlerini analiz ederken daha yüksek hata oranlarına sahip olduğunu ortaya koydu.

Son zamanlarda, derin sinir ağları (DNN’ler) bilim, mühendislik ve iş gibi alanlarda yaygınlaştı ve bazen önyargılı olabilecek geçici özelliklere dayanabilir. Bir MIT çalışması, son yıllarda bilim insanlarının, sesler ve görüntüler gibi büyük miktarda girdi analiz edebilen derin sinir ağları geliştirdiğini gösterdi. Bu ağlar, ortak özellikler tanımlayabilir ve hedef kelimeleri veya nesneleri sınıflandırabilir. Şu anda, bu modeller, biyolojik duyusal sistemleri taklit etmede ön plandadır.

NTT Araştırma Baş Bilim İnsanı ve Harvard Üniversitesi Beyin Bilimi Merkezi’nde Araştırma Görevlisi Hidenori Tanaka ve üç diğer bilim insanı, bir derin sinir ağı modelinin önyargılı özelliklere dayanma oranını azaltmak için yeni bir algoritma önerdi.

Araştırmacılar, sinir ağlarının kaybı manzaralarını, bağlantı modu lensi aracılığıyla incelediler; yani, bir veri kümesiyle eğitilen sinir ağlarının minimizatörlerinin basit yollarla birbirine bağlı olduğunu gözlemlediler. Özellikle, farklı mekanizmalar kullanarak tahminlerde bulunan minimizatörlerin, basit yollarla birbirine bağlı olup olmadığını sordu.

Buldukları şey, saf fine-tuning’in bir modelin karar alma mekanizmasını temel olarak değiştiremeyeceği ve bunun için düşük kaybın “vadileri” veya “havzaları” ayıran engelleri aşmak gerektiğini gösterdi. Araştırmacılar, bu düzeltici algoritmayı Bağlantı Tabanlı Fine-Tuning (CBFT) olarak adlandırdı.

Önceki gelişmelere kadar, bir DNN, bir nesneyi (bu çalışmada kullanılan bir resim) sınıflandırmak için hem nesne şeklini hem de arka planı girdi parametreleri olarak kullanıyordu. Kaybı minimize eden yolları, mekanik olarak farklı modlarda çalışacaktı: biri şekil gibi meşru bir özelliğe, diğeri ise arka plan rengi gibi sahte bir özelliğe dayanacaktı. Dolayısıyla, bu modlar lineer olarak bağlı olmayacaktı.

Araştırmacılar, mekanik lensli bağlantı modunu, arka plan ve nesne şekli gibi girdileri kullanarak kaybı minimize eden iki parametre kümesini dikkate alarak anladı. Ardından, bu mekanik olarak farklı minimizatörlerin, düşük kaybın yollarıyla birbirine bağlı olup olmadığını sordu. Bu mekanizmaların farklılığı, bağlantı yollarının basitliğini etkiler mi? Bu bağlantılılığı, istenilen mekanizmaları kullanan minimizatörler arasında geçiş yapmak için kullanabilir miyiz?

Diğer bir deyişle, derin sinir ağları, belirli bir veri kümesiyle eğitildikten sonra, başka bir veri kümesiyle test edildiğinde çok farklı davranabilir. Ekibin önerisi, paylaşılan benzerlik kavramına dayanıyordu. Önceki bağlantı modu fikrine dayanıyordu, ancak bir farklılık vardı – benzer mekanizmaların nasıl çalıştığını dikkate alıyordu. Araştırmaları, aşağıdaki göz açıcı keşiflere yol açtı:

• farklı mekanizmalara sahip minimizatörler, karmaşık, lineer olmayan bir şekilde bağlantılı olabilir
• iki minimizatör lineer olarak bağlantılı olduğunda, bu, mekanizmalarının benzerliğine yakından bağlıdır
• basit fine-tuning, önceki eğitim sırasında edinilen istenmeyen özelliklerden kurtulmaya yetmeyebilir
• eğer manzara üzerinde lineer olarak bağlı olmayan bölgeler bulursanız, bir modelin iç işleyişinde verimli değişiklikler yapabilirsiniz.

Bu araştırma, yapay zekanın tam potansiyelini kullanmak için önemli bir adımdır, ancak yapay zeka etrafındaki etik endişeler hala bir yukarı mücadeledir. Teknoloji uzmanları ve araştırmacılar, yapay zeka ve diğer büyük dil modellerindeki diğer etik zayıflıkları, örneğin gizlilik, otonomi, sorumluluk gibi konuları ele almaya çalışıyorlar.

Yapay zeka, büyük miktarda kişisel veri toplamak ve işlemek için kullanılabilir. Bu verilerin yetkisiz veya etik dışı kullanımı, bireylerin gizliliğini tehlikeye atabilir ve gözetim, veri ihlali ve kimlik hırsızlığı endişelerine neden olabilir. Yapay zeka, özerk uygulamaları olan self-sürüş arabaları gibi durumlarda da bir tehdit oluşturabilir. Sorumluluk ve hesap verebilirlik için yasal çerçeveler ve etik standartlar oluşturmak önümüzdeki yıllarda çok önemlidir.

SONUÇ olarak, yapay zeka teknolojisinin hızlı büyümesi, finans, sağlık ve ulaşım gibi çeşitli sektörler için umut vaat ediyor. Ancak, yapay zeka etrafındaki etik endişeler hala önemli. Bu dönüşümsel yapay zeka dönemini gezinirken, teknoloji uzmanları, araştırmacılar ve politika yapıcıların birlikte çalışarak, yapay zeka teknolojisini gelecekte sorumlu ve faydalı bir şekilde kullanmayı sağlamak için yasal çerçeveler ve etik standartlar oluşturması çok önemlidir. NTT Araştırma ve Michigan Üniversitesi’nden bilim insanları, yapay zeka’da önyargıları ortadan kaldırabilecek bir algoritma önerisiyle oyunun bir adım önünde.