Araştırmacılar Kötü Davranışları Önlemek Amacıyla Algoritmalar Geliştiriyorlar

Yapay zeka, şimdiye kadar gösterdiği tüm ilerlemeler ve avantajlara rağmen, ırksal ve cinsiyetçi önyargı gibi istenmeyen yan etkileri de raporladı. Bilim adamları, sciencealert.com tarafından sorulan “ileri düşünme sistemlerinin adil veya hatta güvenli olmasını nasıl sağlayabilirler?” sorusuna cevap arıyorlar.

Cevap, Stanford ve Massachusetts Amherst Üniversitesi‘ndeki araştırmacıların Akıllı Makinelerin İstenmeyen Davranışlarını Önleme başlıklı raporunda olabilir. eurekaalert.org, bu rapor hakkında yazdığı yazıda, AI’nin artık duyarlı görevleri ele almaya başladığını ve “politika yapıcıların, bilgisayar bilimcilerin, otomatik sistemlerin istenmeyen sonuçları minimize etmek veya tamamen tránh etmek için tasarlandığını garanti etmelerini istediğini” belirtiyor.

Araştırmacıların sunduğu rapor, “bir makine öğrenimi algoritmasının, AI uygulamalarını belirli bir davranıştan kaçınmaya eğitmek için necessary olan kesin matematiksel kriterleri belirlemek amacıyla belirsiz bir hedefi, örneğin cinsiyetçi önyargıdan kaçınmayı, çevirme tekniğini açıklıyor.”

Amacın, Stanford Üniversitesi bilgisayar bilimi yardımcı profesörü ve makalenin kıdemli yazarı Emma Brunskill tarafından belirtildiği gibi, “insan kullanıcılarının değerlerine saygı gösteren ve otonom sistemlere verdiğimiz güveni hak eden AI’yi geliştirmek” olduğunu belirtti.

Fikir, “güvenli” veya “adil” olmayan sonuçları veya davranışları matematiksel olarak tanımlamaktı. Araştırmacılara göre, bu, “algoritmaların, istenmeyen sonuçları yüksek güvenle tránh etmek için veriden öğrenmesini mümkün kılacaktır.”

İkinci hedef, “kullanıcıların, kaçınmak istedikleri istenmeyen davranış türlerini belirtmelerini kolaylaştıran bir dizi tekniği geliştirmek ve makine öğrenimi tasarımcılarının, geçmiş veriler kullanılarak eğitilen bir sistemin gerçek dünya koşullarında güvenle uygulanabileceğini öngörmesini sağlamaktı.”

ScienceAlert, ekibin bu yeni sistemi  ‘Seldonian’ algoritmalar olarak adlandırdığını ve Philip Thomas, Massachusetts Amherst Üniversitesi‘nde bilgisayar bilimi yardımcı profesörü ve makalenin ilk yazarı olarak, “Eğer diyabet tedavisi için bir Seldonian algoritması kullanırsam, istenmeyen davranışın tehlikeli derecede düşük kan şekeri veya hipoglisemi anlamına geldiğini belirtebilirim” dedi.

“Makineye, ‘İnsülin pompasındaki kontrolörü iyileştirirken, hipoglisemi sıklığını artıran değişiklikler yapma’ diyebilirim. Çoğu algoritma, bu tür bir kısıtlamayı davranışa koymak için bir yol vermez; bu, ilk tasarımlarda dahil edilmedi.”

Thomas, “bu Seldonian çerçevenin, makine öğrenimi tasarımcılarının, algoritmaların davranıştan kaçınma talimatlarını kolayca inşa etmelerine olanak tanıyacağını ve eğitilen sistemlerin gerçek dünyada doğru bir şekilde çalışacağından emin olmak için olasılıklarını değerlendirmelerine yardımcı olacağını” belirtti.

Emma Brunskill de, “güvenlik ve adil gibi değerleri en iyi şekilde saygı gösteren algoritmalar oluşturmayı düşünmek, toplumun AI’ye giderek daha fazla güvendiği medida essential” dedi.