Duygu Tanıma için Yapay Zeka Geliştirirken Etik Hususlar

Duygu düzenlemeye yönelik yapay zeka, makine öğrenimi alanındaki en son teknolojik gelişmelerden biridir. Büyük bir potansiyel göstermesine rağmen, etik sorunların benimsenme oranını ve ömrünü etkilemesi bekleniyor. Yapay zeka geliştiricileri bunların üstesinden gelebilir mi? 

Duygu Tanıma Yapay Zekası Nedir? 

Duygu tanıma yapay zekası bir tür makine öğrenme modelidir. Görüntü ve videolardaki ruh hallerini çözmek için genellikle yüz ifadelerini yakalayan ve analiz eden bilgisayarlı görüntü teknolojisine dayanır. Bununla birlikte, sesin tonunu belirlemek için ses parçacıkları veya dilin duygusunu değerlendirmek için yazılı metin üzerinde de çalışabilir.

Bu tür bir algoritma yapay zeka alanında büyüleyici bir ilerlemeyi temsil ediyor çünkü modeller şu ana kadar insan duygularını anlayamamıştı. ChatGPT gibi büyük dil modelleri, ruh hallerini ve kişileri ikna edici bir şekilde simüle edebilse de, yalnızca kelimeleri mantıksal olarak bir araya getirebilirler; hiçbir şey hissedemezler ve duygusal zeka göstermezler. Bir duygu tanıma modeli, duyguları sahiplenmekten aciz olsa da, yine de onları tespit edip kataloglayabilir. Bu gelişme önemlidir çünkü yapay zekanın yakında mutluluğu, üzüntüyü veya öfkeyi gerçekten anlayıp gösterebileceğinin sinyalini vermektedir. Bu gibi teknolojik sıçramalar ilerlemenin hızlandığını gösteriyor.

Yapay Zeka Duygu Tanıma için Kullanım Örnekleri

İşletmeler, eğitimciler, danışmanlar ve ruh sağlığı uzmanları, duygu tanıma için yapay zekayı kullanabilen gruplardan bazılarıdır.

Ofiste Riskin Değerlendirilmesi

İnsan kaynakları ekipleri, ekip üyeleri arasındaki e-posta yazışmaları veya uygulama içi sohbetler hakkında duyarlılık analizi yapmak için algoritmalar kullanabilir. Alternatif olarak algoritmalarını gözetim veya bilgisayarlı görüş sistemlerine entegre edebilirler. Kullanıcılar, işten ayrılma riski, tükenmişlik oranı ve çalışan memnuniyeti gibi ölçümleri hesaplamak için ruh halini takip edebilir.

Müşteri Hizmetleri Temsilcilerine Yardımcı Olmak

Perakendeciler, yüksek stresli durumları çözmek için son kullanıcılar için şirket içi AI müşteri hizmetleri temsilcilerini veya sanal asistanları kullanabilir. Modelleri ruh halini tanıyabildiğinden, gerilimi azaltma teknikleri önerebiliyor veya tüketicinin sinirlendiğini fark ettiğinde ses tonunu değiştirebiliyor. Bunun gibi karşı önlemler müşteri memnuniyetini ve müşteriyi elde tutmayı artırabilir. 

Sınıfta Öğrencilere Yardımcı Olmak

Eğitimciler bu yapay zekayı uzaktan öğrencilerin geride kalmasını önlemek için kullanabilir. Yeni kurulan bir şirket, öğrencilerin hızlarını ve notlarını kataloglarken yüzlerindeki kas noktalarını ölçmek için bu aracı zaten kullandı. Bu yöntem onların ruh hallerini, motivasyonlarını, güçlü ve zayıf yönlerini belirler. Startup'ın kurucusu %10 daha yüksek puan aldıklarını iddia ediyor Yazılımı kullanırken yapılan testlerde.

Kurum İçi Pazar Araştırması Yapmak 

İşletmeler duygu tanıma modelini kullanarak kurum içi pazar araştırması yapabilir. Hedef kitlelerinin ürünlerine, hizmetlerine veya pazarlama materyallerine nasıl tepki verdiğini tam olarak anlamalarına yardımcı olabilir ve onlara veriye dayalı değerli bilgiler sağlayabilir. Sonuç olarak pazara çıkış süresini hızlandırabilir ve gelirlerini artırabilirler. 

Duyguları Tespit Etmek İçin Yapay Zeka Kullanmanın Sorunu

Araştırmalar doğruluğun büyük ölçüde eğitim bilgilerine bağlı olduğunu öne sürüyor. Duyguları görüntülerden çözmeye çalışan bir araştırma grubu, modellerini oluşturduğunda bu kavramı anekdotsal olarak kanıtladı. %92.05 doğruluk elde etti Japon Kadın Yüz İfadesi veri kümesinde ve Genişletilmiş Cohn-Kanade veri kümesinde %98.13 doğrulukla.

%92 ile %98 arasındaki fark önemsiz gibi görünse de önemlidir; bu küçük farkın önemli sonuçları olabilir. Referans olarak, bir veri kümesi zehirlenme oranı 0.001% kadar düşük model arka kapılar oluşturmada veya kasıtlı olarak yanlış sınıflandırmalara neden olmada etkili olduğu kanıtlanmıştır. Yüzdenin çok küçük bir kısmı bile önemli.

Dahası, çalışmalar umut verici görünse de (yüzde 90'ın üzerindeki doğruluk oranları potansiyeli gösteriyor) araştırmacılar bunları kontrollü ortamlarda yürütüyor. Gerçek dünyada bulanık görüntüler, sahte yüz ifadeleri, kötü açılar ve incelikli hisler çok daha yaygın. Başka bir deyişle yapay zeka tutarlı bir performans sergileyemeyebilir.

Duygu Tanıma Yapay Zekasının Mevcut Durumu

Algoritmik duygu analizi, metnin tonunun olumlu, nötr veya olumsuz olup olmadığını belirlemek için bir algoritma kullanma işlemidir. Bu teknoloji, algoritmik ruh hali değerlendirmelerinin önünü açtığından, modern duygu algılama modellerinin tartışmasız temelidir. Yüz tanıma yazılımı gibi benzer teknolojiler de ilerlemeye katkıda bulundu. 

Günümüzün algoritmaları öncelikle yalnızca mutluluk, üzüntü, öfke, korku ve şaşkınlık gibi basit ruh hallerini değişen doğruluk dereceleriyle tespit edebiliyor. Bu yüz ifadeleri doğuştan ve evrenseldir; yani doğaldırlar ve küresel olarak anlaşılırlar; dolayısıyla yapay zekayı bunları tanımlayacak şekilde eğitmek nispeten basittir. 

Üstelik temel yüz ifadeleri sıklıkla abartılıyor. İnsanlar sinirlendiklerinde kaşlarını çatarlar, üzgün olduklarında kaşlarını çatarlar, mutlu olduklarında gülümserler ve şok olduklarında gözlerini açarlar. Bu basit, dramatik görünümlerin ayırt edilmesi kolaydır. Daha karmaşık duyguların tam olarak belirlenmesi daha zordur çünkü ya incelikli olurlar ya da temel yüz ifadelerini birleştirirler.

Yapay zekanın bu alt kümesi büyük ölçüde araştırma ve geliştirme aşamasında kaldığı için özlem, utanç, keder, kıskançlık, rahatlama veya kafa karışıklığı gibi karmaşık duyguları kapsayacak şekilde ilerlememiştir. İlerde muhtemelen daha fazlasını kapsayacak olsa da hepsini yorumlayabileceğinin garantisi yok.

Gerçekte algoritmalar hiçbir zaman insanlarla rekabet edemeyebilir. Referans olması açısından OpenAI'nin GPT-4 veri kümesi yaklaşık 1 petabayttırİnsan beyninin tek bir milimetreküpü yaklaşık 1.4 petabayt veri içerir. Onlarca yıl süren araştırmalara rağmen sinir bilimciler beynin duyguları nasıl algıladığını tam olarak kavrayamıyorlar, bu nedenle son derece hassas bir yapay zeka oluşturmak imkansız olabilir.

Bu teknolojiyi duygu tanıma için kullanmanın emsali olmasına rağmen, bu alan teknik olarak henüz emekleme aşamasındadır. Konsept üzerine çok sayıda araştırma var, ancak büyük ölçekli konuşlandırmanın gerçek dünyadan çok az örneği var. Bazı işaretler, benimsenmedeki gecikmenin tutarsız doğruluk ve etik sorunlarla ilgili endişelerden kaynaklanabileceğini gösteriyor.

Yapay Zeka Geliştiricileri için Etik Hususlar

Bir ankete göre, Yanıt verenlerin %67'si aynı fikirde Yapay zeka bir şekilde veya çok daha fazla düzenlenmelidir. İnsanların içini rahatlatmak için geliştiricilerin önyargıyı en aza indirmesi, modellerinin beklendiği gibi davranmasını sağlaması ve sonuçları iyileştirmesi gerekiyor. Bu çözümler, geliştirme sırasında etik hususların ön planda tutulması durumunda mümkündür.

1. Rızaya Dayalı Veri Toplama ve Kullanma 

Yapay zeka düzenlemelerinin arttığı bir çağda rıza her şeydir. Çalışanlar yüz ifadelerinin bilgileri dışında kataloglandığını fark ederse ne olur? Ebeveynlerin eğitime dayalı duygu analizini imzalaması gerekiyor mu, yoksa öğrenciler kendileri karar verebilir mi?

Geliştiriciler, modelin hangi bilgileri toplayacağını, ne zaman faaliyete geçeceğini, analizin ne için kullanılacağını ve bu ayrıntılara kimlerin erişebileceğini açıkça açıklamalıdır. Ek olarak, bireylerin izinleri özelleştirebilmesi için devre dışı bırakma özelliklerini de içermelidirler. 

2. Anonimleştirilmiş Duygu Analizi Çıktısı 

Verilerin anonimleştirilmesi bir güvenlik sorunu olduğu kadar bir gizlilik sorunudur. Geliştiricilerin, ilgili kişileri korumak için topladıkları duygu bilgilerini anonimleştirmeleri gerekir. En azından, atıl durumdaki şifrelemeden yararlanmayı şiddetle düşünmeliler. 

3. Döngüdeki İnsan Karar Verme

Birinin duygusal durumunu belirlemek için yapay zekayı kullanmanın tek nedeni, karar verme sürecini bilgilendirmektir. Bu nedenle, ister zihinsel sağlık alanında ister perakende satış ortamında kullanılsın, insanları etkileyecektir. Geliştiriciler beklenmedik davranışları en aza indirmek için döngüdeki insan korumalarından yararlanmalıdır. 

4. Yapay Zeka Çıktısı için İnsan Odaklı Geri Bildirim

Bir algoritma neredeyse %100 doğruluğa sahip olsa bile yine de yanlış pozitifler üretecektir. Modellerin %50 veya %70'e ulaşmasının alışılmadık bir durum olmadığını göz önünde bulundurarak (ve bu, önyargı veya halüsinasyon sorunlarına değinmeden), geliştiricilerin bir geri bildirim sistemi uygulamayı düşünmesi gerekir. 

İnsanlar yapay zekanın duygusal durumları hakkında söylediklerini gözden geçirebilmeli ve bunun yanlış olduğuna inanıyorlarsa itiraz edebilmeli. Böyle bir sistem korkuluklar ve hesap verebilirlik önlemleri gerektirse de, hatalı çıktılardan kaynaklanan olumsuz etkileri en aza indirecektir. 

Etiği Görmezden Gelmenin Sonuçları

Yapay zeka mühendisleri, makine öğrenimi geliştiricileri ve işletme sahipleri için etik hususlar bir öncelik olmalıdır çünkü bu onları etkilemektedir. Kamuoyunun giderek daha fazla güvensiz hale geldiği ve sıkılaşan düzenlemelerin söz konusu olduğu göz önüne alındığında, etiğin göz ardı edilmesinin sonuçları önemli olabilir.