Duygu Tanıma AI’si Geliştirirken Etik Değerlendirmeler

Duygu düzenleme için yapay zeka, makine öğrenimi alanındaki son teknolojik ilerlemelerden biridir. Büyük potansiyel göstermesine rağmen, etik sorunlar benimsenme oranını ve uzun ömrünü etkilemeye hazırlar. AI geliştiricileri bunları aşabilir mi?

Duygu Tanıma AI’si Nedir?

Duygu tanıma AI’si, bir tür makine öğrenimi modelidir. Genellikle yüz ifadelerini yakalayan ve analiz eden bilgisayar vizyonu teknolojisine dayanır ve görüntülerde ve videolarda duyguları çözme için kullanılır. Ancak, ses parçalarını analiz ederek ses tonunu belirlemek veya yazılı metni analiz ederek dilin duygusunu değerlendirmek için de kullanılabilir.

Bu tür algoritmalar, AI alanındaki ilginç bir ilerlemeyi temsil eder, çünkü şimdiye kadar modeller insan duygularını anlamakta başarısız olmuştur. Büyük dil modelleri gibi ChatGPT, duyguları ve kişilikleri ikna edici bir şekilde simüle edebilir, ancak sadece mantıksal olarak kelimeleri birleştirebilir – hiçbir şey hissetmezler ve duygusal zeka göstermezler.Duygu tanıma modeli duygulara sahip olmasa da, onları tespit edebilir ve kataloglayabilir. Bu gelişme önemlidir, çünkü AI’nin gerçekten mutluluk, üzüntü veya öfke gibi duyguları anlamak ve göstermek için yakın zamanda yeterli olabileceğini gösterir. Bu teknolojik atılımlar, hızlanan ilerlemeyi gösterir.

Duygu Tanıma AI’si için Kullanım Örnekleri

İşletmeler, eğitimciler, danışmanlar ve ruh sağlığı uzmanları, duygu tanıma için AI kullanabilecek gruplardan bazılarıdır.

Ofiste Risk Değerlendirmesi

İnsan kaynakları ekipleri, e-posta yazışmaları veya uygulama içi sohbetlerde duygusal analiz melakukan için algoritmaları kullanabilir. Alternatif olarak, onları gözetim veya bilgisayar vizyonu sistemlerine entegre edebilirler. Kullanıcılar, duyguları izleyerek personel devir hızı, yanma oranı ve personel memnuniyeti gibi metrikleri hesaplayabilir.

Müşteri Hizmeti Ajanlarına Yardım

Perakendeciler, son kullanıcılar için AI müşteri hizmeti ajanlarını veya sanal asistanları yüksek stresli durumları çözmek için kullanabilir. Modelinin duyguları tanıyabilmesi nedeniyle, bir tüketicinin öfkelendiğini fark ettiğinde sakinleştirme teknikleri önerebilir veya tonunu değiştirebilir. Bu karşı önlemler, müşteri memnuniyetini ve sadakatini artırabilir.

Sınıfta Öğrencilere Yardım

Eğitimciler, uzaktan öğrenenlerin geri kalmaması için bu AI’yi kullanabilir. Bir startup, öğrencilerin yüzlerindeki kas noktalarını ölçmek ve hızlarını ve notlarını kataloglamak için already aracı kullanmıştır. Bu yöntem, onların duygularını, motivasyonlarını, güçlerini ve zayıflıklarını belirler. Startup’ın kurucusu, yazılımları kullandıklarında testlerde %10 daha yüksek puan aldıklarını iddia etmektedir.

İç Pazar Araştırması

İşletmeler, hedef kitlesinin ürünlerine, hizmetlerine veya pazarlama materyallerine nasıl tepki verdiğini anlamak için duygu tanıma modeli kullanarak iç pazar araştırması yapabilir. Bu, onlara değerli veri tabanlı içgörüler sağlar ve zaman içinde pazara sürme süresini hızlandırabilir ve gelirlerini artırabilir.

Duyguları Tespit Etmek için AI Kullanmanın Sorunu

Araştırmalar, doğruluğun eğitim bilgilerine bağlı olduğunu gösteriyor. Bir araştırma grubu, duyguları görüntülerden çözmeye çalışırken, modelinin Japon Kadın Yüz İfadeleri veri setinde %92,05’lik bir doğruluk ve Genişletilmiş Cohn-Kanade veri setinde %98,13’lük bir doğruluk elde etti.

%92 ve %98 arasındaki fark küçük görünse de önemlidir – bu küçük farklılık önemli sonuçlar doğurabilir. Örneğin, veri zehirlenme oranı %0,001 gibi düşük bir oran, model arka kapıları oluşturmak veya kasıtlı olarak yanlış sınıflandırmalar yapmak için etkili olabilir. Hatta bir yüzdelik fark bile önemlidir.

Ayrıca, çalışmalar umut verici görünse de, bunlar kontrolsüz ortamlarda yapılır. Gerçek dünyada, bulanık görüntüler, sahte yüz ifadeleri, kötü açılardan çekilen fotoğraflar ve ince duygular daha yaygın olduğu için AI tutarlı bir şekilde çalışmayabilir.

Duygu Tanıma AI’sinin Güncel Durumu

Algoritmik duygu analizi, metnin tonunun olumlu, nötr veya olumsuz olup olmadığını belirlemek için bir algoritma kullanma sürecidir. Bu teknoloji, modern duygu tanıma modellerinin temeli olarak kabul edilebilir, çünkü algoritmik duygu değerlendirmeleri için yol açmıştır. Benzer teknolojiler gibi yüz tanıma yazılımları da ilerlemeye katkıda bulunmuştur.

Bugünün algoritmaları, mutluluk, üzüntü, öfke, korku ve şaşkınlık gibi basit duyguları çeşitli doğruluk derecelerinde tespit edebilir. Bu yüz ifadeleri doğuştan ve evrensel olarak anlaşılırdır, bu nedenle AI’nin bunları tanıması nispeten kolaydır.

Ayrıca, temel yüz ifadeleri genellikle abartılıdır. İnsanlar öfkelendiğinde kaşlarını çatar, üzüldüğünde suratını asar, mutlu olduğunda gülümser ve şoke olduğunda gözlerini genişletir. Bu basit, dramatik ifadeleri ayırt etmek kolaydır. Daha karmaşık duygular ise daha zor tespit edilir, çünkü ya ince ya da temel yüz ifadelerinin bir kombinasyonudur.

Bu AI alt kümesi büyük ölçüde araştırma ve geliştirme aşamasında kaldığı için, henüz özlem, utanç, yas, kıskançlık, rahatlama veya karışıklık gibi karmaşık duyguları kapsamamıştır. Bunları daha sonra kapsayabileceği muhtemeldir, ancak hepsini yorumlayabileceği garantisi yoktur.

Gerçekte, algoritmalar insanlarla yarışamayabilir. Örneğin, OpenAI’nin GPT-4 veri seti yaklaşık 1 petabayt iken, bir insan beyninin tek bir kübik milimetrelik bölümü yaklaşık 1,4 petabayt veri içerir. Nörologlar, beynin duyguları nasıl algıladığını tam olarak anlamakta zorlanıyorlar, bu nedenle çok precisa bir AI oluşturmak imkansız olabilir.

Bu teknolojinin duygu tanıma için kullanılması önceliği vardır, ancak bu alan hala teknik olarak bebeklik aşamasındadır. Kavram hakkında çok fazla araştırma vardır, ancak büyük ölçekli dağıtım örnekleri azdır. Bazı işaretler, benimseme hızının düşük olmasının nedeninin doğruluk tutarlılığı ve etik sorunlar konusunda endişeler olabileceğini gösteriyor.

AI Geliştiricileri için Etik Değerlendirmeler

Bir anket göre, katılımcıların %67’si AI’nin daha fazla düzenlenmesini gerektiğini düşünüyor. İnsanların endişelerini gidermek için geliştiricilerin önyargıları en aza indirmeleri, modellerinin beklenen şekilde davranmasını sağlamaları ve sonuçları iyileştirmeleri gerekiyor. Bu çözümler, etik değerlendirmeleri geliştirme aşamasında önceliklendirdiklerinde mümkündür.

1. İzinsiz Veri Toplama ve Kullanımı

Rıza, AI düzenlemelerinin arttığı bir çağda her şeydir. Çalışanlar yüz ifadelerinin bilinçsizce kataloglandığını keşfederse ne olur? Ebeveynlerin, eğitim odaklı duygu analizine izin vermesi gerekiyor mu, yoksa öğrenciler kendileri için karar verebilir mi?

Geliştiricilerin, modelin hangi bilgileri topladığını, ne zaman çalışacağını, analizlerin ne için kullanılacağını ve kimin bu ayrıntılara erişebileceğini açıkça açıklamaları gerekiyor. Ayrıca, bireylerin izinlerini özelleştirebilmeleri için çıkma özelliklerini eklemeliler.

2. Anonim Duygu Analizi Çıktısı

Veri anonimleştirme, hem bir gizlilik sorunu hem de bir güvenlik sorunudur. Geliştiricilerin topladıkları duygu bilgilerini ilgili bireyleri korumak için anonimleştirmeleri gerekiyor. En azından, dinlenme sırasında şifrelemeyi güçlü bir şekilde dikkate almalılar.

3. İnsan-Merkezli Karar Verme

AI’yi bir kişinin duygusal durumunu belirlemek için kullanmanın tek nedeni, karar vermeyi bilgilendirmektir. Bu, ruh sağlığı kapasitesinde veya perakende ortamında kullanılırsa, insanları etkileyecektir. Geliştiricilerin, beklenmeyen davranışları en aza indirmek için insan-merkezli önlemleri kullanmaları gerekiyor.

4. AI Çıktısı için İnsan-Merkezli Geri Bildirim

Hatta bir algoritmanın neredeyse %100 doğruluk payı olsa da, yanlış pozitifler üretecektir. Modellerin %50 veya %70’lik doğruluk oranlarına ulaşabildiğini ve önyargı veya hayal gücü sorunlarını dikkate almadığını düşünürsek, geliştiricilerin bir geri bildirim sistemi uygulamayı düşünmeleri gerekiyor.

İnsanların, AI’nin duygusal durumları hakkında neler dediğini gözden geçirebilmeleri ve yanlış olduğunu düşünüyorlarsa itiraz edebilmeleri gerekiyor. Böyle bir sistemin, hesap verebilirlik önlemleri ve koruma gerektireceği doğrudur, ancak yanlış çıktının olumsuz etkilerini en aza indirecektir.

Etik Kuralları Ihmal Etmenin Sonuçları

Etik değerlendirmeleri, AI mühendisleri, makine öğrenimi geliştiricileri ve iş sahipleri için öncelikli olmalıdır, çünkü onları etkiler. Kamuoyunun giderek daha fazla güvensiz hale geldiği ve düzenlemelerin sıkılaştığı düşünüldüğünde, etik kuralları ihmal etmenin sonuçları önemli olabilir.