Yapay Zeka Mühendisleri Yanlış Bilgi Yayanların Niyetini Belirleyebilecek Yöntem Geliştirdi

Dijital çağda yanlış bilgiyle başa çıkmak karmaşık bir sorundur. Yanlış bilginin yalnızca belirlenmesi, etiketlenmesi ve düzeltilmesi değil, aynı zamanda bu iddiaları yapanların niyetinin de ayırt edilmesi gerekir. Bir kişi yanlış bilgiyi bilmeyerek yayabilir veya bir konuda görüşünü belirtiyor olabilir, ancak daha sonra bu görüş gerçeğin yanlış bir şekilde sunulması olarak rapor edilebilir. Dartmouth’ta bir grup yapay zeka araştırmacısı ve mühendisi, “sahte haber” raporlarından görüşü türetmek için kullanılabilen bir çerçeve geliştirdi.

ScienceDaily’nin bildirdiği üzere, Dartmouth ekibinin çalışması yakın zamanda Deneysel ve Teorik Yapay Zeka Dergisi’nde yayımlandı. Önceki çalışmalar sahte haberleri tanımlamaya ve aldatmacayla mücadele etmeye çalışırken, bu çalışma possibly ilk kez bir haber parçasındaki konuşmacının niyetini belirlemeyi amaçladı. Gerçek bir hikaye çeşitli aldatıcı formlara dönüştürülebilir, ancak aldatma niyetinin olup olmadığı ayırt edilmesi önemlidir. Araştırma ekibi, yanlış bilginin dikkate alınmasında niyetin önemli olduğunu savunuyor, çünkü aldatma yalnızca aldatma niyeti varsa mümkündür. Bir birey yanlış bilgi yaydığını fark etmediyse veya yalnızca bir konuda görüşünü belirtiyorsa, aldatma olamaz.

Dartmouth’un Thayer Mühendislik Okulu’nda mühendislik profesörü olan Eugene Santos Jr., ScienceDaily’ye neden modelinin aldatıcı niyeti ayırt etmeye çalıştığını açıkladı:

“Kasten dinleyicileri aldatma niyeti, kasıtsız hatalardan çok daha büyük bir tehdit oluşturur. Bilgimiz dahilinde, algoritmemiz hem aldatmayı hem de kötü niyetli eylemleri iyi niyetli eylemlerden ayıran tek yöntemdir.”

Modelini oluşturmak için araştırma ekibi, aldatıcı akıl yürütmenin özelliklerini analiz etti. Sonuçlanan algoritma, bir kişinin geçmişteki argümanlarıyla güncel ifadeleri arasındaki tutarsızlıklara odaklanarak, niyeti aldatma amacından diğer iletişim formlarından ayırt edebildi. Araştırma ekibi tarafından oluşturulan model, bir kişinin geçmişteki argümanlarından ne kadar saptığını ölçmek için büyük miktarda veriye ihtiyaç duyuyor. Ekip, modelini eğitmek için kullandıkları eğitim verisi, tartışmalı konular hakkında görüşleri içeren bir anketten alındı. 100’den fazla kişi bu tartışmalı konular hakkında görüşlerini belirtti. Veri ayrıca, 20 farklı otel hakkında 400 sahte ve 800 gerçek incelemeden alındı.

Santos’a göre, araştırmacılar tarafından geliştirilen çerçeve, haber organizasyonları ve okuyucular tarafından incelenebilir ve “sahte haber” makalelerinin içeriğini analiz etmek için rafine edilebilir. Okuyucular, makalelerdeki görüşlerin varlığını inceleyebilir ve mantıksal bir argümanın kullanılıp kullanılmadığını kendileri belirleyebilir. Santos, ekibin ayrıca yanlış bilginin etkisini ve bunun neden olduğu dalgalanmaları incelemek istediğini de belirtti.

Popüler kültürde, yüz ifadeleri gibi sözsüz davranışlar genellikle yalan söylemenin göstergeleri olarak gösterilir, ancak çalışmanın yazarları, bu davranış ipuçlarının her zaman güvenilir yalan ipuçları olmadığını belirtiyorlar. Çalışmanın ortak yazarı Deqing Li, araştırmalarının, akıl yürütme niyetine dayalı modellerin, davranışsal ve sözel farklılıklardan daha iyi yalan belirleyicileri olduğunu gösterdiğini açıkladı. Li, akıl yürütme niyeti modellerinin “kasıtlı yalanları diğer tür bilgi bozulmalarından ayırt etmekte daha iyi” olduğunu açıkladı.

Dartmouth araştırmacılarının çalışması, yanlış bilgiyle mücadele için yapay zeka alanında yapılan recent gelişmelerin tek örneği değil. Klik tuşu başlıkları olan haber makaleleri genellikle yanlış bilgiyi gizler. Örneğin, bir olayın meydana geldiğini ima edebilir, ancak aslında başka bir olay gerçekleşmiştir.

AINews’in bildirdiği üzere, Arizona Eyalet Üniversitesi ve Penn Eyalet Üniversitesi’nden bir grup araştırmacı, klik tuşu başlıklarını tespit edebilen bir yapay zeka geliştirmek için işbirliği yaptı. Araştırmacılar, insanlara kendi klik tuşu başlıklarını yazmalarını istedi ve ayrıca klik tuşu başlıkları oluşturmak için bir program yazdılar. Her iki tür başlık da, makineler veya insanlar tarafından yazılmış olsun, etkili bir şekilde klik tuşu başlıklarını tespit edebilen bir modeli eğitmek için kullanıldı.

Araştırmacılara göre, onların algoritması, geçmişteki diğer yapay zekalardan daha fazla klik tuşu başlıklarını tespit etmekte yaklaşık %14,5 daha doğrudur. Projenin baş araştırmacısı ve Penn Eyalet Üniversitesi Bilgi Bilimleri ve Teknoloji Koleji’nde yardımcı profesör olan Dongwon Lee, deneylerinin, bir yapay zeka ile veri oluşturup bunu tekrar bir eğitim pipeline’a beslemenin faydasını gösterdiğini açıkladı.

“Bu sonuç oldukça ilginç, çünkü makine tarafından oluşturulan klik tuşu eğitim verilerinin, bir dizi makine öğrenimi modelinin performansını iyileştirmek için bir eğitim pipeline’a beslenebileceğini erfolgreich bir şekilde gösterdik,” diye açıkladı Lee.