Etik

Yapay Zekâ Haberlerdeki Yanlış Bilgi ve Önyargıyla Mücadele Edebilir

Alex McFarland
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin
Öne çıkan noktalarNOOZ.AI gibi yapay zeka araçları, haber yanlılığını ve manipülasyonu ortaya çıkarmak…
Daha fazla göster
  • NOOZ.AI gibi yapay zeka araçları, haber yanlılığını ve manipülasyonu ortaya çıkarmak için dili analiz eder.
  • Bilişsel, sosyal ve algoritmik olmak üzere üç tür yanlılık, sosyal medyayı yanlış bilgiye karşı savunmasız hale getirir.
  • Yanlış bilgi ve dezenformasyon kampanyaları artık 70'ten fazla ülkede seçimleri hedef alıyor.

Yanlış bilgi ve önyargı, son yıllarda toplumun karşılaştığı en büyük zorluklardan biri haline gelmiştir. Bilgi operasyonları, deepfakes, finansal etki ve sosyal gerilimler gibi şeyler, bireyler ve devlet aktörleri tarafından dünya çapında kullanılan yeni araçlardır.

Yanlış bilgi, genel olarak yanlış bilgi demektir ve kamuoyunun manipülasyonunda önemli bir rol oynamaktadır. Aynı zamanda, siyasi liderlere karşı bir saldırı olarak kullanılmakta ve çeşitli ülkelerde gruplar arasındaki ayrımları kötüleştirmektedir. Daha önce hiç olmadığı kadar, yanlış bilgi seçim sandığına ulaşmaktadır ve son derece etkili hale gelmiştir.

Dezenformasyon, yanlış bilgiden biraz farklıdır ve kasıtlı olarak yanıltıcı veya önyargılı bilgidir. Manipüle edilmiş anlatılar ve gerçekleri içerebilir. Diğer bir deyişle, propaganda demektir.

2019 yılında Oxford Üniversitesi’nden araştırmacılar tarafından yapılan bir raporda, Rusya, Çin, Vietnam ve Guatemala dahil 70 farklı ülkede organize dezenformasyon kampanyaları detaylandırıldı.

Dijital ekonomi, yanlış bilgi ve önyargının artmasına neden oldu ve AI teknolojileri ve sosyal medya platformları, bunları kitlelere ulaştırmak için kullanılan araçlar haline geldi.

Bunun birçok örneğini gördük. Örneğin, önceki iki ABD başkanlık seçimleri yanlış bilgi ve önyargı ile dolu idi ve bu gelecekte de devam edecektir. Finansal piyasalar da yanlış bilgi ve önyargı yoluyla kısa vadeli manipülasyona maruz kaldı ve dış ilişkiler, bunların kullanımı nedeniyle gerginleşmeye başladı. Sosyal gerilimler, belirli davaların destekçileri ve karşıtları hakkında yanlış bilgi yoluyla ortaya çıkıyor ve sahte haberler neredeyse her ülkede yaygın.

Sosyal medya ve algoritmalarımıza olan bağımlılığımız, bizi yanlış bilgi ve önyargıya karşı son derece savunmasız hale getirdi ve büyük grupları manipüle etmek kolay hale geldi.

The Conversation adlı bir kâr amacı gütmeyen medya ağı tarafından yayınlanan “Önyargılar İnsanları Sosyal Medyada Yayılan Yanlış Bilgiye Karşı Savunmasız Bırakır” adlı bir makaleye göre, sosyal medya ekosistemini kasıtlı ve kazara yanlış bilgilendirmeye karşı savunmasız hale getiren üç tür önyargı vardır. Çoğu haberimizin artık sosyal medyadan geldiğini bilmemiz önemlidir.

Üç tür önyargı vardır:

  1. Beyin Önyargısı: “Bilişsel önyargılar, her kişinin her gün karşılaştığı bilginin işlenmesinden kaynaklanır.”
  2. Toplumsal Önyargı: “İnsanlar doğrudan arkadaşlarıyla bağlandığında, sosyal önyargılar, gördükleri bilginin seçimini etkiler.
  3. Makine Önyargısı: “Üçüncü önyargı grubu, insanların çevrimiçi ortamda ne göreceğini belirlemek için kullanılan algoritmalardan doğrudan kaynaklanır. Hem sosyal medya platformları hem de arama motorları bunları kullanır.”

Bu önyargıların birleşimi, kötü aktörlerin mevcut haber platformlarını yanlış bilgi yaymak için kullanabileceği mükemmel bir ortam oluşturdu. Ancak önyargının bu alan dışında da mevcut olduğunu bilmemiz önemlidir. Düzenli haber raporları ve makaleler, yazarın veya yayının kendi eğilimlerinden dolayı önyargılı olabilir. Bu yeni bir şey değildir.

Yanlış Bilgi ve Önyargıya Karşı AI Çözümleri

Yapay zeka’nın yükselişi, yanlış bilgi ve önyargı ile mücadele etmek için yeni ve yenilikçi araçlar sağlamıştır.

Örneğin, AI, belirli yanlış bilgileri ve diğer sorunlu içerikleri etkili bir şekilde tespit edip kaldırabilir. Google (GOOGL ), Twitter ve Facebook gibi şirketler tarafından zaten sahte botları tespit etmek için kullanılmaktadır. Ve sahte botlar sıklıkla yanlış bilgi ve önyargılı haber yaymak için kullanılmaktadır.

Bu sorunla mücadele etmek için yeni yapay zekâ çerçeveleri araştırılmalı ve mevcut çerçeveler iyileştirilmelidir; çünkü birçoğunun sorunlu olduğu görülmüştür. Çatışmalar ortaya çıktığında bu sorunlar daha da tehlikeli hale gelir. Örneğin, mevcut Rusya-Ukrayna çatışması gibi askerî çatışmalar yanlış bilginin inanılmaz bir hızla yayılmasına yol açar.

Geliştirilmekte olan çeşitli AI destekli araçlar vardır. Örneğin, NT CONNECT adlı uluslararası teknoloji geliştiricisi, haber toplama uygulaması NOOZ.AI‘ın kullanıma sunulduğunu yakın zamanda duyurdu. AI destekli dil analizi motoru, bugünkü haber medyasında bulunan kutuplaşmış önyargıyı şeffaflık getirmeyi amaçlamaktadır. Bunu, okuyucuları bir makaleyi okumadan önce haber medyasının etkisi hakkında bilgilendirerek gerçekleştirmeye çalışmaktadır.

Şirketin basın açıklamasına göre, “Yazarlar veya gazeteciler genellikle belirli bir önyargıya eğilimlidir – çoğu zaman okuyucu bunu bilmeden.” “Yazar ve haber kaynaklarının tarihi önyargısını bilerek, tüketiciler bir makaleyi daha objektif bir şekilde inceleyebilir ve belirli bir konuda belirli bir şekilde düşünmeye zorlanmaktan kaçınabilir.”

NOOZ.AI aracı dört ana sütun üzerine kuruludur:

  • Görüş Analizi: Okuyucuların, bir gazetecinin yazısında kişisel duygular, görüşler, inançlar veya yargılar olup olmadığını belirlemesine yardımcı olur.

  • Duygu Analizi: Araç, bir yazarın genel haber içeriği veya belirli bir konu hakkında destek veya muhalefeti ölçmek için duygu analizi kullanır.

  • Propaganda Analizi: Potansiyel dezenformasyonu, 18 olası ikna tekniğinin kullanımını tespit ederek belirleyebilir.

  • Revizyon Analizi: Okuyucular, bir haber hikayesinin gelişimini ve zaman içinde görüş ve duyguların manipülasyonunu inceleyebilir.

Uygulama, her makale için puanlar sağlar, görüş puanları 0 ile 100 arasında ve duygu puanları -100 ile 100 arasında değişir. Ayrıca, her revizyon için tüm metin düzenlerini takip eder ve okuyuculara farklı sürümleri karşılaştırma imkanı tanır.

NT CONNECT’in CTO’su Garry Paxinos’a göre:

“Önyargılı raporlama, günümüz toplumunda önemli bir sorundur. Yanlış bilgi, en sık kullanılan ve yanlış kullanılan popüler terimdir. Ancak gerçek şu ki dilin kendisi sıradan okuyucuyu manipüle etmek ve ikna etmek için kullanılabilir. Objektif olarak dil analizi yaparak, diğer yaklaşımlarda bulunan öznel önyargıyı önleriz. Yanlış bilgiyi subjektif olarak etiketlemek yerine, abartılı başlıklar, revizyon geçmişi ve makale metinleri ile nasıl manipüle edilebileceğimizi aydınlatmak için çalışıyoruz.”

Alex, Unite.AI’nin AI destekli haber operasyonlarını yönetiyor, gazetecilik, araştırma ve otomasyonu birleştirerek yapay zekanın zamanında ve ölçeklenebilir şekilde kapsanmasını destekliyor. Çalışması, ortaya çıkan AI gelişmelerinin verimli bir şekilde ortaya konulmasını sağlarken, yayının editöryel standartlarını korumasına yardımcı olur.