AI Tarafından Oluşturulan Yanlış Bilgiyi Bize Kim Korumalı?

Yaratıcı AI, bir yıldan kısa bir sürede sıfırdan yüze ulaştı. Erken bir aşamada olmasına rağmen, işleri dönüştürme potansiyelini gösterdi. Hepimiz bununla anlaşabiliriz. Ayrıştığımız nokta, ortaya koyduğu tehlikeleri nasıl kontrol edeceğimizdir.

Açık olmak gerekirse, ben yeniliğin yanındayım ve korku yayıcı değilim. Ancak recent yanlış bilgi artışıyla birlikte -çoğunlukla anın tartışmalı konuları etrafında kutuplaşma amacı taşıyan- gen AI’nin toplumlar için yıkıcı olabileceği açıkça ortaya çıktı.

Bu filmi daha önce sosyal medya ile gördük, ancak bunun kusurlarını anlamamız yıllarımızı ve zor dersleri aldı. (Muhtemelen) bir şeyler öğrendik. Bugün sorulan soru, kim gen AI’den kaynaklanan gerçeklik bozulmasının dalgasını nasıl durduracak ve nasıl?

Öngörülemeyen bir şekilde, hükümetler harekete başlıyor. Avrupa, teknoloji düzenlemesinde olduğu gibi bu konuda da öncülük ediyor. ABD, Başkan Biden’in geçen Ekim ayında bir yönetmelik çıkarmasıyla hemen arkasından geliyor.

Ancak gen AI’yi “dürüst” tutmak için global bir köyün birlikte hareket etmesi gerekecek. Ve hükümet yardımından önce, mevcut yaklaşımların sınırlarını anlamalıdır.

Kimlik Problemi Çok Daha Kötüye Gitti

Bu yeni dünyada, gerçeklik, gerçekler olarak gizlenen görüşlerin bir yığın haline gelen bir iğne haline gelir. İçerik kimden geliyor bundan daha önemli.

Ve her sosyal medya hesabının kimlik doğrulaması yapmasını emretmek bu kadar kolay değil. Buna karşı güçlü bir muhalefet var ve bazı durumlarda anonimlik, hesap sahiplerini haklı olarak korumak için gerekli. Ayrıca, en kötü içeriğin tüketicileri, bunun güvenilir olup olmadığına veya nereden geldiğine aldırmazlar.

Bu çekincelere rağmen, gen AI ile başa çıkmada kimliğin potansiyel rolü küçümseniyor. Şüpheci olanlar, beni dinleyin.

Şöyle bir durum hayal edelim: Düzenleme veya sosyal vicdan, platformların her hesap sahibine şu seçeneği sunmasına neden olur:

1. Kimliklerini doğrulamak veya doğrulamamak ve
2. Doğrulanmış kimliklerini halka açıklamak veya sadece “Kimlik Doğrulandı” olarak etiketlemek
   

O zaman sosyal medya izleyicisi, kimin güvenilir olduğuna daha iyi karar verebilir. Eşally önemli, eğer daha da önemli değilse, kimlik hesap verebilirliği destekler. Platformlar, AI tarafından oluşturulan içeriklerin kötüye kullanımını tekrar tekrar yapanlara karşı önlem alabilir, hatta farklı hesap adları altında ortaya çıkabileceklerine karşı.

Gen AI’nin bahse girdiği risklerle birlikte, kim bir şey paylaştı— kritik öneme sahip olduğunu düşünüyorum. Bazıları buna karşı çıkacak, kimlik her şeye çözüm değil. Aslında, hiçbir çözüm tüm paydaşları memnun edemez. Ancak düzenleme, platformları tüm hesaplar için kimlik doğrulaması sunmaya zorlarsa, bunun etkisi büyük ölçüde olumlu olacaktır.

Modlasyon Çıkmazı

İçerik modlasyonu -hem otomatik hem de insani- arzu edilmeyen içeriklere karşı son savunma hattıdır. İnsan modlasyonu, en kötü içeriğe maruz kalma riski nedeniyle psikolojik zarar riski taşıyan zor bir iştir. Ayrıca pahalıdır ve genellikle önyargılı sansürle mücadele etmeye çalışan platformların hedefi haline gelir.

Otomatik modlasyon, insan kapasitesinin başa çıkamayacağı yeni içerik selini aşar, ancak bağlamı (mimikler ortak bir örnektir) ve kültürel nüansları anlamakta başarısız olur. Her iki modlasyon türü de kritik ve gerekli, ancak bunlar sadece kısmi bir çözümdür.

Gen AI’yi kontrol etmenin sıkça duyulan geleneksel reçetesi: “Teknoloji liderleri, hükümet ve sivil toplum arasında işbirliği gerekiyor.” Tabii ki, ancak ne cụ olarak?

Hükümetler, sosyal ve medya platformlarına kimlik doğrulaması sunmaları ve tüm gönderilerde bunu açıkça görüntülemeleri için baskı yapabilir. Düzenleyiciler ayrıca, bir kaynağın inanılır olup olmadığını gerçekten ölçen güvenilirlik ölçümlerinin yolunu açabilir. İşbirliği, özel sektörün tahmin etmek zorunda kalmaması için evrensel standartlar geliştirmek için gerekli.

Son olarak, kötü niyetli AI çıktısı yaratmak yasaktır. Yasa dışı faaliyetler için amaçlanan içeriği yasaklayan mevzuat, toksik içeriğin hacmini azaltabilir ve moderatörlerin yükünü hafifletebilir. Düzenleme ve yasaların yanlış bilgilendirmeyi yendiğini görmüyorum, ancak tehdidi karşılamak için bunlar gereklidir.

Caddenin Güneşli Tarafı: Yenilik

İnovasyonun vaadi beni burada iyimser yapıyor. Siyasetçilerin veya platform sahiplerinin AI tarafından oluşturulan aldatmacadan tamamen koruma yapmasını bekleyemeyiz. Bir boşluk bırakırlar ve bu, içerik doğrulamak ve sahteciliği tespit etmek için yeni teknoloji icat etmenin ilham kaynağı olacaktır.

Sosyal medyanın olumsuz yanlarını gördüğümüz için, gen AI’nin insanlık için büyük bir net-olumsuz olabileceğini, toplumları kutuplaştırma ve yanıltma yeteneğiyle anladık.

İyimser bir şekilde, kontrol yöntemlerinin birlikte çalıştığı çok yönlü yaklaşımların faydalarını görüyorum. İlk olarak, yasadışı kullanım için tasarlanan içeriğin oluşturulmasını sınırlayan kaynakta. Sonra, anonimlikten vazgeçenlerin kimliklerini doğrulayarak yayınlamadan önce. Ardından, güvenilirlik derecelerini ve posterin kimliğini veya anonimlik durumunu gösteren net etiketleme. Son olarak, otomatik ve insani modlasyon, en kötülerini süzgeçten geçirebilir. Yakında yeni kimlik doğrulama teknolojisinin çıkmasını bekliyorum.

Her şeyi toparlayıp, asla mükemmel olmasa da daha iyi, bir çözümümüz olacak. Bu arada, gerçeğin ne olduğunu, kimin doğruyu söylediğini ve kimin bizi kandırmaya çalıştığını anlamak için becerilerimizi geliştirmeliyiz.