‘Vibe’-Dayalı Görüntü İşaretlemesinin Riskleri

Birkaç dolar (veya hatta hiçbir şey) karşılığında zararlı içerik için görüntüleri değerlendiren bilinmeyen kişiler, yaptıkları seçimler ile hayatınızı değiştirebilir. Şimdi, Google’ dan gelen yeni bir makale, bu annotatörlerin neyin ‘zararlı’ veya saldırıya açık olduğuna karar verirken kendi kurallarını oluşturabileceğini öne sürüyor – herhangi bir görüntüye karşı tepkileri ne kadar tuhaf veya kişisel olursa olsun. Ne olabilir yanlış?

Opinion Bu hafta, Google Araştırma ve Google Mind arasındaki yeni bir işbirliği, 13’den fazla katkıda bulunanı yeni bir makaleye bir araya getirdi. Bu makale, algoritmalar için görüntüleri değerlendiren insanların ‘doğal hisleri’ dikkate alınıp alınmayacağını araştırıyor – tepkileri kurulmuş değerlendirme standartlarına uymuyor olsa bile.

Bu sizin için önemlidir, çünkü değerlendiriciler ve annotatörler tarafından saldırıya açık olarak kabul edilen şeyler, otomatik sansür ve moderasyon sistemlerine, ‘müstehcen’ veya ‘kabul edilemez’ materyal için kriterlere ve yasalara (örneğin, yeni NSFW güvenlik duvarı*) gibi yasalara dönüşme eğilimindedir. Ayrıca sosyal medya platformlarındaki içerik değerlendirme sistemleri de dahil olmak üzere diğer ortamlarda da böyle olur.

Sansürün kapsamı ne kadar genişse, potansiyel sansür düzeyi de o kadar geniş olur.

Vibe-Sansür

Yeni makale sadece bu bakış açısını sunmuyor; aynı zamanda insanların genellikle başkalarına neyin saldırıyı tetikleyeceğine dair düşündüklerinden daha fazla sansürcü olduğunu buldu ve düşük kaliteli görüntüler genellikle güvenlik endişelerine neden oluyor – görüntüdeki kalite, görüntünün içeriğiyle hiçbir ilgisi yok.

Makale, sonuçta, bu iki bulguyu vurguluyor, sanki makalenin merkezi konumu başarısız olmuş, ancak araştırmacılar yine de yayınlamak zorunda kalmış gibi görünüyor.

Ancak makale, dikkatli bir okumayla, daha sinsice bir alt akım sunuyor: anotasyon uygulamalarının vibe-anotasyon olarak adlandırdığım şeyi benimsemeyi düşünebileceği:

‘Buluntularımız, mevcut çerçevelerin subjektif ve bağlamsal boyutları, yani duygusal tepkileri, örtük yargıları ve zararın kültürel yorumlarını hesaba katması gerektiğini gösteriyor. Annotatörlerin sık sık duygusal dil kullanması ve önceden tanımlanmış zarar etiketlerinden sapmaları, mevcut değerlendirme uygulamalarındaki boşlukları vurguluyor.’

‘Çeşitli kültürel ve duygusal yorumların örneklerini içeren anotasyon rehberlerini genişletmek, bu boşlukları ele almak yardımcı olabilir.’

Yeni makale, ortalama okuyucuya sempatik gelen ve açık örneklerle başlıyor, ancak asıl içerik daha çok soru işareti yaratıyor. Her görüntünün altında, ilgili görüntüler için annotatörlerin duygusal tepkilerini görüyoruz. Kaynak: https://arxiv.org/pdf/2507.16033

İlk bakışta, bu, ‘zarar’ın ne olduğu konusunda daha iyi bir tanımlama yapmak için bir öneri gibi görünüyor – övgüye değer bir girişim; ancak makale, bunu ne istendiğini ne de gerekli olduğunu defalarca yineledi:

‘Buluntularımız, mevcut çerçevelerin subjektif ve bağlamsal boyutları, yani duygusal tepkileri, örtük yargıları ve zararın kültürel yorumlarını hesaba katması gerektiğini gösteriyor. Annotatörlerin sık sık duygusal dil kullanması ve önceden tanımlanmış zarar etiketlerinden sapmaları, mevcut değerlendirme uygulamalarındaki boşlukları vurguluyor.’

‘Çeşitli kültürel ve duygusal yorumların örneklerini içeren anotasyon rehberlerini genişletmek, bu boşlukları ele almak yardımcı olabilir […]

‘[…] Annotatörlerin belirsiz görüntüler hakkında düşünme süreci, genellikle kişisel, kültürel ve duygusal bakış açılarını yansıtıyor ve bu, kolayca desteklenemez veya standartlaştırılamaz.’

Bu, rasyonel bir değerlendirme sisteminin içine nasıl sığabileceği anlaşılabilir değil; yazarlar, bu noktayı açıklamakta veya net bir teori oluşturmakta zorlanıyorlar, materyali birçok kez ele alıyorlar, ancak bir türlü üstünlük sağlayamıyorlar. Bu regarda, merkezi tema itself ‘vibe’-üretilmiş gibi görünüyor, hatta soyut psikolojilerle ilgilenirken.

İkili Yargı

Görüntüler ve metinlerin ne kadar zararlı olabileceğini ölçmek gerçekten zordur, çünkü yüksek kültür genellikle ‘düşük’ kültür ile kesişir (örneğin, sanat ve romanlar ile), bu da en eski ‘vibe’-dayalı sansür kriterlerine yol açar: müstehcen materyali tam olarak tanımlayamasanız bile, gördüğünüzde bilirsiniz.

Yeni makalenin kapsamlı ve keşifçi tartışmasının altında, empati ve nitel nüans hakkında, merkezi otoriteye ve standartlaştırılmış taksonomilere (genellikle) karşı bir saldırı gibi görünüyor.

Ortaya çıkan argüman, sadece merkezden bağımsız, subjektif, bağlamsal insan geri bildiriminin GenAI çıktısını doğru bir şekilde yargılayabileceğini öne sürüyor.

Bu, açıkça ölçeklenebilir değildir, çünkü milyarlarca görüntüdeki bir filtreleme işlem hattını ‘vibe’ler ve yaşam deneyimi ile çalıştıramazsınız. Zararı çeşitli özelliklere dönüştürmeniz, filtreleme sisteminin kapsamını sınırlamanız ve yeni direktifler için ‘kenar’ durumlarda (tarafların kendi özel durumlarına hitap eden yeni yasaların çıkmasını beklemeleri gibi) beklemeniz gerekir.

Bunun yerine, yeni makale, otomatik moderasyon.pipeline’ın otomatik olarak genişletilmesi ve çok fazla önlem alınması için bir zımnî yetki sunuyor, böylece annotatörlerin herhangi bir görüntüye karşı en özel ve tekrarlanamaz tepkisi, hiç kimseyi incitmemiş bir görüntüyü cezalandırabilir.

Ahlaki Genişleme

Makale, bir görüş benimsemektense keşife eğilimlidir, ancak bilimsel yöntemleri içerir: yazarlar, daha geniş bir annotatör tepkileri yelpazesini tanımlamak (ancak katı bir şekilde ölçmek değil) ve bu tepkilerin cinsiyet ve diğer demografik faktörler boyunca nasıl değiştiğini incelemek için bir çerçeve geliştirdiler.

Testlerin harm-focus^† analizinin yanı sıra, test katılımcılarının ilave yorumlarındaki ‘moral reasoning’ işlemini analiz ettiler ve bunlar, bir dizi görüntü ve ilgili metin içeren değiştirilmiş bir test veritabanını annotatörlerle birlikte değerlendirdiler.

Bu ‘moral sentiment autorater’, Moral Foundations Theory‘de tanımlanan Bakım, Eşitlik, Orantılılık, Bağlılık, Otorite ve Temizlik gibi ahlaki değerleri yakalamak için tasarlandı – bu, büyük ölçekli insan değerlendirme sistemleri için gerekli somut tanımların yaratılmasına karşı olan bir psikolojik teoridir.

Yazarlar, bu teoriyi bilgilendirdi ve ayrıca korku, öfke, üzüntü, iğrenme, kafa karışıklığı ve gariplik gibi güvenlik boyutlarını kategorize ettiler.

Yazarlar, bunlardan ilki olan korku hakkında açıklamalar yapıyor:

‘Çok sayıda annotatör, “korkutucu” (örneğin, çarpık yüzler veya bir çocuğa yönelik şiddeti gösteren bir silah gibi görüntüler için) veya “rahatsız edici” (örneğin, “Mutlaka iğrenç, çok rahatsız edici ve rahatsız edici” veya “Rahatsız edici ve kan gibi görünüyor” için kırmızı boya) gibi terimleri kullandı.’

‘[Aşağıdaki grafik] “korku”yu en sık bahsedilen duygu olarak ölçer (233 mention, neredeyse yarısı şiddet içerikli, içerik zararsız kabul edilse bile ikinci en yüksek “korku” mention).

Zarar kategorileri boyunca duyguya bağlı terimlerin dağılımı, bar yükseklikleri yorumların oranlarını gösterir, barlar içindeki sayılar görüntülenir ve her kategori üzerindeki toplam yorum sayısı gösterilir.

Yeni güvenlik boyutlarının dahil edilmesine ilişkin olarak, yazarlar şunları söylüyor:

‘Bu ortaya çıkan temalar, AI görüntü değerlendirme çerçevelerini subjektif, duygusal ve algısal unsurları entegre ederek zenginleştirmenin kritik bir ihtiyacını vurguluyor.’

Bu, herhangi bir annotatörün tepkilerine dayanarak kuralları keyfi olarak eklemesine izin verebileceğinden tehlikeli bir yol olabilir; bu yaklaşım, tüm annotatörlerin kurulmuş standartlara ve referanslara uymak zorunda kalacağına göre daha farklıdır.

Eğer bu fikre bir ekonomik imperative atfedilebilirse, bu, hiper-ölçek insan anotasyonu için bir yol açar – burada süreç sürtünmesizdir, katılımcılar kendi kendini düzenler ve kuralları ve sınırları kendileri belirler.

Standart anotasyonda, kurallar insan mutabakatı ile belirlenir ve insan annotatörler tarafından uyulur; makalede önerilen senaryoda, bu ilk denetim katmanı kaldırılmış veya azaltılmıştır: temelde, herhangi bir görüntüye karşı güçlü bir tepki verebilecek herhangi bir görüntü bayraklı olacaktır (en azından, belki de, çünkü mutabakat pahalı ve zaman alıcıdır).

Rorschach Yargıları

Anotasyonun amacı, uzman denetimi, çoklu annotatörler arasındaki ortak mutabakat veya (ideal olarak) her ikisi aracılığıyla doğru bir tanım veya açıklama elde etmektir. Bunun yerine, sınırlı ancak iyi tanımlanmış bir zarar hiyerarşisini ‘sezgisel’ ve kişisel bir yorumlama konumuna genişletmek, bir Rorschach testini anotasyon yapmakla eşdeğerdir.

Örneğin, bazı annotatörler, makaleye göre, düşük görüntü kalitesini (örneğin, JPEG hataları veya bir görüntüdeki anlamsız teknik hatalar) ‘rahatsız edici’ veya ‘zararlı’ olarak yorumladı:

‘Bu, görevin görüntü kalitesi hakkında talimat vermemesine rağmen gerçekleşti. Annotatörler, bu kalite hatalarını anlamlı olarak yorumladı.’

‘Bir annotatör, “Görüntü tamamen zararsız; sadece yüzü biraz çarpık.” dedi. Aynı şekilde, bazı annotatörler, bir görüntüdeki yüzün bozulmasını “acı verici” olarak yorumladı.’

Subjektif, duygusal veya bağlamsal tepkileri önceden tanımlanmış güvenlik kategorilerinin üzerinde yükseltmek, herhangi bir şeyin keyfi olarak zararlı olarak işaretlenmesine ve özel ilgi gruplarını rahatsız edebilecek materyalin ‘soğuk’ etkisi altına girmesine yol açabilir.

Makale “Just a strange pic”: Evaluating ‘safety’ in GenAI Image safety annotation tasks from diverse annotators’ perspectives Arxiv’de mevcuttur.

* Yeni yasa kapsamında, saldırıya açık sitelerin ya kendilerini denetlemeleri, karmaşık ve pahalı inceleme sistemleri ve yaş doğrulama teknolojileri uygulamaları bekleniyor – ancak bu, sadece en büyük sitelere ulaşılabilir; ya da UK izleyicilerden domainlerini engellemeleri bekleniyor (yeniden, kendi masrafları ile).

† ‘Çocukları düşünün’ mimesi ile basit bir şekilde ifade edilebilir, bu, başka birinin ahlaki ajansını görünüşte altruistik amaçlar için ele geçirmeyi alaycı bir şekilde eleştirir.

İlk olarak 25 Temmuz 2025 Cuma günü yayımlandı