ความเสี่ยงของการทำเครื่องหมายภาพโดยอาศัย ‘บรรยากาศ’

แม้ว่าพวกเขาจะได้รับค่าจ้างเพียงไม่กี่ดอลลาร์ (หรือไม่ได้รับค่าจ้างเลย) ผู้ที่ประเมินภาพสำหรับเนื้อหาที่ ‘เป็นอันตราย’ สามารถเปลี่ยนแปลงชีวิตของคุณด้วยตัวเลือกที่พวกเขาทำได้ ในขณะนี้ วิจัยใหม่จาก Google ดูเหมือนจะแนะนำว่าผู้ทำเครื่องหมายเหล่านี้สร้างกฎของตนเองเกี่ยวกับสิ่งที่เป็นหรือไม่เป็น ‘เป็นอันตราย’ หรือไม่เหมาะสม – ไม่ว่าปฏิกิริยาของพวกเขาต่อภาพใดๆ จะไม่ปกติหรือส่วนตัวเพียงใดก็ตาม สิ่งใดที่อาจผิดพลาด?

ความคิดเห็น สัปดาห์นี้ การร่วมมือระหว่าง Google Research และ Google Mind ได้นำผู้เข้าร่วมไม่ต่ำกว่า 13 คนมาร่วมกันใน วิจัยใหม่ ที่สำรวจว่า ‘ความรู้สึกโดยธรรมชาติ’ ของผู้ทำเครื่องหมายภาพควรพิจารณาเมื่อคนกำลังให้คะแนนภาพสำหรับอัลกอริทึม แม้ว่าปฏิกิริยาของพวกเขาจะไม่สอดคล้องกับมาตรฐานการให้คะแนนที่กำหนดไว้ก็ตาม

สิ่งนี้มีความสำคัญต่อคุณ เนื่องจากสิ่งที่ผู้ให้คะแนนและผู้ทำเครื่องหมายพบว่าเป็นอันตรายโดยกฎของการร่วมมือ จะมีแนวโน้มที่จะถูกกำหนดไว้ในระบบการเซ็นเซอร์และการปรับเปลี่ยนอัตโนมัติ และในเกณฑ์สำหรับ ‘ลามก’ หรือ ‘ไม่เหมาะสม’ ในกฎหมาย เช่น ไฟร์วอลล์ใหม่ของสหราชอาณาจักร* (ซึ่งจะมาถึง ออสเตรเลีย ในไม่ช้า) และในระบบประเมินเนื้อหาบนแพลตฟอร์มโซเชียลมีเดีย เป็นต้น

ดังนั้น คriteria ที่กว้างขึ้นสำหรับการทำเครื่องหมายภาพที่เป็นอันตราย จะทำให้ระดับการเซ็นเซอร์ที่กว้างขึ้น

การเซ็นเซอร์โดยบรรยากาศ

สิ่งนี้ไม่ใช่จุดยืนที่วิจัยใหม่นี้นำเสนอเท่านั้น แต่ยังพบว่าผู้ที่ให้คะแนนภาพมักจะเข้มงวดมากขึ้นในเรื่องที่พวกเขาคิดว่าจะทำให้ผู้อื่นรู้สึกไม่สบายใจ นอกจากนี้ ภาพที่มีคุณภาพต่ำมักจะทำให้เกิดความกังวลเรื่องความปลอดภัย แม้ว่าคุณภาพของภาพจะไม่เกี่ยวข้องกับเนื้อหาของภาพก็ตาม

ที่ส่วนสรุป วิจัยนี้เน้นย้ำสองผลการค้นพบเหล่านี้ ดังเช่นที่ตำแหน่งกลางของวิจัยนี้ล้มเหลว แต่นักวิจัยถูกบังคับให้ตีพิมพ์ผลการวิจัยอยู่ดี

แม้ว่าสิ่งนี้จะไม่ใช่สถานการณ์ที่ไม่ค่อยพบเห็น แต่การอ่านวิจัยอย่างรอบคอบจะพบว่ามีกระแสลับซับซ้อนมากขึ้น: การปฏิบัติในการทำเครื่องหมายภาพอาจพิจารณาใช้ ‘การทำเครื่องหมายโดยบรรยากาศ’ ซึ่งฉันสามารถอธิบายได้ว่าเป็น:

‘ผลการค้นพบของเราบ่งชี้ว่ากรอบการทำงานที่มีอยู่ต้องคำนึงถึงมิติทางวัตถุและบริบท เช่น ปฏิกิริยาทางอารมณ์ การตัดสินโดยนัย และการวิเคราะห์วัฒนธรรมของอันตราย ผู้ทำเครื่องหมายภาพที่ใช้ภาษาเชิงอารมณ์บ่อยครั้งและความแตกต่างจากป้ายกำกับอันตรายที่กำหนดไว้ล่วงหน้า ทำให้เกิดช่องว่างในแนวทางปฏิบัติในการประเมินในปัจจุบัน ‘

‘การขยายแนวทางในการทำเครื่องหมายภาพเพื่อรวมตัวอย่างที่แสดงถึงการตีความทางวัฒนธรรมและอารมณ์ที่หลากหลายสามารถช่วยแก้ไขช่องว่างเหล่านี้ได้’

วิจัยใหม่ที่มีภาพประกอบไม่มากนักนำเสนอตัวอย่างที่ชัดเจนและเห็นใจผู้อ่านโดยเฉลี่ย ที่นี่ เราจะเห็นคำตอบทางอารมณ์ของผู้ทำเครื่องหมายภาพสำหรับภาพที่เกี่ยวข้อง Source: https://arxiv.org/pdf/2507.16033

ที่แรก สิ่งนี้ดูเหมือนเป็นการเสนอแนะที่จะขยายและปรับปรุงสิ่งที่ประกอบเป็น ‘อันตราย’ ในภาพ – การติดตามที่น่าชื่นชม แต่วิจัยนี้กล่าวซ้ำหลายครั้งว่านี่ไม่ใช่สิ่งที่ต้องการหรือจำเป็น:

‘ผลการค้นพบของเราบ่งชี้ว่ากรอบการทำงานที่มีอยู่ต้องคำนึงถึงมิติทางวัตถุและบริบท เช่น ปฏิกิริยาทางอารมณ์ การตัดสินโดยนัย และการวิเคราะห์วัฒนธรรมของอันตราย ผู้ทำเครื่องหมายภาพที่ใช้ภาษาเชิงอารมณ์บ่อยครั้งและความแตกต่างจากป้ายกำกับอันตรายที่กำหนดไว้ล่วงหน้า ทำให้เกิดช่องว่างในแนวทางปฏิบัติในการประเมินในปัจจุบัน ‘

‘การขยายแนวทางในการทำเครื่องหมายภาพเพื่อรวมตัวอย่างที่แสดงถึงการตีความทางวัฒนธรรมและอารมณ์ที่หลากหลายสามารถช่วยแก้ไขช่องว่างเหล่านี้ได้ […]’

‘[…] กระบวนการที่ผู้ทำเครื่องหมายภาพใช้ในการให้เหตุผลเกี่ยวกับภาพที่คลุมเครือมักสะท้อนถึงมุมมองส่วนตัว วัฒนธรรม และอารมณ์ของพวกเขา ซึ่งยากที่จะสร้างหรือมาตรฐาน化’

มันยากที่จะเห็นว่า ‘การขยายแนวทางในการทำเครื่องหมายภาพเพื่อรวมตัวอย่างที่แสดงถึงการตีความทางวัฒนธรรมและอารมณ์ที่หลากหลาย’ สามารถเข้ากับระบบการให้คะแนนที่มีเหตุผลได้อย่างไร ผู้เขียนต่อสู้ที่จะชี้แจงจุดนี้หรือสร้างทฤษฎีที่ชัดเจน โดยโจมตีวัสดุหลายครั้ง แต่ไม่เคยเอาชนะมัน ในด้านนี้ หัวข้อหลักของวิจัยนี้ดูเหมือนจะถูกสร้างขึ้นจาก ‘บรรยากาศ’ เช่นกัน แม้ว่าจะเกี่ยวข้องกับจิตวิทยาที่ไม่มีรูปธรรมก็ตาม

อย่างชัดเจน ดูเหมือนว่าฉันจะเห็นว่าการขยายกระบวนการทำเครื่องหมายภาพเพื่อรวมเกณฑ์ของประเภทนี้อาจทำให้สามารถ ‘ยกเลิก’ หรือทำให้เนื้อหาที่ไม่ชัดเจน (หรือประเภทหัวข้อ) ใดๆ ที่ผู้ทำเครื่องหมายภาพอาจตอบสนองอย่างรุนแรง

การตัดสินแบบทวินาม

ระดับที่ภาพและข้อความสามารถก่อให้เกิดอันตรายได้จริงๆ นั้นยากที่จะ量化 ไม่น้อยเพราะวัฒนธรรมสูงมักตัดกับ ‘วัฒนธรรมต่ำ’ (เช่น ศิลปะ และ นวนิยาย) ซึ่งนำไปสู่เกณฑ์การเซ็นเซอร์ ‘บรรยากาศ’ ที่เก่าแก่ที่สุด: แม้ว่าเนื้อหาที่ลามกจะหลบหนีคำจำกัดความที่แน่นอน คุณจะ รู้มันเมื่อคุณเห็นมัน

ภายใต้การอภิปรายอย่างกว้างขวางและสำรวจถึงความเห็นอกเห็นใจและความละเอียดอ่อนเชิงคุณภาพของวิจัยใหม่นี้ ดูเหมือนว่างานจะโจมตีอำนาจของระบบการจำแนกประเภทที่มาตรฐานและรวมศูนย์ (‘ความรุนแรง’, ‘ลามก’, ‘ความเกลียดชัง’ ฯลฯ) ที่ช่วยให้แพลตฟอร์มสามารถใช้การปรับเปลี่ยนและดำเนินการด้วยขอบเขตข้อผิดพลาดที่ยอมรับได้ (โดยทั่วไป)

การโต้แย้งที่เกิดขึ้นคือว่าเฉพาะการให้ข้อมูลโดยมนุษย์ที่ตระหนักรู้ถึงบริบทและเป็นเรื่องส่วนตัวเท่านั้นที่สามารถตัดสินผลลัพธ์ของ GenAI ได้อย่างถูกต้อง

อย่างไรก็ตาม สิ่งนี้ชัดเจนว่าไม่สามารถขยายได้ เนื่องจากคุณไม่สามารถใช้ ‘บรรยากาศ’ และประสบการณ์ที่มีชีวิตมากรองภาพล้านภาพได้ คุณต้อง量化อันตรายให้เป็นคุณสมบัติที่หลากหลาย ตั้งขอบเขตของระบบการกรอง และรอคำแนะนำใหม่ใน ‘กรณีชายขอบ’ (เช่นเดียวกับที่ฝ่ายที่ได้รับผลกระทบอาจต้องรอการตรากฎหมายใหม่ที่แก้ไขสถานการณ์ของตน)

แทนการนำเสนอท่อการปรับเปลี่ยนอัตโนมัติที่ขยายขอบเขต โดยอัตโนมัติ และผิดพลาดด้านความระมัดระวังจนกระทั่งแม้กระทั่งปฏิกิริยาที่เฉพาะเจาะจงและไม่ซ้ำกันจากผู้ทำเครื่องหมายภาพอาจลงโทษภาพที่ไม่ทำให้ใครอื่นรู้สึกไม่สบายใจ

การขยายศีลธรรม

แม้ว่าวิจัยจะเอียงไปทางการสำรวจมากกว่าการยืนยันตำแหน่งที่ชัดเจน แต่ก็รวมองค์ประกอบของวิธีการทางวิทยาศาสตร์เข้าด้วยกัน: ผู้เขียนได้พัฒนาโครงสร้างเพื่อระบุ (แม้ไม่จะวัดอย่างเข้มงวด) สเปกตรัมที่กว้างขึ้นของปฏิกิริยาของผู้ทำเครื่องหมายภาพ และเพื่อตรวจสอบว่าปฏิกิริยาเหล่านี้เปลี่ยนแปลงไปอย่างไรตามเพศและปัจจัยประชากรศาสตร์อื่นๆ

นอกจากการวิเคราะห์ การมุ่งเน้นไปที่อันตราย^† ของการทดสอบแล้ว กระบวนการนี้ยังวิเคราะห์ ‘การให้เหตุผลทางศีลธรรม’ ในคำอธิบายประกอบของผู้เข้าร่วมการทดสอบที่ถูกขอให้ทำเครื่องหมายภาพชุดข้อมูลที่แก้ไขแล้วซึ่งมีภาพและข้อความ/ข้อความที่เกี่ยวข้อง

‘เครื่องมืออัตโนมัติสำหรับการให้เหตุผลทางศีลธรรม’ นี้ได้รับการออกแบบมาเพื่อจับคุณค่าทางศีลธรรม การดูแล, ความเสมอภาค, ความสมส่วน, ความจงรักภักดี, อำนาจ และ ความบริสุทธิ์ ตามที่กำหนดไว้ใน ทฤษฎีฐานศีลธรรม – ทฤษฎีจิตวิทยาที่เนื่องจากธรรมชาติที่เปลี่ยนแปลงและพัฒนา จึงขัดแย้งกับการสร้างคำจำกัดความที่เป็นรูปธรรมที่จำเป็นสำหรับระบบการให้คะแนนของมนุษย์ในระดับใหญ่

โดยอิงจากทฤษฎีนี้ ผู้เขียนได้แบ่งประเภทความปลอดภัยเพิ่มเติม รวมถึง ความกลัว, ความโกรธ, ความเศร้า, ความขยะแขยง, ความสับสน และ ความไม่ธรรมดา

ผู้เขียนให้รายละเอียดเกี่ยวกับประการแรก ความกลัว:

‘ผู้ทำเครื่องหมายหลายคนใช้คำว่า “น่ากลัว” (เช่น สำหรับใบหน้าที่บิดเบี้ยวหรือภาพที่ชี้ให้เห็นถึงความรุนแรง เช่น ปืนชี้ไปที่เด็ก) “รบกวน” (เช่น “เห็นคนถูกทำร้าย น่ากลัวและรบกวน” หรือ “รบกวนและดูเหมือนเลือด” สำหรับสีแดง) หรือ “ไม่สบายใจ” (เช่น “ภาพเด็กมีการบิดเบี้ยวหลายอย่าง… ฉันพบว่ามันไม่สบายใจเพราะดูเหมือนว่าเด็กกำลังเล่นในด้านที่ไม่ถูกต้อง”)’

‘[กราฟด้านล่าง] แสดงถึง “ความกลัว” เป็นอารมณ์ที่ถูกกล่าวถึงบ่อยที่สุด (233 ครั้ง ในขณะที่เกือบครึ่งหนึ่งของการกล่าวถึงเหล่านี้เกี่ยวข้องกับเนื้อหาที่รุนแรง เนื้อหาที่ถือว่าไม่เป็นอันตรายก็ทำให้เกิดการกล่าวถึงความกลัวมากที่สุดเป็นอันดับสอง’

การกระจายของคำที่เกี่ยวข้องกับอารมณ์ข้ามหมวดหมู่อันตราย โดยที่ความสูงของแท่งแสดงถึงสัดส่วนของคำอธิบาย จำนวนคำอธิบายที่แสดงในแท่ง และจำนวนคำอธิบายทั้งหมดที่แสดงเหนือแต่ละหมวดหมู่

เกี่ยวกับการรวมมิติใหม่เหล่านี้ของความปลอดภัย ผู้เขียนระบุ:

‘หัวข้อที่เกิดขึ้นเหล่านี้เน้นย้ำถึงความจำเป็นที่สำคัญในการเพิ่มความเข้มข้นของกรอบการทำงานในการประเมินภาพ AI โดยการรวมองค์ประกอบทางอารมณ์เชิงส่วนตัวและเชิงรับรู้’

สิ่งนี้อาจเป็นทางที่อันตราย เนื่องจากดูเหมือนว่าจะอนุญาตให้กระบวนการทำเครื่องหมายภาพเพิ่มกฎโดยอาศัยปฏิกิริยาที่เนื้อหาอาจกระตุ้นในผู้ทำเครื่องหมายภาพคนใดคนหนึ่ง แทนที่จะกำหนดให้ผู้ทำเครื่องหมายภาพทุกคนปฏิบัติตามมาตรฐานและเกณฑ์ที่กำหนดไว้

หากสามารถกำหนดหลักการทางเศรษฐกิจให้กับแนวคิดนี้ได้ มันคือการอนุญาตให้ ‘การทำเครื่องหมายภาพโดยมนุษย์ระดับไฮเปอร์สเกล’ ซึ่งกระบวนการนี้ไม่มีการเสียดสี ผู้เข้าร่วมเป็นอิสระ และตัดสินใจว่ากฎและขอบเขตคืออะไร

ภายใต้การทำเครื่องหมายภาพมาตรฐาน กฎจะถูกกำหนดโดยการร่วมมือของมนุษย์และปฏิบัติตามโดยผู้ทำเครื่องหมายภาพ ในสถานการณ์ที่วิจัยนี้เสนอแนะ ชั้นการกำกับดูแลเบื้องต้นจะถูกลบออกหรือลดลง: โดยพื้นฐานแล้ว ภาพใดๆ ที่อาจทำให้เกิดความไม่สบายใจแก่ใครก็ตามจะได้รับการทำเครื่องหมาย (ไม่ต้องสงสัยว่าอาจเป็นเพราะการร่วมมือเป็นทั้งยากและใช้เวลานาน)

การตัดสินของรอร์ชมัค

วัตถุประสงค์ของการทำเครื่องหมายภาพคือการบรรลุคำอธิบายหรือคำจำกัดความที่แม่นยำโดยการกำกับดูแลของผู้เชี่ยวชาญ การร่วมมือทั่วไประหว่างผู้ทำเครื่องหมายหลายคน หรือ (ในอุดมคติ) ทั้งสองอย่าง แทนที่จะขยายลำดับชั้นของอันตรายที่จำกัดแต่กำหนดไว้อย่างดีเป็นมุมมองที่ตีความส่วนตัวและเชิงบรรยากาศ คือการทำเครื่องหมายการทดสอบรอร์ชมัค

ตัวอย่างเช่น ผู้ทำเครื่องหมายบางคนตามที่วิจัยระบุว่าไดตีความคุณภาพภาพที่ไม่ดี (เช่น อาร์ติแฟคต์ JPEG และข้อบกพร่องทางเทคนิคที่ไม่มี意义ในภาพ) เป็น ‘น่ากลัว’ หรือ ‘บ่งบอกถึงอันตราย’:

‘สิ่งนี้เกิดขึ้นแม้ว่างานจะละเว้นคำแนะนำเกี่ยวกับคุณภาพของภาพด้วย ผู้ทำเครื่องหมายภาพตีความข้อบกพร่องด้านคุณภาพเหล่านี้ว่ามีความหมายเชิงซีแมนติก’

‘ผู้ทำเครื่องหมายภาพคนหนึ่งแสดงความคิดเห็นว่า “ภาพไม่เป็นอันตรายเลย เขาแค่มีใบหน้าที่บิดเบี้ยวเล็กน้อย” ในทางกลับกัน ผู้ทำเครื่องหมายภาพบางคนตีความคุณภาพภาพที่ไม่ดีเป็นอันตรายที่ตั้งใจไว้ โดยให้ความหมายทางอารมณ์กับข้อบกพร่อง สำหรับตัวอย่างเช่น ผู้ทำเครื่องหมายภาพคนหนึ่งเห็นใบหน้าที่บิดเบี้ยวในภาพอื่นเป็น “บ่งบอกถึงความเจ็บปวด”’

โดยการยกปฏิกิริยาทางอารมณ์เชิงส่วนตัวและเชิงบริบทเหนือหมวดหมู่ความปลอดภัยที่กำหนดไว้แล้ว แนวคิดที่นำเสนอที่นี่เปิดประตูสู่การปกครองโดยที่ อะไรๆ ก็สามารถถูกทำเครื่องหมายว่าเป็นอันตรายได้อย่างไม่สมเหตุสมผล และ ‘ผลกระทบการทำให้เย็นชา’ ของการถอดหรือการจำแนกเนื้อหาที่ไม่เหมาะสม (เช่น เนื้อหาที่ ‘รบกวน’ กลุ่มผลประโยชน์พิเศษ) จะกลายเป็นความเป็นไปได้จริง

วิจัย “เพียงแค่ภาพที่แปลก”: การประเมิน ‘ความปลอดภัย’ ในงานทำเครื่องหมายภาพความปลอดภัยของ GenAI จากมุมมองของผู้ทำเครื่องหมายภาพที่หลากหลาย สามารถ พบได้ที่ Arxiv

* ทางลัด เนื่องจากไม่ใช่หัวข้อหลักในที่นี้ ภายใต้กฎหมายใหม่ เว็บไซต์ที่ทำให้เกิดความไม่พอใจคาดว่าจะต้องตรวจสอบตนเอง ใช้ระบบการตรวจสอบและเทคโนโลยีการตรวจสอบอายุที่ซับซ้อนและแพง ซึ่งไม่สามารถเข้าถึงได้สำหรับเว็บไซต์ขนาดใหญ่ที่สุด หรือปิดโดเมนของตนเองจากผู้ชมในสหราชอาณาจักร (อีกครั้ง โดยใช้เงินของตนเอง)

† แสดงออกอย่างง่ายใน ‘มีเมมที่คิดถึงเด็กๆ’ ซึ่งล้อเลียนการยึดมั่นในความเป็นตัวแทนทางศีลธรรมของคนอื่นเพื่อวัตถุประสงค์ที่ดูเหมือนจะเห็นแก่ประโยชน์ส่วนรวม

ตีพิมพ์ครั้งแรกวันศุกร์ที่ 25 กรกฎาคม 2025