Những Nguy Cơ Của Việc Gán Nhãn Hình Ảnh Dựa Trên ‘Cảm Giác’

Mặc dù họ chỉ được trả một vài đô la (hoặc thậm chí không được trả), những người vô danh đánh giá hình ảnh về nội dung ‘gây tổn thương’ có thể thay đổi cuộc sống của bạn bằng những lựa chọn họ đưa ra. Giờ đây, một bài báo mới từ Google dường như đang đề xuất rằng những người gán nhãn này tạo ra自己的 quy tắc về việc gì là ‘gây tổn thương’ hoặc xúc phạm – bất kể phản ứng của họ đối với bất kỳ hình ảnh nào có thể kỳ lạ hoặc cá nhân như thế nào. Điều gì có thể đi sai?

Ý Kiến Tuần này, một sự hợp tác giữa Google Research và Google Mind đã tập hợp không dưới 13 người đóng góp để một bài báo mới khám phá liệu ‘cảm giác bản năng’ của những người gán nhãn hình ảnh nên được xem xét khi mọi người đánh giá hình ảnh cho các thuật toán, ngay cả khi phản ứng của họ không phù hợp với các tiêu chuẩn đánh giá đã thiết lập.

Điều này quan trọng đối với bạn, vì những gì các đánh giá viên và người gán nhãn tìm thấy xúc phạm theo quy tắc đồng thuận sẽ có xu hướng được ghi lại trong các hệ thống kiểm duyệt và điều tiết tự động, và trong các tiêu chí cho ‘nội dung khiêu dâm’ hoặc ‘nội dung không thể chấp nhận’ trong các đạo luật như tường lửa mới* của Vương quốc Anh (một phiên bản sẽ đến Úc sớm), và trong các hệ thống đánh giá nội dung trên các nền tảng truyền thông xã hội, trong số các môi trường khác.

Vì vậy, tiêu chí rộng hơn cho xúc phạm, mức độ kiểm duyệt tiềm năng càng rộng.

Kiểm Duyệt Dựa Trên ‘Cảm Giác’

Đó không phải là quan điểm duy nhất mà bài báo mới này đưa ra; nó cũng chỉ ra rằng những người đánh giá hình ảnh thường có xu hướng kiểm duyệt hơn đối với những gì họ nghĩ sẽ xúc phạm người khác ngoài bản thân; và rằng hình ảnh chất lượng thấp thường gây ra lo ngại về an toàn, mặc dù chất lượng hình ảnh không liên quan gì đến nội dung hình ảnh.

Vào kết luận, bài báo nhấn mạnh hai phát hiện này, như thể vị trí trung tâm của bài báo đã thất bại, nhưng các nhà nghiên cứu buộc phải xuất bản bất kể.

Mặc dù đó không phải là một kịch bản không phổ biến, nhưng bài báo cho thấy, khi đọc kỹ, một dòng chảy ngầm tinh vi hơn: rằng các thực tiễn gán nhãn có thể xem xét việc áp dụng những gì tôi chỉ có thể mô tả là gán nhãn dựa trên ‘cảm giác’:

‘Các phát hiện của chúng tôi cho thấy các khuôn khổ hiện có cần phải tính đến các chiều kích chủ quan và ngữ cảnh, chẳng hạn như phản ứng cảm xúc, phán quyết ngầm và diễn giải văn hóa về tổn thương. Việc sử dụng ngôn ngữ cảm xúc thường xuyên của người gán nhãn và sự khác biệt của họ với các nhãn tổn thương đã xác định trước đó nhấn mạnh các khoảng trống trong các thực tiễn đánh giá hiện tại.

‘Mở rộng các hướng dẫn gán nhãn để bao gồm các ví dụ minh họa về các diễn giải văn hóa và cảm xúc đa dạng có thể giúp giải quyết các khoảng trống này.’

Bài báo mới ít minh họa này dẫn đầu với các ví dụ không mơ hồ và đồng cảm với người đọc trung bình, mặc dù tài liệu cốt lõi mời nhiều câu hỏi hơn. Ở đây, dưới mỗi hình ảnh, chúng ta thấy các phản ứng cảm xúc của người gán nhãn được chỉ định cho các hình ảnh tương ứng. Nguồn: https://arxiv.org/pdf/2507.16033

Ban đầu, điều này nghe có vẻ như một đề xuất để mở rộng và lượng hóa tốt hơn những gì cấu thành ‘tổn thương’ trong một hình ảnh – một nhiệm vụ đáng khen ngợi; nhưng bài báo nhắc lại nhiều lần rằng điều này không mong muốn cũng không cần thiết:

‘Các phát hiện của chúng tôi cho thấy các khuôn khổ hiện có cần phải tính đến các chiều kích chủ quan và ngữ cảnh, chẳng hạn như phản ứng cảm xúc, phán quyết ngầm và diễn giải văn hóa về tổn thương. Việc sử dụng ngôn ngữ cảm xúc thường xuyên của người gán nhãn và sự khác biệt của họ với các nhãn tổn thương đã xác định trước đó nhấn mạnh các khoảng trống trong các thực tiễn đánh giá hiện tại.

‘Mở rộng các hướng dẫn gán nhãn để bao gồm các ví dụ minh họa về các diễn giải văn hóa và cảm xúc đa dạng có thể giúp giải quyết các khoảng trống này […]

‘[…] Quá trình mà người gán nhãn suy nghĩ về các hình ảnh模糊 thường phản ánh các quan điểm cá nhân, văn hóa và cảm xúc của họ, điều này khó có thể xây dựng hoặc tiêu chuẩn hóa.’

Thật khó để thấy làm thế nào ‘Mở rộng các hướng dẫn gán nhãn để bao gồm các ví dụ minh họa về các diễn giải văn hóa và cảm xúc đa dạng’ có thể phù hợp với một hệ thống đánh giá hợp lý; các tác giả đấu tranh để làm rõ điểm này, hoặc để xây dựng một lý thuyết riêng biệt, tấn công tài liệu nhiều lần, nhưng không bao giờ vượt qua nó. Trong khía cạnh này, chủ đề trung tâm của bài báo dường như được ‘tạo ra từ cảm giác’, ngay cả khi nó xử lý các tâm lý vô hình.

Một cách đơn giản, dường như việc mở rộng quá trình gán nhãn để bao gồm các tiêu chí của loại này có thể cho phép ‘hủy bỏ’ hoặc che giấu bất kỳ tài liệu nào (hoặc loại chủ đề) mà người gán nhãn có thể phản ứng mạnh mẽ.

Phán Quyết Nhị Nguyên

Mức độ mà hình ảnh và văn bản có thể gây tổn thương thực sự khó lượng hóa, không chỉ vì văn hóa cao thường giao nhau với ‘văn hóa thấp’ (ví dụ với nghệ thuật và tiểu thuyết), dẫn đến các tiêu chí kiểm duyệt đầu tiên dựa trên ‘cảm giác’: ngay cả khi tài liệu khiêu dâm thoát khỏi định nghĩa chính xác, bạn sẽ biết nó khi bạn thấy nó.

Dưới sự thảo luận rộng lớn và khám phá về sự đồng cảm và sắc thái định lượng của bài báo, công việc dường như im lặng tấn công quyền lực của các phân loại tập trung, tiêu chuẩn hóa (‘bạo lực’, ‘nudity’, ‘ghét’, v.v.) cho phép các nền tảng thực hiện và mở rộng kiểm duyệt với các biên độ lỗi có thể chấp nhận được (thường).

Luận điểm xuất hiện là chỉ có phản hồi con người chủ quan, nhận thức được ngữ cảnh và cảm xúc mới có thể đánh giá chính xác đầu ra của GenAI.

Tuy nhiên, điều này rõ ràng là không thể mở rộng quy mô, vì bạn không thể chạy một đường ống lọc hình ảnh một nghìn tỷ với ‘cảm giác’ và kinh nghiệm sống. Một người phải lượng hóa tổn thương thành các thuộc tính đa dạng; đặt giới hạn về phạm vi của hệ thống lọc kết quả; và chờ đợi các chỉ thị mới trong các ‘trường hợp biên’ (giống như các bên bị ảnh hưởng phải chờ đợi việc ban hành các luật mới giải quyết các tình huống cụ thể của họ).

Thay vào đó, bài báo mới trình bày một yêu cầu ngầm cho một đường ống kiểm duyệt tự động mở rộng phạm vi tự động, và sai sót quá nhiều về phía thận trọng đến mức ngay cả phản ứng đặc biệt và không thể tái tạo của người gán nhãn cũng có thể phạt một hình ảnh đã không xúc phạm bất kỳ ai khác.

Mở Rộng Đạo Đức

Mặc dù bài báo nghiêng về việc khám phá hơn là đưa ra một quan điểm chắc chắn, nó bao gồm các yếu tố của phương pháp khoa học: các tác giả đã phát triển một khuôn khổ để xác định (mặc dù không đo lường nghiêm ngặt) một phổ rộng hơn của phản ứng của người gán nhãn với hình ảnh, và để kiểm tra cách các phản ứng này thay đổi qua các yếu tố nhân khẩu học khác nhau.

Bên cạnh phân tích tập trung vào tổn thương^† của các thử nghiệm, quá trình này đã phân tích ‘lý luận đạo đức’ trong các bình luận phụ của các tham gia thử nghiệm, những người được yêu cầu gán nhãn một tập dữ liệu thử nghiệm đã sửa đổi chứa hình ảnh và văn bản/prompt liên quan.

‘Bộ tạo tự động cảm xúc đạo đức’ này được thiết kế để bắt捉 các giá trị đạo đức Chăm sóc, Bình đẳng, Tỷ lệ, Trung thành, Quyền lực, và Thuần khiết, như được định nghĩa trong Lý thuyết Nền tảng Đạo đức – một lý thuyết tâm lý học mà, do bản chất lưu động và phát triển của nó, là đối lập với việc tạo ra các định nghĩa cụ thể cần thiết cho các hệ thống đánh giá của con người quy mô lớn.

Được thông tin bởi lý thuyết này, các chiều kích an toàn bổ sung được các tác giả phân loại, bao gồm sợ hãi, giận dữ, buồn, ghê tởm, bối rối, và không quen thuộc.

Các tác giả làm rõ về cái đầu tiên, sợ hãi:

‘Nhiều người gán nhãn sử dụng các thuật ngữ như “scary” (ví dụ, đối với các khuôn mặt bị biến dạng hoặc hình ảnh gợi ý bạo lực như một khẩu súng chỉ vào một đứa trẻ), “disturbing” (ví dụ, “Absolutely vile để xem ai đó bị tông, rất gây khó chịu và làm phiền”, hoặc “Gây khó chịu và trông giống như máu” đối với sơn đỏ), hoặc “upsetting” (ví dụ, “Hình ảnh của cậu bé có nhiều biến dạng… Tôi thấy nó không ngon vì nó có vẻ như cậu bé đang chơi ở phía bên kia của đường ray”).

‘[Biểu đồ dưới] lượng hóa “sợ hãi” là cảm xúc được đề cập thường xuyên nhất (233 đề cập trong khi gần một nửa trong số này được liên kết với nội dung bạo lực, nội dung được coi là không gây hại cũng gây ra đề cập nhiều nhất về sợ hãi).’

Phân phối các thuật ngữ liên quan đến cảm xúc qua các loại tổn thương, với chiều cao của thanh chỉ định tỷ lệ của các bình luận, số lượng được hiển thị trong thanh, và tổng số bình luận được hiển thị trên mỗi loại.

Về việc bao gồm các chiều kích an toàn mới này, các tác giả tuyên bố:

‘Những chủ đề mới nổi này nhấn mạnh nhu cầu quan trọng để làm giàu các khuôn khổ đánh giá hình ảnh AI bằng cách tích hợp các yếu tố chủ quan, cảm xúc và nhận thức.’

Điều này có thể là một con đường nguy hiểm để đi, vì nó dường như cho phép các quy trình gán nhãn thêm các quy tắc một cách tùy tiện dựa trên các phản ứng mà tài liệu có thể gây ra ở bất kỳ người gán nhãn nào, thay vì yêu cầu tất cả người gán nhãn tuân theo các tiêu chuẩn và chuẩn mực đã thiết lập.

Nếu có thể quy cho ý tưởng này một yêu cầu kinh tế, đó là phương pháp này cho phép gán nhãn của con người siêu quy mô, trong đó quá trình này không có ma sát, các tham gia tự điều chỉnh, và họ tự quyết định các quy tắc và ranh giới là gì.

Dưới sự gán nhãn tiêu chuẩn, các quy tắc được đưa ra bởi sự đồng thuận của con người và được tuân theo bởi người gán nhãn; dưới kịch bản được hình dung trong bài báo, lớp giám sát ban đầu này đã bị loại bỏ hoặc hạ cấp: hiệu quả bất kỳ hình ảnh nào có thể gây xúc phạm cho bất kỳ ai sẽ bị gắn cờ (không chỉ có thể vì sự đồng thuận là tốn kém cũng như tốn thời gian).

Phán Quyết Rorschach

Mục đích của việc gán nhãn là để đạt được một mô tả hoặc định nghĩa chính xác thông qua giám sát của chuyên gia, sự đồng thuận chung giữa nhiều người gán nhãn, hoặc (lý tưởng nhất) cả hai. Thay vào đó, việc mở rộng một hệ thống các tổn thương hạn chế nhưng được xác định rõ ràng thành một quan điểm giải thích chủ quan và cá nhân cao là tương đương với việc gán nhãn cho một thử nghiệm Rorschach.

Ví dụ, một số người gán nhãn, như bài báo lưu ý, đã giải thích chất lượng hình ảnh kém (chẳng hạn như tác phẩm JPEG, cũng như các khiếm khuyết kỹ thuật vô nghĩa trong một hình ảnh) là ‘gây khó chịu’ hoặc ‘gợi ý về tổn thương’:

‘Điều này xảy ra mặc dù nhiệm vụ bỏ qua các hướng dẫn về chất lượng hình ảnh. Hơn nữa, người gán nhãn đã giải thích các tác phẩm chất lượng như có ý nghĩa về mặt ngữ nghĩa.’

‘Một người gán nhãn nhận xét, “Hình ảnh không gây hại chút nào; anh ấy chỉ có một chút khuôn mặt bị biến dạng.” Bằng cách tương tự, một số người gán nhãn đã giải thích các tác phẩm chất lượng hình ảnh như có ý nghĩa về mặt cảm xúc. Ví dụ, một người gán nhãn khác đã giải thích một khuôn mặt bị biến dạng trong một hình ảnh khác là “gợi ý về đau đớn”’

Bằng cách nâng cao các phản ứng chủ quan, cảm xúc hoặc ngữ cảnh cụ thể trên các loại tổn thương an toàn đã xác định trước, các ý tưởng được trình bày ở đây mở cửa cho một chế độ trong đó bất cứ điều gì có thể được gắn cờ một cách tùy tiện là có hại, và trong đó một ‘hiệu ứng làm mát’ của việc gỡ bỏ hoặc phân loại lại tài liệu một cách tùy tiện (tức là tài liệu có thể ‘xúc phạm’ một nhóm lợi ích đặc biệt) trở thành một triển vọng thực sự.

Bài báo “Just a strange pic”: Đánh giá ‘an toàn’ trong các nhiệm vụ gán nhãn hình ảnh GenAI từ quan điểm của các người gán nhãn đa dạng có thể được tìm thấy tại Arxiv.

* Một lối tắt, vì nó không phải là chủ đề trung tâm ở đây; theo luật mới, các trang web gây xúc phạm được yêu cầu phải tự kiểm duyệt; áp dụng các hệ thống xem xét và công nghệ kiểm tra tuổi phức tạp và tốn kém mà chỉ các trang web lớn nhất mới có thể tiếp cận; hoặc chặn các tên miền của họ khỏi khán giả Vương quốc Anh (một lần nữa, tại chi phí của họ).

† Được thể hiện một cách đơn giản trong meme ‘nghĩ về trẻ em’, điều này chế giễu việc chiếm đoạt quyền lực đạo đức của người khác vì những lý do dường như là nhân đạo.

Được xuất bản lần đầu vào thứ Sáu, ngày 25 tháng 7 năm 2025