Biểu đồ rực rỡ có thể khiến ngay cả nghiên cứu ‘xấu’ cũng có vẻ đáng tin cậy

Nghiên cứu mới cho thấy việc thêm vào các biểu đồ phức tạp và tinh vi có thể khiến mọi người tin vào các quyết định thiên vị của trí tuệ nhân tạo, ngay cả khi chúng rõ ràng là không công bằng.

Mặc dù việc ‘làm mù người ta bằng khoa học’ đã có từ trước thời đại trí tuệ nhân tạo hiện nay, nhưng nó đang được hoàn thiện trong thời đại này – không chỉ vì sự tăng trưởng gần đây của các bài báo khoa học đã làm cho tỷ lệ tín hiệu trên nhiễu không thuận lợi, và ‘mẹo rẻ’ có thể trở nên phổ biến hơn.

Đúng với câu nói cũ ‘dối trá, dối trá và thống kê‘, công cụ trung tâm được sử dụng để lừa dối hoặc đánh lừa người đọc, khi trình bày các hệ thống mới và bằng chứng khoa học giải thích hoặc chứng minh các tuyên bố xung quanh chúng, là biểu đồ và hình ảnh hóa dữ liệu.

Trong một nghiên cứu năm 2019 về ảnh hưởng của biểu đồ đối với các tham gia ở nông thôn Pennsylvania, các tác giả của công việc đã quan sát thấy:

‘Những người bị ảnh hưởng bởi lạm dụng hoặc nghiện ngập thường bị thu hút bởi các biểu đồ đại diện cho các chất đó. Những người thường xác định chất lượng của một biểu đồ chứa thông tin địa lý dựa trên việc dễ dàng tìm thấy tiểu bang của họ.

‘Những người khác thường đánh giá cao các biểu đồ không dựa trên sự hiểu biết của họ, mà dựa trên khả năng được nhận thức của biểu đồ trong việc truyền đạt đến người khác.

‘Cuối cùng, một người tham gia thậm chí đã đề xuất rằng họ sẽ chú ý nhiều hơn đến các hình ảnh hóa từ các nguồn tin tức địa phương hơn là các nguồn tin tức quốc gia.’

Một số biểu đồ được hiển thị cho cư dân nông thôn Pennsylvania trong một nghiên cứu năm 2019. Nguồn

Hiệu ứng thôi miên của biểu đồ dữ liệu đang trở nên đặc biệt quan trọng trong thời đại học máy mới, nơi sự tự tin là điều quan trọng để duy trì nền kinh tế trí tuệ nhân tạo (và, có thể, để ngăn chặn một sự sụp đổ).

Nghiên cứu hợp tác năm 2024 giữa Mỹ và Anh đã giới thiệu ý tưởng về Trust Junk: một hình ảnh hóa XAI ‘không có kết nối có nghĩa với mô hình hoặc dữ liệu [và] được sử dụng để tăng cường sự tin tưởng’:

Từ bài báo ‘Trust Junk và Evil Knobs: Calibrating Trust in AI Visualization’, một ví dụ về dữ liệu được bóp méo để phục vụ một mục đích trước đó (phải), thay vì được hiển thị rõ ràng (trái). Cách tiếp cận này ‘khuyến khích sự phụ thuộc quá mức và làm cho người dùng bị choáng ngợp trong khi cung cấp một ảo giác về kiểm soát’, theo bài báo. Nguồn

Một nghiên cứu nhanh

Kể từ khi khái niệm Trust Junk được đề xuất, nó chưa được kiểm tra – một sự thiếu sót được giải quyết bởi một bài báo mới từ Mỹ, trong đó các tham gia được trình bày kết quả từ một nghiên cứu trí tuệ nhân tạo giả định, liên quan đến việc xác định ứng viên nào có khả năng vượt qua kỳ thi bar luật ở Mỹ.

Nếu nhìn kỹ, có thể thấy rằng tiêu chí lọc là a) tất cả nam giới da đen và b) mọi người khác – với dự đoán rằng tất cả nam giới da đen sẽ không vượt qua kỳ thi:

Từ bài báo mới: một kích thích được chú thích sử dụng trong các thí nghiệm của tác giả, hiển thị quyết định của mô hình (C) về việc liệu một ứng viên (B) sẽ vượt qua kỳ thi bar, cùng với các thành phần giải thích hoạt động như ‘trust junk’ (A, D, E, F). Mô hình là phân biệt, nhưng việc thêm nhiều thông tin giải thích không liên quan dẫn đến việc các tham gia đồng ý nhiều hơn với đầu ra của mô hình và đánh giá nó là công bằng. Nguồn

Hầu hết các tham gia đều đồng ý với dự đoán của mô hình và đánh giá nó là công bằng và đáng tin cậy, với sự đồng ý, tin tưởng và đánh giá công bằng tăng lên khi thêm nhiều biểu đồ và chi tiết không liên quan – ngay cả khi ít người nhận thấy sự thiên vị phân biệt chủng tộc rõ ràng.

Một số người dùng đã phản đối nghiên cứu, nhưng không phải vì lý do rõ ràng liên quan đến vấn đề trung tâm:

‘Chúng tôi đã ghi nhận 19 trường hợp tham gia mô tả mô hình của chúng tôi là công bằng (ví dụ, một tham gia nói: “Nó công bằng vì nó không có thiên vị chủng tộc hoặc giới tính.”). Tuy nhiên, các tham gia đôi khi cũng thể hiện sự không thoải mái với mô hình. Một tham gia nói rằng họ lo lắng về “loại bóng tối mà người ta có thể sử dụng nó cho”.

Tuy nhiên, trong ba nhóm nghiên cứu trong số các tham gia, mỗi nhóm được trình bày với lượng Trust Junk ngày càng lớn, không ai nhận ra vấn đề thực sự.

Các tác giả kết luận*:

‘Tóm lại, chúng tôi đã tìm thấy rằng Trust Junk đã hoạt động: các tham gia đã bị ‘làm dịu’ bởi thông tin không liên quan hoặc bị ‘làm cho vô cảm’ bởi lượng lớn dữ liệu trong các giải thích.

‘Tất cả sự thao túng và thuyết phục này xảy ra trong bối cảnh của một mô hình mà bề ngoài là công bằng nhưng sâu sắc là không công bằng, chính xác là trường hợp mà chúng tôi hy vọng XAI sẽ trao quyền cho khán giả không chuyên để đưa ra các phán quyết chính xác.’

Kể từ khi chúng ta đang được tư vấn để kiểm tra những gì AI đang nói với chúng ta (cho dù vì các động cơ tự phục vụ nghi ngờ, hoặc thông qua đầu ra có lỗi), chúng ta có thể muốn đào sâu hơn vào các tiêu đề và phân tích tài liệu nguồn của các bài báo nghiên cứu, báo cáo hàng quý của công ty và các định dạng thông tin không trung lập khác.

Tuy nhiên, liệu chúng ta có sẵn sàng để chú ý nhiều hơn đến các biểu đồ ‘làm dịu’ mang lại sự chính xác – hoặc ít nhất là để giảm giá trị của ‘hơi khí của tính xác thực’ mà một loạt biểu đồ có thể tạo ra?

Bài báo mới có tiêu đề “Trust Junk” Dẫn đến Hỗ trợ Không Chính đáng cho Các Mô hình Dự đoán Phân biệt, và đến từ ba nhà nghiên cứu tại Đại học Northeastern ở Boston, Massachusetts. Một trang web bổ sung cũng đã được tạo ra.

Phương pháp

Các tác giả đã thực hiện một thí nghiệm dựa trên đám đông (tức là các tham gia khác nhau được chỉ định cho các điều kiện khác nhau) về ‘trust junk’ trong các giải thích XAI, kiểm tra xem liệu việc thêm nhiều chi tiết kỹ thuật chính xác nhưng không liên quan có thể thuyết phục người dùng rằng một mô hình thiên vị là công bằng và hữu ích.

Các kích thích được dựa trên công việc trước đó, với các bảng điều khiển XAI kết quả kết hợp nhiều kỹ thuật giải thích vào một giao diện duy nhất.

Đối với mô hình thiên vị cao, các nhà nghiên cứu đã phát triển các giải thích ‘junk’ cho nghiên cứu, với các giải thích được chủ đề xung quanh các kỹ thuật trình bày dữ liệu ‘lừa đảo’:

‘Chúng tôi đã cung cấp một lượng thông tin quá mức cho nhiệm vụ phân loại nhị phân của mô hình. Việc chúng tôi bao gồm một lượng lớn chi tiết phức tạp nhưng cuối cùng là không liên quan được thiết kế để làm cho người dùng bị choáng ngợp chứ không phải cung cấp dữ liệu hữu ích.

‘Kỹ thuật này [đại diện] làm cho người dùng bị ‘làm cho vô cảm’ bởi việc không thể hiểu đầy đủ dữ liệu […].’

Nghiên cứu dựa trên các tranh cãi trước đó xung quanh việc chấm điểm AI trong các kỳ thi IB và A-level, sử dụng bộ dữ liệu Law School Admissions Bar Passage dataset, chứa dữ liệu nhân khẩu học, học thuật và kết quả cho 20.000 ứng viên từ 1991-1997.

Dữ liệu này được sử dụng để xây dựng một mô hình thiên vị có chủ ý, dự đoán thất bại cho các ứng viên nam da đen, trong khi tất cả các ứng viên khác đều được dự đoán sẽ vượt qua – nhưng mô hình vẫn đạt được độ chính xác 93,7%, do sự mất cân bằng lớp trên chủng tộc và giới tính.

Một chiến lược ‘làm chứng’ cũng được kiểm tra, với các tín hiệu ấn tượng bề mặt như một liên kết với một trường đại học danh tiếng, kích thước bộ dữ liệu và độ chính xác sai được thêm vào.

Ngoài ra, các biện pháp mà sẽ đã暴露 mô hình dựa vào chủng tộc và giới tính đã được loại bỏ, và chỉ có kết quả thuận lợi được trình bày. Một tập hợp nhỏ các ứng viên tương tự sau đó được trình bày cùng với kết quả thi thực tế của họ, thay vì dự đoán của mô hình – và điều này giúp che giấu mẫu nhất quán của việc thất bại được giao cho các ứng viên nam da đen.

Để进一步 định hình cách các tham gia diễn giải hệ thống, thông tin được trình bày theo cách khuyến khích họ hình thành các giải thích đơn giản nhưng sai về cách mô hình hoạt động. Chi tiết về tất cả các tính năng có sẵn được hiển thị, tạo ấn tượng rằng nhiều yếu tố ảnh hưởng đến quyết định, mặc dù chỉ chủng tộc và giới tính được sử dụng. Một sự nhấn mạnh vào các thuộc tính cá nhân cũng khuyến khích các tham gia xây dựng các câu chuyện sai nhưng hợp lý về lý do tại sao một ứng viên được dự đoán sẽ vượt qua hoặc không vượt qua kỳ thi.

Những ‘Nạn nhân’

Trong nhóm thử nghiệm, mỗi giải thích được chỉ định cho một trong ba mức Trust Junk trên ba điều kiện nghiên cứu: các tham gia trong điều kiện Baseline chỉ nhìn thấy thông tin cơ bản, một hồ sơ ứng viên và quyết định của mô hình; những người trong điều kiện Model cũng nhìn thấy thống kê độ chính xác; và những người trong điều kiện Everything được hiển thị thêm các biểu đồ phân phối tính năng và hồ sơ của các ứng viên tương tự được rút từ dữ liệu đào tạo.

Nghiên cứu đã được phê duyệt bởi một hội đồng xem xét và được thực hiện trên Prolific, với các tham gia được trả 15 đô la mỗi giờ, và được chỉ định ngẫu nhiên cho các điều kiện.

Mỗi tham gia đã xem xét tám hồ sơ ứng viên thi bar và đánh giá liệu họ sẽ vượt qua, với sự đồng ý được sử dụng làm thước đo tin cậy, tiếp theo là các câu hỏi để đánh giá sự tin tưởng và một mẫu cuối cùng gồm 28, 27 và 28 tham gia trong các điều kiện Baseline, Model và Everything.

Các tác giả cho rằng việc thêm nhiều thông tin dường như giàu thông tin nhưng cuối cùng là không liên quan có thể ‘làm sạch’ mô hình bằng cách tạo ra sự tự tin không đáng có vào đầu ra của nó. Họ dự đoán rằng các tham gia trong các điều kiện Model và Everything sẽ thể hiện sự đồng ý và nhận thức về công bằng, đáng tin cậy và hữu ích cao hơn so với những người trong điều kiện Baseline. Họ cũng phân tích các giải thích viết của các tham gia, để xem họ làm thế nào để hiểu được quyết định của mô hình, tập trung vào việc họ có nhận thấy sự thiên vị của mô hình hay không, hoặc các khoảng trống trong thông tin được cung cấp.

Kết quả thử nghiệm

Về việc đồng ý với mô hình, các tham gia đã xác định kết quả chính xác 66,6% thời gian, nhưng đồng ý với mô hình 73,9% thời gian – cho thấy xu hướng đi theo quyết định của mô hình ngay cả khi chúng sai. Hiệu ứng này được tăng cường khi thêm nhiều chi tiết giải thích, với điều kiện chi tiết nhất làm tăng sự đồng ý lên 82,6%, và tăng khả năng các tham gia sẽ sai lầm tuân theo mô hình:

Điểm số tổng hợp cho sự đồng ý (trái), tin tưởng (giữa) và sự hài lòng (phải); các tham gia trong điều kiện ‘Everything’, được tiếp xúc với nội dung giải thích bổ sung không liên quan đến công bằng, đã báo cáo điểm số cao hơn đáng kể trên tất cả các biện pháp, mặc dù mô hình vẫn không thay đổi và rõ ràng là không công bằng.

Đánh giá tin tưởng thay đổi đáng kể theo điều kiện, với các tham gia trong điều kiện Everything báo cáo mức độ tin tưởng cao hơn (M = 25,3) so với những người trong điều kiện Baseline (M = 16,8), trong khi điều kiện Model (M = 20,1) không khác biệt đáng kể so với bất kỳ điều kiện nào.

Sự hài lòng với giải thích khác nhau đáng kể theo điều kiện, với các tham gia trong điều kiện Everything báo cáo sự hài lòng cao hơn (M = 34,2) so với những người trong hai điều kiện còn lại (M = 26,4).

Các tham gia đánh giá công bằng bằng cách sử dụng bốn câu hỏi trên thang điểm bảy điểm, bao gồm thiên vị giới tính, thiên vị tổng thể và đạo đức, với không có sự khác biệt đáng kể nào giữa các điều kiện:

Phân phối đánh giá của người tham gia trên các điều kiện về công bằng trên chủng tộc và giới tính, sự vắng mặt của thiên vị và đạo đức tổng thể. Các mức độ chi tiết giải thích cao hơn được tìm thấy là liên quan đến các đánh giá công bằng và không thiên vị cao hơn một chút, mặc dù mô hình cơ bản vẫn không thay đổi và không công bằng.

Một sự khác biệt đã xuất hiện đối với công bằng trên chủng tộc, nơi nhóm Baseline đánh giá mô hình là không công bằng nhất (M = 3,9), trong khi cả nhóm Model và Everything đánh giá nó cao hơn (M = 4,8). Điều đáng lo ngại hơn là tỷ lệ lớn nhất của các tham gia đánh giá mô hình rõ ràng không công bằng là công bằng đến từ hai nhóm được hiển thị nhiều chi tiết giải thích nhất – những người cũng ít có khả năng nhận thấy thiên vị của nó.

Kiểm soát chất lượng

Các phản hồi định tính cho thấy rằng các tham gia được cung cấp ít thông tin nhất có nhiều khả năng nhận thấy các vấn đề với mô hình – đặc biệt là sự phụ thuộc của nó vào chủng tộc và giới tính. Họ cũng có nhiều khả năng nói rằng thông tin quan trọng thiếu.

Ngược lại, những người được hiển thị nhiều giải thích tinh vi hơn đã nêu lên những lo ngại này ít thường xuyên hơn. Tuy nhiên, chỉ có ba tham gia trên tất cả các điều kiện đã thể hiện sự hiểu biết một phần về các yếu tố chính dẫn đến quyết định của mô hình; và không ai nhận ra đầy đủ cách thức hoạt động của nó.

Biểu đồ thể hiện tần suất các tham gia báo cáo có thể có thiên vị chủng tộc hoặc giới tính và thông tin giải thích thiếu trên các điều kiện, với mức độ chi tiết giải thích cao hơn được liên kết với ít tham gia hơn nhận thấy thiên vị hoặc báo cáo thông tin thiếu – mặc dù mô hình chỉ dựa vào chủng tộc và giới tính.

Nhiều tham gia đã mô tả mô hình là cong bằng, với 19 phản hồi như vậy được ghi nhận, mặc dù sự thiên vị của nó.

Đồng thời, một số lo ngại cũng đã xuất hiện, với một số tham gia thể hiện sự quan ngại về cách một hệ thống như vậy có thể được sử dụng, và 15 phản hồi đặt câu hỏi về khả năng của mô hình trong việc nắm bắt được sự phức tạp của các ứng viên cá nhân.

Các tác giả tuyên bố:

‘Chỉ có một thiểu số tham gia mô tả mô hình là không công bằng hoặc thiên vị. Những tham gia ít ỏi đã báo cáo lo ngại về mô hình không thể nêu ra chính xác lý do tại sao mô hình bị lỗi, và trong sự vắng mặt của thông tin mô hình quan trọng, họ đã sử dụng lý luận không chính thức, thường là sai, để giải thích tại sao mô hình có thể sai hoặc không công bằng.’

Bài báo kết luận*^†:

‘Mặc dù một số vấn đề chúng tôi phát hiện có thể được giải quyết bằng cách tăng cường hiểu biết về dữ liệu trong khán giả, nhưng giáo dục alone không đủ (ngay cả những chuyên gia AI tự xưng cũng thường xuyên hiểu sai hoặc không hiểu các kỹ thuật XAI).

‘Chúng tôi lặp lại khẳng định của Hullman et al.: sự thành công của các giải thích AI chỉ có thể được đánh giá công bằng khi xem xét các mục tiêu của những giải thích đó.

‘Chúng tôi kêu gọi cộng đồng chú ý đến mục tiêu của các giải thích XAI và sức mạnh thuyết phục của chúng như những hiện tượng có tính thuyết phục nội tại.’

Kết luận

Khi mức độ mà các mô hình tiên phong có xu hướng ‘trang trí’ các tuyên bố bằng các biểu đồ giả mạo trở nên rõ ràng, thì cũng rõ ràng rằng không chỉ các biểu đồ được tạo bởi AI không nên được dựa vào để củng cố thẩm quyền, mà còn hiệu ứng ‘tràn ngập’ chung của các hình ảnh hóa là điều chúng ta nên bắt đầu giảm giá – giống như sự tin tưởng vào nhiếp ảnh đã bị xói mòn bởi sự ra đời của các hình ảnh giả tạo sâu.

Đây có thể là một sự phát triển đáng lo ngại, vì nó tạo ra một điểm ‘mệt mỏi’ khác trong ý chí của công chúng để đánh giá nghiêm ngặt những gì họ thấy và nghe trong truyền thông, và rủi ro một loại ‘sự đầu hàng cuối cùng’ trong thông tin sai lệch.

* Thay thế trích dẫn nội dòng của tác giả bằng liên kết.

^† Định dạng gốc của tác giả, không phải của tôi.

Được xuất bản lần đầu vào thứ hai, ngày 20 tháng 7 năm 2026