Cách Facebook Sử Dụng Trí Tuệ Nhân Tạo Lan Truyền Thông Tin Sai và Đe Dọa Dân Chủ

Dan Tunkelang, người từng giám sát nghiên cứu trí tuệ nhân tạo tại LinkedIn, đã tuyên bố: “Khi các khuyến nghị có sức mạnh ảnh hưởng đến quyết định, chúng trở thành mục tiêu của những kẻ gửi thư rác, lừa đảo và những người có động cơ không cao尚.”

Đây là tình huống mà các công ty truyền thông xã hội như Facebook đang gặp phải. Facebook sử dụng phản hồi ngầm để theo dõi các lần nhấp, xem và các hành vi người dùng có thể đo lường được khác. Điều này được sử dụng để thiết kế cái được gọi là “động cơ khuyến nghị”, một hệ thống trí tuệ nhân tạo có quyền lực tối cao trong việc quyết định ai xem nội dung nào và khi nào.

Facebook đã tối ưu hóa động cơ khuyến nghị của mình để tối đa hóa sự tham gia của người dùng, được đo lường bằng thời gian người dùng dành trên nền tảng Facebook. Việc tối đa hóa thời gian có ưu tiên hơn bất kỳ biến số nào khác, bao gồm cả chất lượng hoặc độ chính xác của nội dung được khuyến nghị.

Hệ thống được thiết kế để thưởng cho các tiêu đề gây sốc, thu hút người dùng bằng cách khai thác thiên vị nhận thức, ngay cả khi những tiêu đề đó được viết bởi các troll Nga với ý định chia rẽ xã hội hoặc ảnh hưởng đến các cuộc bầu cử chính trị.

Cách Facebook Sử Dụng Trí Tuệ Nhân Tạo

Không có sự nhận thức về cách Facebook sử dụng trí tuệ nhân tạo để quyết định nội dung nào sẽ được hiển thị và tương tác với người dùng. Để hiểu điều này, trước tiên chúng ta phải hiểu thiên vị xác nhận là gì. Psychology Today mô tả điều này như sau:

Thiên vị xác nhận là xu hướng tìm kiếm, giải thích, ủng hộ và nhớ lại thông tin theo cách xác nhận hoặc hỗ trợ niềm tin hoặc giá trị trước đó của một người.

Facebook hiểu rằng người dùng có nhiều khả năng nhấp vào tin tức phù hợp với thiên vị xác nhận của con người. Điều này tạo ra một tiền lệ nguy hiểm cho cả việc lan truyền các thuyết âm mưu và tạo ra các phòng echo, nơi người dùng được cho ăn độc quyền những gì họ muốn xem, bất kể độ chính xác hoặc tác động xã hội của nội dung được hiển thị.

Một nghiên cứu của MIT đã chứng minh rằng tin giả trên Twitter lan truyền nhanh hơn 6 lần so với tin thật.

Điều này có nghĩa là cả Twitter và Facebook có thể bị vũ khí hóa. Trong khi Twitter cho phép bất kỳ ai theo dõi các nguồn cấp dữ liệu có quan điểm hẹp hoặc thiên vị, Facebook lại đi xa hơn. Người dùng trên Facebook hiện không có cách nào để kiểm soát hoặc đo lường nội dung được hiển thị, điều này được kiểm soát hoàn toàn bởi động cơ khuyến nghị của Facebook, cách nó đo lường sự tham gia của người dùng và cách nó tối ưu hóa cho sự tham gia đó.

Facebook cố gắng định hình và dự đoán mong muốn của người dùng. Facebook ước tính mức độ người dùng sẽ thích hoặc không thích một mục tin tức mà người dùng chưa trải nghiệm. Để tránh mất sự tham gia của người dùng, Facebook sau đó chọn bỏ qua các mục tin tức có thể giảm mức độ tham gia và chọn tham gia người dùng bằng cách cho họ xem các mục tin tức phù hợp với thiên vị xác nhận, đảm bảo nhiều lần nhấp, bình luận, thích và chia sẻ hơn.

Facebook cũng sử dụng lọc cộng tác tự động của các hành động và quan điểm lịch sử của người dùng để tự động匹配 các tham gia (bạn bè) có quan điểm tương tự. Facebook sử dụng một hàm tiện ích tự động và toán học dự đoán và xếp hạng sở thích của người dùng cho các mục họ muốn xem.

Điều này khiến người dùng rơi vào một cái hố thỏ, họ bị mắc kẹt trong tin giả, được cho ăn nội dung củng cố thiên vị của họ. Nội dung được trình bày vốn được thiết kế với mục đích ảnh hưởng đến những gì người dùng nhấp vào. Nếu người dùng tin vào thuyết âm mưu rằng Bill Gates đang cố gắng vi mạch hóa dân số bằng cách sử dụng vắc xin, tại sao Facebook lại trình bày cho họ bằng chứng trái ngược có thể khiến họ rời khỏi nền tảng?

Facebook cũng tham gia vào cái được gọi là “bằng chứng xã hội”. Bằng chứng xã hội là khái niệm rằng con người sẽ theo dõi hành động của đám đông. Ý tưởng là vì nhiều người khác hành động theo một cách nhất định, nó phải là hành động đúng.

Facebook cung cấp bằng chứng xã hội trong bối cảnh lượt thích, bình luận hoặc chia sẻ. Vì chỉ một số bạn bè có thể xem mục tin tức (trừ khi họ tìm kiếm mục tin tức của người dùng), bằng chứng xã hội đơn giản chỉ củng cố thiên vị xác nhận.

Facebook cũng sử dụng bong bóng lọc để hạn chế tiếp xúc với các quan điểm mâu thuẫn, trái ngược và thách thức.

Quảng Cáo Facebook

Người dùng Facebook không nghi ngờ có thể nhấp vào quảng cáo mà không biết rằng họ đang được trình bày với quảng cáo. Lý do là đơn giản, nếu có một quảng cáo, chỉ người dùng đầu tiên được trình bày với quảng cáo sẽ thấy quảng cáo. Nếu người dùng đó chia sẻ quảng cáo, mọi người trong danh sách bạn bè của họ chỉ thấy “chia sẻ” như một mục tin tức, vì Facebook cố ý bỏ qua quảng cáo.

Chia Sẻ Facebook

Thật không may, mọi thứ trở nên tồi tệ hơn. Nếu một người dùng có 1000 bạn bè đồng thời chia sẻ nội dung, động cơ khuyến nghị sẽ ưu tiên nội dung từ thiểu số có cùng quan điểm, ngay cả khi những quan điểm này thường bao gồm các thuyết âm mưu chưa được chứng minh. Người dùng sau đó sẽ bị lừa tưởng rằng những mục tin tức này được mọi người xem.

Khi người dùng tương tác với mục tin tức này, họ đang tối ưu hóa bằng chứng xã hội của nhau. Nếu một người dùng cố gắng làm sáng tỏ một người dùng khác về một mục tin tức sai lệch hoặc giả, hành động bình luận hoặc tương tác với mục tin tức chỉ đơn giản tăng thời gian tham gia của người dùng ban đầu.

Điều này tạo ra một phòng echo, một bong bóng lọc nơi người dùng được đào tạo để chỉ tin vào những gì họ thấy. Sự thật đơn giản là một ảo tưởng.

Tính Nghiêm Của Vấn Đề

Hơn 10 triệu người tương tác với một mục tin tức cho rằng Giáo hoàng Francis đã ủng hộ việc bầu cử của Trump vào năm 2016. Không có bằng chứng về việc này, nó chỉ là một câu chuyện giả được tạo ra từ Nga, nhưng đây là câu chuyện được chia sẻ nhiều nhất trên Facebook trong ba tháng trước cuộc bầu cử năm 2016.

Mục tin tức này được tạo ra bởi một trang trại troll Nga tự xưng là “Cơ quan Nghiên cứu Internet”. Tổ chức này cũng chịu trách nhiệm quảng bá và chia sẻ trên Twitter và Facebook các bài viết gây chia rẽ chủng tộc, ủng hộ việc chống lại phong trào Black Lives Matter và vũ khí hóa các mục tin tức giả lan truyền các tuyên bố sai về các chính trị gia Mỹ.

Uỷ ban Tình báo Thượng viện đã phát hành một báo cáo 85 trang chi tiết về các chiến dịch và can thiệp của Nga, phần lớn trong số đó liên quan đến việc lan truyền tin giả và tuyên truyền có ý định ảnh hưởng đến cuộc bầu cử năm 2016 của Mỹ.

Chuyển sang cuộc bầu cử năm 2020 và vấn đề đã trở nên tồi tệ hơn. Vào tháng 9 năm 2020, sau một gợi ý của FBI, Facebook và Twitter đã chấm dứt các tài khoản truyền thông xã hội cho một tổ chức truyền thông có tên là PeaceData, được liên kết với nỗ lực tuyên truyền của nhà nước Nga.

Thật không may, việc chấm dứt tài khoản là một giải pháp tạm thời và không hiệu quả. Các tài khoản Nga thường dưới dạng yêu cầu kết bạn, thường bị thu hút bởi phụ nữ có hồ sơ hấp dẫn nhắm vào nam giới, hoặc tài khoản người dùng bị hack với lịch sử đăng bài thường xuyên. Những tài khoản bị hack này dần chuyển sang các bài đăng chính trị hơn, cho đến khi chúng bị chi phối bởi tuyên truyền hoặc các thuyết âm mưu.

Một người dùng không nghi ngờ có thể không biết rằng tài khoản của một người bạn đã bị xâm phạm. Nếu người dùng đó dễ bị ảnh hưởng bởi các thuyết âm mưu, họ có thể tương tác với mục tin tức giả, troll Nga thường là một bot, sau đó cung cấp thêm bằng chứng xã hội dưới dạng lượt thích hoặc bình luận.

Người dùng dễ bị tổn thương thường là những người ít hiểu biết về công nghệ và trí tuệ nhân tạo. Dân số trên 65 tuổi, những người có khả năng bỏ phiếu cao nhất, cũng là những người có khả năng lan truyền tin giả nhiều nhất, như được báo cáo bởi New York Times.

Theo một nghiên cứu, người dùng Facebook từ 65 tuổi trở lên đã đăng bài từ các trang web tin giả gấp 7 lần so với người dùng từ 29 tuổi trở xuống. Sự thiếu hiểu biết về truyền thông kỹ thuật số đã khiến nhóm tuổi này không chuẩn bị để đối mặt với một nguồn cấp tin không dựa trên事实 hoặc độ chính xác, mà chỉ dựa trên sự tham gia của người dùng.

Những kẻ xấu đang lợi dụng động cơ khuyến nghị của Facebook, khai thác thiên vị nhận thức của chúng ta. Những tổ chức này đã tối ưu hóa việc lạm dụng trí tuệ nhân tạo của Facebook để lan truyền các thuyết âm mưu và tuyên truyền. Các thuyết âm mưu có vẻ vô hại ban đầu thường được sử dụng như một cái phễu dẫn đến chủ nghĩa tối cao da trắng, chủ nghĩa quốc gia cực hữu hoặc QAnon, một thuyết âm mưu kỳ lạ liên quan đến việc Trump cố gắng cứu thế giới khỏi những kẻ ấu dâm tự do, một thuyết âm mưu không có cơ sở thực tế.

Tổng Kết

Facebook rõ ràng nhận thức được rằng có một vấn đề và họ đã công khai đưa ra một chiến lược tập trung vào việc loại bỏ nội dung vi phạm Tiêu chuẩn Cộng đồng của Facebook. Vấn đề là việc xóa tài khoản chỉ là một biện pháp tạm thời và không hiệu quả khi các tài khoản được tạo ra hàng loạt bởi bot hoặc việc hack hàng loạt tài khoản người dùng. Điều này cũng không giải quyết được vấn đề rằng hầu hết việc chia sẻ là do người dùng thường không biết rằng họ đang lan truyền thông tin sai lệch.

Thêm nhãn cảnh báo chỉ служ để củng cố các thuyết âm mưu rằng các gã khổng lồ truyền thông xã hội có thiên vị chống lại những người bảo thủ, những người dễ bị ảnh hưởng bởi tin giả nhất.

Giải pháp cần phải là một động cơ khuyến nghị mới, không chỉ đo lường sự tham gia của người dùng mà còn tối ưu hóa cho hạnh phúc của người dùng bằng cách cung cấp sự thật và tăng cường nhận thức tự giác.

Trong lúc đó, Facebook nên theo đuổi con đường mà Twitter đã thực hiện để cấm quảng cáo chính trị.

Cuối cùng, một câu hỏi quan trọng cần được đặt ra. Nếu người dùng không còn có sự lựa chọn về tin tức họ xem, thì khi nào nó ngừng là một khuyến nghị và khi nào nó trở thành kiểm soát tâm trí?

Đọc thêm:

Chiến Dịch và Can Thiệp Hoạt Động của Nga – Báo cáo của Uỷ ban Tình báo Thượng viện Hoa Kỳ.

Báo Cáo Sốc Dự Đoán Kết Thúc của Dân Chủ – của Rick Shenkman, người sáng lập Mạng lưới Tin tức Lịch sử của Đại học George Washington.

Người Già Chia Sẻ Tin Giả Trên Facebook Nhiều Hơn – của New York Times.