Định nghĩa lại sân chơi kỹ thuật số: Một cuộc thập tự chinh vì an toàn cho giới trẻ trên mạng xã hội

Các phiên điều trần gần đây của Thượng viện về mạng xã hộiđã diễn ra đầy gay gắt và hấp dẫn. Các thượng nghị sĩ đã đối mặt với các CEO từ các công ty lớn như Meta, X, TikTok, Snap và Discord, đặt ra những câu hỏi khó và yêu cầu họ phải chịu trách nhiệm về tác động của các nền tảng đối với người dùng trẻ. Những câu chuyện đầy cảm xúc từ các phụ huynh ngồi sau các nhà lãnh đạo công nghệ, những người đã mất con do sử dụng mạng xã hội, đã tạo ra một bối cảnh đầy cảm động và bi thảm cho các cuộc thảo luận.

Các công ty mạng xã hội đang bị chỉ trích vì sự thờ ơ của họ đối với những tổn hại mà họ gây ra. Những hậu quả của hoạt động của họ bao gồm các vấn đề nghiêm trọng như bắt nạt, tự tử ở tuổi teen, rối loạn ăn uống, hành vi bạo lực và cực đoan, trong số những vấn đề khác.

Để đáp ứng những lo ngại bức xúc này, Thượng viện đã chủ động soạn thảoĐạo luật An toàn Trẻ em Trực tuyến (KOSA), một đạo luật toàn diện nhằm giải quyết các nguy cơ mà trẻ em phải đối mặt trực tuyến. Đạo luật này, kết quả của nhiều năm thảo luận và sửa đổi, đại diện cho một nỗ lực lập pháp nhằm buộc các công ty mạng xã hội phải chịu trách nhiệm hơn về sự an toàn và благополучие của người dùng trẻ nhất.

Nhưng liệu điều này có đủ?

Không phải là bước ngoặt, nhưng là bước đầu tiên đáng tin cậy

Không cần phân tích chi tiết KOSA, rõ ràng đạo luật này đưa ra các biện pháp sáng tạo, đáng chú ý là định nghĩa “trách nhiệm chăm sóc” yêu cầu các nền tảng giảm thiểu rủi ro cho trẻ em. Tuy nhiên, phạm vi của KOSA còn hạn chế.

Nếu Quốc hội thông qua KOSA mà không có hành động tiếp theo, những khiếm khuyết của nó có thể cho phép các tác động tiêu cực của mạng xã hội đối với người dùng trẻ tiếp tục lan rộng. Cụ thể, KOSA không ngăn chặn người lớn nhắm vào trẻ em thông qua các nền tảng này, vì nó chỉ hạn chế nội dung người lớn cho người dùng được xác định là trẻ em, mà không thực hiện xác minh tuổi bắt buộc – một điều khoản có thể gây ra nhiều tranh cãi.

Mặc dù có những hạn chế, KOSA vẫn đại diện cho một bước đầu tiên tích cực hướng tới bảo vệ trẻ em trực tuyến. Những khiếm khuyết của nó không phải là không thể khắc phục. Điều quan trọng là đạo luật này nên được xem không phải là giải pháp cuối cùng mà là bước đầu tiên của một nỗ lực lâu dài, đa năm nhằm cải cách các hoạt động của mạng xã hội và giảm thiểu tác động có hại của chúng đối với trẻ em. Hành trình hướng tới một môi trường trực tuyến an toàn hơn cho trẻ em đòi hỏi hơn một nỗ lực lập pháp đơn lẻ; nó đòi hỏi sự cam kết và thích nghi liên tục.

Sự phản đối mạnh mẽ là điều territory

KOSA bắt đầu ở nơi đúng, Quốc hội Hoa Kỳ. Nhưng考虑 đến phạm vi toàn cầu của các nền tảng này, việc quản lý hiệu quả sẽ đòi hỏi sự hỗ trợ của liên bang và xuyên quốc gia, như của Liên minh Châu Âu, để đảm bảo sự giám sát toàn diện. Không có sự hỗ trợ lập pháp như vậy, có thể các nền tảng xã hội sẽ không tự nguyện thực hiện các thay đổi có thể làm giảm chỉ số tương tác của họ trong số người dùng trẻ.

Lập pháp liên bang, ngay cả ở mức độ khiêm tốn, cung cấp một cách tiếp cận thống nhất hơn so với một tập hợp rời rạc của các luật tiểu bang, điều này có thể cho phép các tổng chưởng lý theo đuổi các mục tiêu chính trị. Một khuôn khổ liên bang đảm bảo một sân chơi bình đẳng cho tất cả các nền tảng trên các tiểu bang, ngăn chặn các công ty tuân thủ phải đối mặt với những bất lợi cạnh tranh. Tuy nhiên, việc soạn thảo luật như vậy là một quá trình tinh tế, vì nó phải chịu được các thách thức pháp lý từ các bên khác nhau, bao gồm cả các nhà hoạt động quyền, các công ty mạng xã hội lớn và các nhà cung cấp nội dung người lớn, tất cả những người này đều sẵn sàng bảo vệ lợi ích của mình một cách mạnh mẽ.

Thử thách của việc ngăn chặn phản ứng pháp lý trở nên phức tạp hơn do sự miễn cưỡng của các bên liên quan trong việc妥协. Một chiến lược táo bạo, mặc dù có thể hiệu quả, có thể liên quan đến việc buộc một cuộc đối thoại giữa các bên đa dạng, như ACLU, các nhà hoạt động quyền, các luật sư hiến pháp và các nhà vận động an toàn cho trẻ em, với chỉ đạo rằng không ai được rời đi cho đến khi đạt được sự đồng thuận.

Câu hỏi về cách luật nên quản lý việc sử dụng công nghệ để xác minh tuổi hoặc danh tính là then chốt. So sánh mạng xã hội với các tiện ích nhấn mạnh luận điểm về sự quản lý nghiêm ngặt: trong khi chúng cung cấp các dịch vụ thiết yếu, chúng cũng đặt ra những rủi ro đáng kể. Tương tự này mời gọi một sự đánh giá lại vai trò và chức năng của mạng xã hội, đặc biệt là khi các thuật toán có thể dẫn người dùng, đặc biệt là trẻ em, đến những không gian trực tuyến tiêu cực và rủi ro, thúc đẩy bởi việc theo đuổi sự tương tác và doanh thu quảng cáo cao hơn. Điều này có thể dẫn đến việc trẻ em tự cô lập mình trong các phòng chờ trực tuyến làm trầm trọng thêm thù hận và bất mãn, xa rời họ khỏi những quan điểm lành mạnh hơn.

Nhưng sự thay đổi lớn trong mạng xã hội sẽ không xảy ra trong một sự kiện đơn lẻ. KOSA đại diện cho một bước đầu tiên quan trọng, nhưng nó chỉ là một phần trong một câu đố phức tạp. Nó có tiềm năng mang lại sự thay đổi, nhưng nó sẽ xảy ra theo từng giai đoạn.

Đây là một cuộc marathon, không phải một cuộc đua ngắn

Sự phức tạp của việc đảm bảo an toàn trực tuyến đồng thời duy trì các quyền tự do hiến pháp là phức tạp.

Sự hợp tác,妥协 và xây dựng đồng thuận sẽ là then chốt cho sự thành công của KOSA. Đó là một mục tiêu đáng kính, nhưng đạt được sự đồng thuận trong một bước duy nhất là không thể. Một kỳ vọng thực tế hơn là KOSA sẽ trải qua sự tinh chỉnh và cải tiến liên tục thông qua các bản cập nhật hàng năm. Những điều chỉnh này sẽ được thông tin bởi kinh nghiệm của năm trước, thích nghi với sự thay đổi của công nghệ, mô hình lạm dụng và cho phép ngành công nghiệp có đủ thời gian để thích nghi với các quy định mới.

Ideally, vòng đầu tiên, KOSA 2024, sẽ bao gồm xếp hạng nội dung, xác minh tuổi và opt-out/in, cảnh báo và kiểm duyệt bằng cách chỉ định:

• Nội dung nào là không thể chấp nhận được và/hoặc bất hợp pháp;
• Nội dung nào có thể và phải được chặn bởi các nền tảng;
• Cách chính xác để dán nhãn nội dung độc hại nhưng không thể chặn;
• Cách cảnh báo người dùng và phụ huynh, và những rào cản nào để đặt xung quanh nội dung nhạy cảm;
• Cài đặt mặc định opt-out (khối nội dung).

Cải cách thuật toán: tranh cãi nhưng có thể chuyển đổi

Giai đoạn tiếp theo của KOSA vào năm 2025 sẽ tập trung vào việc tăng cường trách nhiệm và thiết lập các hình phạt nghiêm ngặt hơn cho các nền tảng và cá nhân tham gia hoặc tạo điều kiện cho các hoạt động bất hợp pháp. Điều này nhằm mục đích không chỉ ngăn chặn sự lan truyền của nội dung bất hợp pháp mà còn giải quyết các hành vi góp phần vào cuộc khủng hoảng sức khỏe tâm thần ở giới trẻ, chẳng hạn như việc cuộn chuột quá mức và sa vào môi trường trực tuyến có hại.

Nhìn xa hơn, các phiên bản tiếp theo có thể đánh dấu một sự thay đổi quan trọng trong hoạt động của các nền tảng mạng xã hội, có thể tập trung vào “đảo ngược các thuật toán” hiện đang hướng dẫn người dùng, đặc biệt là trẻ em, đến những không gian trực tuyến tiêu cực và rủi ro. Mục tiêu ở đây không chỉ là ngăn chặn việc tiếp xúc với nội dung độc hại mà còn tích cực hướng dẫn người dùng đến những tương tác an toàn và tích cực hơn trực tuyến.

Mặc dù có thể gây tranh cãi, việc đảo ngược các thuật toán mở ra một con đường cho các nền tảng tái phát minh mình. Bằng cách dự đoán những thay đổi này, các công ty mạng xã hội có thể chuẩn bị để thích nghi với các mô hình kinh doanh của họ. Mục tiêu là vẫn duy trì lợi nhuận trong khi tạo ra một môi trường ưu tiên sự благополучие của người dùng, đặc biệt là đối với thế hệ trẻ. Chiến lược này gợi ý một kịch bản đôi bên cùng có lợi: bảo vệ sức khỏe tâm thần của người dùng và đảm bảo sự bền vững lâu dài của các nền tảng xã hội bằng cách tạo ra một cộng đồng trực tuyến lành mạnh và hấp dẫn hơn.

Thay đổi là điều lâu đời

Sự chứng kiến của các gia đình tại các phiên điều trần của Thượng viện nhấn mạnh nhu cầu về hơn là những thay đổi nhỏ đối với quy định của mạng xã hội. Một cuộc đại tu mạnh mẽ, bắt đầu với KOSA 2024, là điều cần thiết để bảo vệ chống lại những mối đe dọa đang phát triển của trí tuệ nhân tạo và các ảnh hưởng bên ngoài. Quá trình này sẽ đòi hỏi những điều chỉnh liên tục, tương tự như của SEC và FDA.

Nhưng không hành động là không phải là một lựa chọn.

Một chiến lược dài hạn, tập trung là then chốt để đảm bảo an toàn cho giới trẻ trên các nền tảng mạng xã hội. Bằng cách khởi xướng các cải cách toàn diện và liên tục tinh chỉnh những biện pháp này, chúng ta có thể giảm thiểu tổn hại và cuối cùng thực hiện lời hứa ban đầu của mạng xã hội – cải thiện cuộc sống của chúng ta thông qua kết nối.