Facebook Sử Dụng Bot và Mô Phỏng Để Đối Phó Với Hành Vi Xấu Của Người Dùng

Facebook (META ) đã thiết kế một trí tuệ nhân tạo mới nhằm phát hiện tốt hơn các hành vi có hại, gây tổn hại và bất hợp pháp. Theo The Verge báo cáo, các nhà nghiên cứu tại bộ phận trí tuệ nhân tạo của Facebook ở London đã tạo ra một mô phỏng Facebook được điều khiển bởi trí tuệ nhân tạo gọi là “WW”, được sử dụng để mô phỏng hành vi của những kẻ lừa đảo, thương nhân sản phẩm bất hợp pháp, những người gửi thư rác và các tác nhân xấu khác trên một phiên bản mô phỏng của Facebook.

Mô phỏng Facebook được gọi là “WW”, lấy tên từ sự rút gọn của “WWW”, được Facebook tiết lộ trong một bài báo được xuất bản vào tháng 4 năm nay. WW là một phiên bản nhân bản, chứa đựng của Facebook nhằm giúp kiểm tra các công cụ và thuật toán khác nhau của Facebook.

Công ty vừa mới tiết lộ thêm chi tiết về một số ứng dụng của WW, một trong số đó là mô phỏng các tác nhân xấu thông qua trí tuệ nhân tạo. Bằng cách sử dụng một số bot để mô phỏng hành vi như lừa đảo, gửi thư rác, quấy rối và hơn thế nữa, các nhà nghiên cứu hy vọng rằng họ sẽ có thể phát hiện và đối phó với hành vi có hại của người dùng tốt hơn.

Theo kỹ sư của Facebook, Mark Harman, như được trích dẫn bởi The Verge, WW dự kiến sẽ là một công cụ quý giá trong việc ngăn chặn các hành vi có hại khác nhau trên Facebook. Ví dụ, Harman tin rằng các mô phỏng có thể được sử dụng để thiết kế các phương pháp phát hiện kẻ lừa đảo tốt hơn.

Các kỹ sư của Facebook đã mô phỏng hành vi của những kẻ lừa đảo trên Facebook trong đời thực bằng cách tạo ra hai nhóm bot: một nhóm mục tiêu và một nhóm lừa đảo. Những kẻ lừa đảo thường tìm kiếm qua mạng lưới bạn bè, khám phá bạn bè của người dùng, để tìm một mục tiêu tiềm năng. Hành vi này đã được mô phỏng bởi các bot lừa đảo khi các kỹ sư thực nghiệm với các phương pháp khác nhau để ngăn chặn bot vô tội bị lừa đảo. Các chiến thuật họ thực nghiệm bao gồm nhiều hạn chế như giới hạn số lượng tin nhắn riêng tư mà một bot có thể gửi mỗi phút.

Có một số cách mà mô phỏng Facebook khác với phiên bản thực. Một mặt, mô phỏng của Facebook không bao gồm bất kỳ yếu tố trực quan nào, vì vậy dữ liệu thu được từ mô phỏng đều dưới dạng dữ liệu số và thống kê về tương tác giữa các bot. Mặt khác, tất cả các tác nhân trong mô phỏng đều là bot, không thể tương tác với người dùng thực. Mô phỏng WW cũng không thể tính đến những thứ như ý định của người dùng hoặc nội dung của một cuộc trò chuyện nhất định, vì chỉ có hành động gửi tin nhắn, bình luận, v.v. được mô phỏng.

Theo Harman, quá trình thực nghiệm với các hạn chế này tương tự như các nhà quy hoạch đô thị cố gắng giảm tốc độ trên một số con đường bằng cách đặt “đồi tốc độ”. Tương tự như một nhà quy hoạch đô thị sẽ thực nghiệm với việc tạo ra các đồi tốc độ và sau đó thu thập dữ liệu về tính hữu ích của chúng, các kỹ sư phân tích cách các tin nhắn và tương tác giữa các bot thay đổi trong mô phỏng của họ khi họ thay đổi các tham số và hạn chế. Harman giải thích rằng mục tiêu là để có được ý tưởng về những thay đổi nào có thể được thực hiện đối với nền tảng của Facebook để ngăn chặn hành vi có hại mà không hạn chế nghiêm trọng hành vi bình thường, hoặc luồng giao thông tự do.

Harman cũng giải thích rằng lợi thế của việc sử dụng WW cho các mô phỏng của họ là các hành động họ nghiên cứu đang xảy ra trên cơ sở hạ tầng Facebook thực, điều này mang lại cho họ một ý tưởng tốt hơn về cách các thay đổi đề xuất của họ có thể ảnh hưởng đến người dùng Facebook thực. Bất kỳ ứng dụng nào của những phát hiện này sẽ phải chờ một thời gian, vì hiện tại WW và mô phỏng của nó chỉ ở giai đoạn nghiên cứu. Harman và các nhà nghiên cứu khác của Facebook sẽ không áp dụng những phát hiện của họ vào phiên bản trực tiếp của Facebook ngay lập tức, vì vẫn còn rất nhiều công việc cần phải làm. Nhóm nghiên cứu cần phải xác định rằng các mô phỏng họ tạo ra phù hợp với hành vi của con người.

Lợi thế chính của WW, theo Harman, là khả năng hoạt động trên quy mô lớn, cho phép các nhà nghiên cứu của Facebook kiểm tra các hậu quả tiềm năng của hàng nghìn điều chỉnh nhỏ khác nhau, tất cả thông qua các mô phỏng mà nó tạo ra.

Trong tương lai, các nhà nghiên cứu có thể để các bot chỉ chơi và thực nghiệm trong một thời gian, để xem họ tương tác với nhau như thế nào, điều mà thường là những thứ mà các nhà nghiên cứu không dự kiến.

“Hiện tại, trọng tâm chính là đào tạo các bot để bắt chước những thứ chúng tôi biết xảy ra trên nền tảng. Nhưng về lý thuyết và trong thực tế, các bot có thể làm những việc chúng tôi chưa thấy trước,” Harman cho biết. “Điều đó thực sự là điều chúng tôi muốn, vì cuối cùng chúng tôi muốn đi trước hành vi xấu thay vì liên tục đuổi theo.”

Nếu mọi thứ suôn sẻ, Facebook có thể bắt đầu thực hiện các thay đổi dựa trên mô phỏng của WW vào cuối năm 2020.