Các Công Cụ Trình Duyệt Web Nhằm Nhận Biết Deepfakes và Các Phương Tiện Truyền Thông Giả Khác

Nỗ lực của các công ty công nghệ để đối phó với thông tin sai lệch và nội dung giả đang tăng tốc trong thời gian gần đây khi các công nghệ tạo nội dung giả tinh vi như DeepFakes trở nên dễ sử dụng và tinh tế hơn. Một nỗ lực sắp tới để giúp mọi người phát hiện và chống lại deepfakes là RealityDefender, được sản xuất bởi Quỹ AI, đã cam kết phát triển các đại lý và trợ lý AI đạo đức mà người dùng có thể đào tạo để hoàn thành các nhiệm vụ khác nhau.

Dự án nổi bật nhất của Quỹ AI là một nền tảng cho phép mọi người tạo ra các nhân vật kỹ thuật số giống như họ và đại diện cho họ trong không gian gặp gỡ ảo. Quỹ AI được giám sát bởi Hội đồng AI Toàn cầu và như một phần của nhiệm vụ của họ, họ phải dự đoán các tác động tiêu cực có thể xảy ra của các nền tảng AI, sau đó cố gắng vượt qua các vấn đề này. Theo VentureBeat, Một trong những công cụ mà Quỹ AI đã tạo ra để hỗ trợ việc phát hiện deepfakes được gọi là Reality Defender. Reality Defender là một công cụ mà một người có thể sử dụng trong trình duyệt web của họ (kiểm tra trên đó), sẽ phân tích video, hình ảnh và các loại phương tiện khác để phát hiện dấu hiệu cho thấy phương tiện đã được làm giả hoặc thay đổi theo某 cách nào đó. Hy vọng rằng công cụ này sẽ giúp chống lại luồng deepfakes ngày càng tăng trên internet, theo một số ước tính, đã tăng gần gấp đôi trong khoảng sáu tháng qua.

Reality Defender hoạt động bằng cách sử dụng nhiều thuật toán dựa trên AI có thể phát hiện các dấu hiệu gợi ý rằng một hình ảnh hoặc video có thể đã bị làm giả. Các mô hình AI phát hiện các dấu hiệu tinh vi của sự gian lận và thao túng, và các kết quả dương tính giả mà mô hình phát hiện được dán nhãn là không chính xác bởi người dùng của công cụ. Dữ liệu sau đó được sử dụng để đào tạo lại mô hình. Các công ty AI tạo ra deepfakes không lừa đảo có nội dung của họ được gắn thẻ với thẻ “honest AI” hoặc watermark cho phép mọi người dễ dàng xác định các bản sao giả tạo bởi AI.

Reality Defender chỉ là một trong số nhiều công cụ và toàn bộ nền tảng trách nhiệm AI mà Quỹ AI đang cố gắng tạo ra. Quỹ AI đang theo đuổi việc tạo ra Guardian AI, một nền tảng trách nhiệm được xây dựng trên nguyên tắc rằng các cá nhân nên có quyền truy cập vào các đại lý AI cá nhân làm việc cho họ và có thể giúp bảo vệ họ khỏi sự khai thác bởi các tác nhân xấu. Về cơ bản, Quỹ AI đang nhằm mục đích mở rộng phạm vi của AI trong xã hội, đưa nó đến nhiều người hơn, đồng thời bảo vệ chống lại các rủi ro của AI.

Reality Defender không phải là sản phẩm AI duy nhất nhằm giảm thiểu thông tin sai lệch tại Hoa Kỳ. Một sản phẩm tương tự được gọi là SurfSafe, được tạo ra bởi hai sinh viên đại học từ UC Berkeley, Rohan Phadte và Ash Bhat. Theo The Verge, SurfSafe hoạt động bằng cách cho phép người dùng nhấp vào một mảnh phương tiện mà họ tò mò và chương trình sẽ thực hiện tìm kiếm hình ảnh ngược và cố gắng tìm nội dung tương tự từ các nguồn đáng tin cậy trên internet, đánh dấu các hình ảnh được biết là đã bị chỉnh sửa.

Nó không rõ ràng về mức độ hiệu quả của những giải pháp này trong dài hạn. Giáo sư Dartmouth College và chuyên gia pháp y Hany Farid được trích dẫn bởi The Verge nói rằng ông “hoàn toàn hoài nghi” rằng các kế hoạch như Reality Defender sẽ hoạt động một cách có ý nghĩa. Farid giải thích rằng một trong những thách thức chính trong việc phát hiện nội dung giả là phương tiện không hoàn toàn giả hoặc thực. Farid giải thích:

“Có một sự liên tục; một loạt các vấn đề phức tạp để giải quyết. Một số thay đổi là vô nghĩa, và một số thay đổi cơ bản thay đổi bản chất của một hình ảnh. Giả vờ chúng ta có thể đào tạo AI để phát hiện sự khác biệt là cực kỳ ngây thơ. Và giả vờ chúng ta có thể nguồn mở nó là còn ngây thơ hơn.”

Hơn nữa, việc tích hợp các yếu tố nguồn mở, chẳng hạn như gắn thẻ các kết quả dương tính giả, là khó khăn vì con người thường rất kém trong việc xác định hình ảnh giả. Con người thường mắc lỗi và bỏ lỡ các chi tiết tinh vi đánh dấu một hình ảnh là giả. Nó cũng không rõ ràng về cách đối phó với các tác nhân xấu faith khi họ troll khi họ gắn cờ nội dung.

Dường như có khả năng là, để đạt được hiệu quả tối đa, các công cụ phát hiện giả sẽ phải kết hợp với các nỗ lực về năng lực số mà dạy mọi người cách lý luận về nội dung họ tương tác trực tuyến.