Chuyên gia nói: “DeepFakes hoàn hảo” sẽ xuất hiện trong 6 tháng

DeepFakes ấn tượng nhưng gây tranh cãi, hình ảnh và video được thao túng hoặc tạo ra bởi mạng nơ-ron sâu, có thể sẽ trở nên ấn tượng và gây tranh cãi hơn trong tương lai gần, theo Hao Li, Giám đốc Phòng thí nghiệm Tầm nhìn và Đồ họa tại Đại học Nam California. Li là một chuyên gia về tầm nhìn máy tính và DeepFakes, và trong một cuộc phỏng vấn gần đây với CNBC ông nói rằng “DeepFakes hoàn hảo” có thể sẽ xuất hiện trong vòng nửa năm.

Li giải thích rằng hầu hết DeepFakes vẫn có thể được nhận biết là giả mạo bởi mắt thường, và thậm chí những DeepFakes thuyết phục hơn vẫn đòi hỏi nỗ lực đáng kể từ phía người tạo ra để làm cho chúng trở nên thực tế. Tuy nhiên, Li tin rằng trong vòng sáu tháng, DeepFakes có thể sẽ trở nên hoàn hảo, khi các thuật toán trở nên tinh vi hơn.

Li ban đầu nghĩ rằng sẽ mất từ hai đến ba năm để DeepFakes thuyết phục trở nên phổ biến hơn, và ông đã đưa ra dự đoán này tại một hội nghị gần đây được tổ chức tại Viện Công nghệ Massachusetts. Tuy nhiên, Li đã sửa đổi thời gian biểu của mình sau khi tiết lộ ứng dụng Trung Quốc Zao và các phát triển gần đây khác liên quan đến công nghệ DeepFakes. Li giải thích với CNBC rằng các phương pháp cần thiết để tạo ra DeepFakes thực tế là hơn hoặc ít hơn các phương pháp hiện đang được sử dụng, và thành phần chính sẽ tạo ra DeepFakes thực tế là dữ liệu đào tạo nhiều hơn.

Li và các nhà nghiên cứu khác đã làm việc chăm chỉ trên công nghệ phát hiện DeepFakes, dự đoán sự xuất hiện của DeepFakes thuyết phục. Li và các đồng nghiệp của mình, như Hany Farid từ Đại học California Berkely, đã thí nghiệm với các thuật toán DeepFakes tiên tiến để hiểu cách công nghệ tạo ra chúng hoạt động.

Li giải thích với CNBC:

“Nếu bạn muốn có thể phát hiện DeepFakes, bạn phải cũng xem những giới hạn là gì. Nếu bạn cần xây dựng các khuôn khổ AI có khả năng phát hiện những thứ cực kỳ thực, những khuôn khổ đó phải được đào tạo bằng cách sử dụng các công nghệ này, vì vậy theo một số cách, nó là không thể phát hiện được nếu bạn không biết chúng hoạt động như thế nào.”

Li và các đồng nghiệp của mình đã đầu tư vào việc tạo ra các công cụ để phát hiện DeepFakes, công nhận các vấn đề và nguy hiểm tiềm ẩn mà công nghệ này có thể gây ra. Li và các đồng nghiệp không phải là nhóm duy nhất của các nhà nghiên cứu AI quan tâm đến các tác động có thể của DeepFakes và quan tâm đến việc tạo ra các biện pháp đối phó với chúng.

Gần đây, Facebook (META ) đã bắt đầu một quan hệ đối tác chung với MIT, Microsoft (MSFT ) và Đại học Oxford để tạo ra Thử thách Phát hiện DeepFakes, nhằm tạo ra các công cụ có thể được sử dụng để phát hiện khi hình ảnh hoặc video đã được thay đổi. Những công cụ này sẽ là mã nguồn mở và có thể được sử dụng bởi các công ty, tổ chức truyền thông và chính phủ. Trong khi đó, các nhà nghiên cứu từ Viện Khoa học Thông tin Đại học Nam California gần đây đã tạo ra một loạt các thuật toán có thể phân biệt video giả với độ chính xác khoảng 96%.

Tuy nhiên, Li cũng giải thích rằng vấn đề với DeepFakes là cách chúng có thể bị lạm dụng, và không phải công nghệ bản thân. Li lưu ý một số trường hợp sử dụng hợp pháp có thể cho công nghệ DeepFakes, bao gồm trong ngành giải trí và thời trang.

Công nghệ DeepFakes cũng đã được sử dụng để sao chép các biểu cảm khuôn mặt của những người có khuôn mặt bị che khuất trong hình ảnh. Các nhà nghiên cứu đã sử dụng Mạng nơ-ron đối kháng để tạo ra một khuôn mặt hoàn toàn mới có cùng biểu cảm với một đối tượng trong hình ảnh gốc. Các kỹ thuật được phát triển bởi Đại học Khoa học và Công nghệ Na Uy có thể giúp hiển thị biểu cảm khuôn mặt trong các cuộc phỏng vấn với những người nhạy cảm cần sự riêng tư, chẳng hạn như những người tố giác. Một người khác có thể cho phép khuôn mặt của mình được sử dụng làm người thay thế cho người cần sự riêng tư, nhưng biểu cảm khuôn mặt của người đó vẫn có thể được đọc.

Khi sự tinh vi của công nghệ DeepFakes tăng lên, các trường hợp sử dụng hợp pháp cho DeepFakes cũng sẽ tăng lên. Tuy nhiên, nguy hiểm cũng sẽ tăng lên, và vì lý do này, công việc phát hiện DeepFakes được thực hiện bởi Li và những người khác trở nên quan trọng hơn.