Những gì là Deepfakes?

Khi các deepfakes trở nên dễ tạo ra và phổ biến hơn, nhiều sự chú ý đang được dành cho chúng. Deepfakes đã trở thành điểm trung tâm của các cuộc thảo luận liên quan đến đạo đức AI, thông tin sai lệch, tính mở của thông tin và internet, cũng như quy định. Điều quan trọng là phải được thông tin về deepfakes và có sự hiểu biết trực giác về những gì deepfakes là. Bài viết này sẽ làm rõ định nghĩa của một deepfake, kiểm tra các trường hợp sử dụng của chúng, thảo luận về cách deepfakes có thể được phát hiện và kiểm tra các ý nghĩa của deepfakes đối với xã hội.

Deepfakes là gì?

Trước khi tiếp tục thảo luận về deepfakes, sẽ rất hữu ích nếu dành một chút thời gian để làm rõ deepfakes thực sự là gì. Có một lượng lớn sự nhầm lẫn về thuật ngữ Deepfake, và thường thuật ngữ này được áp dụng sai cho bất kỳ phương tiện truyền thông giả mạo nào, bất kể nó có phải là một deepfake thực sự hay không. Để đủ điều kiện là một Deepfake, phương tiện truyền thông giả mạo phải được tạo ra bằng một hệ thống học máy, cụ thể là một mạng nơ-ron sâu.

Nguyên liệu chính của deepfakes là học máy. Học máy đã làm cho nó trở nên khả thi để máy tính tự động tạo ra video và âm thanh tương đối nhanh chóng và dễ dàng. Các mạng nơ-ron sâu được đào tạo trên cảnh quay của một người thực để mạng có thể học cách con người nhìn và di chuyển dưới các điều kiện môi trường mục tiêu. Mạng đã được đào tạo sau đó được sử dụng trên hình ảnh của một cá nhân khác và được tăng cường với các kỹ thuật đồ họa máy tính bổ sung để kết hợp người mới với cảnh quay ban đầu. Một thuật toán mã hóa được sử dụng để xác định sự tương đồng giữa khuôn mặt gốc và khuôn mặt mục tiêu. Khi các đặc điểm chung của khuôn mặt đã được phân lập, một thuật toán AI thứ hai gọi là bộ giải mã được sử dụng. Bộ giải mã kiểm tra các hình ảnh đã được mã hóa (nén) và xây dựng lại chúng dựa trên các đặc điểm trong hình ảnh gốc. Hai bộ giải mã được sử dụng, một trên khuôn mặt của đối tượng gốc và thứ hai trên khuôn mặt của người mục tiêu. Để có thể hoán đổi, bộ giải mã được đào tạo trên hình ảnh của người X được cho ăn hình ảnh của người Y. Kết quả là khuôn mặt của người Y được xây dựng lại trên các biểu cảm khuôn mặt và định hướng của người X.

Hiện tại, vẫn mất một lượng thời gian đáng kể để tạo ra một deepfake. Người tạo ra giả mạo phải dành rất nhiều thời gian để điều chỉnh thủ công các tham số của mô hình, vì các tham số không tối ưu sẽ dẫn đến các khiếm khuyết và lỗi hình ảnh rõ ràng cho thấy giả mạo là giả.

Mặc dù thường được cho là rằng hầu hết các deepfakes được tạo ra bằng một loại mạng nơ-ron gọi là mạng đối lập tạo sinh (GAN), nhưng nhiều deepfakes (có thể là hầu hết) được tạo ra ngày nay không dựa trên GAN. Mặc dù GAN đã đóng một vai trò quan trọng trong việc tạo ra các deepfakes sớm, nhưng hầu hết các video deepfake được tạo ra thông qua các phương pháp thay thế, theo Siwei Lyu từ SUNY Buffalo.

Việc đào tạo một GAN đòi hỏi một lượng dữ liệu đào tạo lớn và GAN thường mất nhiều thời gian hơn để kết xuất một hình ảnh so với các kỹ thuật tạo hình ảnh khác. GAN cũng tốt hơn cho việc tạo ra hình ảnh tĩnh hơn là video, vì GAN gặp khó khăn trong việc duy trì sự nhất quán từ khung hình này sang khung hình khác. Thay vào đó, việc sử dụng một bộ mã hóa và nhiều bộ giải mã để tạo ra deepfakes là phổ biến hơn.

Deepfakes được sử dụng để làm gì?

Nhiều deepfakes được tìm thấy trực tuyến có tính chất khiêu dâm. Theo một nghiên cứu được thực hiện bởi Deeptrace, một công ty AI, trong số khoảng 15.000 video deepfake được lấy vào tháng 9 năm 2019, khoảng 95% trong số chúng có tính chất khiêu dâm. Một ý nghĩa đáng lo ngại của sự thật này là khi công nghệ trở nên dễ sử dụng hơn, các vụ giả mạo trả thù có thể tăng lên.

Tuy nhiên, không phải tất cả các deepfakes đều có tính chất khiêu dâm. Có những ứng dụng hợp pháp cho công nghệ deepfake. Công nghệ deepfake âm thanh có thể giúp mọi người phát sóng giọng nói bình thường của họ sau khi bị hư hỏng hoặc mất do bệnh tật hoặc chấn thương. Deepfakes cũng có thể được sử dụng để che giấu khuôn mặt của những người trong các tình huống nhạy cảm, nguy hiểm, trong khi vẫn cho phép họ đọc được môi và biểu cảm. Công nghệ deepfake có thể được sử dụng để cải thiện việc lồng tiếng cho các bộ phim nước ngoài, giúp sửa chữa các phương tiện truyền thông cũ và bị hư hỏng, và thậm chí tạo ra các phong cách nghệ thuật mới.

Deepfakes phi video

Mặc dù hầu hết mọi người nghĩ về các video giả khi họ nghe thấy thuật ngữ “deepfake”, nhưng các video giả không phải là loại phương tiện truyền thông giả duy nhất được tạo ra bằng công nghệ deepfake. Công nghệ deepfake được sử dụng để tạo ra các hình ảnh giả và âm thanh giả. Như đã đề cập trước đó, GAN thường được sử dụng để tạo ra hình ảnh giả. Người ta cho rằng đã có nhiều trường hợp tạo ra các hồ sơ giả mạo trên LinkedIn và Facebook (META ) với hình ảnh hồ sơ được tạo ra bằng các thuật toán deepfake.

Có thể tạo ra các âm thanh deepfake. Các mạng nơ-ron sâu được đào tạo để tạo ra các bản sao giọng nói / da giọng nói của các cá nhân khác nhau, bao gồm cả những người nổi tiếng và chính trị gia. Một ví dụ nổi tiếng về âm thanh deepfake là khi công ty AI Dessa sử dụng một mô hình AI, được hỗ trợ bởi các thuật toán phi AI, để tái tạo giọng nói của người dẫn chương trình podcast Joe Rogan.

Làm thế nào để phát hiện Deepfakes

Khi các deepfakes trở nên tinh vi hơn, việc phân biệt chúng với phương tiện truyền thông thực sự sẽ trở nên khó khăn hơn. Hiện tại, có một số dấu hiệu mà mọi người có thể tìm kiếm để xác định xem một video có thể là một deepfake, như đồng bộ hóa môi kém, chuyển động không tự nhiên, nhấp nháy xung quanh mép khuôn mặt và biến dạng của các chi tiết tinh tế như tóc, răng hoặc phản xạ. Các dấu hiệu khác của deepfake bao gồm các phần chất lượng thấp hơn của cùng một video và chớp mắt không đều của mắt.

Mặc dù những dấu hiệu này có thể giúp mọi người phát hiện ra một deepfake tại thời điểm này, khi công nghệ deepfake cải thiện, lựa chọn duy nhất để phát hiện deepfake đáng tin cậy có thể là các loại AI khác được đào tạo để phân biệt giả mạo với phương tiện truyền thông thực.

Các công ty AI, bao gồm nhiều công ty công nghệ lớn, đang nghiên cứu các phương pháp phát hiện deepfakes. Vào tháng 12 vừa qua, một cuộc thách thức phát hiện deepfake đã được bắt đầu, được hỗ trợ bởi ba gã khổng lồ công nghệ: Amazon (AMZN ), Facebook và Microsoft. Các nhóm nghiên cứu từ khắp thế giới đã làm việc trên các phương pháp phát hiện deepfakes, cạnh tranh để phát triển các phương pháp phát hiện tốt nhất. Các nhóm nghiên cứu khác, như một nhóm các nhà nghiên cứu kết hợp từ Google (GOOGL ) và Jigsaw, đang làm việc trên một loại “pháp y khuôn mặt” có thể phát hiện các video đã được thay đổi, làm cho các tập dữ liệu của họ mở và khuyến khích người khác phát triển các phương pháp phát hiện deepfakes. Dessa đã từng làm việc trên việc tinh chỉnh các kỹ thuật phát hiện deepfakes, cố gắng đảm bảo rằng các mô hình phát hiện hoạt động trên các video deepfake được tìm thấy trên internet chứ không chỉ trên các tập dữ liệu đào tạo và kiểm tra được tạo trước.

Cũng có các chiến lược khác đang được điều tra để đối phó với sự phổ biến của deepfakes. Ví dụ, kiểm tra các video để tìm sự phù hợp với các nguồn thông tin khác là một chiến lược. Các tìm kiếm có thể được thực hiện cho video của các sự kiện có thể được quay từ các góc độ khác, hoặc các chi tiết nền của video (như mẫu thời tiết và vị trí) có thể được kiểm tra để tìm sự không nhất quán. Ngoài ra, một hệ thống đăng ký trực tuyến Blockchain có thể đăng ký video khi chúng được tạo ban đầu, giữ lại âm thanh và hình ảnh gốc của chúng để các video phái sinh có thể luôn được kiểm tra để tìm sự thao túng.

Cuối cùng, điều quan trọng là phải tạo ra các phương pháp đáng tin cậy để phát hiện deepfakes và các phương pháp phát hiện này phải theo kịp những tiến bộ mới nhất trong công nghệ deepfake. Mặc dù rất khó để biết chính xác những ảnh hưởng của deepfakes sẽ là gì, nhưng nếu không có các phương pháp phát hiện đáng tin cậy (và các hình thức giả mạo khác), thông tin sai lệch có thể lan truyền và làm suy giảm niềm tin của mọi người vào xã hội và các thể chế.

Ý nghĩa của Deepfakes

Những nguy hiểm nào có thể xảy ra khi cho phép deepfakes lan truyền không kiểm soát?

Một trong những vấn đề lớn nhất mà deepfakes tạo ra hiện nay là khiêu dâm không đồng ý, được tạo ra bằng cách kết hợp khuôn mặt của mọi người với các video và hình ảnh khiêu dâm. Các nhà đạo đức học AI lo ngại rằng deepfakes sẽ được sử dụng nhiều hơn trong việc tạo ra các video trả thù giả. Ngoài ra, deepfakes có thể được sử dụng để bắt nạt và làm tổn hại danh tiếng của gần như bất kỳ ai, vì chúng có thể được sử dụng để đặt mọi người vào các tình huống gây tranh cãi và thỏa hiệp.

Các công ty và chuyên gia an ninh mạng đã bày tỏ mối quan ngại về việc sử dụng deepfakes để tạo điều kiện cho các vụ lừa đảo, gian lận và tống tiền. Theo báo cáo, âm thanh deepfake đã được sử dụng để thuyết phục nhân viên của một công ty chuyển tiền cho những kẻ lừa đảo

Có thể deepfakes sẽ có những ảnh hưởng tiêu cực thậm chí còn vượt ra ngoài những điều đã liệt kê ở trên. Deepfakes có thể làm xói mòn niềm tin của mọi người vào phương tiện truyền thông nói chung và làm cho mọi người khó phân biệt giữa tin tức thực và tin tức giả. Nếu nhiều video trên web là giả, thì sẽ dễ dàng hơn cho các chính phủ, công ty và các thực thể khác để nghi ngờ về các cuộc tranh cãi và hành vi không đạo đức hợp pháp.

Khi nói đến các chính phủ, deepfakes thậm chí có thể gây ra mối đe dọa đối với hoạt động của nền dân chủ. Dân chủ đòi hỏi công dân phải có thể đưa ra các quyết định sáng suốt về các chính trị gia dựa trên thông tin đáng tin cậy. Thông tin sai lệch làm suy yếu các quy trình dân chủ. Ví dụ, tổng thống Gabon, Ali Bongo, đã xuất hiện trong một video nhằm trấn an công dân Gabon. Tổng thống đã bị cho là bị ốm trong một thời gian dài và sự xuất hiện đột ngột của ông trong một video giả có thể đã kích hoạt một cuộc đảo chính. Tổng thống Donald Trump đã tuyên bố rằng một bản ghi âm của ông về việc ông nói về việc nắm lấy phụ nữ bởi bộ phận sinh dục là giả, mặc dù ông cũng mô tả nó là “nói chuyện trong phòng thay đồ”. Hoàng tử Andrew cũng khẳng định rằng một hình ảnh được cung cấp bởi luật sư của Emily Maitilis là giả, mặc dù luật sư坚持 nó là xác thực.

Cuối cùng, mặc dù có những ứng dụng hợp pháp cho công nghệ deepfake, nhưng có nhiều tác hại tiềm ẩn có thể phát sinh từ việc lạm dụng công nghệ đó. Vì lý do đó, điều quan trọng là phải tạo ra các phương pháp để xác định tính xác thực của phương tiện truyền thông và duy trì các phương pháp đó.