Deepfakes là gì?

Khi các tác phẩm deepfake trở nên dễ thực hiện hơn và sinh sôi nảy nở hơn thì người ta cũng chú ý nhiều hơn đến chúng. Deepfakes đã trở thành tâm điểm của các cuộc thảo luận liên quan đến đạo đức AI, thông tin sai lệch, tính cởi mở của thông tin và internet cũng như quy định. Sẽ rất hữu ích nếu được thông báo về deepfake và có sự hiểu biết trực quan về deepfake là gì. Bài viết này sẽ làm rõ định nghĩa về deepfake, xem xét các trường hợp sử dụng của chúng, thảo luận về cách phát hiện deepfake và xem xét tác động của deepfake đối với xã hội.

Deepfakes là gì?

Trước khi tiếp tục thảo luận thêm về deepfakes, sẽ rất hữu ích nếu bạn dành chút thời gian và làm rõ "deepfakes" thực sự là gì. Có rất nhiều sự nhầm lẫn liên quan đến thuật ngữ Deepfake và thuật ngữ này thường được áp dụng sai cho bất kỳ phương tiện giả mạo nào, bất kể đó có phải là deepfake chính hãng hay không. Để đủ điều kiện trở thành Deepfake, phương tiện giả mạo được đề cập phải được tạo bằng hệ thống máy học, cụ thể là mạng lưới thần kinh sâu.

Thành phần chính của deepfakes là học máy. Học máy đã giúp máy tính có thể tự động tạo video và âm thanh tương đối nhanh chóng và dễ dàng. Mạng lưới thần kinh sâu được đào tạo dựa trên cảnh quay của người thật để mạng tìm hiểu cách mọi người nhìn và di chuyển trong các điều kiện môi trường mục tiêu. Sau đó, mạng đã được huấn luyện sẽ được sử dụng trên hình ảnh của một cá nhân khác và được tăng cường thêm các kỹ thuật đồ họa máy tính để kết hợp người mới với cảnh quay gốc. Thuật toán mã hóa được sử dụng để xác định sự tương đồng giữa khuôn mặt gốc và khuôn mặt mục tiêu. Khi các đặc điểm chung của khuôn mặt đã được tách biệt, thuật toán AI thứ hai được gọi là bộ giải mã sẽ được sử dụng. Bộ giải mã kiểm tra các hình ảnh được mã hóa (nén) và tái tạo lại chúng dựa trên các đặc điểm của ảnh gốc. Hai bộ giải mã được sử dụng, một trên khuôn mặt của đối tượng ban đầu và bộ thứ hai trên khuôn mặt của người mục tiêu. Để thực hiện hoán đổi, bộ giải mã được đào tạo về hình ảnh của người X sẽ được cung cấp hình ảnh của người Y. Kết quả là khuôn mặt của người Y được tái tạo dựa trên nét mặt và hướng của Người X.

Hiện tại, vẫn cần một khoảng thời gian kha khá để tạo ra một deepfake. Người tạo ra hàng giả phải mất nhiều thời gian để điều chỉnh các thông số của mô hình theo cách thủ công, vì các thông số dưới mức tối ưu sẽ dẫn đến những điểm không hoàn hảo đáng chú ý và hình ảnh bị trục trặc làm mất đi bản chất thật của hàng giả.

Mặc dù người ta thường cho rằng hầu hết các tác phẩm sâu được thực hiện bằng một loại mạng thần kinh gọi là mạng đối thủ chung (GAN), nhiều (có lẽ là hầu hết) deepfakes được tạo ra ngày nay không dựa vào GAN. Theo Siwei Lyu từ SUNY Buffalo, mặc dù GAN đã đóng một vai trò nổi bật trong việc tạo ra các video deepfake ban đầu, nhưng hầu hết các video deepfake đều được tạo thông qua các phương pháp thay thế.

Phải mất một lượng dữ liệu đào tạo lớn không tương xứng để đào tạo GAN và GAN ​​thường mất nhiều thời gian hơn để hiển thị hình ảnh so với các kỹ thuật tạo hình ảnh khác. GAN cũng tốt hơn để tạo hình ảnh tĩnh so với video, vì GAN gặp khó khăn trong việc duy trì tính nhất quán từ khung này sang khung khác. Việc sử dụng một bộ mã hóa và nhiều bộ giải mã để tạo deepfakes phổ biến hơn nhiều.

Deepfakes được sử dụng để làm gì?

Nhiều deepfake được tìm thấy trực tuyến có bản chất khiêu dâm. Theo nghiên cứu được thực hiện bởi Deeptrace, một công ty AI, trong số khoảng 15,000 video deepfake được thực hiện vào tháng 2019 năm 95, khoảng XNUMX% trong số đó có bản chất khiêu dâm. Một hàm ý đáng lo ngại của thực tế này là khi công nghệ trở nên dễ sử dụng hơn, các vụ khiêu dâm trả thù giả mạo có thể gia tăng.

Tuy nhiên, không phải tất cả hàng giả sâu đều có bản chất khiêu dâm. Có nhiều cách sử dụng hợp pháp hơn cho công nghệ deepfake. Công nghệ deepfake âm thanh có thể giúp mọi người phát ra giọng nói bình thường của họ sau khi chúng bị hư hỏng hoặc mất đi do bệnh tật hoặc thương tích. Deepfakes cũng có thể được sử dụng để che giấu khuôn mặt của những người đang ở trong các tình huống nhạy cảm, nguy hiểm tiềm ẩn, trong khi vẫn cho phép đọc được môi và biểu cảm của họ. Công nghệ Deepfake có khả năng được sử dụng để cải thiện việc lồng tiếng cho các bộ phim nói tiếng nước ngoài, hỗ trợ sửa chữa các phương tiện cũ và bị hư hỏng, thậm chí tạo ra các phong cách nghệ thuật mới.

Deepfakes không phải video

Mặc dù hầu hết mọi người nghĩ về video giả mạo khi họ nghe đến thuật ngữ “deepfake”, nhưng video giả mạo hoàn toàn không phải là loại phương tiện giả mạo duy nhất được sản xuất bằng công nghệ deepfake. Công nghệ Deepfake cũng được sử dụng để tạo ảnh và âm thanh giả. Như đã đề cập trước đây, GAN thường được sử dụng để tạo hình ảnh giả mạo. Người ta cho rằng đã có nhiều trường hợp hồ sơ LinkedIn và Facebook giả mạo có hình ảnh hồ sơ được tạo bằng thuật toán deepfake.

Cũng có thể tạo âm thanh sâu. Mạng lưới thần kinh sâu được đào tạo để tạo ra bản sao giọng nói/giao diện giọng nói của những người khác nhau, bao gồm cả những người nổi tiếng và chính trị gia. Một ví dụ nổi tiếng về Deepfake âm thanh là khi công ty AI Dessa đã sử dụng một mô hình AI, được hỗ trợ bởi các thuật toán không phải AI, để tạo lại giọng nói của người dẫn chương trình podcast Joe Rogan.

Cách phát hiện Deepfakes

Khi deepfakes ngày càng trở nên tinh vi hơn, việc phân biệt chúng với phương tiện chính hãng sẽ ngày càng khó khăn hơn. Hiện nay, có một vài dấu hiệu nhận biết mọi người có thể tìm kiếm để xác định xem một video có khả năng là deepfake hay không, chẳng hạn như hát nhép kém, chuyển động không tự nhiên, nhấp nháy quanh mép khuôn mặt và làm biến dạng các chi tiết nhỏ như tóc, răng hoặc phản chiếu. Các dấu hiệu tiềm ẩn khác của deepfake bao gồm các phần chất lượng thấp hơn của cùng một video và nháy mắt không đều.

Mặc dù những dấu hiệu này có thể giúp một người phát hiện ra deepfake vào lúc này, vì công nghệ deepfake cải thiện tùy chọn duy nhất để phát hiện deepfake đáng tin cậy có thể là các loại AI khác được đào tạo để phân biệt hàng giả với phương tiện thật.

Các công ty trí tuệ nhân tạo, bao gồm nhiều công ty công nghệ lớn, đang nghiên cứu các phương pháp phát hiện deepfakes. Tháng XNUMX năm ngoái, một thử thách phát hiện deepfake đã được bắt đầu, được hỗ trợ bởi ba gã khổng lồ công nghệ: Amazon, Facebook và Microsoft. Các nhóm nghiên cứu từ khắp nơi trên thế giới đã nghiên cứu các phương pháp phát hiện deepfakes, cạnh tranh để phát triển các phương pháp phát hiện tốt nhất. Các nhóm nhà nghiên cứu khác, chẳng hạn như nhóm các nhà nghiên cứu kết hợp từ Google và Jigsaw, đang nghiên cứu một loại “pháp y khuôn mặt” có thể phát hiện các video đã bị thay đổi, làm cho bộ dữ liệu của họ trở thành nguồn mở và khuyến khích những người khác phát triển các phương pháp phát hiện deepfake. Dessa đã nói ở trên đã làm việc để tinh chỉnh các kỹ thuật phát hiện deepfake, cố gắng đảm bảo rằng các mô hình phát hiện hoạt động trên các video deepfake được tìm thấy ngoài tự nhiên (trên internet) thay vì chỉ trên các bộ dữ liệu thử nghiệm và đào tạo được soạn sẵn, chẳng hạn như bộ dữ liệu nguồn mở Google cung cấp.

Ngoài ra các lý do khác về mặt văn hóa và sự đồng cảm cũng giúp Hoa Kì là điểm đến của nhiều học viên từ Việt Nam các chiến lược khác đang được điều tra để đối phó với sự gia tăng của deepfakes. Chẳng hạn, kiểm tra sự phù hợp của video với các nguồn thông tin khác là một chiến lược. Có thể thực hiện tìm kiếm đối với video về các sự kiện có khả năng được thực hiện từ các góc độ khác hoặc có thể kiểm tra các chi tiết cơ bản của video (như mô hình thời tiết và vị trí) để tìm những điểm không phù hợp. Ngoài điều này, một hệ thống sổ cái trực tuyến Blockchain có thể đăng ký video khi chúng được tạo lần đầu, giữ âm thanh và hình ảnh gốc của chúng để luôn có thể kiểm tra các video phái sinh để thao tác.

Cuối cùng, điều quan trọng là phải tạo ra các phương pháp phát hiện deepfake đáng tin cậy và các phương pháp phát hiện này phải theo kịp những tiến bộ mới nhất trong công nghệ deepfake. Mặc dù khó biết chính xác tác động của deepfakes sẽ như thế nào, nhưng nếu không có các phương pháp đáng tin cậy để phát hiện deepfakes (và các dạng phương tiện giả mạo khác), thì thông tin sai lệch có khả năng lan tràn và làm suy giảm lòng tin của mọi người đối với xã hội và các tổ chức.

Ý nghĩa của Deepfakes

Những mối nguy hiểm của việc cho phép deep fake sinh sôi nảy nở mà không được kiểm soát là gì?

Một trong những vấn đề lớn nhất mà deepfake tạo ra hiện nay là nội dung khiêu dâm không có sự đồng thuận, được thiết kế bằng cách kết hợp khuôn mặt của mọi người với các video và hình ảnh khiêu dâm. Các nhà đạo đức AI lo lắng rằng deepfakes sẽ được sử dụng nhiều hơn trong việc tạo ra nội dung khiêu dâm trả thù giả. Ngoài ra, deepfakes có thể được sử dụng để bắt nạt và làm tổn hại danh tiếng của bất kỳ ai, vì chúng có thể được sử dụng để đặt mọi người vào các tình huống gây tranh cãi và thỏa hiệp.

Các công ty và chuyên gia an ninh mạng đã bày tỏ lo ngại về việc sử dụng deepfakes để tạo điều kiện cho lừa đảo, gian lận và tống tiền. Bị cáo buộc, âm thanh deepfake đã được dùng để thuyết phục nhân viên của một công ty để chuyển tiền cho những kẻ lừa đảo

Có khả năng deepfakes có thể gây ra những tác động có hại thậm chí ngoài những tác động được liệt kê ở trên. Deepfakes có khả năng làm xói mòn lòng tin của mọi người đối với các phương tiện truyền thông nói chung và khiến mọi người khó phân biệt giữa tin thật và tin giả. Nếu nhiều video trên web là giả mạo thì chính phủ, công ty và các tổ chức khác sẽ dễ dàng nghi ngờ về những tranh cãi chính đáng và các hành vi phi đạo đức.

Khi nói đến các chính phủ, deepfakes thậm chí có thể gây ra các mối đe dọa đối với hoạt động của nền dân chủ. Nền dân chủ yêu cầu công dân có thể đưa ra quyết định sáng suốt về các chính trị gia dựa trên thông tin đáng tin cậy. Thông tin sai lệch làm suy yếu các quá trình dân chủ. Ví dụ, tổng thống Gabon, Ali Bongo, đã xuất hiện trong một video cố gắng trấn an người dân Gabon. Chủ tịch được cho là không khỏe trong một thời gian dài, và sự xuất hiện đột ngột của ông trong một video có khả năng giả mạo đã khởi động một cuộc đảo chính đã cố gắng. Tổng thống Donald Trump tuyên bố rằng đoạn băng ghi âm ông khoe khoang về việc nắm lấy bộ phận sinh dục của phụ nữ là giả, mặc dù cũng mô tả nó là “cuộc nói chuyện trong phòng thay đồ”. Hoàng tử Andrew cũng tuyên bố rằng hình ảnh do luật sư của Emily Maitilis cung cấp là giả mạo, mặc dù luật sư nhấn mạnh vào tính xác thực của nó.

Cuối cùng, mặc dù có những cách sử dụng hợp pháp cho công nghệ deepfake, nhưng có nhiều tác hại tiềm ẩn có thể phát sinh từ việc lạm dụng công nghệ đó. Vì lý do đó, điều cực kỳ quan trọng là các phương pháp xác định tính xác thực của phương tiện được tạo và duy trì.