Năm 2024, Deepfakes sẽ trở thành xu hướng chính. Dưới đây là cách các doanh nghiệp có thể bảo vệ mình

Từ ít nhất cuộc bầu cử năm 2016, khi những lo ngại về thông tin sai lệch bùng nổ vào ý thức công cộng, các chuyên gia đã cảnh báo về deepfakes. Những tác động của công nghệ này đã và vẫn còn đáng sợ. Sự phổ biến không kiểm soát của phương tiện truyền thông tổng hợp siêu thực có thể đe dọa mọi người – từ các chính trị gia đến những người bình thường. Trong một môi trường đã dễ cháy và có sự mất lòng tin rộng rãi, deepfakes đã hứa hẹn sẽ chỉ làm cho tình hình trở nên tồi tệ hơn.

Nhưng như nó đã diễn ra, nỗi sợ hãi của chúng ta là không cần thiết. Những kỹ năng công nghệ cần thiết để thực sự tạo ra deepfakes, cùng với chất lượng thường không tốt, đã có nghĩa là trong ít nhất hai chu kỳ bầu cử tổng thống gần đây, chúng vẫn là một mối quan tâm tối thiểu.

Nhưng tất cả những điều đó đang thay đổi – đang thay đổi ngay bây giờ. Trong hai năm qua, công nghệ trí tuệ nhân tạo tạo ra đã trở thành xu hướng chính, đơn giản hóa quá trình tạo deepfakes cho người tiêu dùng trung bình. Những đổi mới này cũng đã tăng đáng kể chất lượng của deepfakes, đến mức mà trong một bài kiểm tra mù, hầu hết mọi người sẽ không thể phân biệt được một video bị chỉnh sửa với bản thật.

Năm nay, đặc biệt, chúng ta đã bắt đầu thấy những dấu hiệu cho thấy công nghệ này có thể ảnh hưởng đến xã hội nếu không có những nỗ lực để chống lại nó. Ví dụ, năm ngoái, một bức ảnh được tạo ra bởi AI của Giáo hoàng Francis mặc một chiếc áo khoác rất thời trang đã trở thành viral, và được nhiều người coi là thật. Mặc dù điều này có thể xem như một bit giải trí vô hại, nhưng nó cho thấy sự nguy hiểm của những deepfakes này và làm thế nào khó để ngăn chặn sự lan truyền của thông tin sai lệch một khi nó đã bắt đầu lan truyền. Chúng ta có thể mong đợi sẽ thấy những ví dụ ít thú vị hơn – và nguy hiểm hơn – về loại giả mạo lan truyền này trong những tháng và năm tới.

Vì lý do này, điều quan trọng là các tổ chức thuộc mọi loại – từ truyền thông đến tài chính, chính phủ và các nền tảng truyền thông xã hội – phải chủ động đối với việc phát hiện deepfakes và xác minh tính xác thực của nội dung. Một văn hóa tin cậy thông qua các biện pháp an ninh cần được thiết lập ngay bây giờ, trước khi một làn sóng deepfakes có thể cuốn trôi sự hiểu biết chung của chúng ta về thực tại.

Hiểu về mối đe dọa của deepfakes

Trước khi đi vào những gì các tổ chức có thể làm để chống lại sự tràn lan của deepfakes, điều đáng nói là cần làm rõ tại sao các công cụ bảo vệ lại cần thiết. Thông thường, những người quan tâm đến deepfakes trích dẫn tác động tiềm năng của chúng đối với chính trị và sự tin cậy của xã hội. Những hệ quả tiềm năng này cực kỳ quan trọng và không nên bị bỏ qua trong bất kỳ cuộc thảo luận nào về deepfakes. Nhưng như nó đã diễn ra, sự trỗi dậy của công nghệ này có thể có những tác động nghiêm trọng trên nhiều lĩnh vực của nền kinh tế Mỹ.

Lấy ví dụ về bảo hiểm, chẳng hạn. Hiện tại, gian lận bảo hiểm hàng năm ở Hoa Kỳ lên tới 308,6 tỷ đô la – một con số gần bằng một phần tư quy mô của toàn bộ ngành công nghiệp. Đồng thời, các hoạt động phía sau của hầu hết các công ty bảo hiểm đang ngày càng được tự động hóa, với 70% các yêu cầu tiêu chuẩn dự kiến sẽ không cần chạm vào năm 2025. Điều này có nghĩa là các quyết định đang ngày càng được đưa ra với sự can thiệp của con người tối thiểu: tự phục vụ ở phía trước và tự động hóa hỗ trợ bởi AI ở phía sau.

Một cách hài hước, chính công nghệ đã cho phép tăng tự động hóa này – tức là học máy và trí tuệ nhân tạo – đã đảm bảo sự khai thác của nó bởi những kẻ xấu. Giờ đây, dễ dàng hơn bao giờ hết cho người bình thường thao túng các yêu cầu – ví dụ, bằng cách sử dụng các chương trình trí tuệ nhân tạo tạo ra như Dall-E, Midjourney hoặc Stable Diffusion để làm cho một chiếc xe看起来 bị hư hỏng hơn nó thực sự là. Hiện tại, các ứng dụng tồn tại cụ thể cho mục đích này, chẳng hạn như Dude Your Car!, cho phép người dùng tạo ra các vết lồi ảo trong ảnh của xe.

Điều tương tự cũng áp dụng cho các tài liệu chính thức, có thể dễ dàng bị thao túng – với hóa đơn, đánh giá bảo hiểm và thậm chí chữ ký được điều chỉnh hoặc tạo ra toàn bộ. Khả năng này là một vấn đề không chỉ đối với các công ty bảo hiểm mà còn trên toàn bộ nền kinh tế. Đó là một vấn đề đối với các tổ chức tài chính, những tổ chức phải xác minh tính xác thực của nhiều loại tài liệu. Đó là một vấn đề đối với các nhà bán lẻ, những người có thể nhận được khiếu nại về một sản phẩm bị lỗi, đi kèm với một hình ảnh bị chỉnh sửa.

Các doanh nghiệp không thể hoạt động với mức độ không chắc chắn này. Một số mức độ gian lận có thể luôn không thể tránh khỏi, nhưng với deepfakes, chúng ta không nói về gian lận ở biên giới – chúng ta đang nói về một thảm họa tiềm ẩn về nhận thức trong đó các doanh nghiệp không có phương tiện rõ ràng để phân biệt sự thật và hư cấu, và cuối cùng sẽ mất hàng tỷ đô la vì sự nhầm lẫn này.

Đánh lửa với lửa: cách AI có thể giúp

Vậy, điều gì có thể được thực hiện để chống lại điều này? Có lẽ không ngạc nhiên, câu trả lời nằm trong chính công nghệ tạo ra deepfakes. Nếu chúng ta muốn ngăn chặn sự lan truyền của deepfakes trước khi nó tích tụ thêm động lực, chúng ta cần đánh lửa với lửa. AI có thể giúp tạo ra deepfakes – nhưng nó cũng có thể giúp xác định chúng tự động và trên quy mô lớn.

Sử dụng các công cụ AI phù hợp, các doanh nghiệp có thể tự động xác định liệu một bức ảnh, video hoặc tài liệu nhất định đã bị thao túng hay chưa. Mang lại hàng chục mô hình khác nhau để thực hiện nhiệm vụ xác định giả mạo, AI có thể tự động thông báo cho các doanh nghiệp về việc liệu một bức ảnh hoặc video cụ thể có đáng ngờ hay không. Giống như các công cụ mà các doanh nghiệp đang triển khai để tự động hóa các hoạt động hàng ngày, những công cụ này có thể chạy ở chế độ nền mà không làm tăng gánh nặng cho nhân viên đang bị quá tải hoặc lấy đi thời gian từ các dự án quan trọng.

Nếu và khi một bức ảnh được xác định là có khả năng bị thay đổi, nhân viên có thể được cảnh báo và đánh giá vấn đề trực tiếp, với sự hỗ trợ từ thông tin do AI cung cấp. Sử dụng phân tích quét sâu, nó có thể thông báo cho các doanh nghiệp tại sao nó tin rằng một bức ảnh có khả năng bị chỉnh sửa – chỉ ra, ví dụ, các siêu dữ liệu được chỉnh sửa thủ công, sự tồn tại của các hình ảnh giống hệt trên web, các bất thường nhiếp ảnh khác, v.v.

Không có gì trong số này nhằm giảm thiểu những tiến bộ đáng kinh ngạc mà chúng ta đã chứng kiến trong công nghệ trí tuệ nhân tạo tạo ra trong những năm gần đây, những công nghệ này thực sự có những ứng dụng hữu ích và sản xuất trên nhiều ngành công nghiệp. Nhưng chính sự mạnh mẽ – cũng như sự đơn giản – của công nghệ mới nổi này gần như đảm bảo sự lạm dụng của nó bởi những người muốn thao túng các tổ chức, dù là để lợi ích cá nhân hay để gây ra sự hỗn loạn trong xã hội.

Các tổ chức có thể có được lợi ích của cả hai thế giới: lợi ích về năng suất của AI mà không có những mặt trái của deepfakes phổ biến. Nhưng để làm được điều đó, cần phải có một mức độ cảnh giác mới, đặc biệt là khi xem xét rằng các đầu ra của trí tuệ nhân tạo tạo ra đang trở nên thuyết phục, chi tiết và giống như đời thực hơn mỗi ngày. Càng sớm, các tổ chức sẽ tập trung vào vấn đề này, họ sẽ càng sớm được hưởng lợi đầy đủ của một thế giới tự động.