Làm thế nào AI-Powered Deepfakes Đe dọa Tính toàn vẹn của Bầu cử — Và Làm thế nào để Đối phó với nó

Quảng cáo chiến dịch đã có thể trở nên khá bẩn và gây tranh cãi.

Giờ hãy tưởng tượng bạn đang được nhắm mục tiêu bởi một quảng cáo chiến dịch trong đó một ứng cử viên thể hiện quan điểm mạnh mẽ có thể ảnh hưởng đến lá phiếu của bạn — và quảng cáo đó không phải là thật. Đó là một deepfake.

Điều này không phải là một giả thuyết trong tương lai; deepfakes là một vấn đề thực sự và phổ biến. Chúng ta đã thấy những “sự ủng hộ” được tạo ra bằng AI làm tiêu đề, và những gì chúng ta đã nghe chỉ là bề mặt của vấn đề.

Khi chúng ta tiến gần đến cuộc bầu cử tổng thống Mỹ năm 2024, chúng ta đang bước vào một lãnh thổ chưa được khám phá trong lĩnh vực an ninh mạng và tính toàn vẹn của thông tin. Tôi đã làm việc tại giao điểm của an ninh mạng và AI từ khi cả hai khái niệm này còn mới mẻ, và tôi chưa bao giờ thấy bất cứ điều gì giống như những gì đang xảy ra hiện nay.

Sự tiến hóa nhanh chóng của trí tuệ nhân tạo — đặc biệt là trí tuệ nhân tạo tạo sinh và,当然, sự dễ dàng tạo ra deepfakes thực tế — đã biến đổi hoàn toàn cảnh quan của các mối đe dọa bầu cử. Thực tế mới này đòi hỏi một sự thay đổi trong các giả định cơ bản về an ninh bầu cử và giáo dục cử tri.

AI Vũ trang

Bạn không cần phải tin vào kinh nghiệm cá nhân của tôi; có nhiều bằng chứng cho thấy các thách thức an ninh mạng chúng ta đang đối mặt ngày nay đang phát triển với tốc độ chưa từng có. Trong khoảng thời gian chỉ vài năm, chúng ta đã chứng kiến một sự biến đổi đáng kể trong khả năng và phương pháp của các tác nhân đe dọa tiềm năng. Sự tiến hóa này phản ánh sự phát triển nhanh chóng mà chúng ta đã thấy trong các công nghệ AI, nhưng với một sựtwist đáng lo ngại.

Ví dụ:

• Vũ trang hóa nhanh chóng các điểm yếu. Ngày nay, các kẻ tấn công có thể nhanh chóng khai thác các điểm yếu mới được phát hiện, thường nhanh hơn so với việc vá và triển khai các bản vá. Các công cụ AI còn tăng tốc quá trình này, làm giảm thời gian giữa việc phát hiện điểm yếu và khai thác.
• Bề mặt tấn công mở rộng. Việc áp dụng rộng rãi công nghệ đám mây đã làm tăng đáng kể bề mặt tấn công tiềm năng. Cơ sở hạ tầng phân tán và mô hình trách nhiệm chia sẻ giữa nhà cung cấp đám mây và người dùng tạo ra các vector mới cho việc khai thác nếu không được quản lý đúng cách.
• Các biện pháp bảo mật truyền thống đã lỗi thời. Các công cụ bảo mật truyền thống như tường lửa và phần mềm chống vi-rút đang gặp khó khăn trong việc theo kịp các mối đe dọa đang phát triển, đặc biệt là khi nói đến việc phát hiện và giảm thiểu nội dung được tạo ra bởi AI.

Nhìn Ai Đang Nói

Trong cảnh quan đe dọa mới này, deepfakes đại diện cho một thách thức đặc biệt tinh vi đối với tính toàn vẹn của bầu cử. Nghiên cứu gần đây từ Ivanti đã đưa ra một số liệu cụ thể về mối đe dọa: hơn một nửa số nhân viên văn phòng (54%) không biết rằng AI tiên tiến có thể giả mạo giọng nói của bất kỳ ai. Sự thiếu nhận thức này giữa cử tri tiềm năng là rất đáng lo ngại khi chúng ta tiến gần đến một chu kỳ bầu cử quan trọng.

Có rất nhiều thứ đang bị đe dọa.

Sự tinh vi của công nghệ deepfake hiện đại cho phép các tác nhân đe dọa, cả trong và ngoài nước, tạo ra nội dung giả mạo audio, video và văn bản với nỗ lực tối thiểu. Một lệnh văn bản đơn giản có thể tạo ra một deepfake ngày càng khó phân biệt với nội dung thực sự. Khả năng này có ý nghĩa nghiêm trọng đối với việc lan truyền thông tin sai lệch và thao túng ý kiến công chúng.

Thách thức trong Việc Gán và Giảm nhẹ

Việc gán là một trong những thách thức lớn nhất chúng ta đang đối mặt với sự can thiệp bầu cử được tạo ra bởi AI. Trong khi chúng ta đã từng liên kết sự can thiệp bầu cử với các tác nhân quốc gia, thì sự phổ biến của các công cụ AI có nghĩa là các nhóm trong nước, được thúc đẩy bởi các động lực ý thức hệ khác nhau, có thể tận dụng những công nghệ này để ảnh hưởng đến bầu cử.

Sự phân tán của các tác nhân đe dọa tiềm năng này làm phức tạp khả năng của chúng ta trong việc xác định và giảm thiểu nguồn thông tin sai lệch. Nó cũng nhấn mạnh nhu cầu về một phương pháp đa diện đối với an ninh bầu cử vượt ra ngoài các biện pháp an ninh mạng truyền thống.

Sự Nỗ lực Đồng bộ để Duy trì Tính toàn vẹn của Bầu cử

Để giải quyết thách thức của deepfakes được tạo ra bởi AI trong bầu cử, chúng ta cần một nỗ lực đồng bộ trên nhiều lĩnh vực. Dưới đây là các lĩnh vực chính mà chúng ta cần tập trung:

• An ninh cho Hệ thống AI. Chúng ta cần áp dụng các nguyên tắc của “an ninh shift-left” cho việc phát triển hệ thống AI. Điều này có nghĩa là tích hợp các xem xét an ninh từ giai đoạn đầu tiên của phát triển mô hình AI, bao gồm cả việc xem xét khả năng lạm dụng trong can thiệp bầu cử.
• Đảm bảo Cấu hình An toàn. Các hệ thống và nền tảng AI có thể được sử dụng để tạo ra deepfakes nên có cấu hình an toàn mạnh mẽ theo mặc định. Điều này bao gồm các biện pháp xác thực mạnh và hạn chế về loại nội dung có thể được tạo ra.
• Bảo mật Chuỗi Cung ứng AI. Giống như chúng ta tập trung vào bảo mật chuỗi cung ứng phần mềm, chúng ta cần mở rộng sự cảnh giác này sang chuỗi cung ứng AI. Điều này bao gồm việc kiểm tra kỹ lưỡng các tập dữ liệu được sử dụng để đào tạo mô hình AI và các thuật toán được sử dụng trong hệ thống AI tạo sinh.
• Năng lực Phát hiện Nâng cao. Chúng ta cần đầu tư và phát triển các công cụ phát hiện tiên tiến có thể xác định nội dung được tạo ra bởi AI, đặc biệt là trong bối cảnh thông tin liên quan đến bầu cử. Điều này có thể liên quan đến việc tận dụng AI chính nó để chống lại thông tin sai lệch được tạo ra bởi AI.
• Giáo dục và Nhận thức của Cử tri. Một thành phần quan trọng của phòng thủ của chúng ta chống lại deepfakes là một cử tri được thông tin. Chúng ta cần các chương trình giáo dục toàn diện để giúp cử tri hiểu về sự tồn tại và tác động tiềm năng của nội dung được tạo ra bởi AI, và cung cấp cho họ các công cụ để đánh giá批 thông tin họ gặp phải.
• Hợp tác Liên lĩnh vực. Ngành công nghệ, đặc biệt là các công ty IT và an ninh mạng, phải làm việc chặt chẽ với các cơ quan chính phủ, quan chức bầu cử và tổ chức truyền thông để tạo ra một mặt trận thống nhất chống lại sự can thiệp bầu cử được thúc đẩy bởi AI.

Cái gì Hiện tại, và Cái gì Là Tiếp theo

Khi chúng ta triển khai các chiến lược này, điều quan trọng là chúng ta phải liên tục đo lường hiệu quả của chúng. Điều này sẽ đòi hỏi các chỉ số và công cụ theo dõi mới được thiết kế cụ thể để theo dõi tác động của nội dung được tạo ra bởi AI đối với diễn ngôn bầu cử và hành vi của cử tri.

Chúng ta cũng nên sẵn sàng thích nghi chiến lược của mình một cách nhanh chóng. Lĩnh vực AI đang phát triển với tốc độ chóng mặt, và các biện pháp phòng thủ của chúng ta phải phát triển cùng tốc độ đó. Điều này có thể liên quan đến việc tận dụng AI chính nó để tạo ra các biện pháp an ninh mạnh mẽ và thích nghi hơn.

Thách thức của deepfakes được tạo ra bởi AI trong bầu cử đại diện cho một chương mới trong an ninh mạng và tính toàn vẹn của thông tin. Để giải quyết thách thức này, chúng ta phải suy nghĩ vượt ra ngoài các khuôn khổ an ninh truyền thống và nuôi dưỡng sự hợp tác trên nhiều lĩnh vực và kỷ luật. Mục tiêu: tận dụng sức mạnh của AI cho lợi ích của các quá trình dân chủ trong khi giảm thiểu tiềm năng gây hại của nó. Đây không chỉ là một thách thức kỹ thuật, mà còn là một thách thức xã hội sẽ đòi hỏi sự cảnh giác, thích nghi và hợp tác liên tục.

Tính toàn vẹn của các cuộc bầu cử của chúng ta — và theo đó, sức khỏe của nền dân chủ của chúng ta — phụ thuộc vào khả năng của chúng ta trong việc đối mặt với thách thức này một cách trực diện. Đó là một trách nhiệm thuộc về tất cả chúng ta: các nhà công nghệ, nhà hoạch định chính sách và công dân.