Vaishnav Anand, Tác giả của Tech Demystified: An ninh mạng – Loạt phỏng vấn

Vaishnav Anand, học sinh 17 tuổi của trường Athenian, đã phát triển hệ thống AI đầu tiên có khả năng phát hiện “deepfake địa lý” – hình ảnh vệ tinh được thao túng bởi AI có thể che giấu các địa điểm quân sự, tạo ra các điểm tài nguyên giả hoặc làm sai lệch dữ liệu thảm họa, gây ra rủi ro cho an ninh quốc gia và ổn định toàn cầu. Với không có dữ liệu công khai nào có sẵn cho loại phát hiện này, Anand đã tạo ra hình ảnh tổng hợp của riêng mình bằng cách sử dụng Mạng đối kháng tạo (Generative Adversarial Networks), đào tạo các mô hình từ đầu và hiện đang áp dụng các phương pháp khuếch tán để cải thiện độ chính xác. Nghiên cứu của anh đã được giới thiệu tại Hội nghị người dùng quốc tế Esri và Đại học Cambridge, nhận được sự công nhận từ chủ tịch Esri Jack Dangermond.

Đồng thời với công việc trong lĩnh vực an toàn AI, Anand đã viết hai cuốn sách về an ninh mạng được các trường tư thục áp dụng, với tựa đề mới nhất của anh, Tech Demystified: An ninh mạng: Nguyên tắc cốt lõi của Phòng thủ mạng hiện đại, nhận được xếp hạng 5.0 sao. Cuốn sách này phân tích các chủ đề phức tạp như phishing, malware, tường lửa và mã hóa thành các bài học rõ ràng và thực tế cho học sinh, giáo viên và bất kỳ ai quan tâm đến an toàn kỹ thuật số. Bằng cách làm cho an ninh mạng trở nên dễ tiếp cận và hấp dẫn, Anand đang thiết lập mình không chỉ là một nhà đổi mới trong lĩnh vực AI mà còn là một tiếng nói mới trong lĩnh vực giáo dục và công nghệ.

Bạn vẫn còn học trung học nhưng đã tạo ra tác động trong lĩnh vực AI và an ninh mạng. Điều gì đã thu hút bạn vào lĩnh vực này, và bạn đã bắt đầu phát triển các dự án tiên tiến như thế nào ở tuổi trẻ?

Điều đã thu hút tôi vào lĩnh vực này là việc nhìn thấy bản chất kép của AI. Nó có tiềm năng đáng kinh ngạc, nhưng nó cũng có thể gây hại. Tôi đã có một trải nghiệm trực tiếp với công nghệ deepfake đã thay đổi quan điểm của tôi. Việc xem cách truyền thông tổng hợp có thể gây tổn hại nghiêm trọng cho giới trẻ đã khiến tôi nhận ra rằng đây không chỉ là một vấn đề kỹ thuật mà còn là một vấn đề xã hội quan trọng cần được hiểu rõ hơn.

Sự tham gia của tôi vào nghiên cứu không bắt nguồn từ một kế hoạch lớn lao mà từ một sự tò mò sâu sắc. Mỗi câu hỏi tôi tìm hiểu dẫn tôi đến câu hỏi tiếp theo, tạo ra một chu kỳ khám phá. Tôi thấy mình quan tâm đến các vấn đề ngày càng phức tạp. Tôi không tìm kiếm sự công nhận; tôi thực sự bị thu hút bởi những câu hỏi.

Tôi đã chuyển từ việc khám phá cá nhân sang nghiên cứu có ý nghĩa thông qua việc kết nối và kiên trì. Tôi bắt đầu liên hệ với các nhà nghiên cứu đã thành lập, những người mà tôi ngưỡng mộ, chủ yếu thông qua các nền tảng như LinkedIn. Mặc dù nhiều người không phản hồi, nhưng tôi may mắn được kết nối với hai nhà nghiên cứu tiến sĩ tập trung vào an ninh AI và phát hiện deepfake. Họ đã bắt đầu tôi với các nhiệm vụ nhỏ trong các dự án nghiên cứu lớn hơn của họ. Khi tôi chứng minh được sự đáng tin cậy và những hiểu biết của mình, những nhiệm vụ này trở nên quan trọng hơn.

Sự hướng dẫn này đã thay đổi cuộc đời tôi. Có những nhà nghiên cứu có kinh nghiệm hướng dẫn sự phát triển của tôi giúp tôi biến sự tò mò của mình thành công việc nghiên cứu nghiêm túc. Sự động viên nội tại của tôi, sự hướng dẫn có cấu trúc của họ và sự cố gắng liên tục đã dần biến sự quan tâm không chính thức của tôi thành những đóng góp nghiên cứu đáng kể. Điều này củng cố niềm tin của tôi rằng tiến bộ thực sự thường không đến từ những đột phá đáng kinh ngạc, mà từ sự tham gia liên tục với những vấn đề quan trọng.

Những người khác thường nghĩ về deepfake liên quan đến khuôn mặt hoặc giọng nói. Điều gì đã truyền cảm hứng cho bạn để điều tra deepfake địa lý cụ thể, và tại sao bạn lại xem đây là một điểm mù quan trọng?

Khi hầu hết mọi người nghe đến từ “deepfake”, họ nghĩ về video giả mạo hoặc giọng nói bị thay đổi. Tôi cũng vậy ban đầu. Nhưng khi tôi tìm hiểu thêm, tôi bắt đầu tự hỏi nơi khác công nghệ này có thể được sử dụng theo những cách mà chúng ta không xem xét. Đó là khi tôi nhận ra rằng hình ảnh vệ tinh thường được coi là hoàn toàn đáng tin cậy. Các chính phủ, doanh nghiệp và thậm chí các đội cứu hộ thảm họa đưa ra quyết định quan trọng dựa trên nó.

Điều này dường như là một điểm mù. Nếu một video giả mạo có thể gây tổn hại đến danh tiếng, một hình ảnh vệ tinh giả mạo hoặc hình ảnh vệ tinh bị thay đổi có thể làm gián đoạn chuỗi cung ứng, đánh lừa nỗ lực cứu hộ hoặc thậm chí dẫn đến quyết định an ninh quốc gia kém. Khi quốc phòng và chiến tranh trở nên phụ thuộc nhiều hơn vào hệ thống AI, máy bay không người lái và quyết định tự động, rủi ro tăng lên. Một nguồn cấp dữ liệu vệ tinh bị thao túng có thể lừa dối không chỉ con người mà còn cả máy móc.

Điều làm tôi ấn tượng hơn nữa là deepfake địa lý nhận được ít sự chú ý hơn so với deepfake khuôn mặt hoặc giọng nói. Có rất ít tập dữ liệu công khai hoặc công cụ tiêu chuẩn để phát hiện chúng. Ngoài ra, việc phát hiện giả mạo trong hình ảnh vệ tinh còn khó khăn hơn. Bạn không chỉ tìm kiếm các vấn đề như lỗi đồng bộ hóa môi hoặc cạnh mờ. Dữ liệu vệ tinh là đa phổ, chi tiết cao và đầy đủ các mẫu mà thậm chí các chuyên gia cũng khó phân tích. Sự thiếu hụt nghiên cứu này, kết hợp với những rủi ro cao, khiến tôi nhận ra rằng đây là một lĩnh vực quan trọng cần được khám phá.

Bạn có thể dẫn chúng tôi qua quá trình khám phá của mình – làm thế nào bạn nhận ra rằng hình ảnh vệ tinh bị thao túng có thể gây ra rủi ro an ninh quốc gia, kinh tế và ứng phó với thảm họa?

Điểm chuyển đổi của tôi đến sau khi tôi gặp một deepfake làm rung chuyển niềm tin của tôi vào những gì tôi đang xem. Khoảnh khắc nghi ngờ đó tiết lộ điều gì đó quan trọng: con người tự nhiên được thiết kế để tin tưởng vào bằng chứng trực quan, và khi niềm tin đó bị phá vỡ, nó thay đổi cách chúng ta nhìn mọi thứ. Trải nghiệm này khiến tôi phải đối mặt với việc chúng ta tất cả đều dễ bị tổn thương bởi sự lừa dối tinh vi.

Ban đầu, giống như hầu hết mọi người, tôi tập trung vào các ứng dụng rõ ràng – video deepfake và khuôn mặt bị thay đổi. Các dự án phát hiện sớm của tôi đã cung cấp cho tôi những hiểu biết quan trọng về cách các công nghệ này hoạt động, nhưng chúng cũng cho thấy tôi những ý nghĩa rộng lớn hơn mà tôi chưa xem xét.

Sự thức tỉnh thực sự đến khi tôi phục vụ với tư cách là Giám đốc Điều hành của đội lãnh đạo GIS quốc gia 4-H. Làm việc với dữ liệu địa lý và hình ảnh vệ tinh, tôi thấy cách những nguồn thông tin này dường như khách quan lại thúc đẩy những quyết định quan trọng. Tôi đã theo dõi cách bản đồ hướng dẫn ứng phó với thảm họa, định hình chính sách môi trường và ảnh hưởng đến các dự án quy hoạch cộng đồng trị giá hàng triệu đô la. Điều làm tôi ngạc nhiên nhất là sự tin tưởng mù quáng vào dữ liệu này – nó được coi là sự thật không thể nghi ngờ.

Đó là khi mọi thứ trở nên rõ ràng. Nếu một video giả mạo có thể gây ra sự khó chịu về mặt cảm xúc và bất ổn xã hội, một hình ảnh vệ tinh bị thao túng có thể dẫn đến những kết quả thực tế thảm khốc. Hãy nghĩ về việc tài nguyên cứu hộ được gửi đến các khu vực thảm họa giả, các chính phủ đưa ra quyết định dựa trên dữ liệu môi trường không chính xác hoặc thị trường tài chính bị ảnh hưởng bởi các báo cáo nông nghiệp bị thay đổi. Tiềm năng gây hại là đáng kinh ngạc.

Sự kết hợp này giữa nghiên cứu deepfake của tôi và kinh nghiệm GIS đã tiết lộ một khoảng trống trong nhận thức chung của chúng ta. Trong khi thế giới thảo luận về việc hoán đổi khuôn mặt và truyền thông tổng hợp, mối đe dọa lớn hơn của deepfake địa lý vẫn còn bị bỏ qua phần lớn. Sự nhận ra này đã trở thành động lực đằng sau nghiên cứu của tôi – giải quyết một điểm yếu nghiêm trọng có thể thay đổi cách chúng ta hiểu sự thật trong thế giới được thúc đẩy bởi dữ liệu.

Nghiên cứu của bạn sử dụng Mạng đối kháng tạo (GANs) để phát hiện hình ảnh vệ tinh giả mạo. Hệ thống của bạn hoạt động như thế nào và điều gì làm cho nó khác biệt so với các bộ phát hiện deepfake chung?

Hầu hết các bộ phát hiện ngày nay được thiết kế để xác định khuôn mặt hoặc giọng nói. Chúng tìm kiếm các dấu hiệu như chuyển động môi không đồng bộ hoặc vấn đề âm thanh. Hình ảnh vệ tinh rất khác. Chúng bao gồm các kết cấu mịn và mẫu phổ trên các phong cảnh, đất nông nghiệp, đại dương và thành phố. Những mẫu này khó nhận thấy và cần một cách tiếp cận khác.

Trong dự án ban đầu của tôi, tôi đã đào tạo một khuôn khổ GAN bằng cách sử dụng tập dữ liệu SpaceNet-7 của hình ảnh vệ tinh thực. Bộ tạo sinh ra hình ảnh tổng hợp, và bộ phân biệt học cách phân biệt giữa hình ảnh thực và giả. Bằng cách tập trung vào bộ phân biệt, tôi đã đào tạo một mô hình hiểu được “chữ ký” thống kê của dữ liệu vệ tinh thực. Điều này bao gồm cách các kết cấu hành xử trong các khu vực đô thị so với các phong cảnh tự nhiên và cách các mẫu cường độ pixel chảy qua các khu vực khác nhau.

Qua quá trình đào tạo này, hệ thống đã đạt được mức độ chính xác cao trong việc phát hiện hình ảnh vệ tinh giả mạo. Sự khác biệt chính so với các bộ phát hiện chung là hệ thống này được thiết kế cụ thể cho dữ liệu địa lý. Thay vì tìm kiếm các lỗi trực quan rõ ràng, nó học cách nhận biết sự không nhất quán phổ và kết cấu tinh vi tiết lộ hình ảnh vệ tinh tổng hợp.

Nghiên cứu hiện tại của tôi đã chuyển sang việc khám phá các mô hình khuếch tán như các bộ tạo. Những mô hình này đại diện cho một sự cải tiến đáng kể so với GAN trong chất lượng hình ảnh. Các mô hình khuếch tán như DDPM và DDIM tạo ra hình ảnh vệ tinh rất thực tế bằng cách học cách đảo ngược một quá trình thêm nhiễu. Các hình ảnh tổng hợp mà chúng tạo ra thường rõ ràng và chi tiết hơn so với những hình ảnh được tạo ra bởi GAN. Điều này đưa ra cả cơ hội và thách thức. Trong khi những mô hình này có thể cung cấp dữ liệu đào tạo tốt hơn cho các hệ thống phát hiện, chúng cũng tạo ra các giả mạo tiên tiến hơn mà khó phát hiện.

Tôi hiện đang so sánh các phương pháp phát hiện khác nhau để tìm ra phương pháp nào hiệu quả nhất chống lại các kỹ thuật tạo khác nhau. Điều này bao gồm các bộ phân loại dựa trên CNN truyền thống, kiến trúc biến đổi có thể bắt được mối quan hệ không gian rộng trong hình ảnh vệ tinh, và các phương pháp kết hợp phân tích phổ với học sâu. Mỗi phương pháp có điểm mạnh riêng: CNN tốt trong việc phát hiện vấn đề kết cấu địa phương, biến đổi có thể phát hiện vấn đề cấu trúc lớn trên các khu vực hình ảnh, và phân tích phổ có thể xác định các dấu hiệu tần số tinh vi mà mạng nơ-ron có thể bỏ qua.

Một khía cạnh thú vị là các bộ tạo khác nhau để lại dấu vân tay pháp y duy nhất. Hình ảnh được tạo bởi GAN thường có các dấu hiệu đặc trưng trong chi tiết tần số cao và cạnh, trong khi hình ảnh được tạo bởi mô hình khuếch tán thường hiển thị sự không nhất quán tinh vi hơn trong tính nhất quán chung và đặc điểm phổ. Bằng cách đào tạo các mô hình phát hiện trên cả hình ảnh giả được tạo bởi GAN và mô hình khuếch tán, tôi đang có được sự hiểu biết sâu sắc hơn về các dấu hiệu hình ảnh vệ tinh tổng hợp. Điều này giúp xây dựng các hệ thống phát hiện có thể điều chỉnh khi công nghệ tạo tiến bộ.

Cách tiếp cận đa phương thức này để phát hiện là rất quan trọng. Khi các mô hình tạo trở nên tiên tiến hơn, chúng ta cần các hệ thống phát hiện không phụ thuộc vào lỗi từ bất kỳ phương pháp tạo nào. Mục tiêu là xác định các tính năng thống kê cơ bản phân biệt hình ảnh vệ tinh thực với bất kỳ hình thức tổng hợp nào, bất kể công nghệ được sử dụng để tạo ra chúng.

Trong bài viết của bạn trên MIT URTC, bạn đề cập đến việc đạt được độ chính xác khoảng 88% trong việc phân biệt hình ảnh vệ tinh thực và giả mạo. Những đột phá chính nào đã cho phép đạt được hiệu suất này?

Đột phá chính là nhận ra rằng không có tập dữ liệu công khai nào có sẵn cho việc phát hiện này. Điều này đã thúc đẩy tôi thực hiện một cách tiếp cận kép, làm việc trên cả khía cạnh tạo và phát hiện cùng một lúc. Tôi đã tạo ra tập dữ liệu tổng hợp của riêng mình bằng cách sử dụng GAN và đào tạo các bộ phân biệt với dữ liệu đó. Điều này cho phép tôi xây dựng một hệ thống thực sự hiểu các mẫu thống kê của dữ liệu vệ tinh thực.

Một hiểu biết quan trọng khác là nhận ra rằng hình ảnh vệ tinh có những thách thức rất khác so với deepfake khuôn mặt. Trong khi khuôn mặt có cấu trúc giải phẫu nhất quán, hình ảnh vệ tinh bao gồm nhiều loại địa hình – từ mẫu nông nghiệp đến thiết kế đô thị và phong cảnh tự nhiên. Tôi cần tạo ra một hệ thống phát hiện có thể xác định các tính năng thực trên tất cả các môi trường này.

Phương pháp này, thay vì dựa vào các bộ phát hiện chung, cho phép mô hình bắt được sự không nhất quán tinh vi về phổ và kết cấu tiết lộ hình ảnh vệ tinh tổng hợp. Tuy nhiên, nghiên cứu hiện tại của tôi với các mô hình khuếch tán đang cho thấy kết quả tốt hơn, đạt được tỷ lệ chính xác cao hơn và khả năng chống lại các kỹ thuật tạo tiên tiến.

Làm thế nào bạn tạo ra hình ảnh tổng hợp của mình để đào tạo,considering không có tập dữ liệu công khai nào cho phát hiện deepfake địa lý?

Việc tạo ra tập dữ liệu tổng hợp liên quan đến việc xây dựng một kiến trúc GAN phức tạp được đào tạo trên tập dữ liệu SpaceNet-7 của hình ảnh vệ tinh thực. Bộ tạo học cách biến nhiễu ngẫu nhiên thành hình ảnh vệ tinh thực tế hơn. Nó bắt được các mẫu phức tạp trong dữ liệu vệ tinh thực.

Quá trình này giống như một cuộc cạnh tranh giữa một kẻ giả mạo có kỹ năng và một người kiểm tra được đào tạo. Bộ tạo liên tục cải thiện hình ảnh tổng hợp của mình trong khi bộ phân biệt trở nên tốt hơn trong việc phát hiện các dấu hiệu tinh vi của giả mạo. Việc đào tạo này tạo ra một chu kỳ nơi cả hai phần thúc đẩy nhau để đạt được hiệu suất tốt hơn.

Bằng cách kiểm soát cả quá trình tạo và phát hiện, tôi đã có được những hiểu biết quan trọng về cách hình ảnh vệ tinh tổng hợp được tạo ra. Quan điểm kép này là rất quan trọng để phát triển các phương pháp phát hiện mạnh mẽ có thể nhận ra những gì hình ảnh thực trông như thế nào và làm thế nào hình ảnh tổng hợp khác với những mẫu đó.

Loại bất thường – phổ, kết cấu hoặc khác – mà hệ thống của bạn phát hiện khi phân biệt giữa hình ảnh thực và bị thao túng?

Không giống như deepfake khuôn mặt, nơi các vấn đề như lỗi đồng bộ hóa môi hoặc cạnh mờ thường dễ phát hiện, vấn đề với hình ảnh vệ tinh là tinh vi hơn. Hệ thống của tôi phát hiện sự không nhất quán về phổ, nơi các mẫu tương tác giữa các băng tần điện từ khác nhau không khớp với dữ liệu quan sát Trái đất thực. Nó cũng phát hiện ra các bất thường về kết cấu, chẳng hạn như đất nông nghiệp trông quá đồng đều, bề mặt đại dương thiếu mẫu sóng tự nhiên hoặc kết cấu đô thị có sự lặp lại nhân tạo.

Các bất thường về ngữ cảnh thêm một lớp phát hiện khác. Những điều này bao gồm mạng lưới đường sá không theo các hình dạng tự nhiên, bố cục nông nghiệp bỏ qua các hạn chế nông nghiệp thực tế hoặc mẫu phát triển đô thị không phù hợp với sự tăng trưởng của thành phố điển hình. Những vấn đề này có thể thoát khỏi xem xét của con người nhưng tạo ra các dấu hiệu thống kê rõ ràng mà mô hình có thể nhận ra.

Hệ thống cũng có những hạn chế với hình ảnh phức tạp. Các khu vực đô thị dày đặc với cấu trúc chồng chéo hoặc hình ảnh vệ tinh bị ảnh hưởng bởi sự biến dạng khí quyển đáng kể có thể làm giảm độ chính xác của phát hiện. Những trường hợp này chỉ ra các lĩnh vực cần nghiên cứu và cải tiến mô hình thêm.

Nhìn về tương lai, bài viết của bạn đề cập đến các công việc trong tương lai như tiện ích mở rộng trình duyệt cho xác thực địa lý thời gian thực và khuôn khổ đa tập dữ liệu. Bạn coi những bước tiếp theo quan trọng nhất trong dòng nghiên cứu này là gì?

Mặc dù nghiên cứu của tôi dựa trên GAN đã chỉ ra rằng chúng ta có thể phát hiện hình ảnh vệ tinh giả mạo một cách chính xác, tôi đã nhận ra rằng những kết quả tốt trong phòng thí nghiệm không đảm bảo thành công trong thế giới thực. Hình ảnh tổng hợp thường không phù hợp với các mẫu mà các mô hình phát hiện đã được đào tạo. Công nghệ tạo đang thay đổi nhanh chóng.

Giai đoạn tiếp theo tập trung vào việc xây dựng các hệ thống mạnh mẽ và có thể thích nghi được với các điều kiện khác nhau. Điều này có nghĩa là chúng ta cần tạo ra các phương pháp đánh giá tốt hơn, mô phỏng bản chất không thể đoán trước của việc sử dụng hình ảnh tổng hợp trong thế giới thực. Chúng ta cũng cần phát triển các công cụ thực tế như tiện ích mở rộng trình duyệt nhẹ, API thời gian thực và khuôn khổ tích hợp để hỗ trợ trong các quy trình ra quyết định quan trọng.

Hướng nghiên cứu hiện tại của tôi nhấn mạnh sự thích nghi và sử dụng thực tế. Tôi không chỉ cố gắng cải thiện độ chính xác của mô hình trong môi trường được kiểm soát. Tôi đang hướng tới việc thiết kế các hệ thống phát hiện có thể duy trì sự tin cậy khi các kỹ thuật tạo tiến bộ. Tôi muốn cung cấp các công cụ dễ tiếp cận cho các chính phủ, doanh nghiệp và cộng đồng phụ thuộc vào dữ liệu địa lý đáng tin cậy.

Bên cạnh dữ liệu địa lý, nghiên cứu rộng hơn của bạn còn bao gồm cả video deepfake, xác thực giọng nói thời gian thực và thiên vị AI trong lĩnh vực cho vay. Bạn chọn những thách thức đạo đức nào để giải quyết tiếp theo?

Hướng nghiên cứu của tôi không bị ảnh hưởng bởi các chủ đề đang thịnh hành; nó tập trung vào việc tìm ra các điểm dễ bị tổn thương quan trọng trong các hệ thống mà mọi người đặt niềm tin cơ bản. Mỗi dự án bắt đầu bằng việc xác định các điểm mà niềm tin có thể bị phá vỡ, dẫn đến hậu quả nghiêm trọng.

Nghiên cứu về deepfake bắt đầu với một trải nghiệm cá nhân cho thấy cách truyền thông tổng hợp có thể làm tổn hại đến sự tự tin của một người vào bằng chứng trực quan. Làm việc với đội lãnh đạo GIS quốc gia 4-H đã làm nổi bật cách dữ liệu địa lý và hình ảnh vệ tinh được sử dụng để đưa ra quyết định quan trọng. Sự kết nối này đã dẫn tôi đến nghiên cứu về deepfake địa lý, nơi mà các rủi ro có thể rất cao.

Mẫu này cũng áp dụng cho việc xác thực giọng nói. Tôi đã xem xét cách các cuộc gọi khẩn cấp tổng hợp có thể làm quá tải các hệ thống 911. Cũng có vấn đề về thiên vị AI trong cho vay, nơi mà sự phân biệt của thuật toán có thể từ chối cơ hội cho toàn bộ cộng đồng. Mỗi một trong những lĩnh vực này phản ánh một mối quan hệ tin cậy quan trọng giữa con người và công nghệ cần được bảo vệ.

Tôi khám phá nơi công nghệ gặp phải sự dễ bị tổn thương của xã hội, tập trung vào nghiên cứu có thể ngăn chặn sự sụp đổ niềm tin trước khi nó trở thành khủng hoảng lan rộng.

Bạn cũng đã xuất bản Tech Demystified: An ninh mạng, được các trường học áp dụng. Điều gì đã thúc đẩy bạn viết cuốn sách này, và bạn làm cho tài liệu kỹ thuật như vậy trở nên dễ tiếp cận với sinh viên và giáo viên?

Cuốn sách này đến trực tiếp từ kinh nghiệm nghiên cứu deepfake của tôi. Nó cho tôi thấy sự quan trọng của năng lực số đối với giới trẻ khi họ đối mặt với một thế giới công nghệ phức tạp hơn. An ninh mạng dường như là điểm khởi đầu phù hợp vì nó ảnh hưởng đến mọi người, bất kể kỹ năng công nghệ hoặc mục tiêu nghề nghiệp của họ.

Tôi hướng cuốn sách của mình đến sinh viên chỉ vài tuổi hơn tôi. Những gì sẽ giúp tôi nắm bắt được các mối đe dọa mạng khi tôi mới bắt đầu học. Tôi tổ chức nội dung bằng cách sử dụng câu chuyện, so sánh và hình ảnh, cùng với các hoạt động tương tác và câu hỏi phản思. Những công cụ này làm cho các ý tưởng khó trở nên dễ hiểu hơn.

Điều đặc biệt ý nghĩa là thấy các chương trình trường học, thư viện trường học và các tổ chức phi lợi nhuận phục vụ sinh viên có hoàn cảnh khó khăn áp dụng cuốn sách. Tôi muốn tạo ra một tài nguyên mở cửa cho sinh viên có thể cảm thấy bị loại khỏi các cuộc thảo luận về an ninh mạng.

Tập trung vào an ninh mạng đã đặt nền tảng cho an toàn kỹ thuật số trước khi cuốn sách tiếp theo của tôi giải quyết AI và deepfake, là lĩnh vực nghiên cứu chính của tôi. Sinh viên cần học các nguyên tắc an ninh cơ bản trước khi tham gia vào các vấn đề đạo đức phức tạp xung quanh trí tuệ nhân tạo.

Trong cuốn sách, bạn đề cập đến các mối đe dọa từ phishing đến ransomware. Bạn nghĩ nguyên tắc an ninh mạng nào là quan trọng nhất mà giới trẻ nên hiểu ngày nay?

Nguyên tắc quan trọng nhất là “tin tưởng nhưng xác minh”. Điều quan trọng là phải phát triển thói quen đặt câu hỏi về thông tin kỹ thuật số trước khi thực hiện hành động. Hầu hết các cuộc tấn công mạng thành công đều lợi dụng sự tin tưởng của con người thay vì dựa vào các khiếm khuyết kỹ thuật phức tạp. Bất kể đó là nhấp vào liên kết đáng ngờ, tải xuống tệp không xác định hoặc phản hồi các tin nhắn dường như quen thuộc, việc tạm dừng để xác minh có thể ngăn chặn nhiều cuộc tấn công.

Đối với giới trẻ dành nhiều thời gian trực tuyến và nhanh chóng chuyển đổi giữa các nền tảng, tư duy này là đặc biệt quan trọng. Việc hình thành thói quen kiểm tra trước khi nhấp sẽ xây dựng một cách tiếp cận phòng thủ giúp bảo vệ chống lại nhiều mối đe dọa.

Nguyên tắc này vượt ra ngoài an ninh mạng và đi vào năng lực số rộng lớn hơn. Những kỹ năng tư duy phản biện giúp bảo vệ chống lại phần mềm độc hại cũng giúp phát hiện thông tin sai lệch, deepfake và các loại lừa đảo kỹ thuật số khác.

Giữa nghiên cứu học thuật, các sáng kiến giáo dục STEM và công việc xuất bản, bạn rõ ràng là rất đam mê công nghệ và đạo đức. Bạn hy vọng sẽ định hình tương lai của an toàn AI và đổi mới có trách nhiệm như thế nào?

Mọi thứ tôi làm đều tập trung vào việc xây dựng và duy trì niềm tin vào công nghệ. AI chỉ có thể đạt được tiềm năng của mình nếu mọi người tin rằng những hệ thống này an toàn, công bằng và minh bạch. Không có niềm tin, ngay cả những công nghệ đột phá cũng sẽ gặp khó khăn trong việc được chấp nhận và sử dụng.

Thông qua nghiên cứu, tôi nhằm mục đích tìm ra các điểm dễ bị tổn thương chính trước khi chúng trở thành vấn đề rộng rãi. Tôi làm việc trong các lĩnh vực như deepfake địa lý và xác thực giọng nói, nơi mà rủi ro không luôn rõ ràng nhưng có thể có hậu quả nghiêm trọng. Thông qua giáo dục và viết lách, tôi muốn giúp sinh viên hiểu các hệ thống này thay vì xem công nghệ như một hộp đen bí ẩn dành cho các chuyên gia.

Tầm nhìn của tôi về đổi mới có trách nhiệm bao gồm an toàn và công bằng ngay từ giai đoạn đầu của sự phát triển, không phải là những suy nghĩ sau cùng. Điều này có nghĩa là đánh giá các mô hình không chỉ về hiệu suất của chúng mà còn về các điểm thất bại có thể xảy ra, xác định những người có thể bị tổn hại và tạo ra chiến lược để giảm thiểu những rủi ro đó.

Trong dài hạn, tôi muốn giúp tạo ra một văn hóa nơi mà mỗi bước tiến bộ trong AI nhận được sự quan tâm tương đương về an toàn và trách nhiệm. Công việc của tôi bao gồm nghiên cứu, giáo dục và truyền thông vì việc tìm ra rủi ro chỉ có giá trị nếu chúng ta cũng có thể giúp người khác hiểu và giải quyết chúng.

Nếu tôi có thể giúp phát hiện các điểm yếu quan trọng đồng thời tăng cường năng lực số, tôi tin rằng tôi sẽ đóng vai trò trong việc định hình một tương lai AI mà mọi người có thể thực sự tin tưởng và được hưởng lợi từ nó.

Cảm ơn vì cuộc phỏng vấn tuyệt vời, độc giả được khuyến khích đọc Tech Demystified: An ninh mạng: Nguyên tắc cốt lõi của Phòng thủ mạng hiện đại.