Aarti Samani, Người sáng lập và Giám đốc điều hành của Shreem Growth Partners – Loạt phỏng vấn

Aarti Samani, Người sáng lập và Giám đốc điều hành của Shreem Growth Partners, là một nhà lãnh đạo công nghệ và chiến lược gia AI với hơn hai thập kỷ kinh nghiệm trong việc thúc đẩy tăng trưởng trong lĩnh vực AI, danh tính số và bảo mật sinh trắc học. Cô đã từng giữ các vị trí cấp cao tại iProov và Digital Surgery (được Medtronic mua lại), lãnh đạo các chiến lược sản phẩm và tiếp thị toàn cầu và đảm bảo các vòng tài trợ lớn. Là một bình luận viên thường xuyên của BBC và diễn giả chính tại các sự kiện toàn cầu như Money 20/20 và CogX Festival, cô tư vấn cho các hội đồng quản trị và giám đốc điều hành về đạo đức AI, quản trị và rủi ro, giúp các tổ chức xây dựng niềm tin và khả năng chống chịu trong kỷ nguyên trí tuệ nhân tạo.

Shreem Growth Partners giúp các tổ chức bảo vệ chống lại gian lận deepfake và giả mạo AI bằng cách tập trung vào lớp phòng thủ của con người. Thông qua đào tạo tùy chỉnh, thông báo điều hành, đánh giá lỗ hổng và tư vấn chiến lược, công ty trang bị cho các đội và lãnh đạo khả năng nhận biết, phản ứng và ngăn chặn các nỗ lực thao túng. Bằng cách thúc đẩy nhận thức, sẵn sàng và khả năng chống chịu văn hóa, Shreem trao quyền cho các tổ chức bảo vệ danh tính, uy tín và lực lượng lao động của họ chống lại các mối đe dọa AI đang phát triển.

Bạn đã thành lập Shreem Growth Partners sau khi giữ các vị trí cấp cao tại iProov, Medtronic Digital Surgery và các công ty khác được thúc đẩy bởi AI. Điều gì đã truyền cảm hứng cho bạn thành lập một công ty dành riêng cho khả năng chống chịu gian lận deepfake?

Sau khi phát hành ChatGPT vào cuối năm 2022, chúng tôi đã chứng kiến sự bùng nổ của các công cụ truyền thông được hỗ trợ bởi AI có khả năng nhân bản giọng nói và khuôn mặt trong vài phút. Hầu hết các tổ chức xem chúng như những công cụ tăng tốc sáng tạo cho thiết kế và tiếp thị. Nhưng những kẻ tội phạm nhìn thấy một cơ hội mới để thực hiện các cuộc tấn công xã hội có tác động lớn hơn.

Deepfakes nhanh chóng trở thành công cụ được lựa chọn của những kẻ gian lận để thao túng người dân. Các đội an ninh phản ứng bằng cách đầu tư vào công nghệ phát hiện, nhưng việc phát hiện alone không thể giải quyết được vấn đề có gốc rễ trong niềm tin của con người. Tâm lý học là điểm mù của ngành.

Những hiểu biết đó đã dẫn tôi đến việc thành lập Shreem Growth Partners, một công ty chuyên về xây dựng khả năng chống chịu gian lận deepfake thông qua nhận thức, mô phỏng và khả năng chống chịu nhận thức. Việc tăng cường khả năng suy nghĩ批判 và chống lại sự thao túng là chìa khóa để giảm thiểu loại gian lận này.

Ở iProov, bạn đã làm việc ở tiền phong của sinh trắc học khuôn mặt và xác thực danh tính. Kinh nghiệm đó đã tiết lộ như thế nào về mối đe dọa ngày càng tăng mà deepfakes gây ra cho các hệ thống xác thực?

Là Giám đốc sản phẩm và tiếp thị tại iProov, tôi đã giúp đưa xác thực khuôn mặt sinh trắc học đến các tổ chức nhạy cảm về bảo mật trên cả lĩnh vực công và tư. Những tổ chức này là mục tiêu thường xuyên của tội phạm mạng có tổ chức. Những kẻ thù của họ thông minh, được tài trợ tốt và trang bị công nghệ tiên tiến.

Chúng tôi bắt đầu thấy các nỗ lực để vượt qua các hệ thống sinh trắc học bằng cách sử dụng deepfakes được xây dựng từ danh tính bị đánh cắp. Vì iProov hoạt động như một dịch vụ quản lý dựa trên đám mây, chúng tôi có thể quan sát những cuộc tấn công này trong thời gian thực và phân tích cách mỗi phiên bản tiến hóa. Nó trở nên rõ ràng rằng những kẻ tội phạm đang học hỏi nhanh hơn thị trường đang thích nghi.

Kinh nghiệm đó đã mang lại cho tôi một cái nhìn sâu sắc về sự tiến hóa của gian lận được kích hoạt bởi deepfake và sự đánh giá cao về cách sáng tạo và tâm lý học thúc đẩy tội phạm mạng. Sự hiểu biết đó về tâm lý tội phạm hiện đang thông báo cho công việc của tôi trong khả năng chống chịu gian lận deepfake.

Deepfakes đang được sử dụng ngày càng nhiều cho việc giả mạo điều hành, nhân bản giọng nói và các cuộc tấn công xã hội. Những kịch bản nào bạn đang thấy thường xuyên nhất trong lĩnh vực này ngày nay?

Luôn luôn dễ dàng hơn để có được quyền truy cập thông qua kỹ thuật xã hội hơn là bằng cách phá vỡ các hệ thống bảo mật. Khi mọi người trở nên nhận thức hơn về các trò lừa đảo truyền thống, những kẻ tội phạm đang chuyển sang các cách mới để thao túng niềm tin.

Công nghệ deepfake đã trở thành công cụ kỹ thuật xã hội mạnh nhất mà chúng ta đã từng thấy. Nó cho phép những kẻ tấn công tạo ra các tín hiệu tin cậy có độ trung thực cao: khuôn mặt, giọng nói và câu chuyện thực tế vượt qua phán đoán của con người.

Lợi thế của tội phạm không chỉ giới hạn ở việc giả mạo điều hành hoặc thanh toán. Ngày càng nhiều, mục tiêu là tài sản trí tuệ, dữ liệu nhạy cảm và thông tin đăng nhập. Bằng cách đào tạo các tác nhân AI và cung cấp cho họ giọng nói nhân bản, gian lận có thể được thực hiện với quy mô, tốc độ và độ chính xác mà không một kẻ tấn công nào có thể sánh được. Đó là chân trời đe dọa mà chúng ta đang bước vào.

Điều gì phân biệt một chương trình khả năng chống chịu gian lận deepfake với đào tạo an ninh mạng hoặc chống lừa đảo truyền thống?

Đào tạo an ninh mạng như chúng ta biết nó đã được tạo ra vào đầu những năm 2000, khi internet và tính toán thương mại vẫn đang bắt đầu hình thành. Kể từ đó, nội dung đã phát triển để đáp ứng nhu cầu tuân thủ, với trọng tâm vào các nền tảng LMS và trò chơi hóa cho sự tham gia. Nhưng cảnh quan đe dọa đã di chuyển.

Gian lận ngày nay thông minh, sáng tạo và được thiết kế tâm lý. Những kẻ tội phạm sử dụng AI với cùng mức độ tinh vi như học thuật hoặc doanh nghiệp. Đào tạo phải vượt ra ngoài tuân thủ và đi vào nhận thức.

Khả năng chống chịu gian lận deepfake không thể giảm xuống chỉ là liệu ai đó có nhấp vào một liên kết. Nó phải dạy mọi người suy nghĩ批判, đặt câu hỏi về tính xác thực của khuôn mặt và giọng nói họ tương tác, và nhận ra làm thế nào dễ dàng nhận thức có thể bị thao túng.

Cũng cần phải đặt sự nhấn mạnh vào khả năng chống chịu nhận thức. Cảm xúc tăng cao, tâm trí bị phân tâm và đa nhiệm liên tục đều làm suy yếu suy nghĩ批判. Xây dựng khả năng chống chịu nhận thức đào tạo nhân viên để duy trì sự cân bằng cảm xúc, và để vẫn phân tích và cảnh giác. Đó chính là tâm trạng cần thiết để chống lại sự thao túng.

Công ty của bạn cung cấp Đánh giá lỗ hổng deepfake và Bài tập trên bàn. Bạn có thể dẫn chúng tôi qua một trong những mô phỏng đó và những hiểu biết mà khách hàng thường đạt được?

Trong các đánh giá lỗ hổng và bài tập trên bàn của chúng tôi, chúng tôi sao chép các vector tấn công được kích hoạt bởi deepfake mới nhất được rút ra từ các sự kiện thực. Các kịch bản phổ biến bao gồm một ứng viên giả mạo sử dụng danh tính nhân bản, một bộ phận hỗ trợ IT bị xâm phạm để đặt lại thông tin đăng nhập đa yếu tố, hoặc một cuộc gọi video với một nhân vật được tạo bởi AI mà thuyết phục nhân viên tải xuống phần mềm độc hại.

Những mô phỏng này暴 lộ cách mọi người phản ứng dưới áp lực và tiết lộ các điểm mù trong giao tiếp, quy trình và phản ứng sự cố. Các giám đốc điều hành thường phát hiện ra chuyên môn bị thiếu và quyền sở hữu quyết định không rõ ràng. Kết quả thường dẫn đến một chương trình khả năng chống chịu bền vững. Một chương trình tăng cường khả năng chống chịu gian lận, thay đổi quy trình và văn hóa, và sẵn sàng khủng hoảng trên toàn tổ chức.

Bạn thường nói về quản lý rủi ro dựa trên con người. Làm thế nào các công ty có thể trao quyền cho nhân viên của mình để phát hiện và chống lại sự thao túng deepfake thay vì chỉ dựa vào các công cụ kỹ thuật?

Deepfakes khai thác cùng mạch thần kinh giúp chúng ta đánh giá niềm tin và cảm xúc. Não bộ của chúng ta được thiết kế để ưu tiên các tín hiệu thị giác và thính giác, vì đây là những giác quan đầu tiên chúng ta phát triển. Nhưng chúng ta chưa từng tiến hóa để tự nhiên đặt câu hỏi những tín hiệu đó, vì vậy chúng ta phải học và liên tục củng cố kỹ năng đó.

Các công ty có thể trao quyền cho nhân viên của mình bằng cách đào tạo họ để đối xử với các tương tác kỹ thuật số với sự thận trọng và tò mò. Khi chúng ta đang trên một cuộc gọi thoại hoặc video, chúng ta đang tương tác với một hiện vật. Hiện vật đó có thể là một người thực được chiếu trên màn hình hoặc nó có thể là một hiện vật nhân tạo. Chúng ta không thể xác định điều đó một cách trực quan.

Phòng thủ duy nhất là xác minh chủ động: đặt câu hỏi đúng, kiểm tra chi tiết và nhận thấy sự không nhất quán trong câu chuyện. Câu thần chú mới phải đơn giản – không tin cậy, luôn xác minh.

Deepfakes làm mờ ranh giới giữa thông tin sai lệch và gian lận. Làm thế nào các giám đốc điều hành có thể chuẩn bị cho các cuộc khủng hoảng về danh tiếng và hoạt động được kích hoạt bởi các sự kiện truyền thông tổng hợp?

Các đội lãnh đạo phải đối xử với các sự kiện deepfake như một rủi ro kinh doanh cốt lõi, không phải là một rủi ro giả định. Mỗi giám đốc điều hành xung quanh bàn phải biết vai trò của mình khi một cuộc khủng hoảng xảy ra.

Giống như các hội đồng quản trị xem xét các sổ đăng ký rủi ro, họ cũng nên xem xét các kế hoạch phản ứng sự cố, và những kế hoạch này không thể là tĩnh. Cảnh quan đe dọa tiến hóa quá nhanh. Các kế hoạch cần được kiểm tra căng thẳng và cập nhật ít nhất hai lần một năm, lý tưởng là sau một bài tập trên bàn mô phỏng một sự kiện thực.

Các cuộc khủng hoảng deepfake hiếm khi nằm gọn trong một chức năng. Chúng đòi hỏi sự phối hợp giữa truyền thông, pháp lý, bảo mật và nhân sự. Các tổ chức phản ứng tốt nhất là những tổ chức mà các lãnh đạo của họ đã tập luyện sự hợp tác đó trước khi một sự kiện thực xảy ra.

Cũng có một chi phí tâm lý khi nhân viên hoặc giám đốc điều hành trở thành mục tiêu của các deepfakes thuyết phục. Những giao thức hoặc hỗ trợ nào tổ chức nên có để giải quyết tác động con người đó?

“Sự xấu hổ của lừa đảo” phải được tránh ở tất cả các chi phí. Các tổ chức nên xây dựng một văn hóa an toàn tâm lý từ trước khi một sự kiện xảy ra. Khi nhân viên hoặc giám đốc điều hành trở thành mục tiêu của các deepfakes, kinh nghiệm có thể cảm thấy như một cuộc tấn công. Một sự mất mát kiểm soát đối với hình ảnh, giọng nói và danh tính kỹ thuật số của chính họ.

Phản ứng phải là cả thủ tục và con người. Các giao thức báo cáo rõ ràng nên ngồi cùng với hỗ trợ sức khỏe tâm lý, debriefings bí mật và quyền truy cập vào pháp y kỹ thuật số để các cá nhân hiểu được điều gì đã xảy ra.

Các lãnh đạo thiết lập giai điệu. Khi các giám đốc điều hành nói một cách cởi mở về các nỗ lực thao túng và phục hồi, nó loại bỏ sự kỳ thị và khuyến khích tính minh bạch. Sự cởi mở đó là điều biến sự dễ bị tổn thương của cá nhân thành khả năng chống chịu tập thể.

Là người sáng lập của một công ty tư vấn trong lĩnh vực này, những lo ngại lớn nhất của bạn về tốc độ phát triển của AI tạo ra là gì – và bạn thấy sóng tiếp theo của khả năng deepfake xuất hiện ở đâu?

AI tạo ra đang phát triển với tốc độ phi thường. Điều đó không phải là mối quan tâm. Rủi ro thực sự nằm trong việc áp dụng nhanh chóng và độ bám của nó trên các hoạt động kinh doanh hàng ngày. Tốc độ quản lý rủi ro và nhận thức đơn giản là không theo kịp. Khoảng cách giữa rủi ro và khả năng chống chịu chính xác là nơi những kẻ lừa đảo phát triển, với deepfakes là công cụ kích hoạt hiệu quả nhất của họ.

Mỗi đổi mới mới trở thành một bề mặt khác để khai thác. Hiện tại, các tác nhân AI tạo ra một rủi ro ngày càng tăng. Khi kết hợp với công nghệ deepfake, chúng có thể thực hiện gian lận với quy mô, tốc độ và độ chính xác mà không một kẻ tấn công nào có thể sánh được.

Nghịch lại, những công nghệ hoặc nỗ lực hợp tác nào mang lại cho bạn sự lạc quan rằng chúng ta có thể ở trước gian lận và thông tin sai lệch được kích hoạt bởi deepfake?

Việc cuộc trò chuyện này đang diễn ra trong một ấn phẩm được tôn trọng là chính nó là một dấu hiệu của tiến bộ. Nó cho thấy rằng các nhà đổi mới, các nhà quản lý, truyền thông và doanh nghiệp đều bị ảnh hưởng nặng nề bởi thông tin sai lệch.

Điều mang lại cho tôi sự lạc quan là sự sẵn sàng ngày càng tăng để hợp tác. Khả năng chống chịu deepfake sẽ không đến từ một công cụ hoặc một tổ chức, mà từ thông tin được chia sẻ. Học cách trao đổi thông tin và giáo dục cộng đồng một cách hiệu quả như những kẻ tội phạm làm.

Chúng tôi vẫn cần phải tinh chỉnh cách hợp tác đó xảy ra, nhưng ý định là có. Và ý định tập thể đó là điều sẽ cuối cùng khôi phục lại niềm tin.

Cảm ơn vì cuộc phỏng vấn tuyệt vời, độc giả muốn tìm hiểu thêm có thể truy cập Aarti Samani.