Phỏng vấn
Omer Bachar, Đồng sáng lập và CEO của Vetric – Phỏng vấn Series

Điểm chính自力更生迫使Vetric将基础设施可靠性置于不计代价的扩张之上。
Xem thêm
- 自力更生迫使Vetric将基础设施可靠性置于不计代价的扩张之上。
- 没有可扩展的公共数据基础设施来实时输入威胁,检测模型毫无用处。
- 深度伪造即服务已通过开源工具在免费层级实现商品化。
Omer Bachar, Đồng sáng lập và CEO của Vetric, là một doanh nhân Israel và là một nhà lãnh đạo công nghệ tập trung vào trình tự mã nguồn mở (OSINT) đã xây dựng sự nghiệp xung quanh việc giải quyết các thách thức dữ liệu và tình báo phức tạp. Trước khi thành lập Vetric vào năm 2022, Bachar đã phát triển và kiếm tiền từ nhiều doanh nghiệp web khi còn là một thiếu niên, tích lũy kinh nghiệm trong lĩnh vực phát triển web, SEO, kiếm tiền từ lưu lượng truy cập và hoạt động kỹ thuật số có thể mở rộng. Sau đó, anh đã phục vụ trong Lực lượng Phòng vệ Israel, nơi anh đã giúp hiện đại hóa hoạt động Cảnh sát Quân đội thông qua tự động hóa, AI, khai thác dữ liệu và phương pháp luận linh hoạt trong khi lãnh đạo các đội và sáng kiến sản phẩm. Sau một công ty khởi nghiệp thất bại trước đó và một giai đoạn nghiên cứu chuyên sâu ở Thái Lan với các đồng sáng lập, Bachar đã ra mắt Vetric với trọng tâm vào cơ sở hạ tầng hơn là tài trợ mạo hiểm, phát triển công ty một cách tự chủ trong khi phục vụ các tổ chức phụ thuộc vào khả năng truy cập dữ liệu web công khai có thể mở rộng. Công việc của anh tập trung vào WEBINT, OSINT, thu thập dữ liệu và tình báo đe dọa kỹ thuật số, đặc biệt là trong các lĩnh vực liên quan đến giả mạo, gian lận và rủi ro liên quan đến deepfake.
Vetric là một công ty cơ sở hạ tầng dữ liệu giúp các tổ chức thu thập, xử lý và vận hành dữ liệu web công khai theo quy mô lớn. Công ty tự định vị mình là một lớp cơ sở hạ tầng đáng tin cậy cho các đội an toàn, an ninh mạng, tình báo và các đội khác cần truy cập đáng tin cậy và theo thời gian thực vào thông tin web mở. Thay vì xây dựng một nền tảng hướng đến người tiêu dùng, Vetric tập trung vào các API được quản lý và đường ống dữ liệu linh hoạt được thiết kế để đơn giản hóa việc thu thập dữ liệu công khai lớn trên các môi trường trực tuyến luôn thay đổi. Công ty đã nhấn mạnh cách tiếp cận “dữ liệu vì lợi ích tốt” bằng cách hỗ trợ các tổ chức làm việc để xác định các chiến dịch giả mạo, deepfake, lừa đảo và các mối đe dọa kỹ thuật số khác. Theo công ty, họ đã phát triển từ một đội sáng lập nhỏ thành một hoạt động mở rộng nhanh chóng, phục vụ hơn 100 tổ chức trên toàn cầu trong khi vẫn tập trung vào cơ sở hạ tầng có thể mở rộng và độ tin cậy hoạt động.
Bạn đã bắt đầu xây dựng các doanh nghiệp internet khi còn là một thiếu niên, sau đó làm việc trên việc hiện đại hóa Cảnh sát Quân đội Israel với các công cụ AI và OSINT, và cuối cùng đồng sáng lập Vetric.io sau khi dành nhiều tháng nghiên cứu các vấn đề ở Thái Lan. Những kinh nghiệm đó đã định hình niềm tin của bạn như thế nào rằng cơ sở hạ tầng dữ liệu, không chỉ là các mô hình phát hiện, sẽ trở thành chiến trường thực sự trong cuộc chiến chống lại deepfake và giả mạo kỹ thuật số?
Chủ đề xuyên suốt tất cả các chương đó là giống nhau: mọi vấn đề tôi nghĩ là một vấn đề phát hiện đã trở thành một vấn đề dữ liệu một lớp dưới.
Là một thiếu niên tìm kiếm các điểm yếu, phần khó không phải là khai thác — mà là xây dựng cơ sở hạ tầng để tìm các mục tiêu phù hợp theo quy mô lớn. Trong Cảnh sát Quân đội, OSINT là khoảng trống mà không ai đang làm việc. Các tội phạm đã để lại bằng chứng khắp nơi trên web mở, rõ ràng, và chúng tôi hầu như không có cách nào để tiếp cận một cách hệ thống. Sau đó ở Thái Lan, chúng tôi đã dành nhiều tháng nói chuyện với các cơ quan quốc phòng, các đội tình báo mối đe dọa, các nhà cung cấp bảo vệ thương hiệu, các đội lừa đảo. Mẫu giống nhau ở mọi nơi. Mọi người đều muốn thông tin.
Đó là khi mọi thứ trở nên rõ ràng. Các mô hình phát hiện chỉ tốt như dữ liệu bạn cung cấp cho chúng. Nếu bạn không thể nhìn thấy deepfake ngay khi nó xuất hiện trên web mở, bộ phát hiện của bạn là không liên quan. Chiến trường không phải là liệu mô hình của bạn có thể phát hiện khuôn mặt tổng hợp trong một điểm chuẩn — mà là liệu bạn có thể nhìn thấy bề mặt nơi cuộc tấn công thực sự tồn tại. Cơ sở hạ tầng dữ liệu công khai là phần mà không ai muốn xây dựng vì nó khó và không hấp dẫn, nhưng nếu không có nó, phần còn lại của ngăn xếp là một vở kịch.
Bạn đã lập luận rằng vấn đề deepfake đã thay đổi cơ bản trong 18 tháng qua. Những thay đổi công nghệ cụ thể nào đang khiến lừa đảo AI được tạo ra ngày nay trở nên nguy hiểm hơn so với các làn sóng lừa đảo và tấn công giả mạo trước đó?
Three điều đã thay đổi cùng một lúc, và sự kết hợp là điều khiến nó khác biệt.
Thứ nhất, các mô hình đa phương thức đã trở nên đủ tốt để bạn có thể tạo ra video, giọng nói và văn bản thuyết phục từ cùng một lời nhắc trong vài phút. Điều gì trước đây đòi hỏi một đội nhỏ và vài tuần bây giờ chỉ cần một người và một tách cà phê.
Thứ hai, chi phí đã giảm xuống sàn. Một bản sao giọng nói chất lượng cao của một nhân vật công chúng trước đây đòi hỏi một ngân sách GPU nghiêm trọng. Ngày nay, nó chạy trên phần cứng tiêu dùng hoặc một đăng ký SaaS 20 đô la mỗi tháng. Chi phí không còn là một rào cản.
Thứ ba — và đây là phần không được đánh giá cao — lớp phân phối đã theo kịp. Các bản sao không còn nằm trên một diễn đàn không rõ ràng chờ được phát hiện. Chúng sống trên web mở, trong cùng các nguồn công khai mà khách hàng và nhân viên của bạn tiêu thụ hàng chục lần mỗi ngày, thường với sự khuếch đại trả tiền trên đầu. Một video giả mạo di chuyển nhanh như bất cứ thứ gì khác trên internet công khai.
Trong các làn sóng trước, một kẻ tấn công phải chọn giữa chất lượng, tốc độ, quy mô và phạm vi. Bây giờ họ có thể có tất cả bốn với chi phí dưới 100 đô la. Sự không đối xứng giữa chi phí tạo ra một bản giả mạo thuyết phục và chi phí cho một doanh nghiệp để phát hiện, quy kết và phản ứng lại nó rộng hơn bao giờ hết. Đó là sự thay đổi.
Đa số các cuộc thảo luận công khai xung quanh deepfake vẫn tập trung vào phần mềm phát hiện. Tại sao bạn tin rằng cơ sở hạ tầng dữ liệu công khai đáng tin cậy, quy mô lớn hiện chỉ quan trọng như các mô hình AI chính?
Vì một bộ phát hiện không thể nhìn thấy mối đe dọa là một dự án nghiên cứu, không phải là một biện pháp phòng thủ.
Đa số các cuộc thảo luận về deepfake tập trung vào việc liệu mô hình có thể phân biệt khuôn mặt tổng hợp với khuôn mặt thật trong một điểm chuẩn được kiểm soát. Đó là những yêu cầu cơ bản. Vấn đề hoạt động là vấn đề khó hơn: một video giả mạo thương hiệu được đăng lên lúc 3 giờ sáng, thu hút 200.000 lượt xem trước khi ai đó nhận thấy, và đường ống phát hiện của bạn phải thực sự nhận được nội dung đó theo thời gian thực, quy kết và kích hoạt phản hồi. Nếu bạn không có một cách ổn định và có thể mở rộng để tiêu thụ dữ liệu công khai từ web mở — những nơi mà giả mạo và lừa đảo thực sự diễn ra — bạn không có gì để chạy bộ phát hiện của mình.
Đó là một điểm liên quan mà chúng tôi đã đề cập gần đây trong một bài viết về vụ vi phạm chuỗi cung ứng Anodot. Các doanh nghiệp đang bắt đầu nhận ra rằng tư thế an ninh của các nhà cung cấp dữ liệu của họ là tư thế an ninh của chính họ. Sự nhận thức tương tự đang đến với AI: độ tin cậy của ngăn xếp phát hiện của bạn là độ tin cậy của đường ống dữ liệu của bạn. Các mô hình nhận được sự chú ý của báo chí. Cơ sở hạ tầng thực hiện công việc. Việc coi hai điều này là các dòng ngân sách riêng biệt là một sai lầm mà thị trường sắp ngừng.
Vetric đã phát triển đến quy mô đáng kể mà không cần tài trợ bên ngoài trong khi phục vụ các doanh nghiệp và các tổ chức liên quan đến tình báo. Làm thế nào là việc tự chủ đã ảnh hưởng đến cách bạn xây dựng công ty và ưu tiên độ tin cậy cơ sở hạ tầng hơn là mở rộng tăng trưởng?
Việc tự chủ buộc một loại ám ảnh khách hàng mà các công ty được tài trợ có thể tránh trong một thời gian dài. Chúng tôi luôn tin vào việc cung cấp giá trị trước khi phát triển nhanh — và đối với chúng tôi, đó không phải là một khẩu hiệu, mà là một thực tế tài chính.
Mỗi đô la trong tài khoản ngân hàng của chúng tôi là một đô la mà khách hàng đã chọn trao cho chúng tôi để đổi lấy điều gì đó hoạt động. Chúng tôi không có một tấm đệm 50 triệu đô la để bắc cầu giữa một sản phẩm gần như hoạt động và một sản phẩm hoạt động.
Điều đó thay đổi mọi quyết định mà công ty đưa ra. Nó đã định hình kiến trúc của chúng tôi cũng như định hình đường dẫn của chúng tôi. Các khách hàng của chúng tôi, các cơ quan tình báo, các đội bảo vệ rủi ro kỹ thuật số, các đội an toàn công cộng, các nền tảng tình báo mối đe dọa, không chỉ muốn một sản phẩm hoạt động.
Đó cũng là lý do tại sao chúng tôi đã vẽ ranh giới tin cậy theo cách chúng tôi đã làm. Chúng tôi đẩy dữ liệu ra cho khách hàng; chúng tôi không bao giờ kéo dữ liệu từ họ. Chúng tôi không giữ các thông tin đăng nhập lâu dài vào hệ thống đám mây của khách hàng. Khi khách hàng muốn giao hàng vào AWS của riêng họ, chúng tôi sử dụng các vai trò IAM có phạm vi và ID bên ngoài — mẫu được AWS khuyến nghị đặc biệt để ngăn chặn loại vi phạm vector tấn công của nhà cung cấp mà vừa xảy ra với khách hàng của Anodot.
Các nền tảng Deepfake-as-a-Service đang làm giảm rào cản gia nhập cho các kẻ tấn công. Liệu chúng ta đang tiến gần đến một điểm mà các khả năng lừa đảo tinh vi trở nên hoàn toàn được thương mại hóa và có sẵn cho gần như bất kỳ ai?
Chúng tôi đã ở đó đối với các khả năng cơ bản — và không chỉ ở cấp trả phí, mà còn ở cấp miễn phí. Chúng tôi đang cách 12 đến 18 tháng so với các khả năng tinh vi hơn. Hãy xem những gì có sẵn ngay bây giờ. Các mô hình như Sora tạo ra video thuyết phục từ một lời nhắc văn bản. Các dự án thay thế khuôn mặt mã nguồn mở trên GitHub sẽ lấy bất kỳ hình ảnh tham chiếu nào và đặt khuôn mặt đó vào một video, và kết quả thực sự trông tốt — không cần kỹ năng chuyên môn, không cần thanh toán, không cần thị trường ngầm.
Rào cản để sản xuất một bản giả mạo chất lượng cao là một bản tải xuống miễn phí và một buổi chiều thí nghiệm. Cũng có các dịch vụ trả phí bao gồm một công việc theo quy trình turnkey xung quanh các mô hình cùng loại cho những người không muốn cài đặt bất cứ thứ gì, nhưng cấp mã nguồn mở là câu chuyện thực sự, vì đó là cấp mà bạn không thể định giá bất kỳ ai. Người vận hành nó không cần phải hiểu công nghệ cơ bản hơn là người chạy một bộ kit lừa đảo cần phải hiểu SMTP.
Cái đang đến tiếp theo là cấp khuôn mẫu, chiến dịch trong một hộp — các bộ giả mạo được xây dựng sẵn cho các thương hiệu cụ thể, các giám đốc điều hành cụ thể, các chu kỳ bầu cử cụ thể, với phương tiện truyền thông tổng hợp, tài khoản giả, lịch phân phối và nhắm mục tiêu đều được đóng gói cùng nhau. Khi điều đó tồn tại ở quy mô, chi phí biên của việc chạy một cuộc tấn công giả mạo giảm xuống gần như chi phí chạy một quảng cáo trả tiền. Hệ lụy cho các đội phòng thủ là không thoải mái. Bạn không thể giả định rằng kẻ tấn công là tinh vi hoặc có nhiều tài nguyên. Kẻ tấn công là bất kỳ ai có một chiếc laptop và một mối bất bình. Điều đó thay đổi khối lượng và sự đa dạng của các mối đe dọa theo một cấp độ của phép tính, và nó định nghĩa lại những gì “mối đe dọa có thể tin cậy” có nghĩa là đối với bất kỳ thương hiệu, giám đốc điều hành hoặc nhân vật công cộng nào có sự hiện diện trên internet.
Nhiều doanh nghiệp vẫn phụ thuộc vào các hệ thống giám sát phân mảnh và thông tin mối đe dọa bị trì hoãn. Những điểm yếu lớn nhất bạn thấy trong cách các tổ chức hiện tại thu thập và xử lý dữ liệu web công khai liên quan đến giả mạo và lừa đảo?
Một số điểm yếu tiếp tục xuất hiện trên các cuộc trò chuyện với khách hàng. Đầu tiên là phân mảnh. Hầu hết các doanh nghiệp chạy một công cụ cho giám sát thương hiệu, một công cụ khác cho bảo vệ giám đốc điều hành, một công cụ khác cho lừa đảo, một công cụ khác cho hoạt động an ninh. Mỗi công cụ kéo từ các nguồn khác nhau với phạm vi phủ khác nhau, độ trễ khác nhau và điểm mù khác nhau.
Khi một chiến dịch giả mạo xảy ra trên nhiều góc của web mở cùng một lúc, các mối nối giữa các công cụ chính xác là nơi kẻ tấn công ẩn nấp. Và dưới sự phân mảnh đó là một vấn đề sâu sắc hơn: hầu hết các công cụ này tối ưu hóa cho việc gỡ bỏ. Kéo xuống hồ sơ giả là cần thiết, nhưng riêng nó là một trò chơi whac-a-mole — một hồ sơ khác sẽ xuất hiện vào ngày hôm sau. Các đội nhận được lợi thế thực sự là những đội đang tăng gấp đôi điều tra: kết nối các điểm giữa các tài khoản, cơ sở hạ tầng và chiến dịch, vì vậy họ đang tháo dỡ mạng lưới đằng sau giả mạo thay vì chỉ nhắm vào một URL tại một thời điểm.
Thứ hai là sự phụ thuộc vào phần mềm trung gian cần truy cập sâu vào hệ thống của khách hàng. Đó là vấn đề cấu trúc mà chúng tôi đã viết về trong bối cảnh vi phạm Anodot — các nhà cung cấp yêu cầu OAuth hoặc khóa API vào đám mây của bạn trở thành các điểm thất bại đơn lẻ cho mọi người hạ lưu. SOC 2 sẽ không cứu bạn khỏi điều đó. Kiến trúc hoặc có phạm vi ảnh hưởng khi sự cố xảy ra, hoặc không.
Thứ ba là độ trễ. Phần lớn những gì được bán dưới dạng “thông tin mối đe dọa theo thời gian thực” thực sự là trên độ trễ từ bốn đến hai mươi bốn giờ vì quá trình thu thập cơ bản diễn ra theo lô. Đối với giả mạo và lừa đảo, đó là một khoảng thời gian vĩnh cửu. Khi cảnh báo được kích hoạt, chiến dịch đã chạy hết khóa.
Thứ tư là sự phân bổ sai giữa phạm vi phát hiện và khả năng phân tích. Các công ty đầu tư vào các công cụ đánh dấu nội dung tổng hợp hoặc đáng ngờ, nhưng họ đầu tư thấp vào phạm vi để thực sự nhìn thấy những gì đang được đăng về họ trên web mở, và trong các khả năng phân tích để hiểu những gì họ nhìn thấy — ai đứng sau, làm thế nào các tài khoản kết nối, cơ sở hạ tầng nào họ chia sẻ. Phát hiện là một bước; phạm vi và phân tích là những gì biến một lá cờ thành hành động. Đó giống như mua một báo động khói tuyệt vời và quên không cắm điện.
Bạn đã nói về việc xử lý hàng tỷ điểm dữ liệu công khai mỗi tháng. Những thách thức kỹ thuật nào xuất hiện khi xây dựng cơ sở hạ tầng thời gian thực có khả năng xác định các mối đe dọa được thúc đẩy bởi AI ở quy mô internet?
Các vấn đề khó không phải là những gì mà hầu hết mọi người mong đợi. Điều đầu tiên cần nói là xây dựng cơ sở hạ tầng như vậy không phải là phần khó — duy trì nó mới là phần khó. Bạn không xây dựng một đường ống như của chúng tôi một lần và bước đi. Bạn cần một toàn bộ đội mà công việc của họ là giữ cho nó sống, và đó là đội mà chúng tôi đã xây dựng. Các nguồn công khai mà chúng tôi thu thập từ liên tục thay đổi, và bất kỳ nguồn nào trong số đó có thể âm thầm phá vỡ một bộ thu thập. Hầu hết nỗ lực kỹ thuật trong suốt vòng đời của một sản phẩm như thế này đi vào bảo trì, không phải phát triển xanh.
Thứ hai là khả năng mở rộng là một máy chạy bộ. Bạn cải thiện đường ống, bạn đẩy nó mạnh hơn, và ở một điểm nào đó, quy mô trở nên quá lớn so với những gì bạn đã xây dựng và mọi thứ bắt đầu rung lắc. Sau đó, bạn xây dựng lại lớp đó — đôi khi từ đầu — cho cấp độ tiếp theo. Chu kỳ đó không bao giờ thực sự kết thúc. Mỗi cấp độ của phép tính về khối lượng hiệu quả là một hệ thống khác, ngay cả khi nó trông giống như cùng một sản phẩm từ bên ngoài.
Thứ ba là thời gian hoạt động, điều này có vẻ nhàm chán cho đến khi bạn nhớ những khách hàng của chúng tôi là ai. Một số trong số họ sử dụng dữ liệu của chúng tôi để giúp ngăn chặn các cuộc tấn công khủng bố. Thời gian thực có nghĩa là bạn không có thời gian ân hạn. Những thứ sẽ bị hỏng — chúng luôn làm như vậy — và điều quan trọng là chúng được bật trong phần còn lại của thời gian và được sửa chữa càng nhanh càng tốt khi chúng không được bật. Chúng tôi đã thiết kế tư thế gọi, cảnh báo và sự dư thừa xung quanh thực tế đó, không phải xung quanh một số SaaS chung về thời gian hoạt động.
Khi phương tiện truyền thông tổng hợp trở nên thuyết phục hơn, bạn có nghĩ rằng xã hội đang tiến gần đến một cuộc khủng hoảng tin cậy rộng lớn hơn, nơi mọi người bắt đầu nghi ngờ âm thanh, video và truyền thông hợp pháp bằng mặc định?
Gần hơn những gì mọi người muốn thừa nhận. Nhưng tôi không nghĩ nó kết thúc trong sự sụp đổ — tôi nghĩ nó kết thúc trong một trạng thái cân bằng khác.
Phiên bản ngây thơ của cuộc khủng hoảng tin cậy cho rằng: không ai sẽ tin bất kỳ âm thanh hoặc video nào, và không gian công cộng sẽ sụp đổ. Tôi không nghĩ đó là nơi này sẽ đi. Con người rất thích nghi với môi trường nhận thức. Chúng tôi đã học cách đọc báo với sự hoài nghi, sau đó là truyền hình, sau đó là web. Chúng tôi sẽ học cách đọc phương tiện truyền thông được tạo bởi AI với sự hoài nghi cũng vậy, và đó không hoàn toàn là một kết quả tồi.
Cái tôi nghĩ chúng ta sẽ thấy là một sự thay đổi trong những gì được tính là bằng chứng. Video và âm thanh thô sẽ trở thành những hình thức bằng chứng yếu hơn; xuất xứ, chữ ký mật mã, chuỗi hành trình và xác minh danh tính sẽ trở thành những hình thức mạnh hơn. Các tổ chức tìm ra cách xác minh một cách đáng tin cậy các phương tiện truyền thông của chính họ — các ngân hàng, chính phủ, tổ chức tin tức — sẽ dẫn đầu. Những tổ chức không làm như vậy sẽ bị giả mạo thành vô nghĩa.
Cửa sổ nguy hiểm là cửa sổ giữa, hai đến ba năm, nơi các bản sao trở nên thuyết phục nhanh hơn lớp xác minh được triển khai. Đó là cửa sổ nơi thiệt hại được thực hiện, và đó là cửa sổ chúng tôi đang cố gắng cung cấp cho khách hàng của mình khả năng nhìn thấy để sống sót.
Cảm ơn bạn vì cuộc phỏng vấn tuyệt vời, những người đọc muốn tìm hiểu thêm nên truy cập Vetric.












