Shahar Man, Đồng sáng lập và Giám đốc điều hành của Backslash Security – Phỏng vấn

Shahar Man, Đồng sáng lập và Giám đốc điều hành của Backslash Security, là một nhà lãnh đạo công nghệ có kinh nghiệm với chuyên môn sâu về phát triển đám mây, an ninh mạng và phần mềm doanh nghiệp. Hiện tại, ông lãnh đạo Backslash Security, một công ty tập trung vào việc bảo mật môi trường phát triển phần mềm bản địa AI, bảo vệ mọi thứ từ IDE và các tác nhân AI đến mã được tạo và các công việc dòng lệnh. Trước đó, ông đã giữ các vị trí lãnh đạo cấp cao tại Aqua Security, nơi ông từng là Phó Chủ tịch Quản lý Sản phẩm và Phó Chủ tịch Nghiên cứu và Phát triển, giúp xây dựng một trong những nền tảng hàng đầu về bảo mật container trên toàn bộ vòng đời phát triển. Sớm trong sự nghiệp của mình, Man đã dành hơn một thập kỷ tại SAP, nơi ông lãnh đạo các sáng kiến phát triển và sản phẩm, bao gồm SAP Web IDE, và làm việc chặt chẽ với khách hàng doanh nghiệp toàn cầu, đồng thời cũng góp phần vào sự phát triển của hệ sinh thái nhà phát triển. Sự nghiệp của ông bắt đầu từ các vai trò kỹ thuật và lãnh đạo trong cả môi trường khởi nghiệp và đơn vị công nghệ quốc phòng của Israel, mang lại cho ông nền tảng vững chắc về kỹ thuật và hệ thống quy mô lớn.

Backslash Security là một nền tảng an ninh mạng mới nổi, được thiết kế dành riêng cho kỷ nguyên phát triển phần mềm dựa trên AI. Công ty tập trung vào việc bảo mật toàn bộ ngăn xếp phát triển bản địa AI, bao gồm các tác nhân AI, đường ống tạo mã và các công việc dòng lệnh hiện đại, một lĩnh vực mà các công cụ bảo mật truyền thống thường bỏ qua. Bằng cách cung cấp khả năng hiển thị, quản lý và bảo vệ thời gian thực mà không làm gián đoạn tốc độ của nhà phát triển, Backslash nhằm mục đích giải quyết các rủi ro ngày càng tăng do việc mã hóa tự động và môi trường “vibe coding” mang lại. Khi việc tạo phần mềm ngày càng chuyển hướng sang các hệ thống hỗ trợ bởi AI, nền tảng này được thiết kế để đảm bảo rằng bảo mật sẽ phát triển song song thay vì trở thành một nút thắt, đặt Backslash tại điểm giao nhau giữa DevSecOps và phát triển AI thế hệ tiếp theo.

Bạn đã từng giữ các vị trí lãnh đạo về sản phẩm và Nghiên cứu và Phát triển tại các công ty như Aqua Security và SAP trước khi thành lập Backslash. Những tín hiệu đầu tiên nào đã thuyết phục bạn rằng phát triển bản địa AI và “vibe coding” sẽ thay đổi cơ bản cách tạo ra phần mềm, và bảo mật cần được xây dựng lại để hỗ trợ nó?

Tôi đã trải qua một sự thay đổi lớn khi phần mềm chuyển sang kiến trúc bản địa đám mây. Tại SAP và sau đó tại Aqua, chúng tôi đã chứng kiến trực tiếp rằng khi phát triển thay đổi nhiều như vậy, bảo mật thường bị tụt lại phía sau. AI đã mang sự thật này lên một tầm cao mới, không chỉ vì nó có thể giúp viết mã nhanh hơn, mà còn vì nó đã bắt đầu thay đổi toàn bộ môi trường xung quanh việc tạo ra phần mềm.

Bảo mật mã hiện nay không chỉ là về mã itu mà còn về môi trường xung quanh nó. Trong chưa đầy một năm, những gì trước đây là một môi trường phát triển tương đối được chứa và có rủi ro thấp đã mở rộng thành một bề mặt tấn công rộng lớn và có kết nối cao với rất ít giám sát hoặc quản lý. Khi điều đó xảy ra, các câu hỏi bảo mật về các điểm yếu của mã đã thay đổi hoàn toàn. Vấn đề thực sự không phải là liệu một đoạn mã nhất định có điểm yếu hay không. Vấn đề là rằng trong việc cho phép phát triển dựa trên AI, chúng ta đã giới thiệu các hệ thống, tác nhân, tích hợp và đường dẫn truy cập mở rộng ra ngoài mã itu.

Bạn mô tả “vibe coding” như là việc mở rộng bề mặt tấn công vượt ra ngoài mã vào các tác nhân, máy chủ MCP, và các lớp công cụ. Những rủi ro bị hiểu lầm nhất trong ngăn xếp mới này mà các nhà phát triển và đội ngũ bảo mật đang bỏ qua là gì?

Sự hiểu lầm lớn nhất là nhiều đội vẫn nghĩ rằng rủi ro nằm chủ yếu trong mã được tạo. Đó chỉ là một lớp. Trong phát triển bản địa AI, rủi ro được giới thiệu sớm hơn và ở nhiều nơi hơn. Điều này có thể xảy ra trong các tác nhân, trong ngữ cảnh được cung cấp cho mô hình, trong các quyền được cấp cho các tác nhân, trong các máy chủ MCP mà chúng kết nối, hoặc trong các công cụ và plugin bên ngoài mà mở rộng phạm vi của chúng. Một máy tính xách tay của người dùng đơn lẻ có thể bị chiếm và sử dụng như một điểm tấn công rộng lớn hơn. Đó là một điểm đau của điểm cuối masquerade như một vấn đề mã hóa AI. Không giống như các điểm yếu của mã, điều này không chỉ đặt ứng dụng của bạn vào rủi ro – nó có thể đặt toàn bộ tổ chức của bạn vào rủi ro. Nếu bạn chỉ nhìn vào mã, bạn đang bỏ lỡ hầu hết bức tranh.

Bảo mật ứng dụng truyền thống đã tập trung mạnh vào việc xem xét mã. Làm thế nào tư duy bảo mật cần thay đổi khi các tác nhân AI tạo, sửa đổi và triển khai mã trong thời gian thực?

Bảo mật phải chuyển từ việc kiểm tra định kỳ sang giám sát liên tục. Khái niệm về niềm tin hoàn toàn bị phá vỡ – bạn có thể có mô hình và máy chủ MCP đáng tin cậy, nhưng do tính chất không xác định của AI, chúng vẫn có thể bị thao túng hoặc đơn giản là hành xử không đúng cách để tạo ra rủi ro không mong muốn.

Điều này cũng có nghĩa là phải có một sự thay đổi trong tư duy, trong đó bảo mật hoạt động cùng với quá trình phát triển khi nó xảy ra và có các chính sách, rào cản và khả năng phát hiện và phản ứng sâu sắc hơn trong môi trường đó. Điều đó có nghĩa là suy nghĩ một cách quan trọng về các công cụ được sử dụng, ngữ cảnh mà chúng tiêu thụ, các chính sách nên quản lý chúng, và các hành động chúng thực hiện trong thời gian thực.

Công cụ như Cursor, Claude Code và GitHub Copilot đang trở thành tiêu chuẩn trong các công việc của nhà phát triển. Bạn thấy những khoảng trống bảo mật lớn nhất khi các đội采用 những công cụ này mà không có một lớp quản lý phù hợp?

Khoảng trống lớn nhất là khả năng hiển thị. Trong nhiều tổ chức, các công cụ này đang lan rộng mà không có một đánh giá chính thức. Các đội ngũ bảo mật thường không biết các tác nhân nào đang được sử dụng, cách chúng được cấu hình, dữ liệu nào chúng có thể truy cập, hoặc các hệ thống bên ngoài nào chúng kết nối. Điều đó tạo ra một vấn đề “bóng tối AI”, tương tự như “bóng tối IT” về nguyên tắc, chỉ nhanh hơn và động hơn.

Sự thiếu hụt lớn thứ hai là sự thiếu các chính sách có thể thực thi. Hầu hết các tổ chức có thể có hướng dẫn, nhưng hướng dẫn alone không giúp nhiều khi một nhà phát triển đang di chuyển nhanh chóng trong IDE. Không có quản lý tại lớp công cụ và dòng lệnh, các đội rủi ro các công cụ quá quyền mà không đáp ứng tiêu chuẩn doanh nghiệp. Các công cụ này không phải là xấu, nhưng việc áp dụng chúng mà không có quản lý có nghĩa là bạn đang tăng tốc độ phát triển mà không tăng kiểm soát.

Một khoảng trống mới nổi thứ ba là rằng mọi người có thể trở thành nhà phát triển – những gì chúng tôi gọi là “nhà phát triển công dân”, sử dụng các công cụ “vibe coding”. Khi người tài chính sử dụng Claude Code để tự động hóa các quy trình và kết nối với các hệ thống nội bộ, điều này tạo ra rủi ro tiềm ẩn và là một điểm mù lớn ngay cả ngày nay.

Backslash tập trung vào việc bảo mật toàn bộ hệ sinh thái phát triển AI thay vì các công cụ riêng lẻ. Tại sao cách tiếp cận toàn bộ ngăn xếp này lại cần thiết, và điều gì sẽ xảy ra nếu các tổ chức tiếp tục xử lý các rủi ro này một cách riêng biệt?

Vì rủi ro không nằm gọn trong bất kỳ sản phẩm nào trong ngăn xếp của bạn. Phát triển bản địa AI là một vấn đề về hệ sinh thái, vì nó hoạt động ở nhiều nơi khác nhau, sử dụng nhiều công cụ khác nhau. IDE, mô hình, tác nhân, máy chủ MCP, plugin bên ngoài, danh tính và nguồn dữ liệu kết nối đều ảnh hưởng đến việc xây dựng và cách thức hoạt động. Các tổ chức không tiêu chuẩn hóa một công cụ duy nhất vì sức mạnh tương đối của chúng đang thay đổi rất nhanh. Nếu bạn chỉ bảo mật một điểm trong chuỗi đó, bạn vẫn bỏ lỡ cách rủi ro di chuyển qua hệ thống.

Xử lý các rủi ro này một cách riêng biệt dẫn đến các biện pháp phòng thủ bị phân mảnh và các điểm mù nguy hiểm. Bạn có thể tăng cường mã quét, nhưng bỏ qua máy chủ MCP mà cung cấp ngữ cảnh rủi ro cho mô hình. Đó là lý do tại sao chúng tôi tin rằng cách tiếp cận đúng là khả năng hiển thị toàn bộ ngăn xếp và bảo vệ thời gian thực trên toàn bộ hệ sinh thái phát triển AI. Nếu không, các tổ chức sẽ tiếp tục giải quyết các triệu chứng trong khi bề mặt tấn công thực sự tiếp tục mở rộng dưới chúng.

“Prompting” đang nổi lên như một lớp lập trình mới. Làm thế nào các tổ chức nên tiếp cận việc bảo mật các tác nhân và ngăn chặn các vấn đề như tiêm lệnh, rò rỉ dữ liệu hoặc thao túng?

Các tác nhân ngày càng định hình logic và hành vi. Trong nhiều trường hợp, chúng hiệu quả là một mặt phẳng điều khiển mới cho việc tạo ra phần mềm. Điều đó có nghĩa là chúng cần chính sách, giám sát và rào cản giống như định nghĩa mã hoặc cơ sở hạ tầng sẽ. Về thực tế, điều đó bắt đầu bằng việc hạn chế những gì các tác nhân có thể truy cập và những hành động nào chúng có thể kích hoạt. Điều đó cũng có nghĩa là định nghĩa các quy tắc tác nhân phù hợp với kỳ vọng bảo mật và chất lượng, ngăn chặn dữ liệu nhạy cảm bị lộ qua các cửa sổ ngữ cảnh, và theo dõi các nỗ lực thao túng như tiêm lệnh hoặc chiếm quyền chỉ đạo gián tiếp. Và điều đó cũng bao gồm việc đảm bảo rằng các quy tắc đó không được sử dụng như các cửa hậu cho tiêm lệnh. Điểm rộng hơn là bạn không bảo mật việc “prompting” bằng cách hướng dẫn các nhà phát triển và tác nhân “cẩn thận”. Bạn bảo mật nó bằng cách nhúng các biện pháp kiểm soát vào môi trường nơi việc “prompting” thực sự xảy ra.

Máy chủ MCP và kỹ năng của tác nhân giới thiệu các kết nối động giữa các hệ thống. Về mặt bảo mật, liệu chúng có đại diện cho vector rủi ro mới quan trọng nhất trong phát triển dựa trên AI?

Máy chủ MCP và kỹ năng của tác nhân đại diện cho một lớp rủi ro mới quan trọng vì chúng định nghĩa cách các hệ thống AI kết nối và tương tác với thế giới thực. Kỹ năng định nghĩa những gì một tác nhân được ủy quyền để thực hiện, trong khi MCP mở rộng khả năng truy cập của nó vào ngữ cảnh và hệ thống. Cùng nhau, chúng định hình hành vi thực tế của tác nhân. Nếu các lớp này không được kiểm soát chặt chẽ, các tổ chức sẽ mất khả năng hiển thị vào những gì các công cụ AI của họ có khả năng và những gì chúng thực sự đang làm. Sự chuyển đổi từ việc tạo mã sang thực hiện hành động là điều làm cho đây trở thành một lĩnh vực quan trọng cho bảo mật, và chúng trở nên khó dự đoán hơn khi bạn kết nối chúng lại với nhau.

Một trong những chủ đề cốt lõi của bạn là “là bộ phận của sự đồng ý” – cho phép bảo mật mà không làm chậm các nhà phát triển. Bạn làm thế nào để cân bằng bảo vệ thời gian thực với tốc độ của nhà phát triển trong các môi trường mà tốc độ là quan trọng?

Bảo mật tạo ra ma sát khi nó xảy ra muộn hoặc bị ngắt kết nối với cách các nhà phát triển thực sự làm việc. Nó trở nên hiệu quả hơn khi nó được nhúng trực tiếp vào dòng công việc và tập trung vào những gì thực sự quan trọng. Đó đã là một phần của tư duy của chúng tôi từ khi Backslash bắt đầu, và nó quan trọng hơn nữa bây giờ trong phát triển dựa trên AI.

Trong thực tế, điều đó có nghĩa là đưa ra những vấn đề thực sự đại diện cho rủi ro, không phải lũ lụt các nhà phát triển với mọi thứ có vẻ đáng ngờ về mặt lý thuyết. Điều đó có nghĩa là thực thi chính sách trong IDE và dòng công việc của tác nhân, không phải sau khi sự kiện đã xảy ra. Và điều đó có nghĩa là tạo ra các rào cản minh bạch, có thể dự đoán được để các đội có thể di chuyển nhanh chóng trong khi vẫn biết những công cụ nào đang được sử dụng, những gì chúng có thể làm, và khi nào có điều gì đó bất thường đang xảy ra. Mục tiêu không phải là làm chậm việc áp dụng AI, mà là giúp các tổ chức áp dụng nó một cách tự tin mà không mất kiểm soát. Trong thực tế, điều đó có nghĩa là một nhà phát triển sẽ có ít không gian hơn để mắc sai lầm ngay từ đầu, nhưng nếu cô ấy làm, nó sẽ được bắt và xử lý nhanh chóng.

Chúng ta đang chứng kiến ngày càng nhiều người dùng không phải là kỹ thuật viên xây dựng phần mềm bằng cách sử dụng các công cụ AI. Sự gia tăng của các “vibe coder” phi kỹ thuật này làm thế nào thay đổi cảnh quan威脅?

Nó mở rộng cảnh quan威脅 theo hai cách. Thứ nhất, nó tăng đáng kể số lượng người có thể tạo ra đầu ra giống như phần mềm mà không hiểu được các ý nghĩa bảo mật. Thứ hai, nó tạo ra một cảm giác an toàn sai lầm vì các công cụ làm cho việc phát triển cảm giác như một cuộc trò chuyện và ít ma sát.

Điều đó có nghĩa là các tổ chức sẽ thấy nhiều ứng dụng, tự động hóa và tích hợp được tạo ra bởi những người không được đào tạo để xem xét các ranh giới tin cậy, xác thực đầu vào, vệ sinh phụ thuộc, kiểm soát truy cập hoặc lộ dữ liệu. Nói cách khác, bề mặt tấn công mở rộng không chỉ vì AI viết nhiều mã hơn, mà còn vì nhiều người hơn có thể tạo ra các công việc và hệ thống hành xử như phần mềm mà không áp dụng các kỷ luật kỹ thuật cơ bản. Điều đó làm cho khả năng hiển thị và các biện pháp bảo vệ được xây dựng sẵn trở nên quan trọng hơn, vì bạn không thể giả định kiến thức bảo mật tại điểm tạo ra.

Nhìn về tương lai 12 đến 24 tháng, bạn dự đoán những loại tấn công hoặc điểm yếu nào sẽ xuất hiện cụ thể do các luồng công việc phát triển bản địa AI?

Chúng tôi dự đoán nhiều điểm yếu mã thông thường sẽ được tránh khỏi ngay từ đầu thông qua sự cải thiện trong các mô hình LLM, hoặc thông qua các quy tắc tác nhân được nhúng tốt hơn trong “harness” xung quanh các công cụ đó. Nếu chúng ta đang chứng kiến sự gia tăng về số lượng điểm yếu chỉ đơn giản do tốc độ tăng lên, điều này sẽ tự sửa mình. Và những gì không được sửa sẽ được theo đuổi bởi các công cụ SAST và SCA được kích hoạt bởi AI (một số trong số đó cũng sẽ được cung cấp bởi các nhà cung cấp nền tảng AI, ví dụ như Claude Code Security và dự án Glasswing).

Tuy nhiên, tôi dự đoán kết quả tồi tệ hơn khi nói đến việc lộ thông tin do sử dụng các công cụ AI không được giám sát và không được kiểm tra trong phát triển ứng dụng – như các tác nhân mã nguồn mở (OpenClaw là một ví dụ tốt), có các thiết lập bảo mật rất kém kết hợp với một nhóm người dùng mà kiến thức bảo mật của họ bị vượt quá bởi sự nhiệt tình đối với “vibe coding”.

Do đó, tôi nghĩ chúng ta sẽ thấy một sự thay đổi hướng đến các cuộc tấn công nhắm vào chính hệ sinh thái phát triển chứ không chỉ là các hệ thống sản xuất. Khi AI trở thành một phần của cách tạo ra phần mềm, các kẻ tấn công sẽ tập trung vào việc thao túng các công cụ và kết nối định hình quá trình đó, hiệu quả là làm suy yếu phần mềm trước khi nó thậm chí được triển khai.

Cảm ơn bạn vì cuộc phỏng vấn tuyệt vời, độc giả muốn tìm hiểu thêm có thể truy cập Backslash Security.