Claudionor Coelho, Giám đốc Điều hành Trí tuệ Nhân tạo tại Zscaler – Loạt Phỏng vấn

Claudionor Coelho là Giám đốc Điều hành Trí tuệ Nhân tạo tại Zscaler, chịu trách nhiệm dẫn dắt đội ngũ của mình để tìm ra những cách mới nhằm bảo vệ dữ liệu, thiết bị và người dùng thông qua các kỹ thuật Học máy (ML), Học sâu và Trí tuệ Nhân tạo Tạo sinh tiên tiến. Trước khi gia nhập Zscaler, ông từng là Giám đốc Điều hành Trí tuệ Nhân tạo và Phó Chủ tịch cấp cao về kỹ thuật tại Advantest. Trước đó, Coelho từng là Phó Chủ tịch và Trưởng phòng thí nghiệm Trí tuệ Nhân tạo tại Palo Alto Networks. Ông cũng từng giữ các vị trí về Học máy và Học sâu tại Google.

Zscaler tập trung vào việc tăng tốc chuyển đổi số bằng cách cho phép các tổ chức đạt được sự linh hoạt, hiệu quả, khả năng phục hồi và bảo mật cao hơn. Nền tảng Trao đổi Zero Trust dựa trên đám mây của công ty được thiết kế để bảo vệ người dùng khỏi các cuộc tấn công mạng và mất mát dữ liệu bằng cách kết nối người dùng, thiết bị và ứng dụng một cách an toàn, bất kể vị trí của họ. Zscaler phục vụ hàng nghìn khách hàng trên toàn thế giới, nhấn mạnh vào bảo mật mạnh mẽ và kết nối không gián đoạn.

Là Giám đốc Điều hành Trí tuệ Nhân tạo đầu tiên của Zscaler, ông đã định hình chiến lược Trí tuệ Nhân tạo của công ty như thế nào, đặc biệt là trong việc tích hợp Trí tuệ Nhân tạo với an ninh mạng?

Zscaler đã đạt được những tiến bộ đáng kể trong lĩnh vực Trí tuệ Nhân tạo cho an ninh mạng, điều này giúp công ty khác biệt so với các đối thủ. Nền tảng Zero Trust của Zscaler tận dụng Trí tuệ Nhân tạo để phát hiện và ngăn chặn việc đánh cắp thông tin đăng nhập và khai thác trình duyệt từ các trang web lừa đảo. Thông tin tình báo từ hơn 400 tỷ giao dịch hàng ngày cung cấp phân tích thời gian thực giúp tăng cường bảo vệ chống lại các cuộc tấn công mạng tinh vi. Ngoài ra, chúng tôi hợp tác với NVIDIA để cung cấp các đổi mới về bảo mật và công nghệ thông tin dựa trên Trí tuệ Nhân tạo Tạo sinh, như Zscaler ZDX Copilot, giúp đơn giản hóa các hoạt động CNTT và mạng, đồng thời xử lý dữ liệu từ nền tảng Trao đổi Zero Trust để chủ động bảo vệ các doanh nghiệp khỏi các mối đe dọa. Cuối cùng, với việc mua lại Avalor, chúng tôi đã mở rộng khả năng của Zero Trust Exchange bằng cách sử dụng Data Fabric cho Bảo mật. Với hơn 150 tích hợp sẵn, nó xác định và dự đoán các lỗ hổng bảo mật quan trọng đồng thời cải thiện hiệu quả hoạt động.

Ông đã thành lập nhiều công ty, bao gồm Kunumi, và từng giữ các vị trí lãnh đạo tại các công ty hàng đầu. Kinh nghiệm khởi nghiệp của ông đã ảnh hưởng đến cách tiếp cận của ông như thế nào với vai trò của mình tại Zscaler?

Khi tôi là Phó Chủ tịch cấp cao về kỹ thuật tại Jasper Design Automation, một công ty khởi nghiệp về Tự động hóa Thiết kế Điện tử, chúng tôi đã cạnh tranh với các công ty đa tỷ đô la nhưng đã đạt được hơn 70-80% thị phần vì sự đổi mới, quy trình kinh doanh và tính linh hoạt. Một trong những cuốn sách tôi luôn tham khảo trong các cuộc họp chiến lược là “Cạnh tranh trên rìa: Chiến lược như Sự hỗn loạn có cấu trúc” của Giáo sư Kathleen M. Eisenhardt. Mặc dù cuốn sách này là từ năm 1998, nhưng nó vẫn áp dụng được cho những gì chúng ta đang thấy với Trí tuệ Nhân tạo Tạo sinh ngày nay.

Trước đây chưa từng có một công nghệ thay đổi thế giới di chuyển nhanh như vậy. Kỹ sư Motorola Martin Cooper đã thực hiện cuộc gọi điện thoại di động đầu tiên vào năm 1973, nhưng thế giới phải mất 10 năm để mạng thương mại đầu tiên mở cửa và 24 năm nữa cho đến khi iPhone được phát hành, thay đổi cách chúng ta tương tác với máy tính.

ChatGPT được phát hành vào tháng 11 năm 2022. Năm sau, chúng tôi đã thảo luận trong một hội thảo do WEF tài trợ rằng Trí tuệ Nhân tạo Tổng quát (AGI) sẽ đến sớm. Tại thời điểm đó, chỉ có một số người trong chúng tôi nhận ra rằng chúng ta có thể sử dụng Các tác nhân để tạo ra nhiều hệ thống thông minh bằng cách lấp đầy khoảng trống của các mô hình ngôn ngữ lớn (LLM) bằng công cụ – ngay cả trước khi AGI. Vào năm 2024, cuộc thảo luận đã chuyển sang Các tác nhân Trí tuệ Nhân tạo, và vào cuối năm, chúng tôi bắt đầu thấy một số Tác nhân Trí tuệ Nhân tạo thông minh (như ZDX Copilot hoặc nền tảng blog Kiroku).

Tốc độ này chỉ có thể thấy trong môi trường khởi nghiệp, vì vậy nó đang gây ra căng thẳng lớn cho các tổ chức lớn, những tổ chức đang vật lộn để trở nên linh hoạt đủ để thích ứng với một công nghệ có tốc độ chưa từng có.

Với kinh nghiệm lãnh đạo các công ty tại cả Brazil và Mỹ, ông có thể cho biết một số khác biệt chính giữa hai thị trường này về việc áp dụng Trí tuệ Nhân tạo và an ninh mạng?

Thảo luận về các công ty khởi nghiệp là một cách tốt để bắt đầu minh họa sự tương đồng và khác biệt giữa các thị trường, vì đó là nơi bạn thường thấy những đổi mới cực đoan trước khi chúng đến với các tập đoàn lớn. Một chiến lược phổ biến ở Brazil đối với các công ty khởi nghiệp đã là sao chép các công ty khởi nghiệp thành công giai đoạn đầu của Mỹ, vì các công ty khởi nghiệp của Mỹ thường nhìn vào thị trường nội địa trước (mặc dù điều này đã thay đổi). Tuy nhiên, Mỹ đã truyền thống có một hệ thống vốn ổn định hơn, điều này làm cho việc bắt đầu một công ty dễ dàng hơn.

Tôi đã tạo ra Kunumi vào năm 2014 như công ty Học sâu đầu tiên tại Brazil. Nó đã được bán cho Ngân hàng Bradesco vào đầu năm nay. Về tổng thể, các tập đoàn tại Brazil không biết họ sẽ áp dụng Trí tuệ Nhân tạo Tạo sinh như thế nào, và bạn sẽ thấy rất nhiều sai lầm – cũng đúng ở Mỹ. Tôi đã xây dựng bốn Copilot trong đời mình – cái đầu tiên vào năm 2016, khi tôi còn tại Synopsys. Đó là một tác nhân có thể quét nhật ký biên dịch và thực thi của các máy mô phỏng lớn, tìm kiếm thông tin liên quan đến câu hỏi của người dùng, với hỗ trợ đa ngôn ngữ. Tại thời điểm đó, không có biến đổi, không có LLM và thậm chí dịch cũng rất khác so với ngày nay.

Vào năm 2020, tôi là một nhà nghiên cứu tại Google làm việc về nén và lượng tử hóa mô hình Học sâu, với CERN sử dụng những gì tôi đã tạo ra trong tìm kiếm các hạt hạ nguyên tử. Khi tôi nghĩ rằng chúng ta đang trong một cuộc chiến về dữ liệu, nó đã trở nên rõ ràng rằng an ninh mạng là một vấn đề toàn cầu không bị giới hạn ở một quốc gia hoặc một quốc gia khác. Đó là khi tôi quyết định chuyển sang lĩnh vực này.

Một vài tháng trước, tôi đã nói chuyện với một quan chức chính phủ nước ngoài người đã nói rằng An ninh mạng là một vấn đề của Mỹ và cơ quan của ông không có gì phải lo lắng – chỉ để có một cuộc tấn công mạng xảy ra trong tổ chức của ông vài tuần sau đó.

Cuối cùng, khi so sánh tình trạng An ninh mạng với các khoản phí tống tiền giữa Brazil và Mỹ, thực tế là các khoản phí tống tiền được ước tính là gần như nhau.

Làm thế nào môi trường pháp lý cho Trí tuệ Nhân tạo và an ninh mạng khác nhau giữa Brazil và Mỹ, và điều đó ảnh hưởng đến sự đổi mới trong các khu vực này như thế nào?

Bởi vì Trí tuệ Nhân tạo Tạo sinh đang di chuyển rất nhanh, các chính phủ nhận ra nhu cầu phải bảo vệ một điều gì đó nhưng thường không rõ ràng về điều họ đang cố gắng bảo vệ. Điều gì là tác động nếu chúng ta tạo ra luật cho LLM vào năm 2023, và vào năm 2024 chúng ta đang sử dụng Các tác nhân Trí tuệ Nhân tạo? Chúng ta cần quy định, nhưng chúng ta cũng cần thực hiện một phân tích không tình cảm về môi trường pháp lý để xem chúng ta có thể bảo vệ công dân địa phương tốt hơn như thế nào.

Đó được nói, khi Trí tuệ Nhân tạo đưa ra quyết định chỉ dựa trên đầu vào số chính xác đại diện cho lý do hoặc tính năng, phân tích thường không đầy đủ và cho ra một kết quả thực tế bị lỗi. Ví dụ, nếu một thuật toán Trí tuệ Nhân tạo đưa ra quyết định cho vay dựa trên một tiêu chí mơ hồ như “xác suất” và một yếu tố như lương hoặc chủng tộc được bao gồm, bạn có thể dễ dàng thấy một kịch bản trong đó một người sẽ bị từ chối cho vay dựa trên tác động ròng của một trong hai yếu tố đó. Với Trí tuệ Nhân tạo Tạo sinh, vấn đề trở nên tồi tệ hơn, do sự không thể của LLM trong việc đưa dữ liệu bên ngoài để đưa ra giả định về lý lẽ. Điều quan trọng là phải đảm bảo rằng chúng ta có quy định không cho phép các hệ thống bị lỗi đưa ra quyết định (đặc biệt là không có giám sát sâu), vì chúng chắc chắn sẽ mắc sai lầm.

Về mặt an ninh mạng, một số tổ chức của Mỹ (ví dụ: JCDC.AI, NIST, CISA, v.v.) đã thảo luận về nhu cầu giải quyết Trí tuệ Nhân tạo và an ninh mạng. Tất nhiên, trong các thị trường hoặc công nghệ nhanh chóng, bạn cần phải liên tục thích ứng với những thay đổi, và khi chúng di chuyển cực kỳ nhanh, bạn cần phải hoạt động ở rìa của sự hỗn loạn.

Nền tảng Trao đổi Zero Trust của Zscaler là một phần quan trọng trong mô hình bảo mật của công ty. Trí tuệ Nhân tạo tăng cường nền tảng này như thế nào, và những phát triển thú vị nhất trong lĩnh vực này là gì?

Kiến trúc Zero Trust của Zscaler giúp các tổ chức tạo ra một môi trường an toàn hơn cho việc triển khai Trí tuệ Nhân tạo, nhưng nền tảng cũng tận dụng Trí tuệ Nhân tạo theo nhiều cách, bắt đầu với ZDX Copilot, cung cấp các đổi mới về bảo mật dựa trên Trí tuệ Nhân tạo Tạo sinh. Được phát triển cùng với NVIDIA, tác nhân này tận dụng Trí tuệ Nhân tạo Tạo sinh để chủ động bảo vệ các doanh nghiệp khỏi các mối đe dọa và đơn giản hóa các hoạt động CNTT và mạng. Zscaler cũng đã tăng cường khả năng xác định lỗ hổng dự đoán bằng cách thêm Data Fabric cho Bảo mật của Avalor vào nền tảng Zero Trust Exchange của Zscaler. Cuối cùng, Trí tuệ Nhân tạo nằm ở trung tâm của nền tảng Zero Trust của Zscaler, phát hiện và ngăn chặn việc đánh cắp thông tin đăng nhập và khai thác trình duyệt từ các trang web lừa đảo. Phân tích thời gian thực dựa trên thông tin tình báo từ hơn 400 tỷ giao dịch hàng ngày giúp tăng cường bảo vệ chống lại các cuộc tấn công mạng tinh vi.

Trí tuệ Nhân tạo đã trở thành một phần quan trọng trong cuộc chiến chống lại các mối đe dọa mạng. Ông nhìn thấy Trí tuệ Nhân tạo sẽ phát triển như thế nào để giải quyết sự phức tạp ngày càng tăng của các rủi ro an ninh mạng, đặc biệt là trong lĩnh vực thiết bị IoT và OT?

Phong cảnh đe dọa đã thay đổi một cách không thể phủ nhận với sự xuất hiện của các cuộc tấn công mạng dựa trên Trí tuệ Nhân tạo, vì vậy các tổ chức có thể chống lại Trí tuệ Nhân tạo bằng Trí tuệ Nhân tạo. Sự tiến hóa lớn sẽ là tăng cường các giải pháp Trí tuệ Nhân tạo với các nguồn dữ liệu bổ sung.

Khi số lượng cuộc tấn công mạng tăng lên, chúng ta cần sử dụng nhiều tự động hóa hơn với Trí tuệ Nhân tạo để phát hiện và giải quyết các rủi ro mạng. Điều đáng chú ý là Trí tuệ Nhân tạo và Trí tuệ Nhân tạo Tạo sinh đang được sử dụng ngay bây giờ để tạo ra các mặt trận tấn công mới, và vì vậy, chúng ta cần nâng cao trò chơi bằng cách liên kết nhiều tín hiệu hơn so với trước đây.

Trong trường hợp của các thiết bị IoT và OT, chúng tạo ra rủi ro đáng kể cho các tổ chức, vì nhiều thiết bị IoT không sử dụng các ngăn xếp phần mềm cập nhật nhất – mặc dù bạn có thể dễ dàng mua các công tắc Wi-Fi, TV kết nối internet, máy rửa chén, lò nướng, v.v. Trong nhiều năm, chúng ta đã thấy nhiều bài báo cho thấy các lỗ hổng mà chúng ta đang phải đối mặt trong IoT / OT.

Chúng ta cần nhận thức liên tục và tăng cường bảo vệ an ninh mạng bằng cách phân tích tất cả các loại dữ liệu và tín hiệu để phát hiện các bất thường và mối đe dọa tiềm năng. Để giành chiến thắng trong trò chơi này, chúng ta cần các mô hình Trí tuệ Nhân tạo tiên tiến được đào tạo với lượng lớn dữ liệu trong thời gian thực. Trí tuệ Nhân tạo Tạo sinh đóng vai trò quan trọng, cho phép các công ty phân tích và tóm tắt kết quả cho người dùng và các nhà vận hành an ninh.

Là thành viên của các nhóm làm việc về Trí tuệ Nhân tạo và An ninh mạng tại Diễn đàn Kinh tế Thế giới, các cuộc thảo luận toàn cầu về đạo đức Trí tuệ Nhân tạo và an ninh mạng ảnh hưởng đến cách tiếp cận của ông với vai trò của mình tại Zscaler như thế nào?

Bởi vì công nghệ đang di chuyển rất nhanh, các chính phủ và tổ chức cần phải có thông tin cơ bản, và tôi xem đây là vai trò của Diễn đàn Kinh tế Thế giới. Trí tuệ Nhân tạo và An ninh mạng riêng biệt đã có đủ nhu cầu để yêu cầu các nhóm riêng biệt, nhưng khi bạn kết hợp cả hai, nó gần như là một lĩnh vực mới. Ví dụ, Gartner năm nay đã chỉ ra rằng Trí tuệ Nhân tạo Tạo sinh làm tăng bề mặt tấn công đáng kể, từ việc tiêm lệnh vào đầu vào và đầu ra đến các cuộc tấn công mã ứng dụng, mô hình và thậm chí cả các cuộc tấn công plug-in.

Một số cuộc tấn công này cụ thể cho LLM như ChatGPT, nhưng nếu bạn xem xét chúng ta đang chuyển từ LLM sang Các tác nhân Trí tuệ Nhân tạo và Hệ thống Đa tác nhân, bạn cần xem xét nhiều thông tin hơn. Ví dụ, trong LLM, bạn có thể quan tâm đến việc tiêm lệnh, hành vi ngủ (kích hoạt LLM phản ứng khác nhau dựa trên các từ khóa đặc biệt), hoặc rò rỉ thông tin độc quyền. Khi thảo luận về Các tác nhân Trí tuệ Nhân tạo, chúng ta cần xem xét các cuộc tấn công vào công cụ và nguồn dữ liệu cũng như – ngay cả khi giả định rằng tiêm SQL và lệnh hệ điều hành có thể xảy ra lại.

Hơn nữa, nếu chúng ta thêm các hệ thống Đa tác nhân, nơi các tác nhân có thể cư trú ở các vị trí khác nhau, chúng ta phải tưởng tượng rằng điều này ngụ ý một mạng lưới giao tiếp hoàn toàn khác với các giao thức. Người ta đã thử nghiệm với hàng nghìn tác nhân – giống như một mạng máy tính.

Cuối cùng, chúng ta cần chuẩn bị lực lượng lao động để sử dụng Trí tuệ Nhân tạo Tạo sinh, cung cấp các công cụ và môi trường mà họ có thể hoạt động trong thế giới mới này.

Ông đã là một người ủng hộ mạnh mẽ cho sự đa dạng và hòa nhập, đặc biệt là với tư cách là Người bảo trợ Điều hành cho Nhóm Người gốc Latinh và Tây Ban Nha của Zscaler, Sabor. Bối cảnh văn hóa của ông đã ảnh hưởng đến phong cách lãnh đạo và cách tiếp cận của ông đối với sự phát triển Trí tuệ Nhân tạo như thế nào?

Là một người Latinh tự hào sinh ra và lớn lên tại Brazil, tôi đam mê hỗ trợ và trao quyền cho các cộng đồng Latinh và Tây Ban Nha tại Zscaler. Tôi cảm thấy một cảm giác thành tựu lớn khi có thể đóng góp vào một thế giới tốt hơn thông qua an ninh mạng, nơi chúng ta giúp bảo vệ xã hội trong một thế giới ngày càng phức tạp. Các giá trị của tôi đã giúp tôi đến nơi tôi đang đứng ngày hôm nay, và tôi vô cùng tự hào về nơi tôi đến từ.

Lời khuyên của tôi sẽ là không bao giờ quên nơi bạn đến từ và những gì bạn đã làm. Hãy luôn tự hào về những gì làm cho bạn trở nên độc đáo, nhưng cũng nhận ra rằng sự đa dạng là vua. Tôi sống với chính mình 24 giờ một ngày. Nếu tôi chỉ thuê những người giống tôi và đồng ý với tôi, tôi sẽ không tăng kiến thức của mình. Việc thuê những người từ nhiều địa điểm và nền tảng khác nhau giúp chúng tôi hiểu rõ hơn về nhu cầu cụ thể của khách hàng toàn cầu của chúng tôi.

Cuối cùng, điều gì khiến ông hào hứng nhất về tương lai của Trí tuệ Nhân tạo trong an ninh mạng, và Zscaler sẽ đóng vai trò gì trong tương lai đó?

Trí tuệ Nhân tạo không thay đổi các nguyên tắc cơ bản của phòng thủ mạng hiệu quả – nó làm nổi bật tầm quan trọng của chúng. Chúng tôi dự đoán sẽ thấy sự minh bạch, các biện pháp bảo mật mạnh mẽ và giám sát liên tục sẽ lan rộng khắp ngành công nghiệp. Các tổ chức phải áp dụng một cách tiếp cận toàn diện đối với bảo mật, thực hiện các biện pháp tiên tiến để phát hiện và phản ứng với các mối đe dọa. Điều này bao gồm việc nuôi dưỡng một văn hóa nhận thức về bảo mật, tiến hành các cuộc kiểm toán bảo mật thường xuyên và hợp tác với các bên liên quan để phát triển các chiến lược bảo mật hiệu quả. Bằng cách làm như vậy, các tổ chức có thể giảm thiểu rủi ro của các sự cố và bảo vệ thông tin nhạy cảm của họ.

Zscaler cam kết bảo vệ quyền riêng tư của người dùng, sử dụng các kỹ thuật tiên tiến nhất để ẩn danh hóa dữ liệu và đảm bảo rằng chúng tôi giữ nó khỏi các LLM của chúng tôi, ngăn chặn việc xác định người dùng hoặc tổ chức cá nhân. Trong khi chúng tôi có thể khám phá việc tinh chỉnh LLM trong tương lai, các biện pháp bảo vệ quyền riêng tư nghiêm ngặt của chúng tôi để đảm bảo rằng không có dữ liệu người dùng nào bị tổn hại sẽ tiếp tục là điều quan trọng nhất. Mục tiêu của chúng tôi là khai thác sức mạnh của Trí tuệ Nhân tạo để cải thiện bảo mật mà không xâm phạm quyền riêng tư của khách hàng.

Cảm ơn vì cuộc phỏng vấn tuyệt vời, những người đọc muốn tìm hiểu thêm nên truy cập Zscaler.