Jack Cherkas, Giám đốc An ninh Thông tin Toàn cầu tại Syntax – Loạt Phỏng vấn

Jack Cherkas, Giám đốc An ninh Thông tin Toàn cầu tại Syntax, là một giám đốc điều hành an ninh mạng có kinh nghiệm sâu rộng trong lĩnh vực bảo mật đám mây, khả năng phục hồi mạng, kiến trúc doanh nghiệp và bảo mật trí tuệ nhân tạo. Ông đã từng giữ các vị trí cấp cao tại Syntax, PwC UK, Kyndryl và IBM, nơi ông đã giúp xây dựng và mở rộng các hoạt động bảo mật, quản lý các nỗ lực phản ứng sự cố lớn và phát triển các chiến lược khả năng phục hồi mạng cho các môi trường doanh nghiệp lớn. Tại Syntax, ông lãnh đạo toàn cầu về an ninh mạng trên toàn công ty, bao gồm cả người, hệ thống, trung tâm dữ liệu, dịch vụ đám mây được quản lý và các dịch vụ bảo mật hướng đến khách hàng, giám sát một đội gồm hơn 65 chuyên gia bảo mật trên tám quốc gia.

Syntax là một nhà cung cấp dịch vụ CNTT và đám mây được quản lý toàn cầu, chuyên về các ứng dụng doanh nghiệp quan trọng, đặc biệt là môi trường SAP và Oracle. Công ty hỗ trợ các tổ chức trong việc di chuyển đám mây, lưu trữ được quản lý, bảo mật, quản lý ứng dụng doanh nghiệp và hoạt động được kích hoạt bởi trí tuệ nhân tạo trên cơ sở hạ tầng đám mây hỗn hợp và đa đám mây. Công việc của họ tập trung vào giúp các doanh nghiệp hiện đại hóa, bảo mật và vận hành các hệ thống kinh doanh phức tạp với quy mô lớn.

Bạn đã lãnh đạo các sáng kiến bảo mật mạng tại IBM, Kyndryl, PwC và bây giờ là Syntax. Trong suốt hành trình đó, quan điểm của bạn về việc bảo mật các công nghệ mới nổi như trí tuệ nhân tạo đã thay đổi như thế nào, đặc biệt khi các tổ chức chuyển từ thí nghiệm sang sản xuất?

Sự nghiệp của tôi đã theo dõi một loạt các sự gián đoạn, mỗi sự gián đoạn đòi hỏi bảo mật phải theo kịp một bề mặt kiểm soát mới. Tại IBM vào những ngày đầu của đám mây, câu hỏi là liệu chúng ta có thể tin tưởng cơ sở hạ tầng của người khác để chạy các khối lượng công việc quan trọng hay không. Câu trả lời là một mô hình trách nhiệm chung và một thế hệ các điều khiển bản địa đám mây.

Sau đó là thời đại ransomware. NotPetya vào năm 2017 đã làm tê liệt các công ty trong vài giờ, và ngành công nghiệp đã học được rằng phần mềm độc hại có thể lan rộng có thể làm tê liệt các chuỗi cung ứng toàn cầu chỉ trong một đêm. Sự phản ứng là chuẩn bị cho khi (không phải nếu) một sự cố mạng sẽ xảy ra, phân đoạn mạng, sao lưu không thể thay đổi và một động lực nghiêm túc về danh tính.

Trong suốt thời gian của tôi tại Kyndryl và PwC, SaaS đã chuyển từ rìa đến trung tâm của mọi tài sản. Các khối lượng công việc đã được chuyển ra khỏi các trung tâm dữ liệu và lên chồng của người khác, danh tính đã trở thành ranh giới, và Zero Trust đã ngừng trở thành một sơ đồ và bắt đầu trở thành một mô hình hoạt động.

Bây giờ tại Syntax, chúng tôi đang trong làn sóng GenAI, nơi hệ thống tự lý luận, tạo ra và hành động. Mỗi làn sóng đã mang lại cho chúng ta một bề mặt kiểm soát mới, không đủ cảnh báo và một cửa sổ ngắn hơn giữa thí nghiệm và sản xuất. Đám mây đã mất nhiều năm. SaaS đã mất vài quý. GenAI chỉ mất vài tuần. Các CISO giữ nhịp với mỗi làn sóng là những người đã ngừng coi mỗi làn sóng như một ngoại lệ và bắt đầu coi việc áp dụng nhanh như một trạng thái ổn định.

Khi các tổ chức tăng tốc việc áp dụng trí tuệ nhân tạo, bạn đánh giá rủi ro như thế nào rằng niềm tin, không chỉ là tuân thủ, đang bị tổn hại? Những chỉ số sớm nhất cho thấy điều này đang bắt đầu xảy ra là gì?

Niềm tin là nền tảng của bất kỳ việc áp dụng trí tuệ nhân tạo nào tốt. Những chỉ số sớm nhất không nằm trong báo cáo kiểm toán, chúng nằm trong các tín hiệu hoạt động. Triển khai trí tuệ nhân tạo bóng tối mà không ai sở hữu. Mua sắm phê duyệt các nhà cung cấp GenAI mà không có đánh giá bảo mật. Dòng dữ liệu bị phá vỡ ngay khi bạn hỏi về nguồn gốc của dữ liệu đào tạo. Các tác nhân trí tuệ nhân tạo được cấp quyền quản trị vì không ai muốn làm chậm dự án. Khi bạn thấy bốn tín hiệu này trong một tổ chức, niềm tin đã bị tổn hại nhanh hơn nó được tạo ra. Lãnh đạo thường là người cuối cùng biết.

Nhiều công ty đang áp dụng trí tuệ nhân tạo nhanh hơn họ có thể bảo mật nó. Những rủi ro thực tế phổ biến nhất bạn đang thấy ngày nay khi quản trị tụt hậu so với đổi mới là gì?

Khi quản trị tụt hậu, ba điều xảy ra, và không có điều nào trong số đó xuất hiện như các sự cố bảo mật cho đến rất lâu sau đó. Đầu tiên, sự phơi nhiễm quy định tích lũy im lặng: một triển khai trí tuệ nhân tạo vi phạm các yêu cầu minh bạch của Đạo luật Trí tuệ nhân tạo EU không kích hoạt báo động; nó xuất hiện trong một cuộc kiểm toán hai năm sau đó dưới dạng một khoản phạt. Thứ hai, niềm tin của khách hàng bị xói mòn trong các giao dịch bạn không bao giờ thấy: các khách hàng tiềm năng chọn các đối thủ cạnh tranh có thể chứng minh quản trị, và đội ngũ bán hàng của bạn không bao giờ biết tại sao. Thứ ba, chất lượng quyết định suy giảm: tổ chức đưa ra nhiều quyết định bị ảnh hưởng bởi trí tuệ nhân tạo nhưng không thể giải thích hoặc kiểm toán chúng, và các quyết định tồi tệ tích lũy ở những nơi không ai đang xem. Chi phí của quản trị trí tuệ nhân tạo yếu là sự xói mòn chậm của kiểm toán, bán hàng và chất lượng quyết định, kết thúc trong một sự cố bảo mật gây tổn hại đến danh tiếng.

Từ kinh nghiệm của bạn trong việc xây dựng và mở rộng các dịch vụ bảo mật được quản lý và hoạt động SOC, các tổ chức nên suy nghĩ lại các mô hình bảo mật của họ như thế nào để xử lý các hệ thống và quyết định tự động được thúc đẩy bởi trí tuệ nhân tạo?

Trí tuệ nhân tạo là một vector tấn công mới, một nhân tố nhân lên mối đe dọa và một mảnh ghép phòng thủ quan trọng, và mô hình bảo mật phải thích nghi để bao phủ cả ba cùng một lúc.

Là một vector tấn công, các nền tảng GenAI bản thân trở thành mục tiêu cần bảo vệ. Là một nhân tố nhân lên mối đe dọa, các kẻ tấn công đang sử dụng GenAI để tạo ra các cuộc tấn công mạng quy mô lớn, tạo ra mã khai thác, tự động hóa hoạt động trinh sát và phát hiện các điểm yếu với tốc độ của máy. Là một mảnh ghép phòng thủ, cùng công nghệ được quay ngược lại là câu trả lời thực tế duy nhất: phân tích trí tuệ nhân tạo, săn tìm mối đe dọa tự động và tăng cường phân tích là không còn tùy chọn; chúng là cách một SOC duy trì tốc độ với một kẻ thù được tăng cường bởi trí tuệ nhân tạo. Nếu họ được tăng cường bởi trí tuệ nhân tạo và chúng tôi không, khoảng cách sẽ tích lũy với mỗi chu kỳ.

Điều đó cũng tạo ra một loại tác nhân mới mà mô hình phải quản lý. Tại Syntax, chúng tôi đã nghĩ về các tác nhân trí tuệ nhân tạo như tham gia vào sơ đồ tổ chức, cùng với con người, điều này đặt ra tiêu chuẩn cho cách chúng tôi bảo mật chúng. Các tác nhân trí tuệ nhân tạo cần mọi thứ chúng tôi đưa cho người dùng (danh tính, quyền hạn dựa trên vai trò, nhật ký hoạt động, cơ sở hành vi) cộng với các công tắc chứa mà chúng tôi sử dụng trên các tài khoản bị xâm phạm: khả năng vô hiệu hóa, cô lập và thu hồi. Sự khác biệt là tốc độ. Các tác nhân hành động trong vài miligiây, vì vậy các công tắc đó phải được thực hiện ngay lập tức và tự động, không phải là phần cuối của một quy trình phản ứng sự cố.

Tại Syntax, Trung tâm Vận hành An ninh Toàn cầu của chúng tôi đã phát triển để trí tuệ nhân tạo tăng cường cho nhà phân tích con người, trong khi nhân viên của chúng tôi xây dựng các công việc và tác nhân tự động trong Nền tảng Trí tuệ nhân tạo GenAI của Syntax, cung cấp các rào cản bảo vệ khỏi thiên vị, độc tính và kiểm soát dữ liệu và bảo mật theo mặc định.

Đó là sự suy nghĩ lại. Bảo vệ trí tuệ nhân tạo như một mục tiêu. Triển khai trí tuệ nhân tạo như một người bảo vệ. Quản lý việc sử dụng trí tuệ nhân tạo.

Có vẻ như có sự căng thẳng giữa tốc độ và kiểm soát. Các tổ chức có thể duy trì động lực đổi mới trong khi vẫn triển khai các biện pháp giám sát và rào cản có ý nghĩa cho các hệ thống trí tuệ nhân tạo như thế nào?

Tốc độ và kiểm soát trông giống như những điều đối lập cho đến khi bạn xây dựng quản trị đi cùng với dự án chứ không phải chặn nó. Sự cố là đặt quản trị tại cổng: một ủy ban, một chữ ký, một cuộc xem xét hàng quý. Khi cổng mở, đội đã đi vòng quanh nó hoặc mất đà. Mô hình hoạt động là các quy trình được định nghĩa lại với quản trị được nướng vào. Truyền thông rõ ràng và nhất quán là điểm xuất phát, tiếp theo là các mẫu được phê duyệt trước, luồng dữ liệu được phê duyệt trước và các mẫu quyền được định nghĩa trước. Các đội nhận được tốc độ, các đội bảo mật nhận được khả năng hiển thị và sự đánh đổi mà mọi người giả định tồn tại hóa ra là một quy trình được thiết kế kém. Đây là tất cả về việc cân bằng bảo mật với đổi mới chống lại sự thèm ăn rủi ro của mỗi tổ chức.

Bạn đã làm việc trên các chiến lược khả năng phục hồi mạng và phản ứng sự cố quy mô lớn. Sự ra đời của trí tuệ nhân tạo thay đổi bản chất của các mối đe dọa mạng và cách các tổ chức nên chuẩn bị cho chúng như thế nào?

Trí tuệ nhân tạo đang tăng tốc cho các mối đe dọa trên các vector khác nhau. Quy mô: các cuộc tấn công mạng và hoạt động trinh sát với tốc độ của máy đối với hàng nghìn mục tiêu cùng một lúc. Độ phức tạp: kỹ thuật xã hội được thúc đẩy bởi deepfake đánh bại xác thực giọng nói và video. Danh tính: danh tính tổng hợp vượt qua các kiểm tra danh tính được thiết kế cho con người.

Đối với phản ứng sự cố, các hàm ý là hoạt động. Bạn cần phát hiện không dựa vào việc con người nhận ra các mẫu với tốc độ con người. Bạn cần các giao thức xác minh giả định rằng giọng nói và video có thể bị làm giả. Và bạn cần các cuốn sách chơi phản ứng sự cố bao gồm rõ ràng các sự cố liên quan đến trí tuệ nhân tạo, vì các bước phục hồi không giống như phục hồi từ một sự kiện ransomware.

Tại Syntax, “thiết kế bảo mật” trí tuệ nhân tạo thực sự trông như thế nào trong một môi trường doanh nghiệp phức tạp, thực tế?

Tại Syntax, nó có nghĩa là cân bằng đổi mới và bảo mật, thông qua việc áp dụng Nền tảng Trí tuệ nhân tạo GenAI của chúng tôi với các rào cản bảo vệ được nướng vào, Dịch vụ và Ứng dụng Trí tuệ nhân tạo được phê duyệt, hạn chế và cấm, và thúc đẩy một văn hóa bảo mật đầu tiên thông qua Văn phòng Quản trị Trí tuệ nhân tạo của chúng tôi. Đối với Tổ chức An ninh Toàn cầu của chúng tôi, nó có nghĩa là định vị mình như một người kích hoạt cho doanh nghiệp, không phải là người chặn, hỗ trợ doanh nghiệp với các ưu tiên chiến lược của họ trong khi bảo vệ Syntax theo sự thèm ăn rủi ro của chúng tôi.

Có một câu chuyện ngày càng tăng rằng bảo mật và tuân thủ không còn là những yếu tố cản trở mà là những yếu tố kích thích tăng trưởng. Điều gì cần thay đổi về văn hóa và hoạt động để các tổ chức thực sự chấp nhận tư duy đó?

Sự thay đổi lớn nhất là định nghĩa về thành công. Các đội bảo mật đã được đo lường trong nhiều thập kỷ dựa trên những gì không xảy ra: không có vi phạm, không có sự cố, không có kết quả kiểm toán. Chỉ số đó thưởng cho việc nói không. Các đội hoạt động như những người kích thích đo lường điều gì đó khác: các thỏa thuận được giành được vì các điều khiển có thể chứng minh, các lần ra mắt đạt được ngày của chúng vì bảo mật đã làm rõ đường đi, và các đổi mới đã di chuyển qua quản trị chứ không phải xung quanh nó.

Hoạt động, nó cần các quy trình được định nghĩa lại với quản trị được nướng vào, kết hợp với sự kích thích tích cực như Nền tảng Trí tuệ nhân tạo GenAI của chúng tôi, giúp bảo mật trở thành con đường dễ dàng hơn, và giáo dục và chương trình Trí tuệ nhân tạo dễ tiếp cận, chẳng hạn như Sáng kiến Nhà vô địch Trí tuệ nhân tạo của chúng tôi.

Văn hóa theo sau những gì bạn khuyến khích và những gì bạn kích thích. Thay đổi những gì bạn thưởng, trang bị cho mọi người các công cụ và đào tạo phù hợp vào đúng thời điểm, và bạn thay đổi những gì họ làm. Đây là hành trình mà Syntax đang thực hiện.

Với trí tuệ nhân tạo ngày càng được tích hợp vào các quy trình công việc doanh nghiệp, CISO nên hợp tác với các nhà lãnh đạo trí tuệ nhân tạo, các nhà khoa học dữ liệu và các đội sản phẩm như thế nào để đảm bảo trách nhiệm giải trình mà không làm chậm tiến độ?

CISO chờ đợi để được mời sẽ muộn. CISO xuất hiện sớm, với các mẫu thực tế thay vì phản đối chính sách, trở thành đối tác mà các dự án trí tuệ nhân tạo thực sự muốn có trong bảng. Trong thực tế, điều đó có nghĩa là các phiên thiết kế chung với các đội trí tuệ nhân tạo, các chữ ký bảo mật ngồi cạnh các chữ ký chức năng chứ không phải sau chúng, và một chính sách cửa mở. Điều này thay đổi cuộc trò chuyện từ “Bộ phận Không” thành “Có, nhưng” hoặc “Không, nhưng” như một đối tác sẵn sàng hợp tác cho doanh nghiệp.

Nhìn về tương lai, bạn có tin rằng chúng ta sẽ thấy một khuôn khổ toàn cầu tiêu chuẩn hóa cho quản trị trí tuệ nhân tạo, hay các tổ chức sẽ cần xây dựng các kiến trúc tin cậy nội bộ của riêng họ bất kể quy định?

Cả hai, theo thứ tự đó. Chúng ta sẽ thấy sự hội tụ giai đoạn trên một số khuôn khổ khu vực, Đạo luật Trí tuệ nhân tạo EU đầu tiên, các khuôn khổ khác sẽ theo sau với biến thể địa phương. Chúng ta sẽ không thấy một tiêu chuẩn toàn cầu trong thập kỷ này do sự phân mảnh địa chính trị. Vì vậy, các tổ chức sẽ kết thúc bằng việc làm hai việc song song: tuân thủ khuôn khổ áp dụng cho thị trường lớn nhất của họ và chạy một kiến trúc tin cậy nội bộ vượt quá bất kỳ khuôn khổ nào yếu nhất. Kiến trúc nội bộ quan trọng hơn tiêu chuẩn bên ngoài, vì các quy định di chuyển chậm và các mối đe dọa không. Các công ty xây dựng các kiến trúc tin cậy nội bộ bây giờ sẽ dành thập kỷ tới nói “chúng tôi đã làm điều đó” với mỗi quy định mới đến.

Cảm ơn vì cuộc phỏng vấn tuyệt vời, độc giả muốn tìm hiểu thêm nên truy cập Syntax.