J. Paul Haynes, CEO của Cinchy – Loạt phỏng vấn

J. Paul Haynes, CEO của Cinchy, là một giám đốc điều hành an ninh mạng và công nghệ với nhiều thập kỷ kinh nghiệm xây dựng và mở rộng các công ty an ninh doanh nghiệp. Ông được biết đến nhiều nhất với vai trò lãnh đạo tại eSentire, nơi ông đã giúp công ty phát triển thành một nhà cung cấp Managed Detection và Response hàng đầu, và mang lại nền tảng vững chắc về kỹ thuật, an ninh mạng, tăng trưởng được hỗ trợ bởi vốn tư nhân và rủi ro doanh nghiệp cho Cinchy khi công ty tập trung vào việc áp dụng và quản lý AI đáng tin cậy.

Cinchy là một công ty quản lý AI và hợp tác dữ liệu doanh nghiệp, tập trung vào việc giúp các tổ chức kết nối AI, hệ thống và dữ liệu một cách an toàn. Nền tảng PeriMind của công ty hoạt động như một mặt điều khiển cho các hành động AI, cung cấp cho các doanh nghiệp khả năng hiển thị, thực thi chính sách, bảo mật và khả năng kiểm toán về cách các tác nhân AI tương tác với các hệ thống kinh doanh, trong khi Nền tảng Hợp tác Dữ liệu của công ty giúp các đội ngũ quản lý và chia sẻ dữ liệu được quản lý trên toàn tổ chức mà không cần dựa vào các tích hợp phức tạp hoặc các silo dữ liệu trùng lặp.

Bạn đã dành hơn 15 năm giúp xây dựng và mở rộng eSentire thành một trong những công ty được công nhận nhất trong ngành an ninh mạng. Những bài học từ hành trình đó bạn đang mang vào vai trò mới của mình as CEO của Cinchy, và tại sao bạn tin rằng bây giờ là thời điểm phù hợp để tập trung vào quản lý AI và áp dụng AI đáng tin cậy?

Một trong những bài học lớn nhất tôi đã học được tại eSentire là rằng các tổ chức không gặp khó khăn vì thiếu công nghệ. Họ gặp khó khăn vì các công nghệ mới nổi tạo ra sự phức tạp vận hành nhanh hơn so với hầu hết các công ty có thể quản lý một mình. Tôi thấy AI đang đi theo một con đường tương tự như vậy.

Thách thức ngày nay không phải là khiến nhân viên thử nghiệm với AI. Hầu hết các tổ chức đã làm điều đó. Thách thức thực sự là đưa AI vào sản xuất, nơi các quyết định ảnh hưởng đến khách hàng, kết quả tài chính, tuân thủ quy định và hoạt động kinh doanh.

Các ngành công nghiệp高度 quản lý như dịch vụ tài chính minh họa điều này một cách hoàn hảo. Họ không di chuyển chậm vì họ không hiểu AI. Họ di chuyển thận trọng vì họ vẫn chưa thể tin tưởng AI với công việc quan trọng.

Trước khi một hệ thống AI có thể đưa ra quyết định, các tổ chức cần câu trả lời cho các câu hỏi cơ bản: Ai đã phê duyệt những quyết định đó? Làm thế nào để theo dõi chúng? Khi nào một người can thiệp? Điều gì xảy ra nếu mô hình trôi dạt, thất bại hoặc không có sẵn?

Những câu hỏi đó nhắc tôi về nơi an ninh mạng đã từng là 15 năm trước. An ninh mạng đã phát triển từ một vấn đề công nghệ thành một kỷ luật vận hành. Tôi tin rằng quản lý AI cũng đang đi trên cùng một quỹ đạo.

Đó là lý do tôi gia nhập Cinchy. Chúng tôi tin rằng việc áp dụng AI đáng tin cậy (không phải thử nghiệm AI) sẽ định hình thập kỷ tiếp theo, và chúng tôi thấy rằng quản lý AI sẽ trở nên quan trọng không kém như quản lý an ninh mạng đã trở thành.

Nhiều doanh nghiệp đã thử nghiệm với AI tạo ra trong hai năm qua, nhưng tương đối ít đã triển khai AI thành công trên các quy trình công việc quan trọng. Những rào cản lớn nhất nào đang ngăn cản các tổ chức chuyển từ các dự án thí điểm sang sản xuất?

Tôi không nghĩ rằng các công ty gặp khó khăn vì công nghệ không đủ tốt. Tôi nghĩ họ gặp khó khăn vì mức độ rủi ro tăng cao một lần khi AI vượt qua giai đoạn thử nghiệm.

Một dự án thí điểm là một điều. Đưa AI vào sản xuất là một điều hoàn toàn khác. Bây giờ nó đang truy cập dữ liệu doanh nghiệp, tương tác với các hệ thống kinh doanh, có thể даже đưa ra quyết định thay mặt cho nhân viên. Đó là khi lãnh đạo hoàn toàn hợp lý bắt đầu hỏi: “Làm thế nào để chúng ta kiểm soát điều này? Làm thế nào để chúng ta theo dõi nó? Và làm thế nào để chúng ta biết khi nào cần một người can thiệp?”

Những điều đó không phải là lý do để làm chậm việc áp dụng AI. Chúng là những điều khiến việc áp dụng AI trở nên khả thi. Nếu bạn có thể trả lời những câu hỏi đó với sự tự tin, các tổ chức sẽ di chuyển nhanh hơn.

Bạn đã dành phần lớn sự nghiệp của mình để bảo mật môi trường doanh nghiệp chống lại các mối đe dọa mạng. Làm thế nào để bảo mật một tổ chức được hỗ trợ bởi AI khác với bảo mật một môi trường CNTT truyền thống?

Bảo mật truyền thống tập trung vào việc bảo vệ điểm cuối, danh tính, mạng và môi trường đám mây. AI thêm một bề mặt đe dọa vĩnh viễn cho doanh nghiệp. Mỗi hệ thống AI giới thiệu các rủi ro mới. Truy cập mô hình, tiêm lệnh, quyền hạn quá mức, trôi dạt mô hình, ra quyết định tự động và các đường tấn công hoàn toàn mới mà không tồn tại trước đây.

Điểm quan trọng là bảo mật AI không tách biệt với an ninh mạng. Nó mở rộng an ninh mạng. Các tổ chức vẫn cần mọi kiểm soát an ninh hiện có, nhưng bây giờ họ cũng cần bảo mật được thiết kế đặc biệt cho các hệ thống AI hoạt động trong sản xuất.

Shadow IT đã từng là một mối quan ngại đối với các đội ngũ an ninh trong một thời gian dài, nhưng bây giờ chúng ta đang chứng kiến sự xuất hiện của shadow AI. Thách thức này có đáng kể đến mức nào, và những rủi ro nào mà các tổ chức đang đánh giá thấp?

Shadow AI đang trở thành một trong những rủi ro kinh doanh phát triển nhanh nhất vì các đội ngũ điều hành đang khuyến khích việc áp dụng AI nhanh chóng mà không luôn đặt quản lý vào vị trí đầu tiên. Hầu hết nhân viên không hành động với ý đồ xấu. Họ đang cố gắng trở nên hiệu quả hơn. Vấn đề là các hệ thống AI kế thừa bất kỳ quyền nào mà người dùng đã có.

Một giám đốc điều hành thử nghiệm với một mô hình AI công khai có thể vô tình暴露 dữ liệu tài chính bí mật, thông tin khách hàng hoặc tài sản trí tuệ chỉ bằng cách yêu cầu AI phân tích nó.

Đó là lý do tại sao các tổ chức cần có khả năng hiển thị, kiểm soát chính sách và quản lý, không phải để làm chậm việc áp dụng AI, mà để làm cho nó an toàn đủ để mở rộng.

Các tác nhân AI ngày càng được cấp quyền truy cập vào các hệ thống doanh nghiệp, dữ liệu và quy trình ra quyết định. Những thách thức quản lý và quản lý mới nào xuất hiện khi các hệ thống AI có thể hoạt động tự động thay vì chỉ tạo ra nội dung?

Các tác nhân AI cơ bản thay đổi cuộc trò chuyện về quản lý vì chúng không còn tạo ra nội dung. Chúng đang thực hiện các hành động. Bất cứ khi nào một hệ thống tự động có thể phê duyệt giao dịch, truy cập hệ thống doanh nghiệp hoặc đưa ra quyết định kinh doanh, các tổ chức cần có trách nhiệm hoàn toàn.

Mỗi hành động nên trả lời các câu hỏi đơn giản:

• Điều gì đã xảy ra?
• Tại sao nó lại xảy ra?
• Tác nhân AI nào đã đưa ra quyết định?
• Ai đã ủy quyền cho nó?
• Khi nào một người nên can thiệp?

Những nguyên tắc đó không mới. Các ngành công nghiệp đã sống với các yêu cầu về trách nhiệm trong nhiều thập kỷ dưới các quy định như Sarbanes-Oxley. AI chỉ mở rộng những kỳ vọng tương tự cho các công nhân số tự động.

Nhiều tổ chức đang chạy đua để triển khai AI do áp lực cạnh tranh. Làm thế nào các nhà lãnh đạo kinh doanh có thể cân bằng nhu cầu về tốc độ với nhu cầu về quản lý, tuân thủ và quản lý rủi ro?

Quản lý không nên làm chậm việc áp dụng AI. Nó nên tăng tốc. Các tổ chức di chuyển nhanh hơn khi lãnh đạo tin tưởng vào môi trường họ đang xây dựng. Điều đó có nghĩa là thiết lập một kiến trúc AI an toàn, có thể theo dõi, liên tục đánh giá các mô hình cho sự trôi dạt và hiệu suất, quản lý quyền truy cập vào các hệ thống doanh nghiệp và có các kiểm soát vận hành rõ ràng trước khi AI đạt đến sản xuất.

Giống như các tổ chức đã áp dụng phát hiện và phản hồi được quản lý để đơn giản hóa an ninh mạng, tôi tin rằng nhiều tổ chức sẽ áp dụng quản lý AI được quản lý để có được chuyên môn mà không cần phải xây dựng các đội ngũ chuyên gia lớn bên trong.

Các hội đồng quản trị đang trở nên tham gia nhiều hơn vào việc giám sát AI. Những câu hỏi nào mà các thành viên hội đồng quản trị nên hỏi các đội ngũ quản lý về chiến lược AI, quản lý và trách nhiệm?

Hội đồng quản trị nên hỏi một câu hỏi cơ bản: có thể chứng minh rằng AI đang hoạt động dưới cùng mức quản lý như mọi hệ thống kinh doanh quan trọng khác không?

Điều đó có nghĩa là hiểu nơi AI đang được sử dụng, ai sở hữu nó, cách quyết định được theo dõi, cách rủi ro được quản lý và cách tổ chức sẽ tiếp tục hoạt động nếu một dịch vụ AI trở nên không có sẵn. Các tổ chức thành công sẽ không nhất thiết là những tổ chức áp dụng AI nhanh nhất. Họ sẽ là những tổ chức xây dựng kỷ luật vận hành để tin tưởng AI ở quy mô lớn.

Ngành an ninh mạng đã dành nhiều thập kỷ để phát triển các khuôn khổ, kiểm soát và thực hành tốt nhất. Có những bài học từ an ninh mạng có thể được áp dụng trực tiếp cho quản lý AI, hay AI yêu cầu một cách tiếp cận hoàn toàn mới?

An ninh mạng cung cấp một bản thiết kế tuyệt vời cho quản lý AI. Quản lý danh tính, đặc quyền tối thiểu, theo dõi liên tục, nhật ký kiểm toán, phản hồi sự cố và khả năng phục hồi vẫn còn thiết yếu. Điều mới là AI giới thiệu các thách thức mà các hệ thống truyền thống không bao giờ có, bao gồm trôi dạt mô hình, ảo giác, thao túng lệnh và phụ thuộc vào các mô hình nền tảng của bên thứ ba. Vì vậy, AI không thay thế an ninh mạng. Nó xây dựng trên đó với một lớp quản lý bổ sung.

Điều gì thực sự là “áp dụng AI đáng tin cậy” trong thực tế? Có những nguyên tắc quản lý hoặc các biện pháp bảo vệ vận hành cụ thể mà mọi doanh nghiệp nên có trước khi mở rộng các sáng kiến AI?

Tôi có xu hướng nghĩ về nó theo cùng một cách chúng ta nghĩ về an ninh mạng nhiều năm trước. Không ai hỏi liệu an ninh mạng có tạo ra giá trị hay không. Câu hỏi là liệu bạn có tin tưởng vào môi trường đủ để giữ cho kinh doanh chạy hay không.

AI đang đi theo chính xác cùng một hướng. Nếu bạn không thể thấy nó đang làm gì, kiểm soát những gì nó có thể truy cập hoặc hiểu tại sao nó đưa ra某 quyết định, bạn có thể không để nó xử lý bất cứ điều gì quan trọng.

Một khi bạn có sự tự tin đó, việc áp dụng sẽ xảy ra tự nhiên. Các tổ chức sẽ ngừng đối xử với AI như một thí nghiệm thú vị và bắt đầu đối xử với nó như một phần khác của kinh doanh.

Nhìn về tương lai 3 đến 5 năm, bạn thấy mối quan hệ giữa quản lý AI và lợi thế cạnh tranh sẽ phát triển như thế nào? Quản lý mạnh mẽ sẽ trở thành một yếu tố khác biệt, hay chỉ là một yêu cầu để kinh doanh?

Trong 3 đến 5 năm tới, quản lý AI mạnh mẽ sẽ không phải là một yếu tố khác biệt. Nó sẽ trở thành một yêu cầu kinh doanh. Các tổ chức thiết lập quản lý sớm sẽ áp dụng AI nhanh hơn vì họ sẽ có sự tự tin để di chuyển các công việc quan trọng vào sản xuất. Những tổ chức không làm như vậy sẽ vẫn còn trong giai đoạn thử nghiệm trong khi các đối thủ cạnh tranh nhận ra những lợi ích đo lường được về năng suất, đổi mới và trải nghiệm khách hàng. Cuối cùng, quản lý sẽ không làm chậm việc áp dụng AI. Nó sẽ là lý do tại sao các tổ chức có thể tin tưởng AI đủ để hoàn toàn chấp nhận nó.

Cảm ơn bạn vì cuộc phỏng vấn tuyệt vời, những người đọc muốn tìm hiểu thêm nên truy cập Cinchy.