Cillian Kieran, Người sáng lập và Giám đốc điều hành của Ethyca – Loạt bài phỏng vấn

Cillian Kieran, Người sáng lập và Giám đốc điều hành của Ethyca, là một doanh nhân连 tục và kỹ sư bảo mật với hơn hai thập kỷ kinh nghiệm xây dựng các doanh nghiệp công nghệ dữ liệu. Trước khi thành lập Ethyca vào năm 2019, ông đã lãnh đạo cơ quan số CKSK trong một thập kỷ và sau đó thành lập BrandCommerce, dựa trên nền tảng kỹ thuật phần mềm, trải nghiệm người dùng và chương trình dữ liệu doanh nghiệp lớn. Tại Ethyca, Kieran đã tập trung vào việc chuyển đổi bảo mật và quản trị dữ liệu từ một chức năng tuân thủ thủ công sang cơ sở hạ tầng có thể được nhúng trực tiếp vào cách các tổ chức xây dựng và vận hành công nghệ.

Ethyca phát triển cơ sở hạ tầng dữ liệu đáng tin cậy giúp các doanh nghiệp khám phá thông tin nhạy cảm, quản lý sự đồng ý, thực hiện các yêu cầu về quyền riêng tư và thực thi các quy tắc quản lý cách sử dụng dữ liệu trên các ứng dụng và hệ thống trí tuệ nhân tạo. Nền tảng của công ty được xây dựng xung quanh Fides, một ngôn ngữ quản trị nguồn mở tạo ra một khuôn khổ nhất quán để định nghĩa, kiểm toán và thực thi các sử dụng dữ liệu được phép trên các hệ thống, API và đường ống AI. Công ty hiện đang ra mắt Astralis, một lớp quản trị AI kết hợp đánh giá quy định tự động với kiểm soát truy cập dựa trên mục đích, cho phép các tổ chức xác định lý do tại sao các mô hình và tác nhân truy cập vào dữ liệu cụ thể và thực thi các quyền đó trong thời gian thực. Ethyca cho biết nền tảng có thể giảm các đánh giá truyền thống yêu cầu 40 đến 60 giờ công việc thủ công xuống khoảng 20 đến 40 phút, giúp các doanh nghiệp mở rộng triển khai AI mà không để các quy trình quản trị trở thành một nút thắt.

Bạn đã thành lập nhiều công ty trước khi ra mắt Ethyca vào năm 2019, bao gồm xây dựng CKSK thành một công ty tư vấn số toàn cầu phục vụ các tổ chức Fortune 500. Những kinh nghiệm nào trong hành trình đó đã thuyết phục bạn rằng quản trị dữ liệu, thay vì các mô hình AI, sẽ trở thành nút thắt xác định cho việc áp dụng AI trong doanh nghiệp?

Tôi đã dành nhiều năm xây dựng một công ty tư vấn số phục vụ các doanh nghiệp lớn như Heineken, Sony và Pepsi trong thời kỳ bùng nổ quảng cáo kỹ thuật số và truyền thông xã hội. Lần lượt, tôi chứng kiến cùng một mô hình lặp lại. Một công nghệ mạnh mẽ xuất hiện, mọi người đều chạy đua để áp dụng nó, và chỉ khi nó đã được nhúng vào kinh doanh thì các cơ quan quản lý mới can thiệp để đặt ra các rào cản, khiến các đội ngũ tuân thủ phải đối mặt với hậu quả. Hãy lấy GDPR, cuộc đàn áp đầu tiên thực sự về cách các công ty sử dụng dữ liệu cá nhân. Các cơ quan quản lý chỉ can thiệp sau khi martech và truyền thông xã hội đã biến thu thập dữ liệu thành xương sống của các mô hình kinh doanh. Đối với tôi, rõ ràng là cùng một mô hình sẽ xảy ra với AI.

Điều gì đã củng cố suy nghĩ của tôi là công việc tuân thủ quyền riêng tư mà tôi đang thực hiện tại Ethyca. Xây dựng các hệ thống tuân thủ cho các doanh nghiệp lớn, tôi nhận ra rằng bạn có thể đặt một lớp xung quanh dữ liệu của một công ty để đánh giá mọi yêu cầu chống lại ba điều: dữ liệu là gì, bạn được phép làm gì với nó và rủi ro là gì nếu bạn làm. Việc làm việc trên điều đó đã làm cho ràng buộc thực sự rõ ràng. Các doanh nghiệp không thiếu dữ liệu. Họ thiếu một lớp quản trị chỉ định những gì được phép sử dụng dữ liệu.

Trong hơn một năm qua, AI doanh nghiệp đã chuyển từ các rô-bốt trò chuyện đơn giản sang các tác nhân AI tự động có khả năng đưa ra quyết định và thực hiện hành động. Làm thế nào sự tiến hóa đó đã thay đổi các thách thức quản trị mà các tổ chức phải đối mặt, và tại sao các phương pháp tuân thủ truyền thống không còn phù hợp?

Mọi người nói về AI doanh nghiệp và ROI của nó như thể giá trị đến từ việc đơn giản cắm một tác nhân vào các quy trình làm việc. Trên thực tế, giá trị đến từ việc kết nối tác nhân đó với một loạt các hệ thống, để nó có thể tổng hợp dữ liệu và tạo ra các đầu ra mà con người không thể thực hiện trong cùng một khoảng thời gian. Truy cập dữ liệu là nút thắt thực sự.

Vấn đề là điều làm cho một tác nhân có giá trị cũng là điều làm cho nó rủi ro. Càng kết nối nhiều hệ thống, càng có nhiều dữ liệu bắt đầu chảy từ một phần của tổ chức sang phần khác, và mỗi dòng chảy đó trở thành cơ hội để dữ liệu kết thúc ở nơi sai.

Mỗi dòng chảy đó cần được kiểm tra: liệu dữ liệu này có được phép sử dụng theo cách này, cho mục đích này, theo luật bảo mật và chính sách của chúng tôi? Khi có một số quyết định như vậy mỗi ngày, một người có thể tự đưa ra quyết định đó. Khi có một tác nhân AI đưa ra hàng nghìn yêu cầu mỗi giây, nó trở nên không thể đối với con người. Đó là điểm mà tuân thủ truyền thống bị phá vỡ.

Để thực hiện được các đánh giá lạm phát của các công ty AI lớn, quản trị phải chuyển sang thời gian thực, với tốc độ máy, vào thời điểm dữ liệu được truy cập.

Ethyca đang ra mắt Astralis như một lớp quản trị cho AI doanh nghiệp. Những thách thức cụ thể của khách hàng nào đã dẫn đến việc tạo ra nền tảng này, và tại sao bây giờ là thời điểm phù hợp để giới thiệu nó?

Công việc làm sạch dữ liệu cho AI vẫn diễn ra theo cách nó đã từng cho quyền riêng tư vào năm 2016, với mọi người điền vào các bảng câu hỏi và chạy đánh giá bằng tay. Quá trình đó đã quá chậm cho công việc quyền riêng tư thông thường, và so với khối lượng các trường hợp sử dụng AI, nó không có cơ hội. Hầu hết những gì được bán dưới dạng quản trị AI hiện nay chỉ là các biểu mẫu và quy trình làm việc với nhãn “AI” trên đó. Điền vào một biểu mẫu không phải là quản trị. Điều còn thiếu là phần mềm thực hiện công việc quản trị thực sự, thay vì tạo ra một bản ghi về việc một người đã thực hiện nó bằng tay. Đó là điều chúng tôi xây dựng Astralis để làm.

Nhu cầu mà chúng tôi đang đáp ứng đến từ các đội ngũ đã được yêu cầu giao hàng AI nhanh chóng và an toàn, và hiện tại họ không thể làm cả hai. Các tác nhân đang được đưa vào sản xuất nhanh hơn bất kỳ đội ngũ nào có thể theo dõi, và câu hỏi mà các cơ quan quản lý đặt ra đã thay đổi. Trước đây, họ hỏi liệu bạn có chính sách hay không. Giờ đây, họ hỏi liệu bạn có thể chứng minh rằng chính sách đó đã được tuân thủ đối với một mảnh dữ liệu cụ thể, cho một mục đích cụ thể. Hầu hết các công ty có thể trả lời câu hỏi đầu tiên tốt. Rất ít có thể trả lời câu hỏi thứ hai.

Gartner dự đoán rằng công ty Fortune 500 trung bình có thể chạy 150.000 tác nhân AI vào năm 2028, tăng từ chỉ 15 vào năm 2025. Làm thế nào các nhà lãnh đạo doanh nghiệp nên suy nghĩ lại về quản trị trong một thế giới nơi các tác nhân tự động có thể vượt quá số lượng nhân viên tương tác với dữ liệu?

Đến năm 2028, các tác nhân chạm vào dữ liệu của một công ty sẽ vượt quá số lượng nhân viên làm việc đó. Khi các tác nhân sử dụng dữ liệu của bạn chủ yếu là máy, thì ai sẽ được coi là có trách nhiệm? Mô hình cũ đặt trách nhiệm vào sự ký kết cuối cùng của con người, nhưng khi hầu hết các quyết định đó không được thực hiện hay xem xét bởi con người, thì trách nhiệm phải chuyển từ con người sang hệ thống.

Ngành ngân hàng đã thực hiện bước chuyển này từ rất lâu. Chúng tôi không tin tưởng một ngân hàng vì một nhân viên đang đếm tiền mặt bằng tay. Chúng tôi tin tưởng vì các biện pháp kiểm soát là vững chắc, và vì có những người chịu trách nhiệm giữ cho chúng được như vậy. Quản trị dữ liệu phải làm điều tương tự. Bằng chứng rằng một công ty xử lý dữ liệu một cách có trách nhiệm không còn là việc một người đã xem xét nó, mà trở thành hệ thống tự động thực thi chính sách trên mọi sử dụng, và có thể cung cấp bằng chứng về điều này, vì vậy trách nhiệm được tích hợp vào. Điều đó sẽ cho phép các nhà lãnh đạo kinh doanh tập trung vào những gì họ giỏi: áp dụng phán quyết, đặt ra các quy tắc và đứng sau hệ thống.

Astralis kết hợp Mô hình Quy định Ngôn ngữ Lớn (LLRM) với Kiểm soát Truy cập Dựa trên Mục đích (PBAC). Bạn có thể giải thích làm thế nào hai công nghệ này hoạt động cùng nhau để đảm bảo rằng các hệ thống AI không chỉ hiểu ai có thể truy cập dữ liệu, mà còn hiểu tại sao họ nên được phép truy cập?

Kiểm soát truy cập truyền thống kiểm tra ai bạn là, và nếu danh tính của bạn cho phép bạn chạm vào dữ liệu cụ thể.

Nhưng quyền riêng tư khác; nó không phải là một câu hỏi về ai được vào. Một người có thể được ủy quyền hoàn hảo để truy cập một tập dữ liệu và vẫn sử dụng nó cho một việc gì đó họ không bao giờ được phép làm. Câu hỏi trở nên quan trọng là dữ liệu đang được sử dụng cho mục đích gì, và liệu mục đích đó có được phép hay không. Đó là điều PBAC trả lời và thực thi.

Phần khó là mục đích không phải là một sự kiện kỹ thuật mà bạn có thể đọc từ cơ sở dữ liệu. Nó phụ thuộc vào việc doanh nghiệp của bạn làm gì, những gì bạn đã hứa với khách hàng, và những gì pháp luật cho phép. Đó là nơi LLRM phát huy tác dụng. Nó học cách doanh nghiệp của bạn hoạt động, sau đó làm việc thông qua các quy định áp dụng cho nó. Đầu ra là một quyết định rõ ràng về những gì mỗi loại dữ liệu có thể và không thể được sử dụng. PBAC sau đó thực thi quyết định đó tại điểm truy cập. LLRM suy luận, PBAC hành động.

Tuyên bố ra mắt của bạn cho biết rằng các đánh giá AI có thể được giảm từ 40 đến 60 giờ công việc thủ công xuống chỉ 20 đến 40 phút. Những phần nào của quy trình quản trị hiện tại là không hiệu quả nhất, và nơi nào tự động hóa tạo ra lợi ích lớn nhất?

Hầu hết 40 đến 60 giờ đó không được dành cho bất cứ điều gì cần phán quyết của con người. Chúng được dành cho việc lắp ráp. Một người lập bản đồ dữ liệu bằng tay, giữ nó trong một bảng tính, và sau đó theo dõi ngữ cảnh trên các đội. Bằng thời điểm tất cả những điều đó được thu thập, đánh giá thực sự, phần cần một người suy nghĩ, là một lát cắt nhỏ của công việc. Phần còn lại là một chuyên gia hành động như một đại lý thu thập thông tin mà doanh nghiệp đã có, chỉ là nó bị phân tán trên các đội.

Thật đáng thất vọng, đó là công việc không bao giờ hoàn thành. Một đánh giá là một ảnh chụp nhanh một lần, nhưng các trường hợp sử dụng AI không bao giờ ngừng xuất hiện. Những trường hợp mới luôn luôn xuất hiện, và mỗi trường hợp cần một đánh giá riêng. Vì vậy, quy trình thủ công không chỉ chậm một lần, mà còn luôn luôn tụt lại phía sau tốc độ mà doanh nghiệp muốn di chuyển, và sẽ trở nên không thể quản lý khi các công ty

Lợi ích hiệu quả đến từ việc thay đổi ai làm gì. Hệ thống tự kéo siêu dữ liệu, vì vậy không ai phải theo dõi ngữ cảnh bằng tay. Nó chỉ hiển thị các câu hỏi mà con người thực sự có thể trả lời – những quyết định thực sự cần phán quyết – thay vì làm cho một người nghiền qua các trường mà máy có thể điền. Và hồ sơ kiểm toán tự xây dựng khi đánh giá diễn ra, thay vì ai đó viết nó lên sau đó từ trí nhớ. Đó là nơi 40 giờ trở thành 40 phút.

Một trong những tuyên bố ấn tượng hơn là một tổ chức tài chính lớn của Mỹ đang xử lý khoảng 6.000 yêu cầu quản trị mỗi giây thông qua Astralis. Điều gì điều hành ở quy mô đó dạy cho bạn về các yêu cầu cơ sở hạ tầng trong tương lai cho AI doanh nghiệp?

Bài học là quản trị không thể là một bước riêng biệt nữa. Ở 6.000 quyết định mỗi giây, nó phải diễn ra bên trong đường dẫn dữ liệu chính, với cùng tốc độ như các truy vấn và mô hình mà nó quản lý. Đối với AI, quản trị phải là cơ sở hạ tầng: luôn bật và luôn trực tuyến, không phải là một báo cáo được tạo ra ở bên cạnh. Nó phải nhanh, vì nếu quản trị chậm, nó sẽ trở thành thứ mà mọi người bỏ qua để đáp ứng thời hạn.

Quy định AI tiếp tục phát triển nhanh chóng trên cả Hoa Kỳ và Châu Âu. Bạn xây dựng một nền tảng quản trị như thế nào để nó có thể thích ứng với các khuôn khổ pháp lý thay đổi mà không buộc các doanh nghiệp phải cập nhật chính sách thủ công liên tục?

Sai lầm mà hầu hết các công cụ tuân thủ mắc phải là nướng các quy tắc vào sản phẩm, vì vậy khi luật thay đổi, bạn sẽ bị kẹt chờ nhà cung cấp tái thiết kế công cụ. Astralis được xây dựng để hoạt động theo cách ngược lại. Ở cơ sở của nó là một ngôn ngữ chung để mô tả dữ liệu và sử dụng của nó, và nó không giữ bất kỳ quy tắc nào. Các quy tắc nằm riêng biệt, trong một lớp chính sách trên nó. LLRM đọc quy định, làm việc thông qua những gì nó có nghĩa cho doanh nghiệp cụ thể của bạn, và viết chính sách tương ứng. PBAC sau đó thực thi bất kỳ chính sách nào tại thời điểm đó – vì vậy một thay đổi đối với các quy tắc để lại cơ chế thực thi hoàn toàn không bị ảnh hưởng.

Khi một quy định mới đến, tất cả nỗ lực của một công ty có thể đi vào việc làm việc thông qua những gì nó có nghĩa cho doanh nghiệp của họ; không có nỗ lực nào đi vào việc tái thiết kế hệ thống quyền riêng tư của họ.

Nhiều giám đốc điều hành lo lắng về các tác nhân AI độc lập đưa ra quyết định không được ủy quyền hoặc truy cập thông tin nhạy cảm. Sự lo lắng đó có thực tế không, và những biện pháp phòng ngừa thực tế nào mà các tổ chức nên thực hiện trước khi triển khai các tác nhân AI ở quy mô lớn?

Điều đó hoàn toàn thực tế, và nó đã xảy ra. California đã phạt Disney 2,75 triệu đô la vì hệ thống của họ không thể thực thi một cách đáng tin cậy điều cơ bản như việc một khách hàng chọn không tham gia. Trong hệ thống của họ, một người tiêu dùng chọn không tham gia trên một thiết bị vẫn được chọn tham gia trên các thiết bị khác, và các hướng dẫn chọn không tham gia cấp trình duyệt không được coi là yêu cầu hợp lệ. Sự cố đó không được gây ra bởi một tác nhân hành động không thể dự đoán, mà là một khoảng trống khá cơ bản giữa những gì Disney nói với khách hàng và những gì hệ thống của họ có khả năng thực thi.

Các biện pháp phòng ngừa thực sự ngăn chặn điều này là không hấp dẫn: biết dữ liệu bạn nắm giữ và những gì bạn đã cam kết về nó, và giữ tất cả trong một nơi, vì hầu hết các thất bại này đến từ một đội cam kết mà không bao giờ đến được với cơ sở dữ liệu của một đội khác.

Nhìn về tương lai ba đến năm năm, bạn tin rằng điều gì sẽ phân biệt các doanh nghiệp thành công trong việc vận hành hóa AI với những doanh nghiệp mà các sáng kiến AI vẫn còn mắc kẹt trong các dự án thí điểm, và vai trò quản trị sẽ đóng vai trò gì trong việc tạo ra lợi thế cạnh tranh đó?

Sự khác biệt sẽ đến từ việc liệu một công ty có một hệ thống để quản trị tất cả dữ liệu của mình hay không, hay họ chọn gắn quản trị vào mỗi cơ sở dữ liệu và đội riêng biệt. Các công ty vẫn quản trị dữ liệu của mình theo từng bộ phận sẽ tiếp tục gặp phải những rào cản, vì AI vượt qua các bộ phận theo thiết kế. Mỗi doanh nghiệp đều được yêu cầu giao hàng AI nhanh chóng và không kết thúc trong một lá thư của cơ quan quản lý, và cho đến bây giờ, hai điều đó đã kéo theo nhau. Bất kỳ ai giải quyết được cả hai, thay vì thỏa hiệp với một trong hai, sẽ chiến thắng trong thập kỷ.

Cảm ơn bạn vì cuộc phỏng vấn tuyệt vời, độc giả muốn tìm hiểu thêm nên truy cập Ethyca hoặc Astralis.