Chester Leung, Đồng sáng lập và Trưởng nhóm Nền tảng Trí tuệ Nhân tạo tại OPAQUE – Loạt phỏng vấn

Chester Leung là Đồng sáng lập và Trưởng nhóm Kiến trúc Nền tảng tại OPAQUE, một công ty khởi nghiệp Serie A đang xây dựng nền tảng dữ liệu và trí tuệ nhân tạo bảo mật, cho phép các đội mở rộng đường ống dữ liệu doanh nghiệp của họ với một lớp bảo mật, cho phép có được thông tin nhanh hơn với ít nỗ lực hơn và quyền riêng tư, kiểm soát có thể xác minh.

Trước đó, Chester là một sinh viên sau đại học về khoa học máy tính tại UC Berkeley, nơi ông đã xuất bản các bài báo được đánh giá ngang hàng tại các hội nghị hàng đầu và cũng từng là người bảo trì chính của dự án mã nguồn mở MC2 cho phân tích và học máy hợp tác bảo mật.

Bạn đã đồng sáng lập Opaque sau thời gian tại RISELab của UC Berkeley, nơi công việc của bạn kết nối trí tuệ nhân tạo và hệ thống bảo mật. Bạn đã nhìn thấy khoảng trống cụ thể nào trong cơ sở hạ tầng dữ liệu doanh nghiệp đã dẫn đến việc tạo ra OPAQUE, và kinh nghiệm học thuật của bạn đã thông báo cho hướng đi của công ty như thế nào?

Vào thời điểm đó, có một sự tập trung lớn, cả trong học thuật và trong ngành, vào việc tận dụng học máy cho các trường hợp sử dụng cụ thể. Trong phòng thí nghiệm, chúng tôi rất may mắn khi có các nhà tài trợ doanh nghiệp lớn giúp các nhà nghiên cứu định hình công việc của họ để giải quyết các vấn đề cấp bách hơn mà họ đang đối mặt trong tổ chức của mình. Nhóm của chúng tôi, đặc biệt, đã có cơ hội duy nhất để làm việc chặt chẽ với các công ty công nghệ và ngân hàng, dịch vụ tài chính và bảo hiểm (BFSI), hợp tác để giải quyết các vấn đề về quyền riêng tư khó khăn xung quanh việc sử dụng dữ liệu nhạy cảm nhưng có giá trị cho học máy. Giống như tất cả các lĩnh vực của trí tuệ nhân tạo, học máy phụ thuộc vào lượng lớn dữ liệu chất lượng cao để tạo ra thông tin có giá trị và mạnh mẽ.

Chúng tôi đã gặp phải cùng một mẫu lặp đi lặp lại khi hợp tác với các đội từ các công ty như Amazon (AMZN ), Scotiabank và Ant Group (trước đây là Ant Financial): các dự án học máy của họ đã bị đình trệ trước khi đạt đến sản xuất do lo ngại về việc sử dụng dữ liệu nhạy cảm nhưng quan trọng cho các trường hợp sử dụng này. Nói cách khác, những đội này không thể sử dụng trí tuệ nhân tạo trong các dự án mà họ biết có thể tạo ra giá trị cho công ty, không phải vì một vấn đề kỹ thuật với trí tuệ nhân tạo, mà vì họ không thể tiếp cận đúng dữ liệu.

Tại Opaque, chúng tôi đã giải quyết một vấn đề tương tự. Giúp các đội tiếp cận đúng dữ liệu, cho phép họ mở khóa hoặc nâng cấp khả năng trí tuệ nhân tạo của mình. Sự thay đổi duy nhất kể từ những ngày nghiên cứu của chúng tôi là sự cấp thiết của vấn đề: chúng tôi hiện đang thấy việc áp dụng và tích hợp trí tuệ nhân tạo, điều này tiếp tục bị tắc nghẽn bởi việc tiếp cận đúng dữ liệu, trở thành một yêu cầu chiến lược cấp công ty.

Trong một cảnh quan nơi các doanh nghiệp đang đầu tư mạnh vào các mô hình suy luận và trí tuệ nhân tạo có chủ thể, tại sao bạn tin rằng các đường ống dữ liệu bảo mật lại quan trọng hơn bao giờ hết?

Các đường ống dữ liệu bảo mật là xương sống mà các doanh nghiệp xây dựng các mô hình suy luận và trí tuệ nhân tạo có chủ thể. Mọi thứ, từ việc đào tạo các mô hình suy luận này đến việc triển khai trí tuệ nhân tạo có chủ thể, đều liên quan đến dữ liệu nhạy cảm và phụ thuộc vào các đường ống dữ liệu bảo mật.

Ví dụ, chúng tôi hiện đang thấy sự đầu tư ngày càng tăng vào việc tạo ra dữ liệu chất lượng cao để đào tạo các mô hình này. Một số báo cáo thậm chí đã dự đoán rằng đầu tư tính toán vào việc tạo ra dữ liệu chất lượng cao sẽ sớm vượt quá đầu tư tính toán vào việc đào tạo các mô hình chính nó. Tất nhiên, việc tạo ra dữ liệu là một quá trình nhiều bước được cung cấp bởi các đường ống tạo ra tài sản trí tuệ quý giá nhất của một doanh nghiệp: dữ liệu lĩnh vực cụ thể chất lượng cao có thể đào tạo các mô hình tạo ra giá trị khổng lồ ở hạ nguồn. Đầu tư vào việc tạo ra dữ liệu này là khổng lồ, và dữ liệu được tạo ra, với nguồn gốc của nó, thực sự phân biệt một doanh nghiệp với đối thủ cạnh tranh của nó, đóng vai trò là rào cản của nó. Một doanh nghiệp phải làm mọi thứ để giữ cho đường ống này an toàn.

Nền tảng tính toán bảo mật của OPAQUE cho phép phân tích trên dữ liệu được mã hóa. Những thách thức kỹ thuật cốt lõi trong việc làm cho cả hai khả năng mở rộng và thân thiện với nhà phát triển cho môi trường doanh nghiệp là gì?

Nền tảng Trí tuệ Nhân tạo Bảo mật của chúng tôi không chỉ cho phép phân tích, học máy và trí tuệ nhân tạo tạo ra trên dữ liệu được mã hóa mà còn cung cấp bằng chứng có thể xác minh rằng dữ liệu của bạn đã được sử dụng theo cách mà chỉ bạn mong đợi và cho phép.

Các thách thức cốt lõi, về khả năng mở rộng, phát triển và quản lý, nằm ở việc làm cho việc điều phối công việc bảo mật và có thể xác minh ở quy mô lớn. Đặc biệt, nhiều doanh nghiệp ngày nay sử dụng dịch vụ đám mây được quản lý khi họ cần mở rộng quy mô. Điều này có thể tiết kiệm chi phí và tiện lợi. Tuy nhiên, một tập hợp con của phần mềm cung cấp dịch vụ đám mây được quản lý này vốn được quản lý bởi nhà cung cấp đám mây. Vì vậy, thách thức trở thành, làm thế nào một tổ chức có thể bảo mật và xác minh phần mềm mà không nằm dưới sự kiểm soát của họ? Nếu tổ chức đó lấy lại quyền kiểm soát tất cả phần mềm, họ phải từ bỏ những gì khi không sử dụng dịch vụ được quản lý, và họ mất những gì khi làm như vậy?

Bạn đã nói rằng kiến trúc bảo mật theo thiết kế có thể cung cấp một lợi thế cạnh tranh lâu dài. Bạn có thể giải thích cách nguyên tắc này được thực hiện trong thực tế cho các đội trí tuệ nhân tạo doanh nghiệp không?

Có hai góc độ để xem xét điều này: một góc độ sản phẩm và một góc độ kỹ thuật.

Từ góc độ sản phẩm, mọi người đều hiểu rằng dữ liệu của họ là “phóng xạ”, là rào cản hoặc cả hai. Các doanh nghiệp đang trở nên ngày càng trưởng thành trong việc đánh giá quyền riêng tư dữ liệu, bảo mật và chủ quyền của các giải pháp. Do đó, bất kỳ đội nào xây dựng bất kỳ sản phẩm nào xử lý dữ liệu doanh nghiệp phải cung cấp sự đảm bảo rằng dữ liệu được xử lý chỉ có thể nhìn thấy và được sử dụng bởi các bên và thực thể được ủy quyền. Một kiến trúc bảo mật theo thiết kế cung cấp sự tự tin rằng quyền riêng tư dữ liệu, bảo mật và chủ quyền đã được xem xét kỹ lưỡng trong thiết kế của sản phẩm và cho phép sản phẩm cung cấp những đảm bảo này một cách rõ ràng.

Từ góc độ kỹ thuật, một kiến trúc bảo mật theo thiết kế là linh hoạt và tương lai hơn. Các đội pháp lý, rủi ro và tuân thủ đang trở nên nghiêm ngặt hơn trong việc đáp ứng các rủi ro và quy định mới. Do đó, các tổ chức kỹ thuật nên xây dựng một hệ thống trí tuệ nhân tạo doanh nghiệp bảo mật từ đầu để họ không phải tái kiến trúc và/hoặc vá lại hệ thống của mình khi họ nhận ra rằng hệ thống hiện tại của họ không đủ an toàn và không đủ khả năng chống rủi ro. Việc tái kiến trúc và vá lại có thể mất nhiều tháng, nếu không muốn nói là nhiều năm, băng thông kỹ thuật quý giá.

Khi các hệ thống trí tuệ nhân tạo tự chủ phát triển, các tổ chức nên suy nghĩ lại vai trò của dữ liệu – ngoài một tài nguyên – như một rào cản có thể bảo vệ được không?

Có một sự đồng thuận ngày càng tăng trong ngành rằng dữ liệu có thể sớm trở thành rào cản duy nhất mà một tổ chức có. Chúng tôi đã thấy tài năng nghiên cứu và kỹ thuật, cũng như các công nghệ và sản phẩm tuyệt vời mà họ xây dựng, nhảy từ tổ chức này sang tổ chức khác. Kết quả là, nhiều tổ chức có thể cung cấp cùng một sản phẩm, được hỗ trợ bởi cùng một công nghệ.

Điều mà không thể dễ dàng chuyển từ tổ chức này sang tổ chức khác, tuy nhiên, là dữ liệu của một tổ chức – trừ khi nó bị rò rỉ. Hơn nữa, chính dữ liệu đó có thể làm cho một sản phẩm trở nên hấp dẫn hơn so với các sản phẩm cạnh tranh – được cá nhân hóa, tùy chỉnh và cụ thể theo lĩnh vực. Các tổ chức phải làm mọi thứ để bảo mật dữ liệu của họ, cho phép họ tận dụng dữ liệu của mình như rào cản cạnh tranh.

Một đường ống trí tuệ nhân tạo vững chắc trông như thế nào trong thực tế, và nó giúp các công ty tránh được những chi phí hoặc rủi ro ẩn khi họ mở rộng triển khai trí tuệ nhân tạo của mình như thế nào?

Một đường ống trí tuệ nhân tạo vững chắc là một đường ống đáng tin cậy, chịu lỗi, nhưng quan trọng nhất, bảo mật có thể xác minh từ đầu đến cuối. Trước khi xử lý, các công ty nên xác minh cả dữ liệu đi vào đường ống và đường ống chính nó để đảm bảo không có khả năng đường ống lạm dụng dữ liệu. Trong quá trình xử lý, đường ống trí tuệ nhân tạo nên được bảo vệ khỏi sự xâm phạm, để đảm bảo không ai có thể đánh cắp bất kỳ dữ liệu nào mà nó đang xử lý hoặc làm sai lệch các thông tin nó cung cấp. Sau khi xử lý, đường ống trí tuệ nhân tạo nên được kiểm toán có thể xác minh, để một đội có thể quan sát và giải thích quá trình ra quyết định và軌迹 của đường ống trí tuệ nhân tạo, và để một đội có thể thấy điều gì đã xảy ra khi có điều gì đó sai.

Nó là điều quan trọng để xem xét làm thế nào một đường ống trí tuệ nhân tạo không an toàn, khiếm khuyết có thể làm rò rỉ dữ liệu hoặc mô hình độc quyền của một tổ chức, và những tác động mà điều đó có trên các yếu tố khác biệt của công ty hoặc danh tiếng của nó. Điều quan trọng hơn, tuy nhiên, là điều này: khi các công ty mở rộng triển khai trí tuệ nhân tạo vào các trường hợp sử dụng quan trọng và có tác động hơn, rủi ro của một đường ống trí tuệ nhân tạo không an toàn, không thể giải thích được tăng lên theo cấp số nhân. Trong một thế giới nơi quyết định cho vay và tuyển dụng đã được tăng cường bởi trí tuệ nhân tạo, và ảnh hưởng đến mọi thứ từ tài chính cá nhân đến sự nghiệp, một sai lầm cố ý hoặc vô ý trong một đường ống trí tuệ nhân tạo có thể có tác động đáng kể đến cuộc sống của một cá nhân.

Nhiều doanh nghiệp tập trung vào độ chính xác của mô hình hoặc độ trễ. Họ đang bỏ qua điều gì khi nói đến tính toàn vẹn dữ liệu và rủi ro hoạt động lâu dài?

Trong khi nhiều doanh nghiệp tập trung vào mô hình hoặc công nghệ trí tuệ nhân tạo, tôi đã lâu tin rằng dữ liệu là nút thắt cơ bản trong việc triển khai trí tuệ nhân tạo tạo ra giá trị.

Có một mô hình tạo ra phản hồi chính xác nhanh chóng về một chủ đề mà người dùng cuối không quan tâm tạo ra giá trị không. Để xây dựng một sản phẩm độc đáo, các doanh nghiệp phải đảm bảo rằng các mô hình của họ, và các sản phẩm mà chúng cung cấp năng lượng, được đào tạo với dữ liệu chất lượng cao, có liên quan. Các vấn đề về vệ sinh dữ liệu phát sinh từ việc thiếu dữ liệu đầu vào chất lượng cao có thể không xuất hiện cho đến nhiều tháng sau.

Thứ hai, chúng tôi đã tìm thấy rằng các doanh nghiệp nói chung không có một câu chuyện tốt cho việc phát hiện sự trôi dạt dữ liệu, ô nhiễm hoặc rò rỉ, đe dọa đến tính toàn vẹn của mô hình. Điều này gắn chặt với điểm đầu tiên của tôi, và trong khi nó là một giải pháp phản ứng, nó làm cho việc đánh giá và quan sát trở nên quan trọng hơn.

OPAQUE tích hợp vào các ngăn xếp đám mây hiện có. Bạn đã học được gì về việc cân bằng sự dễ dàng trong việc áp dụng với các đảm bảo bảo mật mạnh mẽ trong các triển khai doanh nghiệp?

Chúng tôi đã dành gần một thập kỷ, bắt đầu từ những ngày nghiên cứu của mình, để giải quyết vấn đề này. Sự bảo mật có thể chứng minh của các hệ thống trí tuệ nhân tạo, đặc biệt là trong một môi trường doanh nghiệp, là một vấn đề rất khó khăn. Nó đòi hỏi kiến thức về hệ thống, bảo mật, mật mã và trí tuệ nhân tạo. Kết quả là, hầu hết các hệ thống mà chúng tôi đã gặp đều không bảo mật cơ bản – vì bảo mật rất khó để thực hiện.

Tại Opaque, chúng tôi đã xây dựng một sản phẩm là tốt nhất của cả hai thế giới – vốn bảo mật và có thể xác minh từ đầu, nhưng dễ dàng triển khai thông qua các thị trường đám mây và đủ linh hoạt để tích hợp vào các ứng dụng trí tuệ nhân tạo mới và hiện có.

Loại nào của các mối đe dọa hoặc điểm yếu đang xuất hiện xung quanh các đường ống trí tuệ nhân tạo và chia sẻ dữ liệu mà các nhà lãnh đạo doanh nghiệp có thể chưa đánh giá cao đầy đủ?

Điều mà chúng tôi đã thấy trong cuộc chạy đua trí tuệ nhân tạo này là một sự cấp thiết mù quáng trong việc triển khai các tác nhân trí tuệ nhân tạo tương tác với các hệ thống ghi lại khác nhau. Mặc dù những tác nhân này có thể cung cấp giá trị, nhưng chúng cũng tạo ra những rủi ro khổng lồ vì chúng chạm vào nhiều hệ thống có dữ liệu quý giá. Các tác nhân vốn không xác định, và chúng tôi đã thấy vô số trường hợp chúng đi và làm điều gì đó chúng tôi không mong đợi. Trong một thế giới nơi dữ liệu của bạn là rào cản duy nhất của bạn, các nhà lãnh đạo doanh nghiệp nên luôn đặt câu hỏi liệu họ có thể tin tưởng và dựa vào các tác nhân trí tuệ nhân tạo có quyền truy cập vào tất cả dữ liệu của họ để không lạm dụng nó một cách vô tình hoặc cố ý.

Khi quy định về trí tuệ nhân tạo đang hình thành trên toàn cầu, bạn nhìn thấy sự tương tác giữa cơ sở hạ tầng dữ liệu bảo mật, trách nhiệm giải trình của mô hình và tuân thủ sẽ phát triển như thế nào trong vài năm tới?

Cơ sở hạ tầng dữ liệu bảo mật có thể xác minh cho phép trách nhiệm giải trình của mô hình và tác nhân. Cụ thể, không có bằng chứng có thể xác minh về việc ra quyết định hoặc sử dụng công cụ của một tác nhân hoặc mô hình, chúng tôi không thể chắc chắn về bất cứ điều gì, vì vậy chúng tôi sẽ không thể theo dõi trách nhiệm giải trình. Khi trí tuệ nhân tạo trở nên tích hợp hơn vào cuộc sống hàng ngày của chúng ta, để cảm thấy như chúng ta vẫn kiểm soát, chúng ta sẽ muốn có thêm khả năng giải thích và quan sát được vào trí tuệ nhân tạo. Tuy nhiên, khi trí tuệ nhân tạo có thể hoạt động với tốc độ máy, và chúng ta không thể, một trí tuệ nhân tạo độc ác có thể dễ dàng đánh lừa chúng ta bằng cách xây dựng các lịch sử giả. Chúng ta cần tính xác minh để giữ trí tuệ nhân tạo chịu trách nhiệm.

Đối với tôi, tuân thủ quy định là rất phản ứng. Việc phát triển và thông qua các quy định di chuyển chậm hơn nhiều so với sự đổi mới công nghệ. Điều này sẽ ngày càng đúng khi trí tuệ nhân tạo giúp chúng ta tăng tốc độ đổi mới của mình. Mặc dù tuân thủ cuối cùng sẽ驱使 các kẻ tụt lùi áp dụng cơ sở hạ tầng dữ liệu bảo mật, nhưng những người áp dụng sớm và đa số sớm nhận ra rằng nó là điều quan trọng cho sự an toàn của trí tuệ nhân tạo, và sẽ áp dụng nó lâu trước khi tuân thủ làm cho nó trở nên bắt buộc. Họ hiểu rằng trách nhiệm giải trình của tác nhân, được kích hoạt bởi cơ sở hạ tầng dữ liệu bảo mật, là điều quan trọng cho việc áp dụng các sản phẩm trí tuệ nhân tạo của chính họ.

Cảm ơn vì cuộc phỏng vấn tuyệt vời, độc giả muốn tìm hiểu thêm nên truy cập OPAQUE.