Phỏng vấn
Jonathan Mortensen, Người sáng lập và CEO của Confident Security – Loạt phỏng vấn
Jonathan Mortensen, Người sáng lập và CEO của Confident Security, hiện đang dẫn đầu sự phát triển của các hệ thống AI riêng tư có thể chứng minh được cho các ngành công nghiệp có yêu cầu bảo mật và tuân thủ nghiêm ngặt. Ông cũng служ sebagai Người sáng lập Fellow tại South Park Commons, nơi ông khám phá tương lai của tính toán AI, bộ nhớ, quyền riêng tư và sở hữu. Trước khi thành lập Confident Security, ông là Kỹ sư phần mềm tại Databricks, tích hợp công nghệ của bit.io vào nền tảng dữ liệu của họ với trọng tâm vào bảo mật đa thuê bao, IAM/ACL, cách ly VPC, mã hóa và sở hữu dữ liệu. Trước đó, ông đã thành lập và phục vụ jako CTO của bit.io, xây dựng một dịch vụ PostgreSQL serverless đa đám mây, đa khu vực hỗ trợ hàng trăm nghìn cơ sở dữ liệu bảo mật và sau đó được Databricks mua lại.
Confident Security xây dựng cơ sở hạ tầng cho phép các doanh nghiệp chạy các công việc AI mà không暴 lộ thông tin nhạy cảm. Nền tảng của họ được thiết kế để các lời nhắc, dữ liệu và đầu ra mô hình vẫn hoàn toàn riêng tư, không bao giờ được ghi nhật ký và không bao giờ được tái sử dụng, cung cấp cho các tổ chức một cách bảo mật để áp dụng AI trong khi đáp ứng các tiêu chuẩn quy định và tuân thủ nghiêm ngặt.
Bạn đã thành lập Confident Security vào năm 2024 sau khi xây dựng bit.io và làm việc tại Databricks. Điều gì đã kích hoạt sự nhận thức rằng AI cần một cách tiếp cận khác về quyền riêng tư?
Kinh nghiệm xây dựng cơ sở hạ tầng dữ liệu của tôi đã dạy cho tôi điều này: nếu mọi người đang đặt thông tin nhạy cảm vào một hệ thống, sự tin tưởng không đủ. Họ cần bằng chứng. Chúng tôi đã xây dựng cơ sở hạ tầng nơi khách hàng sở hữu dữ liệu của họ, và chúng tôi đã cung cấp cho họ cách để xác minh điều đó.
Khi tôi nhìn vào cách các công ty đang sử dụng LLM, bằng chứng đó không tồn tại. Nhân viên đang dán mã nguồn, tài liệu pháp lý và hồ sơ bệnh nhân vào các mô hình được chạy bởi các bên thứ ba mà họ không thể xác minh. Chúng tôi đã thấy các cuộc trò chuyện riêng tư bị chỉ mục hóa trực tuyến một cách tình cờ và các chính sách thay đổi mà đột nhiên làm cho các cuộc trò chuyện trở thành dữ liệu đào tạo theo mặc định. Điều đó cho thấy mô hình quyền riêng tư hiện tại là rất mong manh.
Nếu AI sẽ xử lý thông tin nhạy cảm nhất trên thế giới, chúng tôi cần có bảo đảm không phụ thuộc vào việc tin tưởng vào các lời hứa nội bộ của nhà cung cấp. Đó là điều đã thúc đẩy tôi bắt đầu Confident Security.
OpenPCC đang được mô tả là “Signal cho AI.” Tại sao lớp bảo mật này cần phải mở, có thể chứng minh và tương tác từ ngày đầu tiên?
Mã hóa từ đầu đến cuối không trở nên phổ biến cho đến khi nó trở thành một tiêu chuẩn mà mọi người có thể áp dụng. Chúng tôi muốn điều tương tự cho quyền riêng tư của AI. Nếu chỉ một vài công ty có thể cung cấp bảo đảm thực sự, thì quyền riêng tư sẽ không thể mở rộng.
OpenPCC là mã nguồn mở dưới Apache 2.0, vì vậy bất kỳ ai cũng có thể xây dựng trên nó hoặc kiểm tra nó. Không có yêu cầu tin tưởng bí mật. Xác thực phần cứng cung cấp bằng chứng mật mã về những gì đang chạy và ở đâu. Và chúng tôi đã đảm bảo nó hoạt động ở mọi nơi: bất kỳ đám mây nào, bất kỳ nhà cung cấp mô hình nào, bất kỳ ngăn xếp phát triển nào.
Có giá trị lớn trong một sàn bảo mật nhất quán và phổ quát. Nếu bạn sử dụng OpenPCC, bạn biết dữ liệu của mình không thể nhìn thấy được bởi các nhà cung cấp mô hình, các nhà quản lý hoặc thậm chí chúng tôi. Một tiêu chuẩn chỉ hoạt động nếu toàn bộ hệ sinh thái có thể tham gia, vì vậy chúng tôi đã thiết kế nó để trở nên bao gồm từ ngày đầu tiên.
Trước Confident Security, bạn đã xây dựng các hệ thống lớn cho đa thuê bao, mã hóa và sở hữu dữ liệu. Những kinh nghiệm đó đã định hình kiến trúc của OpenPCC như thế nào?
Những hệ thống đó đã củng cố hai sự thật: nếu một hệ thống có thể giữ lại dữ liệu, cuối cùng nó sẽ, dù đó là thông qua nhật ký, cấu hình sai hoặc yêu cầu pháp lý. Và sự tin tưởng không phải là một mô hình quyền riêng tư. Người dùng cần có khả năng hiển thị và kiểm soát.
OpenPCC chạy ở chế độ không trạng thái nên các lời nhắc biến mất sau khi xử lý. Xác thực cho phép người dùng xác minh nơi dữ liệu của họ đang đi và mã nào đang chạy. Và bằng cách cô lập kiểm soát khỏi dữ liệu, OpenPCC ngăn chặn các đầu vào riêng tư khỏi bị xử lý như các lệnh thực thi.
Những ràng buộc đó là những gì các doanh nghiệp đã chờ đợi: bảo đảm rằng dữ liệu sẽ không tái xuất hiện ở một nơi nào đó không mong muốn.
Bạn đã lập luận rằng hầu hết các giải pháp “AI riêng tư” dựa trên sự tin tưởng vào các hệ thống không rõ ràng. Tại sao việc xác minh độc lập lại quan trọng đối với quyền riêng tư thực sự?
Hầu hết ngôn ngữ quyền riêng tư ngày nay hiệu quả là “chỉ tin tưởng chúng tôi.” Điều đó không đủ tốt khi các став bao gồm bảo mật quốc gia và dữ liệu chăm sóc sức khỏe được quy định. Nếu người dùng không thể xác minh tuyên bố, nó không phải là bảo đảm – nó là tiếp thị.
Quyền riêng tư có thể xác minh là khác. Bạn không tin vào ý định của nhà vận hành. Bạn xác minh phần cứng, hình ảnh phần mềm và bảo đảm xử lý dữ liệu. Mật mã thực thi các ranh giới. Nhật ký không tồn tại để ai đó có thể vô tình rò rỉ hoặc trát.
Khi quyền riêng tư có thể được kiểm toán bởi người dùng, bạn tạo ra một hệ thống cơ bản an toàn hơn. Đó là trách nhiệm giải trình dựa trên toán học.
Thông báo “AI riêng tư” của Google đã được công bố ngay sau OpenPCC. Bạn đã công khai thách thức họ cung cấp một TPU cho thử nghiệm độc lập. Điều gì đã thúc đẩy cuộc gọi này, và bạn sẽ mong đợi tìm thấy gì?
Để tuyên bố bảo đảm quyền riêng tư, bạn nên cho phép cộng đồng xác minh chúng. NVIDIA đã cho phép xác minh bên ngoài trên GPU H100 của họ, và chúng tôi thậm chí đã mở nguồn một phiên bản Go của thư viện xác thực của họ để khuyến khích việc áp dụng.
Nếu Google muốn đưa ra những lời hứa tương tự trên TPU, chúng tôi nên có thể đo lường và xác minh những lời hứa đó, không chỉ đọc về chúng trong một bài đăng trên blog. Chúng tôi sẽ tìm kiếm các điều khiển mà chúng tôi mong đợi từ bất kỳ hệ thống quyền riêng tư nào: ranh giới giữ dữ liệu nghiêm ngặt, xác thực có thể kiểm toán và không có đường dẫn bí mật nơi nhật ký hoặc telemetry thoát ra. Các tuyên bố về quyền riêng tư cần phải chịu được sự kiểm tra.
Đối với những người đọc không quen thuộc với các cơ chế, điều gì làm cho các kênh mã hóa hoàn toàn của OpenPCC khác với mã hóa phía khách hàng truyền thống hoặc tính toán bảo mật?
Mã hóa phía khách hàng bảo vệ dữ liệu trên đường đi, và tính toán bảo mật bảo vệ nó trong khi nó được xử lý, nhưng vẫn còn những khoảng trống trước và sau nơi các nhà vận hành hoặc kẻ tấn công có thể truy cập thông tin nhạy cảm.
OpenPCC đóng các khoảng trống đó. Nó tạo ra một đường dẫn cuối cùng được niêm phong giữa khách hàng và mô hình bảo vệ lời nhắc, phản hồi, danh tính người dùng và thậm chí cả tín hiệu siêu dữ liệu hoặc thời gian có thể tiết lộ ý định một cách im lặng. Các nhà vận hành không thể giải mã bất cứ điều gì. Không có gì được ghi nhật ký hoặc giữ lại, thậm chí trong điều kiện vi phạm.
Quyền riêng tư không nên phụ thuộc vào việc hy vọng nhà cung cấp làm đúng việc đằng sau hậu trường. Nó cần được thực thi mật mã.
Làm thế nào quyền riêng tư có thể xác minh thay đổi phương trình cho các ngành công nghiệp được quy định như tài chính, chăm sóc sức khỏe và quốc phòng?
Các ngành công nghiệp được quy định có nhiều thứ để đạt được từ AI, nhưng cũng có nhiều thứ để mất nếu có điều gì đó bị rò rỉ. Ngày nay, 78% nhân viên dán dữ liệu nội bộ vào các công cụ AI, và một trong năm trường hợp bao gồm thông tin được quy định như PHI hoặc PCI. Sự phơi nhiễm đã xảy ra.
Quyền riêng tư có thể xác minh loại bỏ chướng ngại vật lớn nhất. Các lời nhắc nhạy cảm không bao giờ tồn tại ở dạng văn bản thuần trong môi trường của nhà cung cấp mô hình. Không có gì có thể được sử dụng để đào tạo. Thậm chí các yêu cầu pháp lý cũng không thể truy cập vào những gì hệ thống bản thân không thể nhìn thấy.
Các nhóm rủi ro và tuân thủ cuối cùng có một con đường nơi “có” trở thành mặc định thay vì “không.”
Thử thách kỹ thuật lớn nhất trong việc thiết kế một lớp bảo mật độc lập với đám mây là gì, hoạt động trên mọi ngăn xếp doanh nghiệp?
Tính toán bảo mật và xác thực từ xa vẫn còn trong giai đoạn sơ sinh, theo quan điểm của tôi. Mỗi nhà cung cấp đám mây và nhà cung cấp kim loại trần làm điều gì đó hơi khác. Một số nhà cung cấp, như AWS, không có phần cứng cần thiết để thực hiện điều đó. Vì vậy, mỗi tính năng chúng tôi thêm vào giống như 1000 vết cắt và đi trên dây cao. Nhưng điểm của mọi thứ là trở thành một tiêu chuẩn mở, vì vậy chúng tôi cần làm điều đó để nó hoạt động cho bất kỳ đám mây nào. Đó là mã nguồn mở, vì vậy tôi khuyến khích mọi người thêm nhiều nền tảng và cấu hình hỗ trợ hơn!
Thế giới với mã hóa xác minh mặc định sẽ trông như thế nào, và nó có thể thay đổi sự cân bằng quyền lực giữa các doanh nghiệp, nhà cung cấp đám mây và nhà cung cấp mô hình như thế nào?
Các doanh nghiệp giữ quyền kiểm soát tài sản quý giá nhất của họ: dữ liệu của họ. Các nhà cung cấp mô hình cạnh tranh về hiệu suất và chi phí thay vì ai có thể tích lũy thông tin độc quyền nhiều nhất. Đám mây cho phép quyền riêng tư thay vì chỉ là người quan sát im lặng của nó.
Đó là một sự cân bằng quyền lực lành mạnh hơn. Và toàn bộ hệ sinh thái đều thắng khi bảo mật được xây dựng vào nền tảng thay vì vá trên đầu.
Trong một tương lai nơi AI trở nên phổ biến và được quy định nghiêm ngặt, bạn thấy quyền riêng tư có thể xác minh lại thay đổi cảnh quan cạnh tranh cho các doanh nghiệp, nhà cung cấp đám mây và nhà phát triển mô hình như thế nào?
Các nhà quản lý đang đặt câu hỏi về cách dữ liệu người dùng được lưu trữ và sử dụng. Quyền riêng tư dựa trên sự tin tưởng sẽ không làm hài lòng họ trong thời gian dài. Người dùng sẽ mong đợi bảo đảm quyền riêng tư theo cách họ mong đợi mã hóa trong các ứng dụng nhắn tin ngày nay.
Những người chiến thắng sẽ là những công ty không yêu cầu người dùng phải妥協. Nếu bạn có thể chứng minh quyền riêng tư, bạn sẽ kiếm được sự tin tưởng của các tổ chức có dữ liệu quý giá nhất trên thế giới. Dữ liệu trở nên có thể sử dụng được ở những nơi nó đã bị khóa.
Cảm ơn vì cuộc phỏng vấn tuyệt vời, những người đọc muốn tìm hiểu thêm nên truy cập Confident Security.
