Jonathan Mortensen, Người sáng lập và Giám đốc điều hành của Confident Security – Loạt phỏng vấn

Jonathan Mortensen, Người sáng lập và Giám đốc điều hành của Confident Security, hiện đang dẫn đầu sự phát triển của các hệ thống AI riêng tư có thể chứng minh được cho các ngành công nghiệp có yêu cầu bảo mật và tuân thủ nghiêm ngặt. Ông cũng là Người sáng lập và là Thành viên của South Park Commons, nơi ông khám phá tương lai của tính toán AI, bộ nhớ, quyền riêng tư và sở hữu. Trước khi thành lập Confident Security, ông là Kỹ sư phần mềm tại Databricks, tích hợp công nghệ của bit.io vào nền tảng dữ liệu của họ với trọng tâm vào bảo mật đa thuê bao, IAM/ACL, cách ly VPC, mã hóa và sở hữu dữ liệu. Trước đó, ông đã thành lập và là Giám đốc công nghệ của bit.io, xây dựng một dịch vụ PostgreSQL không máy chủ đa đám mây, đa khu vực hỗ trợ hàng trăm nghìn cơ sở dữ liệu bảo mật và sau đó được Databricks mua lại.

Confident Security xây dựng cơ sở hạ tầng cho phép các doanh nghiệp chạy các công việc AI mà không暴 lộ thông tin nhạy cảm. Nền tảng của họ được thiết kế để các lời nhắc, dữ liệu và đầu ra mô hình vẫn hoàn toàn riêng tư, không bao giờ được ghi nhật ký và không bao giờ được tái sử dụng, mang lại cho các tổ chức một cách an toàn để áp dụng AI trong khi đáp ứng các tiêu chuẩn quy định và tuân thủ nghiêm ngặt.

Bạn đã thành lập Confident Security vào năm 2024 sau khi xây dựng bit.io và làm việc tại Databricks. Điều gì đã khơi dậy nhận thức rằng AI cần một cách tiếp cận khác biệt về quyền riêng tư?

Trải nghiệm xây dựng cơ sở hạ tầng dữ liệu của tôi đã dạy tôi điều này: nếu mọi người đang nhập thông tin nhạy cảm vào một hệ thống, sự tin tưởng không đủ. Họ cần bằng chứng. Chúng tôi đã xây dựng cơ sở hạ tầng mà khách hàng sở hữu dữ liệu của họ, và chúng tôi đã cung cấp cho họ cách xác minh điều đó.

Khi tôi xem xét cách các công ty đang sử dụng LLM, bằng chứng đó không tồn tại. Nhân viên đang dán mã nguồn, tài liệu pháp lý và hồ sơ bệnh nhân vào các mô hình được chạy bởi các bên thứ ba mà họ không thể xác minh. Chúng tôi đã thấy các cuộc trò chuyện riêng tư bị chỉ mục hóa trực tuyến một cách tình cờ và các thay đổi chính sách khiến các cuộc trò chuyện trở thành dữ liệu đào tạo theo mặc định. Điều đó cho thấy sự mong manh của mô hình quyền riêng tư hiện tại.

Nếu AI sẽ xử lý thông tin nhạy cảm nhất trên thế giới, chúng tôi cần các đảm bảo không phụ thuộc vào việc tin tưởng vào các lời hứa nội bộ của nhà cung cấp. Đó là điều đã thúc đẩy tôi bắt đầu Confident Security.

OpenPCC đang được mô tả là “Signal cho AI.” Tại sao điều quan trọng là lớp quyền riêng tư này phải được mở, có thể chứng minh và tương tác từ ngày đầu tiên?

Mã hóa từ đầu đến cuối không trở nên phổ biến cho đến khi nó trở thành một tiêu chuẩn mà mọi người có thể áp dụng. Chúng tôi muốn điều tương tự cho quyền riêng tư của AI. Nếu chỉ một vài công ty có thể cung cấp các đảm bảo thực sự, thì quyền riêng tư sẽ không thể mở rộng.

OpenPCC là mã nguồn mở theo Apache 2.0, vì vậy bất kỳ ai cũng có thể xây dựng trên nó hoặc kiểm tra nó. Không có yêu cầu tin tưởng bí mật. Xác minh phần cứng cung cấp bằng chứng mật mã về những gì đang chạy và ở đâu. Và chúng tôi đảm bảo nó hoạt động mọi nơi: bất kỳ đám mây nào, bất kỳ nhà cung cấp mô hình nào, bất kỳ ngăn xếp phát triển nào.

Có giá trị lớn trong một sàn quyền riêng tư nhất quán và phổ quát. Nếu bạn đang sử dụng OpenPCC, bạn biết dữ liệu của mình không được hiển thị cho các nhà cung cấp mô hình, các nhà quản lý hoặc thậm chí chúng tôi. Một tiêu chuẩn chỉ hoạt động nếu toàn bộ hệ sinh thái có thể tham gia, vì vậy chúng tôi đã thiết kế nó để trở nên bao gồm từ ngày đầu tiên.

Trước Confident Security, bạn đã xây dựng các hệ thống lớn cho đa thuê bao, mã hóa và sở hữu dữ liệu. Những kinh nghiệm đó đã định hình kiến trúc của OpenPCC như thế nào?

Các hệ thống đó đã củng cố hai chân lý: nếu một hệ thống có thể giữ lại dữ liệu, cuối cùng nó sẽ, cho dù đó là thông qua nhật ký, cấu hình sai hoặc yêu cầu pháp lý. Và sự tin tưởng không phải là một mô hình quyền riêng tư. Người dùng cần có khả năng hiển thị và kiểm soát.

OpenPCC chạy ở chế độ không trạng thái để các lời nhắc biến mất sau khi xử lý. Xác minh cho phép người dùng xác minh nơi dữ liệu của họ đang đi và mã nào đang chạy. Và bằng cách cách ly kiểm soát khỏi dữ liệu, OpenPCC ngăn chặn các đầu vào riêng tư khỏi việc bị xử lý như các lệnh thực thi.

Các ràng buộc đó là những gì các doanh nghiệp đã chờ đợi: đảm bảo rằng dữ liệu sẽ không tái xuất hiện ở nơi không mong muốn.

Bạn đã lập luận rằng hầu hết các giải pháp “AI riêng tư” đều dựa trên sự tin tưởng vào các hệ thống không rõ ràng. Tại sao việc xác minh độc lập lại quan trọng đối với quyền riêng tư thực sự?

Ngôn ngữ quyền riêng tư ngày nay hiệu quả là “chỉ cần tin tưởng chúng tôi.” Điều đó không đủ tốt khi các ставка bao gồm an ninh quốc gia và dữ liệu chăm sóc sức khỏe được quy định. Nếu người dùng không thể xác minh tuyên bố, nó không phải là đảm bảo – nó là tiếp thị.

Quyền riêng tư có thể xác minh là khác. Bạn không tin vào ý định của nhà vận hành. Bạn xác minh phần cứng, hình ảnh phần mềm và đảm bảo xử lý dữ liệu. Mật mã thực thi các ranh giới. Nhật ký không tồn tại để ai đó vô tình rò rỉ hoặc trát đòi.

Khi quyền riêng tư có thể được kiểm toán bởi người dùng, bạn tạo ra một hệ thống an toàn hơn cơ bản. Đó là trách nhiệm giải trình dựa trên toán học.

Google (GOOGL ) đã công bố “AI riêng tư” ngay sau OpenPCC. Bạn đã công khai thách thức họ cung cấp một TPU cho thử nghiệm độc lập. Điều gì đã thúc đẩy lời kêu gọi đó, và bạn mong đợi tìm thấy gì?

Để tuyên bố đảm bảo quyền riêng tư, bạn nên cho phép cộng đồng xác minh chúng. NVIDIA (NVDA ) đã cho phép xác minh bên ngoài trên GPU H100 của họ, và chúng tôi thậm chí còn mở nguồn một phiên bản Go của thư viện xác minh của họ để khuyến khích việc áp dụng.

Nếu Google muốn đưa ra những lời hứa tương tự trên TPU, chúng tôi nên có thể đo lường và xác minh những lời hứa đó, không chỉ đọc về chúng trong một bài đăng trên blog. Chúng tôi sẽ tìm kiếm các điều khiển giống như những gì chúng tôi mong đợi từ bất kỳ hệ thống quyền riêng tư nào: ranh giới lưu giữ dữ liệu nghiêm ngặt, xác minh có thể kiểm toán và không có con đường bí mật nào mà nhật ký hoặc telemetries có thể thoát.

Đối với những người đọc không quen thuộc với cơ chế, điều gì làm cho các kênh mã hóa hoàn toàn của OpenPCC khác với mã hóa phía máy khách truyền thống hoặc tính toán bảo mật?

Mã hóa phía máy khách bảo vệ dữ liệu trên đường đi, và tính toán bảo mật bảo vệ nó trong khi nó được xử lý, nhưng vẫn còn khoảng trống trước và sau khi các nhà vận hành hoặc kẻ tấn công có thể truy cập thông tin nhạy cảm.

OpenPCC đóng các khoảng trống đó. Nó tạo ra một đường dẫn cuối cùng được mã hóa giữa máy khách và mô hình bảo vệ lời nhắc, phản hồi, danh tính người dùng và thậm chí cả tín hiệu siêu dữ liệu hoặc tín hiệu thời gian có thể tiết lộ ý định một cách im lặng. Các nhà vận hành không thể giải mã bất kỳ thứ gì. Không có gì được ghi nhật ký hoặc giữ lại, ngay cả trong điều kiện bị tấn công.

Quyền riêng tư không nên phụ thuộc vào việc hy vọng nhà cung cấp làm đúng việc đằng sau hậu trường. Nó cần được thực thi bằng mật mã.

Làm thế nào quyền riêng tư có thể xác minh thay đổi phương trình cho các ngành công nghiệp được quy định như tài chính, chăm sóc sức khỏe và quốc phòng?

Các ngành công nghiệp được quy định có nhiều thứ để giành được từ AI, nhưng cũng có nhiều thứ để mất nếu có điều gì đó bị rò rỉ. Ngày nay, 78% nhân viên dán dữ liệu nội bộ vào các công cụ AI, và một trong năm trường hợp bao gồm thông tin được quy định như PHI hoặc PCI. Sự phơi nhiễm đã xảy ra.

Quyền riêng tư có thể xác minh loại bỏ chướng ngại vật lớn nhất. Các lời nhắc nhạy cảm không bao giờ tồn tại ở dạng văn bản trong môi trường của nhà cung cấp mô hình. Không có gì có thể được sử dụng để đào tạo. Ngay cả các yêu cầu hợp pháp cũng không thể truy cập vào những gì hệ thống bản thân không thể thấy.

Các nhóm rủi ro và tuân thủ cuối cùng có một con đường mà “có” trở thành mặc định thay vì “không”.

Thử thách kỹ thuật lớn nhất trong việc thiết kế một lớp quyền riêng tư không phụ thuộc vào đám mây hoạt động trên mọi ngăn xếp doanh nghiệp là gì?

Tính toán bảo mật và xác minh từ xa vẫn còn trong giai đoạn sơ sinh, theo quan điểm của tôi. Mỗi nhà cung cấp đám mây và nhà cung cấp kim loại trần làm điều gì đó hơi khác. Một số nhà cung cấp, như AWS, không có phần cứng cần thiết để thực hiện điều đó. Vì vậy, mỗi tính năng chúng tôi thêm vào giống như 1000 vết cắt và đi trên dây thăng bằng. Nhưng toàn bộ điểm là trở thành một tiêu chuẩn mở, vì vậy chúng tôi cần thực hiện nó để nó hoạt động cho mọi đám mây của bất kỳ ai. Nó là mã nguồn mở nên tôi khuyến khích mọi người thêm nhiều nền tảng và cấu hình hỗ trợ hơn!

Thế giới với mã hóa xác minh mặc định sẽ trông như thế nào, và nó có thể thay đổi sự cân bằng quyền lực giữa các doanh nghiệp, nhà cung cấp đám mây và nhà cung cấp mô hình như thế nào?

Các doanh nghiệp giữ quyền kiểm soát tài sản quý giá nhất của họ: dữ liệu của họ. Các nhà cung cấp mô hình cạnh tranh về hiệu suất và chi phí thay vì ai có thể tích lũy thông tin độc quyền nhiều nhất. Đám mây cho phép quyền riêng tư thay vì là người quan sát im lặng của nó.

Đó là một sự cân bằng quyền lực lành mạnh hơn. Và toàn bộ hệ sinh thái đều thắng khi bảo mật được xây dựng vào nền tảng thay vì vá trên đầu.

Trong một tương lai nơi AI trở nên phổ biến và được quản lý chặt chẽ, bạn nhìn thấy quyền riêng tư có thể xác minh lại định hình lại cảnh quan cạnh tranh cho các doanh nghiệp, nhà cung cấp đám mây và nhà phát triển mô hình như thế nào?

Các nhà quản lý đang đặt câu hỏi về cách dữ liệu người dùng được lưu trữ và sử dụng. Quyền riêng tư dựa trên sự tin tưởng sẽ không làm hài lòng họ trong thời gian dài. Người dùng sẽ mong đợi đảm bảo quyền riêng tư giống như cách họ mong đợi mã hóa trong các ứng dụng nhắn tin ngày nay.

Người chiến thắng sẽ là những công ty không yêu cầu người dùng phải thỏa hiệp. Nếu bạn có thể chứng minh quyền riêng tư, bạn sẽ giành được sự tin tưởng của các tổ chức có dữ liệu quý giá nhất trên thế giới. Dữ liệu trở nên có thể sử dụng ở những nơi nó đã bị khóa.

Cảm ơn bạn vì cuộc phỏng vấn tuyệt vời, những người đọc muốn tìm hiểu thêm nên truy cập Confident Security.