Patricia Thaine, CEO tại Private AI – Loạt Phỏng Vấn

Patricia Thaine là Đồng sáng lập và CEO của Private AI, một ứng viên tiến sĩ Khoa học Máy tính tại Đại học Toronto, và một thành viên sau đại học tại Viện Vector đang thực hiện nghiên cứu về xử lý ngôn ngữ tự nhiên bảo vệ quyền riêng tư, với trọng tâm vào mật mã ứng dụng. Cô cũng thực hiện nghiên cứu về các phương pháp tính toán để giải mã ngôn ngữ bị mất.

Patricia là người nhận được học bổng sau đại học NSERC, học bổng sau đại học RBC, học bổng sau đại học Beatrice “Trixie” Worsley về Khoa học Máy tính, và học bổng sau đại học Ontario. Cô có tám năm kinh nghiệm nghiên cứu và phát triển phần mềm, bao gồm tại Phòng thí nghiệm Phát triển Ngôn ngữ McGill, Phòng thí nghiệm Linguistics Tính toán của Đại học Toronto, Bộ phận Linguistics của Đại học Toronto, và Cơ quan Y tế Công cộng Canada.

Điều gì ban đầu thu hút bạn đến với khoa học máy tính?

Khả năng giải quyết vấn đề và sáng tạo cùng một lúc. Nó giống như một nghề thủ công. Bạn có thể thấy ý tưởng sản phẩm của mình trở thành hiện thực, giống như một người thợ mộc xây dựng đồ nội thất. Khi tôi nghe ai đó nói một lần: lập trình là công cụ sáng tạo tối thượng. Việc thực tế là các sản phẩm bạn xây dựng có thể mở rộng và được sử dụng bởi mọi người trên toàn thế giới là một điểm cộng tuyệt vời.

Có thể bạn thảo luận về câu chuyện khởi nguồn của Private AI và cách nó xuất phát từ quan sát của bạn rằng có thiếu các công cụ dễ dàng tích hợp để bảo vệ quyền riêng tư?

Thông qua lời nói và viết, một số thông tin nhạy cảm nhất của chúng ta được tạo ra và chuyển giao cho các công ty cung cấp dịch vụ mà chúng ta sử dụng. Khi chúng tôi xem xét các sản phẩm NLP nào để xây dựng, có một lớp bảo vệ quyền riêng tư mà chúng tôi cần tích hợp mà đơn giản là không tồn tại trên thị trường. Để sử dụng các giải pháp bảo vệ quyền riêng tư, các công ty cần phải chuyển dữ liệu của người dùng cho một bên thứ ba, sử dụng các giải pháp mã nguồn mở kém mà không đủ tốt để bảo vệ quyền riêng tư của người dùng, hoặc xây dựng một giải pháp trong nhà với rất ít chuyên môn về bảo vệ quyền riêng tư. Vì vậy, chúng tôi quyết định tập trung vào việc tạo ra các sản phẩm tốt nhất có thể cho các nhà phát triển và nhóm AI cần có đầu ra của các công nghệ tăng cường quyền riêng tư dễ dàng hoạt động cho nhu cầu của họ.

Tại sao AI bảo vệ quyền riêng tư lại quan trọng?

Khoảng 80 phần trăm thông tin được tạo ra là không có cấu trúc và AI là cách duy nhất để hiểu tất cả dữ liệu đó. Nó có thể được sử dụng cho mục đích tốt, như giúp phát hiện sự cố cho dân số già, hoặc cho mục đích xấu, như tạo hồ sơ và theo dõi các cá nhân thuộc các dân tộc thiểu số. Đảm bảo rằng quyền riêng tư được tích hợp vào phần mềm chúng ta tạo ra làm cho nó trở nên khó khăn hơn để AI được sử dụng theo cách có hại.

Làm thế nào quyền riêng tư trở thành lợi thế cạnh tranh?

Có nhiều lý do, nhưng đây chỉ là một vài lý do:

1. Nhiều người dùng hơn quan tâm đến quyền riêng tư và khi người tiêu dùng trở nên thông minh hơn, mối quan tâm này đang tăng trưởng: 70 phần trăm người tiêu dùng quan tâm đến quyền riêng tư của dữ liệu.
2. Nó dễ dàng hơn khi làm kinh doanh với các doanh nghiệp khác nếu bạn có các giao thức và công nghệ bảo vệ dữ liệu và quyền riêng tư phù hợp.
3. Khi bạn xây dựng sản phẩm của mình theo cách bảo vệ quyền riêng tư, bạn đang theo dõi tốt hơn các điểm dễ bị tấn công trong dịch vụ của mình và, đặc biệt là thông qua việc giảm thiểu dữ liệu, bạn đang loại bỏ dữ liệu mà bạn không cần và sẽ gặp rắc rối khi xảy ra tấn công mạng.

Có thể bạn thảo luận về tầm quan trọng của quyền riêng tư đào tạo dữ liệu và tại sao nó dễ bị đảo ngược?

Đây là một câu hỏi tuyệt vời và cần có nhiều hơn sự giáo dục về vấn đề này. Một cách đơn giản, các mô hình học máy ghi nhớ thông tin. Các mô hình lớn hơn ghi nhớ nhiều trường hợp hơn. Điều này có nghĩa là thông tin mà các mô hình đó được đào tạo có thể được đưa ra trong quá trình sản xuất. Điều này đã được chứng minh trong một số bài nghiên cứu, bao gồm Người chia sẻ bí mật: Đánh giá và kiểm tra việc ghi nhớ không chủ ý trong mạng nơ-ron và Trích xuất dữ liệu đào tạo từ các mô hình ngôn ngữ lớn.

Nó cũng đã được chứng minh rằng thông tin cá nhân có thể được trích xuất từ các bản nhúng từ và, đối với những người có bất kỳ nghi ngờ nào về việc này là một vấn đề thực sự, cũng có một scandal này năm khi một robot tình yêu Hàn Quốc đang viết chi tiết người dùng trong các cuộc trò chuyện với người dùng khác.

Các bạn có quan điểm gì về học liên bang và quyền riêng tư người dùng?

Học liên bang là một bước tiến khi trường hợp sử dụng cho phép. Tuy nhiên, vẫn có thể trích xuất thông tin về đầu vào của người dùng từ các bản cập nhật trọng lượng được gửi đến đám mây từ thiết bị của người dùng cụ thể, vì vậy điều quan trọng là phải kết hợp học liên bang với các công nghệ tăng cường quyền riêng tư khác (quyền riêng tư khác biệt và mã hóa đồng nhất / tính toán đa bên an toàn). Mỗi công nghệ tăng cường quyền riêng tư phải được chọn theo trường hợp sử dụng – không có công nghệ nào có thể được sử dụng như một công cụ để giải quyết tất cả các vấn đề. Chúng tôi sẽ xem xét cây quyết định tại đây. Một lợi ích lớn là bạn không bao giờ gửi dữ liệu thô của mình ra ngoài thiết bị của mình. Một điểm bất lợi lớn là nếu bạn cần dữ liệu để gỡ lỗi hệ thống hoặc xem liệu nó có được đào tạo đúng cách hay không, nó sẽ trở nên khó khăn hơn để có được. Học liên bang là một khởi đầu tuyệt vời với nhiều vấn đề chưa được giải quyết mà cả nghiên cứu và ngành công nghiệp đều đang làm việc.

Private AI cho phép các nhà phát triển tích hợp phân tích quyền riêng tư với vài dòng mã để đảm bảo quyền riêng tư, làm thế nào điều này hoạt động?

Công nghệ của chúng tôi chạy như một API REST mà người dùng của chúng tôi gửi yêu cầu POST đến với văn bản họ muốn xóa, ẩn danh, hoặc thay thế / tăng cường với dữ liệu thực tế. Một số khách hàng của chúng tôi gửi qua bản ghi cuộc gọi cần được xóa để tuân thủ PCI, trong khi những khách hàng khác gửi qua toàn bộ cuộc trò chuyện để họ có thể sử dụng thông tin đó để đào tạo các bot trò chuyện, phân tích cảm xúc, hoặc các mô hình NLP khác. Người dùng của chúng tôi cũng có thể chọn các thực thể họ cần giữ hoặc thậm chí sử dụng làm siêu dữ liệu để theo dõi nơi dữ liệu cá nhân được lưu trữ. Chúng tôi loại bỏ sự khó khăn của việc đào tạo một hệ thống chính xác để phát hiện và thay thế thông tin cá nhân trong dữ liệu thực sự lộn xộn.

Tại sao quyền riêng tư cho các thiết bị IoT lại là một vấn đề hiện tại và bạn có quan điểm gì về việc giải quyết nó?

Cuối cùng, cách tốt nhất để giải quyết một vấn đề quyền riêng tư là phụ thuộc rất nhiều vào trường hợp sử dụng, và các thiết bị IoT không khác gì. Trong khi một số trường hợp sử dụng có thể dựa vào việc triển khai biên, suy luận biên và học liên bang bảo vệ quyền riêng tư (ví dụ: cảm biến đám đông trong các thành phố thông minh), các trường hợp sử dụng khác có thể cần dựa vào việc tổng hợp dữ liệu và ẩn danh (ví dụ: thông tin sử dụng năng lượng). Tuy nhiên, các thiết bị IoT là một ví dụ tuyệt vời về cách quyền riêng tư và bảo mật phải đi đôi với nhau. Các thiết bị này nổi tiếng là không an toàn trước các cuộc tấn công mạng, vì vậy chỉ có thể làm được nhiều việc với các công nghệ tăng cường quyền riêng tư mà không giải quyết các lỗ hổng cốt lõi của thiết bị. Mặt khác, nếu không nghĩ về cách tăng cường quyền riêng tư của người dùng, thông tin thu thập được từ trong nhà của chúng ta có thể được chia sẻ, không kiểm soát, với các bên không xác định, khiến việc đảm bảo an toàn cho thông tin đó trở nên vô cùng khó khăn. Chúng tôi có hai mặt trận để cải thiện ở đây và dự thảo luật đang được Ủy ban Châu Âu soạn thảo về bảo mật thiết bị IoT có thể trở thành những gì khiến các nhà sản xuất thiết bị nghiêm túc thực hiện trách nhiệm của họ đối với bảo mật và quyền riêng tư của người tiêu dùng.

Có gì khác mà bạn muốn chia sẻ về Private AI?

Chúng tôi là một nhóm chuyên gia về quyền riêng tư, ngôn ngữ tự nhiên, ngôn ngữ nói, xử lý hình ảnh, triển khai mô hình học máy trong môi trường có tài nguyên thấp, được hỗ trợ bởi M12, quỹ đầu tư mạo hiểm của Microsoft (MSFT ).

Chúng tôi đảm bảo rằng các sản phẩm chúng tôi tạo ra, ngoài việc có độ chính xác cao, còn có hiệu suất tính toán cao để bạn không phải đối mặt với một hóa đơn đám mây khổng lồ vào cuối tháng. Ngoài ra, dữ liệu của khách hàng chúng tôi không bao giờ được chuyển đến chúng tôi – mọi thứ đều được xử lý trong môi trường của họ.

Cảm ơn bạn vì cuộc phỏng vấn tuyệt vời, để tìm hiểu thêm, hãy truy cập Private AI.