David Maher, CTO của Intertrust – Loạt phỏng vấn

David Maher giữ vị trí Phó Chủ tịch Điều hành và Giám đốc Công nghệ của Intertrust. Với hơn 30 năm kinh nghiệm trong các hệ thống phân tán đáng tin cậy, hệ thống bảo mật và quản lý rủi ro, Dave đã dẫn đầu các nỗ lực nghiên cứu và phát triển cũng như giữ các vị trí lãnh đạo quan trọng trong các công ty con của công ty. Ông từng là chủ tịch của Seacert Corporation, một Cơ quan chứng nhận cho truyền thông kỹ thuật số và IoT, và Chủ tịch của whiteCryption Corporation, một nhà phát triển hệ thống tự vệ cho phần mềm. Ông cũng từng là đồng chủ tịch của Tổ chức Quản lý Tin cậy Marlin (MTMO), tổ chức quản lý hệ sinh thái quản lý quyền kỹ thuật số độc lập duy nhất trên thế giới.

Intertrust đã phát triển các đổi mới cho phép các hệ thống phân tán hoạt động trên các mạng mở, bảo mật và quản lý dữ liệu và tính toán, dẫn đến việc cấp bằng sáng chế cơ bản về tính toán phân tán đáng tin cậy.

Ban đầu bắt nguồn từ nghiên cứu, Intertrust đã phát triển thành một công ty tập trung vào sản phẩm, cung cấp các dịch vụ tính toán đáng tin cậy giúp thống nhất các hoạt động thiết bị và dữ liệu, đặc biệt là cho IoT và AI. Thị trường của họ bao gồm phân phối truyền thông, xác thực và nhận dạng thiết bị, quản lý năng lượng kỹ thuật số, phân tích và bảo mật lưu trữ đám mây.

Làm thế nào chúng ta có thể đóng khoảng cách tin cậy của AI và giải quyết mối quan ngại ngày càng tăng của công chúng về an toàn và độ tin cậy của AI?

Minh bạch là chất lượng quan trọng nhất mà tôi tin sẽ giúp giải quyết mối quan ngại ngày càng tăng về AI. Minh bạch bao gồm các tính năng giúp cả người tiêu dùng và nhà công nghệ hiểu rõ các cơ chế AI là một phần của hệ thống mà chúng ta tương tác, loại hình đào tạo, các rào cản tồn tại, các chính sách được áp dụng trong quá trình phát triển mô hình và các đảm bảo khác cho sự an toàn và bảo mật của một cơ chế nhất định. Với sự minh bạch cao hơn, chúng ta sẽ có thể giải quyết các rủi ro và vấn đề thực sự và không bị phân tâm bởi các nỗi sợ hãi và suy đoán không hợp lý.

Vai trò của xác thực siêu dữ liệu trong việc đảm bảo tính đáng tin cậy của đầu ra AI là gì?

Xác thực siêu dữ liệu giúp tăng cường sự tự tin của chúng ta rằng các đảm bảo về mô hình AI hoặc cơ chế khác là đáng tin cậy. Thẻ mô hình AI là một ví dụ về tập hợp siêu dữ liệu có thể giúp đánh giá việc sử dụng cơ chế AI (mô hình, tác nhân, v.v.) cho một mục đích cụ thể. Chúng ta cần thiết lập các tiêu chuẩn về tính rõ ràng và đầy đủ cho các thẻ mô hình với các tiêu chuẩn về đo lường định lượng và các khẳng định được xác thực về hiệu suất, thiên vị, thuộc tính của dữ liệu đào tạo, v.v.

Làm thế nào các tổ chức có thể giảm thiểu rủi ro về thiên vị và ảo giác trong các mô hình ngôn ngữ lớn (LLM)?

Đội đỏ là một phương pháp chung để giải quyết các rủi ro này trong quá trình phát triển và trước khi phát hành mô hình. Ban đầu được sử dụng để đánh giá các hệ thống bảo mật, phương pháp này hiện đang trở thành tiêu chuẩn cho các hệ thống dựa trên AI. Đó là một phương pháp tiếp cận rủi ro toàn diện có thể và nên bao gồm toàn bộ vòng đời của hệ thống, từ phát triển ban đầu đến triển khai thực địa, bao gồm cả chuỗi cung ứng phát triển. Đặc biệt quan trọng là phân loại và xác thực dữ liệu đào tạo được sử dụng cho mô hình.

Các công ty có thể thực hiện những bước nào để tạo ra sự minh bạch trong các hệ thống AI và giảm thiểu rủi ro liên quan đến vấn đề “hộp đen”?

Hiểu rõ cách công ty sẽ sử dụng mô hình và các loại trách nhiệm pháp lý mà nó có thể có trong quá trình triển khai, cho dù là sử dụng nội bộ hay sử dụng bởi khách hàng, trực tiếp hay gián tiếp. Sau đó, hiểu rõ “hồ sơ” của các cơ chế AI sẽ được triển khai, bao gồm cả các khẳng định trên thẻ mô hình, kết quả của các thử nghiệm đội đỏ, phân tích vi phân trên sử dụng cụ thể của công ty, những gì đã được đánh giá chính thức và những gì đã được trải nghiệm bởi những người khác. Kiểm tra nội bộ sử dụng kế hoạch kiểm tra toàn diện trong môi trường thực tế là tuyệt đối cần thiết. Các phương pháp hay nhất đang phát triển trong lĩnh vực non trẻ này, vì vậy điều quan trọng là phải cập nhật.

Làm thế nào các hệ thống AI có thể được thiết kế với các hướng dẫn đạo đức và những thách thức trong việc đạt được điều này trên các ngành công nghiệp khác nhau là gì?

Đây là một lĩnh vực nghiên cứu và nhiều người cho rằng khái niệm đạo đức và các phiên bản hiện tại của AI là không tương thích vì đạo đức là khái niệm dựa trên và các cơ chế AI chủ yếu là dựa trên dữ liệu. Ví dụ, các quy tắc đơn giản mà con người hiểu, như “đừng gian lận”, rất khó để đảm bảo. Tuy nhiên, phân tích cẩn thận về các tương tác và xung đột mục tiêu trong học tập dựa trên mục tiêu, loại bỏ dữ liệu đáng ngờ và thông tin sai lệch, và xây dựng các quy tắc yêu cầu sử dụng bộ lọc đầu ra để thực thi các rào cản và kiểm tra vi phạm các nguyên tắc đạo đức như ủng hộ hoặc đồng cảm với việc sử dụng bạo lực trong nội dung đầu ra nên được xem xét. Tương tự, kiểm tra nghiêm ngặt về thiên vị có thể giúp căn chỉnh mô hình với các nguyên tắc đạo đức hơn. Một lần nữa, nhiều điều này có thể là khái niệm, vì vậy cần phải cẩn thận khi kiểm tra hiệu quả của một phương pháp cụ thể vì cơ chế AI sẽ không “hiểu” các hướng dẫn theo cách con người làm.

Các rủi ro và thách thức chính mà AI phải đối mặt trong tương lai, đặc biệt là khi nó tích hợp nhiều hơn với các hệ thống IoT, là gì?

Chúng ta muốn sử dụng AI để tự động hóa các hệ thống tối ưu hóa các quy trình cơ sở hạ tầng quan trọng. Ví dụ, chúng ta biết rằng chúng ta có thể tối ưu hóa phân phối và sử dụng năng lượng bằng cách sử dụng các nhà máy điện ảo, điều phối hàng nghìn yếu tố sản xuất, lưu trữ và sử dụng năng lượng. Điều này chỉ thực tế với tự động hóa lớn và sử dụng AI để hỗ trợ việc ra quyết định từng phút. Các hệ thống sẽ bao gồm các tác nhân có mục tiêu tối ưu hóa mâu thuẫn (ví dụ, vì lợi ích của người tiêu dùng so với nhà cung cấp). An toàn và bảo mật của AI sẽ rất quan trọng trong việc triển khai rộng rãi các hệ thống như vậy.

Loại cơ sở hạ tầng nào cần thiết để xác thực và xác thực các thực thể trong các hệ thống AI một cách an toàn?

Chúng ta sẽ cần một cơ sở hạ tầng mạnh mẽ và hiệu quả, cho phép các thực thể tham gia vào việc đánh giá tất cả các khía cạnh của các hệ thống AI và triển khai của chúng, công bố các tuyên bố có thẩm quyền và xác thực về các hệ thống AI, hồ sơ, dữ liệu đào tạo có sẵn, nguồn gốc của dữ liệu cảm biến, sự kiện và sự cố ảnh hưởng đến bảo mật, v.v. Cơ sở hạ tầng đó cũng cần phải làm cho việc xác minh các tuyên bố và khẳng định của người dùng các hệ thống bao gồm các cơ chế AI và các yếu tố trong các hệ thống tự động hóa quyết định dựa trên đầu ra của các mô hình AI và tối ưu hóa trở nên hiệu quả.

Có thể chia sẻ với chúng tôi một số thông tin về những gì bạn đang làm việc tại Intertrust và cách nó liên quan đến những gì chúng ta đã thảo luận không?

Chúng tôi nghiên cứu và thiết kế công nghệ có thể cung cấp cơ sở hạ tầng quản lý tin cậy cần thiết như đã đề cập trong câu hỏi trước. Cụ thể, chúng tôi đang giải quyết các vấn đề về quy mô, độ trễ, bảo mật và khả năng tương tác phát sinh trong các hệ thống IoT bao gồm các thành phần AI.

Làm thế nào dịch vụ PKI (Cơ sở hạ tầng khóa công khai) của Intertrust bảo mật các thiết bị IoT và điều gì làm cho nó có khả năng mở rộng cho các triển khai quy mô lớn?

PKI của chúng tôi được thiết kế đặc biệt cho quản lý tin cậy cho các hệ thống bao gồm quản lý thiết bị và nội dung kỹ thuật số. Chúng tôi đã triển khai hàng tỷ khóa mã hóa và chứng chỉ đảm bảo tuân thủ. Nghiên cứu hiện tại của chúng tôi giải quyết các vấn đề về quy mô và đảm bảo mà tự động hóa công nghiệp và cơ sở hạ tầng quan trọng trên toàn thế giới yêu cầu, bao gồm cả các phương pháp hay nhất cho triển khai “zero-trust” và xác thực thiết bị và dữ liệu có thể thích ứng với hàng nghìn tỷ cảm biến và nhà sản xuất sự kiện.

Điều gì đã thúc đẩy bạn tham gia các sáng kiến AI của NIST và sự tham gia của bạn đóng góp như thế nào vào việc phát triển các tiêu chuẩn AI đáng tin cậy và an toàn?

NIST có kinh nghiệm và thành công đáng kể trong việc phát triển các tiêu chuẩn và phương pháp hay nhất trong các hệ thống bảo mật. Với tư cách là Điều tra viên Chính của US AISIC từ Intertrust, tôi có thể vận động cho các tiêu chuẩn và phương pháp hay nhất quan trọng trong việc phát triển các hệ thống quản lý tin cậy bao gồm các cơ chế AI. Từ kinh nghiệm trước đây, tôi đặc biệt đánh giá cao cách tiếp cận của NIST trong việc thúc đẩy sự sáng tạo, tiến bộ và hợp tác công nghiệp trong khi giúp xây dựng và phổ biến các tiêu chuẩn kỹ thuật quan trọng thúc đẩy khả năng tương tác. Những tiêu chuẩn này có thể thúc đẩy việc áp dụng các công nghệ có lợi trong khi giải quyết các loại rủi ro mà xã hội phải đối mặt.

Cảm ơn vì cuộc phỏng vấn tuyệt vời, độc giả muốn tìm hiểu thêm có thể truy cập Intertrust.