AI Liên bang và Quân đội Mỹ: Nền tảng mới cung cấp xác thực và công nhận thuật toán

Một công ty khởi nghiệp có hội đồng cố vấn gồm các nhân vật nổi bật từng phục vụ trong quân đội và chính phủ đã ra mắt một nền tảng mới nhằm đánh giá tính bảo mật và khả năng triển khai của các ứng dụng AI. Các đơn vị tiên phong sử dụng hệ thống này được cho là Lực lượng Không quân Hoa Kỳ và Bộ An ninh Nội địa.

Nền tảng này có tên VESPR, thuộc CalypsoAI, được thành lập vào năm 2018, có trụ sở tại Thung lũng Silicon, Dublin, và một địa điểm ‘không công khai’ tại Virginia – vùng đất của CIA ở Langley.

VESPR là một hệ thống quản lý rủi ro mô hình (MRM) được thiết kế để hỗ trợ quy trình công nhận phù hợp với tiêu chuẩn liên bang cho các thuật toán đã triển khai. Nó cung cấp cả môi trường giao diện người dùng dạng bảng điều khiển thân thiện, và giao diện dòng lệnh (CLI) cho những người dùng nâng cao.

Nhấn để phóng to.

VESPR được xây dựng dựa trên các tiêu chuẩn xác thực, kiểm chứng và công nhận học máy của CalypsoAI, và bao gồm các thư viện học máy đối kháng được tạo thủ công. Nó cũng cung cấp các quy trình kiểm tra tải tự động cho các thuật toán có khả năng triển khai.

Nhóm công tác Nguồn lực Nghiên cứu Trí tuệ Nhân tạo Quốc gia

Thời điểm ra mắt có thể liên quan đến việc hôm qua chính quyền Biden công bố thành lập Nhóm công tác Nguồn lực Nghiên cứu Trí tuệ Nhân tạo Quốc gia, một cơ quan được thiết kế để hoạt động như ủy ban cố vấn liên bang theo Đạo luật Sáng kiến AI Quốc gia năm 2020 của Quốc hội.

Áp lực đang tăng lên đối với Hoa Kỳ và trên toàn thế giới để có các tiêu chuẩn quy định có ý nghĩa cho các hệ thống học máy, đặc biệt trong các lĩnh vực quan trọng như hạ tầng then chốt và sử dụng quân sự. Vì các hệ thống ML vẫn đang trong giai đoạn hình thành và tiến triển nhanh, chúng là những giải pháp tương đối không ổn định và thường gây tranh cãi, do đó hiện nay cần xác định các thuật toán phân tích có thể tái tạo và đáng tin cậy – nếu điều này khả thi.

Vào tháng Tư, CalypsoAI đã công bố ủng hộ Đạo luật Biên giới Vô tận, một dự luật quốc hội nhằm cải cách tài trợ khoa học trong bối cảnh Trung Quốc ngày càng nổi bật như một cường quốc AI, mặc dù đạo luật này cuối cùng đã bị làm yếu đi ở giai đoạn Thượng viện.

Xác thực cho AI Liên bang

Theo thông cáo báo chí của VESPR, các lĩnh vực được khung này bao phủ bao gồm thị giác máy tính và xử lý ngôn ngữ tự nhiên (NLP).

CalypsoAI khẳng định VESPR được tạo ra ‘với sự đóng góp quan trọng từ các khách hàng an ninh quốc gia hiện có và ra đời từ nhiều năm nghiên cứu độc lập được tài trợ về học máy đối kháng’.

Các hình ảnh của hệ thống trong một video quảng cáo (xem cuối bài) dường như bao gồm các quy trình phát hiện và/hoặc mô phỏng việc nhiễm độc dữ liệu và tiêm nhiễu tiếng ồn, cung cấp các mô phỏng cho hành động của các kẻ tấn công tiềm năng đối với các hệ thống đã triển khai.

Nhấn để phóng to.

Hệ thống dường như sử dụng dữ liệu lịch sử của các hành động trong nước cũng như quốc tế. Các lớp mục tiêu được đưa ra bao gồm ‘Biểu tình’ và ‘Bạo loạn’, cùng với ‘Phát triển chiến lược’ ít rõ ràng hơn. Các vụ khủng bố quốc gia cũng dường như được đưa vào cơ sở dữ liệu tham chiếu của hệ thống, với ‘Bạo lực đối với dân thường’ là một lớp mục tiêu khác có sẵn. Các lớp mục tiêu khác có sẵn bao gồm ‘Chiến đấu’ và ‘Nổ/Bạo lực từ xa’.

Nhấn để phóng to.

Hệ thống dường như cho phép bảo vệ các tính năng trong phần ‘quản lý BIAS’ của cấu hình, dường như được thiết kế để chống hiện tượng overfitting hoặc tránh việc loại bỏ không mong muốn các sự kiện ngoại lệ nhỏ có thể hữu ích trong quy trình phân tích. Trong video, VESPR đang xử lý dữ liệu lịch sử dạng bảng về ‘Ukraine’.

Ngoài chiến dịch quảng cáo ban đầu này, có lẽ (có thể do thiết kế) chúng ta sẽ không nghe thêm nhiều về sản phẩm SaaS hướng tới chính phủ này, bất kể nó hoạt động như thế nào; nó có cùng tên với một chuỗi quán cà phê, một ứng dụng hẹn hò xã hội và một album phát trực tuyến, và liên tục bị vượt qua trong kết quả xếp hạng bởi mô hình hoá học VSEPR.

CalypsoAI đã nhận được 13 triệu đô la trong vòng gọi vốn Series A từ Paladin Capital Venture Group vào tháng 7 năm 2020. Các nhà đầu tư khác bao gồm 8VC, Lockheed Martin (LMT ) Ventures, Manta Ray Ventures, Frontline Ventures, Lightspeed Venture Partners và Pallas Ventures.

Trong một bài blog trên trang công ty, nhà sáng lập CalypsoAI Neil Serebryany, người đã thực hiện công việc nghiên cứu không xác định tại Bộ Quốc phòng vào năm 2018, cho biết công ty được thành lập như một giải pháp tiềm năng cho nỗi lo của các chính phủ khi triển khai các hệ thống thuật toán tiên tiến trong môi trường chưa được quản lý:

‘Lý do chính gây ra nỗi sợ hãi này đối với các dự án AI, dẫn đến việc chúng bị bỏ rơi trong nội bộ Chính phủ, nghe có vẻ tầm thường, nhưng thực tế lại khá phức tạp. Chúng bị bỏ rơi do thiếu bảo đảm chất lượng […] Các mô hình AI không thể được đánh giá theo cùng cách như các mô hình phần mềm truyền thống. Điều này do bản chất cấu trúc mô hình và những cách phức tạp mà chúng có thể thất bại. Khi thiếu cơ chế đánh giá những hệ thống phi xác định này một cách xác định, có thể kiểm toán, các tổ chức trong chính phủ không thể đánh giá được cái gọi là ‘chất lượng’ của các mô hình AI so với một chuẩn mực. Điều này dẫn đến nỗi lo chúng có thể thất bại, hỏng hóc, hoặc bị kẻ thù tấn công vào thời điểm chúng cần thiết nhất, ví dụ trong chiến đấu, trong bay, hoặc trong một quy trình y tế phức tạp.’

Hội đồng Cố vấn

Một tháng trước vòng gọi vốn, công ty thành lập Hội đồng Cố vấn An ninh Quốc gia bao gồm Tony DeMartino, cựu trợ lý của Bộ trưởng Quốc phòng Jim Mattis và hiện là đồng sáng lập của công ty tư vấn chiến lược có trụ sở tại Washington, Pallas Advisors; Kari Bingen, cựu Phó Trợ lý Chủ nhiệm Bộ Quốc phòng phụ trách Tình báo (dưới thời Tổng thống Trump); Sean Roche, cựu Phó Giám đốc Phối hợp Đổi mới Kỹ thuật số CIA, một chuyên gia an ninh mạng từng làm việc tại tổ chức này; và Michael Molino, cựu Phó Chủ tịch Điều hành phát triển doanh nghiệp tại ASRC Federal, công ty cung cấp dịch vụ tư vấn, nghiên cứu và khả năng di chuyển công nghệ trên một loạt các dịch vụ liên bang quan trọng.

Theo thông cáo:

‘VESPR cung cấp khả năng kiểm thử AI tiên tiến với quy trình làm việc tinh gọn để đảm bảo rằng mọi thuật toán học máy đưa vào sản xuất đã được xác minh an toàn. VESPR mang lại mức độ bảo mật và đảm bảo vô song cho nhiều hệ thống AI, từ thị giác máy tính đến xử lý ngôn ngữ tự nhiên. Quy trình VESPR đảm bảo việc kiểm tra, đánh giá, xác minh và xác thực (TEVV) trong suốt vòng đời học máy an toàn (SMLC), từ giai đoạn nghiên cứu và phát triển đến triển khai mô hình. Kết quả cuối cùng là các hệ thống AI cung cấp giám sát và báo cáo chính xác, toàn diện về khả năng, lỗ hổng và hiệu suất của mô hình.’

Cập nhật 11:07 AM EST để phản ánh rằng Michael Molino không còn làm việc tại ASRC Federal, một lời sửa lỗi trong bài gốc.

Cập nhật 1January 28, 2024 để loại bỏ video YouTube bị hỏng.