Andreas Hellander, CEO và Đồng sáng lập của Scaleout Systems – Loạt phỏng vấn

Andreas Hellander là CEO và đồng sáng lập của Scaleout Systems, một công ty xây dựng cơ sở hạ tầng cho AI biên và học liên bang mà đào tạo mô hình trên dữ liệu phân tán, nhạy cảm mà không tập trung hóa nó. Công ty của ông đã làm việc với NATO và các công ty quốc phòng như BAE systems. Ông có bằng Tiến sĩ về Khoa học Máy tính và bằng Thạc sĩ về Kỹ thuật Sinh học, và là Giảng viên Phó tại Đại học Uppsala, nơi ông đã xây dựng một trong những nhóm nghiên cứu hàng đầu tại Khoa Công nghệ Thông tin trước khi thành lập Scaleout.

Bạn đã đồng sáng lập Scaleout sau nhiều năm nghiên cứu về tính toán phân tán, cơ sở hạ tầng đám mây và khoa học máy tính tại Đại học Uppsala. Khi nào bạn nhận ra rằng học liên bang và AI biên cần phải vượt ra ngoài phạm vi học thuật và trở thành một nền tảng thương mại?

Nhiều năm nghiên cứu về hệ thống phân tán quy mô lớn đã làm rõ một điều: khi ML bắt đầu thể hiện tiềm năng thực sự trên nhiều ngành công nghiệp, việc áp dụng nó một cách có trách nhiệm đòi hỏi phải giải quyết vấn đề dữ liệu trước. Đối với nhiều tổ chức, dữ liệu có giá trị nhất đơn giản không thể được tập trung hóa, cho dù đó là vì lý do quy định, thực tế hoặc bảo mật. Học liên bang xuất hiện như một phản ứng nghiên cứu đối với hạn chế đó. Phần mềm học liên bang của chúng tôi bắt đầu như một nguyên mẫu nghiên cứu tại Đại học Uppsala và vào một thời điểm nào đó, nó trở nên rõ ràng rằng thời điểm đã chín muồi để đưa nó đi xa hơn. Cơ sở hạ tầng để làm cho ML an toàn và bảo mật cho dữ liệu nhạy cảm không tồn tại ở bất kỳ hình thức sản xuất nào, và chúng tôi cảm thấy mình được định vị tốt để xây dựng nó. Scaleout được thành lập để làm điều đó.

Sự hợp tác của Scaleout với AI Verse kết hợp dữ liệu chiến trường tổng hợp với học liên bang tại biên chiến thuật. Bạn nhìn thấy điều này thay đổi cách phát triển hệ thống AI quân sự so với các phương pháp truyền thống dựa trên tập dữ liệu tập trung như thế nào?

Truyền thống, cách tiếp cận đã là thu thập cảnh quay hoạt động, vận chuyển tập trung, đào tạo, triển khai lại. Mỗi giai đoạn đều giới thiệu một nút thắt. Chúng tôi đã hợp tác với AI Verse, một công ty dữ liệu tổng hợp được NATO hỗ trợ, để loại bỏ một phần lớn chướng ngại vật đầu tiên. Nền tảng GAIA của AI Verse tạo ra hình ảnh RGB và IR được chú thích đầy đủ, photorealistic theo yêu cầu, loại bỏ nhu cầu thu thập hiện trường, ghi nhãn thủ công và thời gian chờ đợi dài. Scaleout loại bỏ nút thắt đào tạo ở đầu kia. Một khi được triển khai, các mô hình được cải thiện liên tục từ dữ liệu biên trực tiếp mà không tập trung hóa bất cứ thứ gì. Hiệu ứng kết hợp là các tổ chức có thể đi từ không có mô hình đến một mô hình được triển khai, cải thiện mà không bao giờ chạm vào dữ liệu hoạt động bị hạn chế.

Một trong những thách thức lớn nhất trong AI quốc phòng là điều kiện chiến trường thay đổi nhanh hơn chu kỳ đào tạo. Làm thế nào học biên có thể giúp hệ thống quân sự thích nghi với máy bay không người lái mới, phương tiện và mối đe dọa mà không cần chờ đợi đào tạo tập trung?

Trí tuệ nhân tạo cho chống máy bay không người lái và ISR ngày nay thường được đào tạo tập trung, triển khai một lần và sau đó trở nên lỗi thời. Đào tạo tập trung là một quá trình批 xử lý bao gồm thu thập dữ liệu, ghi nhãn, đào tạo mô hình, kiểm tra và sau đó triển khai lại. Chu kỳ đó mất vài tuần hoặc vài tháng. Trong khi đó, các mô hình phát hiện bị suy giảm khi mùa, cảm biến, môi trường và chiến thuật của đối thủ thay đổi.

Học biên đóng vòng lặp tại nguồn. Mỗi trang web chạy phát hiện thời gian thực trên luồng cảm biến trực tiếp trong khi đồng thời lọc ra các khung hình hữu ích nhất để đào tạo thông qua học chủ động. Một nút đất tại một khu vực thử nghiệm gặp một loại máy bay không người lái mới, các phát hiện không chắc chắn được đánh dấu, các trình chú thích xem xét một hàng đợi được kiểm duyệt thay vì terabyte video thô, tinh chỉnh cục bộ chạy tại chỗ và mô hình được cải thiện được đưa trở lại sản xuất trong vài ngày. Học liên bang sau đó truyền播 sự cải thiện đó trên tất cả các trang web.

Nhiều hệ thống AI vẫn phụ thuộc nặng vào cơ sở hạ tầng đám mây. Tại sao bạn tin rằng tương lai của AI quốc phòng sẽ ngày càng chuyển hướng sang môi trường phân tán và ngắt kết nối thay vì kiến trúc đám mây tập trung?

Có ba lý do cấu trúc cho điều này. Đầu tiên, ranh giới phân loại có nghĩa là dữ liệu cảm biến hoạt động thường không thể rời khỏi trang web. Thứ hai, môi trường tranh chấp có nghĩa là liên kết mạng không thể được giả định. Và cuối cùng, một mô hình đòi hỏi kết nối đám mây để hoạt động là một điểm thất bại duy nhất trong chính môi trường mà nó cần nhất. Những điều này không phải là sở thích, mà là hạn chế loại trừ kiến trúc đám mây trước khi chúng bắt đầu.

Dữ liệu tổng hợp đang trở thành một công cụ quan trọng cho phát triển AI. Trong các ứng dụng quốc phòng, nơi độ chính xác có thể có hậu quả sinh tử, những điểm mạnh và hạn chế của việc sử dụng dữ liệu chiến trường tổng hợp để đào tạo mô hình thị giác máy tính là gì?

Dữ liệu tổng hợp cung cấp một số lợi thế quan trọng. Nó có thể tạo ra các kịch bản không thể hoặc không thực tế để thu thập trong lĩnh vực, chẳng hạn như các lớp đe dọa hiếm, IR, điều kiện bất lợi và hình học cảm biến chính xác. Nó cũng loại bỏ việc ghi nhãn thủ công, rủi ro dữ liệu hoạt động và nó có thể được mở rộng ngay lập tức.

Đồng thời, có những hạn chế. Khoảng cách tổng hợp-thực là có thật và thay đổi theo kịch bản. Chi tiết tinh tế quyết định phân loại đe dọa có thể không chuyển giao trừ khi độ trung thực của mô phỏng cao. Vị trí trung thực là dữ liệu tổng hợp là một cơ chế khởi động mạnh và lấp đầy các khoảng trống mà thu thập hiện trường không thể cấu trúc, nhưng nó không thay thế dữ liệu hoạt động trực tiếp cho hiệu suất mô hình cuối cùng. Đó là lý do tại sao đường ống kết hợp cả hai.

Scaleout đã dành nhiều năm phát triển công nghệ học liên bang cho phép các tổ chức đào tạo AI mà không di chuyển dữ liệu nhạy cảm. Những bài học từ chăm sóc sức khỏe, AI công nghiệp và các lĩnh vực quy định khác hiện đang chứng minh là có giá trị trong các triển khai quốc phòng như thế nào?

Khi ML bắt đầu được áp dụng trên các ngành công nghiệp được quy định, một mẫu chung đã xuất hiện. Dữ liệu sẽ cải thiện mô hình nhất cũng là dữ liệu không thể di chuyển.

Để giải quyết vấn đề đó đòi hỏi hơn là các thuật toán chất lượng cao, nó đòi hỏi cơ sở hạ tầng làm cho học phân tán an toàn, có thể kiểm toán và quản lý. Những gì công việc đó đã đưa ra là tầm quan trọng của các đường mòn kiểm toán nghiêm ngặt, thách thức của chất lượng dữ liệu và lựa chọn khi bạn không thể xem toàn bộ tập dữ liệu tập trung, và câu hỏi liệu bản cập nhật mô hình có thể rò rỉ thông tin về dữ liệu đào tạo. Lo lắng cuối cùng đã dẫn đến LeakPro, khuôn khổ kiểm toán bảo mật mã nguồn mở của chúng tôi. Các vấn đề cơ bản về dữ liệu nhạy cảm, môi trường phân tán và yêu cầu quản lý được chuyển trực tiếp đến quốc phòng – ngay cả khi các hạn chế cụ thể khác nhau.

NATO và các quốc gia đồng minh đang ngày càng tập trung vào chủ quyền công nghệ. Bạn có thấy học liên bang trở thành một khả năng chiến lược cho phép các quốc gia đồng minh hợp tác trong phát triển AI mà không chia sẻ dữ liệu hoạt động nhạy cảm?

Có, và điều này đã xảy ra. Chương trình FEDAIR theo NATO DIANA là một thử nghiệm trực tiếp về việc liệu các quốc gia đồng minh có thể cùng nhau cải thiện khả năng AI chung mà không trao đổi dữ liệu cảm biến phân loại. Kiến trúc trả lời là có. Mỗi quốc gia đào tạo trên dữ liệu của riêng mình, đóng góp cập nhật trọng lượng cho một điểm tổng hợp chung và nhận được một mô hình toàn cầu được cải thiện. Không có dữ liệu thô nào vượt qua biên giới quốc gia.

Chủ quyền ở đây có nghĩa là hơn là bảo vệ dữ liệu. Nó có nghĩa là ở trong tầm kiểm soát đầy đủ của chu kỳ sống AI với khả năng triển khai bất kỳ mô hình nào đến bất kỳ luồng cảm biến nào và sử dụng dữ liệu bạn sở hữu để liên tục cải thiện mô hình của mình. Điều đó đòi hỏi phải chống lại sự khóa, bao gồm cơ sở hạ tầng có khả năng cách ly, nguồn gốc mô hình đầy đủ và tích hợp cảm biến trung lập nhà cung cấp. Những thuộc tính đó là cấu trúc, không phải hợp đồng, và sự khác biệt đó rất quan trọng trong việc mua sắm.

Hệ thống chống máy bay không người lái đang nổi lên như một trong những ứng dụng AI quan trọng nhất trong chiến tranh hiện đại. Những chướng ngại kỹ thuật nào vẫn cần phải vượt qua trước khi các nền tảng chống máy bay không người lái được hỗ trợ bởi AI có thể hoạt động đáng tin cậy trên các môi trường chiến đấu đa dạng và thay đổi nhanh chóng?

Từ quan điểm của chúng tôi, các thách thức kỹ thuật trong AI chống máy bay không người lái có vẻ đáng kể và có thể bị đánh giá thấp. Cảnh quan cảm biến đơn giản là phức tạp. Các phương thức cảm biến khác nhau tạo ra các đặc điểm dữ liệu khác nhau, và một mô hình được đào tạo trên một phương thức có thể không chuyển giao sạch sẽ sang một phương thức khác. Sự đa dạng của mối đe dọa làm tăng thêm điều này. Sự phổ biến của các nền tảng thương mại giá rẻ có nghĩa là dân số của các đối tượng mà hệ thống cần phát hiện và phân loại đang mở rộng nhanh hơn so với hầu hết các tập dữ liệu đào tạo có thể theo kịp.

Beyond các thách thức thuần túy về ML, có một câu hỏi kiến trúc mà dường như quan trọng: ai sở hữu và kiểm soát mô hình, và ai có thể cập nhật nó? Các hệ thống phụ thuộc vào mô hình đóng của nhà cung cấp và chu kỳ cập nhật của họ thừa kế các hạn chế của nhà cung cấp đó. Khả năng thích nghi với mô hình của riêng bạn với dữ liệu hoạt động của riêng bạn, trên cơ sở hạ tầng của riêng bạn, theo thời gian của riêng bạn, dường như là một điều kiện tiên quyết cho hiệu suất đáng tin cậy lâu dài chứ không phải là một tính năng tùy chọn.

Khi chiến tranh ngày càng liên quan đến hệ thống tự động và hỗ trợ quyết định bởi AI, làm thế nào các tổ chức quân sự nên cân bằng việc học liên tục trong lĩnh vực với nhu cầu về độ tin cậy, dự đoán và giám sát của con người?

Nền tảng được thiết kế như một chiếc xe bên cạnh hệ thống chỉ huy và kiểm soát hiện có, không phải là một thay thế. Các phát hiện được cung cấp cho Tactical Assault Kit (TAK) và hệ thống C2 tiêu chuẩn bằng các định dạng dữ liệu và giao thức được tiêu chuẩn hóa, cho phép chúng được hình ảnh hóa và hành động trong các luồng hoạt động hiện có. AI tăng cường việc ra quyết định của con người chứ không thay thế cho nó.

Trên phía mô hình, liên tục không có nghĩa là không kiểm soát. Mỗi cập nhật được xác thực chống lại một bộ thử nghiệm chuẩn trước khi được thăng cấp, các vận hành viên phê duyệt phiên bản mô hình trước khi triển khai hạm đội và triển khai song song cho phép một phiên bản mới chạy song song trước khi thay thế sản xuất. Đường mòn kiểm toán ghi lại phiên bản nào chạy ở đâu và nó hiển thị gì. Chu kỳ cải thiện là có hệ thống và được quản lý, không phải tự động và không kiểm soát.

Nhìn về tương lai năm năm, điều gì sẽ phân biệt các kiến trúc AI quân sự tiên tiến nhất với những kiến trúc đang được triển khai ngày nay, và những công nghệ nào bạn tin sẽ có tác động lớn nhất đến khả năng quốc phòng trong tương lai?

Sự chia rẽ hiện tại là giữa các hệ thống có thể thích nghi trong lĩnh vực và những hệ thống không thể. Hầu hết các hệ thống được triển khai ngày nay là tĩnh. Trong năm năm, yếu tố phân biệt sẽ là mức độ thích nghi được quản lý. Các hệ thống có thể thích nghi trong lĩnh vực và những hệ thống không thể. Các quốc gia và chương trình xây dựng cơ sở hạ tầng đó bây giờ sẽ có lợi thế cộng dồn: các mô hình được cải thiện liên tục từ dữ liệu hoạt động, dưới sự kiểm soát quốc gia, mà không phụ thuộc vào chu kỳ cập nhật của bất kỳ nhà cung cấp nào hoặc sự sẵn có của bất kỳ nhà cung cấp đám mây nào.

Cảm ơn vì cuộc phỏng vấn tuyệt vời, những người đọc muốn tìm hiểu thêm nên truy cập Scaleout Systems.