Andreas Hellander, CEO dan Co-Founder Scaleout Systems – Seri Wawancara

Andreas Hellander adalah CEO dan co-founder dari Scaleout Systems, sebuah perusahaan yang membangun infrastruktur untuk edge AI dan federated learning yang melatih model pada data terdistribusi yang sensitif tanpa mengentralisasi data tersebut. Perusahaannya telah bekerja sama dengan NATO dan perusahaan pertahanan seperti BAE systems. Ia memegang gelar PhD di bidang Scientific Computing dan MSc di bidang Biotechnology Engineering, dan merupakan Associate Professor di Uppsala University, di mana ia membangun salah satu grup penelitian terbaik di Departemen Information Technology sebelum mendirikan Scaleout.

Anda mendirikan Scaleout setelah bertahun-tahun melakukan penelitian di bidang distributed computing, cloud infrastructure, dan scientific computing di Uppsala University. Apa yang membuat Anda menyadari bahwa federated learning dan edge AI perlu melampaui akademis dan menjadi platform komersial?

Bertahun-tahun penelitian pada sistem terdistribusi skala besar membuat satu hal yang semakin jelas: ketika ML mulai menunjukkan janji yang nyata di berbagai industri, menerapkan ML dengan bertanggung jawab memerlukan pemecahan masalah data terlebih dahulu. Bagi banyak organisasi, data yang paling berharga tidak dapat dientralisasi, baik karena alasan regulasi, praktis, atau keamanan. Federated learning muncul sebagai respons penelitian terhadap keterbatasan tersebut. Perangkat lunak federated learning kami dimulai sebagai prototipe penelitian di Uppsala University dan pada suatu saat menjadi jelas bahwa waktu yang tepat untuk membawanya lebih jauh. Infrastruktur untuk membuat ML aman dan terjamin untuk data sensitif tidak ada dalam bentuk produksi, dan kami merasa kami berada dalam posisi yang baik untuk membangunnya. Scaleout didirikan untuk melakukan hal itu.

Partnership Scaleout dengan AI Verse menggabungkan data sintetis medan tempur dengan federated learning di ujung taktis. Bagaimana Anda melihat perubahan ini dalam pengembangan sistem AI militer dibandingkan dengan pendekatan tradisional yang bergantung pada dataset terpusat?

Secara tradisional, pendekatan yang digunakan adalah mengumpulkan footage operasional, mengirimkannya ke pusat, melatih, dan menerapkan kembali. Setiap tahap memperkenalkan bottleneck. Kami berpartner dengan AI Verse, sebuah perusahaan data sintetis yang didukung NATO, untuk menghilangkan sebagian besar hambatan pertama. Platform GAIA AI Verse menghasilkan citra RGB dan IR yang fotorealistik, sepenuhnya dianotasi, yang dapat dihasilkan sesuai permintaan, menghilangkan kebutuhan untuk pengumpulan lapangan, pelabelan manual, dan waktu tunggu yang lama. Scaleout menghilangkan bottleneck pelatihan di ujung lain. Setelah diterapkan, model terus membaik dari data ujung langsung tanpa mengentralisasi apa pun. Efek gabungan adalah bahwa organisasi dapat berpindah dari tidak memiliki model ke model yang diterapkan dan terus membaik tanpa pernah menyentuh data operasional yang terbatas.

Salah satu tantangan terbesar dalam AI pertahanan adalah bahwa kondisi medan tempur berkembang lebih cepat daripada siklus pelatihan. Bagaimana pelatihan berbasis ujung dapat membantu sistem militer beradaptasi dengan drone, kendaraan, dan ancaman baru tanpa menunggu pelatihan terpusat?

Visi komputer untuk counter-UAS dan ISR saat ini umumnya dilatih secara terpusat, diterapkan sekali, dan kemudian menjadi usang. Pelatihan terpusat adalah proses batch yang melibatkan pengumpulan data, pelabelan, pelatihan model, pengujian, dan penerapan kembali. Siklus itu memakan waktu beberapa minggu atau bulan. Sementara itu, model deteksi memburuk karena perubahan musim, sensor, lingkungan, dan taktik lawan.

Pelatihan berbasis ujung menutup loop di sumber. Setiap situs menjalankan deteksi waktu nyata pada umpan sensor langsung sambil secara bersamaan menyaring frame yang paling berguna untuk pelatihan melalui active learning. Sebuah node darat di sebuah lapangan uji yang menemukan jenis drone baru mengibarkan deteksi yang tidak pasti, anotator meninjau antrian yang dikurasi daripada terabyte video mentah, fine-tuning lokal berjalan di situs, dan model yang diperbaiki kembali ke produksi dalam beberapa hari. Federated learning kemudian menyebarkan perbaikan tersebut di seluruh situs.

Banyak sistem AI masih sangat bergantung pada infrastruktur awan. Mengapa Anda percaya bahwa masa depan AI pertahanan akan semakin bergerak menuju lingkungan terdistribusi dan terputus daripada arsitektur awan terpusat?

Ada tiga alasan struktural untuk hal ini. Pertama, batas klasifikasi berarti data sensor operasional sering tidak dapat meninggalkan situs. Kedua, lingkungan yang diperebutkan berarti tautan jaringan tidak dapat dianggap. Dan terakhir, model yang memerlukan koneksi awan untuk berfungsi adalah titik kegagalan tunggal di lingkungan yang paling dibutuhkan. Ini bukan preferensi, tetapi keterbatasan yang membatalkan arsitektur awan-pertama sebelum mereka dimulai.

Data sintetis menjadi alat penting untuk pengembangan AI. Dalam aplikasi pertahanan, di mana akurasi dapat memiliki konsekuensi hidup atau mati, apa kekuatan dan keterbatasan menggunakan data sintetis medan tempur untuk melatih model visi komputer?

Data sintetis menawarkan beberapa keuntungan penting. Ini dapat menghasilkan skenario yang tidak mungkin atau tidak praktis untuk dikumpulkan di lapangan, misalnya, kelas ancaman yang jarang, IR, kondisi yang tidak menguntungkan, dan geometri sensor yang tepat. Ini juga menghilangkan pelabelan manual, risiko data operasional, dan dapat diskalakan segera.

Di sisi lain, ada keterbatasan. Jarak sintetis-nyata adalah nyata dan bervariasi tergantung pada skenario. Detail halus yang menentukan klasifikasi ancaman mungkin tidak berpindah kecuali jika fidelitas simulasi tinggi. Posisi yang jujur adalah bahwa data sintetis adalah mekanisme awal yang kuat dan mengisi celah yang tidak dapat diisi oleh pengumpulan lapangan secara struktural, tetapi tidak menggantikan data operasional langsung untuk kinerja model akhir. Itulah mengapa pipa menggabungkan keduanya.

Scaleout telah menghabiskan tahun-tahun mengembangkan teknologi federated learning yang memungkinkan organisasi melatih AI tanpa memindahkan data sensitif. Apa pelajaran dari sektor kesehatan, AI industri, dan sektor yang diatur lainnya yang sekarang terbukti berharga dalam penerapan pertahanan?

Ketika ML mulai diterapkan di berbagai industri yang diatur, pola yang umum muncul. Data yang akan paling memperbaiki model juga merupakan data yang tidak dapat dipindahkan.

Mengatasi hal ini memerlukan lebih dari algoritma berkualitas tinggi, tetapi juga infrastruktur yang membuat pembelajaran terdistribusi aman, dapat diaudit, dan dikelola. Apa yang ditemukan oleh pekerjaan itu adalah pentingnya jejak audit yang ketat, tantangan kualitas data dan pemilihan ketika Anda tidak dapat melihat dataset lengkap secara terpusat, dan pertanyaan apakah pembaruan model itu sendiri mungkin bocor informasi tentang data pelatihan. Kekhawatiran terakhir itu mengarah pada LeakPro, kerangka kerja audit privasi sumber terbuka kami. Masalah dasar data sensitif, lingkungan terdistribusi, dan persyaratan tata kelola berpindah langsung ke pertahanan – bahkan jika keterbatasan spesifik berbeda.

NATO dan negara-negara sekutu semakin fokus pada kedaulatan teknologi. Apakah Anda melihat federated learning menjadi kemampuan strategis yang memungkinkan negara-negara sekutu untuk berkolaborasi dalam pengembangan AI tanpa berbagi data operasional sensitif?

Ya, dan ini sudah terjadi. Program FEDAIR di bawah NATO DIANA adalah tes langsung apakah negara-negara sekutu dapat secara bersama-sama memperbaiki kemampuan AI yang dibagikan tanpa menukar data sensor yang diklasifikasikan. Arsitektur menjawabnya adalah ya. Setiap negara melatih pada data mereka sendiri, memberikan pembaruan bobot ke titik agregasi yang dibagikan, dan menerima model global yang diperbaiki. Tidak ada data mentah yang melintasi batas nasional.

Kedaulatan di sini berarti lebih dari perlindungan data. Ini berarti tetap berada dalam kontrol penuh dari siklus hidup AI dengan kemampuan untuk menerapkan model apa pun ke aliran sensor apa pun dan menggunakan data yang Anda miliki untuk terus memperbaiki model Anda. Ini memerlukan resistensi terhadap ketergantungan, termasuk infrastruktur yang mampu beroperasi tanpa koneksi, provenance model penuh, dan integrasi sensor netral vendor. Sifat-sifat ini bersifat struktural, bukan kontraktual, dan perbedaan itu penting dalam pengadaan.

Sistem counter-drone sedang muncul sebagai salah satu aplikasi AI paling penting dalam perang modern. Apa hambatan teknis yang masih perlu diatasi sebelum platform counter-drone yang ditenagai AI dapat beroperasi secara andal di lingkungan tempur yang beragam dan berubah dengan cepat?

Dari sudut pandang kami, tantangan teknis dalam AI counter-drone terlihat signifikan dan mungkin kurang dihargai. Lanskap sensor saja yang kompleks. Modality sensor yang berbeda menghasilkan karakteristik data yang berbeda, dan model yang dilatih pada satu mungkin tidak berpindah dengan bersih ke yang lain. Keragaman ancaman memperburuk hal ini. Proliferasi platform komersial yang murah berarti populasi objek yang perlu dideteksi dan diklasifikasikan oleh sistem berkembang lebih cepat daripada dataset pelatihan dapat mengikuti.

Di luar tantangan ML murni, ada pertanyaan arsitektur yang tampaknya penting: siapa yang memiliki dan mengontrol model, dan siapa yang dapat memperbarui model? Sistem yang bergantung pada model vendor yang tertutup dan siklus pembaruan mengwarisi keterbatasan vendor tersebut. Kemampuan untuk menyesuaikan model dengan data operasional Anda sendiri, di infrastruktur Anda sendiri, sesuai dengan timeline Anda sendiri, tampaknya merupakan prasyarat untuk kinerja yang dapat diandalkan dalam jangka panjang, bukan fitur opsional.

Seiring perang yang semakin melibatkan sistem otonom dan pengambilan keputusan yang dibantu AI, bagaimana organisasi militer harus menyeimbangkan pembelajaran terus-menerus di lapangan dengan kebutuhan akan keandalan, keterprediksi, dan pengawasan manusia?

Platform ini dirancang sebagai sidecar untuk sistem komando dan kontrol yang ada, bukan penggantinya. Deteksi disalurkan ke Tactical Assault Kit (TAK) dan sistem C2 standar menggunakan format data dan protokol yang distandarkan, memungkinkan mereka untuk divisualisasikan dan diaktifkan dalam alur kerja operasional yang ada. AI memperkuat pengambilan keputusan manusia daripada menggantikannya.

Di sisi model, kontinu tidak berarti tidak terkendali. Setiap pembaruan divalidasi terhadap suite benchmark sebelum promosi, operator menyetujui versi model sebelum penerapan armada, dan penerapan bayangan memungkinkan versi baru untuk berjalan paralel sebelum menggantikan produksi. Jejak audit mencatat versi mana yang berjalan di mana dan apa yang ditunjukkannya. Siklus perbaikan adalah sistematis dan dikelola, bukan otomatis dan tidak terkendali.

Menghadap ke depan lima tahun, apa yang akan membedakan arsitektur AI militer yang paling maju dari yang diterapkan saat ini, dan teknologi mana yang Anda percaya akan memiliki dampak terbesar pada kemampuan pertahanan di masa depan?

Perbedaan saat ini adalah antara sistem yang dapat beradaptasi di lapangan dan yang tidak. Sebagian besar sistem yang diterapkan saat ini adalah statis. Dalam lima tahun, pembeda akan menjadi seberapa baik adaptasi dikendalikan, yang mana versi model mana berjalan pada platform mana, dibentuk oleh data mana, dalam kondisi mana, dan apakah rantai tersebut dapat diaudit, divalidasi, dan dipercaya oleh operator dan pengadaan.

ML dasar akan menjadi komoditas. Infrastruktur untuk pembelajaran terus-menerus yang dikendalikan di ujung, terutama di seluruh jaringan sekutu di mana setiap negara harus mempertahankan kedaulatan atas data mereka sendiri, tidak akan. Negara-negara dan program yang membangun infrastruktur itu sekarang akan memiliki keunggulan yang berkompounding: model yang terus membaik dari data operasional, di bawah kendali nasional, tanpa bergantung pada siklus pembaruan vendor mana pun atau ketersediaan penyedia awan mana pun.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut dapat mengunjungi Scaleout Systems.