Andreas Hellander, CEO และ Co-Founder ของ Scaleout Systems – สัมภาษณ์ Series

Andreas Hellander เป็น CEO และ Co-Founder ของ Scaleout Systems ซึ่งเป็นบริษัทที่สร้างโครงสร้างพื้นฐานสำหรับ Edge AI และ Federated Learning ที่ฝึกโมเดลบนข้อมูลที่กระจายและไวต่อความปลอดภัยโดยไม่ต้องรวมศูนย์ บริษัทของเขาได้ทำงานร่วมกับ NATO และผู้ผลิตอาวุธเช่น BAE Systems เขาได้รับปริญญาเอกสาขาวิทยาศาสตร์คอมพิวเตอร์และปริญญาโทสาขาวิศวกรรมชีวภาพ และเป็นอาจารย์ประจำที่มหาวิทยาลัย Uppsala ซึ่งเขาสร้างหนึ่งในกลุ่มวิจัยชั้นนำที่ภาควิชาวิทยาการคอมพิวเตอร์ก่อนที่จะก่อตั้ง Scaleout

คุณร่วมก่อตั้ง Scaleout หลังจากการวิจัยหลายปีเกี่ยวกับการคำนวณแบบกระจาย โครงสร้างพื้นฐานคลาวด์ และการคำนวณทางวิทยาศาสตร์ที่มหาวิทยาลัย Uppsala อะไรคือช่วงเวลาที่คุณตระหนักว่า Federated Learning และ Edge AI ต้องขยายออกไปนอกเหนือจากสภาพแวดล้อมทางวิชาการและกลายเป็นแพลตฟอร์มเชิงพาณิชย์

การวิจัยหลายปีเกี่ยวกับระบบกระจายขนาดใหญ่ทำให้เรารู้สิ่งหนึ่งได้ชัดเจนขึ้น: เมื่อ ML เริ่มแสดงผลลัพธ์ที่จริงจังในอุตสาหกรรมต่างๆ การใช้งานอย่างรับผิดชอบต้องแก้ปัญหาข้อมูลก่อน สำหรับหลายองค์กร ข้อมูลที่มีค่าที่สุดไม่สามารถรวมศูนย์ได้ ไม่ว่าจะเป็นเพราะเหตุผลด้านกฎระเบียบ ความเป็นจริงหรือความปลอดภัย Federated Learning เกิดขึ้นเป็นคำตอบทางวิจัยต่อข้อจำกัดนี้ โซフトแวร์ Federated Learning ของเริ่มต้นเป็นโพรโทไทป์ทางวิจัยที่มหาวิทยาลัย Uppsala และในบางจุดมันชัดเจนว่าเวลาที่เหมาะสมในการพัฒนาไปสู่ขั้นตอนต่อไป โครงสร้างพื้นฐานในการทำให้ ML ปลอดภัยและปลอดภัยสำหรับข้อมูลที่ไวต่อความปลอดภัยไม่มีอยู่ในรูปแบบที่พร้อมสำหรับการผลิต และเรารู้สึกว่าเราอยู่ในตำแหน่งที่ดีในการสร้างมัน Scaleout ก่อตั้งขึ้นเพื่อทำสิ่งนั้น

Scaleout มีการร่วมมือกับ AI Verse ซึ่งรวมการสร้างข้อมูลสนามรบสังเคราะห์กับ Federated Learning ที่ขอบเขตยุทธวิธี คุณเห็นว่าสิ่งนี้เปลี่ยนแปลงวิธีการพัฒนาระบบ AI ของกองทัพอย่างไร เมื่อเทียบกับวิธีการแบบดั้งเดิมที่พึ่งพาข้อมูลที่รวมศูนย์

ตามปกติ วิธีการคือการรวบรวมภาพการปฏิบัติการ ส่งไปยังศูนย์กลาง ฝึกอบรม และปรับใช้ใหม่ ทุกขั้นตอนนี้มีการขัดขวาง เราร่วมมือกับ AI Verse ซึ่งเป็นบริษัทข้อมูลสังเคราะห์ที่ได้รับการสนับสนุนจาก NATO เพื่อกำจัดอุปสรรคแรก AI Verse มีแพลตฟอร์ม GAIA ที่สร้างภาพสังเคราะห์แบบโฟโต้เรียลลิสติกและแบบอินฟราเรดที่มีการทำเครื่องหมายอย่างสมบูรณ์แบบ ซึ่งสามารถสร้างขึ้นได้ตามความต้องการ โดยไม่ต้องรวบรวมข้อมูลจากสนามรบ การทำเครื่องหมายด้วยมือ และการรอเวลานาน Scaleout กำจัดอุปสรรคในการฝึกอบรมที่ปลายอีกด้าน เมื่อปรับใช้ โมเดลจะปรับปรุงอย่างต่อเนื่องจากข้อมูลที่มีอยู่ที่ขอบเขตโดยไม่ต้องรวมศูนย์ใดๆ ผลกระทบรวมกันคือ องค์กรสามารถเปลี่ยนจากไม่มีโมเดลเป็นโมเดลที่ปรับปรุงอย่างต่อเนื่องโดยไม่ต้องสัมผัสกับข้อมูลการปฏิบัติการที่มีการจำกัด

หนึ่งในความท้าทายที่ยิ่งใหญ่ที่สุดใน AI ของกองทัพคือ สภาพแบนการรบเปลี่ยนแปลงเร็วกว่ารอบการฝึกอบรมอย่างไร Edge-based learning สามารถช่วยให้ระบบ AI ของกองทัพปรับตัวเข้ากับโดรน ยานพาหนะ และภัยคุกคามใหม่ๆ โดยไม่ต้องรอการฝึกอบรมใหม่จากศูนย์กลาง

การมองเห็นคอมพิวเตอร์สำหรับการต่อต้าน UAS และ ISR ในปัจจุบันฝึกอบรมที่ศูนย์กลาง ปรับใช้ครั้งเดียว และจากนั้นจึงเสื่อมลง การฝึกอบรมใหม่จากศูนย์กลางเป็นกระบวนการแบบ batch ที่เกี่ยวข้องกับการรวบรวมข้อมูล การทำเครื่องหมาย การฝึกอบรมโมเดลใหม่ การทดสอบ และการปรับใช้ใหม่ รอบการฝึกอบรมนี้ใช้เวลาหลายสัปดาห์หรือหลายเดือน ในขณะที่โมเดลการตรวจจับเสื่อมลงเมื่อฤดูกาล เซ็นเซอร์ สภาพแวดล้อม และยุทธวิธีของฝ่ายตรงข้ามเปลี่ยนแปลง

การเรียนรู้ที่ขอบเขตปิดวงจรที่ต้นกำเนิด แต่ละไซต์ทำงานการตรวจจับแบบเรียลไทม์บนฟีดเซ็นเซอร์สด ในขณะเดียวกันก็กรองเฟรมที่มีประโยชน์ที่สุดสำหรับการฝึกอบรมผ่านการเรียนรู้แบบแอคทีฟ โหนดภาคพื้นดินที่พื้นที่ทดสอบที่พบโดรนชนิดใหม่จะระบุการตรวจจับที่ไม่แน่นอน ผู้ทำเครื่องหมายจะตรวจสอบคิวที่ได้รับการปรับปรุงโดยไม่ต้องมีวิดีโอที่ไม่จำเป็น การปรับให้ละเอียดยังคงอยู่ที่ไซต์ และโมเดลที่ได้รับการปรับปรุงจะกลับเข้าสู่การผลิตภายในไม่กี่วัน จากนั้น Federated Learning จะเผยแพร่การปรับปรุงนั้นทั่วทั้งไซต์

หลายระบบ AI ยังคงพึ่งพาโครงสร้างพื้นฐานคลาวด์อย่างมาก คุณเชื่อว่าอนาคตของ AI ในกองทัพจะเปลี่ยนไปสู่สภาพแวดล้อมที่กระจายและไม่เชื่อมต่อมากกว่าโครงสร้างพื้นฐานคลาวด์ที่รวมศูนย์หรือไม่

มีเหตุผลเชิงโครงสร้างสามประการที่ทำให้เกิดสิ่งนี้ ประการแรก ขอบเขตการจำแนกประเภทหมายความว่าข้อมูลเซ็นเซอร์ในการปฏิบัติการไม่สามารถออกจากไซต์ได้ ประการที่สอง สภาพแวดล้อมที่ถูกโต้แย้งหมายความว่าลิงก์เครือข่ายไม่สามารถถือว่าเป็นเรื่องปกติได้ และสุดท้าย โมเดลที่ต้องการการเชื่อมต่อคลาวด์ในการทำงานคือจุดอ่อนเดียวในสถานการณ์ที่ต้องการมากที่สุด นี่ไม่ใช่ความชอบส่วนตัว แต่เป็นข้อจำกัดที่ทำให้โครงสร้างพื้นฐานคลาวด์ไม่สามารถใช้ได้ตั้งแต่เริ่มต้น

ข้อมูลสังเคราะห์กำลังเป็นเครื่องมือที่สำคัญสำหรับการพัฒนา AI ในการประยุกต์ใช้กองทัพที่ความแม่นยำมีผลกระทบต่อชีวิตหรือความตาย อะไรคือจุดแข็งและข้อจำกัดของการใช้ข้อมูลสนามรบสังเคราะห์ในการฝึกโมเดลการมองเห็นคอมพิวเตอร์

ข้อมูลสังเคราะห์มีหลายข้อดี มันสามารถสร้างสถานการณ์ที่ไม่สามารถรวบรวมได้ในสนามรบ เช่น ชั้นข้อมูลที่หายาก การมองเห็นแบบอินฟราเรด และสภาพแวดล้อมที่ไม่เอื้ออำนวย นอกจากนี้ยังกำจัดการทำเครื่องหมายด้วยมือ ความเสี่ยงของข้อมูลการปฏิบัติการ และสามารถปรับขนาดได้ทันที

ในขณะเดียวกันก็มีข้อจำกัด ช่องว่างระหว่างสังเคราะห์และจริงเป็นเรื่องจริงและแตกต่างกันไปตามสถานการณ์ รายละเอียดที่ละเอียดซึ่งกำหนดการจำแนกประเภทของภัยคุกคามอาจไม่ถ่ายโอนได้หากความเที่ยงธรรมของการจำลองไม่สูง จุดยืนที่ซื่อสัตย์คือว่าข้อมูลสังเคราะห์เป็นเครื่องมือที่ดีในการเริ่มต้นและเติมช่องว่างที่การรวบรวมข้อมูลจากสนามรบไม่สามารถทำได้ แต่ไม่สามารถแทนที่ข้อมูลการปฏิบัติการจริงสำหรับการแสดงผลของโมเดลสุดท้าย ซึ่งเป็นเหตุผลที่ว่าพายพ์ไลน์รวมทั้งสองอย่าง

Scaleout ใช้เวลาหลายปีในการพัฒนาเทคโนโลยี Federated Learning ที่ช่วยให้องค์กรสามารถฝึก AI โดยไม่ต้องย้ายข้อมูลที่ไวต่อความปลอดภัย บทเรียนจากสุขภาพ อุตสาหกรรม AI และภาคส่วนที่มีการควบคุมอื่นๆ ที่มีคุณค่าในการใช้งานกองทัพคืออะไร

เมื่อ ML ถูกนำไปใช้ในอุตสาหกรรมที่มีการควบคุม รูปแบบทั่วไปก็ปรากฏขึ้น ข้อมูลที่จะปรับปรุงโมเดลได้มากที่สุดก็เป็นข้อมูลที่ไม่สามารถย้ายได้

การแก้ไขปัญหานี้ต้องใช้มากกว่าแอลกอริทึมที่มีคุณภาพสูง มันต้องใช้โครงสร้างพื้นฐานที่ทำให้การเรียนรู้แบบกระจายปลอดภัย ตรวจสอบได้ และสามารถควบคุมได้ งานนั้นได้เน้นย้ำถึงความสำคัญของการตรวจสอบอย่างเข้มงวด ความท้าทายของการคัดเลือกและคุณภาพของข้อมูลเมื่อไม่สามารถมองเห็นเซตข้อมูลทั้งหมดที่ศูนย์กลาง และคำถามว่าข้อมูลอัปเดตของโมเดลอาจรั่วไหลข้อมูลการฝึกอบรมหรือไม่ ข้อกังวลสุดท้ายนำไปสู่ LeakPro ซึ่งเป็นเฟรมเวิร์กการตรวจสอบความเป็นส่วนตัวแบบโอเพ่นซอร์ส ปัญุnderlying ของข้อมูลที่ไวต่อความปลอดภัย สภาพแวดล้อมที่กระจาย และความต้องการด้านการกำกับดูแลถ่ายทอดไปยังกองทัพได้แม้ว่าข้อจำกัดเฉพาะจะแตกต่างกัน

NATO และประเทศพันธมิตรกำลังมุ่งเน้นไปที่อธิปไตยทางเทคโนโลยี คุณเห็นว่า Federated Learning จะกลายเป็นความสามารถเชิงกลยุทธ์ที่ช่วยให้ประเทศพันธมิตรสามารถร่วมมือกันในการพัฒนา AI โดยไม่ต้องแบ่งปันข้อมูลการปฏิบัติการที่ไวต่อความปลอดภัยหรือไม่

ใช่ และสิ่งนี้กำลังเกิดขึ้นแล้ว โปรแกรม FEDAIR ภายใต้ NATO DIANA เป็นการทดสอบโดยตรงว่าประเทศพันธมิตรสามารถปรับปรุงความสามารถ AI ที่ใช้ร่วมกันโดยไม่ต้องแลกเปลี่ยนข้อมูลเซ็นเซอร์ที่มีการจำแนกประเภทได้หรือไม่ โครงสร้างพื้นฐานตอบว่าใช่ แต่ละประเทศฝึกอบรมบนข้อมูลของตนเอง ส่งอัปเดตของโมเดลไปยังจุดรวมที่ใช้ร่วมกัน และได้รับโมเดลที่ได้รับการปรับปรุงระดับโลก ไม่มีข้อมูลดิบข้ามพรมแดนระหว่างประเทศ

อธิปไตยในที่นี้หมายถึงมากกว่าการปกป้องข้อมูล หมายถึงการควบคุมวงจรชีวิตของ AI อย่างเต็มที่ โดยมีความสามารถในการปรับใช้โมเดลใดๆ กับกระแสเซ็นเซอร์ใดๆ และใช้ข้อมูลที่คุณเป็นเจ้าของเพื่อปรับปรุงโมเดลของคุณอย่างต่อเนื่อง สิ่งนี้ต้องการการดื้อแพ้การล็อกอิน รวมถึงโครงสร้างพื้นฐานที่สามารถแยกออกจากกัน การสืบต่อโมเดลที่สมบูรณ์ และการผสานรวมเซ็นเซอร์ที่เป็นกลางจากผู้ขาย สิ่งเหล่านี้เป็นคุณสมบัติเชิงโครงสร้าง ไม่ใช่สัญญา และความแตกต่างนี้มีความสำคัญในการจัดซื้อจัดจ้าง

ระบบต่อต้านโดรนกำลังเป็นหนึ่งในการประยุกต์ใช้ AI ที่สำคัญที่สุดในสงครามสมัยใหม่ อุปสรรคทางเทคนิคที่ยังคงต้อง 克服ก่อนที่แพลตฟอร์ม AI ต่อต้านโดรนที่ขับเคลื่อนด้วย AI จะสามารถทำงานได้อย่างน่าเชื่อถือในสภาพแวดล้อมที่เปลี่ยนแปลงอย่างรวดเร็วและหลากหลายคืออะไร

จากมุมมองของเรา อุปสรรคทางเทคนิคใน AI ต่อต้านโดรนดูเหมือนจะสำคัญและอาจถูกมองข้าม ความ 景象ของเซ็นเซอร์อย่างเดียวก็ซับซ้อน เซ็นเซอร์แบบต่างๆ สร้างลักษณะข้อมูลที่แตกต่างกัน และโมเดลที่ฝึกอบรมบนเซ็นเซอร์หนึ่งอาจไม่ถ่ายโอนไปยังอีกเซ็นเซอร์หนึ่งได้อย่างสะอาด ความหลากหลายของภัยคุกคามทำให้ปัญหานี้รุนแรงขึ้น การแพร่กระจายของแพลตฟอร์มเชิงพาณิชย์ที่มีราคาไม่แพงหมายความว่าประชากรของวัตถุที่ระบบต้องตรวจจับและจำแนกประเภทกำลังขยายใหญ่เร็วกว่าที่เซตข้อมูลฝึกอบรมส่วนใหญ่สามารถติดตามได้

นอกเหนือจากความท้าทายของ ML ที่บริสุทธิ์แล้ว มีคำถามเชิงโครงสร้างที่ดูเหมือนจะสำคัญ คือ ใครเป็นเจ้าของและควบคุมโมเดล และใครสามารถอัปเดตได้ ระบบที่พึ่งพาโมเดลที่ปิดและรอบการอัปเดตของซัพพลายเออร์จะถูกขัดขวางโดยข้อจำกัดของซัพพลายเออร์ ความสามารถในการปรับโมเดลให้เข้ากับข้อมูลการปฏิบัติการของคุณเอง บนโครงสร้างพื้นฐานของคุณเอง และในเวลาที่คุณต้องการดูเหมือนจะเป็นเงื่อนไขที่จำเป็นสำหรับการทำงานที่น่าเชื่อถือในระยะยาว มากกว่าที่จะเป็นคุณสมบัติที่ไม่จำเป็น

เมื่อสงครามมีการใช้ระบบอัตโนมัติและ AI ที่ช่วยในการตัดสินใจ มilitary Organizations ควรสร้างสมดุลระหว่างการเรียนรู้อย่างต่อเนื่องในสภาพแวดล้อมจริงกับความต้องการความน่าเชื่อถือ ความคาดเดาได้ และการกำกับดูแลของมนุษย์อย่างไร

แพลตฟอร์มได้รับการออกแบบให้เป็นคู่ข้างกับระบบควบคุมและบังคับบัญชาที่มีอยู่ ไม่ใช่การแทนที่ การตรวจจับจะถูกส่งไปยัง Tactical Assault Kit (TAK) และระบบ C2 ที่ใช้มาตรฐานโดยใช้รูปแบบข้อมูลและโพรโทคอลที่เป็นมาตรฐาน ทำให้สามารถแสดงและดำเนินการภายในワークโฟลว์ของการปฏิบัติการที่มีอยู่ AI เพิ่มการตัดสินใจของมนุษย์มากกว่าที่จะแทนที่มัน

ด้านโมเดล การเรียนรู้อย่างต่อเนื่องไม่ได้หมายถึงการไม่มีการควบคุม การอัปเดตทุกครั้งจะถูกตรวจสอบกับชุดมาตรฐานก่อนที่จะส่งเสริม ผู้ปฏิบัติงานอนุมัติเวอร์ชันของโมเดลก่อนที่จะปรับใช้ และการปรับใช้แบบเงาปล่อยให้เวอร์ชันใหม่ทำงานขนานกันโดยไม่ต้องแทนที่การผลิตที่มีอยู่ ระเบียนการตรวจสอบบันทึกแสดงว่าเวอร์ชันใดทำงานที่ไหนและแสดงอะไร วงจรการปรับปรุงเป็นระบบและถูกควบคุม ไม่ใช่การอัปเดตอัตโนมัติและไม่มีการตรวจสอบ

เมื่อมองไปข้างหน้า 5 ปี สิ่งใดที่จะทำให้โครงสร้างพื้นฐาน AI ของกองทัพที่ทันสมัยที่สุดแตกต่างจากที่กำลังปรับใช้ในปัจจุบัน และเทคโนโลยีใดที่คุณเชื่อว่าจะมีผลกระทบมากที่สุดต่อความสามารถในการป้องกันในอนาคต

ความแตกต่างในปัจจุบันคือระหว่างระบบที่สามารถปรับตัวในสภาพแวดล้อมจริงและระบบที่ไม่สามารถทำได้ ระบบส่วนใหญ่ที่กำลังปรับใช้ในปัจจุบันคือระบบแบบคงที่ ใน 5 ปี ตัวแยกแยะจะอยู่ที่ว่าระบบปรับตัวได้ดีเพียงใด ซึ่งควบคุมโดยการกำกับดูแล ซึ่งแสดงโดยเวอร์ชันของโมเดลใดที่ทำงานบนแพลตฟอร์มใด โดยได้รับจากข้อมูลใด ในสภาพแวดล้อมใด และว่าเชนสามารถตรวจสอบได้หรือไม่ โดยผู้ปฏิบัติงานและผู้จัดซื้อจัดจ้าง

ML ที่อยู่เบื้องหลังจะกลายเป็นสินค้าโภคภัณฑ์ โครงสร้างพื้นฐานสำหรับการเรียนรู้อย่างต่อเนื่องแบบมีการกำกับดูแลที่ขอบเขต โดยเฉพาะอย่างยิ่งบนเครือข่ายของพันธมิตรที่แต่ละประเทศต้องรักษาอธิปไตยเหนือข้อมูลของตนเองจะไม่กลายเป็นสินค้าโภคภัณฑ์ ประเทศและโครงการที่สร้างโครงสร้างพื้นฐานนี้ตอนนี้จะสร้างความได้เปรียบแบบทบต้น: โมเดลที่ปรับปรุงอย่างต่อเนื่องจากข้อมูลการปฏิบัติการ ภายใต้การควบคุมของชาติ โดยไม่ต้องอาศัยรอบการอัปเดตของซัพพลายเออร์ใดๆ หรือการมีอยู่ของคลาวด์ใดๆ

ขอขอบคุณสำหรับการสัมภาษณ์ที่ดี ผู้อ่านสามารถเรียนรู้เพิ่มเติมได้ที่ Scaleout Systems