AI ของรัฐบาลสหรัฐและทหาร: แพลตฟอร์มใหม่ที่ให้บริการการตรวจสอบและการรับรองอัลกอริทึม

สตาร์ทอัพที่มีคณะกรรมการที่ปรึกษาประกอบด้วยบุคคลสำคัญจากรัฐบาลและทหารได้เปิดตัวแพลตฟอร์มใหม่ที่ออกแบบมาเพื่อประเมินความปลอดภัยและความสามารถในการใช้งานของแอปพลิเคชัน AI ผู้ใช้แรกของระบบกล่าวว่ารวมถึงกองทัพอากาศสหรัฐและกระทรวงความมั่นคงภายใน.

แพลตฟอร์มนี้ชื่อ VESPR จาก CalypsoAI ก่อตั้งในปี 2018 มีสำนักงานใหญ่ในซิลิคอนแวลลีย์ ดับเบิลอิน และมีตำแหน่งที่อยู่ ‘ไม่เปิดเผย’ อย่างเป็นทางการในเวอร์จิเนีย – ดินแดนของ CIA ที่แลนกลีย์.

VESPR เป็นระบบการจัดการความเสี่ยงของโมเดล (MRM) ที่ออกแบบมาเพื่ออำนวยความสะดวกในการรับรองตามมาตรฐานของรัฐบาลสำหรับอัลกอริทึมที่ใช้งานแล้ว ระบบนี้มีทั้งสภาพแวดล้อม GUI แบบแดชบอร์ดที่ใช้งานง่ายและอินเทอร์เฟซ CLI สำหรับการใช้งานขั้นสูง.

Click to enlarge.

VESPR ก่อตั้งบนมาตรฐานการตรวจสอบ การยืนยัน และการรับรองการเรียนรู้ของเครื่องของ CalypsoAI และมีไลบรารีการเรียนรู้ของเครื่องเชิงศัตรูที่สร้างด้วยมือ นอกจากนี้ยังมีชุดการทดสอบความเครียดอัตโนมัติสำหรับอัลกอริทึมที่อาจนำไปใช้งาน.

คณะทำงานทรัพยากรการวิจัยปัญญาประดิษฐ์ระดับชาติ

เวลาการเปิดตัวอาจเกี่ยวข้องกับการ เปิดตัว เมื่อวานของฝ่ายบริหารไบเดนของคณะทำงานทรัพยากรการวิจัยปัญญาประดิษฐ์ระดับชาติ ซึ่งเป็นหน่วยงานที่ออกแบบให้ทำหน้าที่เป็นคณะกรรมการที่ปรึกษารัฐบาลตาม พระราชบัญญัติความริเริ่ม AI ระดับชาติปี 2020 ของรัฐสภา.

ความกดดันต่อสหรัฐและทั่วโลกกำลังเพิ่มขึ้นเรื่อย ๆ เพื่อให้ได้มาตรฐานการกำกับดูแลที่มีความหมายสำหรับระบบการเรียนรู้ของเครื่อง โดยเฉพาะในพื้นที่สำคัญเช่นโครงสร้างพื้นฐานหลักและการใช้งานทางทหาร เนื่องจากระบบ ML ยังอยู่ในขั้นตอนการพัฒนาและมีอัตราการก้าวหน้าอย่างรวดเร็ว ทำให้เป็นแหล่งที่ค่อนข้างไม่เสถียรและมักเป็นประเด็นถกเถียง จึงจำเป็นต้องระบุอัลกอริทึมวิเคราะห์ที่สามารถทำซ้ำและเชื่อถือได้ – หากเป็นไปได้.

ในเดือนเมษายน CalypsoAI ได้แสดงการสนับสนุน กฎหมาย Endless Frontiers Act ซึ่งเป็นร่างกฎหมายของสภาคองเกรสที่ออกแบบมาเพื่อปฏิรูปการจัดสรรงบวิทยาศาสตร์ต่อการเติบโตของจีนในฐานะมหาอำนาจ AI แม้ว่ากฎหมายนี้ในที่สุดจะถูก ลดทอน ในขั้นตอนวุฒิสภา.

การตรวจสอบสำหรับ AI ของรัฐบาล

ตามข่าวประชาสัมพันธ์ของ VESPR พื้นที่ที่กรอบงานครอบคลุมรวมถึงการมองเห็นด้วยคอมพิวเตอร์และการประมวลผลภาษาธรรมชาติ (NLP).

CalypsoAI อ้างว่า VESPR ถูกสร้างขึ้น ‘ด้วยข้อมูลสำคัญจากลูกค้าด้านความมั่นคงแห่งชาติที่มีอยู่และเกิดจากการวิจัยอิสระที่ได้รับเงินทุนหลายปีในด้านการเรียนรู้ของเครื่องเชิงศัตรู’.

ภาพของระบบที่เห็นในวิดีโอโฆษณา (ดูที่ส่วนท้ายของบทความ) ดูเหมือนว่าจะรวมถึงขั้นตอนการตรวจจับและ/หรือการจำลองการปนเปื้อนข้อมูลและการฉีดสัญญาณรบกวน เพื่อให้การจำลองการกระทำของผู้โจมตีที่อาจเกิดขึ้นต่อระบบที่ใช้งานอยู่.

Click to enlarge.

ระบบดูเหมือนจะใช้ข้อมูลประวัติศาสตร์ของการกระทำทั้งระดับชาติและต่างประเทศ ประเภทเป้าหมายที่ระบุรวมถึง ‘การประท้วง’ และ ‘การจลาจล’ นอกจากนี้ยังมี ‘การพัฒนากลยุทธ์’ ที่ค่อนข้างไม่ชัดเจน เหตุการณ์การก่อการร้ายระดับชาติก็ปรากฏอยู่ในฐานข้อมูลอ้างอิงของระบบด้วย โดยมี ‘ความรุนแรงต่อพลเรือน’ เป็นอีกหนึ่งประเภทเป้าหมายที่มีให้เลือก ประเภทเป้าหมายอื่น ๆ ที่มีให้เลือกรวมถึง ‘การต่อสู้’ และ ‘การระเบิด/ความรุนแรงระยะไกล’.

Click to enlarge.

ระบบดูเหมือนจะอนุญาตให้มีการปกป้องคุณลักษณะในส่วน ‘การจัดการ BIAS’ ของการกำหนดค่า ซึ่งออกแบบมาเพื่อต่อสู้กับการฝึกโมเดลเกินไปหรือเพื่อหลีกเลี่ยงการกำจัดเหตุการณ์น้อย ๆ ที่อาจสนใจในการวิเคราะห์ ในวิดีโอ VESPR กำลังประมวลผลข้อมูลตารางประวัติศาสตร์เกี่ยวกับ ‘ยูเครน’.

นอกเหนือจากการโปรโมตครั้งแรกนี้ ดูเหมือนว่า (อาจโดยเจตนา) เราอาจไม่ได้ยินข้อมูลเพิ่มเติมเกี่ยวกับผลิตภัณฑ์ SaaS ที่มุ่งเน้นรัฐบาลนี้ ไม่ว่ามันจะเป็นอย่างไร; ชื่อของมันยังเป็นชื่อเดียวกับแฟรนไชส์คาเฟ่, แอปหาคู่ทางสังคม, และอัลบั้มสตรีมมิ่ง และถูกผลักดันให้ตกอันดับโดยโมเดลเคมี VSEPR อย่างต่อเนื่อง.

CalypsoAI received $13 million in Series A fundraising from Paladin Capital Venture Group in July 0f 2020. Other investors รวมถึง 8VC, Lockheed Martin (LMT ) Ventures, Manta Ray Ventures, Frontline Ventures, Lightspeed Venture Partners and Pallas Ventures.

ในบล็อกโพสต์บนเว็บไซต์ของบริษัท ผู้ก่อตั้ง CalypsoAI Neil Serebryany ซึ่งได้ทำงานวิจัยที่ไม่ได้ระบุรายละเอียดที่กระทรวงกลาโหมในปี 2018 ระบุว่าบริษัทก่อตั้งขึ้นเป็นวิธีแก้ไขที่อาจเป็นไปได้ต่อความกังวลของรัฐบาลในการนำระบบอัลกอริทึมขั้นสูงไปใช้ในสภาพแวดล้อมที่ไม่มีการกำกับดูแล:

‘เหตุผลหลักที่ทำให้เกิดความกังวลต่อโครงการ AI ซึ่งทำให้โครงการเหล่านั้นถูกละทิ้งภายในรัฐบาล ดูเหมือนจะเป็นเรื่องธรรมดา แต่จริง ๆ แล้วซับซ้อนมาก โครงการเหล่านี้ถูกละทิ้งเนื่องจากขาดการรับประกันคุณภาพ […] โมเดล AI ไม่สามารถประเมินได้ในลักษณะเดียวกับโมเดลซอฟต์แวร์ดั้งเดิม เนื่องจากธรรมชาติของโครงสร้างโมเดลและวิธีการที่ซับซ้อนมากที่มันอาจล้มเหลว การขาดกลไกในการประเมินระบบที่ไม่กำหนดผลลัพธ์เหล่านี้ในรูปแบบที่กำหนดผลลัพธ์ได้และตรวจสอบได้ ทำให้องค์กรภายในรัฐบาลไม่สามารถประเมินสิ่งที่เรียกว่า ‘คุณภาพ’ ของโมเดล AI เทียบกับมาตรฐานได้ สิ่งนี้ทำให้เกิดความกลัวว่าโมเดลอาจล้มเหลว ทำงานผิดพลาด หรืออาจถูกแฮ็กโดยศัตรูในช่วงเวลาที่จำเป็นที่สุด เช่น ในการต่อสู้ การบิน หรือระหว่างกระบวนการทางการแพทย์ที่ซับซ้อน.’

คณะกรรมการที่ปรึกษา

หนึ่งเดือนก่อนรอบการระดมทุน บริษัทได้จัดตั้งคณะกรรมการที่ปรึกษาด้านความมั่นคงแห่งชาติ ซึ่งรวมถึง Tony DeMartino ผู้เคยเป็นผู้ช่วยของรัฐมนตรีว่าการกระทรวงกลาโหม Jim Mattis และปัจจุบันเป็นหุ้นส่วนผู้ก่อตั้งของบริษัทที่ปรึกษายุทธศาสตร์ในวอชิงตัน Pallas Advisors; Kari Bingen อดีตผู้ช่วยรองเลขาธิการกระทรวงกลาโหมสำหรับข่าวกรอง (ภายใต้การดำรงตำแหน่งของประธานาธิบดี Trump); Sean Roche อดีตผู้ช่วยผู้อำนวยการร่วมด้านนวัตกรรมดิจิทัลของ CIA ซึ่งเคยเป็นผู้เชี่ยวชาญด้านไซเบอร์ข่าวกรองในองค์กรนั้น; และ Michael Molino อดีตรองประธานฝ่ายพัฒนาธุรกิจที่ ASRC Federal ซึ่งให้บริการที่ปรึกษา การวิจัย และความสามารถในการย้ายเทคโนโลยีในหลายบริการสำคัญของรัฐบาล.

ตามประกาศ:

‘VESPR ให้ความสามารถในการทดสอบ AI ขั้นสูงพร้อมกระบวนการทำงานที่เป็นระบบเพื่อให้มั่นใจว่าอัลกอริทึมการเรียนรู้ของเครื่องทุกตัวที่นำไปใช้ในผลิตภัณฑ์ได้รับการตรวจสอบความปลอดภัยแล้ว VESPR มอบความปลอดภัยและการรับประกันที่ไม่มีใครเทียบได้แก่ระบบ AI หลากหลายประเภท ตั้งแต่การมองเห็นด้วยคอมพิวเตอร์จนถึงการประมวลผลภาษาธรรมชาติ กระบวนการของ VESPR รับประกันการทดสอบ การประเมิน การตรวจสอบ และการยืนยัน (TEVV) ตลอดวงจรชีวิตของการเรียนรู้ของเครื่องที่ปลอดภัย (SMLC) ตั้งแต่ขั้นตอนการวิจัยและพัฒนาไปจนถึงการนำโมเดลไปใช้งาน ผลลัพธ์สุดท้ายคือระบบ AI ที่ให้การตรวจสอบและรายงานที่แม่นยำและครอบคลุมเกี่ยวกับความสามารถของโมเดล จุดอ่อน และประสิทธิภาพ’

อัปเดต 11:07 AM EST เพื่อระบุว่า Michael Molino ไม่ได้ทำงานที่ ASRC Federal อีกแล้ว, เป็นการแก้ไขในบทความต้นฉบับ.

อัปเดต 1January 28, 2024 เพื่อเอาวิดีโอ YouTube ที่เสียหายออก.