AI ของรัฐบาลกลางและทหารสหรัฐฯ: แพลตฟอร์มใหม่เสนอการตรวจสอบและรับรองอัลกอริทึม

สตาร์ทอัพหนึ่งที่มีคณะกรรมการที่ปรึกษาที่ประกอบด้วยบุคคลสำคัญจากภาครัฐและทหารได้เปิดตัวแพลตฟอร์มใหม่ที่ออกแบบมาเพื่อประเมินความปลอดภัยและความสามารถในการใช้งานของแอปพลิเคชัน AI ผู้ใช้งานในระยะแรกของระบบรวมถึงกองทัพอากาศสหรัฐฯ และกระทรวงความมั่นคงแห่งมาตุภูมิ

แพลตฟอร์มนี้เรียกว่า VESPR จาก CalypsoAI ซึ่งก่อตั้งขึ้นในปี 2018 และมีสำนักงานใหญ่อยู่ที่ Silicon Valley, Dublin และที่ตั้งที่ไม่เปิดเผยใน Virginia – ที่ดินที่มั่นคงสำหรับ CIA ที่ Langley

VESPR เป็นระบบการจัดการความเสี่ยงของแบบจำลอง (MRM) ที่ออกแบบมาเพื่ออำนวยความสะดวกในการรับรองระบบที่ปฏิบัติตามข้อกำหนดของรัฐบาลกลางสำหรับอัลกอริทึมที่ใช้งานจริง มันให้ทั้ง环境 GUI ที่ใช้งานง่ายและอินเทอร์เฟซ CLI สำหรับการใช้งานที่ซับซ้อนมากขึ้น

คลิกเพื่อขยาย. Source: https://www.youtube.com/watch?v=lMhS6j7t2pI

VESPR ถูกสร้างขึ้นบนมาตรฐานการตรวจสอบ การยืนยัน และการรับรองของ CalypsoAI สำหรับการเรียนรู้ของเครื่อง และมีไลบรารี machine learning ที่ถูกสร้างขึ้นโดยเฉพาะ มันให้การตรวจสอบความเครียดอัตโนมัติสำหรับอัลกอริทึมที่สามารถใช้งานได้

กองกำลังที่ปรึกษาทางการวิจัยทรัพยากรปัญญาประดิษฐ์แห่งชาติ

การเปิดตัวอาจเกี่ยวข้องกับการเปิดตัวเมื่อวานนี้ launch โดยการบริหารของ Biden ของกองกำลังที่ปรึกษาทางการวิจัยทรัพยากรปัญญาประดิษฐ์แห่งชาติ ซึ่งเป็นคณะกรรมการที่ปรึกษาทางการตามที่ Congress ได้กำหนดไว้ใน National AI Initiative Act of 2020.

มีความกดดันที่เพิ่มขึ้นในประเทศสหรัฐฯ และทั่วโลกสำหรับมาตรฐานการควบคุมที่มีความหมายสำหรับระบบการเรียนรู้ของเครื่อง ไม่น้อยที่สุดในพื้นที่ที่สำคัญเช่นโครงสร้างพื้นฐานและใช้งานทางทหาร เนื่องจากระบบ ML ยังคงอยู่ในช่วงพัฒนาและก้าวหน้าอย่างรวดเร็ว จึงเป็นทรัพยากรที่ไม่เสถียรและเป็นที่ถกเถียงกัน ซึ่งจำเป็นต้องระบุอัลกอริทึมการวิเคราะห์ที่เชื่อถือได้และสามารถทำซ้ำได้ – หากเป็นไปได้

ในเดือนเมษายน CalypsoAI ได้ประกาศการสนับสนุน Endless Frontiers Act ซึ่งเป็นร่างกฎหมายของสภาคองเกรสที่ออกแบบมาเพื่อปฏิรูปการให้ทุนสนับสนุนการวิจัยในด้านการเผชิญหน้ากับอำนาจของจีนในด้าน AI แม้ว่าร่างกฎหมายนี้จะถูก ลดทอน ในช่วงการอภิปรายที่วุฒิสภา

การตรวจสอบสำหรับ AI ของรัฐบาลกลาง

ตามข่าวประชาสัมพันธ์ของ VESPR พื้นที่ที่ครอบคลุมโดยเฟรมเวิร์กนี้รวมถึงการมองเห็นของคอมพิวเตอร์และการประมวลผลภาษาธรรมชาติ (NLP)

CalypsoAI อ้างว่า VESPR ถูกสร้างขึ้น ‘ด้วยการรับข้อมูลสำคัญจากลูกค้าด้านความมั่นคงแห่งมาตุภูมิที่มีอยู่แล้วและเกิดจากงานวิจัยอิสระหลายปีเกี่ยวกับการเรียนรู้ของเครื่องแบบก้าวร้าว’

ภาพของระบบที่เห็นในวิดีโอโปรโมต (ดูที่สิ้นบทความ) ดูเหมือนจะรวมถึงการตรวจจับและ/หรือการจำลองสำหรับการปนเปื้อนข้อมูลและเสียงรบกวน โดยให้การจำลองสำหรับการกระทำของผู้โจมตีระบบที่ใช้งานจริง

คลิกเพื่อขยาย.

ระบบดูเหมือนจะใช้ข้อมูลทางประวัติศาสตร์ของชาติและต่างประเทศ พื้นที่เป้าหมายที่มีให้เลือก ได้แก่ ‘การประท้วง’ และ ‘การก่อจลาจล’ รวมถึง ‘การพัฒนาทางยุทธศาสตร์’ ที่ไม่ชัดเจน เหตุการณ์ความก้าวร้าวของกลุ่มก่อการร้ายในประเทศก็รวมอยู่ในฐานข้อมูลอ้างอิงของระบบด้วย โดยมี ‘การปะทะ’ และ ‘การระเบิด/ความรุนแรงระยะไกล’ เป็นพื้นที่เป้าหมายที่มีให้เลือก

คลิกเพื่อขยาย.

ระบบดูเหมือนจะอนุญาตให้ปกป้องคุณลักษณะใน ‘การบริหารจัดการ BIAS’ ของการกำหนดค่า ซึ่งดูเหมือนจะถูกออกแบบมาเพื่อต่อต้านการปรับให้เหมาะสมมากเกินไปหรือหลีกเลี่ยงการกำจัดเหตุการณ์ผิดปกติที่ไม่สำคัญที่อาจมีความสนใจในการวิเคราะห์ ในวิดีโอ VESPR กำลังประมวลผลข้อมูลทางประวัติศาสตร์แบบตารางเกี่ยวกับ ‘ยูเครน’

นอกเหนือจากแคมเปญโปรโมตครั้งแรกแล้ว ไม่น่าจะมีการเปิดเผยข้อมูลเพิ่มเติมเกี่ยวกับผลิตภัณฑ์ SaaS ที่มุ่งเน้นรัฐบาลนี้ เนื่องจากมันแบ่งปันชื่อเดียวกันกับร้านกาแฟ แอปหาคู่ และอัลบั้มสตรีมมิ่ง และถูกผลักกลับในผลลัพธ์การค้นหาโดย VSEPR โมเดลเคมี

CalypsoAI ได้รับ $13 ล้าน ในการระดมทุน Series A จาก Paladin Capital Venture Group ในเดือนกรกฎาคม 2020 นักลงทุนอื่นๆ รวมถึง 8VC, Lockheed Martin Ventures, Manta Ray Ventures, Frontline Ventures, Lightspeed Venture Partners และ Pallas Ventures

ในโพสต์บล็อกบนเว็บไซต์ของบริษัท ผู้ก่อตั้ง CalypsoAI Neil Serebryany ซึ่งเคยทำการวิจัยที่ไม่ระบุรายละเอียดที่กระทรวงกลาโหมในปี 2018 ระบุว่าบริษัทนี้ถูกก่อตั้งขึ้นเพื่อแก้ปัญหาความกลัวของรัฐบาลในการใช้ระบบอัลกอริทึมที่ซับซ้อนในบรรยากาศที่ไม่มีการควบคุม:

‘สาเหตุหลักของความกลัวนี้ต่อโครงการ AI นำไปสู่การละทิ้งภายในรัฐบาล มีเสียงดัง แต่จริงๆ แล้วมันซับซ้อน พวกมันถูกทิ้งเพราะไม่มีการประกันคุณภาพ […] โมเดล AI ไม่สามารถประเมินได้เหมือนกับซอฟต์แวร์แบบดั้งเดิม เนื่องจากโครงสร้างแบบจำลองและวิธีการล้มเหลวที่ซับซ้อน มันไม่มีกลไกในการประเมินระบบที่ไม่แน่นอนในลักษณะที่แน่นอนและสามารถตรวจสอบได้ ซึ่งทำให้องค์กรภายในรัฐบาลไม่สามารถประเมิน ‘คุณภาพ’ ของโมเดล AI เมื่อเปรียบเทียบกับมาตรฐานได้ นำไปสู่ความกลัวที่พวกเขาอาจล้มเหลว อาจทำงานผิดปกติ หรืออาจถูกแฮกโดยผู้โจมตีในเวลาที่ต้องการมากที่สุด เช่น ในระหว่างการต่อสู้ ในการบิน หรือระหว่างการผ่าตัดที่ซับซ้อน ‘

คณะกรรมการที่ปรึกษา

หนึ่งเดือนก่อนการระดมทุน บริษัทได้ก่อตั้งคณะกรรมการที่ปรึกษาด้านความมั่นคงแห่งมาตุภูมิ ซึ่งรวมถึง Tony DeMartino อดีตผู้ช่วยรัฐมนตรีกลาโหม Jim Mattis และตอนนี้เป็นหุ้นส่วนผู้ก่อตั้งของ Pallas Advisors; อดีต Principal Deputy Under Secretary of Defense for Intelligence (ภายใต้ประธานาธิบดี Trump) Kari Bingen; อดีต Associate Deputy Director for CIA Digital Innovation Sean Roche ซึ่งเป็นนักวิชาการด้านข่าวกรองไซเบอร์ในองค์กรนั้น; และ Michael Molino อดีต Executive Vice President of corporate development ที่ ASRC Federal ซึ่งให้บริการที่ปรึกษา การวิจัย และการย้ายถิ่นฐานทางเทคนิคในบริการของรัฐบาลที่สำคัญหลายอย่าง

ตามที่ระบุไว้ในข่าวประชาสัมพันธ์:

‘VESPR ให้ความสามารถในการทดสอบ AI ที่ซับซ้อนพร้อมกับกระบวนการทำงานที่เรียบง่ายเพื่อให้แน่ใจว่าอัลกอริทึมการเรียนรู้ของเครื่องแต่ละตัวที่นำไปใช้ในการผลิตได้รับการยืนยันว่าปลอดภัย VESPR ให้ความปลอดภัยและความมั่นใจที่ไม่เคยปรากฏมาก่อนต่อระบบ AI หลากหลาย ตั้งแต่การมองเห็นของคอมพิวเตอร์ไปจนถึงการประมวลผลภาษาธรรมชาติ กระบวนการ VESPR รับประกันการตรวจสอบ การประเมิน การยืนยัน และการตรวจสอบ (TEVV) ในช่วงการทำงานของการเรียนรู้ของเครื่องแบบปลอดภัย (SMLC) ตั้งแต่ช่วงการวิจัยและพัฒนาไปจนถึงการนำแบบจำลองไปใช้ ผลลัพธ์สุดท้ายคือระบบ AI ที่ให้การตรวจสอบและรายงานที่ถูกต้องและครอบคลุมเกี่ยวกับความสามารถ ความเสี่ยง และประสิทธิภาพของแบบจำลอง’

อัปเดต 11:07 น. ตามเวลา EST เพื่อสะท้อนให้เห็นว่า Michael Molino ไม่ได้ทำงานที่ ASRC Federal อีกต่อไป ซึ่งเป็นข้อผิดพลาดในบทความดั้งเดิม.

อัปเดต 1 มกราคม 28, 2024 เพื่อลบวิดีโอ YouTube ที่เสียหาย.