กลุ่มที่ปรึกษาทางเทคฯ กดดันให้เพนทากอนจำกัดการใช้ AI

เพนทากอนได้แสดงความตั้งใจที่จะลงทุนอย่างหนักในด้านปัญญาประดิษฐ์ (AI) โดยระบุว่า AI จะทำให้กองทัพสหรัฐฯ มีพลังและความแข็งแกร่งมากขึ้นในการรับมือกับภัยคุกคามด้านความมั่นคงแห่งชาติ ตามรายงานของ Engadget เมื่อวันพฤหัสบดีที่ผ่านมา คณะกรรมการนวัตกรรมกระทรวงกลาโหมได้เสนอแนะแนวทางปฏิบัติทางจริยธรรมสำหรับการใช้ AI ในกองทัพ ซึ่งรวมถึงกลยุทธ์เพื่อหลีกเลี่ยงความลำเอียงที่ไม่ได้ตั้งใจและ AI ที่สามารถหยุดการทำงานได้เองหากพบว่ามีการใช้งานที่ไม่เหมาะสม

ตามรายงานของ Wired คณะกรรมการนวัตกรรมกระทรวงกลาโหมได้ก่อตั้งขึ้นโดยการบริหารของโอบามาเพื่อช่วยให้เพนทากอนได้รับประสบการณ์และทักษะจากอุตสาหกรรมเทคฯ ในปัจจุบันคณะกรรมการนี้มีเอริก ชมิดต์ อดีต CEO ของ Google (GOOGL ) เป็นประธาน คณะกรรมการได้รับมอบหมายให้สร้างแนวทางปฏิบัติทางจริยธรรมสำหรับการใช้ AI ในโครงการกองทัพ เมื่อวันพฤหัสบดีที่ผ่านมา คณะกรรมการได้เผยแพร่แนวทางปฏิบัติและคำแนะนำของตนสำหรับการทบทวน

ตามรายงานของ Artificial Intelligence News อดีตเจ้าหน้าที่กองทัพได้ระบุว่าเพนทากอนกำลังตกหล่นในด้านการใช้ AI ในกองทัพ เพนทากอนมีเป้าหมายที่จะเติมช่องว่างนี้และได้ประกาศว่าการพัฒนาและขยาย AI ในกองทัพเป็นเรื่องสำคัญของชาติ นักจริยธรรมด้าน AI กังวลว่าในความเร่งรีบของเพนทากอนในการเป็นผู้นำในด้าน AI ระบบ AI อาจถูกใช้ในทางที่ไม่เหมาะสม ในขณะที่คณะกรรมการจริยธรรมอิสระต่างๆ ได้เสนอแนะแนวทางปฏิบัติของตนเอง คณะกรรมการนวัตกรรมกระทรวงกลาโหมได้เสนอแนะหลักการ至少 5 ประการสำหรับกองทัพในการพัฒนาและใช้ระบบ AI

หลักการแรกที่คณะกรรมการเสนอแนะคือหลักการที่มนุษย์ควรเป็นผู้รับผิดชอบต่อการใช้และการติดตั้งระบบ AI ในกองทัพเสมอ หลักการนี้คล้ายกับนโยบายในปี 2012 ที่กำหนดให้มนุษย์เป็นส่วนหนึ่งของกระบวนการตัดสินใจเมื่อใช้กำลังรุกราน มีหลักการอื่นๆ ในรายการซึ่งให้คำแนะนำทั่วไป เช่น การสร้างระบบ AI โดยวิศวกรที่เข้าใจและบันทึกโปรแกรมของตนอย่างละเอียด หลักการอื่นๆ แนะนำให้ระบบ AI ของกองทัพควรได้รับการทดสอบความน่าเชื่อถือเสมอ แนวทางปฏิบัติเหล่านี้ดูเหมือนจะเป็นเรื่องปกติ แต่คณะกรรมการต้องการเน้นย้ำถึงความสำคัญของมัน

หลักการอื่นๆ ในรายการเกี่ยวข้องกับการควบคุมความลำเอียงของอัลกอริทึม AI และความสามารถของ AI ในการตรวจจับอันตรายที่ไม่ได้ตั้งใจและหยุดการทำงานอัตโนมัติ แนวทางปฏิบัติระบุว่าหากเกิดอันตรายที่ไม่จำเป็น ระบบ AI ควรหยุดการทำงานและให้ผู้ควบคุมมนุษย์เข้ามาควบคุม แนวทางปฏิบัติฉบับร่างยังแนะนำให้ผลลัพธ์ของ AI สามารถติดตามได้เพื่อให้นักวิเคราะห์สามารถเห็นได้ว่าอะไรที่นำไปสู่การตัดสินใจของ AI

ชุดคำแนะนำที่คณะกรรมการเสนอแนะเน้นย้ำถึงสองแนวคิด หลักการเหล่านี้สะท้อนถึงความจริงที่ว่า AI จะเป็นส่วนสำคัญของการปฏิบัติการกองทัพในอนาคต แต่ AI ยังคงต้องอาศัยการบริหารจัดการและตัดสินใจของมนุษย์

ในขณะที่เพนทากอนไม่จำเป็นต้องใช้คำแนะนำของคณะกรรมการ แต่ดูเหมือนว่าเพนทากอนจะให้ความสำคัญกับคำแนะนำเหล่านี้ ตามรายงานของ Wired ผู้อำนวยการศูนย์ AI สंयกทร่วม ลuitenent General Jack Shanahan ระบุว่าคำแนะนำของคณะกรรมการจะช่วยให้เพนทากอน “รักษามาตรฐานจริยธรรมสูงสุดตามที่กำหนดไว้ในยุทธศาสตร์ AI ของ DoD ในขณะเดียวกันก็ยอมรับประวัติศาสตร์ที่เข้มแข็งของกองทัพสหรัฐฯ ในการนำเทคโนโลยีใหม่ๆ มาใช้”

อุตสาหกรรมเทคฯ โดยรวมยังคงระมัดระวังในการใช้ AI ในการสร้างฮาร์ดแวร์และซอฟต์แวร์สำหรับกองทัพ พนักงานของ Microsoft (MSFT ) และ Google ได้ประท้วงการร่วมมือกับหน่วยงานทางทหาร และ Google ได้เลือกที่จะไม่ต่ออายุสัญญาที่มีส่วนร่วมใน Project Maven นักธุรกิจ นักวิทยาศาสตร์ และวิศวกรหลายคนได้ ลงนามในคำมั่นสัญญา ที่จะไม่ “ร่วมมือหรือสนับสนุนการสร้าง การผลิต การค้า หรือการใช้อาวุธอัตโนมัติที่มีอันตราย” หากเพนทากอนใช้แนวทางปฏิบัติที่คณะกรรมการเสนอแนะ อุตสาหกรรมเทคฯ อาจเต็มใจที่จะร่วมมือในโครงการมากขึ้น แต่ก็ยังต้องรอดูว่าอนาคตจะเกิดอะไรขึ้น