ฐานข้อมูลเหตุการณ์ AI มุ่งหวังที่จะทำให้แอลกอริทึม AI มีความปลอดภัยมากขึ้น

ระบบขนาดใหญ่ใดๆ จะมีข้อผิดพลาด และส่วนหนึ่งของการแก้ไขข้อผิดพลาดเหล่านี้คือการมีฐานข้อมูลที่สามารถวิเคราะห์ผลกระทบและ nguyên nhânที่อาจเกิดขึ้นได้ เช่นเดียวกับที่ FDA รักษาฐานข้อมูลสำหรับปฏิกิริยายาไม่พึงประสงค์ หรือ National Transportation Safety Board รักษาฐานข้อมูลสำหรับอุบัติเหตุทางอากาศ ฐานข้อมูลเหตุการณ์ AI เป็นฐานข้อมูลที่ มีจุดมุ่งหมายที่จะจัดทำแค็ตตาล็อกความล้มเหลวของระบบ AI และช่วยให้นักวิจัย AI วิศวกรและนักจริยธรรมสามารถดูแลการพัฒนาและใช้งานระบบ AI ได้ ผู้สร้างฐานข้อมูลเหตุการณ์ AI (AIID) หวังว่ามันจะช่วยให้บริษัท AI พัฒนา AI ที่มีความปลอดภัยและจริยธรรมมากขึ้น

ฐานข้อมูลเหตุการณ์ AI คืออะไร?

AIID เป็นผลิตภัณฑ์ขององค์กร Partnership on AI (PAI) PAI ก่อตั้งขึ้นในปี 2016 โดยสมาชิกของทีมวิจัย AI จากบริษัทเทคโนโลยีขนาดใหญ่ เช่น Facebook (META ), Apple (AAPL ), Amazon (AMZN ), Google (GOOGL ), IBM และ Microsoft ตั้งแต่นั้นมา องค์กรได้รับสมาชิกจากองค์กรอื่นๆ รวมถึงองค์กร非营利 ในปี 2018 PAI ได้ตั้งเป้าหมายที่จะสร้างมาตรฐานการจำแนกประเภทความล้มเหลวของ AI ที่สอดคล้องกัน อย่างไรก็ตาม ไม่มีการรวบรวมข้อมูลเกี่ยวกับเหตุการณ์ AI ที่จะใช้เป็นพื้นฐานสำหรับการจำแนกประเภทนี้ ดังนั้น PAI จึงสร้าง AIID ขึ้น

ตาม TechTalks รูปแบบของ AIID ได้รับแรงบันดาลใจจากโครงสร้างของฐานข้อมูลอุบัติเหตุทางอากาศที่ดูแลโดย National Transportation Safety Board ตั้งแต่เริ่มรวบรวมรายงานในปี 1996 ระบบการเดินทางทางอากาศเชิงพาณิชย์สามารถเพิ่มความปลอดภัยของอุตสาหกรรมการบินได้โดยการเก็บรักษาและวิเคราะห์เหตุการณ์ ความหวังคือว่าคลังเก็บเหตุการณ์ AI ที่คล้ายกันสามารถทำให้ระบบ AI มีความปลอดภัย จริยธรรม และเชื่อถือได้มากขึ้น AIID ยังได้รับแรงบันดาลใจจากฐานข้อมูล Common Vulnerabilities and Exposures ซึ่งเป็นคลังเก็บความล้มเหลวของซอฟต์แวร์ที่มีชื่อเสียงซึ่งครอบคลุมอุตสาหกรรมและวิชาการต่างๆ

Sean McGregor เป็นที่ปรึกษาด้านเทคนิคหลักของ IBM สำหรับ Watson AI XPRIZE McGregor ยังรับผิดชอบในการดูแลการพัฒนาฐานข้อมูล AIID ของจริง McGregor อธิบายว่าจุดมุ่งหมายสูงสุดของ AIID คือการป้องกันไม่ให้ระบบ AI ก่อให้เกิดอันตราย หรืออย่างน้อยก็ลดความรุนแรงของเหตุการณ์ไม่พึงประสงค์ ตามที่ McGregor ชี้ให้เห็น ระบบการเรียนรู้ของเครื่องมีความซับซ้อนและไม่คาดเดาได้มากกว่าซอฟต์แวร์แบบดั้งเดิม และดังนั้นจึงไม่สามารถทดสอบได้เหมือนซอฟต์แวร์อื่นๆ ระบบการเรียนรู้ของเครื่องสามารถเปลี่ยนแปลงพฤติกรรมได้โดยไม่คาดคิด McGregor ชี้ให้เห็นว่าความสามารถของระบบการเรียนรู้ลึกในการเรียนรู้สามารถทำให้ “ความผิดพลาดมีแนวโน้มมากขึ้นซับซ้อนและอันตรายมากขึ้น” เมื่อเข้าสู่โลกที่ไม่มีโครงสร้าง

มากกว่า 1,000 เหตุการณ์ที่เกี่ยวข้องกับ AI ถูกบันทึก

ตั้งแต่ AIID ถูกสร้างขึ้นมา มีเหตุการณ์ที่เกี่ยวข้องกับ AI มากกว่า 1,000 เหตุการณ์ถูกบันทึกในฐานข้อมูล จากเหตุการณ์ทั้งหมดในฐานข้อมูล ปัญหาเกี่ยวกับความยุติธรรมของ AI เป็นประเภทของเหตุการณ์ไม่พึงประสงค์ที่พบบ่อยที่สุด เหตุการณ์ความยุติธรรมหลายเหตุการณ์เกี่ยวข้องกับการใช้อัลกอริทึมการรู้จำใบหน้าโดยหน่วยงานของรัฐ McGregor ยังชี้ให้เห็นว่ามีจำนวนเหตุการณ์ที่เพิ่มขึ้นซึ่งเกี่ยวข้องกับหุ่นยนต์ที่ถูกเพิ่มลงในฐานข้อมูล

ผู้เข้าชมฐานข้อมูลสามารถดำเนินการค้นหาโดยการค้นหาเหตุการณ์ในฐานข้อมูลตามเกณฑ์ต่างๆ เช่น คำค้นหา ID ของเหตุการณ์ แหล่งที่มา หรือผู้เขียน ตัวอย่างเช่น การค้นหา “Deepfake” จะส่งผลให้ได้รับรายงาน 7 รายการ ในขณะที่การค้นหา “หุ่นยนต์” จะส่งผลให้ได้รับรายงาน 158 รายการ

ฐานข้อมูลที่มีศูนย์กลางสำหรับเหตุการณ์ที่ระบบ AI มีการทำงานผิดปกติและดำเนินการในลักษณะที่ไม่คาดคิดสามารถช่วยให้นักวิจัย วิศวกร และนักจริยธรรมสามารถดูแลการพัฒนาและใช้งานระบบ AI ได้ ผู้จัดการผลิตภัณฑ์ในบริษัทเทคโนโลยีสามารถใช้ AIID เพื่อดูว่ามีปัญหาใดๆ ที่อาจเกิดขึ้นก่อนที่จะใช้ระบบแนะนำ AI หรือวิศวกร AI สามารถรับแนวคิดเกี่ยวกับอคติที่ต้องแก้ไขเมื่อสร้างแอปพลิเคชัน AI ในทำนองเดียวกัน ผู้จัดการความเสี่ยงสามารถใช้ฐานข้อมูลเพื่อกำหนดผลกระทบด้านลบที่อาจเกิดขึ้นซึ่งเกี่ยวข้องกับโมเดล AI และสามารถวางแผนและพัฒนาแนวทางในการบรรเทาผลกระทบด้านลบเหล่านั้นได้

สถาปัตยกรรมที่อยู่ภายใต้ AIID ได้รับการออกแบบให้มีความยืดหยุ่น ซึ่งช่วยให้สามารถสร้างเครื่องมือใหม่ๆ เพื่อค้นหาและวิเคราะห์ข้อมูลจากฐานข้อมูลได้ Partnership on AI และ McGregor จะร่วมมือกันเพื่อพัฒนากระบวนการจำแนกประเภทที่ยืดหยุ่นซึ่งสามารถใช้เพื่อจำแนกประเภทของเหตุการณ์ AI ที่แตกต่างกัน ทีมงานหวังว่าเมื่อกระบวนการจำแนกประเภทที่ยืดหยุ่นนี้ถูกสร้างขึ้นแล้ว จะสามารถรวมเข้ากับระบบอัตโนมัติที่จะบันทึกเหตุการณ์ AI ได้โดยอัตโนมัติ

“ชุมชน AI ได้เริ่มแบ่งปันบันทึกเหตุการณ์กันเพื่อกระตุ้นให้เกิดการเปลี่ยนแปลงในผลิตภัณฑ์ วิธีการควบคุม และโปรแกรมวิจัยของพวกเขา” McGregor อธิบายผ่าน TechTalks “เว็บไซต์นี้ได้รับการเปิดตัวสู่สาธารณะในเดือนพฤศจิกายน ดังนั้นเราจึงเริ่มรับรู้ถึงประโยชน์ของระบบแล้ว”