นักวิจัย AI เสนอการให้รางวัลสำหรับการค้นหาปัญหาเชิงอนุพันธ์ของ AI เพื่อทำให้ AI มีจริยธรรมมากขึ้น

ทีมนักวิจัย AI จากบริษัทและห้องปฏิบัติการพัฒนา AI เช่น Intel, Google Brain และ OpenAI ได้แนะนำการใช้รางวัลเพื่อช่วยให้การใช้ AI มีจริยธรรม ทีมนักวิจัยได้เผยแพร่ข้อเสนอเกี่ยวกับการใช้ AI อย่างมีจริยธรรม และรวมถึงข้อเสนอแนะที่ว่าการให้รางวัลแก่บุคคลที่ค้นพบปัญหาเชิงอนุพันธ์ใน AI อาจเป็นวิธีที่มีประสิทธิภาพในการทำให้ AI มีความยุติธรรมมากขึ้น

ตามรายงานของ VentureBeat นักวิจัยจากบริษัทต่างๆ ทั่วสหรัฐอเมริกาและยุโรปได้ร่วมมือกันเพื่อสร้างแนวทางปฏิบัติเกี่ยวกับจริยธรรม AI รวมถึงข้อเสนอแนะเกี่ยวกับวิธีการปฏิบัติตามแนวทางเหล่านั้น หนึ่งในข้อเสนอแนะที่นักวิจัยได้ทำคือการให้รางวัลแก่นักพัฒนาที่พบปัญหาเชิงอนุพันธ์ในโปรแกรม AI ข้อเสนอแนะนี้ได้ถูก提出ในเอกสารที่มีชื่อว่า “Toward Trustworthy AI Development: Mechanisms for Supporting Verifiable Claims”

ตัวอย่างของปัญหาเชิงอนุพันธ์ที่ทีมนักวิจัยหวังที่จะแก้ไขคือ ปัญหาเชิงอนุพันธ์ในข้อมูลและอัลกอริทึมที่พบในแอปพลิเคชันสุขภาพและระบบการรู้จำใบหน้าที่ใช้โดยหน่วยงานบังคับใช้กฎหมาย ตัวอย่างหนึ่งของปัญหาเชิงอนุพันธ์คือเครื่องมือประเมินความเสี่ยง PATTERN ที่ใช้โดยกระทรวงยุติธรรมสหรัฐอเมริกาเพื่อประเมินนักโทษและตัดสินใจว่าใครสามารถปล่อยตัวได้เมื่อลดขนาดประชากรในเรือนจำในระหว่างการระบาดของโควิด-19

การให้รางวัลแก่นักพัฒนาสำหรับการค้นพบพฤติกรรมที่ไม่พึงประสงค์ในโปรแกรมคอมพิวเตอร์เป็นแนวปฏิบัติที่มีมานานแล้ว แต่นี่อาจเป็นครั้งแรกที่คณะกรรมการจริยธรรม AI ได้เสนอแนวคิดนี้อย่างจริงจังว่าเป็นตัวเลือกในการต่อสู้กับปัญหาเชิงอนุพันธ์ของ AI แม้ว่าจะไม่น่าจะมีนักพัฒนาที่เพียงพอในการค้นพบปัญหาเชิงอนุพันธ์ที่จะทำให้ AI มีจริยธรรมได้ แต่ก็จะช่วยให้บริษัทต่างๆ ลดปัญหาเชิงอนุพันธ์โดยรวมและเข้าใจปัญหาเชิงอนุพันธ์ที่เกิดขึ้นในระบบ AI ของตน

ผู้เขียนเอกสารอธิบายว่าแนวคิด bug-bounty สามารถขยายไปสู่ AI โดยใช้ปัญหาเชิงอนุพันธ์และรางวัลความปลอดภัย และการใช้เทคนิคนี้อย่างเหมาะสมสามารถนำไปสู่การสร้างเอกสารข้อมูลและแบบจำลองที่ดีขึ้น เอกสารจะสะท้อนถึงข้อจำกัดของแบบจำลองและข้อมูลได้ดีขึ้น นักวิจัยยังชี้ให้เห็นว่าแนวคิดเดียวกันนี้สามารถนำไปใช้กับคุณสมบัติ AI อื่นๆ เช่น ความสามารถในการอธิบาย ตลอดจนการรักษาความปลอดภัยและความเป็นส่วนตัว

เมื่อมีการอภิปรายมากขึ้นเกี่ยวกับหลักการทางจริยธรรมของ AI มีหลายคนชี้ให้เห็นว่าหลักการเหล่านั้นเพียงอย่างเดียวไม่เพียงพอและต้องดำเนินการเพื่อรักษา AI ให้มีจริยธรรม ผู้เขียนเอกสารชี้ให้เห็นว่า “กฎระเบียบและมาตรฐานที่มีอยู่ในอุตสาหกรรมและวิชาการไม่เพียงพอในการรับรองว่าการพัฒนา AI มีความรับผิดชอบ” ผู้ร่วมก่อตั้ง Google Brain และผู้นำในอุตสาหกรรม AI Andrew Ng ยังแสดงความคิดเห็นว่าหลักการทางจริยธรรมเพียงอย่างเดียวไม่สามารถรับรองได้ว่า AI จะถูกใช้อย่างมีความรับผิดชอบและยุติธรรม โดยกล่าวว่าหลักการเหล่านั้นหลายอย่างต้องการให้มีความชัดเจนและเป็นแนวทางปฏิบัติที่สามารถดำเนินการได้

การแนะนำการให้รางวัลสำหรับการค้นหาปัญหาเชิงอนุพันธ์ของ AI ของทีมนักวิจัยร่วมเป็นความพยายามที่จะไปไกลกว่าหลักการทางจริยธรรมและเข้าสู่พื้นที่ของการดำเนินการทางจริยธรรม ทีมนักวิจัยยังได้ทำข้อเสนอแนะอื่นๆ ที่สามารถกระตุ้นให้เกิดการดำเนินการทางจริยธรรมในด้าน AI

ทีมนักวิจัยได้ทำข้อเสนอแนะอื่นๆ ที่บริษัทต่างๆ สามารถปฏิบัติตามเพื่อทำให้การใช้ AI มีจริยธรรมมากขึ้น พวกเขาชี้ให้เห็นว่าควรสร้างฐานข้อมูลกลางเกี่ยวกับเหตุการณ์ AI และแบ่งปันกับชุมชน AI ที่กว้างขึ้น ในทำนองเดียวกัน นักวิจัยเสนอแนะว่าควรสร้างเส้นทางการตรวจสอบและเส้นทางเหล่านั้นควรเก็บข้อมูลเกี่ยวกับการสร้างและใช้งานแอปพลิเคชันที่สำคัญต่อความปลอดภัยในแพลตฟอร์ม AI

เพื่อรักษาความเป็นส่วนตัวของบุคคล ทีมนักวิจัยแนะนำให้ใช้เทคนิคที่มุ่งเน้นความเป็นส่วนตัว เช่น การสื่อสารที่เข้ารหัส federated learning และความเป็นส่วนตัวที่แตกต่างกัน นอกเหนือจากนั้น ทีมนักวิจัยแนะนำให้ใช้ทางเลือกที่เปิดกว้างและให้บริการ AI แบบพาณิชย์ที่มีการตรวจสอบอย่างเข้มงวด สุดท้าย ทีมนักวิจัยแนะนำให้เพิ่มเงินทุนจากภาครัฐเพื่อให้นักวิจัยทางวิชาการสามารถตรวจสอบการอ้างสิทธิ์การทำงานของฮาร์ดแวร์ได้