นักวิจัย AI เสนอการให้รางวัลสำหรับการค้นหาปัญหาใน AI เพื่อทำให้ AI มีจริยธรรมมากขึ้น

ทีมนักวิจัย AI จากบริษัทและห้องปฏิบัติการพัฒนา AI เช่น Intel (INTC ), Google (GOOGL ) Brain และ OpenAI ได้แนะนำการใช้รางวัลเพื่อช่วยให้การใช้ AI มีจริยธรรม ทีมนักวิจัยได้เผยแพร่ข้อเสนอเกี่ยวกับการใช้ AI อย่างมีจริยธรรม และรวมถึงข้อเสนอแนะที่จะให้รางวัลแก่ผู้ที่ค้นพบปัญหาใน AI ซึ่งเป็นวิธีที่มีประสิทธิภาพในการทำให้ AI มีความยุติธรรมมากขึ้น

ตามรายงานของ VentureBeat นักวิจัยจากบริษัทต่างๆ ทั่วสหรัฐอเมริกาและยุโรปได้ร่วมมือกันเพื่อสร้างแนวทางปฏิบัติเกี่ยวกับการใช้ AI อย่างมีจริยธรรม รวมถึงข้อเสนอแนะเกี่ยวกับวิธีการปฏิบัติตามแนวทางเหล่านั้น หนึ่งในข้อเสนอแนะที่นักวิจัยได้ทำคือการให้รางวัลแก่นักพัฒนาที่ค้นพบปัญหาในโปรแกรม AI ข้อเสนอแนะนี้ได้ถูก提出ในเอกสารที่ชื่อว่า “Toward Trustworthy AI Development: Mechanisms for Supporting Verifiable Claims“

ตัวอย่างของปัญหาที่ทีมนักวิจัยหวังว่าจะแก้ไขได้คือ ข้อมูลและอัลกอริทึมที่มีปัญหาได้ถูกพบในหลายๆ สิ่ง เช่น แอปพลิเคชันสุขภาพและระบบการรู้จำใบหน้าที่ใช้โดยหน่วยงานบังคับใช้กฎหมาย หนึ่งในกรณีของปัญหาคือเครื่องมือประเมินความเสี่ยง PATTERN ที่ใช้โดยกระทรวงยุติธรรมสหรัฐอเมริกาเพื่อประเมินและตัดสินว่าผู้ต้องขังคนใดสามารถปล่อยตัวได้เมื่อมีการลดขนาดประชากรในเรือนจำเนื่องจากการระบาดของโควิด-19

การให้รางวัลแก่นักพัฒนาสำหรับการค้นพบพฤติกรรมที่ไม่พึงประสงค์ในโปรแกรมคอมพิวเตอร์เป็นเรื่องที่เกิดขึ้นมาอย่างยาวนาน แต่นี่อาจเป็นครั้งแรกที่คณะกรรมการจริยธรรม AI ได้เสนอความคิดนี้อย่างจริงจังเพื่อแก้ปัญหา AI ที่มีปัญหา แม้ว่าจะไม่น่าจะมีนักพัฒนาที่เพียงพอในการค้นพบปัญหาใน AI เพื่อให้แน่ใจว่า AI มีจริยธรรม แต่ก็จะช่วยให้บริษัทต่างๆ ลดปัญหาและเข้าใจปัญหาใน AI ของตนได้ดีขึ้น

ผู้เขียนเอกสารได้อธิบายว่าแนวคิดเรื่องการให้รางวัลสำหรับการค้นพบปัญหาใน AI สามารถขยายได้โดยใช้รางวัลสำหรับการค้นพบปัญหาและความปลอดภัย และการใช้เทคนิคนี้อย่างเหมาะสมสามารถนำไปสู่การสร้างเอกสารที่ดีขึ้นสำหรับข้อมูลและแบบจำลอง นอกจากนี้ ผู้เขียนยังชี้ว่าแนวคิดเดียวกันนี้สามารถนำไปใช้กับคุณสมบัติอื่นๆ ของ AI เช่น ความสามารถในการอธิบายได้ ความปลอดภัย และการคุ้มครองความเป็นส่วนตัว

เมื่อมีการอภิปรายมากขึ้นเกี่ยวกับหลักการของ AI หลายคนได้เน้นย้ำว่าหลักการเหล่านั้นเพียงอย่างเดียวไม่เพียงพอ และการดำเนินการต่างๆ ต้องถูกดำเนินการเพื่อให้ AI มีจริยธรรม ผู้เขียนเอกสารได้เน้นย้ำว่า “กฎระเบียบและมาตรฐานที่มีอยู่ในอุตสาหกรรมและวิชาการไม่เพียงพอในการรับรองว่าการพัฒนา AI จะเป็นไปอย่างมีความรับผิดชอบ” ผู้ร่วมก่อตั้ง Google Brain และผู้นำในอุตสาหกรรม AI Andrew Ng ได้แสดงความคิดเห็นว่าหลักการเหล่านั้นไม่เพียงพอในการรับรองว่า AI จะถูกใช้อย่างมีความรับผิดชอบและยุติธรรม โดยกล่าวว่าหลักการเหล่านั้นหลายอย่างต้องการการดำเนินการและความคิดที่ชัดเจน

ข้อเสนอแนะเกี่ยวกับการให้รางวัลสำหรับการค้นพบปัญหาใน AI ของทีมนักวิจัยเป็นความพยายามที่จะไปไกลกว่าหลักการและเข้าสู่พื้นที่ของการดำเนินการตามหลักการ นักวิจัยได้เสนอแนะอื่นๆ ที่สามารถกระตุ้นให้เกิดการดำเนินการตามหลักการในพื้นที่ AI

ทีมนักวิจัยได้เสนอแนะอื่นๆ ที่บริษัทต่างๆ สามารถทำได้เพื่อให้การใช้ AI มีจริยธรรมมากขึ้น พวกเขาชี้ว่าควรสร้างฐานข้อมูลที่มีศูนย์กลางสำหรับเหตุการณ์ AI และแบ่งปันข้อมูลนั้นในหมู่ชุมชน AI ที่กว้างขึ้น นอกจากนี้ นักวิจัยยังเสนอแนะว่าควรสร้างเส้นทางการตรวจสอบและเก็บรักษาข้อมูลเกี่ยวกับการสร้างและใช้งานแอปพลิเคชันที่สำคัญต่อความปลอดภัยในแพลตฟอร์ม AI

เพื่อรักษาความเป็นส่วนตัวของบุคคล ทีมนักวิจัยได้เสนอแนะให้ใช้เทคนิคที่มุ่งเน้นความเป็นส่วนตัว เช่น การสื่อสารที่เข้ารหัส การเรียนรู้แบบกระจาย และความเป็นส่วนตัวที่แตกต่างกัน ทั้งนี้ นักวิจัยยังเสนอแนะให้สร้างทางเลือกที่เป็นโอเพ่นซอร์สให้กว้างขึ้น และให้ตรวจสอบแบบจำลอง AI เชิงพาณิชย์อย่างเข้มงวด สุดท้าย ทีมนักวิจัยได้เสนอแนะให้เพิ่มเงินทุนจากภาครัฐเพื่อให้นักวิจัยจากมหาวิทยาลัยสามารถตรวจสอบการทำงานของฮาร์ดแวร์ได้