AI สามารถหลีกเลี่ยงพฤติกรรมที่ไม่พึงประสงค์ได้ด้วยอัลกอริทึมใหม่

เมื่ออัลกอริทึมและระบบปัญญาประดิษฐ์มีความซับซ้อนและรับผิดชอบมากขึ้น จึงมีความสำคัญที่จะแน่ใจว่าระบบ AI หลีกเลี่ยงพฤติกรรมที่อันตรายหรือไม่พึงประสงค์最近ทีมนักวิจัยจาก University of Massachusetts Amherst และ Stanfordตีพิมพ์งานวิจัยที่แสดงให้เห็นว่าพฤติกรรม AI ที่เฉพาะเจาะจงสามารถหลีกเลี่ยงได้โดยใช้เทคนิคที่ให้คำแนะนำทางคณิตศาสตร์ที่แม่นยำซึ่งสามารถใช้ปรับพฤติกรรมของ AI

ตาม TechXploreการวิจัยนี้มีพื้นฐานมาจากสมมติฐานที่ว่าพฤติกรรมที่ไม่ยุติธรรมหรือไม่ปลอดภัยสามารถกำหนดได้ด้วยฟังก์ชันและตัวแปรทางคณิตศาสตร์ หากเป็นเช่นนั้น ก็ควรจะสามารถฝึกอบรมระบบให้หลีกเลี่ยงพฤติกรรมเหล่านี้ได้ ทีมวิจัยมีเป้าหมายที่จะพัฒนาเครื่องมือที่สามารถใช้โดยผู้ใช้ AI เพื่อระบุพฤติกรรมที่ไม่พึงประสงค์และทำให้แน่ใจว่าระบบ AI จะหลีกเลี่ยงการกระทำที่ไม่พึงประสงค์เมื่อใช้ในสถานการณ์จริง

Phillip Thomas ผู้เขียนหลักของงานวิจัยและผู้ช่วยศาสตราจารย์ด้านวิทยาการคอมพิวเตอร์แห่ง U of Michigan Amherst อธิบายว่าทีมวิจัยมีเป้าหมายที่จะแสดงให้เห็นว่านักออกแบบอัลกอริทึมการเรียนรู้ของเครื่องสามารถทำให้ผู้ใช้ AI อธิบายพฤติกรรมที่ไม่พึงประสงค์ได้ง่ายขึ้นและทำให้แน่ใจว่าระบบ AI จะหลีกเลี่ยงพฤติกรรมนั้น

ทีมวิจัยทดสอบเทคนิคของตนโดยการนำไปใช้กับปัญหาทั่วไปในด้านวิทยาศาสตร์ข้อมูล คือ ความลำเอียงทางเพศ ทีมวิจัยมีเป้าหมายที่จะทำให้อัลกอริทึมที่ใช้ในการคาดการณ์ GPA ของนักเรียนมีความยุติธรรมมากขึ้นโดยการลดความลำเอียงทางเพศ ทีมวิจัยใช้เซตข้อมูลทดลองและบอกระบบ AI ให้หลีกเลี่ยงการสร้างแบบจำลองที่ลดค่า GPA สำหรับเพศใดเพศหนึ่งโดยรวม ผลลัพธ์ที่ได้คืออัลกอริทึมสร้างแบบจำลองที่คาดการณ์ GPA ของนักเรียนได้ดีขึ้นและมีความลำเอียงทางเพศน้อยกว่าแบบจำลองที่มีอยู่ก่อนหน้านี้

ทีมวิจัยยังพัฒนาอัลกอริทึมอื่นซึ่งนำไปใช้กับปั๊มอินซูลินอัตโนมัติ อัลกอริทึมมีเป้าหมายที่จะสร้างสมดุลระหว่างประสิทธิภาพและความปลอดภัย ปั๊มอินซูลินอัตโนมัติต้องตัดสินใจว่าควรให้อินซูลินขนาดไหนแก่ผู้ป่วยหลังอาหาร ปั๊มจะให้อินซูลินขนาดที่เหมาะสมเพื่อรักษาระดับน้ำตาลในเลือดให้เหมาะสม อินซูลินที่ให้จะต้องไม่มากหรือน้อยเกินไป

อัลกอริทึมการเรียนรู้ของเครื่องสามารถระบุรูปแบบในปฏิกิริยาของบุคคลต่ออินซูลินได้ แต่วิธีการวิเคราะห์ที่มีอยู่ไม่สามารถให้แพทย์ระบุผลลัพธ์ที่ควรหลีกเลี่ยง เช่น การล้มลงของระดับน้ำตาลในเลือด ในทางกลับกัน ทีมวิจัยสามารถพัฒนา phương phápที่สามารถฝึกอบรมให้ให้อินซูลินขนาดที่เหมาะสมและหลีกเลี่ยงการให้อินซูลินมากเกินไปหรือน้อยเกินไป แม้ว่าระบบนี้ยังไม่พร้อมสำหรับการทดสอบในผู้ป่วยจริง แต่อัลกอริทึมที่พัฒนาขึ้นตามแนวทางนี้สามารถปรับปรุงคุณภาพชีวิตของผู้ป่วยโรคเบาหวานได้

ในงานวิจัย นักวิจัยอ้างอิงถึงอัลกอริทึมว่า “Seledonian” อ้างอิงจากกฎสามข้อของหุ่นยนต์ที่อธิบายโดยนักเขียนนิยายวิทยาศาสตร์ไอแซค อสิมอฟ ความหมายคือระบบ AI “ไม่ควรทำร้ายมนุษย์หรือไม่ทำอะไรเลยเพื่อให้มนุษย์ไม่ถูกทำร้าย” ทีมวิจัยหวังว่าเฟรมเวิร์กของพวกเขาจะช่วยให้นักวิจัยและวิศวกร AI สามารถพัฒนาอัลกอริทึมและระบบที่หลีกเลี่ยงพฤติกรรมอันตราย Emma Brunskill ผู้เขียนอาวุโสของงานวิจัยและผู้ช่วยศาสตราจารย์ด้านวิทยาการคอมพิวเตอร์แห่ง Stanford อธิบายกับ TechXplore

“เราต้องการพัฒนา AI ที่เคารพค่านิยมของผู้ใช้และทำให้เรามั่นใจในความไว้วางใจที่เราให้กับระบบอัตโนมัติ”