นักวิจัยพัฒนาแอลกอริทึมเพื่อป้องกันพฤติกรรมที่ไม่พึงประสงค์ใน AI

ร่วมกับความก้าวหน้าและข้อดีของปัญญาประดิษฐ์ที่แสดงออกมาอย่างมาก มีรายงานเกี่ยวกับผลกระทบด้านลบ เช่น ความลำเอียงทางเชื้อชาติและเพศใน AI ดังนั้น sciencealert.com จึงตั้งคำถามว่า “นักวิทยาศาสตร์สามารถรับรองได้อย่างไรว่าระบบการคิดที่ซับซ้อนสามารถเป็นไปอย่างยุติธรรมหรือแม้แต่ปลอดภัย?”

คำตอบอาจอยู่ในรายงานของนักวิจัยจาก Stanford และ University of Massachusetts Amherst ที่มีชื่อเรื่องว่า การป้องกันพฤติกรรมที่ไม่พึงประสงค์ของเครื่องจักรอัจฉริยะ ตามที่ eurekaalert.org ระบุไว้ในเรื่องราวเกี่ยวกับรายงานนี้ AI ได้เริ่มจัดการกับงานที่ละเอียดอ่อน ดังนั้น “นักกำหนดนโยบายจึงยืนยันว่านักวิทยาศาสตร์คอมพิวเตอร์ต้องให้การรับรองว่าระบบอัตโนมัติได้รับการออกแบบมาเพื่อลดหรือหลีกเลี่ยงผลลัพธ์ที่ไม่พึงประสงค์ เช่น ความเสี่ยงสูงหรือความลำเอียงทางเชื้อชาติและเพศ”

รายงานที่ทีมนักวิจัยนี้นำเสนอ “อธิบายถึงเทคนิคใหม่ที่แปลเป้าหมายที่คลุมเครือ เช่น การหลีกเลี่ยงความลำเอียงทางเพศ เป็นเกณฑ์ทางคณิตศาสตร์ที่ชัดเจน ซึ่งจะทำให้สามารถฝึกอบรม AI ให้หลีกเลี่ยงพฤติกรรมดังกล่าวได้”

จุดประสงค์คือตามที่ Emma Brunskill ผู้ช่วยศาสตราจารย์ด้านวิทยาการคอมพิวเตอร์ tại Stanford และผู้เขียนหลักของรายงาน ระบุว่า “เราต้องการพัฒนา AI ที่เคารพคุณค่าของผู้ใช้และทำให้เรามั่นใจในระบบอัตโนมัติ”

ความคิดคือการกำหนด “ผลลัพธ์หรือพฤติกรรมที่ไม่ปลอดภัยหรือไม่ยุติธรรม” ในรูปของคำศัพท์ทางคณิตศาสตร์ ซึ่งจะทำให้สามารถ “สร้างแอลกอริทึมที่สามารถเรียนรู้จากข้อมูลเพื่อหลีกเลี่ยงผลลัพธ์ที่ไม่พึงประสงค์เหล่านี้ด้วยความมั่นใจสูง”

เป้าหมายที่สองคือการ “พัฒนาเทคนิคที่จะทำให้ผู้ใช้สามารถระบุพฤติกรรมที่ไม่พึงประสงค์ที่ต้องการจำกัดได้ง่ายขึ้น และทำให้นักออกแบบการเรียนรู้ของเครื่องสามารถคาดการณ์ได้ว่าระบบที่ได้รับการฝึกอบรมจากข้อมูลในอดีตสามารถไว้วางใจได้เมื่อนำไปใช้ในสถานการณ์จริง”

ScienceAlert ระบุว่าทีมนักวิจัยตั้งชื่อระบบใหม่นี้ว่า แอลกอริทึม Seldonian ตามตัวละครหลักในซีรีส์ Foundation ของ Isaac Asimov Philip Thomas ผู้ช่วยศาสตราจารย์ด้านวิทยาการคอมพิวเตอร์ tại University of Massachusetts Amherst และผู้เขียนหลักของรายงาน ระบุว่า “หากฉันใช้แอลกอริทึม Seldonian สำหรับการรักษา โรคเบาหวาน ฉันสามารถระบุพฤติกรรมที่ไม่พึงประสงค์ได้ว่าเป็นระดับน้ำตาลในเลือดต่ำหรือ ภาวะน้ำตาลในเลือดต่ำ“

“ฉันสามารถบอกเครื่องจักรว่า ‘ในขณะที่คุณพยายามปรับปรุงการควบคุมในเครื่องสูบอินสูลิน อย่าเปลี่ยนแปลงสิ่งที่จะเพิ่มความถี่ของภาวะน้ำตาลในเลือดต่ำ’ แอลกอริทึมส่วนใหญ่ไม่ได้ให้วิธีการวางข้อจำกัดพฤติกรรมดังกล่าว; มันไม่ได้รวมอยู่ในดีไซน์แรกๆ”

Thomas ระบุว่า “แพลตฟอร์ม Seldonian นี้จะทำให้นักออกแบบการเรียนรู้ของเครื่องสามารถสร้างคำสั่งหลีกเลี่ยงพฤติกรรมได้ง่ายขึ้นในแอลกอริทึมทุกประเภท ในรูปแบบที่สามารถประเมินความน่าจะเป็นที่ระบบที่ได้รับการฝึกอบรมจะทำงานได้อย่างเหมาะสมในโลกแห่งความเป็นจริง”

สำหรับส่วนของ Emma Brunskill เธอกล่าวว่า “การคิดถึงวิธีการสร้างแอลกอริทึมที่เคารพคุณค่า เช่น ความปลอดภัยและความยุติธรรม เป็นสิ่งจำเป็นเมื่อสังคมพึ่งพา AI มากขึ้น”