การเปิดเผยความลำเอียงในอินเทลลิเจนซ์ฝั่งเครื่องจักร: ความท้าทายและวิธีแก้ปัญหา

ความก้าวหน้าล่าสุดของ อินเทลลิเจนซ์ฝั่งเครื่องจักรที่สร้างขึ้น ได้นำไปสู่การเพิ่มขึ้นของการนำไปใช้ในระดับองค์กรในหลายอุตสาหกรรม รวมถึงการเงิน การดูแลสุขภาพ การขนส่ง เทคโนโลยีนี้จะนำไปสู่เทคโนโลยีอื่นๆ เช่น เทคโนโลยีการป้องกันการโจมตีทางไซเบอร์ เทคโนโลยีการคำนวณควอนตัม และเทคนิคการสื่อสารไร้สายที่ก้าวหน้า อย่างไรก็ตาม การระเบิดของเทคโนโลยีใหม่ๆ เหล่านี้มาพร้อมกับความท้าทายของตนเอง

ตัวอย่างเช่น การนำอินเทลลิเจนซ์ฝั่งเครื่องจักรไปใช้อาจทำให้เกิดการโจมตีทางไซเบอร์ที่ซับซ้อนมากขึ้น ข้อจำกัดด้านหน่วยความจำและความจุเนื่องจากการเพิ่มขึ้นของพลังการคำนวณ และความกังวลเกี่ยวกับความลำเอียงที่นำเสนอโดยโมเดลอินเทลลิเจนซ์ฝั่งเครื่องจักร ข่าวดีคือ NTT Research ได้เสนอวิธีการที่จะเอาชนะความลำเอียงในเครือข่ายประสาทเทียม (DNNs) ซึ่งเป็นรูปแบบหนึ่งของอินเทลลิเจนซ์ฝั่งเครื่องจักร

การวิจัยนี้เป็นความก้าวหน้าที่สำคัญ เนื่องจากโมเดลอินเทลลิเจนซ์ฝั่งเครื่องจักรที่ไม่ลำเอียงจะช่วยในการจ้างงาน ระบบยุติธรรมทางอาญา และการดูแลสุขภาพ เมื่อพวกมันไม่ได้รับอิทธิพลจากคุณลักษณะ เช่น เชื้อชาติ เพศ ในอนาคต การเลือกปฏิบัติมีศักยภาพที่จะถูกกำจัดโดยใช้ระบบอัตโนมัติเหล่านี้ ทำให้ความคิดริเริ่มทางธุรกิจ DE&I ทั่วทั้งอุตสาหกรรมดีขึ้น สุดท้าย โมเดลอินเทลลิเจนซ์ฝั่งเครื่องจักรที่มีผลลัพธ์ที่ไม่ลำเอียงจะช่วยเพิ่มผลผลิตและลดเวลาที่ใช้ในการทำงานเหล่านี้ อย่างไรก็ตาม บริษัทหลายแห่งถูกบังคับให้หยุดโปรแกรมที่สร้างโดยอินเทลลิเจนซ์ฝั่งเครื่องจักรเนื่องจากเทคโนโลยีมีผลลัพธ์ที่ลำเอียง

ตัวอย่างเช่น Amazon ยุติการใช้อัลกอริทึมการจ้างงานเมื่อพบว่าอัลกอริทึมแสดงความชอบต่อผู้สมัครที่ใช้คำว่า “executed” หรือ “captured” บ่อยๆ ซึ่งพบได้มากในเรซูเม่ของผู้ชาย อีกตัวอย่างที่ชัดเจนของความลำเอียงมาจาก Joy Buolamwini หนึ่งในผู้ที่มีอิทธิพลที่สุดในอินเทลลิเจนซ์ฝั่งเครื่องจักรในปี 2023 ตาม TIME ร่วมกับ Timnit Gebru ที่ MIT เปิดเผยว่าเทคโนโลยีการวิเคราะห์ใบหน้าแสดงอัตราความผิดสูงเมื่อประเมินชนกลุ่มน้อย โดยเฉพาะผู้หญิงชนกลุ่มน้อย ซึ่งอาจเกิดจากข้อมูลการฝึกที่ไม่เพียงพอ

เมื่อเร็วๆ นี้ เครือข่ายประสาทเทียม (DNNs) ได้กลายเป็นสิ่งที่พบเห็นได้ทั่วไปในวิทยาศาสตร์ วิศวกรรม และธุรกิจ และแม้แต่ในแอปพลิเคชันที่ได้รับความนิยม แต่บางครั้ง它们อาศัยคุณลักษณะที่ไม่จำเป็นซึ่งอาจส่งผลให้เกิดความลำเอียง ตามการศึกษาของ MIT ในช่วงไม่กี่ปีที่ผ่านมา นักวิทยาศาสตร์ได้พัฒนาเครือข่ายประสาทเทียมที่สามารถวิเคราะห์ข้อมูลเข้าจำนวนมาก รวมถึงเสียงและภาพ เครือข่ายเหล่านี้สามารถระบุคุณลักษณะที่เหมือนกัน ทำให้สามารถจัดประเภทคำหรือวัตถุเป้าหมายได้ ในขณะนี้ โมเดลเหล่านี้อยู่ในระดับแนวหน้าของสาขานี้เป็นโมเดลหลักสำหรับการจำลองระบบประสาทสัมผัสทางชีววิทยา

นักวิจัยอาวุโสของ NTT Research และผู้ช่วยศาสตราจารย์ที่ศูนย์วิทยาศาสตร์สมองฮาร์วาร์ด Hidenori Tanaka และนักวิจัยอีกสามคนได้เสนอการเอาชนะข้อจำกัดของการปรับแต่งแบบง่าย ซึ่งเป็นวิธีการที่ใช้กันอยู่ในการลดข้อผิดพลาดหรือ “ความสูญเสีย” ของ DNNs ด้วยอัลกอริทึมใหม่ที่ลดการอาศัยคุณลักษณะที่มีแนวโน้มที่จะลำเอียง

พวกเขาได้ศึกษาภูมิทัศน์ของความสูญเสียของเครือข่ายประสาทเทียมผ่านเลนส์ของการเชื่อมต่อโหมด ซึ่งเป็นการสังเกตว่าเครือข่ายประสาทเทียมที่ได้รับจากการฝึกอบรมบนเซตข้อมูลเชื่อมต่อกันผ่านเส้นทางที่มีความสูญเสียต่ำ พวกเขาตั้งคำถามต่อไปนี้: ตัวย่อที่อาศัยกลไกที่แตกต่างกันในการทำนายเชื่อมต่อกันผ่านเส้นทางที่มีความสูญเสียต่ำหรือไม่?

พวกเขาได้ค้นพบว่าการปรับแต่งแบบง่ายไม่สามารถเปลี่ยนแปลงกลไกการตัดสินใจของโมเดลได้ เนื่องจากต้องเคลื่อนไปยังหุบเขาใหม่ในภูมิทัศน์ของความสูญเสีย แทนที่จะขับเคลื่อนโมเดลผ่านอุปสรรคที่แยก “อ่าง” หรือ “หุบเขา” ของความสูญเสียต่ำ นักวิจัยเรียกอัลกอริทึมแก้ไขนี้ว่า การปรับแต่งแบบเชื่อมต่อ (CBFT)

ก่อนที่จะมีการพัฒนานี้ เครือข่ายประสาทเทียมที่จำแนกภาพ เช่น ภาพปลา (ภาพประกอบที่ใช้ในการศึกษานี้) ใช้ทั้งรูปร่างและพื้นหลังเป็นพารามิเตอร์สำหรับการทำนาย เส้นทางที่ลดความสูญเสียจะทำงานในโหมดที่แตกต่างกัน: โหมดนึงที่อาศัยคุณลักษณะที่ถูกต้องของรูปร่าง และอีกโหมดนึงที่อาศัยคุณลักษณะที่ไม่จำเป็นของสีพื้นหลัง ดังนั้น โหมดนี้จะไม่มีการเชื่อมต่อแบบเชื่อมต่อหรือเส้นทางที่มีความสูญเสียต่ำ

ทีมวิจัยเข้าใจเลนส์เชิงกลไกเกี่ยวกับการเชื่อมต่อโหมดโดยพิจารณาจากชุดพารามิเตอร์สองชุดที่ลดความสูญเสียโดยใช้พื้นหลังและรูปร่างเป็นพารามิเตอร์สำหรับการทำนาย และถามตัวเองว่า ตัวย่อที่มีกลไกที่แตกต่างกันเชื่อมต่อกันผ่านเส้นทางที่มีความสูญเสียต่ำในภูมิทัศน์หรือไม่? ความแตกต่างของกลไกเหล่านี้ส่งผลต่อความเรียบง่ายของเส้นทางเชื่อมต่อหรือไม่? เราสามารถใช้การเชื่อมต่อนี้เพื่อเปลี่ยนระหว่างตัวย่อที่ใช้กลไกที่ต้องการหรือไม่?

ในอีกคำหนึ่ง เครือข่ายประสาทเทียมสามารถมีพฤติกรรมที่แตกต่างกันมากเมื่อได้รับการฝึกอบรมบนเซตข้อมูลหนึ่งๆ และทดสอบบนเซตข้อมูลอื่น ข้อเสนอของทีมวิจัยนี้ลดลงเหลือแนวคิดเรื่องความคล้ายคลึงกัน มันสร้างขึ้นจากแนวคิดเก่าของการเชื่อมต่อโหมด แต่ด้วยการบิดเบือน – มันพิจารณาว่ากลไกที่คล้ายคลึงกันทำงานอย่างไร การวิจัยของพวกเขาได้นำไปสู่การค้นพบต่อไปนี้:

• ตัวย่อที่มีกลไกที่แตกต่างกันสามารถเชื่อมต่อกันในลักษณะที่ซับซ้อนและไม่เป็นเส้นตรง
• เมื่อตัวย่อสองตัวเชื่อมต่อกันแบบเชื่อมต่ออย่างง่าย มันเกี่ยวข้องกับว่าโมเดลของพวกมันคล้ายคลึงกันในแง่ของกลไกมากเพียงใด
• การปรับแต่งแบบง่ายอาจไม่เพียงพอที่จะกำจัดคุณลักษณะที่ไม่พึงประสงค์ที่ได้รับระหว่างการฝึกอบรมก่อนหน้านี้
• หากคุณพบภูมิภาคที่ไม่เชื่อมต่อกันในภูมิทัศน์ คุณสามารถเปลี่ยนแปลงโมเดลได้อย่างมีประสิทธิภาพ

แม้ว่าการวิจัยนี้จะเป็นขั้นตอนสำคัญในการใช้ประโยชน์จากอินเทลลิเจนซ์ฝั่งเครื่องจักรอย่างเต็มที่ แต่ความกังวลเกี่ยวกับจริยธรรมของอินเทลลิเจนซ์ฝั่งเครื่องจักรอาจยังคงเป็นการต่อสู้ที่ยากลำบาก นักเทคโนโลยีและนักวิจัยกำลังทำงานเพื่อต่อสู้กับความอ่อนแอทางจริยธรรมอื่นๆ ของอินเทลลิเจนซ์ฝั่งเครื่องจักรและโมเดลภาษาขนาดใหญ่อื่นๆ เช่น ความเป็นส่วนตัว การปกครองตนเอง และความรับผิดชอบ

อินเทลลิเจนซ์ฝั่งเครื่องจักรสามารถใช้ในการรวบรวมและประมวลผลข้อมูลส่วนบุคคลจำนวนมาก การใช้ข้อมูลนี้โดยไม่ได้รับอนุญาตหรือไม่เหมาะสมสามารถทำให้ความเป็นส่วนตัวของบุคคลถูกบุกรุก นำไปสู่ความกังวลเกี่ยวกับการเฝ้าดู การรั่วไหลของข้อมูล และการขโมยตัวตน อินเทลลิเจนซ์ฝั่งเครื่องจักรยังอาจก่อให้เกิดภัยคุกคามเมื่อพูดถึงความรับผิดชอบของการประยุกต์ใช้งานอัตโนมัติ เช่น รถยนต์ขับเคลื่อนอัตโนมัติ การสร้างกรอบทางกฎหมายและมาตรฐานทางจริยธรรมสำหรับการรับผิดชอบและความรับผิดชอบจะมีความจำเป็นในอนาคต

สรุปแล้ว การเติบโตอย่างรวดเร็วของเทคโนโลยีอินเทลลิเจนซ์ฝั่งเครื่องจักรที่สร้างขึ้นถือมั่นในอุตสาหกรรมต่างๆ ตั้งแต่การเงินและการดูแลสุขภาพไปจนถึงการขนส่ง แม้ว่าจะมีการพัฒนาที่น่าหวังเหล่านี้ แต่ความกังวลเกี่ยวกับจริยธรรมของอินเทลลิเจนซ์ฝั่งเครื่องจักรยังคงมีนัยสำคัญ ในขณะที่เราก้าวผ่านยุคการเปลี่ยนแปลงของอินเทลลิเจนซ์ฝั่งเครื่องจักร มันจำเป็นสำหรับนักเทคโนโลยี นักวิจัย และผู้กำหนดนโยบายที่จะทำงานร่วมกันเพื่อสร้างกรอบทางกฎหมายและมาตรฐานทางจริยธรรมที่จะรับรองการใช้อินเทลลิเจนซ์ฝั่งเครื่องจักรอย่างมีความรับผิดชอบและเป็นประโยชน์ในอนาคต นักวิจัยที่ NTT Research และมหาวิทยาลัยมิชิแกนเป็นก้าวหนึ่งในการเสนออัลกอริทึมที่อาจกำจัดความลำเอียงในอินเทลลิเจนซ์ฝั่งเครื่องจักร