การเปิดเผยอคติในปัญญาประดิษฐ์: ความท้าทายและแนวทางแก้ไข

ความก้าวหน้าล่าสุดของ AI กำเนิด ได้เห็นการเติบโตอย่างรวดเร็วของแอปพลิเคชันสำหรับองค์กรในอุตสาหกรรมต่างๆ รวมถึงการเงิน การดูแลสุขภาพ การขนส่ง การพัฒนาเทคโนโลยีนี้จะนำไปสู่เทคโนโลยีใหม่ๆ อื่นๆ เช่น เทคโนโลยีการป้องกันความปลอดภัยทางไซเบอร์ ความก้าวหน้าของการคำนวณด้วยควอนตัม และเทคนิคการสื่อสารไร้สายที่ก้าวล้ำ อย่างไรก็ตาม การเติบโตอย่างรวดเร็วของเทคโนโลยีรุ่นต่อไปมาพร้อมกับความท้าทายในตัวเอง

ตัวอย่างเช่น การนำ AI มาใช้อาจทำให้เกิดการโจมตีทางไซเบอร์ที่ซับซ้อนมากขึ้น รวมถึงปัญหาคอขวดด้านหน่วยความจำและการจัดเก็บเนื่องจากพลังการประมวลผลที่เพิ่มขึ้นและข้อกังวลด้านจริยธรรมเกี่ยวกับอคติที่เกิดจากโมเดล AI ข่าวดีก็คือ NTT Research ได้เสนอวิธีการเอาชนะอคติในเครือข่ายประสาทเทียมเชิงลึก (DNN) ซึ่งเป็นประเภทหนึ่งของปัญญาประดิษฐ์

งานวิจัยนี้ถือเป็นความก้าวหน้าที่สำคัญ เนื่องจากโมเดล AI ที่ไม่ลำเอียงจะส่งผลต่อการจ้างงาน ระบบยุติธรรมทางอาญา และการดูแลสุขภาพ เมื่อไม่ได้รับอิทธิพลจากลักษณะเฉพาะ เช่น เชื้อชาติหรือเพศ ในอนาคต การเลือกปฏิบัติมีแนวโน้มที่จะถูกกำจัดได้ด้วยการใช้ระบบอัตโนมัติประเภทนี้ ซึ่งจะช่วยปรับปรุงการริเริ่มธุรกิจ DE&I ในระดับอุตสาหกรรม สุดท้าย โมเดล AI ที่ให้ผลลัพธ์ที่ไม่ลำเอียงจะช่วยเพิ่มผลผลิตและลดเวลาที่ใช้ในการทำงานเหล่านี้ให้เสร็จสิ้น อย่างไรก็ตาม มีธุรกิจเพียงไม่กี่แห่งที่ถูกบังคับให้หยุดโปรแกรมที่สร้างโดย AI เนื่องจากโซลูชันที่มีอคติของเทคโนโลยี

ตัวอย่างเช่น อเมซอน หยุดใช้อัลกอริทึมการจ้างงานเมื่อพบว่าอัลกอริทึมดังกล่าวให้ความสำคัญกับผู้สมัครที่ใช้คำว่า "ดำเนินการ" หรือ "จับกุม" บ่อยกว่า ซึ่งพบได้บ่อยกว่าในประวัติย่อของผู้ชาย ตัวอย่างอคติที่เห็นได้ชัดเจนอีกประการหนึ่งมาจาก Joy Buolamwini หนึ่งในบุคคลที่มีอิทธิพลมากที่สุดในด้าน AI ในปี 2023 ตามรายงาน เวลาโดยร่วมมือกับ Timnit Gebru จาก MIT เปิดเผยว่าเทคโนโลยีการวิเคราะห์ใบหน้าแสดงให้เห็นอัตราข้อผิดพลาดที่สูงขึ้นในการประเมินกลุ่มคนส่วนน้อย โดยเฉพาะผู้หญิงกลุ่มน้อย ซึ่งอาจเกิดจากข้อมูลการฝึกอบรมที่เป็นตัวแทนไม่เพียงพอ

เมื่อไม่นานมานี้ DNN ได้รับความนิยมแพร่หลายในสาขาวิทยาศาสตร์ วิศวกรรมศาสตร์ และธุรกิจ และแม้แต่ในแอปพลิเคชันยอดนิยม แต่บางครั้ง DNN ก็ยังพึ่งพาคุณลักษณะปลอมที่อาจสื่อถึงอคติได้ ตามรายงาน การศึกษาของ MIT ในช่วงไม่กี่ปีที่ผ่านมา นักวิทยาศาสตร์ได้พัฒนาเครือข่ายประสาทเทียมเชิงลึกที่สามารถวิเคราะห์ข้อมูลอินพุตจำนวนมาก รวมถึงเสียงและภาพ เครือข่ายเหล่านี้สามารถระบุลักษณะร่วมกันได้ ทำให้สามารถจำแนกคำหรือวัตถุเป้าหมายได้ จนถึงปัจจุบัน โมเดลเหล่านี้ถือเป็นโมเดลหลักในการจำลองระบบประสาทสัมผัสทางชีววิทยา

นักวิทยาศาสตร์อาวุโสด้านการวิจัยของ NTT และผู้ร่วมงานที่ศูนย์วิทยาศาสตร์สมองแห่งมหาวิทยาลัยฮาร์วาร์ด Hidenori Tanaka และนักวิทยาศาสตร์อีกสามคนเสนอให้เอาชนะข้อจำกัดของการปรับแต่งแบบไร้เดียงสา ซึ่งเป็นวิธีเดิมในการลดข้อผิดพลาดหรือ "การสูญเสีย" ของ DNN ด้วยอัลกอริทึมใหม่ที่ลดการพึ่งพาแอตทริบิวต์ที่อาจเกิดอคติของแบบจำลอง

พวกเขาศึกษาภูมิทัศน์การสูญเสียของเครือข่ายประสาทผ่านเลนส์ของโหมดการเชื่อมต่อ การสังเกตว่าตัวลดขนาดเครือข่ายประสาทที่ดึงข้อมูลผ่านการฝึกบนชุดข้อมูลเชื่อมต่อกันผ่านเส้นทางที่เรียบง่ายของการสูญเสียต่ำ โดยเฉพาะอย่างยิ่ง พวกเขาถามคำถามต่อไปนี้: ตัวลดขนาดที่พึ่งพากลไกที่แตกต่างกันในการทำนายเชื่อมต่อกันผ่านเส้นทางที่เรียบง่ายของการสูญเสียต่ำหรือไม่

พวกเขาค้นพบว่าการปรับแต่งแบบ Naïve นั้นไม่สามารถเปลี่ยนแปลงกลไกการตัดสินใจของแบบจำลองได้อย่างแท้จริง เนื่องจากจำเป็นต้องย้ายไปยังหุบเขาอื่นในภูมิประเทศการสูญเสีย แทนที่ คุณจะต้องขับเคลื่อนแบบจำลองข้ามอุปสรรคที่แยก "แหล่งรับ" หรือ "หุบเขา" ของการสูญเสียต่ำ ผู้เขียนเรียกอัลกอริทึมการแก้ไขนี้ว่า การปรับแต่งแบบอาศัยการเชื่อมต่อ (CBFT)

ก่อนการพัฒนานี้ DNN ซึ่งจัดประเภทภาพ เช่น ปลา (ภาพประกอบที่ใช้ในการศึกษานี้) ใช้ทั้งรูปร่างของวัตถุและพื้นหลังเป็นพารามิเตอร์อินพุตสำหรับการทำนาย ดังนั้น เส้นทางที่ลดการสูญเสียจึงทำงานในโหมดที่แตกต่างกันในเชิงกลไก โหมดหนึ่งอาศัยคุณลักษณะที่ถูกต้องของรูปร่าง และอีกโหมดอาศัยคุณลักษณะที่ไม่จริงของสีพื้นหลัง ดังนั้น โหมดเหล่านี้จึงขาดการเชื่อมต่อเชิงเส้นหรือเส้นทางที่เรียบง่ายของการสูญเสียต่ำ

ทีมวิจัยเข้าใจเลนส์เชิงกลไกของโหมดการเชื่อมต่อโดยพิจารณาพารามิเตอร์สองชุดที่ลดการสูญเสียโดยใช้พื้นหลังและรูปร่างของวัตถุเป็นแอตทริบิวต์อินพุตสำหรับการทำนายตามลำดับ จากนั้นจึงถามตัวเองว่าตัวลดขนาดที่ไม่เหมือนกันทางกลไกเหล่านี้เชื่อมต่อกันผ่านเส้นทางการสูญเสียต่ำในภูมิประเทศหรือไม่ ความไม่เหมือนกันของกลไกเหล่านี้ส่งผลต่อความเรียบง่ายของเส้นทางการเชื่อมต่อหรือไม่ เราสามารถใช้ประโยชน์จากการเชื่อมต่อนี้เพื่อสลับระหว่างตัวลดขนาดที่ใช้กลไกที่เราต้องการได้หรือไม่

กล่าวอีกนัยหนึ่ง เครือข่ายประสาทเทียมเชิงลึกนั้น ขึ้นอยู่กับสิ่งที่ตรวจพบระหว่างการฝึกบนชุดข้อมูลเฉพาะ อาจมีพฤติกรรมที่แตกต่างกันมากเมื่อคุณทดสอบบนชุดข้อมูลอื่น ข้อเสนอของทีมนั้นสรุปลงเป็นแนวคิดของความคล้ายคลึงร่วมกัน ซึ่งสร้างขึ้นจากแนวคิดก่อนหน้านี้ของโหมดการเชื่อมต่อ แต่มีข้อแตกต่างเล็กน้อย นั่นคือ พิจารณาถึงวิธีการทำงานของกลไกที่คล้ายกัน การวิจัยของพวกเขานำไปสู่การค้นพบอันน่าตื่นตาต่อไปนี้:

• ตัวลดขนาดที่มีกลไกต่างกันสามารถเชื่อมต่อกันในลักษณะที่ค่อนข้างซับซ้อนและไม่เชิงเส้นตรงได้
• เมื่อตัวลดขนาดสองตัวเชื่อมต่อกันแบบเชิงเส้น จะมีความเกี่ยวข้องอย่างใกล้ชิดกับความคล้ายคลึงกันของโมเดลในแง่ของกลไก
• การปรับแต่งอย่างง่ายอาจไม่เพียงพอที่จะกำจัดคุณสมบัติที่ไม่ต้องการที่ได้รับระหว่างการฝึกก่อนหน้านี้
• หากคุณพบภูมิภาคต่างๆ ที่มีการแยกจากกันเป็นเส้นตรงในภูมิประเทศ คุณสามารถทำการเปลี่ยนแปลงการทำงานภายในของแบบจำลองอย่างมีประสิทธิภาพได้

แม้ว่าการวิจัยนี้จะเป็นก้าวสำคัญในการใช้ประโยชน์จากศักยภาพทั้งหมดของ AI แต่ความกังวลด้านจริยธรรมเกี่ยวกับ AI อาจยังคงเป็นปัญหาที่ต้องแก้ไข นักเทคโนโลยีและนักวิจัยกำลังทำงานเพื่อต่อสู้กับจุดอ่อนด้านจริยธรรมอื่นๆ ใน AI และรูปแบบภาษาขนาดใหญ่อื่นๆ เช่น ความเป็นส่วนตัว ความเป็นอิสระ ความรับผิดชอบ

AI สามารถนำมาใช้ในการรวบรวมและประมวลผลข้อมูลส่วนบุคคลจำนวนมาก การใช้ข้อมูลนี้โดยไม่ได้รับอนุญาตหรือไม่ถูกต้องตามจริยธรรมอาจส่งผลกระทบต่อความเป็นส่วนตัวของบุคคล ทำให้เกิดความกังวลเกี่ยวกับการเฝ้าติดตาม การละเมิดข้อมูล และการขโมยข้อมูลประจำตัว นอกจากนี้ AI ยังสามารถก่อให้เกิดภัยคุกคามเมื่อต้องรับผิดชอบต่อแอปพลิเคชันอัตโนมัติ เช่น รถยนต์ขับเคลื่อนอัตโนมัติ การกำหนดกรอบทางกฎหมายและมาตรฐานทางจริยธรรมสำหรับความรับผิดชอบและความรับผิดชอบจะเป็นสิ่งสำคัญในปีต่อๆ ไป

โดยสรุป การเติบโตอย่างรวดเร็วของเทคโนโลยี AI เชิงสร้างสรรค์ถือเป็นความหวังสำหรับอุตสาหกรรมต่างๆ ตั้งแต่ภาคการเงินและการดูแลสุขภาพไปจนถึงการขนส่ง แม้จะมีการพัฒนาที่มีแนวโน้มดีเหล่านี้ แต่ความกังวลด้านจริยธรรมเกี่ยวกับ AI ยังคงมีอยู่มาก ในขณะที่เราก้าวไปสู่ยุคแห่งการเปลี่ยนแปลงของ AI นักเทคโนโลยี นักวิจัย และผู้กำหนดนโยบายจำเป็นต้องทำงานร่วมกันเพื่อสร้างกรอบทางกฎหมายและมาตรฐานทางจริยธรรมที่จะรับประกันการใช้งานเทคโนโลยี AI อย่างมีความรับผิดชอบและเป็นประโยชน์ในปีต่อๆ ไป นักวิทยาศาสตร์จาก NTT Research และ University of Michigan ก้าวล้ำหน้าคู่แข่งไปหนึ่งก้าวด้วยข้อเสนอสำหรับอัลกอริทึมที่อาจขจัดอคติใน AI ได้