ศาสตราจารย์ Julia Stoyanovich ผู้อำนวยการ Center for Responsible AI – สัมภาษณ์ซีรีส์

Julia Stoyanovich เป็นศาสตราจารย์ที่ NYU’s Tandon School of Engineering และผู้อำนวยการ Center for Responsible AI เธอได้ให้การเป็นพยานต่อ NYC Council’s Committee on Technology เกี่ยวกับ ร่างกฎหมายที่เสนอ ที่จะควบคุมการใช้ AI ในการบริหารจัดการและการตัดสินใจในการจ้างงาน

คุณเป็นผู้อำนวยการ Center for Responsible AI ที่ NYU คุณสามารถแบ่งปันข้อมูลเกี่ยวกับโครงการต่างๆ ขององค์กรนี้กับเราได้หรือไม่?

ฉันร่วมอำนวยการ Center for Responsible AI (R/AI) ที่ NYU กับ Steven Kuyan Steven และฉันมีความสนใจและความเชี่ยวชาญที่แตกต่างกัน ฉันเป็นนักวิชาการที่มีพื้นฐานด้านวิทยาศาสตร์คอมพิวเตอร์และมีความสนใจในการทำงานที่ได้รับแรงบันดาลใจจากข้อมูลเชิงลึกที่เกี่ยวข้องกับวิศวกรรมข้อมูล วิทยาศาสตร์ข้อมูลที่รับผิดชอบ และนโยบาย Steven เป็นผู้อำนวยการ NYU Tandon Future Labs ซึ่งเป็นเครือข่ายของสตาร์ทอัพและเครื่องมือที่มีผลกระทบทางเศรษฐกิจที่สำคัญใน NYC วิสัยทัศน์ของเราสำหรับ R/AI คือการช่วยให้ “AI ที่รับผิดชอบ” กลายเป็น “AI” โดยผ่านการวิจัยเชิงประยุกต์ การศึกษาและการมีส่วนร่วมของสาธารณชน และโดยการช่วยให้ บริษัทขนาดใหญ่และเล็กๆ พัฒนา AI ที่รับผิดชอบ

ในช่วงไม่กี่เดือนที่ผ่านมา R/AI ได้เข้าร่วมการอภิปรายเกี่ยวกับการกำกับดูแลระบบการตัดสินใจอัตโนมัติ (ADS) วิธีการของเรามีพื้นฐานมาจากกิจกรรมทางการศึกษาและการมีส่วนร่วมในนโยบาย

เมืองนิวยอร์กกำลังพิจารณาร่างกฎหมายที่เสนอ Int 1894 ซึ่งจะควบคุมการใช้ ADS ในการบริหารจัดการโดยผ่านการตรวจสอบและเปิดเผยข้อมูลต่อสาธารณชน R/AI ได้ให้คำวิจารณ์ต่อร่างกฎหมายตามการวิจัยและข้อมูลเชิงลึกที่เราได้รับจากผู้หางานผ่านกิจกรรม การมีส่วนร่วมของสาธารณชน

เรายังร่วมมือกับ The GovLab ที่ NYU และ Institute for Ethics in AI at the Technical University of Munich ในการสร้างหลักสูตรออนไลน์ฟรีเรื่อง “AI Ethics: Global Perspectives” ซึ่งเปิดตัวเมื่อต้นเดือนนี้

โครงการอื่นๆ ที่ R/AI ได้รับความสนใจคือซีรีส์หนังสือการ์ตูน “Data, Responsibly” เล่มแรกของซีรีส์เรื่อง “Mirror, Mirror” มีให้ใช้ภาษาอังกฤษ สเปน และฝรั่งเศส และสามารถเข้าถึงได้ด้วยเครื่องอ่านหน้าจอในภาษาทั้งสามภาษา หนังสือการ์ตูนได้รับรางวัล “Innovation of the Month” จาก Metro Lab Network และ GovTech และได้รับการรายงานจาก Toronto Star เป็นต้น

ปัญหาปัจจุบันหรือที่อาจเกิดขึ้นกับ AI ที่มีอคติในการจ้างงานและการตัดสินใจในการจ้างงานคืออะไร?

คำถามนี้ซับซ้อนและต้องการให้เราเข้าใจก่อนว่า “อคติ” หมายถึงอะไร สิ่งสำคัญที่ต้องทราบคือระบบการจ้างงานอัตโนมัติเป็น “การวิเคราะห์เชิงพยากรณ์” — พวกมันพยากรณ์อนาคตตามอดีต อดีตถูกแสดงโดยข้อมูลทางประวัติศาสตร์เกี่ยวกับบุคคลที่ถูกจ้างโดยบริษัท และเกี่ยวกับวิธีการทำงานของบุคคลเหล่านั้น ระบบถูก “ฝึก” ด้วยข้อมูลนี้ หมายความว่ามันระบุรูปแบบทางสถิติและใช้เพื่อทำการพยากรณ์ รูปแบบเหล่านี้คือ “เวทมนตร์” ของ AI ซึ่งเป็นพื้นฐานของแบบจำลองการพยากรณ์ อย่างไรก็ตาม ข้อมูลทางประวัติศาสตร์ที่รูปแบบเหล่านี้ถูกขุดค้นออกมาเป็นความเงียบเกี่ยวกับบุคคลที่ไม่ได้รับการจ้างงานเพราะเราไม่รู้ว่าพวกเขาจะทำงานได้ดีเพียงใดบนงานที่ไม่ได้รับ และนี่คือที่ที่อคติเข้ามาเล่นงาน ถ้าเราได้จ้างบุคคลจากกลุ่มประชากรและเศรษฐกิจสังคมที่เฉพาะเจาะจงมากขึ้น การเป็นสมาชิกของกลุ่มเหล่านี้และคุณลักษณะที่เกี่ยวข้องกับการเป็นสมาชิกเหล่านั้นจะกลายเป็นส่วนหนึ่งของแบบจำลองการพยากรณ์ ตัวอย่างเช่น ถ้าเราเห็นเพียงผู้สำเร็จการศึกษาจากมหาวิทยาลัยชั้นนำที่ได้รับการจ้างงานในตำแหน่งผู้บริหาร ระบบจะไม่สามารถเรียนรู้ได้ว่าบุคคลที่ไม่ได้เข้าเรียนที่มหาวิทยาลัยเหล่านั้นอาจทำงานได้ดีเช่นกัน

อคติใน AI มีความกว้างกว่าแค่อคติในข้อมูล มันเกิดขึ้นเมื่อเราพยายามใช้เทคโนโลยีโดยที่วิธีแก้ปัญหาเชิงเทคนิคไม่เหมาะสม หรือเมื่อเราตั้งเป้าหมายที่ไม่ถูกต้องสำหรับ AI — มักเนื่องจากเราไม่มีเสียงที่หลากหลายที่โต๊ะออกแบบ หรือเมื่อเรายอมแพ้ต่อความสามารถในการควบคุมของมนุษย์ในปฏิสัมพันธ์ระหว่างมนุษย์และ AI หลังจากที่ AI ถูกนำไปใช้ แต่ละเหตุผลเหล่านี้ต้องการการอภิปรายที่ยาวกว่าที่บทความนี้จะพูดถึง ดังนั้นเพื่อประโยชน์ของการมุ่งเน้น ฉันจะกลับมาที่เรื่องอคติในข้อมูล

เมื่อฉันพยายามอธิบายเรื่องอคติในข้อมูล ฉันชอบใช้ภาพสะท้อนของกระจกเป็นตัวอย่าง ข้อมูลเป็นภาพสะท้อนของโลก เมื่อเราคิดเกี่ยวกับอคติในข้อมูล เราจะตรวจสอบภาพสะท้อนของกระจกนี้ หนึ่งในการตีความ “อคติในข้อมูล” คือว่าภาพสะท้อนถูกบิดเบือน — กระจกของเราอnder-หรือ over-represents บางส่วนของโลก หรือบิดเบือนการอ่านอย่างอื่น การตีความอีกอย่างหนึ่งของ “อคติในข้อมูล” คือว่า แม้ว่าภาพสะท้อนจะเป็นภาพที่ถูกต้อง 100% ก็ยังคงเป็นภาพสะท้อนของโลกในแบบที่เป็นอยู่ในปัจจุบัน ไม่ใช่โลกที่อาจเป็นหรือควรเป็น สิ่งสำคัญคือไม่ใช่หน้าที่ของข้อมูลหรืออัลกอริทึมที่จะบอกเราว่าภาพสะท้อนเป็นภาพที่สมบูรณ์แบบของโลกที่เสียหาย หรือภาพสะท้อนที่เสียหายของโลกที่สมบูรณ์แบบ หรือว่าการบิดเบือนเหล่านี้รวมกันหรือไม่ มันเป็นหน้าที่ของมนุษย์ — บุคคล กลุ่ม หรือสังคมในวงกว้าง — ที่จะต้องตกลงกันว่าเรายอมรับโลกในแบบที่เป็นอยู่หรือไม่ หรือหากไม่ เราจะแก้ไขมันอย่างไร

กลับมาที่การวิเคราะห์เชิงพยากรณ์: ความไม่เท่าเทียมกันที่รุนแรงในข้อมูลซึ่งเป็นภาพสะท้อนของอดีตจะถูกจับได้โดยแบบจำลองการพยากรณ์และอาจถูกทำซ้ำ — และอาจถูกทำให้เลวร้ายลง — ในอนาคต

หากเป้าหมายของเราคือการปรับปรุงแนวปฏิบัติในการจ้างงานโดยมุ่งเน้นไปที่ความเท่าเทียมและความหลากหลาย เราก็ไม่สามารถมอบหมายงานนี้ให้กับเครื่องจักรได้ เราต้องทำการทำงานหนักในการระบุสาเหตุของอคติในการจ้างงานและตัดสินใจในการจ้างงานโดยตรง และต้องเจรจาแนวทางแก้ไขเชิงสังคม-กฎหมาย-เทคนิคที่มีการมีส่วนร่วมจากทุกฝ่ายที่เกี่ยวข้อง เทคโนโลยีแน่นอนมีบทบาทในการช่วยให้เราปรับปรุงสถานะปัจจุบัน: มันสามารถช่วยให้เราตรงไปตรงมาเกี่ยวกับเป้าหมายและผลลัพธ์ของเรา แต่การหลอกลวงตัวเองว่าการทำให้ข้อมูลหรือการวิเคราะห์เชิงพยากรณ์ไม่มีอคติจะแก้ปัญหาเชิงลึกของการเลือกปฏิบัติในการจ้างงานได้คือความง่ายเกินไป

คุณได้ให้การเป็นพยานต่อ NYC Council’s Committee on Technology เมื่อเร็วๆ นี้ และมีคำกล่าวที่น่าสนใจคือ “เราพบว่าทั้งงบประมาณของผู้ลงโฆษณาและเนื้อหาของโฆษณาเป็นตัวกำหนดทิศทางของการนำเสนอโฆษณาของ Facebook (META ) อย่างมีนัยสำคัญ เราได้สังเกตเห็นความไม่เท่าเทียมกันอย่างมีนัยสำคัญในการนำเสนอโฆษณาในแง่ของเพศและเชื้อชาติสำหรับโฆษณาจริงเกี่ยวกับโอกาสในการจ้างงานและการอยู่อาศัย尽管มีการกำหนดเป้าหมายที่เป็นกลาง” วิธีแก้ปัญหาที่จะหลีกเลี่ยงอคติประเภทนี้คืออะไร?

คำกล่าวที่ฉันพูดถึงนี้มีพื้นฐานมาจาก งานวิจัยของ Ali et al. เรื่อง “การเลือกปฏิบัติผ่านการเพิ่มประสิทธิภาพ: วิธีการนำเสนอโฆษณาของ Facebook สามารถนำไปสู่ผลลัพธ์ที่มีอคติได้อย่างไร” ผู้เขียนพบว่ากลไกการนำเสนอโฆษณาเองเป็นสาเหตุของผลกระทบการเลือกปฏิบัติและเพิ่มผลกระทบเหล่านั้น การค้นพบครั้งนี้เป็นปัญหาที่ร้ายแรงมาก โดยเฉพาะอย่างยิ่งเมื่อเปรียบเทียบกับความไม่โปร่งใสของ Facebook และแพลตฟอร์มอื่นๆ เช่น Google (GOOGL ) และ Twitter ภาระอยู่ที่แพลตฟอร์มเหล่านี้ที่จะต้องแสดงให้เห็นอย่างชัดเจนว่าพวกเขาสามารถควบคุมผลกระทบการเลือกปฏิบัติได้อย่างไร ไม่เช่นนั้น ฉันไม่สามารถหาสาเหตุใดๆ ที่จะอธิบายการดำเนินการต่อของการโฆษณาที่มีการกำหนดเป้าหมายส่วนบุคคลในด้านที่เกี่ยวข้องกับการจ้างงานและการอยู่อาศัย

นักวิทยาศาสตร์ข้อมูลและนักพัฒนา AI สามารถป้องกันไม่ให้อคติที่ไม่ได้ตั้งใจเกิดขึ้นในระบบของตนได้อย่างไร?

ไม่ใช่แค่นักวิทยาศาสตร์ข้อมูลหรือกลุ่มผู้มีส่วนได้ส่วนเสียใดๆ ที่ต้องรับผิดชอบในการทำให้แน่ใจว่าระบบทางเทคนิคสอดคล้องกับค่านิยมของสังคม นักวิทยาศาสตร์ข้อมูลอยู่ในแนวหน้าในการต่อสู้ครั้งนี้ ในฐานะนักวิทยาศาสตร์คอมพิวเตอร์ ฉันสามารถยืนยันได้ว่าการคิดว่าระบบที่เราออกแบบนั้น “เป็นกลาง” “เหมาะสม” หรือ “ถูกต้อง” นั้นน่าดึงดูดใจ แต่ความสำเร็จของวิทยาศาสตร์คอมพิวเตอร์และวิทยาศาสตร์ข้อมูล — ความมีอิทธิพลและความแพร่หลาย — เป็นทั้ง 축복และคำสาป นักเทคนิคไม่มีความสุขในการซ่อนตัวหลังเป้าหมายที่ไม่สามารถทำได้ของความเป็นกลางและความถูกต้อง ภาระอยู่ที่เราที่จะต้องคิดอย่างรอบคอบเกี่ยวกับตำแหน่งของเราในโลก และศึกษาตัวเองเกี่ยวกับกระบวนการทางสังคมและการเมืองที่เรากำลังส่งผลกระทบ สังคมไม่สามารถทนให้เราเร่งความเร็วและทำลายสิ่งต่างๆ ได้ เราต้องชะลอความเร็วและสะท้อนความคิด

เป็นสัญลักษณ์ที่ว่าปรัชญาเคยเป็นศูนย์กลางของการอภิปรายทางวิทยาศาสตร์และสังคมทั้งหมด จากนั้นจึงตามด้วยคณิตศาสตร์ และจากนั้นจึงเป็นวิทยาศาสตร์คอมพิวเตอร์ ตอนนี้ด้วยการขึ้นสู่เวทีของวิทยาศาสตร์ข้อมูล เราได้กลับมาสู่รากฐานทางปรัชญาอีกครั้ง

คำแนะนำอื่นๆ ที่คุณให้ไว้คือการสร้างสาธารณชนที่มีความรู้ คุณสามารถบอกเราได้อย่างไรว่าจะสร้างสาธารณชนที่ไม่คุ้นเคยกับ AI หรือเข้าใจปัญหาเกี่ยวกับอคติของ AI?

มีความจำเป็นอย่างยิ่งที่จะต้องให้การศึกษาสาธารณชนเกี่ยวกับเทคโนโลยี และให้การศึกษานักเทคนิคเกี่ยวกับผลกระทบทางสังคม จะต้องใช้ความมุ่งมั่นและลงทุนอย่างมากจากภาครัฐ เราต้องสร้างวัสดุและวิธีการศึกษาสำหรับทุกกลุ่ม และหาวิธีส่งเสริมการเข้าร่วม ไม่สามารถปล่อยให้หน่วยงานพาณิชย์ทำหน้าที่นี้ได้ สหภาพยุโรปเป็นผู้นำในเรื่องนี้ โดยมีรัฐบาลหลายประเทศให้การสนับสนุน การศึกษาพื้นฐานเกี่ยวกับ AI สำหรับพลเมืองของตน และรวมหลักสูตร AI เข้ากับโปรแกรมโรงเรียนมัธยม เราที่ R/AI กำลังทำงานในหลักสูตรที่สามารถเข้าถึงได้และเปิดกว้างสำหรับสาธารณชน โดยมีเป้าหมายที่จะสร้างสาธารณชนที่มีส่วนร่วมที่จะช่วยให้ AI เป็นไปตามที่เราต้องการ เรารู้สึกตื่นเต้นเกี่ยวกับงานนี้ และขอให้คุณติดตามข้อมูลเพิ่มเติมในเดือนหน้า

ขอขอบคุณสำหรับการตอบคำถามที่มีรายละเอียดดี ผู้อ่านสามารถเยี่ยมชม Center for Responsible AI เพื่อเรียนรู้เพิ่มเติม