รีด แบล็กแมน Ph.D. ผู้ก่อตั้งและซีอีโอของ Virtue Consultants – สัมภาษณ์ซีรีส์

รีด แบล็กแมน เป็นผู้ก่อตั้งและซีอีโอของ Virtue Consultants ในฐานะนั้น เขาทำงานร่วมกับบริษัทต่างๆ เพื่อผสมผสานจริยธรรมและลดความเสี่ยงด้านจริยธรรมเข้ากับวัฒนธรรมของบริษัท และการพัฒนา การใช้งาน และการซื้อผลิตภัณฑ์เทคโนโลยีที่เกิดขึ้นใหม่ เขายังเป็นที่ปรึกษาอาวุโสของ Ernst & Young และเป็นสมาชิกของคณะกรรมการที่ปรึกษาด้านปัญญาประดิษฐ์ของ IEEE และเป็นสมาชิกของ IEEE Ethically Aligned Design Initiative

งานของรีดได้รับการนำเสนอใน The Wall Street Journal และ Dell Perspectives และเขายังเขียนบทความให้กับ The Harvard Business Review, TechCrunch, VentureBeat, และ Risk & Compliance Magazine เขาได้รับการอ้างอิงในบทความข่าวหลาย篇 และเขาพูดที่เวทีต่างๆ รวมถึง The World Economic Forum, SAP, Cannes Lions, Forbes, NYU Stern School of Business, Columbia University, และ AIG

คุณเคยเป็นอาจารย์ประจำสาขาปรัชญาที่ Colgate University ตั้งแต่ปี 2009 ถึง 2018 ในช่วงเวลานั้นคุณเริ่มรวมเอาเรื่องจริยธรรมด้าน AI เข้ากับการสอนของคุณเมื่อไหร่

ฉันสอนวิชาปรัชญาสังคมและการเมือง ซึ่งฉันครอบคลุมเรื่องของ Marx หนึ่งในข้อกล่าวอ้างหลักของ Marx คือว่าระบบทุนนิยมจะสิ้นสุดลงด้วยลัทธิคอมมิวนิสต์ เนื่องจากการเพิ่มขึ้นของ “สื่อการผลิต” ในอีกทางหนึ่ง ระบบทุนนิยมผลักดันให้เกิดประสิทธิภาพที่มากขึ้นในนามของการแข่งขันและการเปิดตลาดใหม่ ซึ่งหมายถึงการเพิ่มขึ้นของการสร้างเทคโนโลยีที่สามารถผลิตได้มากขึ้นในเวลาที่สั้นลง Marx ยังทำนายว่าสิ่งนี้จะนำไปสู่การเพิ่มขึ้นของเงินในมือของไม่กี่คนและผลักดันให้คนจำนวนมากขึ้นเข้าสู่ความยากจน ซึ่งจะนำไปสู่การล้มล้างโครงสร้างทุนนิยมโดยการปฏิวัติที่นำโดยคนยากจนจำนวนมาก สิ่งนี้นำไปสู่การอภิปรายเกี่ยวกับจริยธรรมของเทคโนโลยีที่ทำให้ไม่ต้องการแรงงานมนุษย์ ซึ่งเป็นองค์ประกอบหลักของจริยธรรม AI

เรื่องเล็กๆ ที่คุณอาจสนใจ: เมื่อปี 2002 ฉันเป็นนักศึกษาระดับบัณฑิตศึกษา ที่นำการอภิปรายเกี่ยวกับ Marx กับนักศึกษาระดับอุดมศึกษา ที่ Northwestern University ในช่วงหนึ่ง นักเรียนคนหนึ่งยกมือและพูดว่า “ในที่สุดเราจะไม่ต้องการมนุษย์ในการทำงาน” ห้องเรียนสับสน ฉันก็สับสนเช่นกัน ฉันจึงพูดว่า “ดังนั้น ใครจะทำการทำงาน?” เขาตอบด้วยน้ำเสียงที่เป็นเรื่องปกติ: “หุ่นยนต์” ห้องเรียนระเบิดออกในเสียงหัวเราะ ฉันระงับเสียงหัวเราะของตัวเอง แต่เห็นได้ชัดว่าใครได้รับเสียงหัวเราะสุดท้าย

ในปี 2018 คุณได้เริ่ม Virtue Consultants ซึ่งเป็นบริษัทที่ปรึกษาด้านจริยธรรมที่ช่วยให้ผู้นำด้านข้อมูลและ AI ระบุและลดความเสี่ยงด้านจริยธรรมของผลิตภัณฑ์ของตน สิ่งใดที่ทำให้คุณเริ่มการเดินทางเชิงธุรกิจนี้

ความอิจฉา หรืออาจจะไม่ใช่ ฉันเริ่มธุรกิจการค้าขายพลุเมื่อฉันยังเป็นนักศึกษาระดับบัณฑิตศึกษา ฉันคิดว่าฉันเริ่มในปี 2003 หรือ 2004 ธุรกิจนั้นดีขึ้นกว่าที่ฉันคาดไว้ และบริษัทยังคงอยู่ แม้ว่าตอนนี้ฉันจะเป็นที่ปรึกษาและไม่ได้ดูแลการดำเนินงานประจำวันแล้ว สิ่งนี้เกี่ยวข้องกับวิธีที่ฉันมาเป็นคนชี้แนะให้กับธุรกิจสตาร์ทอัพในโปรแกรมการเป็นผู้ประกอบการของ Colgate (เรียกว่า TIA, Thought Into Action, โดย Andy Greenfield และ Wills Hapworth ซึ่งเป็นผู้นำ TIA Ventures) ในฐานะคนชี้แนะ ฉันเห็นนักเรียนที่เริ่มโครงการที่น่าตื่นเต้นเมื่อพวกเขาพยายามหาวิธีจัดตั้งและขยายธุรกิจสตาร์ทอัพของตน และฉันคิดว่า “ฉันต้องการสิ่งนั้น!” แต่สิ่งใหม่ของฉันจะเป็นอะไร? มันจะต้องเกี่ยวข้องกับความรักของฉันต่อปรัชญาและจริยธรรม และสิ่งแรกที่มีเหตุผลคือการเป็นที่ปรึกษาด้านจริยธรรม ฉันไม่เห็นตลาดสำหรับบริการดังกล่าวในขณะนั้น เพราะไม่มีมัน และดังนั้นฉันจึงรอ แล้ว Cambridge Analytica, BLM, และ #MeToo ติดหัวข่าวระดับชาติ และ突然มีความตระหนักมากขึ้นเกี่ยวกับความจำเป็น

การนำเสนอกลุ่มจริยธรรม AI มีความสำคัญเพียงใดสำหรับบริษัทต่างๆ

การนำเสนอกลุ่มจริยธรรม AI ไม่จำเป็น แต่เป็นเครื่องมือที่มีประโยชน์มากในการตั้งเป้าหมาย เมื่อคุณนำโปรแกรมจริยธรรม AI เข้ามาในองค์กรของคุณ คุณต้องการระบุและลดความเสี่ยงด้านจริยธรรม ความเสื่อมเสีย ชื่อเสียง กฎระเบียบ และกฎหมายที่เกี่ยวข้องกับผลิตภัณฑ์ของคุณ นั่นคือหน้าที่หลักของมัน การนำเสนอกลุ่มจริยธรรม AI ช่วยในการอธิบายว่าสิ่งต่างๆ จะดูอย่างไรเมื่อคุณมีโครงสร้างพื้นฐาน กระบวนการ และแนวปฏิบัติที่จะบรรลุเป้าหมายนั้น ในแง่ที่ว่ากลยุทธ์ต้องมีเป้าหมาย – ซึ่งมันทำเสมอ – การนำเสนอกลุ่มจริยธรรม AI เป็นวิธีที่ดีในการอธิบายเป้าหมายนั้น แม้ว่ามันจะไม่ใช่วิธีเดียว

บริษัทต่างๆ สามารถรับประกันได้อย่างไรว่าคำชี้แจงด้านจริยธรรมจะถูกนำไปใช้ในการดำเนินงานและการปฏิบัติ
คำชี้แจงด้านจริยธรรมเป็นเพียงขั้นตอนเล็กๆ ในทิศทางที่ถูกต้อง หากคุณต้องการดำเนินการต่อ ขั้นตอนต่อไปที่เป็นธรรมชาติคือการประเมินว่าคุณอยู่ที่ไหนเมื่อเทียบกับเป้าหมายที่ระบุไว้ในคำชี้แจงนั้น เมื่อคุณรู้ว่าช่องว่างที่ใหญ่ที่สุดและเสี่ยงที่สุดคือที่ไหน – นั่นคือที่คุณเสี่ยงมากที่สุดในการไม่บรรลุเป้าหมายของคุณ – คุณสามารถเริ่มคิดวิธีแก้ปัญหาเพื่อลดช่องว่างเหล่านั้น อาจเป็นคณะกรรมการด้านจริยธรรม อาจเป็นกระบวนการตรวจสอบความถูกต้องระหว่างการพัฒนาผลิตภัณฑ์ อาจเป็นการดูแลข้อมูลในแผนกที่ไม่ใช่ผลิตภัณฑ์ เช่น การตลาดและการบริหารทรัพยากรบุคคล อาจเป็นสิ่งเหล่านั้นทั้งหมดและอื่นๆ

มีวิธีแก้ปัญหาใดบ้างที่บริษัทต่างๆ ควรนำไปใช้เพื่อหลีกเลี่ยงการนำเข้าข้อมูลที่มีอคติเข้าไปในอัลกอริทึม AI จริงๆ

มีเครื่องมือทางเทคนิคมากมายสำหรับการระบุอคติ แต่มันถูกจำกัด มันจะช่วยให้คุณเปรียบเทียบผลลัพธ์ของโมเดลของคุณกับเมตริกที่มีจำนวนมากที่ถูกนำเสนอในวรรณกรรมทางจริยธรรมของ ML แต่คุณต้องระวังเพราะเมตริกเหล่านั้นไม่เข้ากัน คุณต้องตัดสินใจอย่างมีจริยธรรม: เมตริกใดที่เหมาะสมในบริบทนี้

นอกเหนือจากการใช้เครื่องมือเช่นนั้น พร้อมกับการตอบคำถามที่มีความรับผิดชอบ บริษัทผลิตควรพิจารณาว่าอคติสามารถเข้ามาได้ที่ไหนก่อนที่จะเริ่มสร้างผลิตภัณฑ์ อคติสามารถถูกปิดล้อมหรือสะท้อนในเซตข้อมูลที่ใช้ในการฝึกอบรมได้อย่างไร อคติสามารถเข้ามาได้ที่ไหนในการกำหนดฟังก์ชันทางวัตถุประสงค์ อคติสามารถเข้ามาได้ที่ไหนในการกำหนดค่าขีดจำกัด มีหลายจุดที่อคติสามารถเข้ามาได้ การคิดล่วงหน้าเกี่ยวกับว่าอคติสามารถเข้ามาได้ที่ไหนในโครงการปัจจุบันและวิธีการระบุและลดอคตินั้นเป็นสิ่งจำเป็น

บริษัท AI มีชื่อเสียงในเรื่องการถูกครอบงำโดยผู้ชายผิวขาวที่อาจนำเข้าข้อมูลที่มีอคติเข้าไปในระบบ AI โดยไม่ตั้งใจ เพื่อหลีกเลี่ยงสิ่งนี้ หัวหน้าฝ่ายทรัพยากรบุคคลควรพิจารณาลักษณะใด

ฉันสนับสนุนโอกาสที่มากขึ้นและความหลากหลายที่มากขึ้นในหมู่วิศวกรและทีมผลิตภัณฑ์โดยทั่วไป แต่ฉันคิดว่านี่เป็นการมองสิ่งต่างๆ ผ่านเลนส์ที่ไม่ถูกต้อง ปัญหาหลักเมื่อพูดถึงอัลกอริทึมที่มีอคติไม่ใช่ว่าอคติของชายผิวขาวนำไปสู่โค้ดที่มีอคติ แต่เป็นว่าเซตข้อมูลที่ใช้ในการฝึกอบรมมีอคติ จริงๆ แล้ว งานวิจัยที่เพิ่งออกมาจากรัฐโคลัมเบีย – “Biased Programmers? Or Biased Data? A Field Experiment in Operationalizing AI Ethics” – สรุปว่า “[p]rogrammers who understand technical guidance successfully reduce bias” และ “[a]lgorithmic predictions by female and minority AI programmers do not exhibit less algorithmic bias or discrimination” ดังนั้น แม้ว่าฝ่ายทรัพยากรบุคคลควรให้ความสนใจกับประเด็นความหลากหลาย แต่ก็ไม่ชัดเจนว่ากลยุทธ์ในการลดการนำเข้าข้อมูลที่มีอคติควรให้ความสำคัญกับการตัดสินใจในการจ้างงานที่เกี่ยวข้องกับความหลากหลายเป็นหลัก

คุณสามารถอธิบายได้หรือไม่ว่าการตรวจสอบความเสี่ยงด้านจริยธรรมคืออะไร และทำไมบริษัทต่างๆ ควรนำสิ่งนี้ไปใช้

การตรวจสอบความเสี่ยงด้านจริยธรรมคือการพยายามระบุความเสี่ยงด้านจริยธรรมที่หลากหลายที่อาจเกิดขึ้นกับผลิตภัณฑ์ที่คุณกำลังสร้าง รวมถึงวิธีการใช้งานและอาจถูกใช้ในทางที่ผิด คุณต้องการมุ่งเน้นไปที่คุณสมบัติของผลิตภัณฑ์ – ทั้งที่มีและที่ไม่มี – และวิธีที่คุณสมบัติเหล่านั้นสามารถนำไปสู่การกระทำที่ผิดจริยธรรมเมื่อใช้ในบริบทต่างๆ เมื่อทำได้ดี มันเป็นการตรวจสอบอย่างเป็นระบบและครอบคลุม เมื่อทำได้ดี มันเป็นการตรวจสอบอย่างเป็นระบบและครอบคลุม แน่นอนว่าคุณสามารถพยายามมองไปรอบๆ มุมได้ แต่ก็มีบางสิ่งที่คุณอาจพลาดไป ซึ่งเป็นเหตุผลที่การตรวจสอบอย่างต่อเนื่องมีความสำคัญ

สิ่งที่บริษัทต่างๆ ควรนำสิ่งนี้ไปใช้คือการพิจารณาความเสี่ยงด้านจริยธรรม ชื่อเสียง กฎระเบียบ และกฎหมายที่เกี่ยวข้องกับการไม่ทำเช่นนั้น คิดถึง Optum ที่อยู่ในข่าวและถูกสอบสวนโดยหน่วยงานกำกับดูแลสำหรับอัลกอริทึมที่มีอคติ (ตามที่กล่าวไว้) ที่แนะนำให้แพทย์ให้ความสนใจกับผู้ป่วยผิวขาวมากกว่าผู้ป่วยผิวดำที่ป่วยมากขึ้น หรือ Goldman Sachs (GS ) ที่ถูกสอบสวนเกี่ยวกับขีดจำกัดเครดิตสำหรับ Apple (AAPL ) Card ที่มีอคติ (ตามที่กล่าวไว้) ต่อผู้หญิง หรือซอฟต์แวร์การจ้างงานของ Amazon (AMZN ) ที่ถูกยกเลิกเนื่องจากความกังวลเกี่ยวกับอคติก่อนที่จะถูกใช้งาน หรือ IBM ถูกฟ้องร้องโดย Los Angeles สำหรับการใช้ข้อมูลที่รวบรวมจากแอป Weather ของตนอย่างไม่เหมาะสม หรือ Facebook…

มีสิ่งอื่นที่คุณต้องการแบ่งปันเกี่ยวกับ Virtue Consultants หรือไม่

Virtue ช่วยให้ผู้นำระดับสูงนำจริยธรรม AI ไปใช้ในการปฏิบัติ ไม่ว่าจะเป็นการช่วยให้คนได้รับการศึกษาและพัฒนาทักษะเกี่ยวกับเรื่องนี้ การเขียนคำชี้แจงด้านจริยธรรม AI การสร้างและนำแผนการลดความเสี่ยงด้านจริยธรรม AI ที่สามารถดำเนินการได้ หรือเพียงแค่ทำหน้าที่เป็นที่ปรึกษาด้านจริยธรรม AI หากสิ่งนั้นดูสนใจ คุณควรเข้ามาสวัสดี

ขอขอบคุณสำหรับการสัมภาษณ์ที่ดี ผู้อ่านสามารถเรียนรู้เพิ่มเติมเกี่ยวกับ Reid ได้ที่ Reid Blackman หรือคุณสามารถเยี่ยม Virtue Consultants