บรัดฟอร์ด นิวแมน ประธานฝ่ายการปฏิบัติงานการค้าลับของอเมริกาเหนือ – ซีรีส์สัมภาษณ์

บรัดฟอร์ดเป็นผู้เชี่ยวชาญด้านการค้าลับและปัญญาประดิษฐ์ เขาเป็นประธานคณะกรรมการย่อยด้านปัญญาประดิษฐ์ของสมาคมนักกฎหมายอเมริกัน ได้รับการยอมรับจาก Daily Journal (DJCO ) ในปี 2019 ว่าเป็นหนึ่งในทนายความด้านปัญญาประดิษฐ์ที่ดีที่สุด 20 คนในแคลิฟอร์เนีย บรัดฟอร์ดมีบทบาทสำคัญในการเสนอ法案ด้านการค้าลับและทรัพย์สินทางปัญญาของรัฐบาลกลาง ซึ่งในปี 2018 ได้ถูกนำไปใช้ในร่างกฎหมายของสภาผู้แทนราษฎรสหรัฐฯ เขายังได้พัฒนาแนวปฏิบัติด้านการกำกับดูแลและความรับผิดชอบขององค์กรสำหรับปัญญาประดิษฐ์ เพื่อให้แน่ใจว่ามีการใช้ปัญญาประดิษฐ์ที่ยุติธรรม

อะไรคือสิ่งที่กระตุ้นให้คุณสนใจปัญญาประดิษฐ์?

ฉันเคยเป็นตัวแทนของบริษัทที่เป็นผู้นำด้านการผลิตและพัฒนาผลิตภัณฑ์ปัญญาประดิษฐ์มานานหลายปี ความสนใจของฉันอยู่ที่การทำความเข้าใจด้านกฎหมายและเทคนิคของการเรียนรู้ของเครื่องจักร และสังเกตเห็นว่าปัญญาประดิษฐ์สามารถนำไปใช้ในหลายๆ ด้าน

คุณเป็นผู้สนับสนุนการกำกับดูแลปัญญาประดิษฐ์ที่มีเหตุผล โดยเฉพาะอย่างยิ่งในการกำกับดูแลที่ปกป้องสุขภาพของประชาชน คุณสามารถพูดถึงข้อกังวลหลักๆ ของคุณได้หรือไม่?

ฉันเชื่อว่าเรากำลังอยู่ในช่วงแรกของการปฏิวัติที่ยิ่งใหญ่ที่สุดของมนุษยชาติ ปัญญาประดิษฐ์มีศักยภาพที่จะส่งผลกระทบต่อทุกด้านของชีวิตเรา ตั้งแต่ตอนเช้าจนถึงตอนกลางคืน และแม้กระทั่งขณะนอนหลับ

ปัจจุบัน จากมุมมองของวิทยาการคอมพิวเตอร์และการเรียนรู้ของเครื่องจักร มนุษย์ยังคงมีส่วนร่วมอย่างมากในกระบวนการ ตั้งแต่การเขียนโค้ดและทำความเข้าใจชุดข้อมูลการฝึกอบรม ไปจนถึงการประมวลผลผลลัพธ์และการทำความเข้าใจข้อจำกัดของเทคโนโลยี

แต่เรากำลังต่อสู้กับเวลาในสองด้านหลักๆ อันดับแรก คือปัญหา “กล่องดำ” ซึ่งความเข้าใจและความเกี่ยวข้องของมนุษย์ต่อปัญญาประดิษฐ์จะลดลงเมื่อปัญญาประดิษฐ์มีความซับซ้อนมากขึ้น และอันดับสอง การใช้ปัญญาประดิษฐ์โดยรัฐบาลและผู้สนใจอื่นๆ จะเพิ่มขึ้น

ข้อกังวลของฉันคือปัญญาประดิษฐ์จะถูกใช้โดยเจตนาหรือไม่เจตนาในทางที่ขัดแย้งกับอุดมการณ์ประชาธิปไตยเสรีของเสรีภาพและความเป็นอิสระของบุคคล

เราจะแก้ไขข้อกังวลเหล่านี้ได้อย่างไร?

สังคมอยู่ ณ จุดที่เราต้องแก้ไขไม่ใช่สิ่งที่เป็นไปได้กับปัญญาประดิษฐ์ แต่สิ่งที่ควรห้ามหรือจำกัดบางส่วน

ขั้นแรก เราต้องระบุการตัดสินใจที่ไม่สามารถทำได้ด้วยการประมวลผลของปัญญาประดิษฐ์ โดยไม่คำนึงถึงความถูกต้องและความโปร่งใสของข้อมูลเข้าและออก

สิ่งนี้อาจดูขัดกับความต้องการความแน่นอนทางคณิตศาสตร์ แต่การกำหนด “เขตห้ามบิน” สำหรับปัญญาประดิษฐ์เป็นสิ่งจำเป็นในการรักษาเสรีภาพที่เราทุกคนรักและเป็นพื้นฐานของสังคม

ขั้นตอนที่สอง สำหรับการตัดสินใจอื่นๆ ที่อาศัยการวิเคราะห์ปัญญาประดิษฐ์ เราต้องการกฎหมายที่กำหนดให้มีการมีส่วนร่วมของมนุษย์ในกระบวนการตัดสินใจ

คุณมีบทบาทสำคัญในการเสนอ法案ด้านการค้าลับและทรัพย์สินทางปัญญาของรัฐบาลกลาง ซึ่งในปี 2018 ได้ถูกนำไปใช้ในร่างกฎหมายของสภาผู้แทนราษฎรสหรัฐฯ คุณสามารถพูดถึงการเสนอ法案เหล่านี้ได้หรือไม่?

法案ปัญญาประดิษฐ์สำหรับการคุ้มครองข้อมูลมีจุดมุ่งหมายเพื่อส่งเสริมนวัตกรรมและออกแบบมาเพื่อ (1) เพิ่มความโปร่งใสในการใช้ปัญญาประดิษฐ์ (2) จัดการกับผลกระทบต่อตลาดแรงงาน และ (3) ปกป้องสุขภาพและความปลอดภัยของประชาชน

มีส่วนประกอบสำคัญหลายประการ เช่น ห้ามไม่ให้ใช้ปัญญาประดิษฐ์เพียงอย่างเดียวในการตัดสินใจบางอย่าง รวมถึงการตัดสินใจเกี่ยวกับการจ้างงานหรือการปฏิเสธหรือจำกัดการรักษาพยาบาล และห้ามไม่ให้ใช้ปัญญาประดิษฐ์ในการตัดสินใจเกี่ยวกับการให้ความคุ้มครองประกันสุขภาพ

คุณยังได้พัฒนาแนวปฏิบัติด้านการกำกับดูแลและความรับผิดชอบขององค์กรสำหรับปัญญาประดิษฐ์ เพื่อให้แน่ใจว่ามีการใช้ปัญญาประดิษฐ์ที่ยุติธรรม คุณสามารถพูดถึงปัญหาในปัจจุบันที่คุณเห็นเกี่ยวกับความยุติธรรมหรือความลำเอียงในระบบปัญญาประดิษฐ์?

หัวข้อนี้ได้รับการตรวจสอบอย่างเข้มข้นจากนักวิชาการและกำลังได้รับความสนใจจากหน่วยงานรัฐบาลสหรัฐฯ เช่น คณะกรรมการความเสมอภาคในการจ้างงาน (EEOC) และทนายความฝ่ายโจทก์

ส่วนใหญ่แล้ว สาเหตุของปัญหาเกิดจากข้อผิดพลาดในชุดข้อมูลการฝึกอบรมหรือการขาดความเข้าใจและความโปร่งใสในการทดสอบ สิ่งนี้ยังรวมถึงการขาดการเป็นเจ้าของและกำกับดูแลขององค์กรระดับสูง

การขาดความเข้าใจและความตระหนักนี้เป็นปัญหาที่สำคัญและอาจนำไปสู่ความรับผิดชอบทางกฎหมายได้

การเรียนรู้เชิงลึกมักจะประสบปัญหา “กล่องดำ” ซึ่งเราใส่ข้อมูลเข้าไปในเครือข่ายประสาทเทียมและได้รับผลลัพธ์โดยไม่ทราบว่าผลลัพธ์นั้นเกิดขึ้นได้อย่างไร คุณคิดว่านี่เป็นปัญหาใหญ่หรือไม่?

ใช่ และเมื่อแอลกอริทึมและเครือข่ายประสาทเทียมพัฒนาต่อไป และมนุษย์ไม่ได้มีส่วนร่วมในกระบวนการ มีความเสี่ยงจริงที่จะผ่านจุดเปลี่ยนไปสู่จุดที่เราไม่สามารถเข้าใจองค์ประกอบสำคัญของการทำงานและผลลัพธ์ได้

ด้วยการระบาดของโควิด-19 ประเทศต่างๆ ทั่วโลกได้นำระบบการเฝ้าระวังของรัฐที่ใช้ปัญญาประดิษฐ์มาใช้ คุณมีปัญหาใดๆ กับการใช้ระบบการเฝ้าระวังประเภทนี้หรือไม่?

เป็นความผิดพลาดและไม่รับผิดชอบต่อเสรีภาพส่วนบุคคลและความเป็นอิสระที่จะเพิกเฉยหรือลดความสำคัญของความเสี่ยงในการละเมิดสิทธิ

ในขณะที่การตรวจสอบติดตามผู้ติดต่อดูเหมือนจะเป็นเรื่องสมเหตุสมผลในช่วงการระบาดทั่วของโควิด-19 และการรู้จำใบหน้าโดยใช้ปัญญาประดิษฐ์เป็นวิธีการที่มีประสิทธิภาพในการทำสิ่งที่มนุษย์ไม่สามารถทำได้ สังคมจะต้องมีการห้ามใช้ระบบเหล่านี้ในทางที่ผิดและต้องมีกลไกการกำกับดูแลและบังคับใช้ที่มีประสิทธิภาพ

หากไม่ทำเช่นนั้น เราจะยอมจำนนต่อการควบคุมของรัฐในเรื่องพื้นฐานของสิทธิและเสรีภาพส่วนบุคคลของเรา และเมื่อเราเสียสิ่งเหล่านี้ไปแล้ว จะไม่มีการคืนมันกลับมา

คุณกล่าวไว้ก่อนหน้านี้ว่า “เราต้องกำหนด ‘เขตห้ามบิน’ สำหรับปัญญาประดิษฐ์ หากเราต้องการรักษาเสรีภาพที่ชาวอเมริกันทุกคนรักและเป็นพื้นฐานของสังคม” คุณสามารถแบ่งปันข้อกังวลเหล่านี้ได้หรือไม่?

เมื่อพูดถึงปัญญาประดิษฐ์ เราต้องมุ่งเน้นไปที่วัตถุประสงค์หลักของปัญญาประดิษฐ์ ซึ่งก็คือการสร้างการวิเคราะห์เชิงพยากรณ์ที่แม่นยำจากชุดข้อมูลขนาดใหญ่ และใช้ในการจำแนกประเภทและตัดสินใจเกี่ยวกับมนุษย์

จากนั้น เราต้องตรวจสอบผู้ตัดสินใจ คือใครกำลังตัดสินใจ และตัดสินใจเกี่ยวกับอะไร และอาศัยอะไร

หากเราทราบว่าผู้ตัดสินใจคือผู้ที่มีผลกระทบมากที่สุดต่อสุขภาพ อาชีพ และเสรีภาพของเรา เช่น ผู้จ้างงาน ผู้ให้เช่าแพทย์ ผู้ให้บริการประกันภัย และหน่วยงานรัฐบาลและเอกชนอื่นๆ ที่สามารถสร้างหรือซื้อการวิเคราะห์ปัญญาประดิษฐ์ได้ จะเห็นได้ง่ายว่าในระบอบประชาธิปไตยเสรี ไม่ควรปล่อยให้ปัญญาประดิษฐ์เป็นตัวตัดสินใจเพียงอย่างเดียว

แม้ว่าการตัดสินใจหลายอย่างจะชัดเจน แต่การนำปัญญาประดิษฐ์ไปใช้ในทุกด้านของชีวิตทำให้เกิดปัญหาที่ซับซ้อนมากขึ้น

ตัวอย่างเช่น หากแอลกอริทึมสามารถทำนายได้อย่างแม่นยำว่าพนักงานที่โพสต์ภาพวันหยุดบนโซเชียลมีเดียมีโอกาสถูกไล่ออกหรือลาออกเร็ว hơnพนักงานที่โพสต์ภาพการทำงาน ควรปฏิเสธการเลื่อนตำแหน่งหรือการเพิ่มเงินเดือนให้กับพนักงานที่โพสต์ภาพวันหยุดหรือไม่?

หรือหากแอลกอริทึมสามารถทำนายได้ว่าเด็กวัยรุ่นที่เล่นวิดีโอเกมมากกว่า 2 ชั่วโมงต่อวันมีโอกาสไม่จบการศึกษาระดับอุดมศึกษาน้อยกว่า ควรปฏิเสธการเข้าเรียนให้กับนักเรียนเหล่านี้หรือไม่?

ตัวอย่างเหล่านี้เป็นเพียงตัวอย่างเล็กๆ น้อยๆ ของการตัดสินใจที่การอาศัยปัญญาประดิษฐ์เพียงอย่างเดียวจะขัดแย้งกับความต้องการสิทธิและเสรีภาพของมนุษย์

มีสิ่งอื่นที่คุณต้องการแบ่งปันเกี่ยวกับปัญญาประดิษฐ์หรือเบเกอร์ แม็คเคนซี่หรือไม่?

ฉันรู้สึกตื่นเต้นที่จะนำพาบริษัทเบเกอร์ แม็คเคนซี่ในการปฏิบัติงานด้านปัญญาประดิษฐ์ที่มีมาตรฐานสากลในภูมิทัศน์ที่เปลี่ยนแปลงอย่างรวดเร็ว

ลูกค้าของเราต้องการคำแนะนำเกี่ยวกับทุกด้านของปัญญาประดิษฐ์ ตั้งแต่การเจรจาสัญญา การสร้างการกำกับดูแลภายใน องค์กร การหลีกเลี่ยงการกล่าวหาเรื่องความลำเอียง ไปจนถึงการทำความเข้าใจกรอบการกำกับดูแลที่เกิดขึ้นใหม่

บริษัทต่างๆ ต้องการทำสิ่งที่ถูกต้อง แต่มีเพียงไม่กี่บริษัทที่มีความเชี่ยวชาญและความเข้าใจที่จำเป็นในการช่วยเหลือพวกเขา ในช่วงเวลานี้เป็นโอกาสที่น่าตื่นเต้นสำหรับเราในการเพิ่มมูลค่าให้กับลูกค้า

ขอขอบคุณสำหรับการตอบคำถามที่ยอดเยี่ยมเกี่ยวกับข้อกังวลทางสังคมที่เกี่ยวข้องกับปัญญาประดิษฐ์ ผู้อ่านสามารถคลิกที่นี่เพื่อเรียนรู้เพิ่มเติมเกี่ยวกับบรัดฟอร์ด นิวแมน