แอนดรูว์ เพอร์รี่, Ethics Evangelist, ABBYY – ซีรีส์สัมภาษณ์

แอนดรูว์ เพอร์รี่ เป็น Ethics Evangelist ที่ ABBYY, บริษัทดิจิทัลอินเทลลิเจนซ์ พวกเขาให้อำนาจแก่องค์กรในการเข้าถึงข้อมูลที่มีค่า แต่บางครั้งก็ยากที่จะเข้าถึงข้อมูลเกี่ยวกับการดำเนินงานของตนเอง ซึ่งช่วยให้เกิดการเปลี่ยนแปลงทางธุรกิจที่แท้จริง

ABBYY ได้เปิดตัว Global Initiative Promoting the Development of Trustworthy Artificial Intelligence เราตัดสินใจถามแอนดรูว์เกี่ยวกับจริยธรรมใน AI การละเมิด AI และสิ่งที่อุตสาหกรรม AI สามารถทำได้เกี่ยวกับข้อกังวลเหล่านี้ในอนาคต

อะไรคือสิ่งที่กระตุ้นความสนใจของคุณในเรื่องจริยธรรม AI ในตอนแรก?

สิ่งที่กระตุ้นความสนใจของฉันในเรื่องจริยธรรม AI คือความสนใจที่ลึกซึ้งในการตัดกันของกฎหมายและเทคโนโลยี AI ฉันเริ่มอาชีพของฉันในระบบยุติธรรมทางอาญา โดยเป็นตัวแทนของจำเลยที่ไม่มีเงินเพียงพอในการจ่ายค่าธรรมเนียมทางกฎหมาย จากนั้นฉันก็เปลี่ยนไปสู่เทคโนโลยี โดยมุ่งเน้นไปที่การประยุกต์ใช้การค้นหาที่ซับซ้อนและ AI ในการปฏิบัติตามกฎหมาย ในฐานะผู้เชี่ยวชาญด้านความเป็นส่วนตัวของข้อมูลที่ได้รับการรับรอง ฉันหลงใหลในกฎหมายความเป็นส่วนตัวและการใช้เทคโนโลยี AI ที่เหมาะสมซึ่งสอดคล้องกับและเพิ่มสิทธิความเป็นส่วนตัว

เทคโนโลยีการรู้จำใบหน้ามักถูกละเมิดโดยแหล่งอ้างอิงของอำนาจ รวมถึงรัฐบาลสหรัฐฯ มันควรเป็นข้อกังวลทางสังคมขนาดใหญ่หรือไม่?

ผลกระทบของเทคโนโลยีการรู้จำใบหน้าควรเป็นข้อกังวลทางสังคมขนาดใหญ่ เนื่องจากเทคโนโลยีนี้สามารถส่งผลกระทบต่อสิทธิขั้นพื้นฐานหลายประการ รวมถึงสิทธิทางเศรษฐกิจ สังคม และความมั่นคง

มีหลักฐานที่ชัดเจนและน่าเชื่อถือว่าแอลกอริธึมการรู้จำใบหน้าไม่น่าเชื่อถือ การศึกษาของ NIST เกี่ยวกับแอลกอริธึมการรู้จำใบหน้าพบว่าชาวอเมริกันเชื้อสายแอฟริกันมีโอกาสถูกสับสนได้ถึง 100 เท่า การศึกษาโดย Georgetown Law School พบว่าแอลกอริธึมการรู้จำใบหน้าที่ใช้ภาพถ่ายมีเปอร์เซ็นต์ที่สูงของผลลัพธ์เท็จบวกที่เกี่ยวข้องกับบุคคลเชื้อสายแอฟริกัน และการศึกษาของ MIT ในปี 2018 เกี่ยวกับซอฟต์แวร์การรู้จำใบหน้าของ Amazon (AMZN ) พบว่าในขณะที่ชายผิวขาวถูกระบุได้อย่างถูกต้อง 99% ของเวลา ผู้ที่มีผิวสีเข้มมีผลลัพธ์เท็จบวกสูงถึง 35%

เป็นเพราะเหตุผลเหล่านี้ที่ผู้กำกับดูแลจึงเริ่มดำเนินการเพื่อ禁止การใช้เทคโนโลยีการรู้จำใบหน้า โดยเฉพาะอย่างยิ่งในบริบทของการเฝ้าระวังและการสร้างโปรไฟล์ ตัวอย่างเช่น วุฒิสภาแห่งรัฐแคลิฟอร์เนีย ผ่านกฎหมายห้ามใช้เทคโนโลยีการรู้จำใบหน้า และวิธีการเฝ้าระวังทางไบโอเมตริกซ์อื่นๆ

มีแรงผลักดันภายในชุมชนเทคโนโลยีในการถอยกลับจากการตลาดซอฟต์แวร์การรู้จำใบหน้า IBM ประกาศว่าจะหยุดขายซอฟต์แวร์การรู้จำใบหน้า โดยอ้างว่ามันละเมิดสิทธิมนุษยชนและเสรีภาพขั้นพื้นฐาน Microsoft (MSFT ) ก็ประกาศการตัดสินใจที่คล้ายกันในการหยุดขายเทคโนโลยีการรู้จำใบหน้า โดยอ้างถึงสิทธิมนุษยชนขั้นพื้นฐาน

ซอฟต์แวร์ COMPAS ซึ่งถูกใช้โดยศาลสหรัฐฯ สำหรับการประเมินความเสี่ยงทางอาญาได้เขียนผิดพลาดโดยระบุผู้กระทำผิดที่มีคนสังเกตเห็นว่ามีแนวโน้มที่จะกระทำผิดซ้ำมากกว่าผู้กระทำผิดผิวขาว ควรพิจารณาใช้ AI ในศาลหรือไม่?

การศึกษาเกี่ยวกับ COMPAS พบว่ามันไม่ได้ดีกว่าคนสุ่มในการทำนายอาชญากรรม ในขณะที่การวิเคราะห์เชิงทำนายมอบคุณค่าที่สำคัญในบริบทเชิงพาณิชย์ มันถูกพิสูจน์แล้วว่าทำให้เกิดความไม่เท่าเทียมกันในการใช้งานในกระบวนการยุติธรรมทางอาญา สิ่งนี้เห็นได้ชัดเจนใน รายงาน ที่เผยแพร่โดย Pro Publica ซึ่งพบว่า COMPAS ซอฟต์แวร์ที่ใช้กันมากที่สุดโดยศาลสหรัฐฯ สำหรับการประเมินความเสี่ยงทางอาญาได้เขียนผิดพลาดโดยระบุผู้กระทำผิดที่มีคนสังเกตเห็นว่ามีแนวโน้มที่จะกระทำผิดซ้ำมากกว่าผู้กระทำผิดผิวขาวถึงสองเท่า

ความไม่เท่าเทียมกันเหล่านี้ทำให้ อดีตอัลกอร์นโรเบิร์ต เอช โฮลเดอร์ ตั้งคำถามถึงความยุติธรรมและ แสดงความกังวล เกี่ยวกับความไม่เท่าเทียมกันที่อาจเกิดขึ้นจากการใช้เทคโนโลยี AI เพื่อทำนายอัตราการกระทำผิดซ้ำภายในประชากรผู้กระทำผิด

สังคมสามารถหลีกเลี่ยงการเขียนโปรแกรมอคติเชิงลบเข้าไปในระบบ AI ได้อย่างไร?

ขั้นแรก ต้องยอมรับว่า AI อาจมีแนวโน้มที่จะสร้างอคติที่ไม่ได้ตั้งใจซึ่งเรียกว่าอคติที่ไม่รู้ตัว การบรรเทาผลกระทบด้านลบต้องใช้แนวทางแบบองค์รวม ซึ่งประกอบด้วยการสร้างแนวทางปฏิบัติทางจริยธรรมสำหรับ AI เช่นที่เสนอโดย OECD Ethical Frameworks ซึ่งสร้างขึ้นจากหลักการสำคัญเจ็ดประการ รวมถึงความเป็นเจ้าของของมนุษย์และการกำกับดูแล ความทนทานทางเทคนิคและความปลอดภัย ความเป็นส่วนตัวและการกำกับดูแล ความโปร่งใส ความหลากหลายและความไม่แบ่งแยก สุขภาพและความรับผิดชอบ

ที่สอง การยึดมั่นในกรอบกฎหมายที่คุ้มครองต่อการสร้างโปรไฟล์แบบอัตโนมัติเป็นกุญแจสำคัญ ตัวอย่างเช่น สหภาพยุโรปมีประวัติศาสตร์ที่ยาวนานในการเคารพและคุ้มครองสิทธิความเป็นส่วนตัว โดยมีการบังคับใช้ข้อบังคับการคุ้มครองข้อมูลทั่วไป (GDPR) ซึ่งป้องกันการทำการตัดสินใจโดยอัตโนมัติ

ที่สาม ต้องมีความรับผิดชอบต่ออุตสาหกรรมในการพัฒนาและพัฒนเทคโนโลยี AI โดยมุ่งมั่นที่จะให้ความโปร่งใสโดยไม่กระทบสิทธิในทรัพย์สินทางปัญญา มีการพัฒนาที่ดีในเรื่องนี้ ตัวอย่างเช่น Partnership on AI เป็นองค์กรที่มีสมาชิกมากกว่า 80 คนใน 13 ประเทศที่อุทิศตนเพื่อการวิจัยและอภิปรายเกี่ยวกับประเด็นสำคัญของ AI

สุดท้าย องค์กรเทคโนโลยีควรยึดมั่นในความมุ่งมั่นที่จะดำเนินการประเมินผลกระทบของอคติก่อนการเปิดตัวเชิงพาณิชย์ของแอลกอริธึม AI โดยเฉพาะอย่างยิ่งเมื่อการประยุกต์ใช้ของพวกเขามีผลกระทบต่อความเป็นส่วนตัวและความมั่นคง

เป็นสิ่งสำคัญที่ต้องจำไว้ว่าโซลูชัน AI สะท้อนถึงข้อมูลที่ซ่อนอยู่ซึ่งแอปพลิเคชันเหล่านี้ได้รับการฝึกอบรม ดังนั้นการรับรองว่าข้อมูลนี้ไม่มีอคติและสะท้อนถึงความหลากหลายของผู้มีส่วนได้ส่วนเสียที่โซลูชันจะให้บริการเป็นสิ่งสำคัญ

ABBYY ได้เปิดตัว Global Initiative ส่งเสริมการพัฒนา AI ที่น่าเชื่อถือ ลานกอล์ฟสำคัญแค่ไหนต่ออนาคตของ ABBYY?

การตัดสินใจในการพัฒนา Global Initiative สำหรับ AI ที่น่าเชื่อถือ เป็นการตัดสินใจที่สำคัญซึ่งได้รับแรงผลักดันจากความเชื่อของเราว่าเป็นองค์กรที่เทคโนโลยีของเรามีผลกระทบต่อองค์กรทั่วโลกและให้บริการผู้ใช้คนเดียวหลายหมื่นคน เรามีหน้าที่ที่จะต้องเป็นพลเมืององค์กรที่ดีและมีจิตสำนึกทางสังคม

นอกจากนี้ยังเป็นเรื่องของธุรกิจที่ดีที่จะส่งเสริมและสนับสนุนการใช้ AI ที่น่าเชื่อถือ มันเสริมสร้างความเท่าเทียมกันของแบรนด์ สร้างความไว้วางใจกับลูกค้าและพันธมิตรระดับโลกของเรา ความไว้วางใจแปลเป็นธุรกิจซ้ำและเติบโตอย่างยั่งยืน

ส่วนหนึ่งของการริเริ่มนี้คือ ABBYY มุ่งมั่นที่จะสร้างวัฒนธรรมที่ส่งเสริมการใช้ AI ในทางที่ดีและประโยชน์ต่อสังคม สิ่งที่ต้องทำเพื่อให้บริษัทอื่นๆ สร้างวัฒนธรรมที่คล้ายกัน?

บริษัทเทคโนโลยีต้องสร้างโครงสร้างสำหรับการใช้ AI ในทางจริยธรรม ระดับของความมุ่งมั่นนี้ขึ้นอยู่กับการใช้งานที่ตั้งใจไว้ของแอลกอริธึม AI วิธีที่ดีที่สุดในการประเมินผลกระทบของมันคือการนำหลักการ “ไม่ทำอันตราย” และมีความมุ่งมั่นจากบนลงล่างต่อการใช้ AI ที่น่าเชื่อถือ

สิ่งสำคัญที่สุดคือความมุ่งมั่นต่อความโปร่งใส ในขณะที่สิทธิในทรัพย์สินทางปัญญาควรสมดุลกับหลักการของ AI ที่น่าเชื่อถือ ความสำคัญของความโปร่งใสและความรับผิดชอบต่อการใช้ AI ที่รับผิดชอบควรได้รับการเน้นและถ่ายทอดทั่วทั้งองค์กร

หนึ่งในการริเริ่มที่ ABBYY มุ่งมั่นคือการนำเสนอเทคโนโลยี AI ที่เป็นประโยชน์ต่อสังคมและเศรษฐกิจ ซึ่งเป็นความสมดุลที่ยากที่จะบรรลุได้ บริษัทสามารถนำไปปฏิบัติได้อย่างไร?

ผู้นำสามารถบรรลุความสมดุลนี้ได้โดยพิจารณาแนะนำจาก Deloitte การออกแบบจริยธรรมเข้าไปใน AI เริ่มต้นด้วยการกำหนดสิ่งที่สำคัญต่อผู้มีส่วนได้ส่วนเสีย เช่น ลูกค้า พนักงาน ผู้กำกับดูแล และสาธารณชน บริษัทควรจัดตั้งคณะกรรมการกำกับดูแลและที่ปรึกษาด้าน AI จากผู้นำข้ามฟังก์ชันและที่ปรึกษาภายนอกที่จะร่วมมือกับกลุ่มทำงานหลายฝ่ายและจัดตั้งและดูแลการกำกับดูแลของโซลูชันที่ใช้ AI รวมถึงการออกแบบ การพัฒนา การใช้งานและการใช้งาน

วิธีที่เราสมดุลระหว่างความสนใจเชิงพาณิชย์ของเราและความดีทางสังคมได้แสดงให้เห็นอย่างดีในช่วงการระบาดของโควิด-19 เราได้ให้เทคโนโลยีของเรามาใช้ฟรีหรือในอัตราที่ลดลงเพื่อช่วยให้บุคคลและองค์กรสามารถนำทางวิกฤตได้

เรายังได้เผยแพร่เฟรมเวิร์กเทคโนโลยีของเราผ่าน NeoML ซึ่งเป็นไลบรารีเครื่องมืออัตโนมัติแบบเปิดที่ช่วยให้นักพัฒนาซอฟต์แวร์สามารถใช้แบบจำลองที่พิสูจน์แล้วและเชื่อถือได้เพื่อขับเคลื่อนนวัตกรรม AI

คุณสามารถแบ่งปันมุมมองเกี่ยวกับการใช้ AI สำหรับแอปพลิเคชันการติดตามติดต่อสำหรับการระบาดของโควิด-19 และความจำเป็นในการสร้างสมดุลระหว่างสิทธิความเป็นส่วนตัว?

เป็นปัญหาที่ยากมาก มีคนบางคนที่แย้งว่าการใช้แอปพลิเคชันการติดตามบนมือถือเป็นการบุกรุกสิทธิความเป็นส่วนตัวที่ไม่พึงประสงค์ ในทางกลับกัน เมื่อพูดถึงความปลอดภัยสาธารณะ มักจะมีข้อจำกัดในเรื่องสิทธิโดยทั่วไป เป็นการแลกเปลี่ยนระหว่างสิทธิและความรับผิดชอบ สิทธิไม่ใช่สิ่งสมบูรณ์แบบ การควบคุมการระบาดทั่วโลกต้องใช้การดำเนินการและทรัพยากรที่ประสานกันและใช้เทคโนโลยีที่สามารถใช้ได้อย่างรับผิดชอบเพื่อปกป้องประชากรทั่วไป

สมดุลระหว่างสิทธิความเป็นส่วนตัวของแต่ละบุคคลและความดีทางสังคมได้รับการยอมรับในกรอบกฎหมาย ตัวอย่างเช่น GDPR ระบุพื้นฐานทางกฎหมายสำหรับการประมวลผลข้อมูลส่วนบุคคลที่ชอบด้วยกฎหมาย รวมถึงข้อกำหนดที่ว่าการประมวลผลนั้นจำเป็นต่อผลประโยชน์สาธารณะ

นอกจากนี้ยังเป็นความรับผิดชอบของภาคเทคโนโลยีและนักกำหนดนโยบายในการใช้แนวทางปฏิบัติที่มีจริยธรรม โปร่งใสและยุติธรรมเกี่ยวกับการใช้ AI และการแบ่งปันข้อมูลสุขภาพที่ละเอียดอ่อน

มีอะไรอีกบ้างที่คุณต้องการแบ่งปันเกี่ยวกับ Global Initiative ของ ABBYY สำหรับการพัฒนาของ AI ที่น่าเชื่อถือ?

กฎระเบียบมักจะตามหลังนวัตกรรมทางเทคโนโลยี ดังนั้นบริษัทต่างๆ จึงต้องมีบทบาทที่积极ในการส่งเสริมความโปร่งใสและความรับผิดชอบต่อเทคโนโลยี AI และผลกระทบต่อความเป็นส่วนตัวและความมั่นคง

การริเริ่มนี้สะท้อนถึงความมุ่งมั่นของเราในการดำเนินการต่อ การใช้ AI อย่างมีจริยธรรมไม่ควรพิจารณาเพียงในทางกฎหมายเท่านั้น แต่ยังเป็นภาระผูกพันทางศีลธรรมและความจำเป็นทางธุรกิจด้วย หากโซลูชันของคุณมีผลกระทบอย่างกว้างขวางและส่งผลกระทบต่อฟังก์ชันทางธุรกิจที่สำคัญ มันควรเป็นมาตรฐานอุตสาหกรรมในการเปิดเผยต่อเทคโนโลยี AI

ขอขอบคุณมากสำหรับการตอบคำถามเหล่านี้ หากต้องการดูหลักการและแนวทางของ ABBYY ในการยึดมั่นและสนับสนุนหลักการ AI ที่น่าเชื่อถือ คลิกที่นี่ ใครที่ต้องการเรียนรู้เพิ่มเติมเกี่ยวกับ ABBYY โดยทั่วไปสามารถเยี่ยมชม เว็บไซต์ของ ABBYY ได้