AI: โดยประชาชน สำหรับประชาชน และของประชาชน

โดย: Balakrishna (Bali) D R, Senior Vice President, Service Offering Head – ECS, AI and Automation at Infosys.

เรามีโชคที่จะอยู่ในยุคเทคโนโลยี โดยที่ปัญญาประดิษฐ์ (AI) ทำงานอย่างหนักเพื่อทำให้ชีวิตของเรา dễ dàngขึ้น – โทรศัพท์มือถือของเรารู้จักเราและจะปลดล็อกเมื่อ “เห็น” เรา เรามีแผนที่ที่พูดได้ช่วยให้เราหาทางที่สั้นที่สุดและไม่มีคนเยอะที่สุดเพื่อไปที่ที่เราต้องการไป อุปกรณ์สมาร์ทที่ทำให้บ้านของเราอุ่นและเย็นก่อนที่เราจะพูด และแอปพลิเคชันที่ฉลาดที่สามารถคาดการณ์และป้องกันการฉ้อโกง และอื่นๆ อีกมากมาย

อย่างไรก็ตาม เรายังมีกรณีที่ระบบ AI ที่ฉลาดเหล่านี้ล้มเหลวเราจากมุมมองของความยุติธรรมและจริยธรรม ตัวอย่างเช่น ธนาคารที่มีชื่อเสียงที่ทำงานกับเราสงสัยว่าโมเดล AI ที่พวกเขใช้ในการประเมินค่าเครดิตก่อนการให้กู้ยืมอาจมีความเอนเอียง และพวกเขาต้องการให้เราช่วยพวกเขา ในอีกกรณีหนึ่ง ผู้ผลิตเครื่องจักรทำงานกับเราเพื่อวิเคราะห์รูปแบบการเรียกร้องประกันเพื่อกำจัดความเอนเอียงจากชุดข้อมูลและกระบวนการก่อนที่จะปรับปรุงและทำให้กระบวนการอนุมัติประกันของพวกเขาเป็นอัตโนมัติ โมเดล AI ที่เกี่ยวข้องกับการสรรหาบุคลากรมักจะถูกบิดเบือนด้วยความเอนเอียงของอายุ เพศ สายพันธุ์ และแม้กระทั่งรหัสไปรษณีย์บางครั้ง ในชุดข้อมูลของพวกเขา – ส่งผลที่ไม่ยุติธรรมหากไม่ได้รับการตรวจสอบ

เนื่องจากผลกระทบของความเอนเอียง AI ที่มีต่อทั้งองค์กร คำถามด้านจริยธรรมจึงได้กลายเป็นจุดสนใจหลักในการพัฒนา ระบบ AI การใช้งาน และการนำไปใช้ ระบบ AI เป็นการรวมกันของการตัดสินใจของมนุษย์หลายครั้ง ซึ่งโดยธรรมชาติแล้วมีความเอนเอียงของมนุษย์ด้วย การคุ้มครองความเป็นอิสระและความเป็นส่วนตัวของพนักงาน ความเสี่ยงของความเอนเอียงที่ส่งผลต่อการเติบโตและโอกาสในการทำงาน การเลือกปฏิบัติตามสีผิว สายพันธุ์ หรือเพศ การไม่สามารถอธิบายตัวเลือกที่ทำโดย AI และด้วยเหตุนี้จึงไม่มีการรับผิดชอบต่อการตัดสินใจของ AI จึงเป็นเรื่องที่ถูกถกเถียงกันอย่างมากเมื่อพูดถึง AI และคุณประโยชน์ของมัน

การสร้าง AI ที่รับผิดชอบ

ความเอนเอียง AI สามารถส่งผลกระทบต่อทั้งองค์กรได้ ดังนั้นผู้นำด้าน IT จึงต้องแน่ใจว่าพวกเขากำลังใช้ AI ในลักษณะที่มีจริยธรรม ซึ่งทำงานร่วมกับพนักงาน ไม่ใช่ทำงานต่อต้านพวกเขา เพื่อทำเช่นนี้ องค์กรควรพิจารณาเพิ่มสิ่งต่อไปนี้ในการใช้งาน AI

การกำกับดูแลข้อมูล: การใช้ AI อย่างมีจริยธรรมยังขึ้นอยู่กับการใช้ข้อมูลที่มีการกำกับดูแลที่ดี โดยเริ่มต้นจากแหล่งข้อมูลที่มีจริยธรรมและโปร่งใส เพื่อทำเช่นนี้ ผู้นำด้าน IT ควรสร้างกรอบการกำกับดูแลที่ชัดเจนเพื่อให้แน่ใจว่ามีการรักษาความปลอดภัย ความสมบูรณ์ และความเป็นส่วนตัวของข้อมูล และป้องกันการบิดเบือนข้อมูลและการสูญเสียข้อมูล – ทั้งหมดนี้เป็นสิ่งจำเป็น

ความรับผิดชอบ: โมเดลการเรียนรู้ของเครื่องจึงต้องเป็นไปอย่างยุติธรรม ไม่มีความเอนเอียง รักษาความเท่าเทียมกันและแบ่งปันผลประโยชน์อย่างเท่าเทียมกัน (อัตราการยอมรับและปฏิเสธที่คล้ายกัน) ทั่วทั้งคุณลักษณะต่างๆ เช่น สายพันธุ์ ศาสนา เพศ ฯลฯ พวกเขาต้องบรรลุความแม่นยำที่ยอมรับได้ไม่เพียงแต่ในตัวเลขโดยรวมเท่านั้น แต่ยังรวมถึงชั้นเรียนที่เป็นชนกลุ่มน้อยด้วย โมเดลเหล่านี้ควรสามารถอธิบายได้เมื่อถึงเวลาอธิบายว่าผลลัพธ์ถูกกำหนดอย่างไร ตัวอย่างเช่น การสามารถอธิบายได้ว่าทำไมโมเดลจึงปฏิเสธการสมัครเงินกู้จากผู้สมัคร A แต่ยอมรับการสมัครเดียวกันจากผู้สมัคร B ผู้นำด้าน IT ที่พัฒนาโซลูชัน AI ต้องทำให้ตรรกะที่ซ่อนอยู่ซึ่งขับเคลื่อนการตัดสินใจเหล่านี้ชัดเจนให้กับผู้มีส่วนได้ส่วนเสียทางธุรกิจ เพื่อให้มีความโปร่งใสมากขึ้นภายในองค์กร

ความแข็งแกร่งของการโจมตี: ทั้งระบบนิเวศของ AI ต้องตกลงที่จะทดสอบและโจมตีโมเดล AI ผ่านการจำลองสถานการณ์เพื่อศึกษาการออกผลลัพธ์ที่ไม่พึงประสงค์ ตัวอย่างเช่น ผู้นำด้าน IT สามารถใช้การทดสอบต่อไปนี้เพื่อทดสอบระบบ AI และเตรียมพร้อมสำหรับอุปสรรคที่อาจเกิดขึ้น

• การเปลี่ยนแปลงข้อมูล: การเปลี่ยนแปลงชุดข้อมูลที่ใช้ในการฝึกโดยการฉีดข้อมูล การเปลี่ยนแปลง และการบิดเบือนตรรกะ
• การเปลี่ยนแปลงโมเดล: ทดสอบการลดความมั่นใจและการจำแนกประเภทผิด
• เครื่องมือเสริม: ใช้เครื่องมือเพื่อ影响หรือบิดเบือนผลลัพธ์

มนุษย์ในวงจร: โมเดล AI ต้องถูกทำให้ไม่มีความเสี่ยงโดยการมีมนุษย์ในวงจรสำหรับทุกจุดการตัดสินใจที่สำคัญ และมีกลไกการสำรองหรือเส้นทางที่มีประสิทธิภาพหากระบบ AI ต้องถูกถอดออก

การสร้างความยินยอมทางสังคมสำหรับ AI

นอกเหนือจากแนวทางเหล่านี้แล้ว เรายังต้องส่งเสริมการอภิปรายและพิจารณาที่ครอบคลุมระหว่างผู้นำทุกระดับภายในองค์กร เกี่ยวกับผลประโยชน์ ความสนใจ ค่าใช้จ่าย และผลที่ตามมาของการนำ AI ไปใช้ในระดับใหญ่ๆ เพียงกระบวนการแบบครอบคลุมที่มีผู้มีส่วนได้ส่วนเสียทุกฝ่ายเข้าร่วมในการอภิปรายและตัดสินใจเกี่ยวกับผลลัพธ์ที่ยอมรับได้ และชั่งน้ำหนักความเสี่ยงและผลประโยชน์เท่านั้นจึงจะสามารถทำให้เทคโนโลยี AI ได้รับใบอนุญาตในการดำเนินงานทั่วทั้งองค์กรได้