5 เสาหลักสำหรับการรับรองความรับผิดชอบของ AI

เรากำลังเห็นการเติบโตอย่างมากในระบบ AI/ML เพื่อประมวลผลข้อมูลจำนวนมากที่ถูกสร้างขึ้นในเศรษฐกิจดิจิทัลใหม่ อย่างไรก็ตาม การเติบโตนี้ทำให้เราต้องพิจารณาผลกระทบทางจริยธรรมและกฎหมายของ AI อย่างจริงจัง

เมื่อเราสมัคร AI ให้ทำภารกิจที่ซับซ้อนและสำคัญ เช่น ระบบการอนุมัติสินเชื่ออัตโนมัติ เราต้องแน่ใจว่าระบบเหล่านี้มีความรับผิดชอบและเชื่อถือได้ การลดความลำเอียงใน AI ได้กลายเป็นประเด็นที่นักวิจัยให้ความสนใจอย่างมาก และมีผลกระทบทางจริยธรรมอย่างมาก เช่นเดียวกับระดับของความเป็นอิสระที่เราให้ไว้สำหรับระบบเหล่านี้

แนวคิดของความรับผิดชอบของ AI เป็นกรอบงานที่สำคัญที่สามารถช่วยสร้างความไว้วางใจในระบบ AI ของคุณ มี 5 เสาหลักสำหรับความรับผิดชอบของ AI ซึ่งเราจะสำรวจในบทความนี้เพื่อช่วยคุณสร้างระบบที่ดีขึ้น

1. ความสามารถในการทำซ้ำ

มีคำพูดเก่าในโลกการพัฒนาซอฟต์แวร์ที่ว่า “มันทำงานบนเครื่องของฉัน” ใน ML และ AI คำพูดนี้สามารถเปลี่ยนเป็น “มันทำงานบนเซตข้อมูลของฉัน” ซึ่งหมายความว่าโมเดลการเรียนรู้ของเครื่องสามารถมีลักษณะเป็นกล่องดำได้ เซตข้อมูลการฝึกอบรมหลายๆ ชุดสามารถมีความลำเอียงที่ซ่อนอยู่ เช่น ความลำเอียงในการตัวอย่างหรือความลำเอียงในการยืนยัน ซึ่งสามารถลดความแม่นยำของผลิตภัณฑ์สุดท้ายได้

เพื่อช่วยให้ระบบ AI/ML มีความสามารถในการทำซ้ำและเชื่อถือได้ขึ้น ขั้นตอนแรกคือการมาตรฐาน化กระบวนการ MLOps แม้ว่านักวิทยาศาสตร์ข้อมูลที่ฉลาดที่สุดจะมีเทคโนโลยีและไลบรารีที่ชื่นชอบ แต่การวิศวกรรมคุณลักษณะและการสร้างโมเดลก็ไม่เหมือนกันจากคนสู่คน โดยการใช้เครื่องมือ เช่น MLflow คุณสามารถมาตรฐาน化กระบวนการ MLOps และลดความแตกต่างเหล่านี้ได้

วิธีอื่นที่จะช่วยให้ระบบ AI/ML มีความสามารถในการทำซ้ำคือการใช้ “เซตข้อมูลทอง” ซึ่งเป็นเซตข้อมูลที่เป็นตัวแทนและใช้ในการทดสอบและตรวจสอบโมเดลใหม่ก่อนที่จะปล่อยออกสู่การผลิต

2. ความโปร่งใส

ตามที่กล่าวไว้ก่อนหน้านี้ โมเดล ML หลายๆ รูปแบบ โดยเฉพาะเครือข่ายประสาทเทียม เป็นกล่องดำ เพื่อให้พวกมันรับผิดชอบมากขึ้น เราต้องทำให้พวกมันสามารถอธิบายได้มากขึ้น สำหรับระบบที่ง่าย เช่น ต้นไม้การตัดสินใจ มันค่อนข้างง่ายที่จะเข้าใจว่าระบบตัดสินใจอย่างไรและทำไม แต่เมื่อความแม่นยำและความซับซ้อนของระบบ AI เพิ่มขึ้น ความสามารถในการอธิบายก็ลดลง

มีภาควิชาวิจัยใหม่ที่เรียกว่า “ความสามารถในการอธิบาย” ซึ่งพยายามนำความโปร่งใสมาสู่ระบบ AI ที่ซับซ้อน เช่น เครือข่ายประสาทเทียมและการเรียนรู้ลึก โดยใช้โมเดลที่เป็นตัวแทนเพื่อทำซ้ำการทำงานของเครือข่ายประสาทเทียม แต่ยังพยายามให้คำอธิบายที่ถูกต้องเกี่ยวกับคุณลักษณะที่สำคัญ

สิ่งนี้นำไปสู่ความยุติธรรม คุณต้องการทราบว่าทำไมการตัดสินใจใดๆ จึงถูกทำ และต้องการให้แน่ใจว่าการตัดสินใจนั้นยุติธรรม คุณยังต้องการให้แน่ใจว่าคุณลักษณะที่ไม่เหมาะสมไม่ได้รับการพิจารณาเพื่อให้ความลำเอียงไม่เกิดขึ้นในโมเดล

3. ความรับผิดชอบ

ความรับผิดชอบอาจเป็นประเด็นที่สำคัญที่สุดของความรับผิดชอบของ AI มีการพูดคุยมากมายเกี่ยวกับหัวข้อนี้ แม้กระทั่งในภาคส่วนรัฐบาล เนื่องจากเกี่ยวข้องกับนโยบายที่จะขับเคลื่อนผลลัพธ์ของ AI นโยบายเหล่านี้กำหนดว่าเมื่อใดที่มนุษย์ควรเข้ามาเกี่ยวข้อง

ความรับผิดชอบต้องมีการติดตามและตัวชี้วัดที่แข็งแกร่งเพื่อช่วยให้ผู้กำหนดนโยบายและควบคุมระบบ AI/ML ความรับผิดชอบเชื่อมโยงระหว่างความสามารถในการทำซ้ำและความโปร่งใส แต่ต้องการการกำกับดูแลที่มีประสิทธิภาพในรูปแบบของคณะกรรมการจริยธรรม AI คณะกรรมการเหล่านี้สามารถจัดการการตัดสินใจนโยบาย ตัดสินว่าอะไรที่สำคัญที่จะวัด และดำเนินการตรวจสอบความยุติธรรม

4. ความปลอดภัย

ความปลอดภัยของ AI มุ่งเน้นไปที่ความลับและความสมบูรณ์ของข้อมูล เมื่อระบบกำลังประมวลผลข้อมูล คุณต้องการให้แน่ใจว่าระบบอยู่ใน môi trườngที่ปลอดภัย คุณต้องการให้ข้อมูลถูกเข้ารหัสทั้งขณะพักและขณะถูกเรียกผ่านการเชื่อมต่อ แต่ยังคงมีความเสี่ยงเมื่อข้อมูลถูกส่งเป็นข้อความธรรมดาเข้าไปในโมเดลการเรียนรู้ของเครื่อง เทคโนโลยี เช่น การเข้ารหัสโฮโมมอร์ฟิก ช่วยแก้ปัญหานี้โดยทำให้การฝึกอบรมโมเดลการเรียนรู้ของเครื่องสามารถเกิดขึ้นใน môi trườngที่เข้ารหัส

ด้านอื่นๆ ของความปลอดภัยคือความปลอดภัยของโมเดลเอง ตัวอย่างเช่น การโจมตีแบบการกลับด้านของโมเดลทำให้แฮกเกอร์สามารถเรียนรู้ข้อมูลการฝึกอบรมที่ใช้ในการสร้างโมเดลได้ นอกจากนี้ยังมีการโจมตีแบบการปนเปื้อนของโมเดล ซึ่งแทรกข้อมูลที่ไม่ดีเข้าไปในโมเดลระหว่างการฝึกอบรมและทำลายประสิทธิภาพของโมเดล การทดสอบโมเดลของคุณสำหรับการโจมตีแบบกันขัดขวางเหล่านี้สามารถช่วยให้โมเดลของคุณปลอดภัย

5. ความเป็นส่วนตัว

Google และ OpenMined เป็นสององค์กรที่ให้ความสำคัญกับความเป็นส่วนตัวของ AI ในช่วงไม่นานมานี้ และ OpenMined จัดงานประชุมเกี่ยวกับหัวข้อนี้ไม่นานมานี้ ด้วยกฎระเบียบใหม่ๆ เช่น GDPR และ CCPA และอาจมีกฎระเบียบอื่นๆ ที่จะตามมาในอนาคต ความเป็นส่วนตัวจะเล่นบทบาทสำคัญในการฝึกอบรมโมเดลการเรียนรู้ของเครื่อง

วิธีหนึ่งในการรับรองว่าคุณกำลังจัดการข้อมูลลูกค้าของคุณในลักษณะที่ตระหนักถึงความเป็นส่วนตัวคือการใช้การเรียนรู้แบบกระจาย (Federated Learning) วิธีการเรียนรู้ของเครื่องแบบกระจายนี้ฝึกโมเดลที่แตกต่างกันในพื้นที่แล้วรวมโมเดลเหล่านั้นในศูนย์กลางที่ปลอดภัยในขณะที่รักษาข้อมูลให้ปลอดภัยและเป็นส่วนตัว วิธีอื่นคือการแนะนำความผันผวนเชิงสถิติเพื่อให้ค่าของลูกค้าแต่ละรายไม่ถูกเปิดเผย สิ่งนี้ช่วยให้คุณทำงานกับข้อมูลที่รวมกันเพื่อให้ข้อมูลของลูกค้าแต่ละรายยังคงปลอดภัยและไม่สามารถเข้าถึงได้โดยอัลกอริทึม

การรักษาความรับผิดชอบของ AI

 สุดท้าย การรักษาความรับผิดชอบของ AI ขึ้นอยู่กับองค์กรที่ออกแบบระบบ AI/ML โดยการดำเนินเทคโนโลยีภายในแต่ละด้านของความรับผิดชอบของ AI อย่างตั้งใจ คุณไม่เพียงแต่สามารถใช้ประโยชน์จากพลังของ AI ได้เท่านั้น แต่ยังสามารถทำได้ในลักษณะที่น่าเชื่อถือและตรงไปตรงมา ซึ่งจะทำให้องค์กร ลูกค้า และหน่วยงานกำกับดูแลของคุณมั่นใจ