วิธีการทำ AI Audit ในปี 2023

การตรวจสอบ AI หมายถึง การประเมินระบบ AI เพื่อให้แน่ใจว่าระบบทำงานตามที่คาดหวังโดยไม่มีการเอนเอียงหรือการเลือกปฏิบัติ และสอดคล้องกับมาตรฐานทางจริยธรรมและกฎหมาย AI ได้เติบโตอย่างรวดเร็วในช่วงสิบปีที่ผ่านมา ดังนั้นความเสี่ยงเกี่ยวกับ AI จึงกลายเป็นปัญหาให้กับองค์กรต่างๆ ตามที่เอลอน มัสก์กล่าวว่า

“AI เป็นกรณีที่หายากที่ฉันคิดว่าเราต้องดำเนินการตามกฎระเบียบมากกว่าการรอและดู”

องค์กรต่างๆ ต้องพัฒนาโครงสร้างการบริหารจัดการ การประเมินความเสี่ยง และกลยุทธ์การควบคุมสำหรับพนักงานที่ทำงานกับ AI ความรับผิดชอบของ AI เป็นสิ่งสำคัญในการตัดสินใจที่มีผลกระทบสูง เช่น การใช้ระบบการบังคับใช้กฎหมายในพื้นที่หนึ่งและไม่ใช้ในอีกพื้นที่หนึ่ง การจ้างงานและการปฏิเสธผู้สมัคร

บทความนี้จะนำเสนอภาพรวมของการตรวจสอบ AI โครงสร้างและกฎระเบียบสำหรับการตรวจสอบ AI และรายการตรวจสอบสำหรับการตรวจสอบแอปพลิเคชัน AI

ปัจจัยที่ต้องพิจารณา

• การปฏิบัติตามกฎระเบียบ: การประเมินความเสี่ยงเกี่ยวกับการปฏิบัติตามกฎหมายและกฎระเบียบของระบบ AI
• เทคโนโลยี: การประเมินความเสี่ยงเกี่ยวกับความสามารถทางเทคนิค รวมถึงการเรียนรู้ของเครื่อง จริยธรรม และประสิทธิภาพของโมเดล

ความท้าทายในการตรวจสอบระบบ AI

• การเอนเอียง: ระบบ AI สามารถเพิ่มการเอนเอียงในข้อมูลที่ใช้ในการฝึกอบรมและตัดสินใจที่ไม่ยุติธรรม สถาบันวิจัยที่ Stanford University ได้ดำเนินการ การประกวดการออกแบบการตรวจสอบ AI ที่ดีกว่า มูลค่า 71,000 ดอลลาร์ เพื่อจัดการกับปัญหานี้
• ความซับซ้อน: ระบบ AI โดยเฉพาะ那些ที่ใช้การเรียนรู้ลึก เป็นระบบที่ซับซ้อนและไม่สามารถอธิบายได้

กฎระเบียบและโครงสร้างสำหรับการตรวจสอบ AI

กฎระเบียบ และโครงสร้างเป็นแนวทางในการตรวจสอบ AI โครงสร้างและกฎระเบียบสำคัญบางอย่างที่ใช้ในการตรวจสอบ AI ได้แก่

โครงสร้างการตรวจสอบ

1. โครงสร้าง COBIT (Control Objectives for Information and related Technology): เป็นโครงสร้างสำหรับการบริหารจัดการและควบคุมเทคโนโลยีสารสนเทศ
2. โครงสร้างการตรวจสอบ AI ของ IIA (Institute of Internal Auditors): โครงสร้างนี้มีจุดมุ่งหมายเพื่อประเมินการออกแบบ การพัฒนา และการทำงานของระบบ AI และความสอดคล้องกับวัตถุประสงค์ขององค์กร

• ความสามารถในการทนต่อการโจมตีทางไซเบอร์
• ความสามารถในการใช้ AI
• คุณภาพของข้อมูล
• โครงสร้างและอินฟราสตรัคเจอร์ของข้อมูล
• การวัดประสิทธิภาพ
• จริยธรรม
• กล่องดำ

3. โครงสร้าง COSO ERM: โครงสร้างนี้ให้กรอบการทำงานสำหรับการประเมินความเสี่ยงของระบบ AI ในองค์กร

• สภาพแวดล้อมภายใน: ตรวจสอบว่าองค์กรมีการบริหารจัดการและควบคุมความเสี่ยงของ AI
• การกำหนดวัตถุประสงค์: ร่วมมือกับฝ่ายต่างๆ ในการกำหนดกลยุทธ์ความเสี่ยง
• การระบุเหตุการณ์: ระบุความเสี่ยงในระบบ AI เช่น การเอนเอียงที่ไม่ได้ตั้งใจ การละเมิดข้อมูล
• การประเมินความเสี่ยง: ตรวจสอบผลกระทบของความเสี่ยง
• การตอบสนองต่อความเสี่ยง: ตรวจสอบว่าองค์กรจะตอบสนองต่อสถานการณ์ความเสี่ยงอย่างไร

กฎระเบียบ

กฎระเบียบการคุ้มครองข้อมูลทั่วไป (GDPR) เป็นกฎหมายของสหภาพยุโรปที่กำหนดให้องค์กรต่างๆ ใช้ข้อมูลส่วนบุคคลตามกฎหมาย มี 7 หลักการสำคัญ ได้แก่

• ความชอบด้วยกฎหมาย ความยุติธรรม และความโปร่งใส: การประมวลผลข้อมูลส่วนบุคคลต้องเป็นไปตามกฎหมาย
• การจำกัดวัตถุประสงค์: ใช้ข้อมูลเพื่อวัตถุประสงค์ที่เฉพาะเจาะจง
• การย่อขนาดข้อมูล: ข้อมูลส่วนบุคคลต้องมีขนาดที่เหมาะสมและจำกัด
• ความถูกต้อง: ข้อมูลต้องถูกต้องและเป็นปัจจุบัน
• การจำกัดการเก็บข้อมูล: ไม่เก็บข้อมูลส่วนบุคคลที่ไม่จำเป็นอีกต่อไป
• ความสมบูรณ์ и ความลับ: ข้อมูลส่วนบุคคลต้องถูกประมวลผลอย่างปลอดภัย
• ความรับผิดชอบ: ผู้ควบคุมข้อมูลต้องประมวลผลข้อมูลส่วนบุคคลอย่างรับผิดชอบ

กฎระเบียบอื่นๆ ได้แก่ CCPA และ PIPEDA

รายการตรวจสอบสำหรับการตรวจสอบ AI

แหล่งข้อมูล

การระบุและตรวจสอบแหล่งข้อมูลเป็นขั้นตอนแรกในการตรวจสอบระบบ AI ตรวจสอบคุณภาพของข้อมูลและความสามารถในการใช้ข้อมูล

การตรวจสอบข้าม

การตรวจสอบว่าโมเดลถูกตรวจสอบข้ามอย่างเหมาะสมเป็นหนึ่งในรายการตรวจสอบของผู้ตรวจสอบ ข้อมูลที่ใช้ในการตรวจสอบไม่ควรใช้ในการฝึกอบรม และเทคนิคการตรวจสอบควรตรวจสอบความสามารถในการทั่วไปของโมเดล

การโฮสต์ที่ปลอดภัย

ในบางกรณี ระบบ AI ใช้ข้อมูลส่วนบุคคล จึงจำเป็นต้องประเมินว่าบริการโฮสต์หรือคลาวด์ตรงตามมาตรฐานความปลอดภัย เช่น OWASP

AI ที่อธิบายได้

AI ที่อธิบายได้ หมายถึง การตีความและเข้าใจการตัดสินใจของระบบ AI และปัจจัยที่ส่งผลกระทบต่อการตัดสินใจ ผู้ตรวจสอบตรวจสอบว่าโมเดลมีความสามารถในการอธิบายได้โดยใช้เทคนิค เช่น LIME และ SHAP

ผลลัพธ์ของโมเดล

ความยุติธรรมเป็นข้อแรกที่ผู้ตรวจสอบตรวจสอบในผลลัพธ์ของโมเดล ผลลัพธ์ของโมเดลควรยังคงเท่าเดิมเมื่อเปลี่ยนตัวแปร เช่น เพศ เชื้อชาติ หรือศาสนา นอกจากนี้ยังประเมินคุณภาพของการคาดการณ์โดยใช้วิธีการให้คะแนนเหมาะสม

การให้ข้อมูลย้อนกลับทางสังคม

การตรวจสอบ AI เป็นกระบวนการที่ต่อเนื่อง เมื่อระบบ AI ถูกใช้งานแล้ว ผู้ตรวจสอบควรตรวจสอบผลกระทบทางสังคมของระบบ AI ระบบ AI และกลยุทธ์ความเสี่ยงควรปรับเปลี่ยนและตรวจสอบตามผลลัพธ์ การใช้งาน และผลกระทบ

บริษัทที่ตรวจสอบ AI

มี 5 บริษัทที่ตรวจสอบ AI ได้แก่

• Deloitte: Deloitte เป็นบริษัทให้บริการระดับมืออาชีพที่ใหญ่ที่สุดในโลก และให้บริการเกี่ยวกับการตรวจสอบ การภาษี และการให้คำปรึกษาทางการเงิน Deloitte ใช้ RPA AI และการวิเคราะห์ในการช่วยเหลือองค์กรในการประเมินความเสี่ยงของระบบ AI
• PwC: PwC เป็นเครือข่ายบริการระดับมืออาชีพที่ใหญ่ที่สุดเป็นอันดับสองโดยรายได้ พวกเขาได้พัฒนากระบวนการตรวจสอบเพื่อช่วยเหลือองค์กรในการตรวจสอบความน่าเชื่อถือ ความโปร่งใส และความรับผิดชอบ
• EY: ในปี 2022 EY ประกาศลงทุน 1 พันล้านดอลลาร์ในแพลตฟอร์มเทคโนโลยีที่ใช้ AI เพื่อให้บริการตรวจสอบที่มีคุณภาพสูง บริษัทที่ใช้ AI มีความรู้และความสามารถในการตรวจสอบ AI
• KPMG: KPMG เป็นบริษัทให้บริการบัญชีที่ใหญ่ที่สุดเป็นอันดับสี่ พวกเขาให้บริการที่ปรึกษาทางการเงินและการตรวจสอบความเสี่ยงของ AI
• Grant Thronton: พวกเขาช่วยเหลือลูกค้าในการจัดการความเสี่ยงเกี่ยวกับการใช้ AI และการปฏิบัติตามจริยธรรมและกฎระเบียบของ AI

ประโยชน์ของการตรวจสอบ AI

• การบริหารจัดการความเสี่ยง: การตรวจสอบ AI ช่วยป้องกันหรือลดความเสี่ยงเกี่ยวกับระบบ AI
• ความโปร่งใส: การตรวจสอบ AI ช่วยให้แน่ใจว่าแอปพลิเคชัน AI ไม่มีการเอนเอียงหรือการเลือกปฏิบัติ
• การปฏิบัติตามกฎระเบียบ: การตรวจสอบ AI ช่วยให้แน่ใจว่าระบบ AI ปฏิบัติตามกฎหมายและกฎระเบียบ

การตรวจสอบ AI: สิ่งที่รออยู่ในอนาคต

องค์กร หน่วยงานกำกับดูแล และผู้ตรวจสอบควรติดตามความก้าวหน้าของ AI และปรับเปลี่ยนกฎระเบียบ โครงสร้าง และกลยุทธ์ให้เหมาะสมเพื่อให้แน่ใจว่า AI จะถูกใช้อย่างยุติธรรมและไม่มีความเสี่ยง

ในปี 2021 193 ประเทศสมาชิกของ UNESCO ได้รับอนุมัติข้อตกลงระดับโลกเกี่ยวกับจริยธรรมของ AI AI เป็นระบบที่กำลังพัฒนาอย่างต่อเนื่อง

ต้องการเนื้อหาที่เกี่ยวข้องกับ AI เพิ่มเติม? ไปที่ unite.ai