อะไรคือ AI ที่มีความรับผิดชอบ: หลักการ อุปสรรค และประโยชน์

AI ที่มีความรับผิดชอบ (RAI) หมายถึง การออกแบบและใช้งานระบบ AI ที่มีความโปร่งใส ไม่มีอคติ มีความรับผิดชอบ และปฏิบัติตามแนวทางจริยธรรม เมื่อระบบ AI มีความเข้มข้นและแพร่หลายมากขึ้น การรับรองว่าระบบเหล่านี้ถูกพัฒนาอย่างมีความรับผิดชอบและปฏิบัติตามแนวทางด้านความปลอดภัยและจริยธรรมจึงเป็นสิ่งจำเป็น

สุขภาพ การขนส่ง การจัดการเครือข่าย และการเฝ้าระวังเป็นตัวอย่างของ การประยุกต์ใช้ AI ที่มีความสำคัญต่อความปลอดภัย ซึ่งความล้มเหลวของระบบอาจมีผลกระทบอย่างรุนแรง บริษัทขนาดใหญ่ตระหนักว่า AI ที่มีความรับผิดชอบเป็นสิ่งจำเป็นในการบรรเทาผลกระทบจากความเสี่ยงทางเทคโนโลยี อย่างไรก็ตาม ตามรายงานของ MIT Sloan/BCG ที่รวมผู้ตอบแบบสอบถาม 1,093 คน 54% ของบริษัทไม่มีความเชี่ยวชาญและทักษะด้าน AI ที่มีความรับผิดชอบ

แม้ว่าผู้นำความคิดและองค์กรได้พัฒนาหลักการสำหรับ AI ที่มีความรับผิดชอบ การรับรองว่าระบบ AI ถูกพัฒนาอย่างมีความรับผิดชอบยังคงเป็นความท้าทาย มาเรียนรู้เกี่ยวกับแนวคิดนี้ในรายละเอียด:

5 หลักการสำหรับ AI ที่มีความรับผิดชอบ

1. ความยุติธรรม

นักเทคโนโลยีควรออกแบบกระบวนการให้ระบบ AI มีความยุติธรรมและไม่มีอคติต่อบุคคลหรือกลุ่มใดๆ ดังนั้น ความยุติธรรมจึงเป็นข้อกำหนดหลักในการตัดสินใจที่มีความเสี่ยงสูง

ความยุติธรรม ถูกกำหนดเป็น:

“การตรวจสอบผลกระทบต่อกลุ่มประชากรต่างๆ และเลือกคำจำกัดความทางคณิตศาสตร์ของความยุติธรรมของกลุ่มที่จะตอบสนองความต้องการทางกฎหมาย วัฒนธรรม และจริยธรรมที่ต้องการ”

2. ความรับผิดชอบ

ความรับผิดชอบหมายถึงบุคคลและองค์กรที่พัฒนาและใช้งานระบบ AI ควรต้องรับผิดชอบต่อการตัดสินใจและกระทำการของตน ทีมที่ใช้งานระบบ AI ควรให้แน่ใจว่าระบบ AI ของตนเป็นไปตามมาตรฐานความโปร่งใส ความเข้าใจได้ การตรวจสอบ และไม่ทำอันตรายต่อสังคม

ความรับผิดชอบประกอบด้วย 7 ส่วน:

1. บริบท (วัตถุประสงค์ที่ต้องการความรับผิดชอบ)
2. ขอบเขต (หัวข้อของความรับผิดชอบ)
3. ตัวแทน (ใครที่รับผิดชอบ?)
4. เวที (ต่อใครที่ต้องรายงาน)
5. มาตรฐาน (เกณฑ์สำหรับความรับผิดชอบ)
6. กระบวนการ (วิธีการความรับผิดชอบ)
7. ผลกระทบ (ผลลัพธ์ของความรับผิดชอบ)

3. ความโปร่งใส

ความโปร่งใสหมายถึงเหตุผลในการตัดสินใจของระบบ AI ที่ชัดเจนและเข้าใจได้ ระบบ AI ที่มีความโปร่งใสสามารถอธิบายได้

ตาม Assessment List for Trustworthy Artificial Intelligence (ALTAI) ความโปร่งใสมี 3 องค์ประกอบหลัก:

1. การตรวจสอบ (ข้อมูล การประมวลผลขั้นตอน และแบบจำลองสามารถเข้าถึงได้)
2. การอธิบาย (เหตุผลในการตัดสินใจ/การทำนายชัดเจน)
3. การสื่อสารที่เปิดกว้าง (เกี่ยวกับข้อจำกัดของระบบ AI)

4. ความเป็นส่วนตัว

ความเป็นส่วนตัวเป็นหลักการสำคัญของ AI ที่มีความรับผิดชอบ ซึ่งหมายถึงการคุ้มครองข้อมูลส่วนบุคคล หลักการนี้รับรองว่าข้อมูลส่วนบุคคลถูกเก็บและประมวลผลด้วยความยินยอมและไม่ตกไปอยู่ในมือของบุคคลที่ไม่เหมาะสม

ตามที่เกิดขึ้นเมื่อเร็วๆ นี้ มีกรณีของ Clearview ซึ่งเป็นบริษัทที่สร้างแบบจำลองการรู้จำใบหน้าสำหรับหน่วยงานบังคับใช้กฎหมายและมหาวิทยาลัย องค์กรด้านข้อมูลของสหราชอาณาจักร ฟ้องร้อง Clearview AI เป็นเงิน 7.5 ล้านปอนด์สำหรับการรวบรวมรูปภาพของชาวสหราชอาณาจักรจากโซเชียลมีเดียโดยไม่ได้รับอนุญาตเพื่อสร้างฐานข้อมูล 20 พันล้านรูปภาพ

5. ความปลอดภัย

ความปลอดภัยหมายถึงการรับรองว่าระบบ AI มีความปลอดภัยและไม่เป็นอันตรายต่อสังคม ตัวอย่างของการโจมตี AI คือ การโจมตีแบบก้าวร้าว ซึ่งเป็นการโจมตีแบบชั่วร้ายที่หลอกลวงโมเดลการเรียนรู้ของเครื่องให้ตัดสินใจผิด การปกป้องระบบ AI จากการโจมตีทางไซเบอร์จึงเป็นสิ่งจำเป็นสำหรับ AI ที่มีความรับผิดชอบ

4 อุปสรรคและความเสี่ยงหลักของ AI ที่มีความรับผิดชอบ

1. อคติ

อคติของมนุษย์ที่เกี่ยวข้องกับอายุ เพศ สัญชาติ และเชื้อชาติสามารถส่งผลต่อการรวบรวมข้อมูล ซึ่งอาจนำไปสู่การสร้างแบบจำลอง AI ที่มีอคติได้ การศึกษาของกระทรวงพาณิชย์สหรัฐ พบว่า AI การรู้จำใบหน้าสามารถระบุผู้คนสีได้ผิด ดังนั้นการใช้ AI สำหรับการรู้จำใบหน้าในหน่วยงานบังคับใช้กฎหมายอาจนำไปสู่การ逮ตัวผิดพลาด นอกจากนี้ การสร้างแบบจำลอง AI ที่ยุติธรรมยังเป็นเรื่องที่ท้าทายเพราะมี 21 พารามิเตอร์ที่ต้องกำหนด ดังนั้นจึงมีการแลกเปลี่ยน; การตอบสนองพารามิเตอร์ AI ที่ยุติธรรมหนึ่งพารามิเตอร์หมายถึงการเสียพารามิเตอร์อื่น

2. การอธิบาย

การอธิบายเป็นอุปสรรคสำคัญในการพัฒนา AI ที่มีความรับผิดชอบ ซึ่งหมายถึงการเข้าใจว่าโมเดลการเรียนรู้ของเครื่องได้มาถึงข้อสรุปนั้นได้อย่างไร

เครือข่ายประสาทเทียมลึกขาดการอธิบายเพราะพวกมันทำงานเหมือนกล่องดำที่มีหลายชั้นของニューロนซ่อนเร้น ทำให้ยากที่จะเข้าใจกระบวนการตัดสินใจ นี่อาจเป็นอุปสรรคในการตัดสินใจที่มีความเสี่ยงสูง เช่น ในสุขภาพ การเงิน ฯลฯ

นอกจากนี้ การกำหนดการอธิบายในโมเดลการเรียนรู้ของเครื่องยังเป็นเรื่องที่ท้าทายเพราะเป็นเรื่อง 主観 และ เฉพาะโดเมน

3. การกำกับดูแล

การกำกับดูแลหมายถึงชุดของกฎ ระเบียบ และขั้นตอนในการกำกับดูแลการพัฒนาและใช้งานระบบ AI เมื่อเร็วๆ นี้ มีการพัฒนาที่สำคัญในเรื่องการกำกับดูแล AI โดยมีองค์กรนำเสนอกรอบการทำงานและแนวทางจริยธรรม

แนวทางจริยธรรมสำหรับ AI ที่น่าเชื่อถือโดยสหภาพยุโรป กรอบจริยธรรม AI ของออสเตรเลีย และ หลักการ AI ของ OECD เป็นตัวอย่างของกรอบการกำกับดูแล AI

แต่ความก้าวหน้าอย่างรวดเร็วของ AI ในช่วงไม่กี่ปีที่ผ่านมาอาจทำให้กรอบการกำกับดูแล AI ตกหล่น ดังนั้นจึงจำเป็นต้องมีกรอบการประเมินที่สามารถประเมินความยุติธรรม ความเข้าใจได้ และจริยธรรมของระบบ AI

4. การควบคุม

เมื่อระบบ AI มีความแพร่หลายมากขึ้น จึงจำเป็นต้องมีการควบคุมที่คำนึงถึงคุณค่าทางจริยธรรมและสังคม การควบคุมที่ไม่ขัดขวางนวัตกรรม AI เป็นอุปสรรคสำคัญในการพัฒนา AI ที่มีความรับผิดชอบ

แม้ว่าจะมีการควบคุมด้านการคุ้มครองข้อมูลส่วนบุคคล เช่น GDPR CCPA และ PIPL แต่นักวิจัย AI พบว่า 97% ของเว็บไซต์ใน EU ไม่ปฏิบัติตามข้อกำหนดด้านการคุ้มครองข้อมูลส่วนบุคคล

นอกจากนี้ นักนิติศาสตร์ยังเผชิญกับความท้าทายที่สำคัญในการตกลงเกี่ยวกับการกำหนด AI ที่รวมทั้งระบบ AI คลาสสิกและแอปพลิเคชัน AI ล่าสุด

3 ประโยชน์หลักของ AI ที่มีความรับผิดชอบ

1. การลดอคติ

AI ที่มีความรับผิดชอบสามารถลดอคติในการตัดสินใจ ซึ่งช่วยสร้างความเชื่อมั่นในระบบ AI การลดอคติในระบบ AI สามารถให้ระบบสุขภาพที่ยุติธรรมและลดอคติในบริการทางการเงินที่ใช้ AI

2. การเพิ่มความโปร่งใส

AI ที่มีความรับผิดชอบสามารถทำให้ระบบ AI มีความโปร่งใส ซึ่งช่วยสร้างความเชื่อมั่นในระบบ AI ระบบ AI ที่มีความโปร่งใสสามารถ ลดความเสี่ยงของข้อผิดพลาดและการใช้ในทางที่ผิด ความโปร่งใสที่เพิ่มขึ้นสามารถทำให้การตรวจสอบระบบ AI ง่ายขึ้น และช่วยให้ระบบ AI มีความรับผิดชอบ

3. การเพิ่มความปลอดภัย

การประยุกต์ใช้ AI ที่มีความปลอดภัยสามารถรับรองความเป็นส่วนตัวของข้อมูลและผลลัพธ์ที่เชื่อถือได้และไม่เป็นอันตรายต่อสังคม

บริษัทเทคโนโลยีชั้นนำ เช่น Microsoft (MSFT ) และ Google (GOOGL ) ซึ่งเป็นผู้นำในการพัฒนา AI ได้พัฒนาหลักการ AI ที่มีความรับผิดชอบ AI ที่มีความรับผิดชอบสามารถรับรองว่าการนวัตกรรม AI ไม่เป็นอันตรายต่อบุคคลและสังคม

ผู้นำความคิด นักวิจัย องค์กร และหน่วยงานทางกฎหมายควรปรับปรุงข้อมูลเกี่ยวกับ AI ที่มีความรับผิดชอบอย่างต่อเนื่องเพื่อให้มั่นใจในอนาคตที่ปลอดภัยสำหรับการพัฒนา AI

สำหรับเนื้อหาที่เกี่ยวข้องกับ AI เพิ่มเติม โปรดเยี่ยมชม unite.ai