วิธีการที่ความลำเอียงจะฆ่ากลยุทธ์ AI/ML ของคุณ และวิธีแก้ไข

‘ความลำเอียง’ ในแบบจำลองใดๆ อธิบายถึงสถานการณ์ที่แบบจำลองตอบสนองไม่ถูกต้องต่อคำสั่งหรือข้อมูลนำเข้าเนื่องจากไม่ได้รับการฝึกฝนพร้อมกับข้อมูลที่มีคุณภาพสูงและหลากหลายเพียงพอเพื่อให้ได้คำตอบที่ถูกต้อง ตัวอย่างหนึ่งคือ ฟังก์ชันปลดล็อกโทรศัพท์มือถือด้วยการรู้จำใบหน้าของ Apple ซึ่งล้มเหลวในอัตราสูงกว่าสำหรับผู้ที่มีผิวสีเข้มเมื่อเทียบกับผู้ที่มีผิวสีจัด นี่เป็นตัวอย่างที่มีความเสี่ยงต่ำของความลำเอียง แต่คือเหตุผลที่ทำไม กฎหมาย AI ของ EU จึงกำหนดข้อกำหนดในการพิสูจน์ประสิทธิภาพของแบบจำลอง (และระบบควบคุม) ก่อนที่จะเข้าสู่ตลาด แบบจำลองที่มีผลลัพธ์ที่ส่งผลกระทบต่อธุรกิจ การเงิน สุขภาพ หรือสถานการณ์ส่วนบุคคลต้องเป็นที่เชื่อถือ หรือจะไม่ได้รับการใช้งาน

การแก้ไขความลำเอียงด้วยข้อมูล

ปริมาณข้อมูลที่มีคุณภาพสูง

ในบรรดาปฏิบัติการจัดการข้อมูลที่สำคัญหลายอย่าง ส่วนประกอบสำคัญในการเอาชนะและลดความลำเอียงในแบบจำลอง AI/ML คือการได้รับข้อมูลที่มีคุณภาพสูงและหลากหลายในปริมาณมาก ซึ่งต้องมีการร่วมมือกับองค์กรหลายแห่งที่มีข้อมูลดังกล่าว ในแบบดั้งเดิม การได้รับข้อมูลและการร่วมมือถูกท้าทายด้วยข้อกังวลด้านความเป็นส่วนตัวและ/หรือการคุ้มครองทรัพย์สินทางปัญญา – ข้อมูลที่มีความไวต่อความปลอดภัยไม่สามารถส่งไปยังเจ้าของแบบจำลองได้ และเจ้าของแบบจำลองไม่สามารถเสี่ยงต่อการรั่วไหลทรัพย์สินทางปัญญาของตนให้กับเจ้าของข้อมูลได้ วิธีแก้ปัญหาทั่วไปคือการทำงานร่วมกับข้อมูลจำลองหรือสังเคราะห์ ซึ่งอาจมีประโยชน์ แต่ก็มีข้อจำกัดเมื่อเทียบกับการใช้ข้อมูลจริงที่มีบริบททั้งหมด นี่คือจุดที่เทคโนโลยีการเพิ่มความปลอดภัย (PETs) ให้คำตอบที่จำเป็น

ข้อมูลสังเคราะห์: ใกล้เคียง แต่ยังไม่เพียงพอ

ข้อมูลสังเคราะห์ ถูกสร้างขึ้นเพื่อเลียนแบบข้อมูลจริง ซึ่งเป็นเรื่องที่ทำได้ยาก แต่ก็เป็นเรื่องที่ทำได้ง่ายขึ้นโดยใช้เครื่องมือ AI ข้อมูลสังเคราะห์ที่มีคุณภาพดีควรจะมีระยะห่างระหว่างคุณลักษณะเหมือนกับข้อมูลจริง หรือจะไม่มีประโยชน์ ข้อมูลสังเคราะห์ที่มีคุณภาพดีสามารถใช้เพิ่มความหลากหลายของข้อมูลฝึกอบรมได้โดยการเติมช่องว่างสำหรับประชากรที่เล็กหรือชายขอบ หรือสำหรับประชากรที่ผู้ให้บริการ AI ไม่มีข้อมูลเพียงพอ ข้อมูลสังเคราะห์ยังสามารถใช้เพื่อแก้ไขกรณีขอบที่อาจพบได้ยากในปริมาณที่เพียงพอในโลกแห่งความเป็นจริง นอกจากนี้ องค์กรสามารถสร้างชุดข้อมูลสังเคราะห์เพื่อ满足ข้อกำหนดด้านการอยู่อาศัยและความเป็นส่วนตัวที่ขัดขวางการเข้าถึงข้อมูลจริง นี่ดูเหมือนจะเป็นเรื่องที่ดี แต่ข้อมูลสังเคราะห์เป็นเพียงส่วนหนึ่งของปัญหา ไม่ใช่คำตอบ

ข้อจำกัดที่ชัดเจนของข้อมูลสังเคราะห์คือการไม่เชื่อมต่อกับโลกแห่งความเป็นจริง ตัวอย่างเช่น ยานพาหนะอัตโนมัติที่ฝึกฝนเพียงกับข้อมูลสังเคราะห์จะพบปัญหากับสภาพถนนจริงที่ไม่คาดคิด นอกจากนี้ ข้อมูลสังเคราะห์ยังรับเอาความลำเอียงจากข้อมูลจริงที่ใช้ในการสร้างขึ้นมา – ซึ่งแทบจะทำลายจุดประสงค์ของการอภิปรายของเรา ในสรุป ข้อมูลสังเคราะห์เป็นตัวเลือกที่มีประโยชน์สำหรับการปรับแต่งและการแก้ไขกรณีขอบ แต่การปรับปรุงประสิทธิภาพของแบบจำลองและลดความลำเอียงยังคงต้องอาศัยการเข้าถึงข้อมูลจริง

วิธีที่ดีกว่า: ข้อมูลจริงผ่าน PETs-enabled Workflows

PETs ปกป้องข้อมูลขณะใช้งาน เมื่อพูดถึงแบบจำลอง AI/ML พวกเขายังสามารถปกป้องทรัพย์สินทางปัญญาของแบบจำลองที่กำลังรัน – “สองในหนึ่ง” วิธีแก้ปัญหาที่ใช้ PETs ให้ตัวเลือกในการฝึกอบรมแบบจำลองด้วยชุดข้อมูลที่มีความไวต่อความปลอดภัยที่ไม่สามารถเข้าถึงได้ก่อนหน้านี้เนื่องจากข้อกังวลด้านความเป็นส่วนตัวและความปลอดภัยของข้อมูล นี่คือตัวเลือกที่ดีที่สุดในการลดความลำเอียง แต่วิธีการทำงานจริงๆ จะเป็นอย่างไร?

สำหรับตอนนี้ ตัวเลือกชั้นนำเริ่มต้นด้วยสภาพแวดล้อมการประมวลผลที่มีการรักษาความลับ จากนั้น มีการรวมกับซอฟต์แวร์โซลูชันที่ใช้ PETs ที่พร้อมใช้งานและแก้ไขปัญหาการกำกับดูแลและความปลอดภัยของข้อมูลที่ไม่ได้รวมอยู่ใน TEE มาตรฐาน ด้วยโซลูชันนี้ แบบจำลองและข้อมูลทั้งหมดถูกเข้ารหัสก่อนที่จะถูกส่งไปยังสภาพแวดล้อมการประมวลผลที่มีการรักษาความลับ สภาพแวดล้อมสามารถตั้งอยู่ที่ใดก็ได้ ซึ่งสำคัญในการแก้ไขข้อกำหนดการกระจายข้อมูลบางอย่าง นี่หมายความว่าทั้งทรัพย์สินทางปัญญาของแบบจำลองและความปลอดภัยของข้อมูลนำเข้าจะถูกบำรุงรักษาไว้ระหว่างการคำนวณ – แม้แต่ผู้ให้บริการสภาพแวดล้อมการประมวลผลที่มีการรักษาความลังก็ไม่สามารถเข้าถึงแบบจำลองหรือข้อมูลภายในได้ ผลลัพธ์ที่เข้ารหัสจะถูกส่งกลับเพื่อตรวจสอบและบันทึกจะพร้อมสำหรับการตรวจสอบ

การอำนวยความสะดวกในการปฏิบัติตามกฎหมายและจริยธรรม

การได้รับข้อมูลที่มีคุณภาพดีเป็นเรื่องที่ยาก การกำหนดข้อจำกัดด้านความเป็นส่วนตัวและท้องถิ่นของข้อมูลจะจำกัดชุดข้อมูลที่องค์กรสามารถเข้าถึงได้ เพื่อให้เกิดนวัตกรรมและการเติบโต ข้อมูลจะต้องไหลไปยังผู้ที่สามารถดึงคุณค่าออกจากมัน

มาตรา 54 ของกฎหมาย AI ของ EU กำหนดข้อกำหนดสำหรับ “แบบจำลองที่มีความเสี่ยงสูง” ในแง่ของสิ่งที่ต้องได้รับการพิสูจน์ก่อนที่จะนำสู่ตลาด สั้นๆ คือ ทีมจะต้องใช้ข้อมูลจริงภายใน AI Regulatory Sandbox เพื่อแสดงประสิทธิภาพของแบบจำลองและความสอดคล้องกับระบบควบคุมที่อธิบายไว้ในบทที่ 2 ของชื่อ 3 ระบบควบคุมรวมถึงการตรวจสอบ การโปร่งใส การอธิบายความปลอดภัยของข้อมูล การคุ้มครองข้อมูล การลดข้อมูลให้เหลือน้อยที่สุด และการปกป้องแบบจำลอง – คิดถึง DevSecOps + Data Ops

ความท้าทายแรกจะเป็นการค้นหาชุดข้อมูลจริงที่จะใช้ – เนื่องจากเป็นข้อมูลที่มีความไวต่อความปลอดภัยสำหรับแบบจำลองเหล่านี้ โดยไม่มีการรับประกันทางเทคนิค องค์กรหลายแห่งอาจลังเลที่จะเชื่อถือผู้ให้บริการแบบจำลองกับข้อมูลของตนหรือไม่ได้รับอนุญาตให้ทำเช่นนั้น นอกจากนี้ การที่กฎหมายกำหนด “AI Regulatory Sandbox” เป็นความท้าทายในตัวมันเอง บางส่วนของข้อกำหนดรวมถึงการรับประกันว่าข้อมูลจะถูกลบออกจากระบบหลังจากที่แบบจำลองได้รับการรันแล้ว เช่นเดียวกับระบบควบคุม การบังคับใช้ และการรายงานเพื่อพิสูจน์มัน

หลายองค์กรได้พยายามใช้ห้องข้อมูลที่พร้อมใช้งาน (DCRs) และสภาพแวดล้อมการประมวลผลที่มีการรักษาความลับ (TEEs) แต่ด้วยตัวมันเอง เทคโนโลยีเหล่านี้ต้องการความเชี่ยวชาญและงานที่สำคัญในการดำเนินการและตอบสนองข้อกำหนดด้านกฎระเบียบข้อมูลและ AI DCRs ใช้งานง่ายกว่า แต่ยังไม่มีประโยชน์สำหรับความต้องการ AI/ML ที่มีประสิทธิภาพมากกว่า TEEs เป็นเซิร์ฟเวอร์ที่มีการรักษาความลับและยังคงต้องการแพลตฟอร์มการทำงานร่วมกันที่จะรวมเข้าด้วยกันอย่างรวดเร็ว ซึ่งระบุโอกาสให้แพลตฟอร์มเทคโนโลยีการเพิ่มความปลอดภัยรวมเข้ากับ TEEs เพื่อลบงานนั้น ทำให้การตั้งค่าและใช้ AI Regulatory Sandbox ง่ายขึ้น และด้วยเหตุนี้ จึงทำให้การได้รับและใช้ข้อมูลที่มีความไวต่อความปลอดภัยง่ายขึ้น

โดยการอำนวยความสะดวกในการใช้ข้อมูลที่หลากหลายและครอบคลุมมากขึ้นในลักษณะที่รักษาความเป็นส่วนตัว เทคโนโลยีเหล่านี้ช่วยให้แน่ใจว่าแนวปฏิบัติ AI และ ML เป็นไปตามมาตรฐานจริยธรรมและข้อกำหนดทางกฎหมายที่เกี่ยวข้องกับความเป็นส่วนตัวของข้อมูล (เช่น GDPR และกฎหมาย AI ของ EU ในยุโรป) ในสรุป แม้ว่าข้อกำหนดมักจะพบกับการส่งเสียงดังและเสียงหึ่ง แต่ข้อกำหนดเหล่านี้เป็นเพียงการชี้นำเราในการสร้างแบบจำลองที่ดีกว่าที่เราสามารถเชื่อถือและพึ่งพาได้สำหรับการตัดสินใจที่สำคัญโดยอาศัยข้อมูลในขณะที่ปกป้องความเป็นส่วนตัวของข้อมูลที่ใช้ในการพัฒนาและปรับแต่งแบบจำลอง