Adi Hirschtein, VP of Product at Duality Technologies Adi Hirschtein VP of Product at Duality Technologies

วิธีการที่ความลำเอียงจะฆ่ากลยุทธ์ AI/ML ของคุณ และวิธีแก้ไข

‘ความลำเอียง’ ในแบบจำลองใดๆ อธิบายถึงสถานการณ์ที่แบบจำลองตอบสนองไม่ถูกต้องต่อคำสั่งหรือข้อมูลนำเข้าเนื่องจากไม่ได้รับการฝึกฝนพร้อมกับข้อมูลที่มีคุณภาพสูงและหลากหลายเพียงพอเพื่อให้ได้คำตอบที่ถูกต้อง ตัวอย่างหนึ่งคือ ฟังก์ชันปลดล็อกโทรศัพท์มือถือด้วยการรู้จำใบหน้าของ Apple ซึ่งล้มเหลวในอัตราสูงกว่าสำหรับผู้ที่มีผิวสีเข้มเมื่อเทียบกับผู้ที่มีผิวสีจัด นี่เป็นตัวอย่างที่มีความเสี่ยงต่ำของความลำเอียง แต่คือเหตุผลที่ทำไม กฎหมาย AI ของ EU จึงกำหนดข้อกำหนดในการพิสูจน์ประสิทธิภาพของแบบจำลอง (และระบบควบคุม) ก่อนที่จะเข้าสู่ตลาด แบบจำลองที่มีผลลัพธ์ที่ส่งผลกระทบต่อธุรกิจ การเงิน สุขภาพ หรือสถานการณ์ส่วนบุคคลต้องเป็นที่เชื่อถือ หรือจะไม่ได้รับการใช้งานการแก้ไขความลำเอียงด้วยข้อมูลปริมาณข้อมูลที่มีคุณภาพสูงในบรรดาปฏิบัติการจัดการข้อมูลที่สำคัญหลายอย่าง ส่วนประกอบสำคัญในการเอาชนะและลดความลำเอียงในแบบจำลอง AI/ML คือการได้รับข้อมูลที่มีคุณภาพสูงและหลากหลายในปริมาณมาก ซึ่งต้องมีการร่วมมือกับองค์กรหลายแห่งที่มีข้อมูลดังกล่าว ในแบบดั้งเดิม...