ความสามารถในการอธิบายได้สามารถแก้ไขปัญหาของอุตสาหกรรมทุกประเภทได้: การขาดความโปร่งใสของ AI

โดย: Migüel Jetté, VP of R&D Speech, Rev.

ในระยะเริ่มต้น AI อาจพักผ่อนบนเกียรติยศของความใหม่ มันถูกที่จะให้การเรียนรู้ของเครื่องจักรเรียนรู้อย่างช้าๆ และรักษากระบวนการที่ไม่โปร่งใสซึ่งการคำนวณของ AI นั้นเป็นเรื่องที่ยากสำหรับผู้บริโภคทั่วไปที่จะเข้าใจ แต่สิ่งนี้กำลังเปลี่ยนแปลงไป เมื่ออุตสาหกรรมต่างๆ เช่น การดูแลสุขภาพ การเงิน และระบบยุติธรรมทางอาญาเริ่มใช้ AI ในรูปแบบที่สามารถมีผลกระทบต่อชีวิตของผู้คนได้ ผู้คนต้องการทราบว่าแอลกอริทึมถูกใช้อย่างไร ข้อมูลถูกเก็บจากที่ใด และความสามารถของมันถูกต้องเพียงใด หากบริษัทต้องการอยู่ในระดับแนวหน้าของนวัตกรรมในตลาดของตน พวกเขาต้องอาศัย AI ที่ผู้ฟังของพวกเขาจะไว้วางใจ ความสามารถในการอธิบายได้ของ AI คือส่วนผสมที่สำคัญในการสร้างความสัมพันธ์ที่ลึกซึ้งยิ่งขึ้น

ความสามารถในการอธิบายได้ของ AI แตกต่างจากกระบวนการ AI มาตรฐานเพราะมันให้คนเข้าใจว่าแอลกอริทึมการเรียนรู้ของเครื่องจักรสร้างผลลัพธ์อย่างไร AI ที่สามารถอธิบายได้ เป็นระบบที่สามารถให้ผลลัพธ์ที่เป็นไปได้ และ ข้อบกพร่อง มันเป็นระบบการเรียนรู้ของเครื่องจักรที่สามารถตอบสนองความต้องการของมนุษย์ในการมีความยุติธรรม ความรับผิดชอบ และการเคารพความเป็นส่วนตัว AI ที่สามารถอธิบายได้ถือเป็นสิ่งจำเป็นสำหรับธุรกิจในการสร้างความไว้วางใจกับผู้บริโภค

ในขณะที่ AI กำลังขยายตัว ผู้ให้บริการ AI ต้องเข้าใจว่าโมเดลกล่องดำไม่สามารถทำได้ โมเดลกล่องดำถูกสร้างขึ้นโดยตรงจากข้อมูล และหลายครั้งไม่แม้แต่นักพัฒนาที่สร้างแอลกอริทึมสามารถระบุได้ว่าอะไรเป็นตัวขับเคลื่อนความเคยชินของเครื่องจักร แต่ผู้บริโภคที่มีจิตสำนึกไม่ต้องการมีส่วนร่วมกับสิ่งที่ไม่สามารถเข้าถึงได้และไม่สามารถถูกถือว่ามีความรับผิดชอบได้ ผู้คนต้องการทราบว่าแอลกอริทึม AI ถึงผลลัพธ์เฉพาะอย่างไรโดยไม่มีความลึกลับของข้อมูลที่มาและผลลัพธ์ที่ควบคุม โดยเฉพาะอย่างยิ่งเมื่อข้อผิดพลาดของ AI มักเกิดจากความลำเอียงของเครื่องจักร เมื่อ AI มีความก้าวหน้ามากขึ้น ผู้คนต้องการเข้าถึงกระบวนการเรียนรู้ของเครื่องจักรเพื่อเข้าใจว่าแอลกอริทึมถึงผลลัพธ์เฉพาะอย่างไร ผู้นำในอุตสาหกรรมทุกประเภทต้องเข้าใจว่าไม่ช้าหรือเร็ว ผู้คนจะไม่พึงพอใจกับการเข้าถึงข้อมูลนี้อีกต่อไป แต่จะเรียกร้องให้มีความโปร่งใสเป็นระดับที่จำเป็น

ระบบ ASR เช่น ผู้ช่วยเสียง การถอดเสียง และบริการอื่นๆ ที่แปลงคำพูดของมนุษย์เป็นข้อความถูกทุกข์ทรมานจากความลำเอียง โดยเฉพาะอย่างยิ่งเมื่อใช้บริการเหล่านี้เพื่อวัตถุประสงค์ด้านความปลอดภัย ข้อผิดพลาดที่เกิดจากเสียงพูด อายุ หรือภูมิหลังของบุคคลอาจเป็นข้อผิดพลาดที่ร้ายแรง ดังนั้นปัญหานี้จึงต้องได้รับการพิจารณาอย่างจริงจัง ASR สามารถใช้ได้อย่างมีประสิทธิภาพในกล้องร่างกายของตำรวจเพื่อบันทึกและถอดเสียงอัตโนมัติ — การเก็บบันทึกที่ถอดเสียงอย่างถูกต้องอาจช่วยชีวิตได้ การปฏิบัติในการอธิบายจะกำหนดให้ AI ไม่เพียงแต่พึ่งพาข้อมูลที่ซื้อมาเท่านั้น แต่ยังต้องเข้าใจลักษณะของเสียงที่เข้ามา ซึ่งอาจทำให้เกิดข้อผิดพลาดหากมีข้อผิดพลาดใดๆ อะคูสติกโปรไฟล์เป็นอย่างไร มีเสียงดังในพื้นหลังหรือไม่ ผู้พูดมาจากประเทศที่ไม่ใช่ประเทศแรกของภาษาอังกฤษหรือไม่ หรือมาจากชั่วรุ่นที่ใช้คำศัพท์ที่ AI ยังไม่ได้เรียนรู้ การเรียนรู้ของเครื่องจักรต้องเรียนรู้อย่างรวดเร็วและสามารถเริ่มต้นด้วยการรวบรวมข้อมูลที่สามารถจัดการกับตัวแปรเหล่านี้ได้

ความจำเป็นกำลังจะชัดเจนขึ้น แต่เส้นทางในการนำวิธีการนี้ไปใช้ไม่ได้มีคำตอบที่ง่ายเสมอ คำตอบแบบดั้งเดิมสำหรับปัญหาคือการเพิ่มข้อมูล แต่คำตอบที่ซับซ้อนกว่านั้นจะจำเป็น โดยเฉพาะอย่างยิ่งเมื่อข้อมูลที่ซื้อมาโดยบริษัทต่างๆ มีความลำเอียงโดยธรรมชาติ เนื่องจากในอดีตมันยากที่จะอธิบายการตัดสินใจที่เฉพาะเจาะจงซึ่งได้รับจาก AI และสิ่งนี้เกิดจากธรรมชาติของความซับซ้อนของโมเดลปลายถึงปลาย อย่างไรก็ตาม เราสามารถทำได้แล้ว และเราสามารถเริ่มต้นด้วยการถามว่าทำไมผู้คนเสียความไว้วางใจใน AI ในตอนแรก

โดยไม่หลีกเลี่ยง AI จะทำผิดพลาด บริษัทต่างๆ ต้องสร้างแบบจำลองที่ตระหนักถึงข้อบกพร่องที่อาจเกิดขึ้น ระบุว่าเมื่อใดและที่ไหนที่ปัญหาเกิดขึ้น และสร้างวิธีแก้ปัญหาอย่างต่อเนื่องเพื่อสร้างแบบจำลอง AI ที่แข็งแกร่งยิ่งขึ้น:

1. เมื่อมีอะไรผิดพลาด นักพัฒนาจะต้องอธิบายว่าเกิดอะไรขึ้นและ พัฒนาแผนการ ngay สำหรับการปรับปรุงแบบจำลองเพื่อลดข้อผิดพลาดที่คล้ายกันในอนาคต
2. เพื่อให้เครื่องจักรรู้ว่าถูกหรือผิด นักวิทยาศาสตร์ต้อง สร้างวงจรป้อนกลับ เพื่อให้ AI เรียนรู้ข้อบกพร่องและพัฒนา
3. วิธีอื่นสำหรับ ASR ในการสร้างความไว้วางใจในขณะที่ AI ยังคงดีขึ้นคือ สร้างระบบที่สามารถให้คะแนนความมั่นใจ และให้เหตุผลว่าทำไม AI จึงมีความมั่นใจน้อยกว่า ตัวอย่างเช่น บริษัทต่างๆ มักสร้างคะแนนจาก 0 ถึง 100 เพื่อสะท้อนถึงข้อบกพร่องของ AI ของตนเองและสร้างความโปร่งใสกับลูกค้า ในอนาคต ระบบอาจให้คำอธิบายหลังเหตุการณ์สำหรับเหตุผลที่เสียงมีความท้าทายโดยการให้ข้อมูลอื่นๆ เกี่ยวกับเสียง เช่น ระดับเสียงที่รับรู้หรือเสียงที่ไม่เข้าใจ

ความโปร่งใสเพิ่มเติมจะนำไปสู่การกำกับดูแล AI ที่ดีขึ้นและผลลัพธ์ที่ดีขึ้น เมื่อเรามีความโปร่งใสมากขึ้น เราจะมีความรับผิดชอบมากขึ้นในการดำเนินการตามการปรับปรุงเหล่านั้น ตัวอย่างเช่น นักวิจัยอาจต้องการทราบว่าทำไมข้อความที่ผิดจึงถูกสร้างขึ้นเพื่อที่พวกเขาจะสามารถบรรเทาปัญหาได้ ในขณะที่ผู้ถอดเสียงอาจต้องการหลักฐานว่าทำไม ASR ถึงตีความข้อมูลที่เข้ามาผิดเพื่อช่วยในการประเมินความถูกต้องของมัน การเก็บคนไว้ในวงจรสามารถบรรเทาปัญหาได้หลายอย่างที่เกิดขึ้นเมื่อ AI ไม่ได้รับการตรวจสอบ และสามารถเร่งเวลาในการแก้ไขข้อผิดพลาดและปรับปรุง AI ได้

AI มีความสามารถในการปรับปรุงชีวิตของผู้คน แต่เฉพาะในกรณีที่มนุษย์สร้างขึ้นเพื่อผลิตอย่างเหมาะสม เราต้องรับผิดชอบไม่เพียงแต่ระบบเหล่านี้เท่านั้น แต่ยังรวมถึงผู้คนเบื้องหลังนวัตกรรมด้วย ระบบ AI ในอนาคตคาดว่าจะปฏิบัติตามหลักการซึ่งกำหนดโดยผู้คน และเฉพาะในกรณีนั้นเท่านั้นที่เราจะมีระบบที่ผู้คนไว้วางใจ มันถึงเวลาที่จะวางรากฐานและพยายามสร้างหลักการเหล่านั้นในขณะนี้ในขณะที่ยังคงเป็นมนุษย์ที่ให้บริการตนเอง