Google สร้างโปรแกรม AI ที่อธิบายได้ใหม่เพื่อเพิ่มความโปร่งใสและความสามารถในการแก้ปัญหา

เมื่อเร็วๆ นี้ Google (GOOGL ) ได้ประกาศการสร้างแพลตฟอร์มคลาวด์ใหม่ที่มีจุดมุ่งหมายเพื่อให้ได้รับข้อมูลเชิงลึกเกี่ยวกับวิธีการตัดสินใจของโปรแกรม AI ทำให้ง่ายต่อการแก้ปัญหาและเพิ่มความโปร่งใส ตามรายงานของ The Register แพลตฟอร์มคลาวด์นี้เรียกว่า Explainable AI และเป็นความพยายามครั้งสำคัญของ Google ในการลงทุนในด้านความสามารถในการอธิบาย AI

เครือข่ายประสาทเทียมใช้ในระบบ AI หลายระบบที่ใช้กันอย่างแพร่หลายในปัจจุบัน เครือข่ายประสาทเทียมที่ใช้ในระบบ AI ที่สำคัญสามารถมีความซับซ้อนและขนาดใหญ่มาก และเมื่อระบบมีความซับซ้อนมากขึ้น ก็จะยากต่อการทำความเข้าใจว่าเหตุใดการตัดสินใจจึงถูกทำขึ้น ตามที่ Google อธิบายในเอกสารขาวของพวกเขา เมื่อระบบ AI มีความสามารถมากขึ้น ก็จะยากต่อการแก้ปัญหาและเสียความโปร่งใสไป ซึ่งหมายความว่าアルゴリズึมที่มีอคติจะยากต่อการตรวจจับและแก้ไข

ข้อเท็จจริงที่ว่าเหตุผลที่ขับเคลื่อนพฤติกรรมของระบบที่ซับซ้อนมากนี้ยากต่อการทำความเข้าใจมักจะมีผลกระทบอย่างรุนแรง นอกเหนือจากการที่ทำให้ยากต่อการรับมือกับอคติของ AI แล้ว ยังทำให้ยากต่อการแยกแยะความสัมพันธ์ที่ไม่สำคัญจากความสัมพันธ์ที่สำคัญและน่าสนใจ

หลายบริษัทและกลุ่มวิจัยกำลังสำรวจวิธีการแก้ไขปัญหา “กล่องดำ” ของ AI และสร้างระบบที่สามารถอธิบายได้ว่าเหตุใดการตัดสินใจจึงถูกทำขึ้น โดยแพลตฟอร์ม Explainable AI ของ Google เป็นความพยายามของตนเองในการแก้ไขความท้าทายนี้ Explainable AI ประกอบด้วยเครื่องมือสามชิ้น เครื่องมือแรกเป็นระบบที่อธิบายคุณลักษณะที่ถูกเลือกโดย AI และแสดงคะแนนการมีส่วนร่วมที่แสดงถึงอิทธิพลของคุณลักษณะต่อการคาดการณ์สุดท้าย รายงานของ Google เกี่ยวกับเครื่องมือนี้ให้ตัวอย่างการคาดการณ์ระยะเวลาของการขี่จักรยานตามตัวแปร เช่น ปริมาณฝน อุณหภูมิปัจจุบัน วันในสัปดาห์ และเวลาที่เริ่มต้น หลังจากที่เครือข่ายตัดสินใจแล้ว จะมีการให้ข้อเสนอแนะที่แสดงคุณลักษณะที่มีผลกระทบมากที่สุดต่อการคาดการณ์

เครื่องมืออื่นๆ ในชุดเครื่องมือนี้คือ “What-If” ซึ่งแสดงการเปลี่ยนแปลงที่อาจเกิดขึ้นในประสิทธิภาพของแบบจำลองเมื่อคุณลักษณะแต่ละรายการถูกจัดการ สุดท้าย เครื่องมือสุดท้ายสามารถตั้งค่าให้แสดงผลตัวอย่างให้กับผู้ตรวจสอบมนุษย์ตามกำหนดเวลา

ดร. แอนดรูว์ มัวร์ นักวิทยาศาสตร์ระดับสูงของ Google ในด้าน AI และการเรียนรู้ของเครื่อง อธิบายแรงบันดาลใจเบื้องหลังโครงการนี้ มัวร์อธิบายว่าประมาณห้าปีที่แล้ว ชุมชนวิชาการเริ่มกังวลเกี่ยวกับผลเสียที่เกิดจากการใช้ AI และ Google ต้องการให้แน่ใจว่าระบบของตนถูกใช้เฉพาะในทางที่เป็นประโยชน์เท่านั้น มัวร์กล่าวถึงเหตุการณ์ที่บริษัทพยายามออกแบบโปรแกรมการมองเห็นคอมพิวเตอร์เพื่อเตือนผู้ทำงานก่อสร้างหากไม่มีหมวกนิรภัย แต่พวกเขาก็กลัวว่าการตรวจสอบอาจถูกนำไปสู่การทำให้คนเสียศักดิ์ศรี มัวร์กล่าวว่ามีเหตุผลที่คล้ายกันในการที่ Google ตัดสินใจไม่เผยแพร่ API การรู้จำใบหน้าแบบทั่วไป เนื่องจากบริษัทต้องการควบคุมว่าเทคโนโลยีของตนถูกใช้อย่างไรและเพื่อให้แน่ใจว่ามันถูกใช้เฉพาะในทางที่เป็นประโยชน์เท่านั้น

มัวร์ยังเน้นย้ำ ว่าเหตุใดจึงสำคัญสำหรับการตัดสินใจของ AI ที่จะอธิบายได้:

“หากคุณมีระบบที่มีความสำคัญต่อความปลอดภัยหรือสิ่งที่สำคัญต่อสังคมซึ่งอาจมีผลกระทบไม่คาดคิดหากคุณคิดว่าแบบจำลองของคุณทำผิดพลาด คุณจะต้องสามารถวินิจฉัยมันได้ เราต้องการอธิบายอย่างระมัดระวังว่าความสามารถในการอธิบายสามารถและไม่สามารถทำอะไรได้ มันไม่ใช่ปาฏิหาริย์