วิธีการสร้างโมเดล AI ที่มีความสามารถในการให้เหตุผล ไม่ใช่แค่ทำตาม

ในช่วงหลายทศวรรษที่ผ่านมา ความสามารถของปัญญาประดิษฐ์ (AI) ในการค้นหารูปแบบในข้อมูลได้พัฒนาไปอย่างมาก โมเดลการเรียนรู้ของเครื่องสามารถคาดการณ์พฤติกรรมของลูกค้า คาดการณ์แนวโน้มของตลาด หรือระบุความเสี่ยงด้านสุขภาพได้อย่างแม่นยำ แต่ระบบเหล่านี้มักล้มเหลวในการอธิบายว่าเหตุการณ์เหล่านั้นเกิดขึ้นได้อย่างไร พวกมันพึ่งพาความสัมพันธ์ระหว่างข้อมูล ซึ่งไม่สามารถแยกแยะระหว่างสาเหตุและความบังเอิญได้ ความจำกัดนี้ทำให้ AI ตอบสนองต่อสถานการณ์ใหม่ๆ ไม่ได้ และไม่สามารถให้เหตุผลเกี่ยวกับการแทรกแซงได้ Causal AI มาแก้ไขช่องว่างนี้โดยทำให้เครื่องจักรเข้าใจสาเหตุและผลกระทบ ซึ่งจำเป็นต่อการให้เหตุผลที่แท้จริง

การหลอกลวงของการเกี่ยวข้อง

การเรียนรู้ของเครื่องแบบดั้งเดิมดำเนินการโดยการค้นหาลิงก์ทางสถิติในข้อมูล หากผู้ป่วยที่ได้รับการรักษาด้วยยาบางชนิดฟื้นตัวเร็วขึ้น อัลกอริทึมจะเรียนรู้ความสัมพันธ์นั้น ในขณะที่แนวทางนี้ได้ให้ความก้าวหน้าที่น่าประทับใจในด้านการรู้จำภาพ การแปลภาษา และระบบแนะนำ แต่ก็มีข้อบกพร่องที่ร้ายแรง มันไม่สามารถแยกแยะระหว่างสาเหตุและความบังเอิญได้ ความไม่สามารถนี้สร้างจุดบอดที่อันตรายเกี่ยวกับวิธีการทำงานของกลไกพื้นฐาน ตัวอย่างเช่น อัลกอริทึมที่ใช้กันอย่างแพร่หลายในการระบุผู้ป่วยที่ต้องการการดูแลพิเศษเรียนรู้ว่าการใช้จ่ายด้านสุขภาพสามารถคาดการณ์ความต้องการทางการแพทย์ได้ แต่เมื่อวิเคราะห์ข้อมูลของชาวอเมริกัน 200 ล้านคน พบว่าความสัมพันธ์นี้มองข้ามความลำเอียงของระบบ เนื่องจากการใช้จ่ายด้านสุขภาพสำหรับชาวอเมริกันเชื้อสายแอฟริกันน้อยกว่าสำหรับชาวอเมริกันเชื้อสายผิวขาวที่มีโรคเดียวกันเนื่องจากปัจจัยของระบบ อัลกอริทึมซึ่งไม่เห็นปัจจัยนี้จึงประเมินความต้องการการดูแลของผู้ป่วยชาวแอฟริกันอเมริกันต่ำเกินไป

บันไดของการก่อให้เกิดผลของ Pearl

Judea Pearl ผู้ชนะรางวัลทัวริงในด้านการอนุมานสาเหตุ ได้กำหนดกรอบการทำงานของ Causal AI ผ่าน บันไดของการก่อให้เกิดผล ของเขา บันไดนี้อธิบายสามระดับของการให้เหตุผล ระดับแรกคือการเกี่ยวข้อง นี่คือที่ที่ AI แบบดั้งเดิมดำเนินการโดยการสังเกตรูปแบบหรือความสัมพันธ์จากข้อมูล ระดับที่สองคือการแทรกแซง ซึ่งถามว่า “เกิดอะไรขึ้นถ้าฉันทำ X?” สิ่งนี้ต้องการความเข้าใจว่าการเปลี่ยนแปลงตัวแปรหนึ่งจะส่งผลต่ออีกตัวแปรอย่างไร ระดับสูงสุดคือการให้เหตุผลแบบสมมุติ ซึ่งเกี่ยวข้องกับการถามว่า “เกิดอะไรขึ้นถ้าฉันทำสิ่งที่แตกต่าง?” สิ่งนี้ต้องอาศัยการสร้างสถานการณ์ทางเลือกและจำเป็นต่อความรับผิดชอบและการเรียนรู้

วิธีการสร้างโมเดล AI ที่มีความสามารถในการให้เหตุผล

การนำ Causal AI ไปใช้จริงเกี่ยวข้องกับส่วนประกอบหลักสามประการ:

โมเดลสาเหตุโครงสร้าง (SCMs): โมเดลเหล่านี้พึ่งพาสมการในการอธิบายกลไกสาเหตุที่สร้างข้อมูล วิธีการนี้ทำให้ AI สามารถสร้างแบบจำลองกระบวนการสร้างข้อมูลพื้นฐานได้ แทนที่จะเรียนรู้รูปแบบระดับผิวเผิน

กราฟแบบมีทิศทางและไม่มีวงจร (DAGs): การแสดงภาพเหล่านี้ใช้โหนดและลูกศรเพื่นิยามสมมติฐานสาเหตุอย่างชัดเจน DAG ช่วยให้专家ระบุตัวแปรที่สับสนและตรวจสอบตรรกะของโมเดล

“Do”-คณิตศาสตร์: ผู้ดำเนินการทางคณิตศาสตร์นี้ซึ่งพัฒนาโดย Pearl แยกความแตกต่างอย่างเป็นทางการระหว่างการดู P (Y|X) และการแทรกแซง P (Y| do(X)) มันให้เครื่องมือในการตอบคำถาม “เกิดอะไรขึ้นถ้า” โดยใช้ข้อมูล

เครื่องมือที่กำลังเติบโต

การพัฒนาของซอฟต์แวร์ที่สามารถเข้าถึงได้ cũngมีบทบาทสำคัญในการเร่งความเร็วของ Causal AI เฟรมเวิร์ก DoWhy ของ Microsoft (MSFT ) เป็นไลบรารี Python แบบเปิดที่ใช้กระบวนการทำงานสี่ขั้นตอน รวมถึงเครื่องมือสำหรับการสร้างแบบจำลองความสัมพันธ์สาเหตุ การระบุผลสาเหตุ การประมาณการผล และการหักล้างสมมติฐานเพื่อทดสอบความแข็งแกร่ง

ข้อได้เปรียบหลัก: ความแข็งแกร่งและความน่าเชื่อถือ

ข้อได้เปรียบหลักของ Causal AI คือความแข็งแกร่งต่อการเปลี่ยนแปลงของสภาพแวดล้อม เมื่อสภาพแวดล้อมเปลี่ยนแปลงจากช่วงการฝึกอบรมไปสู่การนำไปใช้ โมเดลแบบดั้งเดิมมักล้มเหลวอย่างรุนแรงเนื่องจากความสัมพันธ์ที่เรียนรู้ไว้พังทลาย โมเดลที่อาศัยความสัมพันธ์สำหรับการคาดการณาการผลผลิตของพืชอาจเรียนรู้ว่าความชื้นในดินสูงคาดการณ์ผลผลิตที่สูงขึ้น แต่ถ้าความสัมพันธ์นี้ถูกบิดเบือนโดยการปฏิบัติในการชลประทานในข้อมูลการฝึกอบรม โมเดลจะล้มเหลวเมื่อนำไปใช้ในภูมิภาคใหม่

ผลกระทบในโลกแห่งความเป็นจริงทั่วอุตสาหกรรม

การเปลี่ยนแปลงไปสู่การให้เหตุผลสาเหตุได้ให้ผลลัพธ์ที่มีคุณค่าในอุตสาหกรรมต่างๆ ในด้านสุขภาพ Kaiser Permanente ใช้ Causal AI เพื่อระบุสาเหตุของการรับเข้าโรงพยาบาลซ้ำ ทำให้สามารถดำเนินการได้เชิงรุก เช่น การเตือนการให้ยาแบบปรับแต่งได้ ซึ่งปรับปรุงอัตราการปฏิบัติตามอย่างมีนัยสำคัญ

สรุป

ยุคของ AI ที่พึ่งพาความสัมพันธ์กำลังจะสิ้นสุดลง โดยการสร้างโมเดลที่เข้าใจว่าเหตุการณ์เกิดขึ้นได้อย่างไร Causal AI ให้พลังการให้เหตุผลที่จำเป็นสำหรับการวิเคราะห์ “เกิดอะไรขึ้นถ้า” ที่น่าเชื่อถือ ความทนทานต่อการเปลี่ยนแปลงของสภาพแวดล้อม และความสามารถในการอธิบายที่ต้องการโดยธุรกิจและกฎระเบียบสมัยใหม่