Ido Gaver, Co-Founder and CEO, Sweep.io

ปัญหาความน่าเชื่อถือของ AI ที่ไม่มีใครอยากพูดถึง

เรื่องราวที่โดดเด่นเกี่ยวกับความน่าเชื่อถือของ AI นั้นง่ายมาก: โมเดลมีภาพหลอน ดังนั้นเพื่อให้บริษัทได้รับประโยชน์สูงสุดจากพวกมัน โมเดลต้องดีขึ้น มีพารามิเตอร์มากขึ้น ข้อมูลการฝึกอบรมที่ดีกว่า การเรียนรู้แบบเสริมมากขึ้น การจัดตำแหน่งมากขึ้นและยังไงซะ แม้ว่าโมเดลแนวหน้าจะเติบโตมากขึ้น การถกเถียงเรื่องความน่าเชื่อถือยังคงไม่หายไป ผู้นำองค์กรยังคงลังเลที่จะอนุญาตให้ตัวแทนดำเนินการภายในระบบหลัก คณะกรรมการยังคงถามว่า “เราจะไว้วางใจมันได้หรือไม่?”แต่ภาพหลอนไม่ใช่ปัญหาหลักของโมเดล มันเป็นปัญหาบริบท เรากำลังขอให้ระบบ AI ดำเนินการบนโครงสร้างพื้นฐานขององค์กรโดยไม่ได้ให้ความเข้าใจโครงสร้างที่จำเป็นในการให้เหตุผลอย่างปลอดภัย แล้วเราก็โทษโมเดลเมื่อมันเดาช่องว่างความน่าเชื่อถือที่แท้จริงไม่ได้อยู่ในน้ำหนัก แต่อยู่ในชั้นข้อมูลศัลยแพทย์โดยไม่มีการถ่ายภาพลองนึกภาพศัลยแพทย์ที่ดำเนินการโดยไม่มีการถ่ายภาพ ไม่มี MRI ไม่มี CT สแกน...