โมเดลและแพลตฟอร์ม AI
การศึกษาพบว่าโมเดล AI ไม่สอดคล้องกับการประมวลผลภาพของมนุษย์
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google
การศึกษาใหม่จากมหาวิทยาลัยยอร์กแสดงให้เห็นว่าเครือข่ายประสาทเทียมแบบลึก (DCNNs) ไม่สอดคล้องกับการประมวลผลภาพของมนุษย์โดยใช้การรับรู้รูปทรงแบบ configural ตามที่ศาสตราจารย์เจมส์เอลเดอร์ ร่วมผู้เขียนการศึกษานี้ ระบุว่าสิ่งนี้อาจมีผลกระทบอย่างรุนแรงและอันตรายต่อการประยุกต์ใช้ AI ในโลกแห่งความเป็นจริง
การศึกษาใหม่ที่มีชื่อว่า “การเรียนรู้แบบลึกไม่สามารถจับภาพลักษณะ configural ของการรับรู้รูปทรงของมนุษย์ได้” ถูกตีพิมพ์ในวารสาร Cell Press iScience
เป็นการศึกษาร่วมกันระหว่างเอลเดอร์ ผู้ถือตำแหน่ง York Research Chair ในด้านการมองเห็นของมนุษย์และคอมพิวเตอร์ และผู้อำนวยการร่วมของ York’s Center for AI & Society และศาสตราจารย์นิโคลัสเบเกอร์ ผู้ช่วยศาสตราจารย์ด้านจิตวิทยาและอดีต VISTA postdoctoral fellow ที่ยอร์ก
การกระตุ้นภาพใหม่ “แฟรงเกนสไตน์”
ทีมงานได้พึ่งพาการกระตุ้นภาพใหม่ที่เรียกว่า “แฟรงเกนสไตน์” ซึ่งช่วยให้พวกเขาสำรวจว่าสมองของมนุษย์และ DCNNsประมวลผลคุณสมบัติของวัตถุแบบ configural และแบบ holistic ได้อย่างไร
“แฟรงเกนสไตน์คือวัตถุที่ถูกแยกออกและประกอบเข้าด้วยกันในทางที่ผิด” เอลเดอร์กล่าว “ดังนั้นจึงมีคุณสมบัติ local ที่ถูกต้อง แต่อยู่ในตำแหน่งที่ผิด”
การศึกษาพบว่า DCNNs ไม่สับสนกับแฟรงเกนสไตน์เหมือนกับระบบการมองเห็นของมนุษย์ ซึ่งแสดงให้เห็นถึงการไม่ไวต่อคุณสมบัติของวัตถุแบบ configural
“ผลลัพธ์ของเราแสดงให้เห็นว่าเหตุใดโมเดล AI ที่ลึกจึงล้มเหลวภายใต้เงื่อนไขบางอย่าง และชี้ให้เห็นถึงความจำเป็นที่จะต้องพิจารณางานที่อยู่นอกเหนือการรู้จำวัตถุเพื่อทำความเข้าใจการประมวลผลภาพในสมอง” เอลเดอร์กล่าวต่อ “โมเดลเหล่านี้มักจะหาทางลัดเมื่อแก้ปัญหาการรู้จำที่ซับซ้อน ในขณะที่ทางลัดเหล่านี้อาจทำงานได้ในหลายกรณี แต่ก็อาจเป็นอันตรายในบางกรณีของการประยุกต์ใช้ AI ในโลกแห่งความเป็นจริงที่เรากำลังทำงานร่วมกับพันธมิตรอุตสาหกรรมและรัฐบาลของเรา”
ภาพ: มหาวิทยาลัยยอร์ก
ผลกระทบในโลกแห่งความเป็นจริง
เอลเดอร์กล่าวว่าหนึ่งในการประยุกต์ใช้เหล่านี้คือระบบความปลอดภัยของวิดีโอการจราจร
“วัตถุในฉากการจราจรที่วุ่นวาย – ยานพาหนะ, จักรยานและผู้เดินเท้า – กั้นตัวกันและกันและมาถึงดวงตาของผู้ขับขี่ในลักษณะที่ไม่เชื่อมต่อ” เขากล่าว “สมองต้องจัดกลุ่มส่วนเหล่านี้ให้ถูกต้องเพื่อระบุประเภทและตำแหน่งที่ถูกต้องของวัตถุ ระบบ AI สำหรับการตรวจสอบความปลอดภัยของการจราจรที่สามารถรับรู้ส่วนเหล่านี้ได้เพียงอย่างเดียวจะล้มเหลวในงานนี้ และอาจเข้าใจผิดถึงความเสี่ยงต่อผู้ใช้ถนนอ่อนแอ”
นักวิจัยยังระบุด้วยว่าการปรับเปลี่ยนการฝึกอบรมและสถาปัตยกรรมที่มุ่งหมายเพื่อให้เครือข่ายมีลักษณะเหมือนสมองมากขึ้นไม่ได้ทำการประมวลผลแบบ configural ได้ ไม่มีเครือข่ายใดที่สามารถคาดการณ์การตัดสินของมนุษย์ในการรับรู้วัตถุได้อย่างแม่นยำในแต่ละครั้ง
“เราสันนิษฐานว่าเพื่อให้ตรงกับความไวต่อการรับรู้รูปทรงของมนุษย์ เครือข่ายเหล่านี้จะต้องถูกฝึกให้แก้ปัญหาการรับรู้วัตถุในวงกว้างมากกว่าการรู้จำประเภท” เอลเดอร์สรุป
