โมเดลและแพลตฟอร์ม AI
การศึกษาพบว่าโมเดล AI ไม่สอดคล้องกับการประมวลผลภาพของมนุษย์
ประเด็นสำคัญโมเดลการมองเห็นของ AI ไม่สามารถเข้าใจรูปทรงโดยรวมของวัตถุได้เหมือนกับการรับรู้ของมนุษย์
ดูเพิ่มเติม
- โมเดลการมองเห็นของ AI ไม่สามารถเข้าใจรูปทรงโดยรวมของวัตถุได้เหมือนกับการรับรู้ของมนุษย์
- ข้อบกพร่องนี้อาจทำให้การประเมินความเสี่ยงในสถานการณ์จริง เช่น ด้านความปลอดภัยในการจราจร ผิดพลาดได้อย่างอันตราย
- อาจจำเป็นต้องฝึกฝนเครือข่ายด้วยงานที่หลากหลายมากกว่าการจดจำแบบง่ายๆ
การศึกษาใหม่จากมหาวิทยาลัยยอร์กแสดงให้เห็นว่าโครงข่ายประสาทเทียมคอนโวลูชันเชิงลึก (DCNNs) ไม่สอดคล้องกับการประมวลผลภาพของมนุษย์โดยใช้การรับรู้รูปทรงจากความสัมพันธ์ระหว่างส่วนประกอบ ตามที่ศาสตราจารย์เจมส์เอลเดอร์ ร่วมผู้เขียนการศึกษานี้ ระบุว่าสิ่งนี้อาจมีผลกระทบอย่างรุนแรงและอันตรายต่อการประยุกต์ใช้ AI ในโลกแห่งความเป็นจริง
การศึกษาใหม่ที่มีชื่อว่า “โมเดลการเรียนรู้เชิงลึกไม่สามารถเข้าใจลักษณะเชิงองค์ประกอบสัมพันธ์ ของการรับรู้รูปทรงของมนุษย์ได้” ถูกตีพิมพ์ในวารสาร Cell Press iScience
เป็นการศึกษาร่วมกันระหว่างเอลเดอร์ ผู้ถือตำแหน่ง York Research Chair ในด้านการมองเห็นของมนุษย์และคอมพิวเตอร์ และผู้อำนวยการร่วมของ York’s Center for AI & Society และศาสตราจารย์นิโคลัสเบเกอร์ ผู้ช่วยศาสตราจารย์ด้านจิตวิทยาและอดีต VISTA postdoctoral fellow ที่ยอร์ก
สิ่งเร้าทางสายตารูปแบบใหม่ “แฟรงเกนสไตน์”
ทีมงานได้พึ่งพาสิ่งเร้าทางสายตารูปแบบใหม่ที่เรียกว่า “แฟรงเกนสไตน์” ซึ่งช่วยให้พวกเขาสำรวจว่าสมองของมนุษย์และ DCNNs ประมวลผลคุณสมบัติของวัตถุตามความสัมพันธ์ระหว่างส่วนประกอบและภาพรวม ได้อย่างไร
“แฟรงเกนสไตน์คือวัตถุที่ถูกแยกออกและประกอบเข้าด้วยกันในทางที่ผิด” เอลเดอร์กล่าว “ดังนั้นจึงมีลักษณะเฉพาะส่วน ที่ถูกต้อง แต่อยู่ในตำแหน่งที่ผิด”
การศึกษาพบว่า DCNNs ไม่สับสนกับแฟรงเกนสไตน์เหมือนกับระบบการมองเห็นของมนุษย์ ซึ่งแสดงให้เห็นถึงการไม่ไวต่อคุณสมบัติด้านความสัมพันธ์ระหว่างส่วนประกอบของวัตถุ
“ผลลัพธ์ของเราแสดงให้เห็นว่าเหตุใดโมเดล AI ที่ลึกจึงล้มเหลวภายใต้เงื่อนไขบางอย่าง และชี้ให้เห็นถึงความจำเป็นที่จะต้องพิจารณางานที่อยู่นอกเหนือการรู้จำวัตถุเพื่อทำความเข้าใจการประมวลผลภาพในสมอง” เอลเดอร์กล่าวต่อ “โมเดลเหล่านี้มักจะหาทางลัดเมื่อแก้ปัญหาการรู้จำที่ซับซ้อน ในขณะที่ทางลัดเหล่านี้อาจทำงานได้ในหลายกรณี แต่ก็อาจเป็นอันตรายในบางกรณีของการประยุกต์ใช้ AI ในโลกแห่งความเป็นจริงที่เรากำลังทำงานร่วมกับพันธมิตรอุตสาหกรรมและรัฐบาลของเรา”

ภาพ: มหาวิทยาลัยยอร์ก
ผลกระทบในโลกแห่งความเป็นจริง
เอลเดอร์กล่าวว่าหนึ่งในการประยุกต์ใช้เหล่านี้คือระบบความปลอดภัยการจราจรที่ใช้วิดีโอ
“วัตถุในฉากการจราจรที่วุ่นวาย – ยานพาหนะ, จักรยานและผู้เดินเท้า – กั้นตัวกันและกันและมาถึงดวงตาของผู้ขับขี่เป็นกลุ่มชิ้นส่วนที่แยกขาดจากกันอย่างสับสน” เขากล่าว “สมองต้องจัดกลุ่มส่วนเหล่านี้ให้ถูกต้องเพื่อระบุประเภทและตำแหน่งที่ถูกต้องของวัตถุ ระบบ AI สำหรับการตรวจสอบความปลอดภัยของการจราจรที่สามารถรับรู้ส่วนเหล่านี้ได้เพียงอย่างเดียวจะล้มเหลวในงานนี้ และอาจเข้าใจผิดถึงความเสี่ยงต่อผู้ใช้ถนนกลุ่มเปราะบาง”
นักวิจัยยังระบุด้วยว่าการปรับเปลี่ยนการฝึกอบรมและสถาปัตยกรรมที่มุ่งหมายเพื่อให้เครือข่ายมีลักษณะเหมือนสมองมากขึ้นไม่สามารถทำให้เครือข่ายประมวลผลความสัมพันธ์ระหว่างส่วนประกอบได้ ไม่มีเครือข่ายใดที่สามารถคาดการณ์การตัดสินของมนุษย์ในการรับรู้วัตถุได้อย่างแม่นยำในแต่ละครั้ง
“เราสันนิษฐานว่าเพื่อให้ตรงกับความไวต่อความสัมพันธ์ระหว่างส่วนประกอบในการรับรู้รูปทรงของมนุษย์ เครือข่ายเหล่านี้จะต้องถูกฝึกให้แก้ปัญหาการรับรู้วัตถุในวงกว้างมากกว่าการรู้จำประเภท” เอลเดอร์สรุป












