นักวิทยาศาสตร์ระหว่างประเทศเรียกร้องความโปร่งใสในการวิจัย AI

นักวิทยาศาสตร์ระหว่างประเทศจากสถาบันต่างๆ รวมถึง Princess Margaret Cancer Centre, University of Toronto, Stanford University, Johns Hopkins, Harvard School of Public Health และ Massachusetts Institute of Technology กำลังเรียกร้องความโปร่งใสในการวิจัยปัญญาประดิษฐ์ (AI)

บทความที่นักวิทยาศาสตร์เหล่านี้เรียกร้องให้สิ่งพิมพ์วิทยาศาสตร์ยกระดับมาตรฐานความโปร่งใสในการวิจัยเชิงคำนวณได้รับการตีพิมพ์ใน Nature เมื่อวันที่ 14 ตุลาคม 2020 กลุ่มนี้ยังเสนอแนะให้เพื่อนร่วมงานของพวกเขาพิมพ์โค้ด โมเดล และสภาพแวดล้อมเชิงคำนวณในการตีพิมพ์

บทความนี้มีชื่อเรื่องว่า “ความโปร่งใสและความสามารถในการทำซ้ำใน AI”

การเปิดเผยรายละเอียดการวิจัย AI

ดร. Benjamin Haibe-Kains เป็นนักวิทยาศาสตร์ระดับสูง tại Princess Margaret Cancer Centre และเป็นผู้เขียนบทความหลัก

“ความก้าวหน้าทางวิทยาศาสตร์ขึ้นอยู่กับความสามารถของนักวิจัยในการตรวจสอบผลลัพธ์ของการศึกษาและทำซ้ำการค้นพบหลักเพื่อศึกษา” ดร. Haibe-Kains กล่าว “แต่ในการวิจัยเชิงคำนวณ ยังไม่มีการใช้มาตรฐานที่จะทำให้รายละเอียดของการศึกษาทาง AI สามารถเข้าถึงได้อย่างเต็มที่ ซึ่งเป็นอุปสรรคต่อความก้าวหน้าของเรา”

ความกังวลนี้เกิดขึ้นหลังจากการศึกษาของ Google (GOOGL ) Health ที่ตีพิมพ์โดย McKinney et al. ในวารสารวิทยาศาสตร์หลักเมื่อปี 2020 ซึ่งอ้างว่าระบบ AI สามารถทำได้ดีกว่าผู้เชี่ยวชาญด้านรังสีวิทยาในการตรวจคัดกรองมะเร็งเต้านมในด้านความแข็งแรงและความเร็ว การศึกษานี้ได้รับการเผยแพร่ในหลายสื่อ

ความไม่สามารถทำซ้ำโมเดล

หนึ่งในความกังวลหลักคือการศึกษานี้ไม่ได้อธิบายวิธีการและโค้ดและโมเดลอย่างละเอียด ทำให้นักวิจัยไม่สามารถเรียนรู้ว่าโมเดลทำงานอย่างไร และทำให้ไม่สามารถใช้โมเดลได้ในสถาบันอื่น

“ในกระดาษและทฤษฎี การศึกษาของ McKinney et al. เป็นเรื่องที่สวยงาม” ดร. Haibe-Kains กล่าว “แต่ถ้าเราไม่สามารถเรียนรู้จากมันแล้ว มันจะมีคุณค่าทางวิทยาศาสตร์น้อยมาก”

ดร. Haibe-Kains ได้รับการแต่งตั้งให้เป็นรองศาสตราจารย์ในสาขา Medical Biophysics ที่ University of Toronto และเป็นสมาชิกของ Vector Institute for Artificial Intelligence

“นักวิจัยมักได้รับการกระตุ้นให้ตีพิมพ์ผลการวิจัยมากกว่าการใช้เวลาและทรัพยากรเพื่อให้แน่ใจว่าการวิจัยสามารถทำซ้ำได้” ดร. Haibe-Kains กล่าวต่อ “สิ่งพิมพ์วิทยาศาสตร์อาจตกอยู่ในความน่าดึงดูดของ AI และอาจลดมาตรฐานในการยอมรับบทความที่ไม่มีการรวมทั้งหมดวัสดุที่จำเป็นในการทำให้การศึกษาสามารถทำซ้ำได้ — ซึ่งมักจะขัดแย้งกับแนวทางของตนเอง”

สภาพแวดล้อมนี้ทำให้โมเดล AI อาจใช้เวลานานกว่าจะเข้าสู่การรักษาในคลินิก และโมเดลไม่สามารถทำซ้ำหรือเรียนรู้จากนักวิจัยได้

กลุ่มนักวิจัยได้เสนอกรอบการทำงานและแพลตฟอร์มเพื่อแก้ไขปัญหานี้และทำให้วิธีการสามารถแบ่งปันได้

“เรามีความหวังว่า AI จะมีประโยชน์ต่อผู้ป่วยมะเร็งของเรา” ดร. Haibe-Kains กล่าว “การแบ่งปันและสร้างสรรค์จากสิ่งที่เราค้นพบ — นั่นคือผลกระทบทางวิทยาศาสตร์ที่แท้จริง”