ความกังวลที่เพิ่มขึ้นเกี่ยวกับฮัลลูซิเนชันและอคติของ AI: รายงานปี 2024 ของ Aporia เน้นย้ำถึงความจำเป็นในการสร้างมาตรฐานอุตสาหกรรม

รายงานล่าสุดจาก Aporia ผู้นำในด้านแพลตฟอร์มควบคุม AI ได้นำเสนอผลการวิจัยที่น่าตกใจในด้านปัญญาประดิษฐ์และการเรียนรู้ของเครื่อง (AI & ML) รายงานที่มีชื่อว่า “2024 AI & ML Report: Evolution of Models & Solutions” ซึ่งจัดทำโดย Aporia ระบุถึงแนวโน้มที่เพิ่มขึ้นของฮัลลูซิเนชันและอคติใน AI ที่สร้างขึ้นและโมเดลภาษาขนาดใหญ่ (LLM) ซึ่งเป็นความท้าทายที่สำคัญสำหรับอุตสาหกรรมที่กำลังพัฒนาไปสู่ความเป็นมืออาชีพ

ฮัลลูซิเนชันของ AI หมายถึงกรณีที่โมเดล AI ที่สร้างขึ้นผลิตผลลัพธ์ที่ไม่ถูกต้อง ไม่มีเหตุผล หรือไม่เกี่ยวข้องกับความเป็นจริง ฮัลลูซิเนชันเหล่านี้อาจเป็นข้อผิดพลาดเล็กๆ น้อยๆ หรือข้อผิดพลาดที่สำคัญ รวมถึงการสร้างเนื้อหาที่มีอคติหรืออาจเป็นอันตราย

ผลที่ตามมาของฮัลลูซิเนชันของ AI อาจมีนัยสำคัญ โดยเฉพาะอย่างยิ่งเมื่อโมเดลเหล่านี้ถูกนำไปใช้ในหลายๆ ด้านของธุรกิจและสังคม ตัวอย่างเช่น ความไม่ถูกต้องของข้อมูลที่สร้างโดย AI สามารถนำไปสู่การให้ข้อมูลที่ไม่ถูกต้อง ในขณะที่เนื้อหาที่มีอคติสามารถทำให้เกิดสเตอริโอไทป์หรือการปฏิบัติที่ไม่ยุติธรรม ในแอปพลิเคชันที่มีความละเอียดอ่อน เช่น การดูแลสุขภาพ การเงิน หรือคำแนะนำทางกฎหมาย ข้อผิดพลาดเหล่านี้อาจมีผลกระทบที่รุนแรง ต่อการตัดสินใจและผลลัพธ์

ผลการวิจัยของรายงานเน้นย้ำถึงความจำเป็นในการติดตามและตรวจสอบโมเดลการผลิตอย่างต่อเนื่อง

การสำรวจของ Aporia ได้รับการตอบรับจากผู้เชี่ยวชาญด้านการเรียนรู้ของเครื่อง 1,000 คนจากทวีปอเมริกาเหนือและสหราชอาณาจักร ซึ่งทำงานในบริษัทที่มีพนักงานตั้งแต่ 500 ถึง 7,000 คน ในหลายๆ อุตสาหกรรม เช่น การเงิน การดูแลสุขภาพ การเดินทาง การประกันภัย ซอฟต์แวร์ และค้าปลีก ผลการวิจัยเน้นย้ำถึงทั้งความท้าทายและโอกาสที่ผู้นำการผลิต ML ต้องเผชิญ โดยเน้นย้ำถึงบทบาทที่สำคัญของการเพิ่มประสิทธิภาพ AI เพื่อประสิทธิภาพและคุณค่า

ข้อค้นพบหลักจากรายงาน ได้แก่

1. การแพร่กระจายของความท้าทายในการดำเนินงาน: 93% ของวิศวกร ML รายงานว่าพบปัญหาในการผลิตโมเดลทุกวันหรือทุกสัปดาห์ สถิตินี้เน้นย้ำถึงความจำเป็นในการมีเครื่องมือติดตามและควบคุมที่มีประสิทธิภาพเพื่อให้การดำเนินงานเป็นไปอย่างราบรื่น
2. การเกิดฮัลลูซิเนชันของ AI: 89% ของวิศวกรที่ทำงานกับโมเดลภาษาขนาดใหญ่และ AI ที่สร้างขึ้นรายงานว่าพบฮัลลูซิเนชันในโมเดลเหล่านี้ ฮัลลูซิเนชันเหล่านี้อาจเป็นข้อผิดพลาดทางข้อเท็จจริง อคติ หรือเนื้อหาที่อาจเป็นอันตราย
3. การมุ่งเน้นในการลดอคติ: 83% ของผู้ตอบแบบสำรวจเน้นย้ำถึงความสำคัญของการตรวจสอบอคติในโครงการ AI
4. ความสำคัญของการตรวจสอบแบบเรียลไทม์: 88% ของผู้เชี่ยวชาญด้าน ML เชื่อว่าการตรวจสอบแบบเรียลไทม์เป็นสิ่งจำเป็นในการระบุปัญหาในโมเดลการผลิต ซึ่งเป็นความสามารถที่ไม่มีในหลายๆ องค์กรเนื่องจากการขาดเครื่องมือติดตามอัตโนมัติ
5. การลงทุนในทรัพยากรในการพัฒนา: รายงานเผยให้เห็นว่าโดยเฉลี่ยแล้ว บริษัทต่างๆ ลงทุนประมาณ 4 เดือนในการพัฒนาเครื่องมือและแดชบอร์ดสำหรับการติดตามการผลิต ซึ่งอาจทำให้เกิดความกังวลเกี่ยวกับประสิทธิภาพและค่าใช้จ่ายของการลงทุนเหล่านี้

“รายงานของเราชี้ให้เห็นว่ามีความเห็นพ้องกันในอุตสาหกรรมว่าผลิตภัณฑ์ AI ถูกนำไปใช้อย่างรวดเร็ว และจะมีผลกระทบหากโมเดล ML เหล่านี้ไม่ได้รับการติดตาม” Liran Hason ซีอีโอของ Aporia กล่าว “วิศวกรที่อยู่เบื้องหลังเครื่องมือเหล่านี้ได้พูดแล้วว่ามีปัญหากับเทคโนโลยีและสามารถแก้ไขได้ แต่ต้องการเครื่องมือติดตามที่เหมาะสมเพื่อให้แน่ใจว่าธุรกิจและผู้บริโภคจะได้รับผลิตภัณฑ์ที่ดีที่สุด โดยไม่มีฮัลลูซิเนชันและอคติ”

Aporia ซึ่งมุ่งมั่นที่จะเพิ่มประสิทธิภาพของผลิตภัณฑ์ AI ที่ขับเคลื่อนด้วย ML ได้กล่าวถึงความท้าทายของ MLOps และสนับสนุนการปฏิบัติงาน AI ที่มีความรับผิดชอบ บริษัทมีการนำคำติชมของผู้ใช้มาประยุกต์ใช้และพัฒนาเครื่องมือและคุณสมบัติที่มีประสิทธิภาพเพื่อปรับปรุงประสบการณ์ของผู้ใช้ การขยายโมเดลการผลิต และช่วยกำจัดฮัลลูซิเนชัน

รายงานฉบับเต็มของ Aporia มีการวิเคราะห์ผลการวิจัยและผลกระทบต่ออุตสาหกรรม AI เพื่อสำรวจเพิ่มเติม โปรดเยี่ยมชม รายงานการสำรวจของ Aporia