หาก AI ของคุณมีภาพหลอน อย่าโทษ AI

ภาพหลอนของ AI หรือคำตอบที่ฟังดูจริงจังแต่ไม่ถูกต้องได้รับความสนใจจากสื่อมาก เช่น ในบทความของ New York Times เร็วๆ นี้ AI Is Getting More Powerful, But Its Hallucinations Are Getting Worse ภาพหลอนเป็นอันตรายจริงเมื่อคุณต้องจัดการกับแชทบอทสำหรับผู้บริโภค ในบริบทของการประยุกต์ใช้ AI ในธุรกิจ เป็นปัญหาที่ร้ายแรงกว่า แต่幸ดีในฐานะผู้นำด้านเทคโนโลยีธุรกิจ ฉันมีอำนาจควบคุมมากขึ้น ฉันสามารถทำให้แน่ใจได้ว่าเอเย่นต์มีข้อมูลที่ถูกต้องเพื่อให้คำตอบที่มีความหมาย

เพราะนั่นเป็นปัญหาแท้จริง ในธุรกิจไม่มีเหตุผลที่จะให้ AI มีภาพหลอน ภาพหลอนของ AI หยุดโทษ AI โทษตัวเองที่ไม่ใช้ AI อย่างเหมาะสม

เมื่อ เครื่องมือ AI ที่สร้างข้อมูล มีภาพหลอน มันกำลังทำสิ่งที่ถูกออกแบบมาให้ทำ – ให้คำตอบที่ดีที่สุดตามข้อมูลที่มี เมื่อมันสร้างข้อมูลที่ไม่จริง โดยให้คำตอบที่ไม่เกิดจากความเป็นจริง มันเป็นเพราะมันไม่มีข้อมูลที่เกี่ยวข้อง ไม่สามารถหาข้อมูลได้ หรือไม่เข้าใจคำถาม ใช่ โมเดลใหม่ๆ เช่น OpenAI’s o3 และ o4-mini มีภาพหลอนมากกว่า และแสดงความ “สร้างสรรค์” มากขึ้นเมื่อมันไม่มีคำตอบที่ดีสำหรับคำถามที่ถูกถาม แต่เครื่องมือที่ทรงพลังกว่านี้สามารถสร้างผลลัพธ์ที่มีพลังและมีค่ามากกว่า หากเราตั้งค่าให้สำเร็จ

หากคุณไม่ต้องการให้ AI ของคุณมีภาพหลอน อย่าขาดข้อมูลให้กับมัน ให้ AI ข้อมูลที่ดีที่สุดและเกี่ยวข้องมากที่สุดสำหรับปัญหาที่คุณต้องการให้มันแก้ไข และมันจะไม่หลงทาง

แม้หลังจากนั้น เมื่อทำงานกับเครื่องมือ AI ใดๆ ฉันแนะนำให้คุณรักษาทักษะการคิดอย่างมีวิจารณญาณเอาไว้ ผลลัพธ์ที่เอเย่นต์ AI ส่งมอบอาจมีประสิทธิภาพและน่าพึงพอใจ แต่จุดมุ่งหมายไม่ใช่การถอดปลั๊กสมองและปล่อยให้ซอฟต์แวร์ทำการคิดทั้งหมดให้คุณ รักษาการถามคำถามต่อไป เมื่อเอเย่นต์ AI ให้คำตอบแก่คุณ คุณควรซักถามคำตอบนั้นว่ามันสมเหตุสมผลและถูกสนับสนุนโดยข้อมูลหรือไม่ หากใช่ นั่นควรเป็นสัญญาณที่ดีว่ามันคุ้มค่าที่จะถามคำถามต่อ

คุณถามคำถามมากเท่าไหร่ คุณจะได้ข้อมูลเชิงลึกมากเท่านั้น

ทำไมภาพหลอนจึงเกิดขึ้น

มันไม่ใช่เรื่องลึกลับ AI ไม่ได้พยายามโกหกคุณ ทุกๆ โมเดลภาษาขนาดใหญ่ (LLM) ของ AI โดยพื้นฐานแล้วคือการทำนายคำหรือตัวเลขถัดไปตามความน่าจะเป็น

ในระดับสูง สิ่งที่เกิดขึ้นที่นี่คือ LLMs นำวाकย์และย่อหน้าต่อกันไปทีละคำ โดยการทำนายคำถัดไปที่ควรเกิดขึ้นในประโยคตามตัวอย่างอื่นๆ ในชุดข้อมูลการฝึกอบรมหลายพันล้านคำ ต้นกำเนิดของ LLMs (นอกเหนือจาก Clippy) คือการเติมคำอัตโนมัติสำหรับข้อความและโค้ดคอมพิวเตอร์ เครื่องมือแปลภาษาแบบอัตโนมัติ และระบบภาษาแบบความน่าจะเป็นอื่นๆ ด้วยพลังการประมวลผลที่เพิ่มขึ้นและฝึกอบรมบนข้อมูลขนาดอินเทอร์เน็ต โมเดลเหล่านี้ “ฉลาด” พอที่จะสนทนาทั้งการแชทได้ตามที่โลกได้เรียนรู้เมื่อมีการแนะนำ ChatGPT

ผู้วิพากษ์วิจารณ์ AI ชอบชี้ว่ามันไม่เหมือนกับ “ปัญญา” จริงๆ แต่เป็นเพียงซอฟต์แวร์ที่สามารถย่อและพ่นข้อมูลที่ถูกป้อนเข้าไปให้ เมื่อขอให้สรุปข้อมูลในรายงานที่เขียน มันเลียนแบบวิธีที่นักเขียนคนอื่นๆ สรุปข้อมูลที่คล้ายกัน

สิ่งนี้ดูเหมือนเป็นข้อโต้แย้งทางวิชาการ ตราบเท่าที่ข้อมูลถูกต้องและวิเคราะห์เป็นประโยชน์

เกิดอะไรขึ้นถ้า AI ไม่มีข้อมูล มันจะเติมช่องว่าง บางครั้งมันอาจจะตลก บางครั้งมันอาจจะยุ่งเหยิง

เมื่อสร้าง เอเย่นต์ AI สิ่งนี้เป็นอันตรายถึง 10 เท่า เอเย่นต์ควรให้ข้อมูลเชิงลึกที่สามารถนำไปใช้ได้ แต่มันทำการตัดสินใจระหว่างทาง มันทำภารกิจหลายขั้นตอน โดยผลลัพธ์ของขั้นตอนที่ 1 ส่งผลต่อขั้นตอนที่ 2, 3, 4, 5, … 10 … 20 หากผลลัพธ์ของขั้นตอนที่ 1 ไม่ถูกต้อง ข้อผิดพลาดจะถูกขยาย ทำให้ผลลัพธ์ที่ขั้นตอนที่ 20 ยิ่งเลวร้ายมากขึ้น โดยเฉพาะอย่างยิ่งเมื่อเอเย่นต์สามารถตัดสินใจและข้ามขั้นตอนได้

เมื่อทำได้ดี เอเย่นต์สามารถทำมากกว่านี้สำหรับธุรกิจที่ใช้งาน แต่ในฐานะผู้จัดการผลิตภัณฑ์ AI เราต้องตระหนักถึงความเสี่ยงที่มากขึ้นที่มาพร้อมกับรางวัลที่มากขึ้น

ซึ่งเป็นสิ่งที่ทีมของเราทำ เราเห็นความเสี่ยงและแก้ไขมัน เราไม่ได้สร้างหุ่นยนต์ที่หรูหรา แต่เราทำให้มันทำงานบนข้อมูลที่ถูกต้อง สิ่งที่ฉันคิดว่าเราทำถูกต้องคือ:

• สร้างเอเย่นต์ให้ถามคำถามที่ถูกต้องและตรวจสอบว่ามีข้อมูลที่ถูกต้องหรือไม่ ให้กระบวนการป้อนข้อมูลเริ่มต้นของเอเย่นต์เป็นแบบดีเทอร์มินิสติก มากกว่าการ “สร้างสรรค์” คุณต้องการให้เอเย่นต์บอกเมื่อมันไม่มีข้อมูลที่ถูกต้องและไม่ดำเนินการต่อขั้นตอนต่อไป แทนที่จะสร้างข้อมูลขึ้นมา
• สร้างคู่มือสำหรับเอเย่นต์ – ให้แน่ใจว่ามันไม่สร้างแผนใหม่ทุกครั้ง แต่มีแนวทางที่มีโครงสร้างบางอย่าง โครงสร้างและบริบทมีความสำคัญมากในขั้นตอนการรวบรวมและวิเคราะห์ข้อมูล คุณสามารถปล่อยให้เอเย่นต์ทำงานได้อย่าง “สร้างสรรค์” เมื่อมันพร้อมที่จะเขียนสรุป แต่ก่อนอื่นให้แน่ใจว่ามีข้อมูลที่ถูกต้อง
• สร้างเครื่องมือที่มีคุณภาพสูงเพื่อแยกข้อมูลออก สิ่งนี้ควรเป็นมากกว่าแค่การเรียก API ลองใช้เวลาเขียนโค้ด (คนยังทำสิ่งนี้) ที่ทำให้ได้ปริมาณและความหลากหลายของข้อมูลที่จะถูกเก็บเกี่ยว โดยมีการตรวจสอบคุณภาพในกระบวนการ
• ให้เอเย่นต์แสดงงานของมัน เอเย่นต์ควรอ้างอิงแหล่งที่มาและเชื่อมโยงไปยังที่ผู้ใช้สามารถตรวจสอบข้อมูลจากแหล่งเดิมและสำรวจเพิ่มเติมได้ ไม่มีการหลอกลวง!
• ราวหลัก: คิดถึงสิ่งที่อาจผิดพลาดและสร้างการป้องกันความผิดพลาดที่คุณไม่สามารถยอมรับได้ ในกรณีของเรา สิ่งนี้หมายถึงเมื่อเอเย่นต์ที่ได้รับมอบหมายให้วิเคราะห์ตลาดไม่มีข้อมูล – ซึ่งหมายถึงข้อมูลของ Similarweb ของเรา ไม่ใช่แหล่งข้อมูลสุ่มที่ดึงมาจากเว็บ – การทำให้แน่ใจว่ามันไม่สร้างข้อมูลขึ้นมานั้นเป็นราวหลักที่จำเป็น มันจะดีกว่าหากเอเย่นต์ไม่สามารถตอบได้มากกว่าที่จะให้คำตอบที่ผิดหรือทำให้เข้าใจผิด

เรามีหลักการเหล่านี้ในเวอร์ชันใหม่ของเอเย่นต์สามตัวของเรา โดยจะมีเพิ่มเติมในอนาคต ตัวอย่างเช่น เอเย่นต์เตรียมการประชุม AI ของเราสำหรับผู้ขายไม่เพียงแต่ถามชื่อบริษัทเป้าหมายเท่านั้น แต่ยังขอข้อมูลเกี่ยวกับเป้าหมายของการประชุมและใครที่อยู่ด้วย เพื่อให้คำตอบที่ดีกว่า มันไม่ต้องเดาเพราะใช้ข้อมูลบริษัท ข้อมูลดิจิทัล และโปรไฟล์ผู้บริหารเพื่อแจ้งคำแนะนำ

เอเย่นต์ของเราพอสมบูรณ์แบบหรือไม่ ไม่ ไม่มีใครสร้าง AI ที่สมบูรณ์แบบได้ ไม่แม้แต่บริษัทที่ใหญ่ที่สุดในโลก แต่การเผชิญหน้ากับปัญหานี้ดีกว่าการเพิกเฉย

ต้องการให้ AI มีภาพหลอนน้อยลงหรือไม่ ให้ AI ของคุณมีข้อมูลที่มีคุณภาพสูง

หากมันเกิดภาพหลอน อาจไม่ใช่ AI ที่ต้องแก้ไข อาจเป็นวิธีการของคุณในการใช้ความสามารถใหม่เหล่านี้โดยไม่ใช้เวลาและความพยายามในการทำให้ถูกต้อง