การหยุด AI จากการสร้างเรื่องราว: คู่มือในการป้องกันการเห็นภาพหลอกลวง

AI กำลังปฏิวัติวิธีการดำเนินงานในอุตสาหกรรมเกือบทุกประเภท มันทำให้เรามีประสิทธิภาพมากขึ้น มีผลผลิตมากขึ้น และเมื่อใช้อย่างถูกต้อง มันจะช่วยให้เราทำงานได้ดีขึ้น แต่เมื่อเริ่มพึ่งพาเทคโนโลยีใหม่นี้มากขึ้น เราต้องระลึกถึงข้อเท็จจริงง่ายๆ ว่า AI ไม่สมบูรณ์แบบ ออกพุตของ AI ไม่ควรนำมาใช้โดยไม่ผ่านการตรวจสอบเพราะ AI สามารถทำผิดพลาดได้เหมือนมนุษย์

เรียกว่าข้อผิดพลาดเหล่านี้ว่า “การเห็นภาพหลอกลวงของ AI” ข้อผิดพลาดเหล่านี้อาจเกิดขึ้นได้ตั้งแต่การคำนวณปัญหาเลขคณิตไม่ถูกต้อง ไปจนถึงการให้ข้อมูลที่ไม่ถูกต้องเกี่ยวกับนโยบายของรัฐบาล ในอุตสาหกรรมที่มีการควบคุมอย่างเข้มงวด การเห็นภาพหลอกลวงอาจนำไปสู่ค่าปรับและปัญหาทางกฎหมาย นอกจากนี้ยังอาจทำให้ลูกค้าไม่พอใจ

ความถี่ของการเห็นภาพหลอกลวงของ AI ควรเป็นเรื่องที่ต้องกังวล เนื่องจากมีการประมาณการว่าโมเดลภาษาขนาดใหญ่ (LLM) รุ่นใหม่ๆ มีการเห็นภาพหลอกลวงระหว่าง 1% ถึง 30% ของเวลา ซึ่งหมายความว่ามีการสร้างคำตอบที่ไม่ถูกต้องหลายร้อยคำทุกวัน ซึ่งหมายความว่าธุรกิจที่ต้องการใช้เทคโนโลยีนี้จะต้องเลือกเครื่องมือที่จะใช้ให้ถูกต้อง

มาทำความเข้าใจกันว่าทำไมการเห็นภาพหลอกลวงของ AI จึงเกิดขึ้น อะไรคือสิ่งที่เสี่ยง และเราจะระบุและแก้ไขมันได้อย่างไร

ข้อมูลเข้าข้อมูลออก

คุณจำเกม “โทรศัพท์” ที่เล่นเมื่อเป็นเด็กได้ไหม ว่าคำพูดที่เริ่มต้นจะเปลี่ยนแปลงไปเมื่อผ่านจากผู้เล่นหนึ่งไปอีกผู้เล่นหนึ่ง จนกลายเป็นคำพูดที่แตกต่างไปจากเดิมเมื่อถึงผู้เล่นสุดท้าย?

วิธีที่ AI เรียนรู้จากข้อมูลเข้าเป็นแบบนั้นเช่นกัน คำตอบที่ LLM สร้างขึ้นจะดีเท่ากับข้อมูลที่ให้มาเท่านั้น ซึ่งหมายความว่าหากบริบทที่ไม่ถูกต้องจะนำไปสู่การสร้างและเผยแพร่ข้อมูลที่ไม่ถูกต้อง หากระบบ AI ถูกสร้างขึ้นจากข้อมูลที่ไม่ถูกต้อง ล้าสมัย หรือมีอคติ ออกพุตของมันจะสะท้อนข้อผิดพลาดเหล่านั้น

ดังนั้น LLM จึงดีเท่ากับข้อมูลเข้าเท่านั้น โดยเฉพาะอย่างยิ่งเมื่อไม่มีการแทรกแซงหรือการดูแลจากมนุษย์ เมื่อโซลูชัน AI ที่ทำงานอัตโนมัติมีมากขึ้น มันจะสำคัญที่เราจะให้เครื่องมือเหล่านั้นได้รับบริบทข้อมูลที่ถูกต้องเพื่อหลีกเลี่ยงการเห็นภาพหลอกลวง เราต้องการการฝึกอบรมข้อมูลอย่างเข้มงวด และ/หรือความสามารถในการชี้นำ LLM เพื่อให้ตอบสนอง เฉพาะ จากบริบทที่ให้มา ไม่ใช่ดึงข้อมูลมาจากที่ใดก็ได้บนอินเทอร์เน็ต

ทำไมการเห็นภาพหลอกลวงจึงมีความสำคัญ

สำหรับธุรกิจที่ต้องเผชิญกับลูกค้า ความถูกต้องเป็นทุกอย่าง หากพนักงานพึ่งพา AI สำหรับงานเช่นการสรุปข้อมูลลูกค้าหรือตอบคำถามของลูกค้า พวกเขาต้องการความมั่นใจว่าคำตอบที่เครื่องมือเหล่านั้นสร้างขึ้นนั้นถูกต้อง

ไม่เช่นนั้น ธุรกิจเสี่ยงต่อการเสียหาย ต่อชื่อเสียงและความภักดีของลูกค้า หากลูกค้าได้รับคำตอบที่ไม่เพียงพอหรือไม่ถูกต้องจากแชทบอท หรือถ้าพวกเขาถูกทิ้งให้รอในขณะที่พนักงานตรวจสอบคำตอบของแชทบอท พวกเขาอาจพาลูกค้าไปที่อื่น ลูกค้าไม่ควรต้องกังวลว่าธุรกิจที่พวกเขาติดต่อจะให้ข้อมูลที่ไม่ถูกต้องแก่พวกเขา – พวกเขาต้องการการสนับสนุนที่รวดเร็วและเชื่อถือได้ ซึ่งหมายความว่าการได้การโต้ตอบเหล่านี้ให้ถูกต้องเป็นสิ่งสำคัญ

ผู้นำธุรกิจต้องทำหน้าที่ของตนเมื่อเลือกเครื่องมือ AI ที่เหมาะสมสำหรับพนักงาน AI ควรช่วยให้พนักงานมีเวลาและพลังงานสำหรับงานที่มีคุณค่ามากกว่า การลงทุนในแชทบอทที่ต้องการการดูแลจากมนุษย์อย่างต่อเนื่องจะทำให้การนำ AI มาใช้ไม่มีประโยชน์ แต่การมีอยู่ของการเห็นภาพหลอกลวงนั้นจริงๆ แล้วเป็นปัญหาหรือไม่ หรือคำว่า “การเห็นภาพหลอกลวง” ถูกใช้มากเกินไปเพื่ออธิบายคำตอบที่เราถือว่าไม่ถูกต้อง?

การต่อสู้กับการเห็นภาพหลอกลวงของ AI

พิจารณา ทฤษฎีความหมายแบบไดนามิก (DMT) ซึ่งเป็นแนวคิดที่ความเข้าใจระหว่างบุคคล (ในกรณีนี้ คือผู้ใช้และ AI) ถูกแลกเปลี่ยน แต่ข้อจำกัดของภาษาและความรู้ของหัวข้อทำให้เกิดความไม่สอดคล้องกันในการตีความคำตอบ

ในกรณีของคำตอบที่ AI สร้างขึ้น มันอาจเป็นไปได้ว่าแอลกอริทึมที่อยู่เบื้องหลังยังไม่พร้อมที่จะตีความหรือสร้างข้อความที่สอดคล้องกับความคาดหวังของมนุษย์ ความไม่สอดคล้องนี้สามารถนำไปสู่คำตอบที่ดูเหมือนถูกต้องบนพื้นผิว แต่ในความเป็นจริงแล้วขาดความลึกหรือความเข้าใจที่แท้จริง

นอกจากนี้ LLM ทั่วไปส่วนใหญ่ดึงข้อมูลมาจากเนื้อหาที่มีอยู่บนอินเทอร์เน็ตเท่านั้น การใช้ AI ในระดับองค์กรจะทำงานได้ดีกว่าเมื่อได้รับข้อมูลและนโยบายที่เฉพาะเจาะจงสำหรับอุตสาหกรรมและธุรกิจแต่ละแห่ง โมเดลเหล่านี้สามารถปรับปรุงได้ด้วยการให้ข้อเสนอแนะโดยตรงจากมนุษย์ โดยเฉพาะอย่างยิ่งโซลูชันที่ออกแบบมาเพื่อตอบสนองต่อโทนและไวยากรณ์

เครื่องมือเหล่านี้ควรได้รับการทดสอบอย่างเข้มงวดก่อนที่จะเผยแพร่สู่สาธารณะ ซึ่งเป็นส่วนสำคัญของการป้องกันการเห็นภาพหลอกลวงของ AI กระบวนการทั้งหมดควรได้รับการทดสอบโดยใช้การสนทนาแบบต่อเนื่องกับ LLM ในฐานะบุคลิกภาพ ซึ่งช่วยให้ธุรกิจสามารถคาดการณ์ความสำเร็จของการสนทนากับ AI ได้ดีขึ้นก่อนที่จะปล่อยมันออกสู่โลก

สิ่งสำคัญสำหรับทั้งผู้พัฒนาและผู้ใช้ AI คือการรับรู้ถึงทฤษฎีความหมายแบบไดนามิกในคำตอบที่ได้รับ ตลอดจนพลวัตของภาษาที่ใช้ในข้อมูลเข้า 请ระลึกว่าบริบทเป็นกุญแจสำคัญ และในฐานะมนุษย์ ส่วนใหญ่ของบริบทของเราจะถูกเข้าใจผ่านวิธีการที่ไม่ได้พูด เช่น ภาษากาย สังคมที่เปลี่ยนแปลง – แม้กระทั่งโทนของเรา ในฐานะมนุษย์ เรามีศักยภาพที่จะเห็นภาพหลอกลวงเมื่อตอบคำถาม แต่ในเวอร์ชันปัจจุบันของ AI ความเข้าใจระหว่างมนุษย์ไม่ได้ถูกทำให้เข้าใจง่ายๆ ดังนั้นเราจึงต้องมีวิจารณญาณมากขึ้นเกี่ยวกับบริบทที่เรามอบให้ในการเขียน

สมควรที่จะกล่าวว่า ไม่ทุกโมเดล AI ถูกสร้างมาเท่ากัน เมื่อเทคโนโลยีถูกพัฒนาให้ทำภารกิจที่ซับซ้อนมากขึ้น จะเป็นสิ่งสำคัญสำหรับธุรกิจที่ต้องการใช้ AI ในการระบุเครื่องมือที่จะปรับปรุงการโต้ตอบและประสบการณ์ของลูกค้า ไม่ใช่ทำให้เสียหาย

ภาระไม่เพียงแต่อยู่ที่ผู้ให้บริการโซลูชันเพื่อให้แน่ใจว่าพวกเขาทำทุกอย่างที่ทำได้เพื่อลดโอกาสที่จะเกิดการเห็นภาพหลอกลวง แต่ยังอยู่ที่ผู้ซื้อด้วย โดยการจัดลำดับความสำคัญของโซลูชันที่ได้รับการฝึกอบรมและทดสอบอย่างเข้มงวด และสามารถเรียนรู้จากข้อมูลที่เป็นเจ้าของ (แทนที่จะเรียนรู้จากทุกสิ่งที่มีอยู่บนอินเทอร์เน็ต) ธุรกิจสามารถทำให้การลงทุนใน AI ของตนให้เกิดประโยชน์สูงสุดเพื่อเตรียมพนักงานและลูกค้าให้พร้อมสำหรับความสำเร็จ