ถ้าพนักงานของคุณทำตัวเหมือน AI คุณคงไล่เขาออกไปแล้วตอนนี้

ลองนึกภาพว่าคุณเพิ่งจ้างคนใหม่มา และส่วนใหญ่ของวันเขาก็ทำงานได้อย่างมีประสิทธิภาพ มีความรู้ สามารถสื่อสารได้ชัดเจนและมั่นใจ เขาเป็นทุกอย่างที่คุณคาดหวังไว้ แสดงคุณลักษณะหลายประการของพนักงานที่ยอดเยี่ยม

ตอนนี้ลองนึกภาพว่าเป็นครั้งคราว เมื่อเจอคำถามที่เขาไม่รู้คำตอบ เขาก็จะสรรค์สร้างคำตอบขึ้นมาเอง มันฟังดูคล่องแคล่วและน่าเชื่อถือ ทำให้คุณในตอนแรกรับเอาไว้ตามที่เห็น แต่เมื่อคำตอบนั้นส่งผลต่อธุรกิจ คุณก็กลับมาท้าทายพนักงานคนนั้น – และเขาไม่สามารถอธิบายกระบวนการคิดหรือแสดงวิธีการทำงานของตนได้ คุณอาจบอกเขาว่าเขาผิดพลาด แต่เขายังคงยืนกรานว่าตรงกันข้ามและสร้างเรื่องราวเพิ่มเติมเพื่อสนับสนุนอีกด้วย หลังจากเหตุการณ์ที่สองหรือสามครั้งที่เกิดขึ้น คุณคงจะไล่เขาออก หรืออย่างน้อยก็เตือนเขาใช่ไหม? คำตอบสำหรับนายจ้างส่วนใหญ่คือเกือบแน่นอนว่าใช่

ผมรู้สึกสับสนที่ธุรกิจในปัจจุบันมอบกระบวนการทำงานสำคัญและการตัดสินใจให้กับพนักงานที่แสดงพฤติกรรมเช่นนี้โดยตรง เหตุผลเดียวที่ทำให้มันไม่ได้รับการตรวจสอบคือเพราะ ‘พนักงาน’ นี้เป็นซอฟต์แวร์ ไม่ใช่คน

ทำไม AI ถึงไม่ล้มเหลวแบบคน

มีสมมติฐานที่ผิดพลาดและทั่วไปในหมู่ธุรกิจที่ใช้ AI ว่าถ้าเทคโนโลยีมีอัตราความผิดพลาด นั่นคือปัญหาเดียวกับความผิดพลาดของมนุษย์และสามารถจัดการได้ในลักษณะเดียวกัน แต่การตรวจสอบ การรีวิว และการส่งต่อปัญหาไม่ได้ผลเสมอไปกับโมเดลภาษาใหญ่ (LLM) พวกมันถูกออกแบบให้ฟังดูเหมือนมนุษย์ แต่ถ้าดูที่โครงสร้างภายใน คุณจะพบว่าพวกมันทำงานไม่เหมือนเราเลย

ถ้าพนักงานดาวเด่นทำผิดพลาด เรามักจะสมมติว่าความผิดพลาดนั้นเกิดจากความตั้งใจดี – พวกเขาพยายามทำดีที่สุดแล้วพลาดไปบ้าง มันเกิดขึ้นได้ หากพวกเขาสร้างคำตอบขึ้นมาโดยเจตนาเพื่อหลบหลีกการไม่รู้บางอย่างและทำเช่นนั้นซ้ำๆ เราจะมองว่าเป็นการประพฤติมิชอบ ผู้จัดการรู้ว่าจะต้องให้ความสนใจส่วนใดบ้าง เพราะระดับความยากและขอบเขตความผิดพลาดสอดคล้องกัน พวกเขาสามารถขอให้พนักงานอธิบายเหตุผลและตั้งคำถามเกี่ยวกับมันได้ พนักงานมักจะรู้เมื่ออยู่เกินขอบเขตความสามารถของตนและจะบอกว่าไม่รู้ หลังจากความผิดพลาดหนึ่งครั้ง พวกเขาจะเรียนรู้เพื่อให้ความผิดพลาดเดียวกันไม่เกิดซ้ำในวงจรต่อเนื่อง

ระบบ AI กลับทิศทางสมมติฐานทั้งหมดเหล่านี้ การตอบสนองเริ่มต้นต่อความล้มเหลือคือการสร้างสรรค์ที่คล่องแคล่วและมั่นใจ พวกมันจะให้คำตอบที่ดูสมเหตุสมผลแต่จริงๆ แล้วไม่เป็นความจริง ซึ่งเป็นพฤติกรรมเดียวที่อาจทำให้อาชีพของมนุษย์จบลง โมเดลภาษาใหญ่ถูกออกแบบให้สร้างต่อเนื่องของข้อความที่มีความน่าจะเป็นทางสถิติสูงที่สุด และเมื่อพวกมันไม่รู้คำตอบ พวกมันมักจะสร้างสิ่งที่ฟังดูเหมือนจะถูกต้องอยู่ดี นักวิจัยของ OpenAI เองยอมรับว่ามีระดับหนึ่งของข้อผิดพลาดเชิงข้อเท็จจริงเป็นสิ่งที่หลีกเลี่ยงไม่ได้ตามสถิติของการทำงานของโมเดลเหล่านี้ และว่า การฝึกสอนให้รางวัลกับการคาดเดาที่มั่นใจมากกว่าการยอมรับความไม่แน่นอนอย่างซื่อสัตย์.

ที่ที่แนวทาง Neurosymbolic เข้ามา

นี่คือสิ่งที่ แนวทาง neurosymbolic ถูกออกแบบมาเพื่อแก้ไข พวกมันจับคู่เครือข่ายประสาทเทียมซึ่งเก่งในการเข้าใจภาษาที่ซับซ้อนและข้อมูลจากโลกจริง กับการให้เหตุผลแบบกำหนดกฎระเบียบและ deterministic ซึ่งหมายความว่าข้อสรุปของระบบจะอิงจากตรรกะที่ชัดเจนและสามารถตรวจสอบได้ ไม่ใช่การเกิดขึ้นจากกระบวนการที่ไม่มีใครมองเห็นภายใน

หากไม่มีชั้นตรรกะเพิ่มเติมที่เทคโนโลยี neurosymbolic มอบให้ ความผิดพลาดของ AI จะไม่สอดคล้องกับความยากของงานเหมือนกับของมนุษย์ – พวกมันคาดเดาได้ยาก พวกมันอาจเกิดขึ้นในงานง่ายๆ ในขณะที่งานที่ซับซ้อนผ่านไปได้อย่างราบรื่น ทำให้ยากต่อการระบุว่าควรให้การดูแลของมนุษย์ที่ไหน คำอธิบายของพวกมันเมื่อมีการให้มักจะสร้างขึ้นหลังเหตุการณ์แล้ว ไม่ได้เป็นการอธิบายที่แท้จริงว่าพวกมันได้สรุปอย่างไร ความผิดพลาดเดียวกันนี้อาจเกิดซ้ำได้โดยไม่มีที่สิ้นสุด เพราะไม่มีใครภายในระบบที่เรียนรู้จากมัน หรือรับผิดชอบต่อมัน

ความเชื่อถือโดยไม่มีความเข้าใจ

นักวิจัยได้บันทึกว่าเมื่อผู้คนใหม่ต่อระบบ พวกเขามีแนวโน้มที่จะละทิ้งมันหลังจากข้อผิดพลาดที่มองเห็นได้เพียงครั้งเดียว; แต่เมื่อเป็นระบบที่คุ้นเคยแล้ว พวกเขาจะไปสู่ขั้วตรงข้าม – ยอมรับผลลัพธ์ของมัน เพียงเพราะพวกเขาคุ้นเคยกับมัน ไม่ได้เพราะผลลัพธ์เหล่านั้นมีความน่าเชื่อถือมากขึ้น สิ่งที่หาได้ยากคือระดับความเชื่อถือที่เหมาะสม เพราะมันขึ้นอยู่กับการที่ผู้คนเข้าใจว่า AI จะมีโอกาสผิดพลาดเมื่อใดและสามารถระบุได้เมื่อใด

นั่นไม่ได้หมายความว่า AI ไม่ควรได้รับความไว้วางใจในงานสำคัญ มันหมายความว่าเรามักให้ความไว้วางใจในแบบที่เราไม่ยอมให้กับคน เพราะส่วนหนึ่งเป็นเพราะไม่มีบุคคลที่ชัดเจนที่จะรับผิดชอบเมื่อมันล้มเหลว

หาก AI จะรับงานที่ต้องใช้การตัดสินใจเช่นเดียวกับเพื่อนร่วมงานที่มีคุณค่า มันต้องตรงตามมาตรฐานพื้นฐานเดียวกัน คำตอบต้องสามารถตรวจสอบได้ โดยมี เหตุผลที่มองเห็นได้ และยอมรับความจริงว่าบางครั้งสิ่งที่ดีที่สุดที่มันทำได้คือการบอกว่า “ฉันไม่รู้”