เอเจนต์ AI ของคุณต้องมีคำบรรยายลักษณะงาน ไม่ใช่พรอมป์ต์ที่ดีกว่า
ลองถามบริษัทแห่งหนึ่งว่านักวิเคราะห์บัญชีเจ้าหนี้ที่เพิ่งเข้าทำงานได้รับอนุญาตให้ทำอะไรได้บ้าง คุณจะได้คำตอบที่ชัดเจน เธอทำงานในระบบเหล่านี้ ติดต่อกับผู้ขายเหล่านี้ และหากยอดใดเกินวงเงินอนุมัติ เช่น 10,000 ดอลลาร์ ก็ต้องส่งให้ผู้จัดการลงนาม เธออยู่ในช่วงทดลองงานสองสามเดือนแรก โดยปกติแล้วรายละเอียดทั้งหมดนี้จะอยู่ในตารางมอบอำนาจ ซึ่งฝ่ายตรวจสอบภายในจะตรวจทานทุกปีลองถามบริษัทเดียวกันว่าเอเจนต์จัดการใบแจ้งหนี้ตัวใหม่ได้รับอนุญาตให้ทำอะไรได้บ้าง คุณมักจะได้ภาพหน้าจอของพรอมป์ต์กลับมาช่องว่างนี้ทำให้ฉันกังวลยิ่งกว่าผลการทดสอบเปรียบเทียบโมเดลใด ๆ เรากำลังจ้างแรงงานดิจิทัลโดยไม่มีระบบบริหารจัดการแบบที่เราใช้เวลาสร้างมานานนับศตวรรษสำหรับมนุษย์ ไม่มีใครระบุอำนาจหน้าที่ของพวกมันเป็นลายลักษณ์อักษร ไม่มีใครทดสอบวิจารณญาณของพวกมันก่อนเริ่มงาน และไม่มีใครฝึกซ้อมวิธีปิดการทำงานของพวกมันเหตุใดพรอมป์ต์จึงทำหน้าที่นี้แทนไม่ได้พรอมป์ต์อธิบายเจตนาว่าเอเจนต์มีไว้ทำอะไร แต่แทบไม่เคยระบุว่าเอเจนต์ห้ามทำอะไร มีขอบเขตอยู่ตรงไหน หรือเมื่อใดที่ต้องหยุดและส่งต่อการตัดสินใจให้มนุษย์และแม้พรอมป์ต์จะระบุเรื่องเหล่านั้นไว้ ก็ไม่มีอะไรบังคับใช้ได้ ข้อความที่บอกเอเจนต์ว่าอย่าออกเงินคืนเกิน 500 ดอลลาร์ เป็นเพียงคำขอที่ส่งถึงระบบเชิงความน่าจะเป็น...
