Aneesh Dhawan, ผู้ร่วมก่อตั้งและซีอีโอ Knit Aneesh Dhawan ผู้ร่วมก่อตั้งและซีอีโอ Knit

โครงสร้างการตรวจสอบมีความสำคัญมากกว่าโมเดลใน Enterprise AI

ระยะถัดไปของความเป็นมืออาชีพของ AI ในองค์กรขึ้นอยู่กับการสร้างโครงสร้างการตรวจสอบที่เชื่อถือได้รอบๆ โมเดลมากกว่าการพัฒนาโมเดลที่ดีกว่าทุกๆ การสนทนาเกี่ยวกับการกำกับดูแล AI ที่ฉันทำในสองปีที่ผ่านมามักจะกลับมาที่ประเด็นเดียวกัน: อัตราการหลอกลวง ความแม่นยำของมาตรฐาน และการตรวจสอบการทำงานร่วมกัน สิ่งเหล่านี้เป็นปัญหาจริงๆ แต่การสนทนาได้ถูกจัดให้อยู่ในจุดที่ผิดของปัญหาแม้ว่าโมเดลจะมีการปรับปรุงอย่างมาก แต่จำนวนผลลัพธ์ของ AI ที่ไม่ได้รับการตรวจสอบที่ไปถึงผู้นำระดับสูงได้เพิ่มขึ้นตามไปด้วย สิ่งนี้บ่งชี้ถึง ปัญหาโครงสร้างการตรวจสอบ และอุตสาหกรรมยังพูดถึงเรื่องนี้เพียงเล็กน้อยเรื่องราวที่มีโมเดลเป็นศูนย์กลางได้ล่วงหน้าไปมากกว่าความเป็นจริงกรอบการทำงานที่โดดเด่นใน Enterprise AI ยังคงถือว่าคุณภาพของโมเดลเป็นตัวแปรหลัก: หากโมเดลมีความแม่นยำเพียงพอ ผลลัพธ์จะน่าเชื่อถือ การให้เหตุผลนี้สามารถเข้าใจได้สองปีที่แล้วเมื่อ LLMs ในช่วงแรกมีความไม่สอดคล้องกันและมีแนวโน้มที่จะหลอกลวงมากกว่า...