แผนที่และราง: การสร้างสถาปัตยกรรมที่ปลอดภัยสำหรับ Enterprise AI

ส่วนแรกสิ้นสุดด้วยคำกล่าวอ้าง: Enterprise AI จะประสบความสำเร็จเมื่อสถาบันเรียนรู้ที่จะสร้างวงจรด้วยตนเอง นี้คือเรื่องเกี่ยวกับสิ่งที่วงจรยืนอยู่บน.agent ที่ทำงานภายในบริษัทจริงต้องการสิ่งสองอย่างที่บริษัทแทบจะไม่มีวันนี้: แผนที่ของงานและรางสำหรับผลที่ตามมา

แผนที่

ข้อเท็จจริงที่ไม่สบายใจอยู่ภายใต้โปรแกรม AI ที่หยุดชะงักส่วนใหญ่: บริษัทไม่สามารถมอบหมายให้เอเจนต์คำอธิบายงานของตนเองได้ เพราะไม่มีคำอธิบายดังกล่าว บริษัทส่วนใหญ่มีฐานข้อมูลที่เต็มไปด้วยลูกค้า ใบแจ้งหนี้ คำขอ สัญญา แต่เกือบไม่มีใครมีงานที่เขียนไว้: สิ่งที่สามารถทำได้กับเรื่องเหล่านั้น โดยใคร ภายใต้เงื่อนไขใด และสิ่งที่เกิดขึ้นหลังจากนั้น ความรู้นั้นอาศัยอยู่ในหัวของคนมีประสบการณ์และในแผนการทำงานที่อธิบายว่างานถูกออกแบบมาอย่างไรห้าปีที่แล้ว ไม่ใช่ว่างานดำเนินไปอย่างไรในปัจจุบัน

พนักงานใหม่ปิดช่องว่างนั้นโดยการฝึกงาน — ดู ลอง ถาม เอเจนต์ไม่เรียนรู้แบบนั้น มันต้องการงานที่เขียนไว้: สิ่งที่ธุรกิจจัดการและที่ไหนแต่ละอย่างยืนอยู่ในขณะนี้ งานที่ทำบนพวกมัน การตัดสินใจที่เลือกวิธีไปข้างหน้า ใครที่ได้รับอนุญาตให้ย้ายสิ่งต่าง ๆ ไปข้างหน้า และสิ่งที่เกิดขึ้นเมื่อพวกเขาทำ — บันทึกที่เปลี่ยนแปลง การอนุมัติที่ต้องการ วิธีการที่จะถูกยกเลิก การอธิบายงานที่เขียนไว้นั้นคือแผนที่

มีกฎสามข้อที่ทำให้แผนที่มีชีวิต มันจะต้องเขียนโดยคนที่เป็นเจ้าของงานและทำให้ปลอดภัยโดยวิศวกร — แผนที่ที่วิศวกรสามารถอัปเดตได้เท่านั้นจะเสื่อมสภาพ และแผนที่ที่ผู้ดำเนินการสามารถแก้ไขได้เท่านั้นจะกลายเป็นไม่ปลอดภัย มันจะต้องมีเวอร์ชัน เนื่องจากเอเจนต์ไม่ควรกระทำการใดๆ ที่มีความหมายเปลี่ยนแปลงอย่างเงียบๆ มันจะต้องถูกเผยแพร่ — อ่านได้โดยเอเจนต์ ผู้ตรวจสอบ และผู้ตรวจสอบเช่นกัน หากเอเจนต์ต้องค้นหาธุรกิจของคุณโดยการเชื่อมต่อ API คุณได้แสดงระบบ ไม่ใช่การอธิบายงาน API คือวิธีการที่สิ่งต่าง ๆ ได้รับการดำเนินการ แผนที่คือวิธีการที่งานถูกเข้าใจ

แผนที่มีความสำคัญเนื่องจากสาเหตุที่คงอยู่นานกว่าช่วงเวลาของผลิตภัณฑ์ใดๆ: เอเจนต์ไม่ใช่สินทรัพย์ที่ทนทาน แผนที่คือสินทรัพย์นั้น โมเดลจะดีขึ้นและถูกแทนที่ ฟレームเวิร์กเอเจนต์จะมาและไป — และการอธิบายงานของคุณเอง โดยมีกฎและข้อยกเว้นที่สะสมและแก้ไขแล้ว คือสิ่งที่เอเจนต์ทุกตัวในอนาคตมีในวันแรก

ราง

แผนที่บอกว่าสิ่งใดอาจเกิดขึ้น รางคือสิ่งที่ทำให้สิ่งนั้นเกิดขึ้นอย่างแน่นอน

บางส่วนของงานที่เอเจนต์สัมผัสคือการตัดสิน: อ่านอีเมลที่ไม่เรียบร้อย พิจารณากรณียกเว้น แนะนำเส้นทาง แต่ส่วนใหญ่ของมันคือการทำซ้ำ — การตรวจสอบเดียวกัน การอัปเดตเดียวกัน การโพสต์เดียวกัน หลายพันครั้ง การทำซ้ำไม่ต้องการความฉลาด มันต้องการความแม่นยำ โมเดลเป็นแบบสุ่มโดยการออกแบบ และสำหรับการดำเนินการ มันคือความผิดพลาด: การโพสต์การชำระเงินไม่มีการแปรผันใดๆ ที่ยอมรับได้ ไม่ว่าโมเดลจะดีขนาดไหน การทำงานที่มั่นคงควรอยู่บนราง — การอัตโนมัติที่แน่นอนซึ่งทำงานเหมือนเดิมทุกครั้ง ไม่มีค่าใช้จ่ายต่อการทำงาน และปล่อยบันทึกการตรวจสอบที่สะอาด

นี่คือจุดที่เส้นโค้งสองเส้นกำลังเบี่ยงเบน การสร้างรางกำลังง่ายขึ้น เพราะ การอธิบายงาน การสร้างโค้ด การเขียนการทดสอบ และการซ่อมเส้นทางที่เสียหายนั้นเป็นงานที่ AI ช่วยให้เร็วขึ้น การใช้เอเจนต์ที่เดินได้เสรีภายในกระบวนการที่มีผลที่ตามมาไม่ได้ง่ายขึ้นในอัตราเดียวกัน เพราะ เมื่อเอเจนต์เข้าใกล้การดำเนินการ มันจำเป็นต้องมีขอบเขต หลักฐาน การอนุมัติ การตรวจสอบ และเจ้าของมากขึ้น ผลที่ตามมาเป็นเรื่องยาก และยังคงเป็นเรื่องยาก ดังนั้นให้เอเจนต์สำรวจ และให้เอเจนต์ช่วยทีมของคุณเรียนรู้งาน — จากนั้นย้ายเส้นทางที่มั่นคงไปยังรางทันทีที่มันหยุดเปลี่ยนแปลง อย่าปล่อยให้การทำงานที่มีปริมาณมากและมีเสถียรภาพสูงอยู่ในวงจรที่มีโอกาสเสี่ยงเพราะเอเจนต์เป็นที่นิยม

การปกครองโดยผลที่ตามมา

ด้วยแผนที่และรางที่อยู่ในตำแหน่ง หนึ่งคำถามที่เหลืออยู่ก่อนที่เอเจนต์จะสัมผัสงานจริง: สิ่งใดที่มันควรได้รับอนุญาตให้ทำ อุตสาหกรรมมีแนวโน้มที่จะตอบในแง่ของการเชื่อมต่อ — เอเจนต์ “ใช้เครื่องมือ” — เหมือนกับการดูค้นหานโยบาย การคำนวณความแตกต่าง การเขียนจดหมาย การอนุมัติใบแจ้งหนี้ และการชำระเงินเป็นเรื่องเดียวกัน แต่ไม่ใช่ การดูค้นหานโยบายไม่เหมือนกับการปฏิเสธการอ้างสิทธิ์ การคำนวณจำนวนไม่เหมือนกับการชำระเงิน การอ่านข้อมูล การใช้ตำแหน่ง การเตรียมการดำเนินการ การเปลี่ยนแปลงบันทึก และการย้ายเงินเป็นงานที่แตกต่างกัน และความแตกต่างคือผลที่ตามมา: ค่าใช้จ่ายที่บริษัทจ่ายเมื่อขั้นตอนผิดพลาด

การปกครองควรปฏิบัติตามความแตกต่างนั้น ไม่ใช่การเชื่อมต่อ การทำงานที่อ่านได้เพียงอย่างเดียวต้องการการควบคุมการเข้าถึง การทำงานที่แนะนำต้องการคนจริงที่ตัดสินใจ การทำงานที่เปลี่ยนแปลงบันทึกต้องการการอนุมัติ บันทึกการตรวจสอบ วิธีการที่จะถูกยกเลิก และเจ้าของที่มีชื่อ การทำงานที่ย้ายเงินต้องการทุกสิ่งนั้นบวกกับการรับประกันว่าการเปลี่ยนแปลงที่ไม่สมบูรณ์ไม่สามารถปล่อยให้บริษัทอยู่ในสถานะที่ผิดพลาดได้การปกครองโดยผลที่ตามมาและการใช้ AI อย่างปลอดภัยจะเปิดกว้างอย่างรวดเร็ว การปกครองทุกอย่างในแบบเดียวกันจะทำให้เกิดการชะงักงันหรือเหตุการณ์

ความไว้วางใจได้รับจากกระบวนการทำงาน

ความแตกต่างนั้นยังเป็นวิธีที่ความไว้วางใจเติบโตด้วย เมื่อมีแผนที่และราง ความไว้วางใจหยุดเป็นความรู้สึกเกี่ยวกับโมเดล และกลายเป็นคุณสมบัติของงาน กระบวนการทำงาน — ส่วนหนึ่งของธุรกิจที่มีประตูจากส่วนแรก — ได้รับอนุญาตขั้นตอนต่อขั้น โดยการปีนขึ้นไปตามความแตกต่างเดียวกัน: อันดับแรกมันเพียงแต่เตรียมการ จากนั้นมันอาจแนะนำ จากนั้นมันอาจเตรียมการดำเนินการที่คนอนุมัติ จากนั้นมันอาจดำเนินการตามขั้นตอนที่มีเสถียรภาพและยกเว้นข้อยกเว้น และสุดท้ายมันจะดำเนินการภายใต้การตรวจสอบ โดยมีคนดูผลลัพธ์แทนการคลิกทุกกรณี

ขั้นตอนต่อขั้นได้รับจากการตรวจสอบจากประตู — การตัดสินใจที่ตรวจสอบ การแก้ไข และเหตุผล — และขั้นตอนกลับลงมาโดยอัตโนมัติเมื่อประสิทธิภาพลดลง โมเดลที่ดีกว่าไม่ได้รับสิทธิ์การดำเนินการ

อย่าเลื่อนตำแหน่งโมเดล เลื่อนตำแหน่งกระบวนการทำงาน

เริ่มต้นด้วยกระบวนการทำงานหนึ่ง

ไม่มีสิ่งใดต้องใช้โปรแกรมทั่วทั้งองค์กร และไม่ควรเริ่มต้นด้วยสิ่งนั้น เลือกกระบวนการทำงานที่มีผลที่ตามมาจริง ปริมาณจริง และเจ้าของที่ต้องการแก้ไข มีแผนที่สำหรับส่วนงานนั้นalone วางขั้นตอนที่มีเสถียรภาพบนราง ตั้งประตู จากนั้นตรวจสอบคำอธิบายเทียบกับคำถามเก้าข้อที่เรียบง่าย:

• วัตถุทางธุรกิจใดเคลื่อนไหว?
• ที่ไหนแต่ละอย่างยืนอยู่ในขณะนี้?
• งานใดที่กำลังดำเนินการ?
• การตัดสินใจใดที่เลือกวิธีไปข้างหน้า?
• สิ่งใดที่เกิดขึ้นเมื่อมันถูกอนุมัติ?
• สิ่งใดที่เอเจนต์สามารถใช้ได้?
• สิ่งใดที่ทำงานโดยอัตโนมัติ?
• ใครเสนอ ใครอนุมัติ ใครดำเนินการ ใครรับผิดชอบ?
• หากสิ่งใดผิดพลาด สิ่งใดที่เปลี่ยนแปลงก่อนการทำงานครั้งถัดไป?

หากคนที่เป็นเจ้าของงานสามารถตอบคำถามเหล่านั้นสำหรับกระบวนการทำงานหนึ่ง เอเจนต์สามารถทำงานภายในมันอย่างปลอดภัย — เสนอแนะ ถูกตรวจสอบ และปล่อยให้รางดำเนินการ หากพวกเขาไม่สามารถทำได้ ไม่มีคุณภาพของโมเดลใดที่จะช่วยการนำไปใช้

ความล้มเหลวเป็นที่รู้จักกันเหมือนกับรูปแบบ ชัตบอทที่มีการเข้าถึงระบบที่มีความอ่อนไหวแต่ไม่มีแผนที่ของงาน ชั้นการดึงข้อมูลที่ตอบคำถามนโยบายแต่ไม่สามารถแสดงแหล่งที่มาของนโยบาย เอเจนต์ที่สามารถอนุมัติงานแต่ไม่สามารถบอกได้ว่าใครเป็นเจ้าของการอนุมัติ

แผนที่ ราง และประตู: นั่นคือสถาปัตยกรรม คำถามที่เหลืออยู่คือวิธีการสร้างมันในกระบวนการทำงานหนึ่ง — และนั่นคือส่วนสาม