วิกฤตความจำของ AI: เรากำลังสร้างยุคมืดดิจิทัล

มีแอปพลิเคชัน AI จำนวนมากที่เข้ามาในระบบการผลิต แต่แทบไม่มีแอปพลิเคชันใดที่สามารถแบ่งปันประสบการณ์การทำงานได้ นี่คือเหตุผลที่การเลือกใช้สถาปัตยกรรมมีความสำคัญ—และอะไรที่เปลี่ยนแปลงไปหากเราทำถูกต้อง

เวลา 14.06 น. ลูกค้าทำการซื้อออนไลน์สำหรับแล็ปท็อป

เอเย่นต์ในการชำระเงินทำการซื้อข้อมูลจากฐานข้อมูลการทำงาน: ประวัติการซื้อขายที่สะอาด, จำนวนเงินที่อยู่ในขอบเขตปกติ, ที่อยู่ในการจัดส่งที่เคยใช้มาก่อน, อุปกรณ์และที่ตั้งที่สอดคล้องกับการซื้อขายที่สำเร็จล่าสุด ทุกอย่างดูเหมือนปกติ เอเย่นต์อนุมัติการซื้อ

ในเวลาเดียวกัน เอเย่นต์ในการวิเคราะห์พฤติกรรมทำการประมวลผลข้อมูลคลิกสตรีมในคลังข้อมูลของบริษัท จากเซสชันนี้ มันอนุมานรูปแบบ: ผู้ใช้มาถึงโดยตรงบน URL การชำระเงินที่ไม่มีการซื้อขายหรือพฤติกรรมเปรียบเทียบ สัญญาณนี้อ่อนแอโดยตัวมันเอง แต่เป็นเครื่องบ่งชี้ที่ทราบกันดีในสถานการณ์การยึดบัญชี เมื่อรวมกับการซื้อขายปกติอื่นๆ

เอเย่นต์ในการวิเคราะห์พฤติกรรมบันทึกการวิเคราะห์นี้เป็นความรู้ที่ได้รับสำหรับการวิเคราะห์และการฝึกอบรมแบบจำลองในภายหลัง

เอเย่นต์ในการชำระเงินไม่เห็นมัน ไม่ใช่เพราะสัญญาณไม่ได้ถูกคำนวณ และไม่ใช่เพราะมันถูกเพิกเฉย—แต่เพราะความรู้นั้นอาศัยอยู่ในระบบที่เอเย่นต์ในการชำระเงินไม่ได้ปรึกษาในช่วงเวลาในการอนุมัติ

เอเย่นต์ทุกตัวมีพฤติกรรมที่ถูกต้องตามที่มันเห็น เอเย่นต์ทุกตัวเขียนข้อสรุปของมันลงในระบบที่มันเป็นเจ้าของ แต่ข้อสรุปเหล่านั้นยังคงไม่ปรากฏแก่เอเย่นต์อื่นๆ ที่ทำงานในเวลาเดียวกัน

แล็ปท็อปถูกจัดส่ง

สามสิบหกชั่วโมงต่อมา การชำระเงินถูกโต้แย้ง การสืบสวนยืนยันว่าบัญชีถูกบุกรุกก่อนหน้านั้นไม่นาน ผู้โจมตีเก็บการทำธุรกรรมให้อยู่ในขอบเขตปกติ โดยพึ่งพาความจริงที่ว่าสัญญาณเตือนล่วงหน้าเพียงอย่างเดียวมีอยู่ในฐานะความรู้ทางพฤติกรรมที่ถูกกักขังไว้นอกบริบทการตัดสินใจของเอเย่นต์ในการชำระเงิน

ความล้มเหลวไม่ใช่การขาดข้อมูล, การประมวลผลที่ช้า, หรือแบบจำลองที่ไม่ดี มันเป็นเอเย่นต์ที่ถูกกักขัง: ความรู้ถูกสร้างขึ้น แต่ไม่ได้รับการแบ่งปัน

และนี่เปิดเผยปัญหาเกือบที่ไม่มีใครพูดถึง เราได้สร้างสถาปัตยกรรมที่เอเย่นต์ AI ที่ตัดสินใจไม่สามารถเข้าถึงสิ่งที่เอเย่นต์ AI อื่นๆ ได้ค้นพบแล้ว

ปัญหาในการแก้ปัญหาเครื่องพิมพ์

ก่อนที่จะมีเครื่องพิมพ์ ความรู้เปราะบาง เมื่อนักวิชาการตาย มีความรู้ที่พวกเขาสามารถเรียนรู้ได้มากที่สุดตายไปด้วย นักคณิตศาสตร์ในลอนดอนอาจใช้เวลาหลายทศวรรษในการค้นพบหลักการที่นักคณิตศาสตร์ในปารีสจะค้นพบอีก 50 ปีต่อมา ความก้าวหน้าเป็นจริง แต่มันคือท้องถิ่น ช้า และถูกตั้งค่าใหม่ซ้ำๆ

เครื่องพิมพ์ ไม่ได้ทำให้บุคคลฉลาดขึ้น มันทำให้ความจำเป็นนอกเหนือจากจิตใจ ความรู้ไม่ได้ถูกผูกไว้กับจิตใจเพียงอย่างเดียว และเริ่มคงอยู่เกินชีวิตของผู้สร้างมัน ข้อคิดเห็นสามารถถูกแบ่งปัน, เยี่ยมชม, และสร้างขึ้นใหม่ข้ามชั่วรุ่น นั่นคือสิ่งที่ทำให้ความก้าวหน้าเพิ่มขึ้น

เรากำลังเสี่ยงต่อการทำซ้ำข้อผิดพลาดก่อนยุคเครื่องพิมพ์ด้วย AI

대부분ขององค์กรกำลังใช้เอเย่นต์ AI ในระบบการผลิต โดยมีหลายองค์กรที่กำลังทดลองในด้านต่างๆ เช่น การสนับสนุนลูกค้า, การพัฒนาซอฟต์แวร์, การวิจัย, และการตรวจจับการฉ้อโกง เอเย่นต์เหล่านี้มักถูกใช้ในรูปแบบบริการอิสระที่สอดคล้องกับสถาปัตยกรรมไมโครเซอร์วิสที่ทันสมัย โดยมีข้อมูลและขอบเขตการทำงานของตนเอง แม้ภายในองค์กรเดียวกัน เอเย่นต์เหล่านี้ก็สามารถอนุมานข้อคิดเห็นจากประสบการณ์การทำงานของตนเอง แต่ไม่เคยแบ่งปันความรู้ที่พวกมันสร้างขึ้นกับเอเย่นต์อื่นๆ ที่ตัดสินใจที่เกี่ยวข้อง

ผลลัพธ์คือความรู้ในการทำงานยังคงกระจัดกระจาย การตัดสินใจท้องถิ่นอาจดีขึ้น แต่ประสบการณ์ไม่สะสมข้ามระบบ ทุกๆ การพัฒนาที่ยังคงถูกกักขังไว้ในเอเย่นต์เดียวคือการพัฒนาที่ไม่สามารถเพิ่มขึ้นได้

ครั้งนี้ ปัจจัยที่จำกัดไม่ใช่ความฉลาดหรือความเร็ว มันคือความจำ ไม่มีวิธีให้ระบบ AI แบ่งปันและบันทึกสิ่งที่พวกมันค้นพบ ความก้าวหน้าจะถูกตั้งค่าใหม่บ่อยกว่าที่จะสร้างขึ้น

สิ่งที่ความจำร่วมกันจริงๆ ดูเหมือน

หน้าต่างบริบทที่ใหญ่ขึ้นสามารถเพิ่มการให้เหตุผลของแต่ละบุคคลได้ แต่มันไม่ได้สร้างประสบการณ์ที่คงอยู่และแบ่งปันระหว่างเอเย่นต์

ความจำร่วมกันเปลี่ยนผลลัพธ์ไม่ใช่โดยการปรับปรุงแบบจำลอง แต่โดยการเปลี่ยนสิ่งที่เอเย่นต์สามารถเห็นในช่วงการตัดสินใจ

ในระบบที่ถูกกักขัง เอเย่นต์แต่ละตัวให้เหตุผลถูกต้องภายในขอบเขตของตนเอง เอเย่นต์ในการชำระเงินประเมินความเสี่ยงในการทำธุรกรรม เอเย่นต์ในการวิเคราะห์พฤติกรรมวิเคราะห์รูปแบบคลิกสตรีม เอเย่นต์แต่ละตัวเขียนข้อสรุปของมันลงในระบบที่มันเป็นเจ้าของ และข้อสรุปเหล่านั้นยังคงไม่ปรากฏแก่เอเย่นต์อื่นๆ ที่ทำงานในเวลาเดียวกัน

ด้วยชั้นความจำร่วมกัน ขอบเขตนั้นจะหายไป

เมื่อเอเย่นต์ในการวิเคราะห์พฤติกรรมประมวลผลเซสชัน มันอนุมานสัญญาณที่มีความหมาย: รูปแบบการนำทางที่เกี่ยวข้องกับการยึดบัญชีในตอนต้น แทนที่จะเก็บสัญญาณนั้นไว้เพียงเพื่อวิเคราะห์แบบออฟไลน์ มันเขียนสัญญาณนั้นลงในความจำร่วมกัน โดยเชื่อมโยงกับเซสชันที่กำลังทำงาน

ไม่กี่วินาทีต่อมา เมื่อเอเย่นต์ในการชำระเงินประเมินการซื้อ มันทำการซื้อข้อมูลจากความจำนั้น การทำธุรกรรมยังคงดูเหมือนปกติ แต่มันเห็นบริบทเพิ่มเติม: สัญญาณเตือนพฤติกรรมที่จะไม่ปรากฏอื่นๆ สัญญาณเหล่านั้นไม่เด็ดขาดโดยตัวมันเอง แต่เมื่อรวมกันแล้วจะข้ามขอบเขตสำหรับการตรวจสอบเพิ่มเติม

ไม่มีสิ่งใดที่เปลี่ยนแปลงเกี่ยวกับเอเย่นต์เหล่านั้น ตัวแบบจำลองไม่ได้รับการฝึกอบรมใหม่ ไม่มีการควบคุมจากระดับกลาง ความแตกต่างคือความสามารถในการมองเห็น: ข้อคิดเห็นที่เกิดจากเอเย่นต์หนึ่งสามารถใช้ได้กับอีกเอเย่นต์หนึ่งขณะที่ยังมีความสำคัญ

สิ่งสำคัญคือ ข้อคิดเห็นนั้นคงอยู่ เมื่อผลลัพธ์เป็นที่รู้จักในภายหลัง—การฉ้อโกงหรือการซื้อขายที่ถูกต้อง—ความสัมพันธ์ระหว่างสัญญาณและผลลัพธ์นั้นถูกบันทึกไว้ เมื่อเวลาผ่านไป ระบบจะสะสมบันทึกเชิงประจักษ์ของสัญญาณอ่อนที่มักจะสำคัญ และภายใต้เงื่อนไขใดๆ การตัดสินใจในอนาคตจะได้รับข้อมูลจากประสบการณ์ที่ขยายเกินกว่าการโต้ตอบหรือเอเย่นต์ใดๆ

ความจำร่วมกันไม่ใช่คลังข้อมูลและไม่ใช่ฐานข้อมูลการทำงาน มันเป็นชั้นการทำงานต่ำสำหรับบริบทที่อนุมาน: สัญญาณ, การตีความ, และความสัมพันธ์ที่อยู่รอดการโต้ตอบที่สร้างมันและยังคงสามารถซักถามได้โดยเอเย่นต์อื่นๆ ที่ตัดสินใจที่เกี่ยวข้อง

นี่คือวิธีที่ประสบการณ์จะเพิ่มขึ้น—ไม่ใช่ภายในแบบจำลองใดๆ แต่ข้ามระบบทั้งหมด

การแลกเปลี่ยนสถาปัตยกรรมเบื้องหลังเอเย่นต์ที่ถูกกักขัง

เอเย่นต์ที่ถูกกักขангไม่ใช่ข้อผิดพลาดในการใช้งาน มันเป็นผลลัพธ์ที่คาดเดาได้ของสถาปัตยกรรมองค์กรที่ออกแบบมาเพื่อผู้บริโภคประเภทอื่น

ในหลายทศวรรษที่ผ่านมา ระบบการผลิตได้แบ่งงานออกตามหน้าที่ ระบบการทำงานถูกปรับให้เหมาะสมสำหรับการทำธุรกรรมที่มีความหน่วงต่ำและสม่ำเสมอ ในขณะที่ระบบการวิเคราะห์ถูกปรับให้เหมาะสมสำหรับการรวมข้อมูลขนาดใหญ่และการค้นพบแบบจำลองทางประวัติศาสตร์ (OLTP vs. OLAP) การแบ่งแยกนี้สะท้อนถึงวิธีการบริโภคข้อมูลเชิงลึก: ผลการวิเคราะห์ถูกสร้างขึ้นสำหรับมนุษย์ ไม่ใช่เครื่องจักร และคาดว่าจะมาถึงแบบไม่สม่ำเสมอและนอกเส้นทางการตัดสินใจ

เอเย่นต์ AI สืบทอดการแบ่งแยกสถาปัตยกรรมนี้ แต่พวกมันไม่เหมาะสมกับมัน

ผลลัพธ์ไม่ใช่แค่การได้รับข้อมูลเชิงลึกที่ล่าช้า แต่เป็นจุดบอดเชิงโครงสร้าง ข้อมูลเชิงลึกที่สร้างขึ้นในระบบการวิเคราะห์ถูกค้นพบหลังจากการตัดสินใจแบบเรียลไทม์แล้ว สัญญาณที่สามารถเปลี่ยนแปลงผลลัพธ์อาจมีอยู่ แต่ไม่สามารถถูกนำเสนอในช่วงการตัดสินใจเพราะพวกมันอยู่ในระบบที่ไม่ได้ถูกออกแบบมาเพื่อซักถามอย่างต่อเนื่องโดยผู้ตัดสินใจอิสระ

สถาปัตยกรรมไม่ได้เสียหาย มันไม่เหมาะสมกับความต้องการของระบบอิสระ

วินัยที่หายไป: วิศวกรรมบริบท

ความจำร่วมกันนำปัญหาหนึ่งที่ทีมส่วนใหญ่ยังไม่พร้อมที่จะแก้ไข: การตัดสินใจว่าประสบการณ์ใดควรคงอยู่

ระบบ AI สร้างปริมาณมากของประสบการณ์ขั้นพื้นฐาน—การทำธุรกรรม, คลิก, ข้อความ, การกระทำ, ผลลัพธ์ การเก็บรักษาทั้งหมดไม่ใช่เรื่องที่เป็นไปได้หรือมีประโยชน์ หากไม่มีการเลือกอย่างรอบคอบ ความจำร่วมกันจะกลายเป็นเสียงรบกวน ความท้าทายไม่ใช่การรวบรวมข้อมูลมากขึ้น แต่การ塑造ประสบการณ์ให้เป็นบริบทที่เอเย่นต์อื่นๆ สามารถใช้ได้

นี่คือบทบาทของ วิศวกรรมบริบท

วิศวกรรมบริบทคือวินัยในการตัดสินใจว่าสังเกตการณ์ใดจะกลายเป็นสัญญาณที่คงอยู่, ว่าสัญญาณเหล่านั้นจะถูกนำเสนอ, และเมื่อใดที่จะนำเสนอให้กับเอเย่นต์อื่นๆ มันอยู่ระหว่างเหตุการณ์ขั้นพื้นฐานและเหตุผลของเอเย่นต์ โดยการเปลี่ยนแปลงกิจกรรมชั่วคราวให้เป็นความเข้าใจที่ใช้ได้ร่วมกัน

ในทางปฏิบัติ สิ่งนี้หมายถึงการยกย่องรูปแบบ, ตัวบ่งชี้, และความสัมพันธ์แบบมีเงื่อนไข ในขณะที่อนุญาตให้ประสบการณ์ขั้นพื้นฐานส่วนใหญ่จางหายไป สัญญาณอ่อนหรือกรณีชายขอบอาจไม่สำคัญในตัวมันเอง แต่จะกลายเป็นมีค่าเมื่อสะสมและนำเสนอในเวลาที่เหมาะสม

วิศวกรรมบริบทกำหนดว่าความจำร่วมกันจะเก็บประสบการณ์หรือทำให้มันสะสม

สิ่งที่เกิดขึ้นหากเราทำถูกต้อง

สิ่งนี้ไม่ใช่ความกังวลในอนาคต มันเป็นตัวเลือกทางสถาปัตยกรรมที่ทีมโครงสร้างพื้นฐานตัดสินใจวันนี้

เส้นทางเริ่มต้นคือการแยกออก การตัดสินใจของเอเย่นต์ AI ทำงานอิสระ โดยอาศัยประสบการณ์ของตนเองเท่านั้น แต่ละตัวตัดสินใจอย่างรวดเร็วและถูกต้องในระดับท้องถิ่น แต่ความฉลาดถึงจุดคงที่ ความล้มเหลวแบบเดียวกันเกิดขึ้นซ้ำๆ สัญญาณอ่อนถูกค้นพบซ้ำๆ และความล้มเหลวเกิดขึ้นซ้ำๆ ด้วยความเร็วและปริมาณที่มากขึ้น

ทางเลือกคือชั้นความจำร่วมกัน

เมื่อบริบทที่อนุมานคงอยู่และปรากฏในช่วงการตัดสินใจ ประสบการณ์จะหยุดการหายไป ข้อมูลเชิงลึกที่ค้นพบครั้งหนึ่งยังคงพร้อมใช้งาน สัญญาณอ่อนจะกลายเป็นมีค่าเมื่อสะสมขึ้น การตัดสินใจจะดีขึ้นไม่ใช่เพราะแบบจำลองเปลี่ยนแปลง แต่เพราะเอเย่นต์ไม่ตัดสินใจอยู่ในความโดดเดี่ยว

สิ่งนี้ไม่ต้องการแบบจำลองขนาดใหญ่, การฝึกอบรมแบบเรียลไทม์, หรือการควบคุมจากระดับกลาง มันต้องการการรักษาความจำเป็นชั้นโครงสร้างพื้นฐานระดับแรก—ที่ออกแบบมาเพื่อการเข้าถึงแบบต่ำหน่วงต่ำ, การคงอยู่, และการมองเห็นที่ใช้ร่วมกัน

ตัวเลือกทางสถาปัตยกรรมจะแข็งตัวเร็ว ระบบที่สร้างขึ้นโดยไม่มีความจำร่วมกันจะยากขึ้นในการปรับปรุงเมื่อเอเย่นต์จำนวนมากขึ้น ตัวเลือกนั้นง่าย: สร้างระบบที่สะสมประสบการณ์—หรือระบบที่รีสตาร์ทอย่างไม่มีที่สิ้นสุด