เอไอเอเจนต์กำลังเข้าใกล้ความมั่นคงทางการเงิน อุตสาหกรรมพร้อมหรือยัง?

ฉันอยากซื้อหุ้นของบริติชแอร์เวย์

เมื่อฉันเริ่มทำงานบนโต๊ะซื้อขายในย่านฟินานเชียล ดิสทริกต์ ในปี 1980 โทรศัพท์เป็นอินเทอร์เฟซ ลูกค้าจะโทรเข้ามา โดยปกติจะเป็นชายที่ทำเงินได้จากธุรกิจอะไรสักอย่างและต้องการลงทุนในหุ้น และเขาจะบอกว่าเขาต้องการซื้อหุ้นของบริติชแอร์เวย์ บางคนบนโต๊ะจะรับคำสั่งซื้อ และนั่นคือการซื้อขายทั้งหมด มีเพียงสองคน โทรศัพท์ และความไว้วางใจทั้งสองฝ่าย

จากนั้นอุตสาหกรรมใช้เวลาสี่ทศวรรษในการกำจัดโทรศัพท์ออกไป ก่อนอื่นเป็นจอแสดงการซื้อขาย จากนั้นเป็นเทอร์มินัลอิเล็กทรอนิกส์ และจากนั้นเป็น API ที่ทำให้基金สามารถส่งคำสั่งซื้อขายได้หลายพันครั้งต่อวินาทีโดยไม่ต้องพูดอะไร เรียกว่าความก้าวหน้า และโดยทั่วไปแล้วมันก็เป็นเช่นนั้น

ตอนนี้วงจรกำลังปิดลง อیدهียใหม่ล่าสุดในธุรกิจคือการให้ลูกค้าพูดกับเครื่องจักรอีกครั้ง แต่คราวนี้เครื่องจักรที่ตอบคุณบอกเอไอเอเจนต์ให้ทำการซื้อขายคู่หรือเพื่อรักษาตำแหน่งตัวเลือกให้เหมาะสมกับเงื่อนไขที่คุณให้มา และมันจะไปทำตามนั้น เราใช้เวลาหนึ่งรุ่นในการแทนที่คนบนโต๊ะ และตอนนี้เรากำลังจะ雇มันกลับมาในซิลิกอน

ฉันไม่มีอะไรต่อต้านเรื่องนี้เลย สิ่งที่ทำให้ฉันกังวลคือการเชื่อมต่อที่อยู่ด้านล่าง ซึ่งอายุน้อยกว่าการตลาด

การเชื่อมต่อนั้นยังเด็กกว่าการตลาด

สิ่งที่ขับเคลื่อนการรวมระบบใหม่นี้คือโปรโตคอล Model Context หรือ MCP ซึ่งยังอายุไม่ถึง 18 เดือน Anthropic เปิดเผยโปรโตคอลนี้ต่อสาธารณะในเดือนธันวาคม 2024 เพื่อแก้ปัญหาภายในของตัวเอง: วิธีการเชื่อมต่อโมเดลภาษาไปยังเครื่องมือและข้อมูลภายนอกโดยไม่ต้องเขียนโค้ดการรวมเฉพาะสำหรับการจับคู่ทุกครั้ง เมื่อ Anthropic มอบโปรโตคอลให้กับ Agentic AI Foundation ที่ก่อตั้งใหม่ในเดือนธันวาคม 2025 โปรโตคอลนี้ก็ได้รับการใช้งานแล้วมากกว่า 10,000 เซิร์ฟเวอร์สาธารณะ และได้รับการเลือกใช้โดย ChatGPT, Gemini และ Microsoft Copilot เป็นต้น นี่คือการเติบโตที่ทำให้ “คนแรกที่รวม” รู้สึกเหมือนเป็นคำถามเดียวที่ใครๆ ก็ควรจะถาม

มันแก้ปัญหาวิศวกรรมที่แท้จริง แทนที่จะเขียนโค้ดการรวมสำหรับเครื่องมือสถาบันทุกเครื่อง คุณเผยแพร่แค็ตตาล็อกความสามารถที่เป็นมาตรฐานและให้โมเดลอ่านจากแค็ตตาล็อกนั้น โมเดลแนวหน้าสามารถพูดกับฐานข้อมูลที่มีอายุ 30 ปีได้เหมือนกับว่าทั้งสองถูกนำมาแนะนำในงานปาร์ตี้

ปัญหาก็คือความเป็นมาตรฐานเดียวกันนี้เดินผ่านขอบเครือข่ายที่คุณใช้เวลาสิบปีในการสร้างขึ้น อินเทอร์เฟซที่ให้โมเดลเข้าถึงฐานข้อมูลที่มีอายุยาวนานนั้นยังช่วยให้โมเดลเข้าถึงสิ่งอื่นๆ ที่ถูกเปิดเผยบนอินเทอร์เฟซเดียวกันได้ และเอเจนต์ที่ทำงานในบริษัทซื้อขายที่แท้จริงต้องอ่านโลกภายนอกเพื่อทำงานได้: ความคิดเห็นของตลาด ข่าวสาร สิ่งที่ใครบางคนเพิ่งวางไว้ เมื่อมันเริ่มอ่านข้อความที่ไม่น่าเชื่อถือ การสั่งการและข้อมูลจะมาถึงผ่านช่องทางเดียวกัน โดยใช้ภาษาเดียวกัน และไม่มีวิธีที่เชื่อถือได้สำหรับโมเดลที่จะแยกแยะว่าอะไรคืออะไร

การหลอกลวงโมเดลนั้นง่ายกว่าการทำลายธนาคาร

สิ่งนี้ไม่ใช่เรื่องสมมติ การศึกษาในปี 2026 ตั้งเป้าที่จะวัดว่าเอเจนต์ AI ต้านทานการฉีดคำสั่งได้ดีเพียงใด การฉีดคำสั่งคือการซ่อนคำสั่งไว้ภายในเนื้อหาที่เอเจนต์อ่านเพื่อให้เอเจนต์ทำสิ่งที่ไม่ใช่สิ่งที่เจ้าของของมันต้องการให้ทำ การฉีดคำสั่งโดยตรงประสบความสำเร็จมากกว่า 79% ของการโจมตีทดลองที่มีต่อเอเจนต์ที่สร้างขึ้นบนระบบแนวหน้า เช่น GPT-5 และ Gemini และการโจมตีทางอ้อมที่ซ่อนคำสั่งไว้ในเนื้อหาทั่วไปหรือเมตาดาต้าสำเร็จระหว่าง 41% ถึง 68% ไม่มีการกำหนดค่าใดที่พวกเขาตรวจสอบที่สามารถหยุดการโจมตีได้完全

OWASP GenAI Security Project ได้ทำข้อสังเกตที่เกี่ยวข้องในรายงานปี 2026 เกี่ยวกับความมั่นคงและธรรมาภิบาลของ AI ที่สามารถกระทำได้ ซึ่งเผยแพร่ในเดือนมิถุนายน ฉบับแรกได้บันทึกรายการความเสี่ยงที่ส่วนใหญ่สมเหตุสมผลบนกระดาษ ฉบับปี 2026 นี้สร้างขึ้นจากเหตุการณ์ที่บันทึกไว้ คำแนะนำของซัพพลายเออร์ และช่องโหว่ที่ลงทะเบียนซึ่งเกี่ยวข้องกับเกือบทุกหมวดหมู่ของความเสี่ยงที่ติดตาม สองปี และความเสี่ยงที่เป็นไปได้บนกระดาษกลายเป็นเหตุการณ์ที่บันทึกไว้แล้ว สิ่งนี้เพียงอย่างเดียวคือการให้เหตุผลที่จะรู้ว่าคุณกำลังเชื่อมต่อกับอะไร และเชื่อมต่ออย่างไร ก่อนที่คุณจะเชื่อมต่อ

เครื่องจักรที่เขียนโค้ดการโจมตีของมันเอง

จากนั้นภาพเปลี่ยนไปอีกครั้ง ในเดือนเมษายน 2026 Anthropic เปิดเผย Claude Mythos Preview ซึ่งเป็นโมเดลระดับแนวหน้าที่สร้างขึ้นสำหรับงานไซเบอร์ และมีข้อจำกัดอย่างมาก ตามเอกสารเทคนิคของ Anthropic โมเดล Mythos สามารถค้นหาช่องโหว่ zero-day บนระบบปฏิบัติการและเว็บเบราว์เซอร์ที่สำคัญๆ และสร้างโค้ดการโจมตีที่ใช้ได้จริงสำหรับช่องโหว่เหล่านั้นโดยไม่ต้องมีมือคนถือ มูลนิธิ AI Security Institute ของสหราชอาณาจักรตรวจสอบคำกล่าวอ้างนี้โดยอิสระและพบว่า Mythos สามารถทำการโจมตีเครือข่ายองค์กรที่ซับซ้อน 32 ขั้นตอนได้สำเร็จ และ แก้ปัญหา 73% ของความท้าทายระดับผู้เชี่ยวชาญ

Mythos เองถูกจำกัดอย่างเข้มงวด และถูกจำกัดให้ใช้กับเพียงไม่กี่ๆ ผู้ให้บริการโครงสร้างพื้นฐานภายใต้โครงการที่เรียกว่า Project Glasswing แต่การมีอยู่ของมันทำให้การถกเถียงนั้นยุติลง ความสามารถในการโจมตีได้ล้ำหน้าการกำกับดูแลที่ตั้งใจจะควบคุมมัน หากคุณวางความสามารถเช่นนี้ในมือที่ไม่ถูกต้อง และชี้ไปที่เอเจนต์ที่มีอำนาจในการย้ายเงิน คุณจะมีทางที่สามารถยึดการควบคุม API ที่อยู่ด้านล่างและยิงการถอนเงินหรือการโอนเงินออกไปที่ไม่มีใครอนุมัติ

ไม่ต้องหักเงินจากฐานข้อมูลที่เข้ารหัสนั้น นั่นคือส่วนที่คุณควรนั่งและพิจารณา ระบบการเงินแบบดั้งเดิมทำงานบนโค้ดที่กำหนดผลลัพธ์ ซึ่งหมายความว่าการกระทำเดียวกันจะให้ผลลัพธ์เดียวกันทุกครั้งและเชื่อถือได้ เอเจนต์ทำงานบนการให้เหตุผลแบบความน่าจะเป็น ซึ่งเป็นวิธีการพูดที่สุภาพในการบอกว่ามันไม่มีขอบเขตที่ชัดเจน ดังนั้นผู้โจมตีจึงข้ามห้องเก็บของไปเลยและพูดให้โมเดลเข้าใจผิดในการสั่งการได้เลย ไม่ต้องแฮกเข้าไปในห้องเก็บของก็ได้ พูดให้โมเดลเข้าใจผิดในการสั่งการได้เลย

สิ่งที่คุ้มครองคุณอยู่ด้านล่างโมเดล

มีมุมมองด้านต้นทุนที่นี่เช่นกัน และชี้ไปในทางเดียวกัน MCP คือการเชื่อมต่อที่ใช้การแลกเปลี่ยนข้อมูลมาก มันใช้การซื้อขายข้อมูลไปมาอย่างมาก ซึ่งหมายความว่าใช้โทเค็น (หรือเงิน) เมื่อค่าใช้จ่ายนั้นเพิ่มขึ้น คาดว่าบริษัทที่มีความรับผิดชอบจะหันเหจากมาตรฐานที่เปิดกว้างและไปสู่จุดสิ้นสุดแบบเฉพาะที่ปรับให้เหมาะสมแล้ว มันจะถูกกว่าและง่ายต่อการล็อคอีกด้วย

เพราะว่าเครื่องมือรักษาความปลอดภัยของโมเดลเองไม่เพียงพอที่จะปกป้องเงินของคนอื่น สิ่งที่ปกป้องมันอยู่ด้านล่างโมเดล ในการเชื่อมต่อที่จริงจัง การติดตั้งเริ่มต้นด้วยการตรวจสอบระดับอุปกรณ์ ก่อนที่จะให้คำสั่งใดๆ ถึงโมเดลภาษา พื้นที่ที่ปลอดภัยด้วยฮาร์ดแวร์จะตรวจสอบแล้วว่าใครอยู่ที่ปลายทางของการสนทนา

ด้านล่างจากนั้น API เองจะต้องถูกสร้างขึ้นใหม่สำหรับเครื่องจักร ไม่ใช่สำหรับคน นักพัฒนาคนจะเห็นอินเทอร์เฟซที่ให้ความยืดหยุ่นได้เพราะคุณไว้วางใจการตัดสินใจของเขา เอเจนต์แบบอัตโนมัติจะได้รับโครงร่างที่เข้มงวดซึ่งจำกัดอย่างเข้มงวดว่ามันสามารถขอให้แบ็คเอนด์ทำอะไรได้บ้าง เพราะเอเจนต์จะใช้ทุกสิ่งที่คุณปล่อยให้มันเห็นได้ ให้มันเข้าถึงสิ่งใด และมันจะหาวิธีใช้สิ่งนั้นได้ ให้มันเข้าถึงสิ่งใด และมันจะหาวิธีใช้สิ่งนั้นได้ ดังนั้นการผลิตควรเปิดเผยให้น้อยที่สุดเท่าที่จะเป็นไปได้

การทำงานของเอเจนต์ควรจะดำเนินไปภายในสภาพแวดล้อมที่มีการปิดล้อม โดยท่อที่อ่านโลกจะถูกแยกออกจากเครื่องจักรที่สามารถกระทำการได้ การอ่านและการกระทำเป็นงานที่แตกต่างกันและควรอยู่ในห้องที่แตกต่างกัน และสำหรับสิ่งที่มีความเสี่ยงสูงจริงๆ คนต้องอนุมัติก่อนที่จะทำการใดๆ ใครบางคนที่มีชื่อและบัญชีผู้ใช้จะอนุมัติการทำธุรกรรมก่อนที่จะไปที่ไหน

กระต่ายมีเหตุผล

คุณรู้เรื่องนี้ กระต่ายที่มีความเร็วมากจนต้องหยุดพัก และกระต่ายที่ชนะด้วยกลยุทธ์ที่ไม่หยุดพัก มันเป็นนิทาน ไม่ใช่คู่มือการทำงาน และฉันไม่คิดว่าจะพึ่งพามันมากเกินไป แต่การแข่งขันครั้งนี้ก็คล้ายกับเรื่องนี้ บริษัทที่วิ่งเร็วที่สุดกำลังรวบรวมการรายงานมากที่สุด และการรายงานไม่ใช่สิ่งเดียวกับความทนทาน ตลาดมักจะจดจำโบรกเกอร์ที่เคลื่อนไหวเร็วเกินไปมากกว่าที่จะจดจำโบรกเกอร์ที่รอ

ในขณะเดียวกัน กฎเกณฑ์กำลังตามทัน เมื่อกรอบการทำงาน เช่น European Union’s AI Act ควบคุมการกำกับดูแลของระบบอัตโนมัติในด้านการเงิน การปฏิบัติตามกฎเกณฑ์เป็นสิ่งที่ต้องทำล่วงหน้า ไม่ใช่สิ่งที่ติดตามมาหลังการดำเนินการ เมื่อเอเจนต์ที่ถูกบุกรุกทำสิ่งที่ไม่ควรทำ ความรับผิดจะอยู่ที่โครงสร้างพื้นฐานที่ปล่อยให้มันเกิดขึ้น ไม่ใช่โมเดลที่ถูกหลอก เมื่อความทนทานในยุค nàyจะเป็นของบริษัทที่เก็บสินทรัพย์ของลูกค้าให้แยกจากกัน ไฟไม่ดับเมื่อมีปัญหา และสามารถแสดงการทำงานได้ ไม่ใช่ของใครที่เชื่อมต่อได้เร็วที่สุด

ซึ่งนำฉันกลับไปที่ชายคนนั้นที่โทรศัพท์ในปี 1985 สำหรับข้อบกพร่องของเขา เขามีข้อได้เปรียบหนึ่งที่เอเจนต์ที่เรากำลังสร้างเพื่อทดแทนเขาไม่มี เมื่อเขาบอกให้คุณซื้อหุ้นของบริติชแอร์เวย์ เขาก็ซื้อหุ้นของบริติชแอร์เวย์ คุณไม่สามารถพูดให้เขาโอนเงินเข้าบัญชีของคนอื่นโดยใช้หัวข้อที่เขียนอย่างชาญฉลาดได้ ความก้าวหน้า ดังนั้น ในลักษณะใดลักษณะหนึ่ง ที่ EXANTE เรากำลังใช้ความพยายามอย่างมากในการทำให้แน่ใจว่าเวอร์ชันซิลิกอนนั้นยากต่อการหลอกลวงไม่น้อยกว่าคนรับโทรศัพท์ ซึ่งบอกเราถึงที่ที่สี่ทศวรรษของนวัตกรรมได้นำเราไป