एआई एजेंट वित्तीय सुरक्षा से आगे निकल रहे हैं। क्या उद्योग तैयार है?

मैं ब्रिटिश एयरवेज खरीदना चाहता हूं

जब मैं 1980 के दशक में एक शहर के व्यापारिक डेस्क पर शुरू हुआ, तो फोन इंटरफेस था। एक ग्राहक फोन करेगा, आमतौर पर एक व्यक्ति जिसने कुछ उबाऊ में अपना पैसा बनाया था और शेयरों में थोड़ा सा पैसा लगाना चाहता था, और वह कहेगा कि उसे ब्रिटिश एयरवेज खरीदने की इच्छा है। डेस्क पर कोई व्यक्ति ऑर्डर लेगा, और यह लेन-देन होगा। दो लोग, एक हैंडसेट, और दोनों दिशाओं में बहुत विश्वास था।

उस समय उद्योग ने फोन कॉल को हटाने में चालीस साल बिताए। पहले डीलिंग स्क्रीन। फिर इलेक्ट्रॉनिक टर्मिनल। फिर एपीआई जो एक फंड को एक सेकंड में हजारों ऑर्डर दागने की अनुमति देता था बिना किसी शब्द कहे। हमने इसे प्रगति कहा, और अधिकांश भाग के लिए यह था।

अब लूप बंद हो रहा है। व्यवसाय में सबसे नया विचार यह है कि ग्राहक को फिर से मशीन से बात करने दें, लेकिन इस बार मशीन जवाब देती है। आप एक एआई एजेंट को लगभग साधारण अंग्रेजी में बताते हैं कि दो परिसंपत्ति वर्गों में एक जोड़ी व्यापार चलाएं, या कुछ शर्तों के खिलाफ विकल्प स्थिति को अनुकूलित रखें जो आप बताते हैं, और यह ऐसा करता है। हमने एक पीढ़ी डेस्क पर आदमी को बदलने में बिताई। हम अब उसे सिलिकॉन में फिर से नियुक्त करने जा रहे हैं।

मुझे इसके बारे में कोई बड़ा आपत्ति नहीं है। जो मुझे चिंतित करता है वह तारों के नीचे की तारों की व्यवस्था है, जो विपणन से बहुत छोटी है।

प्लंबिंग हYPE से छोटी है

इस एकीकरण लहर को शक्तिशाली बनाने वाली चीज मॉडल कॉन्टेक्स्ट प्रोटोकॉल, या एमसीपी है, और यह अभी तक केवल अठारह महीने पुराना है। एंथ्रोपिक ने इसे अपने एक आंतरिक समस्या को हल करने के लिए दिसंबर 2024 में ओपन-सोर्स किया था: बाहरी टूल और डेटा से भाषा मॉडल को कैसे जोड़ा जाए बिना प्रत्येक जोड़ी के लिए विशिष्ट एकीकरण कोड लिखे। एंथ्रोपिक ने जब एमसीपी को दिसंबर 2025 में गठित एजेंटिक एआई फाउंडेशन को सौंपा, तो यह पहले से ही 10,000 से अधिक सार्वजनिक सर्वर चला रहा था और चैटजीपीटी, जेमिनी, और माइक्रोसॉफ्ट कोपायलट जैसे लोगों द्वारा चुना गया था। यह वह गोद लेने की कर्व है जो “पहले एकीकरण” को ऐसा महसूस कराती है कि यही एकमात्र प्रश्न है जो किसी को पूछना चाहिए।

यह एक वास्तविक इंजीनियरिंग समस्या का समाधान करता है। प्रत्येक संस्थागत उपकरण के लिए एक एकीकरण हाथ से कोड करने के बजाय, आप एक समान क्षमताओं की सूची प्रकाशित करते हैं और मॉडल को इसे पढ़ने देते हैं। एक फ्रंटियर मॉडल एक तीस साल पुराने डेटाबेस से बात कर सकता है जैसे कि दोनों को एक पार्टी में पेश किया गया हो।

समस्या यह है कि यही एकरूपता सीधे नेटवर्क परिधि से गुजरती है जिसे आपने एक दशक में बनाया है। मॉडल को विरासत डेटाबेस तक पहुंचने देने वाला इंटरफेस यह भी अनुमति देता है कि यह किसी और चीज़ तक पहुंच जो उसी इंटरफेस पर उजागर हो। और एक एजेंट जो एक वास्तविक नौकरी करता है एक वास्तविक व्यापारिक फर्म में, उसे बाहरी दुनिया को पढ़ना होगा: बाजार टिप्पणी, समाचार फीड, किसी ने जो फ़ाइल गिराई है। जैसे ही यह अविश्वसनीय पाठ पढ़ना शुरू करता है, निर्देश और डेटा एक ही पाइप से आ रहे हैं, एक ही भाषा में लिखे गए हैं, और मॉडल के लिए यह बताने का कोई भरोसेमंद तरीका नहीं है कि कौन सा क्या है।

मॉडल को धोखा देना बैंक तोड़ने से आसान है

यह एक कल्पना नहीं है। 2026 के एक अध्ययन में यह मापा गया था कि एआई एजेंट वास्तव में प्रॉम्प्ट इंजेक्शन का प्रतिरोध कितना अच्छा करते हैं, यह चालाकी से शब्दों में छिपे हुए निर्देशों को एजेंट को पढ़ने के लिए देने की चाल है ताकि यह चुपचाप कुछ और करे जो इसके मालिक ने नहीं मांगा था। जीपीटी-5 और जेमिनी जैसे फ्रंटियर सिस्टम पर आधारित एजेंटों पर हजारों सिम्युलेटेड हमलों में, सीधे इंजेक्शन ने 79% से अधिक समय तक सफलता प्राप्त की, और अप्रत्यक्ष हमले, जहां निर्देश सामान्य वेब सामग्री या मेटाडेटा में दफन होता है, 41% और 68% के बीच कहीं भी उतरे। एक भी कॉन्फ़िगरेशन जिसे उन्होंने परीक्षण नहीं किया था जो पूरी तरह से रेखा को बनाए रखा।
ओडब्ल्यूएएसपी जेनएआई सिक्योरिटी प्रोजेक्ट ने अपनी 2026 की रिपोर्ट में एक शांत लेकिन संबंधित बिंदु बनाया एजेंटिक एआई सुरक्षा पर, जून में प्रकाशित। पहला संस्करण जोखिमों को कैटलॉग किया गया था जो अधिकांश भाग के लिए कागज़ पर संभव थे। 2026 संस्करण दर्ज घटनाओं, विक्रेता सलाहकारों और पंजीकृत कमजोरियों पर आधारित है जो लगभग हर श्रेणी के जोखिम से जुड़े हुए हैं जिसे यह ट्रैक करता है। दो साल, और सैद्धांतिक लॉग हो गया। यही एक तर्क है जो यह जानने के लिए है कि आप क्या जोड़ रहे हैं, और इससे पहले कि आप इसे जोड़ें।

एक मशीन जो अपने खुद के शोषण लिखती है

फिर चित्र फिर से बदल गया। अप्रैल 2026 में एंथ्रोपिक ने क्लाउड मिथोस प्रीव्यू का खुलासा किया, एक भारी रूप से प्रतिबंधित, फ्रंटियर-क्लास मॉडल जो साइबर कार्य के लिए बनाया गया था। एंथ्रोपिक के अपने तकनीकी लिखित में अनुसार, मिथोस प्रमुख ऑपरेटिंग सिस्टम और वेब ब्राउज़र में शून्य-दिन की कमजोरियों को स्वचालित रूप से खोज सकता था और उनके लिए काम करने वाले शोषण उत्पन्न कर सकता था, किसी मानव के हाथ पकड़ने के बिना। यूनाइटेड किंगडम के एआई सुरक्षा संस्थान ने दावे की स्वतंत्र रूप से जांच की और पाया कि मिथोस ने एक समाप्त-सिम्युलेटेड 32-चरण कॉर्पोरेट नेटवर्क हमला और 73% विशेषज्ञ-स्तर की चुनौतियों का समाधान किया।

मिथोस खुद को एक छोटी सी लीड पर रखा है, केवल कुछ इन्फ्रास्ट्रक्चर प्रदाताओं के लिए प्रतिबंधित है जो प्रोजेक्ट ग्लासविंग कहलाते हैं। लेकिन इसका अस्तित्व एक तर्क को निपटाता है। आक्रामक क्षमता अब शासन के आगे चल रही है जो इसे नियंत्रित करने वाली है। ऐसी क्षमता को गलत हाथों में रखें, इसे एक एजेंट की ओर इशारा करें जो पैसे हिलाने के लिए अधिकृत है, और आपके पास एक पाइपलाइन है जो अंतर्निहित एपीआई को हाईजैक कर सकती है और किसी के अधिकृत किए बिना परिसंपत्ति तरलीकरण या आउटबाउंड स्थानांतरण को आग लगा सकती है।

इसे पारंपरिक वित्तीय प्रणालियों को तोड़ने की आवश्यकता नहीं है। यह वह हिस्सा है जो बैठने लायक है। पारंपरिक वित्तीय प्रणालियां निर्धारित कोड पर चलती हैं, जहां एक ही क्रिया हर बार एक ही उत्तर देती है, और विश्वसनीय रूप से। एक एजेंट संभावना तर्क पर चलता है, जो एक अच्छी तरह से व्यवहार का तरीका है जो यह नहीं कहता कि यह कठिन किनारों के साथ आता है। तो हमलावर खजाने को पूरी तरह से छोड़ देता है और बस मॉडल को यह समझाने के लिए बात करता है कि यह अपने निर्देशों को गलत तरीके से पढ़े।

जो आपको वास्तव में बचाता है वह मॉडल के नीचे बैठता है

यहां एक लागत का कोण भी है, और यह उसी तरह इशारा करता है। एमसीपी बातूनी है। इसको बहुत सारे आगे और पीछे की आवश्यकता है, और यह आगे और पीछे टोकन जलाता है, जिसका अर्थ है पैसा। जैसे ही यह बिल बढ़ता है, मेरी अपेक्षा है कि गंभीर फर्म जेनेरिक ओपन मानक से दूर हो जाएंगी और अपने स्वयं के तंग अनुकूलित प्रोप्राइटरी एंडपॉइंट्स की ओर बढ़ेंगी। सस्ता, और एक अच्छा सौदा बंद करने में आसान है।

क्योंकि मॉडल के अपने सुरक्षा गार्डरेल्स दूसरों के पूंजी की रक्षा के लिए दूर-दूर तक पर्याप्त नहीं हैं। जो आपको वास्तव में बचाता है वह मॉडल के नीचे बैठता है, प्लंबिंग में। एक गंभीर तैनाती डिवाइस-स्तर के गेटकीपिंग से शुरू होती है। एक्सएएनटीई में, हम कंप्लायंस फ्रेमवर्क को सीधे उस स्तरित वास्तुकला में बनाते हैं: एक शब्द भी भाषा मॉडल तक पहुंचाने से पहले, एक हार्डवेयर-सुरक्षित परिधि ने पहले ही यह स्थापित किया है कि बातचीत के दूसरी तरफ कौन है।

उसके नीचे, एपीआई को मशीन के लिए फिर से बनाना होगा, न कि एक व्यक्ति के लिए। एक मानव विकासकर्ता को एक khá अनुमति दी जाती है क्योंकि आप उनके निर्णय का विश्वास करते हैं। एक स्वायत्त एजेंट को एक कठोर योजना मिलती है जो यह सीमित करती है कि यह बैकएंड से क्या पूछ सकता है, क्योंकि एक एजेंट जो कुछ भी आप छोड़ देंगे उसका उपयोग करेगा। इसे किसी चीज़ तक पहुंच दें, और यह चीज़ का उपयोग करेगा। इसलिए उत्पादन को उतना ही कम उजागर करना चाहिए जितना वह दूर हो सकता है।

एजेंट का काम तब एक रिंग-फेंस्ड वातावरण में चलना चाहिए, जिसमें दुनिया को पढ़ने वाला पाइप मशीनरी से संरचनात्मक रूप से अलग हो जो इसके ऊपर काम कर सकता है। पढ़ना और अभिनय अलग-अलग नौकरियां हैं और अलग-अलग कमरों में होनी चाहिए। और किसी भी वास्तविक जोखिम वाली चीज़ के लिए, एक व्यक्ति को अभी भी हां कहना होगा। किसी नाम और लॉगिन के साथ कोई व्यक्ति लेन-देन को मंजूरी देता है इससे पहले कि यह कहीं भी जाए। यह चरण बातचीत के लिए नहीं है।

कछुआ का एक बिंदु है

आप जानते हैं कि कहानी। एक हेयर जो अपनी गति से इतना खुश है कि वह सोने के लिए रुक जाता है, और एक कछुआ जो रेडिकल रणनीति द्वारा जीतता है – रुकना बंद नहीं करना। यह एक फेबल है, एक ऑपरेटिंग मैनुअल नहीं है, और मैं इस पर बहुत जोर नहीं दूंगा। लेकिन वर्तमान दौड़ इसके साथ राइम करती है। सबसे तेजी से दौड़ने वाली फर्में सबसे अधिक कवरेज एकत्र कर रही हैं, और कवरेज टिकाऊपन के समान नहीं है। बाजार आमतौर पर उस ब्रोकर को याद रखता है जो एक चौथाई quá जल्दी चला गया है, जितना कि वह ब्रोकर जो प्रतीक्षा करता है।

इस बीच, नियम पकड़ रहे हैं। जैसे ही यूरोपीय संघ के एआई अधिनियम जैसे फ्रेमवर्क स्वचालित प्रणालियों की निगरानी को मजबूत करते हैं, बाद में कंप्लायंस को जोड़ना एक विकल्प के रूप में बंद हो जाता है और एक जुर्माना बन जाता है। जब एक समझौता एजेंट कुछ ऐसा करता है जो नहीं करना चाहिए, तो दायित्व उस बुनियादी ढांचे पर पड़ता है जिसने इसे अनुमति दी, न कि मॉडल पर जो धोखा दिया गया था। इस युग में टिकाऊपन उन फर्मों का होगा जो ग्राहक परिसंपत्तियों को ठीक से अलग रखते हैं, जब चीजें टूट जाती हैं तो रोशनी जलाते हैं, और दिखा सकते हैं कि डेटा कहां गया। न कि जिसने सबसे पहले सबसे तेज़ कनेक्शन तार दिया।

जो मुझे 1985 में फोन पर आदमी वापस लाता है। अपनी खामियों के बावजूद, उसके पास एक फायदा था जो हम उसे बदलने के लिए जिस एजेंट का निर्माण कर रहे हैं। जब उसने आपको ब्रिटिश एयरवेज खरीदने के लिए कहा, तो उसने ब्रिटिश एयरवेज खरीदा। आप उसे एक चतुर शब्दों वाले शीर्षक के माध्यम से एक अजनबी को खाता हस्तांतरित करने के लिए नहीं बोल सकते थे। प्रगति, फिर। एक तरह की। एक्सएएनटीई में, हम सिलिकॉन संस्करण को कम से कम उतना ही मुश्किल बनाने के लिए एक अच्छा प्रयास कर रहे हैं जितना कि हैंडसेट वाला आदमी था, जो बताता है कि चालीस साल की नवाचार ने हमें कहां पहुंचाया है।