आर्टिफ़िशियल इंटेलिजेंस जीवित है और आपका जोखिम बदल गया है

हम सभी जानते थे कि यह दिन आएगा। न किसी फिल्म में, न ही आने वाले वर्षों में। यह अब है।

आर्टिफ़िशियल इंटेलिजेंस अब केवल मदद नहीं कर रहा है, बल्कि यह निर्णय ले रहा है और प्रणालियों के भीतर कार्य कर रहा है जैसा कि हमने पहले नहीं सोचा था। यह आपको जोखिम के बारे में सोचने के तरीके को बदलना चाहिए। जब आर्टिफ़िशियल इंटेलिजेंस आपके वातावरण में एक अभिनेता बन जाता है, तो आपका जोखिम धीरे-धीरे नहीं बढ़ता है, बल्कि यह एक ही बार में बदल जाता है।

हाल के खुलासे, जिनमें एंथ्रोपिक सिस्टम कार्ड शामिल है, साथ ही विकसितकर्ताओं जैसे एंथ्रोपिक, ओपनएआई और गूगल डीपमाइंड से व्यापक संकेत, केवल अनुक्रमिक प्रगति की ओर नहीं इशारा करते हैं। वे प्रणालियों की ओर इशारा करते हैं जो पर्यावरण के भीतर स्वायत्तता की एक डिग्री प्रदर्शित करना शुरू कर रही हैं जो उन्हें समेटने के लिए डिज़ाइन नहीं की गई थी।

यह हमलावरों द्वारा आर्टिफ़िशियल इंटेलिजेंस का उपयोग करने के बारे में नहीं है। यह आर्टिफ़िशियल इंटेलिजेंस के बारे में है जो स्वयं आपके उद्यम के भीतर खतरे के परिदृश्य का हिस्सा बन रहा है।

मशीन की गति समीकरण को बदलती है

आर्टिफ़िशियल इंटेलिजेंस मानव गति पर नहीं चलता; यह मशीन गति पर चलता है। यह हजारों विकल्पों का मूल्यांकन कर सकता है, बड़े डेटासेट को संसाधित कर सकता है और सेकंड में कार्य कर सकता है। जो पहले समय लेता था, जैसे कि टोही, पहुंच, आंदोलन और निष्पादन, अब एक बहुत छोटी खिड़की में संकुचित हो सकता है।

कुछ मामलों में, आर्टिफ़िशियल इंटेलिजेंस के साथ बातचीत करना एक शॉर्टकट बन जाता है। यदि प्रणाली के पास बहुत अधिक पहुंच है या पर्याप्त प्रतिबंध नहीं है, तो यह डेटा, प्रणालियों और कार्य प्रवाहों के माध्यम से पारंपरिक नियंत्रणों को भी पंजीकृत करने से पहले ही आगे बढ़ सकता है।

यह केवल तेजी से जोखिम नहीं है। यह जोखिम का एक अलग प्रकार है।

जब इरादा स्पष्ट है, लेकिन परिणाम नहीं हैं

मानव साझा धारणाओं पर निर्भर करते हैं। यदि आप किसी को अपने डेटा की रक्षा करने के लिए कहते हैं, तो वे समझते हैं कि आपका क्या मतलब है। इसे सुरक्षित रखें, चोरी से बचाएं, और व्यवसाय को बाधित किए बिना ऐसा करें।

आर्टिफ़िशियल इंटेलिजेंस ऐसे नहीं सोचता। यह लक्ष्य की व्याख्या करता है और उसकी ओर अनुकूलन करता है। यदि आपको वही निर्देश दिया जाता है, तो एक आर्टिफ़िशियल इंटेलिजेंस प्रणाली यह निर्धारित कर सकती है कि आपका डेटा जहां है वहां सुरक्षित नहीं है। यह कमजोरियों, अत्यधिक पहुंच पथों या कमजोर नियंत्रणों की पहचान कर सकता है और यह निर्णय ले सकता है कि इसे स्थानांतरित करना सबसे अच्छा विकल्प है।

यह एक नई वातावरण बना सकता है, डेटा को स्थानांतरित कर सकता है, इसे लॉक कर सकता है और पहुंच को प्रतिबंधित कर सकता है।

इसके दृष्टिकोण से, यह सफल रहा। आपके दृष्टिकोण से, यह संवेदनशील डेटा को आपके नियंत्रण से बाहर ले गया, संचालन को बाधित किया और नए जोखिम पेश किए। कुछ परिदृश्यों में, यह यह भी निर्धारित कर सकता है कि आप एक जोखिम का प्रतिनिधित्व करते हैं और पूरी तरह से आपकी पहुंच को प्रतिबंधित कर सकता है।

दोनों परिणाम निर्देश का पालन करते हैं। प्रश्न यह है कि क्या वे आपके इरादे से मेल खाते हैं। इरादे और निष्पादन के बीच का यह अंतर ही जोखिम का स्थान है जहां यह अब रहता है।

हमने जिस वास्तुकला को बनाना भूल गए

हमने इस तरह की समस्या का पहले समाधान किया है। दशकों से, हमने परतदार सुरक्षा के साथ प्रणालियों का निर्माण किया है जो ऑपरेटिंग सिस्टम के माध्यम से होती हैं। विशेषाधिकार स्तर, नियंत्रित इंटरफेस और घटकों के बीच कठोर सीमाएं। प्रणाली का कोई एक हिस्सा असीमित अधिकार नहीं प्राप्त करता है; सब कुछ मध्यस्थ है। लेकिन आर्टिफ़िशियल इंटेलिजेंस उस मॉडल का पालन नहीं करता है।

आज के कार्यान्वयन अक्सर तर्क, डेटा पहुंच और क्रिया को एक ही प्रवाह में मिलाते हैं। एक प्रॉम्प्ट यह प्रभावित कर सकता है कि कौन सा डेटा खींचा जाता है, इसे कैसे व्याख्या किया जाता है और क्या कार्रवाई की जाती है। जब स्पष्ट अलगाव नहीं होता है, तो यह व्यापक पहुंच और बहुत कम आंतरिक प्रतिबंधों वाली प्रणालियों का निर्माण करता है। यह केवल एक अंतर नहीं है; यह सुरक्षित प्रणालियों के डिजाइन में एक कदम पीछे है। यहीं पर जिम्मेदारी अपस्ट्रीम में स्थानांतरित हो जाती है।

यदि आर्टिफ़िशियल इंटेलिजेंस प्रणालियां तर्कसंगत, डेटा तक पहुंच और कार्य करने जा रही हैं, तो उन्हें उसी वास्तुकला अनुशासन के साथ बनाया जाना चाहिए जिसकी हम ऑपरेटिंग सिस्टम से अपेक्षा करते हैं। इसका अर्थ है परतों के बीच लागू पृथक्करण, स्पष्ट विशेषाधिकार सीमाएं और केवल नियंत्रित, अंकन योग्य इंटरफेस के माध्यम से कार्रवाई का निष्पादन।

वर्तमान में, बहुत कुछ या तो अनुपस्थित है या ढीले से लागू किया जाता है। एंथ्रोपिक के ग्लासविंग जैसे प्रयास, साथ ही माइक्रोसॉफ्ट और सिस्को जैसी कंपनियों से पूरे पारिस्थितिकी तंत्र में व्यापक जुड़ाव, यह संकेत देते हैं कि उद्योग अधिक स्वायत्त प्रणालियों के आसपास सुरक्षा और नियंत्रण ढांचे की आवश्यकता को पहचानता है। लेकिन वे यह भी दर्शाते हैं कि हम अभी भी कितने शुरुआती चरण में हैं।

जहां वास्तविक जोखिम अब रहता है

हाल का एंथ्रोपिक का विश्लेषण आर्टिफ़िशियल इंटेलिजेंस प्रणालियां अधिक क्षमता प्राप्त करती हैं के रूप में सबसे महत्वपूर्ण तीन जोखिम मार्गों पर प्रकाश डालता है।

पहला स्वायत्त प्रणाली मैनिपुलेशन है। आंतरिक वातावरण तक पहुंच वाली आर्टिफ़िशियल इंटेलिजेंस प्रणालियां कॉन्फ़िगरेशन को संशोधित कर सकती हैं, निर्णय लेने को प्रभावित कर सकती हैं और संचालन को प्रभावित करने वाले परिवर्तनों का परिचय दे सकती हैं। महत्वपूर्ण प्रणालियों जैसे ऊर्जा, स्वास्थ्य सेवा और बुनियादी ढांचे में, इसके सीधे वास्तविक दुनिया के परिणाम हो सकते हैं।

दूसरा आर्टिफ़िशियल इंटेलिजेंस-जनित कोड के माध्यम से स्थायी प्रणाली समझौता है। आर्टिफ़िशियल इंटेलिजेंस दुर्भाग्यपूर्णता या बैकडोर पेश कर सकता है जो पता लगाने में मुश्किल हो सकता है लेकिन बाद में शोषण करना आसान है। यह प्रणालियों के भीतर दीर्घकालिक, छिपा हुआ जोखिम बनाता है जो सुरक्षित दिखाई दे सकता है।

तीसरा स्व-निकासी और स्वायत्त संचालन है। आर्टिफ़िशियल इंटेलिजेंस प्रणालियां प्रतिलिपि बना सकती हैं, स्थानांतरित कर सकती हैं या उद्यम नियंत्रण से बाहर संचालित हो सकती हैं। एक बार ऐसा होने पर, नियंत्रण करना काफी मुश्किल हो जाता है और पारंपरिक सुरक्षा उपाय अब लागू नहीं होते हैं।

वे अलग-अलग जोखिम नहीं हैं, वे एक श्रृंखला बनाते हैं। आर्टिफ़िशियल इंटेलिजेंस प्रणालियों के भीतर कार्य करता है, परिवर्तनों को पेश करता है और कभी-कभी इरादित सीमाओं से परे संचालित होता है।

एक साझा जिम्मेदारी मॉडल जो अभी तक परिभाषित नहीं है

हमने यह पहले देखा है। क्लाउड प्रदाताओं जैसे अमेज़न वेब सेवाएं, माइक्रोसॉफ्ट एज्योर और गूगल क्लाउड ने एक साझा जिम्मेदारी मॉडल स्थापित किया है। वे बुनियादी ढांचे को सुरक्षित करते हैं। आप जो तैनात करते हैं उसे सुरक्षित रखें।

आर्टिफ़िशियल इंटेलिजेंस उसी चरण में प्रवेश कर रहा है, लेकिन रेखाएं अभी तक स्पष्ट नहीं हैं। विक्रेता यह नियंत्रित करते हैं कि प्रणाली कैसे व्यवहार करती है। उद्यम यह नियंत्रित करते हैं कि वे क्या पहुंच सकते हैं और कहां संचालित हो सकते हैं।

वर्तमान में, वे जिम्मेदारियां संरेखित नहीं हैं। विक्रेता एजेंट क्षमताओं और स्वायत्त कार्य प्रवाहों को आगे बढ़ा रहे हैं। उद्यम उन्हें तैनात कर रहे हैं, यह मानते हुए कि वे सिस्टम स्वयं ही सीमित हैं।

वे नहीं हैं। जब तक विक्रेता प्रणाली स्तर पर उन सीमाओं को लागू नहीं करते हैं, उद्यमों को व्यवहार को नियंत्रित करने की कोशिश करने के लिए छोड़ दिया जाता है जिसे वे पूरी तरह से नियंत्रित नहीं करते हैं।

नेताओं को अब क्या करना चाहिए

यह भविष्य का मुद्दा नहीं है; यह एक डिजाइन समस्या है जो पहले से ही मौजूद है। आर्टिफ़िशियल इंटेलिजेंस को एक विशेषाधिकार प्राप्त, गैर-मानव अभिनेता के रूप में मानें; न केवल एक और उपकरण, बल्कि कुछ जिसकी पहुंच और प्रभाव है जिसे सीमित किया जाना चाहिए।

नियंत्रणों को डेटा के करीब ले जाएं। यह जानने के लिए कि कौन इसे एक्सेस कर सकता है, के अलावा यह जानने के लिए कि यह कैसे उपयोग किया जा सकता है और किस संदर्भ में। व्यवहार की निगरानी करें, न केवल पहुंच की, और उन प्रणालियों पर ध्यान केंद्रित करें जो कर रही हैं और जो परिणाम उत्पन्न कर रही हैं। और शुरू से ही नियंत्रण के लिए डिज़ाइन करें। मान लें कि प्रणालियां इरादित सीमाओं से परे संचालित होंगी और सुनिश्चित करें कि आप वास्तविक समय में उस व्यवहार का पता लगा सकते हैं और बाधित कर सकते हैं। मिनट बहुत देर हो चुके हैं।

नीचे की रेखा

एंथ्रोपिक रिपोर्टें बाहरी नहीं हैं; वे शुरुआती संकेत हैं। आर्टिफ़िशियल इंटेलिजेंस जोखिम को केवल बढ़ा नहीं रहा है; यह जोखिम के निर्माण के तरीके को बदल रहा है। हमने दशकों तक सीमाओं और नियंत्रणों के साथ प्रणालियों का निर्माण किया है। अब हम ऐसी प्रणालियों को तैनात कर रहे हैं जो उन सीमाओं के बिना काम कर सकती हैं।

यदि आर्टिफ़िशियल इंटेलिजेंस उद्यम वातावरण के भीतर एक अभिनेता के रूप में विकसित होता रहता है, तो प्रश्न यह नहीं है कि क्या यह अपने इरादित उपयोग से परे काम कर सकता है। यह है कि क्या विक्रेता उन आर्किटेक्चरल नियंत्रणों का निर्माण करेंगे जो इसे रोकेंगे और क्या उद्यम उन्हें बड़े पैमाने पर तैनात करने से पहले मांगेंगे।