डेव विश्व में एआई के रूप में शीर्ष शिकारी

विकासवादी दबाव: एक त्वरित परिचय

इसमें गोता लगाने से पहले, कुछ अवधारणाओं को स्थापित करने योग्य हैं। पहली विकासवादी दबाव है।

विकास एक विकल्प नहीं है। जानवर एक या दूसरे तरीके से विकसित होने का चयन नहीं करते हैं – उनके पर्यावरण उन्हें ऐसा करने के लिए मजबूर करता है, या उनके पर्यावरण उन्हें समाप्त कर देता है। इसलिए जब हम किसी जानवर के विकसित होने के तरीके या इसके अस्तित्व के कारणों के बारे में बात करते हैं, तो हम जानबूझकर की गई एक श्रृंखला की बात नहीं कर रहे हैं। हम यादृच्छिक उत्परिवर्तन और पर्यावरणीय दबावों की बात कर रहे हैं जो एक प्रजाति को एक दिशा या दूसरी दिशा में धकेलते हैं।

वर्तमान में, सॉफ्टवेयर कंपनियां एक समान विकासवादी क्षण में प्रवेश कर रही हैं। स्वायत्त रूप से कमजोरियों की पहचान करने, शोषण उत्पन्न करने और साइबर हमलों को तेज करने में सक्षम एआई प्रणाली विकसितकर्ताओं और सुरक्षा टीमों पर दबाव डाल रही हैं।

एआई अब सॉफ्टवेयर कंपनियों के लिए उसी प्रकार का पर्यावरणीय दबाव पैदा कर रहा है। स्वायत्त कमजोरियों की खोज, शोषण उत्पन्न करने और बड़े पैमाने पर हमले के स्वचालन के लिए सक्षम मॉडल सुरक्षा परिदृश्य को तेजी से बदल रहे हैं जितना कि अधिकांश संगठन तैयार हैं।

विशिष्ट विकासवादी दबाव जिस पर मैं चर्चा करना चाहता हूं वह पृथ्वी पर वर्तमान में शीर्ष शिकारी है: मानव। और तीन बहुत अलग जानवरों ने उस दबाव का जवाब कैसे दिया।

कौन करता है यह और भी बुरा?: विशाल वोम्बैट या चिकन?

विशाल वोम्बैट

विशाल वोम्बैट – मैं इसका सटीक नाम भूल गया हूं, लेकिन यह ऑस्ट्रेलिया में रहता था – लगभग 6,000 पाउंड वजन का था। मानव आगमन से पहले, ऑस्ट्रेलिया एक हरा-भरा स्थान था, जो लगभग एक स्वर्ग था। काश हमने इसे कभी नहीं छुआ होता। ये विशाल वोम्बैट अधिकांशतः परेशान नहीं हुए थे। कुछ शिकारी कभी-कभी उनमें से एक को मार देते थे, लेकिन उनके विशाल आकार, भोजन की प्रचुरता और उनकी प्रजनन क्षमता के कारण, उन्होंने महाद्वीप के खिलाफ अपनी रक्षा की।

फिर मानव पहुंचे।

कुछ चीजें तुरंत हुईं। सबसे पहले, मानवों ने एक विशाल प्रोटीन स्रोत देखा जो एक समूह को हफ्तों तक खिला सकता था – अधिक, अगर वे मांस को संरक्षित कर सकते थे। दूसरा, उन्होंने वोम्बैट पर निर्भर वनस्पतियों को साफ करना शुरू कर दिया, या तो आग के लिए लकड़ी काटकर या जानवरों को बाहर निकालने के लिए पूरे भूभाग को जलाकर। मानव इस तरह के समन्वित, कुशल विनाश में असाधारण रूप से अच्छे हैं।

भूवैज्ञानिक रूप से बोलते हुए, लगभग रातोंरात – मानवों ने महाद्वीप के बड़े हिस्सों को वनस्पतिविहीन कर दिया और हर आखिरी विशाल वोम्बैट को अस्तित्व से बाहर कर दिया।

यह ध्यान देने योग्य है कि हर ऑस्ट्रेलियाई जानवर विलुप्त नहीं हुआ। कंगारू, छोटे वोम्बैट, कोआला और अन्य जीवित रहे – क्योंकि वे पर्याप्त छोटे थे, तेज़ थे, या पर्याप्त अनुकूलनीय थे कि वे पहुंच से बाहर रहे। जब यूरोपीय लोग पहुंचे, तो महाद्वीप को एक कठोर और निर्मम चीज़ में ढाला गया था। एक छोटा मानव जनसंख्या, कठोर और चरम परिस्थितियों के लिए अनुकूलित। जानवर जो या तो बहुत छोटे थे, बहुत घातक थे, या दोनों थे। जैसा कि वे कहते हैं: ऑस्ट्रेलिया में हर चीज़ आपको मारने की कोशिश कर रही है।

यह संस्करण एक है।

चिकन

अब, अपने तरीके से, चिकन पृथ्वी पर सबसे सफल भूमि जानवर हो सकता है। लगभग 70% कुल पक्षी जैवमасс पृथ्वी पर घरेलू चिकन है। कुछ ऐसे स्थान हैं जहां चिकन जंगली हो गए हैं – द्वीप जहां उनके पास कोई प्राकृतिक शिकारी नहीं है, जैसे कि केमैन द्वीप – और उन्होंने वहां पनपी है।

चिकन ऐसी चीज़ में विकसित हुआ है जो मानवों के लिए असाधारण रूप से उपयोगी है: वे तेजी से प्रजनन करते हैं, वे तेजी से बढ़ते हैं, वे अंडे देते हैं। मानव उन्हें खिलाते हैं, उनकी रक्षा करते हैं और सक्रिय रूप से उन्हें गुणा करने के लिए प्रोत्साहित करते हैं। लगभग किसी भी जैविक सफलता के मापदंड द्वारा – जनसंख्या का आकार, भौगोलिक प्रसार, संसाधन पहुंच – चिकन जीत रहा है।

हालांकि, हम उन्हें खाते हैं।

तो चिकन ने एक आदर्श भोजन बनकर सफलता प्राप्त की। यह कुछ नहीं है। लेकिन इस तरह की सफलता पर एक सीमा है।

बिल्ली: सही उत्तर

एक जानवर है जिसने लगभग सही काम किया है।

बिल्ली।

बिल्लियां शीर्ष शिकारी नहीं हैं। वे मानवों पर हावी नहीं होती हैं या उन पर हमला नहीं करती हैं। इसके बजाय मानव विस्तार से कुचले जाने या मानव भूख के लिए खुद को समर्पित करने के बजाय, उन्होंने कुछ और किया: वे हमारे साथ सहवास में विकसित हुईं। उन्होंने चूहों और छोटे पक्षियों का शिकार करके जो मानव बस्तियों की ओर आकर्षित होते थे, वे खुद को उपयोगी बनाईं और, कहीं न कहीं, उन्होंने खुद को वांछित बना लिया। वे साथी बन गए।

परिणाम? बिल्लियां तेजी से प्रजनन करती हैं। उनके पास पर्याप्त भोजन स्रोत हैं, या तो पालतू जानवरों के रूप में या मानव बस्तियों के आसपास अवसरवादी शिकारी के रूप में। उन्हें कुछ गंभीर शिकारी का सामना नहीं करना पड़ता है। वे हर जगह हैं जहां मानव हैं।

और फिर से, यह एक विकल्प नहीं था जो उन्होंने बनाया था। यह एक रणनीति नहीं थी। यह बस विकासवादी दबाव के परिणामस्वरूप हुआ था। लेकिन परिणाम उल्लेखनीय है: शीर्ष शिकारी के साथ लड़ने के बजाय, या शीर्ष शिकारी को खिलाने के बजाय, उन्होंने मित्र बना लिया।

इसका एआई से क्या लेना-देना है

तो यह क्यों मायने रखता है?

मिथोस और प्रोजेक्ट ग्लास विंग जैसे मॉडल के आगमन का मतलब है कि यह ऑस्ट्रेलिया में मानव आगमन के दिन के बराबर है। सिवाय इसके कि समयरेखा नाटकीय रूप से सिकुड़ गई है। जो पीढ़िगत रूप से खेला गया था वह वर्षों में – शायद कम – होगा।

वर्तमान में एआई-सक्षम हैकिंग के खतरे का जवाब देने के लिए सुरक्षा टीमों के बारे में बहुत सारे लेखन हो रहा है। मुझे लगता है कि यह फ्रेमिंग एक गलती है। यह मुख्य रूप से एक सुरक्षा समस्या नहीं है। यह एक इंजीनियरिंग समस्या है।

यह क्या बदल रहा है: एआई से पहले इस नए तरंग के, दोनों रक्षक और हमलावर एक सीमित दांव की दुनिया में काम करते थे। हमले होते थे। उल्लंघन होते थे। लेकिन गति और जटिलता मानव क्षमता से बंधी हुई थी। यह मूल रूप से बदल गया है। अब स्वायत्त रूप से कमजोरियों की पहचान करने और शोषण करने के लिए डिज़ाइन किए गए एआई मॉडल हैं, पैमाने पर, थकान के बिना।

अधिकांश डेवलपर टीमें इस कहानी में विशाल वोम्बैट हैं। उन्होंने एक ऐसे वातावरण में रहते हैं जहां हां, खतरे थे, लेकिन कुछ भी इस तरह का नहीं था। उन्होंने ऐसी प्रणालियां बनाईं जो उन दबावों के खिलाफ काफी सुरक्षित थीं जिनका उन्होंने सामना किया था। उन्होंने जो कुछ आ रहा है उस जैसा कुछ नहीं देखा है।

यह बदलने वाला है।

तीन विकल्प — और क्यों केवल एक काम करता है

जब यह नया खतरा आता है, तो संगठनों के पास प्रभावी रूप से तीन विकल्प होंगे:

1. वोम्बैट बनें। अनुकूलन न करें। समाप्त हो जाएं। यह कई कंपनियों के साथ होगा। कुछ कभी वापस नहीं आएंगे।
2. चिकन बनें। प्रतिक्रियात्मक बनें। प्रत्येक नई कमजोरी के प्रकट होने पर घबराहट में मरम्मत करने का प्रयास करें। यह “भाला निकालें और घाव का इलाज करें” दृष्टिकोण है। यह कुछ भी नहीं से बेहतर है, लेकिन जब 45 भाले आपकी ओर से हर दिशा से आ रहे हों, तो यह एक कौशल आपको नहीं बचाएगा। आप अभी भी भोजन हैं; आप बस मेज तक पहुंचने में धीमे हैं।
3. बिल्ली बनें। खतरे के साथ अपने संबंधों को मौलिक रूप से बदलें। एआई का उपयोग एआई के खिलाफ बचाव के लिए करें। इंजीनियरिंग में सुरक्षा को नीचे से शामिल करें। डिज़ाइन प्रणाली जैसे कि उल्लंघन की उम्मीद है – इसे रोकने की नहीं।

लक्ष्य अधिक सुरक्षा विश्लेषकों को परिधि की निगरानी के लिए नियुक्त करना नहीं है। यह हाथी की रक्षा करने की कोशिश करना है जो सवाना पर है। यह इस तरह के खतरे के खिलाफ स्केल नहीं करता है। लक्ष्य है सवाना को पुनः डिज़ाइन करना।

वास्तव में “बिल्ली बनने” का क्या अर्थ है

यह कोई सतही काम नहीं है। यह अपने कोडबेस पर एक तिमाही में एक बार एआई सुरक्षा स्कैनर चलाने की बात नहीं है। इसके लिए विकास के तरीके के पुनर्विचार की आवश्यकता है।

व्यावहारिक रूप से, इसका अर्थ है:

• सimpler कोडबेस जो तर्कसंगत और ऑडिट करने में आसान हैं
• ज्ञात, जांचे गए सुरक्षा मुद्रा वाले पुस्तकालयों से खींचतान
• यह मानकर बुनियादी ढांचा बनाना कि उल्लंघन एक when है, न कि if – और एक बार जब कोई दुर्भाग्यपूर्ण अभिनेता अंदर हो जाए तो लेटरल आंदोलन को जितना संभव हो उतना मुश्किल बनाना
• शिकारी से दोस्ती करना और इसे हमलावर की तरह ही उपयोग करना। एआई मॉडल इंजीनियरिंग टीमों और सुरक्षा टीमों को उनकी रक्षा में विकसित करने और वक्र से आगे निकलने में बढ़ावा दे सकते हैं।

आज से स्थापित कंपनियों के पास एक साफ स्लेट है। वे दिन एक से इस तरह से निर्माण कर सकते हैं। जो कंपनियां पहले से मौजूद हैं, जिनमें ग्राहक हैं, संवेदनशील डेटा है, लाइव सिस्टम हैं, उन्हें यह सुविधा नहीं है। उन्हें अब संक्रमण शुरू करना होगा।

कॉल टू एक्शन

एंथ्रोपिक ने खुद कहा है: एक न्याय होगा। एआई-सक्षम हमलों से आर्थिक और सामाजिक व्यवधान होगा। कुछ कंपनियां जीवित नहीं रहेंगी। वे लोगों द्वारा इन उपकरणों का उपयोग करके समझौता किए जाएंगे और वे कभी भी पूरी तरह से पुनर्प्राप्त नहीं करेंगे। यह होने जा रहा है।

तो यह संदेश है: अभी से शुरू करें।

इंजीनियरिंग और सुरक्षा को एक ही कमरे में बैठने की जरूरत है। साथ में खतरे के परिदृश्य के माध्यम से जाना। एक साझा सड़कमैप बनाएं। जहां प्राथमिक काम इंजीनियरिंग और डिजाइन टीमों द्वारा किया जाता है, सुरक्षा द्वारा सत्यापित, न कि इसके विपरीत। सुरक्षा यह नहीं कर सकती। सुरक्षा काम की जांच कर सकती है। लेकिन मूलभूत परिवर्तन प्रणालियों का निर्माण करने वाले लोगों से आना होगा।

जो कंपनियां आज इस प्रक्रिया को शुरू करेंगी वे सभी नहीं बनेंगी। लेकिन उन्होंने जीवित रहने के लिए स्थितियों को स्थापित कर दिया होगा। और आने वाले वातावरण में, यह सबसे अच्छा है जो हम में से कोई भी कर सकता है। बिल्ली बनें।