الذكاء الاصطناعي كصياد رأس في عالم التطوير

الضغط التطوري: مقدمة سريعة

قبل أن ندخل في جوهر الموضوع، هناك بعض المفاهيم التي يجب إعدادها. الأولى هي الضغط التطوري.

التنوع ليس اختيارا. الحيوانات لا تختار التطور بطريقة معينة — بيئتهم تفرض ذلك عليها، أو تُقتل بسببها. لذلك، عندما نتحدث عن كيفية تطور حيوان ما، أو لماذا يوجد كما هو اليوم، لسنا نتحدث عن سلسلة من القرارات الواعية. نحن نتحدث عن الطفرات العشوائية والضغوط البيئية التي دفعت النوع في اتجاه معين.

في الوقت الحالي، تعتبر شركات البرمجيات في لحظة تطورية مماثلة. أنظمة الذكاء الاصطناعي القادرة على تحديد الثغرات الأمنية وتوليد الهجمات وتسريع الهجمات الإلكترونية تُغير الضغط الذي يعمل تحته المطورون وأفرق الأمن.

الذكاء الاصطناعي يخلق الآن نفس نوع الضغط البيئي لشركات البرمجيات. النماذج القادرة على اكتشاف الثغرات الأمنية وتوليد الهجمات وتحسين الهجمات الإلكترونية تُغير المناظر الأمنية بسرعة أكبر مما هو مستعد له معظم المنظمات.

الضغط التطوري المحدد الذي أريد التحدث عنه هو الصياد الرأس على الأرض الآن: البشر. وكيف استجابت ثلاثة حيوانات مختلفة جدا لهذا الضغط.

من الذي فعل ذلك أسوأ: وومبات العملاقة أو الدجاج?

ثدييات وومبات العملاقة

ثدييات وومبات العملاقة — أنا أ 忘ى الاسم الدقيق، لكنها عاشت في أستراليا — وزنها حوالي 6000 رطل. قبل وصول البشر، كانت أستراليا مكانا خضرا ومزهرا، شبه الجنة. لو لم نلمسها. هذه الثدييات العملاقة عاشت معظم حياتها دون مضايقات. بعض المفترسين قتلوا أحدهم من وقت لآخر، لكن بسبب حجمها الكبير ووفرة الغذاء وقدرتها على التكاثر، احتفظت بمكانتها ضد كل ما كان يتعرض له القارة.

ثم جاء البشر.

حدثت بعض الأشياء على الفور. أولا، رأى البشر مصدرا كبيرا للبروتين يمكن أن يغذي مجموعة لأسابيع — أطول، إذا استطاعوا الحفاظ على اللحم. ثانيا، بدأوا في تطهير الغابات التي تعتمد عليها ثدييات وومبات العملاقة، إما bằng قطع الأشجار للحصول على الحطب أو بحرق مساحات كبيرة من الأرض لطرد الحيوانات إلى الخارج حيث يمكن قتلهم. البشر ممتازون في هذا النوع من التدمير المنظم والفعال.

في فترة زمنية قصيرة جدا — من الناحية الجيولوجية، تقريبا في ليلة وضحاها — أزال البشر الغابات الكبيرة في القارة وقتلوا كل ثدييات وومبات العملاقة حتى الانقراض.

من الجدير بالذكر أن ليس كل حيوان أسترالي انقرض. البطريق والثدييات الصغيرة والكوالا وغيرهم نجوا — لأنهم كانوا صغارا đủ أو سريعا أو مرنا بما يكفي للبقاء بعيدا عن متناول الضرر. بحلول الوقت الذي وصل فيه الأوروبيون، تم تشكيل القارة إلى شيء قاسي وغير متسامح. سكان بشريون صغار، قاسيون، ومتكيفون مع الظروف القاسية. الحيوانات التي كانت إما صغيرة جدا أو قاتلة أو كلاهما. كما يقولون: كل شيء في أستراليا يحاول قتلك.

هذا هو الإصدار الأول.

الدجاج

الآن، بطريقة ما، الدجاج هو على الأرجح أكثر الحيوانات الناجحة على الأرض. حوالي 70% من إجمالي كتلة الطيور على الكوكب هو دجاج منزلي. هناك حتى جيوب حيث ذهب الدجاج بري — على الجزر التي لا توجد فيها مفترسات طبيعية، مثل جزر كايمان — وازدهر.

تطور الدجاج إلى شيء يجد البشر استخدامه مفيدا جدا: يتناسل بسرعة، ينمو بسرعة، ينتج البيض. البشر يغذونه، يحمونه، ويشجعونه على التكاثر. من خلال معظم مقاييس النجاح البيولوجي — حجم السكان، الانتشار الجغرافي، الوصول إلى الموارد — الدجاج يفوز.

ماعدا، بالطبع، الجزء الذي نأكله.

لذلك نجح الدجاج من خلال أن يصبح الطعام المثالي. هذا ليس شيئا تافها. لكن هناك سقف لنجاح هذا النوع.

القط: الإجابة الصحيحة

هناك حيوان واحد، أعتقد، فعل ذلك تقريبا بشكل مثالي.

القط.

القطط ليست صيادين رأس. لا تهيمن على البشر ولا تفترسهم. بدلا من أن تُقتل بالتوسع البشري أو تخضع لشهية البشر، فعلت شيئا مختلفا: تطور جنبا إلى جنب معنا. أصبحت مفيدة من خلال صيد الفئران والطيور الصغيرة التي جذبتها المستوطنات البشرية، وفي مكان ما على طول الطريق، أصبحت مرغوبة. أصبحت رفيقة.

النتيجة؟ القطط تتكاثر بسرعة. لديها مصادر غذاء وفيرة، إما كحيوانات أليفة أو كصيادين متعطشين حول المستوطنات البشرية. تواجه قليل من المفترسين الجديرين بالاهتمام. وهي موجودة في كل مكان حيث البشر.

ومرة أخرى، لم يكن هذا خيارا قاموا به. لم يكن استراتيجية. كان فقط كيف لعب الضغط التطوري نفسه. لكن النتيجة مدهشة: بدلا من محاربة الصياد الرأس، أو تغذية الصياد الرأس، أصبحوا أصدقاء الصياد الرأس.

ما علاقة هذا بالذكاء الاصطناعي

لذلك، لماذا يهم هذا الأمر?

وصلت نماذج مثل Mythos وProject Glass Wing من Anthropic، أعتقد، هي مكافئة ليوم وصول البشر إلى أستراليا. باستثناء أن الجدول الزمني مضغوط بشكل كبير. ما استغرق عدة أجيال لحدوثه على هذه القارة سيحدث في سنوات — ربما أقل.

هناك الكثير من الكتابة حاليا حول كيفية استجابة أفرق الأمن لتهديد الهجمات التي تمكّنها الذكاء الاصطناعي. أعتقد أن هذا التوجيه خطأ. هذا ليس في الأساس مشكلة أمنية. إنه مشكلة هندسية.

ما ي发生 التالي: قبل هذه الموجة الجديدة من الذكاء الاصطناعي، كان كل من المدافعين والمهاجمين يعملون في عالم مخاطر محدودة نسبيا. حدثت هجمات. حدثت انتهاكات. لكن وتيرة وتنظيم الهجمات كانا مقيدان بالقدرة البشرية. هذا تغير بشكل أساسي. الآن هناك نماذج ذكاء اصطناعي مصممة خصيصا لتحديد الثغرات الأمنية وتوليد الهجمات بطرق مستقلة، ومكبرة، دون إرهاق.

معظم فرق التطوير هي ثدييات وومبات العملاقة في هذه القصة. لقد عاشت في بيئة حيث نعم، هناك تهديدات، لكن لا شيء مثل هذا. بنوا أنظمة كانت آمنة بشكل معقول ضد الضغوط التي واجهوها بالفعل. لم يواجهوا شيئا مثل ما سيأتي.

هذا على وشك التغيير.

الخيار الثلاثة — ولماذا يعمل واحد فقط

عندما يصل هذا التهديد الجديد، سيكون للمنظمات ثلاثة خيارات فعالة:

1. كن ثديية وومبات عملاقة. لا تتكيف. أزيل من الوجود. هذا سيحدث لشركة كثيرة. بعضها لن يعود أبدا.
2. كن دجاجا. أصبح استجابة، هرع لتصحيح كل ثغرة جديدة تظهر. هذا هو نهج “سحب الرمح ومعالجة الجروح”. إنه أفضل من لا شيء، لكن عندما هناك 45 رمحا قادما من كل اتجاه، لن ينقذك هذا المهارة. لست إلّا طعام؛ أنت ببساطة أبطأ في الوصول إلى الطاولة.
3. كن قطة. غير بشكل أساسي علاقةك بالتهديد. استخدم الذكاء الاصطناعي للدفاع ضد الذكاء الاصطناعي. ادخل الأمن في الهندسة من البداية. صمم الأنظمة على افتراض اختراق — لا على أمل منعها.

الهدف ليس توظيف المزيد من المحللين الأمنيين لحماية الحدود. هذا محاولة لحماية الفيلة في السفانا. لا يتوسع ضد هذا النوع من التهديد. الهدف هو إعادة تصميم السفانا.

ما يعني “أن تصبح قطة” في الواقع

هذا ليس عمل سطحي. ليس تشغيل ماسح أمني ذكاء اصطناعي على قاعدة البيانات مرة كل ربع سنة. يتطلب إعادة التفكير في كيفية عمل التطوير.

عمليا، هذا يعني أشياء مثل:

• قواعد بيانات أبسط وأسهل في الفهم والمراجعة
• سحب من المكتبات ذات المواقف الأمنية المعتمدة والمعروفة
• بناء البنية التحتية على افتراض أن الاختراق هو “متى”، وليس “إذا” — وجعل الحركة الجانبية صعبة كما هو ممكن بمجرد دخول الممثل الخبيث
• تأليف الصياد من خلال استغلاله تماما مثل المهاجم. يمكن لنماذج الذكاء الاصطناعي تعزيز فرق الهندسة وأفرق الأمن لتطوير دفاعاتهم والبقاء أمام المنحنى.

الشركات التي تأسست غدا لها صفحة نظيفة. يمكنهم بناءها بهذه الطريقة من اليوم الأول. الشركات التي توجد بالفعل، مع العملاء، مع البيانات الحساسة، مع الأنظمة الحية، لا تملك هذه الفائدة. يجب أن يبدأوا في الانتقال الآن.

نداء العمل

قالت Anthropic ذلك نفسها: سيكون هناك حساب. سيكون هناك اضطراب اقتصادي واجتماعي من الهجمات التي تمكّنها الذكاء الاصطناعي. بعض الشركات لن تنجو. سوف يتم اختراقها من قبل أشخاص يستخدمون هذه الأدوات، ولن تتعافى أبدا. هذا سيحدث.

لذلك هنا الرسالة: ابدأ الآن.

الهندسة والأمن يحتاجون إلى الجلوس في نفس الغرفة. اجتازوا معا مناظر التهديد. بنوا خارطة طريق مشتركة. واحدة حيث يتم العمل الأساسي بواسطة فرق الهندسة والتصميم، ومعتمدة من قبل الأمن، وليس العكس. لا يمكن للأمن قيادة هذا. يمكن للأمن التحقق من العمل. لكن التغيير الأساسي يجب أن يأتي من الأشخاص الذين يبنيون الأنظمة.

الشركات التي تبدأ هذا العملية اليوم لن تنجو كلها. لكنها ستضع شروط البقاء. وفي البيئة القادمة، هذا هو أفضل ما يمكننا فعله.

كن قطة.