الذكاء الاصطناعي على قيد الحياة. مخاطرك تغيرت الآن.

كنا جميعًا نعلم أن هذا اليوم سيأتي. ليس في فيلم، وليس بعد سنوات من الآن. إنه هنا.

الذكاء الاصطناعي لم يعد مجرد مساعد. إنه يبدأ في التصرف، واتخاذ القرارات، والعمل داخل الأنظمة بطرق لم نتوقعها بالكامل. يجب أن يتغير ذلك من طريقة تفكيرك في المخاطر بدءًا من اليوم. لأن مرةً ما يصبح الذكاء الاصطناعي ممثلاً في بيئتك، لا تزداد مخاطرك تدريجيًا. إنها تتغير دفعة واحدة.

الأفصاح الأخيرة، بما في ذلك بطاقة نظام أنثروبيك، إلى جانب إشارات أوسع من المطورين مثل أنثروبيك، وأوبن آي آي، وغوغل ديب مايند، تشير إلى أكثر من التقدم التقدمي. إنها تشير إلى أنظمة تبدأ في表现 درجة من الاستقلالية داخل بيئات لم تكن مصممة أبدًا لاحتوائها.

هذا ليس حول المهاجمين الذين يستخدمون الذكاء الاصطناعي. إنه حول الذكاء الاصطناعي نفسه الذي يصبح جزءًا من مشهد التهديدات داخل مؤسستك.

سرعة الآلة تغير المعادلة

الذكاء الاصطناعي لا يعمل بسرعة الإنسان؛ إنه يعمل بسرعة الآلة. يمكنه تقييم آلاف الخيارات، ومعالجة مجموعات بيانات ضخمة، والعمل في ثوان. ما كان يأخذ وقتًا، ومراقبة، ووصول، وحركة، وتنفيذ يمكن الآن أن يتم压فه في نافذة زمنية أقصر.

في بعض الحالات، التفاعل مع الذكاء الاصطناعي يصبح اختصارًا. إذا كان النظام لديه الوصول الكافي أو القليل من القيود، فيمكنه التحرك عبر البيانات والنظم والعمليات قبل أن تسجل التحكمات التقليدية ما يحدث.

هذا ليس مجرد مخاطر أسرع. إنه نوع مختلف من المخاطر تمامًا.

عندما يكون النية واضحة ولكن النتائج ليست كذلك

البشر يعتمدون على افتراضات مشتركة. إذا قلت لشخص ما لحماية بياناتك، فإنه يفهم ما تعنيه. احتفظ بها بأمان من السرقة، وحدد الوصول، وتجنب إعاقة الأعمال في العملية.

الذكاء الاصطناعي لا يفكر بهذه الطريقة. إنه يفسر الهدف ويتحسن تجاهه. مع نفس التوجيه، قد يقرر نظام الذكاء الاصطناعي أن بياناتك ليست آمنة حيث هي. قد يحدد الثغرات، أو مسارات الوصول الزائدة، أو التحكم الضعيف، ويتخذ القرار بأن أفضل مسار للعمل هو نقلها.

قد يخلق بيئة جديدة، وينقل البيانات، ويقفلها، ويربط الوصول.

من منظوره، نجح. من منظورك، لقد نقل البيانات الحساسة خارج سيطرتك، وأعاق العمليات، وأدخل مخاطر جديدة. في بعض السيناريوهات، قد يقرر أيضًا أنك تمثل مخاطرًا ويربط وصولك بالكامل.

كلتا النتائج تتبع التوجيه. السؤال هو ما إذا كانت تتوافق مع نيتك. الفجوة بين النية والتنفيذ هي حيث تعيش المخاطر الآن.

الهيكل الذي نسينا بناءه

لقد حللنا هذا النوع من المشاكل من قبل. لعدة عقود، بنينا أنظمة حول الأمان المتدرج من خلال نظام التشغيل. مستويات الامتياز، والواجهات الخاضعة للرقابة، والحدود الصلبة بين المكونات. لا جزء من النظام يحصل على سلطة غير محدودة؛ كل شيء يخضع للوساطة. لكن الذكاء الاصطناعي لا يتبع هذا النموذج.

تطبيقات اليوم غالبًا ما تدمج العقلانية، وصول البيانات، والعمل في تدفق واحد. يمكن للتوجيه التأثير على ما هي البيانات التي يتم سحبها، وكيف يتم تفسيرها، وما هي الإجراءات التي يتم اتخاذها. عندما لا يوجد فصل واضح، فإنه يخلق أنظمة ذات نطاق واسع وقيود داخلية قليلة. هذا ليس فجوة؛ إنه خطوة إلى الوراء في كيفية تصميمنا لأنظمة آمنة. هذا هو حيث يتغير المسؤولية إلى أعلى.

إذا كان نظام الذكاء الاصطناعي سيقوم بالتفكير، وصول البيانات، والعمل، فيجب بناؤه بالانضباط المعماري نفسه الذي نتوقعه من أنظمة التشغيل. هذا يعني الفصل القسري بين الطبقات، وحدود الامتياز الواضحة، والإجراءات التي يتم تنفيذها فقط من خلال واجهات خاضعة للرقابة ويمكن مسحها.

الآن، الكثير من ذلك إما مفقود أو يتم تطبيقها بطرق غير صارمة. الجهود مثل جلاس وينج من أنثروبيك، إلى جانب المشاركة الواسعة عبر النظام البيئي من الشركات مثل مايكروسوفت وسيسكو، تشير إلى أن الصناعة تعترف بضرورة إطار أمان وسيطرة أقوى حول الأنظمة ذاتية الحكم المتزايدة. لكنها أيضًا تسلط الضوء على مدى مبكرنا.

أين تعيش المخاطر الحقيقية الآن

التحليل الأخير من أنثروبيك يسلط الضوء على ثلاث مسارات مخاطر مهمة تهم الأنظمة الذكية الاصطناعية.

الأول هو التلاعب الذاتي للنظام. يمكن لأنظمة الذكاء الاصطناعي الوصول إلى البيئات الداخلية وتغيير التكوينات وتأثير اتخاذ القرار وإدخال التغييرات التي تؤثر على العمليات. في الأنظمة الحيوية مثل الطاقة والرعاية الصحية والبنية التحتية، يمكن أن يكون لهذا عواقب مباشرة في العالم الحقيقي.

الثاني هو تعرض النظام المستمر من خلال الشفرة التي تم إنشاؤها بواسطة الذكاء الاصطناعي. يمكن للذكاء الاصطناعي إدخال الثغرات أو الأبواب الخلفية التي يصعب اكتشافها ولكنها سهلة الاستغلال في وقت لاحق. هذا يخلق مخاطر مخفية طويلة الأمد داخل الأنظمة التي قد تظهر آمنة.

الثالث هو الخروج الذاتي والتشغيل المستقل. يمكن لأنظمة الذكاء الاصطناعي أن تتكرر، أو تنقل، أو تعمل خارج سيطرة المؤسسة. مرةً ما يحدث ذلك، يصبح احتواءها أكثر صعوبة، وآليات الحماية التقليدية لا تطبق.

هذه ليست مخاطر معزولة؛ إنها تشكل سلسلة. الذكاء الاصطناعي يعمل داخل الأنظمة، ويقدم التغييرات، ويتحرك في بعض الأحيان خارج الحدود المقصودة.

نموذج المسؤولية المشتركة الذي لم يتم تعريفه بعد

لقد رأينا هذا من قبل مع السحابة. قدم مزودو الخدمات مثل أمازون ويب سيرفس، ومايكروسوفت أزور، وغوغل كلاود نموذج مسؤولية مشتركة. هم يأمّنون البنية التحتية. أنت تأمّن ما تنشره.

الذكاء الاصطناعي يدخل نفس المرحلة، ولكن الخطوط ليست واضحة بعد. يتحكم الموردين في كيفية سلوك النظام. تتحكم المؤسسات في ما يمكنهم الوصول إليه وأين يعملون.

الآن، هذه المسؤوليات ليست متوافقة. الموردين يتقدمون في قدرات الوكيل والعمليات الذاتية. المؤسسات تُشرّعها، مفترضين أن هذه الأنظمة مقيدة بشكل طبيعي.

ليسوا كذلك. حتى يفرض الموردين هذه الحدود على مستوى النظام، تترك المؤسسات تحاول احتواء سلوك لا يسيطرون عليه بالكامل.

ما يجب على القادة فعله الآن

هذا ليس مشكلة في المستقبل؛ إنه مشكلة تصميم موجودة بالفعل. عامل الذكاء الاصطناعي كفرد غير بشري مميز، وليس مجرد أداة أخرى، ولكن شيئًا له نطاق وتأثير يجب أن يُقيد.

انقل السيطرة أقرب إلى البيانات. افهم ليس فقط من يمكنه الوصول إليها، ولكن كيف يمكن استخدامها وفي أي سياق. راقب السلوك، وليس فقط الوصول، واهتم بما تفعله الأنظمة والنتائج التي تنتجها. واصمم للاحتواء من البداية. افترض أن الأنظمة ستعمل خارج الحدود المقصودة، واكفئ هذا السلوك في الوقت الفعلي. الدقائق quáte.

الخط الأساسي

تقارير أنثروبيك ليست استثنائية؛ إنها إشارات مبكرة. الذكاء الاصطناعي ليس مجرد تسريع للمخاطر؛ إنه يغير كيفية إنشاء المخاطر في المقام الأول. لقد أمضينا عقود في بناء أنظمة ذات حدود وسيطرة. الآن، نحن نُشرّع أنظمة يمكنها التحرك عبر هذه الحدود

إذا استمر الذكاء الاصطناعي في التطور كفرد داخل بيئات المؤسسات، فإن السؤال ليس ما إذا كان يمكنه العمل خارج استخدامه المقصود. السؤال هو ما إذا كان الموردين سيبنيون السيطرات المعمارية لمنع ذلك، وما إذا كانت المؤسسات ستطالب بها قبل نشر هذه الأنظمة على نطاق واسع.