قادة الفكر

يعني الأولوية للذكاء الاصطناعي الأولوية للسلامة

Published December 16, 2025

Updated April 1, 2026

Joe Anderson, Senior Director of Consulting and Digital Transformation at TaskUs

اشترِ دراجة جديدة لطفل، وستكون الدراجة هي التي تحظى باهتمام الجميع – وليس الخوذة اللامعة التي تأتي معها. ولكن الآباء يقدرون الخوذة.

أخشى أن nhiều منا اليوم يشبه الأطفال عندما يتعلق الأمر بالذكاء الاصطناعي. نحن منهمكون في مدى روعة الذكاء الاصطناعي وكيف يمكننا الاستفادة منه بسرعة. وليس كثيرًا فيما يمكننا القيام به لضمان السلامة أثناء استخدامه. هذا يأسف لذلك لأنك لا يمكنك الحصول على فوائد الذكاء الاصطناعي بدون السلامة.

ببساطة، تطبيق الذكاء الاصطناعي دون التخطيط بعناية للسلامة أولاً ليس فقط مخاطرة. إنه طريق مباشر إلى الهلاك.

ما يعني سلامة الذكاء الاصطناعي؟

تتضمن سلامة الذكاء الاصطناعي مجموعة من الخطوات. ولكن ربما يكون أهم عنصر هو متى اتخاذ هذه الخطوات. لتكون فعالة، يجب أن تكون سلامة الذكاء الاصطناعي من التصميم.

يعني ذلك أننا ننظر في كيفية منع الأضرار قبل أن نأخذها للاختبار. نحدد كيفية ضمان تشغيل الذكاء الاصطناعي وتوليد نتائج متوافقة مع قيمنا وتوقعاتنا الاجتماعية أولاً – وليس بعد الحصول على نتائج رهيبة.

التصميم من أجل سلامة الذكاء الاصطناعي يتضمن أيضًا التفكير في كيفية جعلها قوية، أو قادرة على الأداء بشكل يمكن توقعَه حتى في الحالات الصعبة. يعني ذلك جعل الذكاء الاصطناعي شفافًا، بحيث تكون قرارات الذكاء الاصطناعي مفهومة ويمكن فحصها وغيْر متحيزة.

ولكنه يتضمن أيضًا النظر إلى العالم الذي سيعمل فيه الذكاء الاصطناعي. ما هي الحماية المؤسسية والقانونية التي نحتاجها، خاصةً للامتثال لللوائح الحكومية المعمول بها؟ ولا أستطيع التأكيد على مكونات الأشخاص: ماذا ستكون تأثيرات استخدام الذكاء الاصطناعي على الأشخاص الذين يتفاعلون معه؟

السلامة من التصميم تعني دمج سلامة الذكاء الاصطناعي في جميع عملياتنا وعمليات العمل والتشغيل قبل كتابة أول سؤال.

تتجاوز المخاطر القلق

لا يتفق الجميع. عندما يسمعون “السلامة أولاً”، يسمع بعضهم “خطوة بحذر وبطء حتى تُترك خلفًا”.当然، هذا ليس ما يعنيه السلامة أولاً. لا يجب أن يعوق الابتكار أو يبطئ وقت الوصول إلى السوق. ولا يعني ذلك تدفقًا لا نهاية له من الطائرات التي لن تتوسع أبدًا. على العكس من ذلك.

يعني ذلك فهم مخاطر عدم تصميم السلامة في الذكاء الاصطناعي. فكر في بعض الأمثلة.

مركز ديلويت للخدمات المالية يتوقع أن قد يكون الذكاء الاصطناعي العام مسؤولاً عن خسائر احتيال تصل إلى 40 مليار دولار في الولايات المتحدة وحدها بحلول عام 2027، من 12.3 مليار دولار في عام 2023، بمعدل نمو سنوي مركب يبلغ 32٪.
قرارات متحيزة. توثق الحالات الرعاية الطبية المتحيزة بسبب الذكاء الاصطناعي الذي تم تدريبه على بيانات متحيزة.
قرارات سيئة تلهم المزيد من القرارات السيئة. أسوأ من قرار سيئ أولي محفز بواسطة ذكاء اصطناعي معيب، تشير الدراسات إلى أن تلك القرارات السيئة يمكن أن تصبح جزءًا من كيفية تفكيرنا وصنع القرارات في المستقبل.
عواقب حقيقية. كان الذكاء الاصطناعي الذي يقدم نصائح طبية سيئة مسؤولاً عن نتائج مريض قاتلة. وأسفرت القضايا القانونية عن الاستشهاد بهلوسة الذكاء الاصطناعي كمرجع قانوني. وأدى خطأ البرمجيات الناجم عن مساعد الذكاء الاصطناعي الذي قدم معلومات خاطئة إلى تلويث منتجات الشركة وسمعتها وأدى إلى انزعاج المستخدمين على نطاق واسع.

والأمور على وشك أن تصبح أكثر إثارة.

التصميم من أجل السلامة في العمل

هل يعمل؟

لقد كنا نطبق فلسفة الأولوية للسلامة في الذكاء الاصطناعي ونموذج “من التصميم” مع عملائنا طوال ظهور الذكاء الاصطناعي العام والآن على المسار السريع إلى الذكاء الاصطناعي الوكيل. ونحن نجد أن ذلك، على عكس المخاوف بشأن إبطاء الأمور، يساهم في facto تسريعها.

الذكاء الاصطناعي الوكيل لديه إمكانية خفض تكلفة الدعم العميل بنسبة 25-50٪، على سبيل المثال، مع زيادة رضا العملاء. ولكن هذا يعتمد على الثقة.

يجب أن يثق البشر بالذكاء الاصطناعي، ولا يمكن للعملاء الذين يتفاعلون مع وكلاء بشريين مدعومين بالذكاء الاصطناعي أو مع وكلاء ذكاء اصطناعي حقيقيين أن يختبروا أي互одействة واحدة ستعرض ثقتهم. يمكن لتجربة سيئة واحدة أن تلغي الثقة في العلامة التجارية.

نحن لا نثق في ما ليس آمنًا. لذلك، عندما ندمج السلامة في كل طبقات الذكاء الاصطناعي الذي سنطرحه قريباً، يمكننا القيام بذلك بثقة. وعندما نكون على استعداد لتوسيع نطاقه، يمكننا القيام بذلك بسرعة – بثقة.

في حين أن تطبيق الأولوية للسلامة في الذكاء الاصطناعي قد يبدو مخيفًا، فأنت لست وحدك. هناك العديد من الخبراء الذين يمكنهم المساعدة والشركاء الذين يمكنهم مشاركة ما تعلموه وما تتعلمونه حتى تتمكن من الاستفادة من قيمة الذكاء الاصطناعي بأمان دون إبطاءك.

كان الذكاء الاصطناعي رحلة مثيرة حتى الآن، ومع تسارع الرحلة، أجد ذلك مثيرًا. ولكن أنا أيضًا سعيد لأنني أرتدي خوذتي.

Unite.AI

يعني الأولوية للذكاء الاصطناعي الأولوية للسلامة

ما يعني سلامة الذكاء الاصطناعي؟

تتجاوز المخاطر القلق

التصميم من أجل السلامة في العمل

هل يعمل؟

You may like