عندما يخترع الذكاء الاصطناعي الحقائق: المخاطر التي لا يمكن لأي قائد تجاهلها

يبدو صحيحًا. يبدو مناسبًا. إنه خاطئ. هذا هو الذكاء الاصطناعي على الهلوسة. المشكلة ليست فقط أن نماذج الذكاء الاصطناعي التوليدية الحالية تخيل. إنها أننا نشعر أننا إذا قمنا ببناء حواجز كافية ، وضبط دقيق ، و RAG ، و أضفنا إليه بطرق معينة ، ثم سنتمكن من تبنيه على مستوى الشركات.

معدلات الهلوسة تتراوح من 0.8% إلى 88%

نعم ، يعتمد على النموذج والنطاق وケース الاستخدام والسياق ، ولكن هذا التباين يجب أن يزعج أي قائد في الشركات. هذه ليست أخطاء حاشية. إنها نظامية. كيف تتخذ القرار الصحيح عندما يتعلق الأمر بتبني الذكاء الاصطناعي في شركتك؟ أين وكيف وعمق وكيف؟

وتظهر أمثلة على العواقب الواقعية لهذا الأمر في الأخبار كل يوم. لجنة الاستقرار المالي في مجموعة العشرين قد أشارت إلى الذكاء الاصطناعي التوليدي كفектор للمعلومات المضللة التي يمكن أن تسبب أزمات سوقية وعدم استقرار سياسي وسوء أداء. في قصة أخرى تم الإبلاغ عنها مؤخرًا ، أصدرت شركة المحاماة Morgan & Morgan مذكرة طارئة إلى جميع المحامين: لا تقدم الملفات التي تم إنشاؤها بواسطة الذكاء الاصطناعي بدون التحقق. القوانين الزائفة هي جريمة يمكن أن تؤدي إلى الفصل.

هذا قد لا يكون الوقت المثالي للرهان على معدلات الهلوسة التي تميل إلى الصفر قريبًا. خاصة في الصناعات الخاضعة للرقابة ، مثل القانون والعلوم الحياتية وأسواق رأس المال ، أو في غيرها ، حيث يمكن أن يكون تكلفة الخطأ عالية ، بما في ذلك النشر في التعليم العالي.

الهلوسة ليست خطأ تقريب

ليس هذا عن إجابة خاطئة من وقت لآخر. إنه عن المخاطر: السمعة القانونية والتشغيلية.

الذكاء الاصطناعي التوليدي ليس محركًا منطقيًا. إنه محرك إنهاء إحصائي ، ببغاء عشوائي. إنه يكمّل سؤالك بالطريقة الأكثر احتمالاً بناءً على بيانات التدريب. حتى الأجزاء الصحيحة هي تخمينات. نسمي الأجزاء الأكثر سخفًا “هلوسة” ، ولكن الإخراج بأكمله هو هلوسة. هلوسة مصممة جيدًا. ومع ذلك ، يعمل – يعمل بشكل سحري جيدًا – حتى لا يعمل.

الذكاء الاصطناعي كبنية تحتية

ومع ذلك ، من المهم القول أن الذكاء الاصطناعي سيكون جاهزًا للاستخدام على نطاق الشركات عندما نبدأ في معاملته كبنية تحتية ، وليس كسحر. وفي Places المطلوبة ، يجب أن يكون شفافًا ويمكن تفسيره ويمكن تتبعه. وإذا لم يكن كذلك ، فإنها ببساطة ليست جاهزة للاستخدام على نطاق الشركات لهذه الحالات. إذا كان الذكاء الاصطناعي يأخذ القرارات ، فيجب أن يكون على رادار مجلس الإدارة.

تأتي قانون الذكاء الاصطناعي في الاتحاد الأوروبي في طليعة هذا. سوف يتم تنظيم المجالات عالية المخاطر مثل العدالة والرعاية الصحية والبنية التحتية مثل الأنظمة الحيوية. وستكون الوثائق والاختبار والقابلية للتفسير إلزامية.

ماذا تفعل نماذج الذكاء الاصطناعي الآمنة للشركات

الشركات التي تختص ببناء نماذج الذكاء الاصطناعي الآمنة للشركات ، تتخذ قرارًا واعياً لبناء الذكاء الاصطناعي بشكل مختلف. في هياكل الذكاء الاصطناعي البديلة ، لا يتم تدريب نماذج اللغة على البيانات ، لذلك لا يتم “تلوثها” بأي شيء غير مرغوب فيه في البيانات ، مثل التحيز أو انتهاك الملكية الفكرية أو الإمكانية للخداع أو الهلوسة.

تلك النماذج لا “تكمّل فكرتك” – إنها تفكر من محتوى المستخدم. قاعدة المعرفة. الوثائق. البيانات. إذا لم يكن الجواب هناك ، تقول تلك النماذج ذلك. هذا ما يجعل نماذج الذكاء الاصطناعي هذه قابلة للتفسير والتعقب والتحديد ، وخيارات جيدة في الأماكن التي لا ي chấp nhận فيها الهلوسة.

دليل 5 خطوات لل책임ية الذكاء الاصطناعي

1. خريطة منظومة الذكاء الاصطناعي – أين يتم استخدام الذكاء الاصطناعي عبر أعمالك؟ ما هي القرارات التي يؤثر عليها؟ ما هو المبلغ الذي تضعونه على القدرة على تتبع تلك القرارات إلى تحليل شفاف على مواد مصدر موثوقة؟
2. تنظيم المنظمة – اعتمادًا على نطاق تطبيق الذكاء الاصطناعي ، قم بإنشاء أدوار ولجان وعمليات وممارسات تدقيق مثل تلك الموجودة في المخاطر المالية أو أمن المعلومات.
3. جلب الذكاء الاصطناعي إلى المخاطر على مستوى المجلس – إذا تحدث الذكاء الاصطناعي مع العملاء أو المنظمين ، فيجب أن يكون في تقارير المخاطر. الحوكمة ليست عرضية.
4. معالجة البائعين كمسؤولية مشتركة – إذا قام بائعك بإنشاء محتوى كاذب ، فلا تزال تمتلك العواقب. امتداد مبادئ مسؤولية الذكاء الاصطناعي إلىهم. اطلب الوثائق وحقوق التدقيق والاتفاقات المتعلقة بالوضوح ومعدلات الهلوسة.
5. تدريب الشك – يجب على فريقك معاملة الذكاء الاصطناعي كمحلل مبتدئ – مفيد ، ولكن ليس معصوم. احتفل عندما يكتشف شخص ما هلوسة. يجب كسب الثقة.

مستقبل الذكاء الاصطناعي في الشركات ليس أكبر النماذج. ما هو مطلوب هو أكثر دقة وأكثر شفافية وأكثر ثقة وأكثر مسؤولية.