مخاوف متزايدة بشأن هلوسات الذكاء الاصطناعي والتحيز: تقرير Aporia لعام 2024 يبرز الحاجة الملحة لمعايير الصناعة

أظهر تقرير حديث من Aporia، الشركة الرائدة في قطاع منصات التحكم في الذكاء الاصطناعي، بعض النتائج المثيرة في مجال الذكاء الاصطناعي والتعلم الآلي. يحمل التقرير عنوان “تقرير الذكاء الاصطناعي والتعلم الآلي لعام 2024: تطور النماذج والحلول”، ويشير إلى اتجاه متزايد لهلوسات وتحيزات في نماذج الذكاء الاصطناعي التوليدية واللغة الكبيرة.

هلوسات الذكاء الاصطناعي تشير إلى الحالات التي تنتج فيها نماذج الذكاء الاصطناعي التوليدية مخرجات غير صحيحة أو غير منطقية أو غير متصلة بالواقع. يمكن أن تتراوح هذه الهلوسات من أخطاء طفيفة إلى أخطاء كبيرة، بما في ذلك توليد محتوى متحيز أو محتوى قد يكون ضارًا.

يمكن أن يكون لهلوسات الذكاء الاصطناعي عواقب كبيرة، خاصة مع زيادة دمج هذه النماذج في مختلف جوانب الأعمال والمجتمع. على سبيل المثال، يمكن أن يؤدي عدم دقة المعلومات التي تولدها الذكاء الاصطناعي إلى انتشار معلومات خاطئة، في حين يمكن أن يؤدي المحتوى المتحيز إلى تعزيز الصور النمطية أو الممارسات غير العادلة. في التطبيقات الحساسة مثل الرعاية الصحية أو المالية أو الاستشارات القانونية، يمكن أن يكون لهذه الأخطاء عواقب خطيرة، مما يؤثر على القرارات والنتائج.

تؤكد نتائج الاستطلاع على ضرورة مراقبة النماذج الإنتاجية بانتظام.

شمل استطلاع Aporia استجابات من 1000 chuyên家 في التعلم الآلي في أمريكا الشمالية والمملكة المتحدة. يعمل هؤلاء الأشخاص في شركات تتراوح بين 500 و7000 موظف، في قطاعات مثل المالية والرعاية الصحية والسفر والتأمين والبرمجيات والتجزئة. تبرز النتائج التحديات والفرص التي تواجه قادة الإنتاج، وتسلط الضوء على دور تحسين الذكاء الاصطناعي في تحقيق الكفاءة والقيمة.

المعلومات الرئيسية من التقرير تشمل:

1. spread of التشغيلية التحديات: يبلغ 93% من مهندسي التعلم الآلي أنهم يواجهون مشاكل في النماذج الإنتاجية يوميًا أو أسبوعيًا. هذه الإحصائية الهامة تبرز الحاجة إلى أدوات مراقبة وسيطرة فعالة لضمان عمليات سلسة.
2. حدوث هلوسات الذكاء الاصطناعي: يبلغ 89% من مهندسي التعلم الآلي الذين يعملون مع نماذج اللغة الكبيرة والذكاء الاصطناعي التوليدية أنهم يعانون من هلوسات في هذه النماذج. تظهر هذه الهلوسات على شكل أخطاء фактиة أو تحيز أو محتوى قد يكون ضارًا.
3. التركيز على تحييد التحيز: على الرغم من الصعوبات في الكشف عن البيانات المتحيزة وعدم كفاية أدوات المراقبة، يؤكد 83% من المستجيبين على أهمية مراقبة التحيز في مشاريع الذكاء الاصطناعي.
4. أهمية الرصد في الوقت الفعلي: يعتقد 88% من محترفي التعلم الآلي أن الرصد في الوقت الفعلي ضروري لتحديد المشاكل في النماذج الإنتاجية، وهي قدرة لا تتوفر في جميع الشركات بسبب نقص أدوات المراقبة الآلية.
5. استثمار الموارد في التطوير: يكشف التقرير عن أن الشركات تستثمر في المتوسط أربعة أشهر في تطوير أدوات ولوحات مراقبة الإنتاج، مما يثير مخاوف بشأن كفاءة ومدى فعالية هذه الاستثمارات.

“يُظهر تقريرنا إجماعًا واضحًا بين الصناعة، حيث يتم نشر منتجات الذكاء الاصطناعي بسرعة، وسيكون هناك عواقب إذا لم يتم مراقبة نماذج التعلم الآلي”، وفقًا لما صرح به ليران هاسون، الرئيس التنفيذي لشركة Aporia. “لقد تحدث المهندسون الذين يقفون وراء هذه الأدوات – هناك مشاكل مع التكنولوجيا، ويمكن حلها. لكننا بحاجة إلى أدوات المراقبة الصحيحة لضمان حصول الشركات والمستهلكين على أفضل منتج ممكن، خالي من الهلوسات والتحيز”.

Aporia، الملتزمة بتعزيز فعالية منتجات الذكاء الاصطناعي التي تعمل بالتعلم الآلي، تعمل على مواجهة تحديات عمليات التعلم الآلي ودعوة ممارسات الذكاء الاصطناعي المسؤولة. أدى نهج الشركة المرتكز على العميل وتكامل ملاحظات المستخدمين إلى تطوير أدوات وميزات قوية لتحسين تجربة المستخدم، ودعم توسيع نماذج الإنتاج، ومساعدة القضاء على الهلوسات.

يقدم التقرير الكامل من Aporia نظرة متعمقة على هذه النتائج وأثرها على صناعة الذكاء الاصطناعي. لمعرفة المزيد، زوروا تقرير استطلاع Aporia.