الأخلاقيات
تزايد المخاوف بشأن هلوسة الذكاء الاصطناعي وتحيزه: تقرير Aporia لعام 2024 يسلط الضوء على الحاجة الملحة لمعايير الصناعة
A التقرير الأخير من Aporia، الشركة الرائدة في قطاع منصات التحكم في الذكاء الاصطناعي، سلطت الضوء على بعض النتائج المذهلة في مجال الذكاء الاصطناعي والتعلم الآلي (AI & ML). يشير الاستطلاع الذي أجرته Aporia بعنوان "تقرير الذكاء الاصطناعي والتعلم الآلي لعام 2024: تطور النماذج والحلول"، إلى اتجاه متزايد من الهلوسة والتحيزات داخل الذكاء الاصطناعي التوليدي ونماذج اللغات الكبيرة (LLMs)، مما يشير إلى تحدٍ حاسم لصناعة تتقدم بسرعة نحو نضج.
هلوسة الذكاء الاصطناعي الرجوع إلى الحالات التي تكون فيها توليدية نماذج الذكاء الاصطناعي التوليدية إنتاج مخرجات غير صحيحة أو لا معنى لها أو منفصلة عن الواقع. يمكن أن تتراوح هذه الهلوسة من عدم الدقة البسيطة إلى الأخطاء الكبيرة، بما في ذلك إنشاء محتوى متحيز أو يحتمل أن يكون ضارًا.
يمكن أن تكون العواقب المترتبة على هلوسة الذكاء الاصطناعي كبيرة، خاصة وأن هذه النماذج يتم دمجها بشكل متزايد في مختلف جوانب الأعمال والمجتمع. على سبيل المثال، يمكن أن يؤدي عدم الدقة في المعلومات الناتجة عن الذكاء الاصطناعي إلى معلومات مضللة، في حين أن المحتوى المتحيز يمكن أن يؤدي إلى إدامة الصور النمطية أو الممارسات غير العادلة. وفي التطبيقات الحساسة مثل الرعاية الصحية أو التمويل أو الاستشارة القانونية، يمكن أن يكون لمثل هذه الأخطاء آثار خطيرة تؤثر على القرارات والنتائج.
تؤكد نتائج المسح على ضرورة المراقبة والمراقبة اليقظة لنماذج الإنتاج.
شمل استطلاع Aporia ردودًا من 1,000 متخصص في التعلم الآلي في أمريكا الشمالية والمملكة المتحدة. ويعمل هؤلاء الأفراد في شركات يتراوح عدد موظفيها من 500 إلى 7,000 موظف، في قطاعات مثل التمويل والرعاية الصحية والسفر والتأمين والبرمجيات وتجارة التجزئة. تؤكد النتائج على التحديات والفرص التي تواجه قادة إنتاج تعلم الآلة، وتسلط الضوء على الدور الحيوي لتحسين الذكاء الاصطناعي لتحقيق الكفاءة وخلق القيمة.
الأفكار الرئيسية من التقرير يشمل:
- انتشار التحديات التشغيلية: أبلغ 93% من مهندسي التعلم الآلي عن مواجهة مشكلات في نماذج الإنتاج سواء يوميًا أو أسبوعيًا. تؤكد هذه الإحصائية الهامة الحاجة الماسة إلى أدوات مراقبة ومراقبة فعالة لضمان سلاسة العمليات.
- حدوث هلاوس الذكاء الاصطناعي: أفاد ما يقرب من 89٪ من المهندسين الذين يعملون مع نماذج لغوية كبيرة وذكاء اصطناعي توليدي أنهم يعانون من الهلوسة في هذه النماذج. تظهر هذه الهلوسة على شكل أخطاء واقعية أو تحيزات أو محتوى قد يكون ضارًا.
- التركيز على تخفيف التحيز: على الرغم من العوائق التي تحول دون اكتشاف البيانات المتحيزة وعدم وجود أدوات مراقبة كافية، يؤكد 83% من المشاركين في الاستطلاع على أهمية مراقبة التحيز في مشاريع الذكاء الاصطناعي.
- أهمية إمكانية المراقبة في الوقت الحقيقي: يعتقد 88% من المتخصصين في التعلم الآلي أن إمكانية المراقبة في الوقت الفعلي ضرورية لتحديد المشكلات في نماذج الإنتاج، وهي قدرة غير موجودة في جميع المؤسسات بسبب نقص أدوات المراقبة الآلية.
- استثمار الموارد في التنمية: يكشف التقرير أن الشركات تستثمر، في المتوسط، حوالي أربعة أشهر في تطوير الأدوات ولوحات المعلومات لمراقبة الإنتاج، مما يسلط الضوء على المخاوف المحتملة بشأن كفاءة هذه الاستثمارات وفعاليتها من حيث التكلفة.
"يُظهر تقريرنا إجماعًا واضحًا بين الصناعة، حيث يتم نشر منتجات الذكاء الاصطناعي بوتيرة سريعة، وستكون هناك عواقب إذا لم تتم مراقبة نماذج تعلم الآلة هذه." صرح ليران هاسون، الرئيس التنفيذي لشركة Aporia. "لقد تحدث المهندسون الذين يقفون وراء هذه الأدوات عن وجود مشكلات في التكنولوجيا ويمكن إصلاحها. ولكن هناك حاجة إلى أدوات المراقبة الصحيحة لضمان حصول الشركات والمستهلكين على حد سواء على أفضل منتج ممكن، خاليًا من الهلوسة والتحيز.
Aporia، الملتزمة بتعزيز فعالية منتجات الذكاء الاصطناعي المدعومة بالتعلم الآلي، تعمل على معالجة تحديات MLOps والدعوة إلى ممارسات الذكاء الاصطناعي المسؤولة. أدى نهج الشركة الذي يركز على العملاء وتكامل تعليقات المستخدمين إلى تطوير أدوات وميزات قوية لتحسين تجربة المستخدم، ودعم توسيع نماذج الإنتاج، والمساعدة في القضاء على الهلوسة.
يقدم التقرير الكامل الذي أعدته Aporia نظرة متعمقة على هذه النتائج وآثارها على صناعة الذكاء الاصطناعي. لاستكشاف المزيد، قم بزيارة تقرير مسح أبوريا.
