كيف يتأثر البيانات الاصطناعية على هلوسات الذكاء الاصطناعي؟

على الرغم من أن البيانات الاصطناعية هي أداة قوية، إلا أنها يمكن أن تقلل من هلوسات الذكاء الاصطناعي في ظروف محددة فقط. في hầu hết الحالات الأخرى، ستزيد من حدوثها. لماذا يحدث ذلك؟ ماذا يعني هذا للذين استثمروا فيها؟

كيف تختلف البيانات الاصطناعية عن البيانات الحقيقية؟

البيانات الاصطناعية هي معلومات يتم توليدها بواسطة الذكاء الاصطناعي. بدلاً من جمعها من أحداث أو ملاحظات العالم الحقيقي، يتم إنتاجها بشكل اصطناعي. ومع ذلك، فإنها تشبه الأصلية بما يكفي لإنتاج خرج دقيق وملائم.

لإنشاء مجموعة بيانات اصطناعية، يقوم مهندسو الذكاء الاصطناعي بتدريب خوارزمية مولدة على قاعدة بيانات علاقة حقيقية. عند الطلب، يتم إنتاج مجموعة ثانية تُشبه الأولى ولكنها تحتوي على معلومات غير حقيقية. بينما تظل الاتجاهات العامة والخصائص الرياضية سليمة، هناك ضوضاء كافية لتخفي العلاقات الأصلية.

تذهب مجموعة البيانات الاصطناعية أبعد من مجرد إزالة الهوية، حيث تكرر المنطق الأساسي للعلاقات بين الحقول بدلاً من مجرد استبدال الحقول ببدائل متساوية. منذ أن لا تحتوي على تفاصيل تعريفية، يمكن للشركات استخدامها لتجاوز لوائح الخصوصية والحقوق الخاصة بالملكية الفكرية. وأهم من ذلك، يمكنهم مشاركتها أو توزيعها بحرية دون خوف من حدوث انتهاك.

然而، يتم استخدام المعلومات الكاذبة بشكل أكثر شيوعًا لتعزيز أو توسيع حجم العينات التي تكون صغيرة جدًا، مما يجعلها كبيرة بما يكفي لتدريب أنظمة الذكاء الاصطناعي بشكل فعال.

هل تقلل البيانات الاصطناعية من هلوسات الذكاء الاصطناعي؟

في بعض الأحيان، قد يُشير الخوارزميات إلى أحداث غير موجودة أو يقدم اقتراحات غير منطقية. هذه الهلوسات غالبًا ما تكون غير منطقية أو خاطئة أو غير دقيقة. على سبيل المثال، قد يكتب نموذج لغة كبير مقالًا عن كيفية ترويض الأسود أو كيفية أن تصبح طبيبًا في سن السادسة. ومع ذلك، ليس كلها بهذا الحد، مما يجعل من الصعب التعرف عليها.

إذا تمت صياغة البيانات الاصطناعية بشكل مناسب، يمكن أن تقلل من هذه الحوادث. قاعدة بيانات تدريب ذات صلة وذات مصداقية هي الأساس لأي نموذج، لذلك من المنطقي أن كلما زادت التفاصيل التي يمتلكها شخص ما، زادت دقة خرج النموذج. تسمح قاعدة بيانات مكملة بالتكامل، حتى للتطبيقات النيش التي تفتقر إلى معلومات عامة.

تعد إزالة التحيز طريقة أخرى يمكن للبيانات الاصطناعية من خلالها تقليل هلوسات الذكاء الاصطناعي. وفقًا لمدرسة إدارة ماساتشوستس للتكنولوجيا سلون، يمكن أن مساعدة في معالجة التحيز لأنها لا تقتصر على حجم العينة الأصلي. يمكن للمحترفين استخدام تفاصيل واقعية لملء الفجوات حيث تكون الفئات الفرعية محددة أو غير ممثلة.

كيف تجعل البيانات الاصطناعية هلوسات الذكاء الاصطناعي أسوأ؟

由于 الخوارزميات الذكية لا تستطيع التفكير أو وضع السياق للمعلومات، فإنها عرضة للهلوسات. النماذج التوليدية – و特别 النماذج اللغوية الكبيرة المسبقة التدريب – تكون أكثر عرضة لذلك. في بعض الطرق، تزيد الحقائق الاصطناعية من المشكلة.

تضخيم التحيز

مثل البشر، يمكن للذكاء الاصطناعي أن يتعلم ويعيد إنتاج التحيزات. إذا كانت قاعدة البيانات الاصطناعية تُفرط في تقدير بعض المجموعات بينما تقلل من تمثيل أخرى – وهو ما يحدث بسهولة بشكل غير مقصود – سيتأثر منطق اتخاذ القرارات، مما يؤثر سلبًا على دقة الإخراج.

قد ي出现 مشكلة مماثلة عند استخدام الشركات بيانات كاذبة لإزالة التحيزات الحقيقية في العالم، لأنها قد لا تعكس الواقع بعد ذلك. على سبيل المثال، منذ أكثر من 99% من حالات سرطان الثدي تحدث في النساء، يمكن أن يؤدي استخدام معلومات مكملة لتحقيق التوازن في التمثيل إلى تشويه التشخيصات.

هلوسات تقاطعية

التقاطعية هي إطار概念ي اجتماعي يصف كيفية تقاطع الديموغرافية مثل العمر والجنس والعرق والمهنة والطبقة. يُحلل كيف تؤدي الهويات الاجتماعية المتداخلة للمجموعات إلى مجموعات فريدة من التمييز والامتياز.

عندما يُطلب من نموذج مولد إنتاج تفاصيل اصطناعية بناءً على ما تم تدريبه عليه، قد يُنشئ مجموعات لم تكن موجودة في الأصل أو تكون منطقيًا مستحيلة.

عملت إريكا جونسون، أستاذة الجنس والمجتمع في جامعة لينكوبينغ، مع عالم في علوم الحاسوب لتوضيح هذه الظاهرة. استخدموا شبكة توليدية معادية لإنشاء نسخ اصطناعية من إحصاءات التعداد السكاني للولايات المتحدة لعام 1990.

على الفور، لاحظوا مشكلة واضحة. كان الإصدار الاصطناعي يحتوي على فئات بعنوان “زوجة ومتزوجة” و”أب غير متزوج أبدًا”، وكلاهما كانا هلوسات تقاطعية.

بدون صياغة مناسبة، سوف تُفرط قاعدة البيانات المكررة دائمًا في تمثيل المجموعات السائدة في مجموعات البيانات بينما تقلل من تمثيل – أو حتى تستبعد – المجموعات غير الممثلة. قد يتم تجاهل الحالات الحدية والمنحدرات تمامًا لصالح الاتجاهات السائدة.

انهيار النموذج

الاعتماد المفرط على الأنماط والتrends الاصطناعية يؤدي إلى انهيار النموذج – حيث تتحول أداء الخوارزمية بشكل كبير إلى أسوأ مع زيادة عدم قابليتها للتكيف مع الملاحظات والأحداث في العالم الحقيقي.

تظهر هذه الظاهرة بشكل خاص في الذكاء الاصطناعي التوليدي من الجيل التالي. النتائج المتكررة باستخدام نسخة اصطناعية لتدريبهم تؤدي إلى حلقة ذاتية الاستهلاك. وجدت دراسة أن جودة الاسترجاع تنخفض تدريجياً بدون وجود أرقام حديثة وفعلى في كل جيل.

التعلم الزائد

التعلم الزائد هو الاعتماد المفرط على بيانات التدريب. يؤدي الخوارزمية بشكل جيد في البداية ولكنها سوف تُخيل عندما تواجه نقاط بيانات جديدة. يمكن أن تزيد المعلومات الاصطناعية من هذه المشكلة إذا لم تُ phảnع بشكل دقيق الواقع.

أثر استمرار استخدام البيانات الاصطناعية

سوق البيانات الاصطناعية في ازدهار. الشركات في هذا القطاع جمعت حوالي 328 مليون دولار في عام 2022، من 53 مليون دولار في عام 2020 – وهو زيادة بنسبة 518% في 18 شهرًا فقط. يُشار إلى أن هذا هو التمويل العام المعروف فقط، مما يعني أن الرقم الفعلي قد يكون أعلى. من الآمن القول إن الشركات مستثمرة بشكل كبير في هذا الحل.

إذا استمرت الشركات في استخدام قاعدة بيانات اصطناعية دون صياغة وازالة تحيز مناسبة، فإن أداء نموذجها سوف يتناقص تدريجياً، مما يؤدي إلى تدهور استثماراتها في الذكاء الاصطناعي. قد تكون النتائج أكثر حدة، اعتمادًا على التطبيق. على سبيل المثال، في مجال الرعاية الصحية، قد يؤدي زيادة هلوسات الذكاء الاصطناعي إلى تشخيصات خاطئة أو خطط علاج غير مناسبة، مما يؤدي إلى نتائج أسوأ للمرضى.

الsolution لن تتضمن العودة إلى البيانات الحقيقية

النظم الذكية تحتاج إلى ملايين، إن لم تكن مليارات، من الصور والنصوص والفيديوهات للتدريب، والتي يتم حصد معظمها من المواقع العامة ودمجها في مجموعات بيانات مفتوحة ضخمة. للأسف، تستهلك الخوارزميات هذه المعلومات بشكل أسرع مما يمكن للبشر توليدها. ماذا يحدث عندما يتعلمون كل شيء؟

يخاف قادة الأعمال من الوصول إلى حائط البيانات – النقطة التي يتم استنفاد جميع المعلومات العامة على الإنترنت فيها. قد يكون ذلك أقرب مما يظنون.

على الرغم من أن كمية النص العادي على صفحة التصفح الشائع وعدد مستخدمي الإنترنت ينمو بنسبة 2% إلى 4% سنوياً، فإن الخوارزميات تفرغ من المعلومات عالية الجودة. يمكن استخدام فقط 10% إلى 40% من المعلومات بدون المساس بأداء التدريب. إذا استمرت الاتجاهات، قد تنفد مخزون المعلومات العامة التي يتم توليدها بواسطة البشر بحلول عام 2026.

من المحتمل أن تصل صناعة الذكاء الاصطناعي إلى حائط البيانات حتى قبل ذلك. وقد زاد ازدهار الذكاء الاصطناعي التوليدي في السنوات القليلة الماضية من التوترات حول ملكية المعلومات وانتهاك حقوق النشر. أكثر من مالكي المواقع يُستخدمون بروتوكول استبعاد الروبوت – معيار يستخدم ملف روبوت.تيكست لمنع روبوتات التصفح – أو يُشيرون إلى أن موقعهم محظور.

كشفت دراسة نُشرت في عام 2024 بواسطة مجموعة بحثية بقيادة معهد ماساتشوستس للتكنولوجيا أن القيود على مجموعة بيانات Colossal Cleaned Common Crawl (C4) تزداد. أكثر من 28% من المصادر الأكثر نشاطًا في C4 كانت مقيدة تمامًا. بالإضافة إلى ذلك، تم تحديد 45% من C4 على أنها غير متاحة بموجب شروط الخدمة.

إذا احترمت الشركات هذه القيود، فإن طازجة المعلومات والملاءمة والدقة سوف تتناقص، مما يُجبرهم على الاعتماد على قواعد البيانات الاصطناعية. قد لا يكون لديهم خيار كبير إذا قررت المحاكم أن أي بديل يُشكل انتهاكًا لحقوق النشر.

مستقبل البيانات الاصطناعية وهلوسات الذكاء الاصطناعي

مع تطور قوانين حقوق النشر وزيادة عدد مالكي المواقع الذين يختبئون محتوىهم من روبوتات التصفح، سوف تصبح توليد قواعد البيانات الاصطناعية أكثر شعبية. يجب على المنظمات الاستعداد لمواجهة تهديد هلوسات الذكاء الاصطناعي.