عندما تكون “معرفة” الذكاء الاصطناعي قديمة 50 عاما: المخاطر المتعلقة بالامتثال التي لا يمكن تجاهلها

تُعتبر مسألة استخلاصات الذكاء الاصطناعي الكاذبة تحديا حاسما مع زيادة استخدام أدوات التوليد. على الرغم من الحماس الواسع لتبني الذكاء الاصطناعي، هناك أيضا تيار قوي من الانتقادات. غالبا ما يشير النقاد إلى عدم دقة الذكاء الاصطناعي بشكل واضح، والتي تقلل من قيمته – ويمكن أن تسبب ضررا حقيقيا للإنسان، خاصة في قطاعات مثل الرعاية الصحية والنقل، حيث يمكن أن تؤدي الإخراجات الخاطئة إلى كل شيء من الوصفات الطبية الخاطئة إلى تصادم القطارات.

غالبا ما يُعزى هذه عدم الدقة إلى “هلوسات” الذكاء الاصطناعي – الحالات التي يولد فيها الذكاء الاصطناعي جوابا افتراضيا، معبرا عنه بثقة مثل الجواب “الحقيقي”، بدلا من إبلاغ المستخدم بفجوة في معرفته أو قدراته. يمكن أن تكون الهلوسات صعبة في الكشف عنها في البداية – ولكن هناك مشكلة أخرى أكثر خطورة وأصعب في الكشف عنها.

ديون جودة البيانات: العقل الضعيف للذكاء الاصطناعي

عندما يستخدم الذكاء الاصطناعي بيانات قديمة أو غير كاملة أو غير دقيقة، يحدث إخراج خاطئ، ولكن من الصعب الكشف عنه. على سبيل المثال، قد تسأل الذكاء الاصطناعي عن أعراض حالة طبية وتحصل على جواب مبني على بحث قديم يعود إلى 50 عاما بدلا من الأبحاث الحالية. ومن غير المرجح أن يبدو الجواب خاطئا على الفور – ولكن هذا الجواب يحتمل أن يسبب ضررا حقيقيا للمريض والمقدم الرعاية الصحية.

هذا صحيح عبر الصناعات – إذا كانت البيانات التي يتم تغذيتها إلى نموذج الذكاء الاصطناعي تحتوي على معلومات قديمة أو غير كاملة أو غير دقيقة، فهناك خطر كبير من الإخراجات الخاطئة. ومع زيادة عدد الشركات التي تدمج الذكاء الاصطناعي في العمليات الحاسمة، يزيد خطر استخلاص استنتاجات خاطئة من البيانات التي لا تُدار جيدا.

الدقة للتنظيم

هذه ليست مشكلة فقط للعمليات اليومية – إنها أيضا تحد كبير للامتثال. تتطور المتطلبات التنظيمية بسرعة لمواجهة مخاوف عدم دقة الذكاء الاصطناعي. على سبيل المثال، تم اتخاذ بعض الإجراءات التنظيمية المبكرة المتعلقة بالذكاء الاصطناعي؛ عندما حظرت إيطاليا مؤقتا ChatGPT بسبب مخاوف على الخصوصية، وأنشأت هيئة حماية البيانات الأوروبية فريقا مهما لتنسيق الإجراءات التنظيمية المحتملة ضد ChatGPT.

أحد التغييرات التنظيمية الأكثر إقناعا هو صدور قانون الذكاء الاصطناعي الأوروبي، وهو أول إطار قانوني شامل للذكاء الاصطناعي. يحدد القانون التزامات بناء على مستوى مخاطر أنظمة الذكاء الاصطناعي، من أنظمة “المخاطر غير المقبولة” التي تحظر، إلى أنظمة “المخاطر العالية” التي تواجه متطلبات صارمة حول الشفافية وجودة البيانات والرقابة البشرية.

تتمثل أهمية قانون الذكاء الاصطناعي الأوروبي ليس في نطاقه الطموح، ولكن في السابقة التي يضعها. يُظهر المنظمون أن الذكاء الاصطناعي سيكون خاضعا لقواعد ملزمة وقابلة للتنفيذ، وأن المنظمات يجب أن تعامل الامتثال والشفافية حول استخدام الذكاء الاصطناعي كجزء لا يتجزأ من تبني الذكاء الاصطناعي، وليس كفكرة ثانوية.

يتمتع القانون بنطاق واسع، ويمكن أن يؤثر على نسبة كبيرة من تطورات الذكاء الاصطناعي. في جوهره، يهدف إلى جعل الذكاء الاصطناعي آمنا مع احترام الحقوق والقيم الأساسية. ضمن هذا النظام الجديد المبني على المبادئ، يأتي تشخيص مصادر محتملة لعدم دقة الذكاء الاصطناعي، بما في ذلك البيانات وال مجموعات البيانات التي تغذي النماذج، وغموض النماذج وصولا إلى التصميم والاستخدام.

باختصار، يصبح البيئة التنظيمية المحيطة بالذكاء الاصطناعي أكثر صرامة – وهذا صحيح لكل من مدخلات البيانات ومخرجاتها، على الرغم من أن الأخيرة تحصل على المزيد من عناوين الصحف.

خمس خطوات لتغذية الذكاء الاصطناعي ببيانات متوافقة و hiệnة ومرتبطة

للحصول على حل لهذا التحدي المزدوج – ضمان التعامل مع البيانات بشكل متوافق وضمان مدخلات عالية الجودة التي تمكن من إخراج عال الجودة – تحتاج الشركات إلى السيطرة على بيانات التدريب والاستدلال. للأسف، هذا شيء لا يزال يفتقر إليه العديد من المؤسسات.

على الأقل، يجب على المنظمات تطبيق برامج الامتثال والإدارة الشاملة على مبادرات الذكاء الاصطناعي. يجب أن ي开始وا بتحديد وتسجيل السجلات المناسبة للبيانات التي يتم تغذيتها إلى نماذج الذكاء الاصطناعي، وكيف يتم تصميم النماذج والنظم، وكذلك القرارات والمحتوى الذي يتم توليده من خلال الذكاء الاصطناعي.

ومع ذلك، يصبح من المهم بشكل حرج للمنظمات أن تتجاوز ذلك وتضمن أن لديهم سيطرة كاملة على جميع البيانات التي يمكن استخدامها في عمليات الذكاء الاصطناعي، سواء لأغراض التدريب الأولي أو العمل “الحى”. هذا يتطلب استراتيجية إدارة وتخزين بيانات عالية الجودة، مما يضمن جمع جميع البيانات ذات الصلة بذكاء، وتنظيفها، وتخزينها، وتصنيفها، وتخويلها. لتحقيق ذلك، يجب على المنظمات أن تضع في اعتبارها أربعة خطوات رئيسية:

1. سلالة البيانات وأصالتها

تتضمن هذه الخطوة الحفاظ على سجل لمصدر البيانات، وأصلها، ومilikiيتها، وأي تغييرات في البيانات الوصفية (إذا كان مسموحا بذلك) على مدار دورة حياتها. كما يتضمن ذلك الحفاظ على بيانات وصفية غنية وجميع الوثائق أو الملفات التي يتم اشتقاقها منها.

2. صحة البيانات

تتطلب هذه الخطوة الحفاظ على سلسلة واضحة من الأمان لجميع البيانات، وتخزين الكائنات في أشكالها الأصلية، وتمثيل الكائنات المستلمة لإثبات عدم تغير البيانات. بالإضافة إلى ذلك، يجب على المنظمات الحفاظ على سجل تدقيق كامل لكل كيان، ولجميع الإجراءات والأحداث المتعلقة بأي تغيير.

3. تصنيف البيانات

من المهم تحديد طبيعة مجموعة أو نوع من البيانات. يجب على المنظمات أن تكون قادرة على حوكمة البيانات المهيكلة والبيانات شبه المهيكلة ومجموعات البيانات المهيكلة. يمكن أن يسمح إعطاء كل فئة مخطط فريد للمنظمات بإدارة مجموعات بيانات متنوعة دون استخدام بنية بيانات ثابتة – مما يمنع من تعديل البيانات بشكل غير ضروري لتناسبها في هيكل بيانات غير مرن.

4. تطبيع البيانات

من المهم تحديد تعريفات ومواصفات مشتركة للبيانات الوصفية للاستخدام في حلول التحليلات والذكاء الاصطناعي. تعتبر المخططات المحددة جيدا عنصرا هاما، إلى جانب الأدوات التي يمكنها تحويل أو تعيين البيانات للحفاظ على وجهات نظر متسقة ومتعارف عليها للبيانات المرتبطة.

5. صلاحيات البيانات

تتطلب الشركات سيطرات صلاحية دقيقة، بما في ذلك على مستوى الكائن أو الحقل، بناء على ملفات تعريف المستخدم أو النظام. هذا يعني أن البيانات الصحيحة متاحة للمستخدمين والنظم التي لديها صلاحية الوصول إليها، في حين تقيد أو تحد الوصول إلى أولئك الذين لا يملكون الصلاحية.

بوجود هذه العناصر الحاسمة في المكان، ستكون الشركات في أفضل وضع لضمان أن البيانات المقدمة إلى نماذج الذكاء الاصطناعي تكون عالية الجودة ومتوافقة. سيدفع الذكاء الاصطناعي التحسينات والكفاءات عبر الصناعات – ولكن من أجل حدوث ذلك، يجب أن يكون لدينا أساس بيانات صلب.