عندما تصبح بيانات الذكاء الاصطناعي الخاصة بك دليلًا

يمكن لمعظم المؤسسات تحديد أدوات الذكاء الاصطناعي التي تستخدمها. السؤال الأصعب هو ما إذا كانت قادرة على إنتاج سجل موثوق به يوضح ما هي بيانات المؤسسة التي وصلت إليها تلك الأنظمة، وما هي التعليمات التي تلقتها، وما أعادت، وأي سياسات تحكم التفاعل.

قد يظل هذا الفجوة مخفيًا أثناء التجربة الأولية. يصبح واضحًا عندما يطرح المنظم أسئلة، أو يعترض عميل على قرار، أو تضع الدعوى القضائية النظام تحت التدقيق. بحلول ذلك الوقت، يكون سجل التدقيق إما موجودًا أو غير موجود.

لا تمتلك الولايات المتحدة قانونًا فيدراليًا شاملًا واحدًا للذكاء الاصطناعي، لكن متطلبات الخصوصية الحالية، والأوراق المالية، ومكافحة التمييز، وحفظ السجلات، والاكتشاف لا تزال تمتد إلى بيانات الذكاء الاصطناعي. تضيف القوانين الجديدة الخاصة بالذكاء الاصطناعي طبقة أخرى. الانتظار حتى تُستكمل جميع القواعد يُظهر سوء فهم للمخاطر.

القانون لا ينتظر التكنولوجيا

لقد تعاملت المحاكم مع هذه المشكلة من قبل. أصبحت رسائل البريد الإلكتروني دليلًا خاضعًا للضبط من خلال قوانين حفظ السجلات والاكتشاف القائمة، وليس إطارًا قانونيًا جديدًا كليًا. في قضية Zubulake، طبقت المحكمة واجبات الحفظ والاكتشاف على طريقة تخزين المؤسسات وإدارتها للرسائل الإلكترونية. ساعدت تلك الأحكام في تحديد التوقعات الحديثة للسجلات الرقمية.

من المحتمل أن تتبع بيانات الذكاء الاصطناعي مسارًا مشابهًا. قد يحتوي الأمر (الموجه) على معلومات حساسة. قد يؤثر الناتج على قرار توظيف، أو تواصل مع عميل، أو عقد. قد يسترجع وكيل سجلات من عدة أنظمة قبل التوصية بإجراء ما. إذا أصبحت تلك النشاطات محل نزاع، سيسأل المحامون والمنظمون ما الذي كان يمكن للنظام الوصول إليه، وما الذي استخدمه، وأي سجل احتفظت به المؤسسة.

استخدمت Securities and Exchange Commission قانون الأوراق المالية القائم ضد الشركات التي قدمت ادعاءات مضللة حول استخدامها للذكاء الاصطناعي. يمكن لمدعي عام الولايات الاعتماد على سلطات حماية المستهلك والخصوصية، بينما يمكن للمحاكم تطبيق قواعد الاكتشاف والأدلة القائمة.

تعزز المتطلبات الخاصة بالذكاء الاصطناعي هذا الاتجاه. يطرح EU AI Act التزامات على مراحل، بينما Colorado و Texas أنشأت أحكامًا للوثائق والشفافية والتنفيذ. تختلف التفاصيل، لكن التوقع ثابت: يجب على المؤسسات أن تفهم كيف يستخدم الذكاء الاصطناعي البيانات وتثبت أن الضوابط المناسبة كانت موجودة.

السجل يبدأ قبل المخرجات

إن اعتبار مخرجات الذكاء الاصطناعي كالسجل الكامل خطأ. لا توضح المخرجات كيف تم التوصل إلى الاستنتاج. يحتاج سجل قابل للدفاع أيضًا إلى الأمر أو التعليمات، والمصادر التي تم الوصول إليها، وصلاحيات المستخدم أو الوكيل، والسياسة السارية في ذلك الوقت.

تتطلب بيانات التدريب والبيانات التشغيلية أيضًا ضوابط مختلفة. يجب على المؤسسة التي تدرب أو تضبط نموذجًا أن تفهم أصل واستخدام تلك المجموعات البياناتية المسموح به. عندما يستخدم موظف أو وكيل نموذجًا من طرف ثالث، يكون السؤال الفوري هو ما هي بيانات المؤسسة التي تم تقديمها أو استرجاعها. قد لا تتمكن المؤسسات من تتبع كل كلمة عبر مجموعة تدريب النموذج الأساسي، لكنها يجب أن تحاسب على البيانات والعمليات التي تسيطر عليها.

نادراً ما تكون بيانات المؤسسة موجودة في مستودع واحد نظيف. فهي موزعة عبر المنصات التشغيلية، والاتصالات، والمحتوى المشترك، وتطبيقات الإرث. يزيد الذكاء الاصطناعي من عواقب هذا التجزئة. قد يسترجع الوكيل المعلومات أسرع من الإنسان، لكنه يورث أيضًا حقوق وصول غير متسقة، وسياسات احتفاظ وتصنيفات بيانات متفاوتة.

يجب تنظيم تفاعلات الذكاء الاصطناعي كسجلات

تقوم المؤسسات بالفعل بالتقاط رسائل البريد الإلكتروني، والدردشة، وغيرها من الاتصالات المنظمة. يتطلب الاستخدام التجاري للذكاء الاصطناعي التوليدي نفس الانضباط. يجب التقاط الأوامر والمخرجات عند إنشائها وإدراجها تحت سياسات الاحتفاظ، والأمان، والاحتجاز القانوني، والاكتشاف، والتصريف القابل للدفاع.

يحتاج السجل أيضًا إلى سياق: من أو ما الذي بدأ التفاعل، أي نموذج تم استخدامه، ما هي المصادر الخاضعة للحوكمة التي تم الوصول إليها، ما الإجراء الذي تبع ذلك وأي سياسات تم تطبيقها. بدون هذا السياق، قد يظل أرشيف الأوامر والاستجابات غير قادر على توضيح ما حدث.

تبدأ هذه الضوابط بالبيانات نفسها. يجب تطبيق التصنيف، والاحتفاظ، والاحتجاز القانوني، وصلاحيات الوصول، والأصل، وتسجيل التدقيق عندما تدخل المعلومات إلى البيئة الخاضعة للحوكمة. ينبغي أن تعمل أنظمة الذكاء الاصطناعي على بيانات خاضعة للسياسة بدلاً من الحصول على وصول واسع إلى كل ما هو متاح.

لا يمكن إضافة الحوكمة أثناء الاكتشاف

بمجرد وصول استدعاء قضائي أو تحقيق تنظيمي أو شكوى، لا تستطيع المؤسسة إعادة إنشاء الصلاحيات الدقيقة، وإصدارات البيانات، وتفاعلات الذكاء الاصطناعي التي كانت موجودة قبل أشهر. قد تجمع فرق القانونية والامتثال شظايا من الأنظمة الفردية، لكن الشظايا ليست سجلاً كاملاً وقابلاً للدفاع.

لا تحتاج برامج الذكاء الاصطناعي إلى الانتظار حتى تُحل جميع أسئلة الحوكمة. يجب بناء الأساس جنبًا إلى جنب مع النشر. يمكن استخدام البيانات المصنفة والمتحكم في الوصول إليها دون إنشاء نسخ غير مُدارة. يتيح الالتقاط المتسق للفرق القانونية وفِرق الامتثال مراجعة نشاط الذكاء الاصطناعي دون إعادة بنائه من لقطات الشاشة أو سجلات المتصفح أو الحسابات الفردية.

يدعم ذلك الأساس أيضًا حالة الأعمال. لا يستطيع القادة توسيع الأنظمة التي لا يمكنهم شرحها أو الوثوق بها. تُحسّن المدخلات المُحكومة الثقة، وتجعل التفاعلات الملتقطة النتائج قابلة للمراجعة، وتُؤسس سجلات التدقيق المساءلة عن القرارات.

لا ينبغي للدعوى القضائية أن تجبر المنظمة على جرد نشاط الذكاء الاصطناعي لديها للمرة الأولى. أنشئ السجل بينما لا يزال الهيكل والسياسات تحت سيطرتك. عندما تصبح بيانات الذكاء الاصطناعي دليلًا، يجب أن تكون بالفعل على علم بمصدرها، ومن يمكنه الوصول إليها، وما الذي فعله النظام بها وكيف تم حوكمتها.