قادة الفكر

عندما تصبح بيانات الذكاء الاصطناعي الخاصة بك دليلًا

Jerry Caviston
أضف Unite.AI إلى مصادرك المفضلة على Google
النقاط الرئيسيةيجب تسجيل تفاعلات الذكاء الاصطناعي كسجلات خاضعة للحوكمة قبل نشوء النزاعات.
عرض المزيد
  • يجب تسجيل تفاعلات الذكاء الاصطناعي كسجلات خاضعة للحوكمة قبل نشوء النزاعات.
  • لا يمكن لمخرجات الذكاء الاصطناعي وحدها أن تفسر كيفية التوصل إلى استنتاج ما.
  • يجب بناء الحوكمة جنبًا إلى جنب مع النشر بدلًا من إضافتها أثناء مرحلة الاكتشاف.

يمكن لمعظم المؤسسات تحديد أدوات الذكاء الاصطناعي التي تستخدمها. السؤال الأصعب هو ما إذا كانت قادرة على إنتاج سجل موثوق به يوضح ما هي بيانات المؤسسة التي وصلت إليها تلك الأنظمة، وما هي التعليمات التي تلقتها، وما أعادت، وأي سياسات تحكم التفاعل.

قد تظل هذه الفجوة مخفية أثناء التجربة الأولية. تصبح واضحة عندما يطرح المنظم أسئلة، أو يعترض عميل على قرار، أو تضع الدعوى القضائية النظام تحت التدقيق. بحلول ذلك الوقت، يكون سجل التدقيق إما موجودًا أو غير موجود.

لا تمتلك الولايات المتحدة قانونًا فيدراليًا شاملًا واحدًا للذكاء الاصطناعي، لكن متطلبات الخصوصية الحالية، والأوراق المالية، ومكافحة التمييز، وحفظ السجلات، والكشف عن الأدلة قد تظل منطبقة على بيانات الذكاء الاصطناعي. تضيف القوانين الجديدة الخاصة بالذكاء الاصطناعي طبقة أخرى. الانتظار حتى تُستكمل جميع القواعد يُظهر سوء فهم للمخاطر.

القانون لا ينتظر التكنولوجيا

لقد تعاملت المحاكم مع هذه المشكلة من قبل. أصبحت رسائل البريد الإلكتروني دليلًا خاضعًا للضبط من خلال قوانين حفظ السجلات والكشف عن الأدلة القائمة، وليس إطارًا قانونيًا جديدًا كليًا. في قضية Zubulake، طبقت المحكمة واجبات الحفظ والكشف عن الأدلة على طريقة تخزين المؤسسات وإدارتها للرسائل الإلكترونية. ساعدت تلك الأحكام في تحديد التوقعات الحديثة للسجلات الرقمية.

من المحتمل أن تتبع بيانات الذكاء الاصطناعي مسارًا مشابهًا. قد يحتوي الأمر (الموجه) على معلومات حساسة. قد يؤثر الناتج على قرار توظيف، أو تواصل مع عميل، أو عقد. قد يسترجع وكيل سجلات من عدة أنظمة قبل التوصية بإجراء ما. إذا أصبحت تلك النشاطات محل نزاع، سيسأل المحامون والمنظمون ما الذي كان يمكن للنظام الوصول إليه، وما الذي استخدمه، وأي سجل احتفظت به المؤسسة.

استخدمت Securities and Exchange Commission قانون الأوراق المالية القائم ضد الشركات التي قدمت ادعاءات مضللة حول استخدامها للذكاء الاصطناعي. يمكن للمدعين العامين للولايات الاعتماد على سلطات حماية المستهلك والخصوصية، بينما يمكن للمحاكم تطبيق قواعد الكشف عن الأدلة وقواعد الإثبات القائمة.

تعزز المتطلبات الخاصة بالذكاء الاصطناعي هذا الاتجاه. يطرح EU AI Act التزامات على مراحل، بينما وضعت Colorado و Texas أحكامًا للتوثيق والشفافية والإنفاذ. تختلف التفاصيل، لكن التوقع ثابت: يجب على المؤسسات أن تفهم كيف يستخدم الذكاء الاصطناعي البيانات وتثبت أن الضوابط المناسبة كانت موجودة.

السجل يبدأ قبل المخرجات

إن اعتبار مخرجات الذكاء الاصطناعي كالسجل الكامل خطأ. لا توضح المخرجات كيف تم التوصل إلى الاستنتاج. يحتاج سجل قابل للدفاع أيضًا إلى الأمر أو التعليمات، والمصادر التي تم الوصول إليها، وصلاحيات المستخدم أو الوكيل، والسياسة السارية في ذلك الوقت.

تتطلب بيانات التدريب والبيانات التشغيلية أيضًا ضوابط مختلفة. يجب على المؤسسة التي تدرب أو تضبط نموذجًا أن تفهم أصل مجموعات البيانات تلك واستخدامها المسموح به. عندما يستخدم موظف أو وكيل نموذجًا من طرف ثالث، يكون السؤال الفوري هو ما هي بيانات المؤسسة التي تم تقديمها أو استرجاعها. قد لا تتمكن المؤسسات من تتبع كل كلمة عبر مجموعة تدريب النموذج الأساسي، لكنها يجب أن تقدم بيانًا بالبيانات والعمليات التي تسيطر عليها.

نادراً ما تكون بيانات المؤسسة موجودة في مستودع واحد نظيف. فهي موزعة عبر المنصات التشغيلية، والاتصالات، والمحتوى المشترك، وتطبيقات الإرث. يزيد الذكاء الاصطناعي من عواقب هذه التجزئة. قد يسترجع الوكيل المعلومات أسرع من الإنسان، لكنه يرث أيضًا حقوق وصول غير متسقة، وسياسات احتفاظ وتصنيفات بيانات متفاوتة.

يجب تنظيم تفاعلات الذكاء الاصطناعي كسجلات

تقوم المؤسسات بالفعل بالتقاط رسائل البريد الإلكتروني، والدردشة، وغيرها من الاتصالات المنظمة. يتطلب الاستخدام التجاري للذكاء الاصطناعي التوليدي نفس الانضباط. يجب التقاط الأوامر والمخرجات عند إنشائها وإدراجها تحت سياسات الاحتفاظ، والأمان، والحفظ لأغراض قانونية مع تعليق الإتلاف، والكشف عن الأدلة، والتصرف النهائي المبرر في السجلات.

يحتاج السجل أيضًا إلى سياق: من أو ما الذي بدأ التفاعل، أي نموذج تم استخدامه، ما هي المصادر الخاضعة للحوكمة التي تم الوصول إليها، ما الإجراء الذي تبع ذلك وأي سياسات تم تطبيقها. بدون هذا السياق، قد يظل أرشيف الأوامر والاستجابات غير قادر على توضيح ما حدث.

تبدأ هذه الضوابط بالبيانات نفسها. يجب تطبيق التصنيف، والاحتفاظ، والحفظ لأغراض قانونية مع تعليق الإتلاف، وصلاحيات الوصول، والأصل، وتسجيل التدقيق عندما تدخل المعلومات إلى البيئة الخاضعة للحوكمة. ينبغي أن تعمل أنظمة الذكاء الاصطناعي على بيانات خاضعة للسياسة بدلاً من الحصول على وصول واسع إلى كل ما هو متاح.

لا يمكن إضافة الحوكمة أثناء الكشف عن الأدلة

بمجرد وصول استدعاء قضائي أو تحقيق تنظيمي أو شكوى، لا تستطيع المؤسسة إعادة إنشاء الصلاحيات الدقيقة، وإصدارات البيانات، وتفاعلات الذكاء الاصطناعي التي كانت موجودة قبل أشهر. قد تجمع الفرق القانونية وفرق الامتثال شظايا من الأنظمة الفردية، لكن الشظايا ليست سجلاً كاملاً وقابلاً للدفاع.

لا تحتاج برامج الذكاء الاصطناعي إلى الانتظار حتى تُحل جميع أسئلة الحوكمة. يجب بناء الأساس جنبًا إلى جنب مع النشر. يمكن استخدام البيانات المصنفة والمتحكم في الوصول إليها دون إنشاء نسخ غير مُدارة. يتيح الالتقاط المتسق للفرق القانونية وفِرق الامتثال مراجعة نشاط الذكاء الاصطناعي دون إعادة بنائه من لقطات الشاشة أو سجلات المتصفح أو الحسابات الفردية.

يدعم ذلك الأساس أيضًا حالة الأعمال. لا يستطيع القادة توسيع الأنظمة التي لا يمكنهم شرحها أو الوثوق بها. تُحسّن المدخلات المُحكومة الثقة، وتجعل التفاعلات الملتقطة النتائج قابلة للمراجعة، وتُؤسس سجلات التدقيق المساءلة عن القرارات.

لا ينبغي للدعوى القضائية أن تجبر المنظمة على جرد نشاط الذكاء الاصطناعي لديها للمرة الأولى. أنشئ السجل بينما لا يزال الهيكل والسياسات تحت سيطرتك. عندما تصبح بيانات الذكاء الاصطناعي دليلًا، يجب أن تكون بالفعل على علم بمصدرها، ومن يمكنه الوصول إليها، وما الذي فعله النظام بها وكيف تم حوكمتها.

جيري كافستون هو الرئيس التنفيذي لشركة Archive360، ويساعد المؤسسات على حماية بياناتها وحوكمتها وإطلاق قيمة هذه البيانات.