روب فельدمان، رئيس قسم القانون في EnterpriseDB – سلسلة المقابلات

روب فельدمان، رئيس قسم القانون، مسؤول عن الوظائف القانونية والامتثال في جميع أنحاء العالم في EnterpriseDB. وهو مسؤول تنفيذي ومحامي ذو خبرة، يبني فرق قانونية عالية الأداء لدعم الشركات التكنولوجية النامية في بيئات أعمال وتنظيمية ديناميكية.最近، قاد فريقًا قانونيًا مكونًا من 45 شخصًا في Citrix Systems، Inc. كمحامي عام، بما في ذلك خلال عملية الاستحواذ الخاصة التابعة له بقيمة أكثر من 16 مليار دولار في عام 2022. قبل ذلك، قضى أكثر من عقد من الزمن في الممارسة الخاصة كمحامي لشركات التكنولوجيا، مع التركيز على الدفاع عن الاحتيال في الأوراق المالية والمنازعات المتعلقة بالملكية الفكرية والتحقيقات الحكومية الداخلية. روب أيضًا عضو في مجلس القانون التابع لاتفاقية الأمم المتحدة، حيث يقدم إرشادات إستراتيجية حول البيئات التنظيمية العالمية للمساعدة في قيادة تأثيرات تحويلية طويلة الأمد للأعمال.

EnterpriseDB هي شركة برمجيات توفر حلول قواعد بيانات من الدرجة الأولى بناءً على PostgreSQL مفتوح المصدر، مما يساعد المنظمات على تشغيل حمولات حرجة مع أداء أفضل وأمان وموثوقية أكبر. تأسست في عام 2004، توفر EnterpriseDB منصات سحابية ومواقع محلية ودعمًا عالميًا وأدوات متوافقة مع Oracle (ORCL ) ، مع التركيز بشكل متزايد على منصات البيانات الهجينة والقابلة للاستخدام مع الذكاء الاصطناعي من خلال عروض Postgres AI.

مع خبرتك الطويلة في القيادة القانونية للشركات وتركيز EnterpriseDB على قواعد بيانات Postgres من الدرجة الأولى والبيانات والذكاء الاصطناعي المستقل، كيف ترى تطور المسؤولية للشركات التي تعمل بنظم الذكاء الاصطناعي المستقل داخل البنية التحتية للبيانات الحيوية

عالم الذكاء الاصطناعي والبيانات لا يزال يعتمد على نفس المبادئ الأساسية التي يجب أن تحكم الشركات منذ وقت طويل قبل وصول الأنظمة المستقلة: المسؤولية، والضبط، ووضوح المسؤولية.

في الماضي، تم تطبيق هذه المبادئ على الأشخاص والأنظمة غير الحية بشكل أساسي، مثل لوحات التحكم والتقارير والأدوات الآلية التي لا تُشغل الإجراءات بنفسها. يُ introducetxtsystems المستقلة أنظمة أكثر تشابهًا مع المشاركين أكثر من الأدوات. يمكنهم العمل بشكل مستقل والتكيف مع مرور الوقت والتفاعل بشكل متزايد مع البشر والمشاركين الآخرين.

إذا لم تكن لدى المنظمة纪律ات حوكمة وضبط قوية، فإنها ستواجه صعوبات في هذا البيئة. لا تُخلق الأنظمة المستقلة مشاكل مسؤولية جديدة بقدر ما تكشف عن المشاكل الحالية. بالنسبة للشركات التي لديها أسس صلبة، يعزز هذا التحول الممارسات التي يتبعونها بالفعل، والتي نُسميها “السيطرة الرقمية”. بالنسبة للآخرين، إنه إشارة واضحة إلى أن الحاجة إلى إنشاء حواجز عملية قبل تشغيل الأنظمة المستقلة على نطاق واسع.

حوالي 13% فقط من الشركات قد وصلت إلى هذه النقطة من النجاح مع الأنظمة المستقلة. أنها تقوم بمرتين من العمل المستقل أكثر من غيرها وتبلغ عائداتها الخمسة أضعاف. ومع ذلك، كلما زادت استقلالية نظام الذكاء الاصطناعي، زادت الحاجة إلى مواجهة المسؤولية. عندما يوجه نظام الذكاء الاصطناعي مطالبة أو يتحول إلى أموال أو يسيء التعامل مع البيانات الحساسة، تتبع المسؤولية الشركة التي حددت البيئة وحددت الأذونات و قررت مقدار الحرية التي تمتلكها تلك النظام.

هذا هو السبب في أن الشركات تحتاج إلى إحضار رؤية واضحة إلى حالات استخدام الأنظمة المستقلة، والسبب في أن الشركات تحفز لجلب تركيز إلى برامج الحواجز وبرامج الحوكمة. تشبه هذه القصة تشبه قصة ملكية الكلب والسيطرة الرقمية. الكلاب لديها مستوى معين من الاستقلالية، تعمل بشكل مستقل، على الرغم من أنها قد تكون غير متوقعة في بعض الأحيان، ومع ذلك فهي ليست أشخاصًا قانونيين. هذا المزيج من الاستقلالية بدون شخصانية مشابه لما تقوم به الأنظمة المستقلة اليوم، ويتعين على المالكين فهم أنهم سيتحملون المسؤولية عن النتائج السيئة في حالة عدم وجود رؤية وحوكمة.

كيف يجب على الشركات التمييز بين الذكاء الاصطناعي المساعد والذكاء الاصطناعي المستقل من الناحية القانونية والتشغيلية قبل النشر

على مستوى بسيط، يأتي التمييز إلى السلطة. يدعم الذكاء الاصطناعي المساعد اتخاذ القرارات البشرية، بينما يُشغل الذكاء الاصطناعي المستقل الإجراءات وينفذ القرارات. يمكن أن يؤثر كلاهما على سير العمل والسلوك، على سبيل المثال في خدمة العملاء أو تحديد الأولويات التشغيلية، ولكن فقط الأنظمة المستقلة تُشغل التأثير بشكل مستقل.

إذا كان النظام يمكن أن يُشغل سير العمل أو يوافق على النتائج أو يغير حالة النظام أو يُشغل الإجراءات بدون موافقة بشرية في الوقت الفعلي، فيجب معاملته على أنه مستقل. يجب أن يحدث هذا التحديد قبل النشر، لأن السلطة الممنوحة للمشارك تُشير إلى تحول في المسؤولية القانونية والتشغيلية. يجب على المنظمات أن تكون على دراية بهذا التمييز حتى لا تكتشف فيما بعد أنها قد فوضت سلطة اتخاذ القرار دون قصد، ومن ثم المسؤولية.

هل يمكن تطبيق المبادئ القانونية القائمة مثل التفويض الإهمال و respondeat superior بشكل واقعي على الأنظمة المستقلة، وأين تبدأ هذه الإطارات في الانهيار

تُطبق بشكل أكثر مباشرة مما يُفترض. توجد هذه المبادئ لمعالجة الحالات التي تُفوض فيها السلطة وتحدث الأضرار، وهو تحدي محدد يُقدمه الذكاء الاصطناعي المستقل.

المشكلة ليست مع المبدأ القانوني، ولكن ما إذا كانت المنظمات تفهم المسؤولية التي تُقبلها عند نشر الأنظمة المستقلة، والحاجة إلى حوكمة هذه الأنظمة بشكل مناسب.

عندما تفشل المنظمات في تحديد النطاق والأذونات والرقابة، فإنها تخلق مسؤولية قانونية. المشكلة نادرًا ما تكون أن القانون لا يستطيع التعامل مع الأنظمة المستقلة، ولكن المنظمات لم تحدد بوضوح ما يُسمح للأنظمة بفعله أو كيف سيتم حكمها.

ما هي الخطوات العملية التي يجب على مسؤولي المعلومات والفرق القانونية اتخاذها اليوم لتحديد وتخفيف المسؤولية عند استمرار سير العمل للذكاء الاصطناعي في بيئات الإنتاج

الخطوة الأولى هي معاملة السيطرة الحاكمة على الذكاء الاصطناعي والبيانات كأمر حاسم. لا يمكن للمنظمات حوكمة المسؤولية بشكل فعّال إذا كانت أنظمتها الذكاء الاصطناعي وبياناتها مُجزأة عبر بيئات لا يمكنها ملاحظتها أو إدارتها بشكل كامل. الشركات التي تنجح بنسبة 13% مع الأنظمة المستقلة على نطاق واسع تبدأ من هذه الأساس.

في الممارسة، يعني ذلك تقييد الوصول إلى البيانات، ووضع رؤية بشرية حول القرارات التي تؤثر على الأداء، وتحديد الإجراءات التي يمكن للمشاركين أداؤها بشكل مستقل. كما يتطلب ذلك تسجيلًا وقابلية تتبع، بحيث يمكن استعراض السلوك عند الحاجة. المنظمات التي تتبنى هذه الإجراءات في وقت مبكر سوف تقلل من التعرض القانوني والاحتكاك التشغيلي في المستقبل.

كيف تنصح الشركات بتمكين الأنظمة المستقلة أو حوكمتها من خلال السياسات والضوابط الفنية أو الحماية التعاقدية لتقليل مخاطر الأضرار غير المقصودة

النقطة الأولى هي السيادة. تحتاج المنظمات إلى بيئات حيث يمكن ملاحظة أنظمتها الذكاء الاصطناعي وبياناتها وسياق التنفيذ وتنفيذها بشكل فعّال. لا يمكن أن تعتمد الحوكمة على السياسات فقط. تُحدد السياسات التوقعات، ولكن الضوابط الفنية تُحدد ما يمكن للأنظمة فعله، سواء كانت البيانات في حالة الراحة أو الحركة، وكيف يتم تشغيل النماذج.

بعض المشاركين ي thuộc إلى بيئات محمية بدون وصول إلى الإنتاج. يمكن أن تعمل بعضها بسلطات محدودة وأذونات وموافقات. يجب أن تكون الوكلاء المستقلون نادرة ومُراقبة بدقة. يمكن للعقود أن تساعد في توضيح المسؤولية، ولكنها لا تحل محل الحاجة إلى الرقابة الداخلية والمسؤولية.

هل يغير التحول نحو بيئات الذكاء الاصطناعي الخاضعة للسيطرة من قبل الشركات من يتحمل في النهاية المخاطر عند حدوث ضرر مالي أو تشغيلي بسبب نظام الذكاء الاصطناعي

لا يغير ذلك من الذي يتحمل المخاطر. إنه يجعل المسؤولية أكثر وضوحًا، وبالكثير من الطرق يقلل من المخاطر. عندما تسيطر الشركات على البيانات وأدوات الذكاء الاصطناعي وسياق التنفيذ، فإنها تُزيل المتغيرات التي تُقدمها البيانات والأدوات عندما تكون في أيدي أطراف ثالثة.

السيطرة على البيانات وأدوات الذكاء الاصطناعي هي قوة. تُمنح السيادة للمنظمات الرؤية والسلطة المطلوبة لإدارة المخاطر بشكل مسؤول. بدون هذه السيطرة، تزيد الشركات من ملف المخاطر.

ما هو الدور الذي تلعبه الشفافية والقابلية للتتبع في تقليل التعرض القانوني عند تشغيل تطبيقات الذكاء الاصطناعي المستقلة

همتا أساسيتان. تُجعل الأنظمة المستقلة قابلة للدفاع من خلال القابلية للتتبع.

عندما تحدث حوادث، يسأل المنظمون والقضاة أسئلة عملية: ما كان النظام يعرفه، وما كان مسموحًا له بفعله، ولماذا قام بالفعل؟ الشركات التي يمكنها إثبات الرؤية والقابلية للتتبع تُعتبر في وضع أقوى مقارنة بالمنافسين الذين يأتون بدون أي شيء.

كيف يجب على الشركات الاستعداد للالتزامات القانونية المختلفة على مستوى الولاية المتعلقة بالمسؤولية عن الذكاء الاصطناعي مع استمرار تطور التوجيهات الفيدرالية للذكاء الاصطناعي

لا يمكن للمنظمات الانتظار حتى يصدر المنظمون مجموعة من القواعد التفصيلية المحددة للذكاء الاصطناعي. القانون الحالي والقانون الفيدرالي يمنحنا 95% من الوضوح الذي نحتاجه لاستخدام الذكاء الاصطناعي بشكل مسؤول وتجنب أحداث المسؤولية الكبيرة.

تتضمن هذه الوضوح تصميم الأنظمة لتحقيق معايير المسؤولية عن المنتجات الأكثر صرامة، والتي ستشمل بالضرورة أمورًا مثل تطوير قدرات الذكاء الاصطناعي بشكل مسؤول، واختبار ما قبل الإصدار، وشفافية الإفصاح عن المخاطر، ومراقبة ما بعد الإصدار، والرقابة البشرية، وتدريب مستخدمي الذكاء الاصطناعي. هذه الخطوات الأساسية المألوفة تهم أكثر من محاولة توقع النتائج التنظيمية المحددة.

ما هي الأسئلة الأكثر أهمية التي يجب على مشتري التكنولوجيا سؤال البائعين عنها بشأن الاستقلالية والرقابة والمسؤولية قبل اعتماد الأنظمة المستقلة

مع الذكاء الاصطناعي المستقل، تظل المسؤولية في النهاية مع الطرف الذي يُفوض الاستقلالية. لذلك، الأسئلة الأربعة الرئيسية التي يجب الإجابة عليها هي:

1. من يتحكم في النظام في الإنتاج؟
2. كيف تُختبر الأذونات وتنفذ؟
3. كيف تُقيد التعلم؟
4. ما هي الأدلة القابلة للتتبع المتاحة في حالة حدوث خطأ؟

إذا لم يتمكن البائع من تقديم إجابات واضحة، فيجب على الشركات أن تُحاذر. العودة إلى قصة الكلب: يهم المربون، ولكن إذا حدث خطأ، قد تظل المسؤولية مع المالك.

شكرًا على المقابلة الرائعة، القراء الذين يرغبون في معرفة المزيد يجب أن يزوروا EnterpriseDB.