غريس يي، المدير التنفيذي للابتكار الأخلاقي (أخلاقيات الذكاء الاصطناعي والتوافق) في أدوبي – سلسلة المقابلات

غريس يي هي المدير التنفيذي للابتكار الأخلاقي (أخلاقيات الذكاء الاصطناعي والتوافق) في أدوبي، وتقود العمل العالمي والمنظم على نطاق واسع حول الأخلاقيات وتطوير العمليات والأدوات والتدريبات والموارد الأخرى للمساعدة في ضمان أن تطور ابتكارات الذكاء الاصطناعي الرائدة في أدوبي بشكل مستمر مع قيم أدوبي الأساسية والمبادئ الأخلاقية. تسهم غريس في التزام أدوبي ببناء واستخدام التكنولوجيا بشكل مسؤول، مع التركيز على الأخلاقيات والشمولية في جميع أعمال الشركة لتطوير الذكاء الاصطناعي. في إطار هذا العمل، تشرف غريس على لجنة أخلاقيات الذكاء الاصطناعي في أدوبي ولجنة المراجعة، والتي تقدم توصيات للمساعدة في توجيه فرق التطوير في أدوبي ومراجعة ميزات ومنتجات الذكاء الاصطناعي الجديدة لضمان توافقها مع مبادئ أدوبي المتعلقة بالمسؤولية والشفافية. تساهم هذه المبادئ في ضمان تقديم ميزاتنا المدعومة بالذكاء الاصطناعي إلى السوق مع التقليل من النتائج الضارة والمحايدة. تعمل غريس أيضًا مع فريق السياسات لتعزيز الدعوة لمساعدة تشكيل السياسات العامة والقوانين واللوائح المتعلقة بالذكاء الاصطناعي من أجل مصلحة المجتمع.

في إطار التزام أدوبي بالتوافق، تساعد غريس على ضمان أن تكون منتجات أدوبي شاملة ومتوافقة مع جميع المستخدمين، بحيث يمكن لأي شخص إنشاء وتفاعل وتجربة الخبرات الرقمية. تحت قيادتها، تعمل أدوبي مع المجموعات الحكومية والاتحادات التجارية ومجتمعات المستخدمين لتعزيز وتطوير سياسات ومتطلبات التوافق، مما يؤدي إلى حلول صناعية مؤثرة.

يمكنك أن تخبرنا عن رحلة أدوبي خلال الخمس سنوات الماضية في تشكيل أخلاقيات الذكاء الاصطناعي؟ ما هي النقاط الرئيسية التي حددت هذه التطورات، خاصة في مواجهة التطورات السريعة مثل الذكاء الاصطناعي التوليدي؟

منذ خمس سنوات، قمنا بتشكيل عملية أخلاقيات الذكاء الاصطناعي من خلال وضع مبادئ أخلاقيات الذكاء الاصطناعي الخاصة بنا، وهي المسؤولية والشفافية، والتي تعمل كأساس لعملية حوكمة أخلاقيات الذكاء الاصطناعي. قمنا بتشكيل فريق متنوع ومتعددي التخصصات من موظفي أدوبي من جميع أنحاء العالم لتطوير مبادئ يمكن تطبيقها على أرض الواقع.

من هناك، قمنا بتطوير عملية مراجعة شاملة لتحديد والمخاطر والتحيزات المحتملة في وقت مبكر من دورة تطوير الذكاء الاصطناعي. ساعدت هذه التقييم المتعدد على تحديد ومعالجة الميزات والمنتجات التي يمكن أن تعزز التحيزات والاستереوتيبات الضارة.

مع ظهور الذكاء الاصطناعي التوليدي، قمنا بتعديل تقييم أخلاقيات الذكاء الاصطناعي لمواجهة التحديات الأخلاقية الجديدة. سمحت لنا هذه العملية التكرارية بالبقاء في صدارة القضايا المحتملة، وضمان تطوير وتحديث تقنيات الذكاء الاصطناعي بشكل مسؤول. كان التزامنا بالتعلم المستمر والتعاون مع الفرق المختلفة في الشركة حاسمًا في الحفاظ على صلاحية وفعالية برنامج أخلاقيات الذكاء الاصطناعي، مما يعزز في النهاية الخبرة التي نقدمها لعملائنا وتعزيز الشمولية.

كيف تترجم مبادئ أخلاقيات الذكاء الاصطناعي في أدوبي – المسؤولية والشفافية – إلى العمليات اليومية؟ يمكنك أن تشاركنا بعض الأمثلة عن كيفية توجيه هذه المبادئ لمشاريع الذكاء الاصطناعي في أدوبي؟

نلتزم بالتزامات أخلاقيات الذكاء الاصطناعي في أدوبي في ميزاتنا المدعومة بالذكاء الاصطناعي من خلال تنفيذ ممارسات هندسية قوية تضمن الابتكار المسؤول، مع الاستمرار في جمع反馈 من موظفينا وعملائنا لتمكين التعديلات اللازمة.

تخضع الميزات الجديدة المدعومة بالذكاء الاصطناعي إلى تقييم أخلاقي شاملة لتحديد والمخاطر والتحيزات المحتملة. عندما قمنا بإطلاق أدوبي فايرفلاي، عائلة نماذج الذكاء الاصطناعي التوليدي، خضعت للتقييم لتقليل خطر توليد محتوى يمكن أن يعزز الاستереوتيبات الضارة. هذا التقييم هو عملية تكرارية تتطور بناءً على التعاون الوثيق مع فرق المنتجات، وتضمين الملاحظات والتعلم لتبقى ذات صلة وفعالية. كما نقوم بتمارين اكتشاف المخاطر مع فرق المنتجات لفهم الآثار المحتملة وتصميم آليات الاختبار والتعليقات المناسبة.

كيف تتعامل أدوبي مع المخاوف المتعلقة بالتحيز في الذكاء الاصطناعي، خاصة في الأدوات المستخدمة من قبل قاعدة مستخدمين عالمية ومتنوعة؟ يمكنك أن تشرح كيف تم تحديد وتقليل التحيز في ميزة معينة من الذكاء الاصطناعي؟

نحن نطور باستمرار تقييم أخلاقيات الذكاء الاصطناعي وعمليات المراجعة بالتعاون الوثيق مع فرق المنتجات والهندسة. التقييم الذي كان لدينا قبل بضع سنوات مختلف عن الذي لدينا الآن، وأتوقع تحولات إضافية في المستقبل. تسمح لنا هذه النهج التكراري بدمج التعلم الجديد ومواجهة القضايا الأخلاقية الناشئة مع تطور تقنيات مثل فايرفلاي.

على سبيل المثال، عندما أضفنا دعمًا متعدد اللغات إلى فايرفلاي، لاحظ فريقي أنه لم يكن يولد الإخراج المتوقع وبعض الكلمات كانت محظورة بشكل غير مقصود. لتقليل ذلك، عملنا بشكل وثيق مع فريق التدويل والمتحدثين الأصليين لتوسيع نماذجنا وتغطية المصطلحات والمرادفات الخاصة بالبلدان.

التزامنا بتطوير نهج التقييم مع تقدم التكنولوجيا هو ما يساعد أدوبي على توازن الابتكار مع المسؤولية الأخلاقية. من خلال تعزيز عملية شاملة ومتجاوبة، نضمن أن تتوافق تقنيات الذكاء الاصطناعي مع أعلى معايير الشفافية والنزاهة، مما يمنح المبدعين الثقة لاستخدام أدواتنا.

مع مشاركتك في تشكيل السياسات العامة، كيف تتعامل أدوبي مع تقاطع اللوائح المتغيرة بسرعة للذكاء الاصطناعي والابتكار؟ ما هو الدور الذي تلعبه أدوبي في تشكيل هذه اللوائح؟

نحن نشارك بنشاط مع واضعي السياسات ومجموعات الصناعة للمساعدة في تشكيل السياسات التي توازن بين الابتكار والاعتبارات الأخلاقية. تركز مناقشاتنا مع واضعي السياسات على نهجنا للذكاء الاصطناعي وأهمية تطوير التكنولوجيا لتعزيز تجارب الإنسان. يسعى واضعو السياسات إلى حلول عملية لمواجهة التحديات الحالية، ومن خلال تقديم إطارات مثل مبادئ أخلاقيات الذكاء الاصطناعي – التي طوّرناها بالتعاون وطبّقناها بشكل متسق في ميزاتنا المدعومة بالذكاء الاصطناعي – نحصل على مناقشات أكثر إنتاجية.

ما هي الاعتبارات الأخلاقية التي تُفضلها أدوبي عند الحصول على بيانات التدريب، وكيف تضمن أن تكون مجموعات البيانات المستخدمة أخلاقية وكافية لاحتياجات الذكاء الاصطناعي؟

في أدوبي، نُفضل عدة اعتبارات أخلاقية رئيسية عند الحصول على بيانات التدريب لنمذج الذكاء الاصطناعي. كجزء من جهودنا لتصميم فايرفلاي لتكون آمنة تجارياً، قمنا بتدريبه على مجموعة من المحتوى المرخص مثل أدوبي ستوك، والمحتوى العام حيث انتهت صلاحية حقوق النشر. كما ركزنا على تنوع مجموعات البيانات لتجنب تعزيز التحيزات والاستереوتيبات الضارة في مخرجات نموذجنا. لتحقيق ذلك، نتعاون مع فرق متنوعة وخبراء لمراجعة وتنقية البيانات. من خلال الالتزام بهذه الممارسات، نسعى لإنشاء تقنيات ذكاء اصطناعي لا تتميز فقط بقوتها وفعاليتها، ولكن أيضًا بأخلاقيتها وشموليتها لجميع المستخدمين.

ما مدى أهمية الشفافية في التواصل مع المستخدمين حول كيفية تدريب أنظمة الذكاء الاصطناعي في أدوبي مثل فايرفلاي وما نوع البيانات المستخدمة؟

الشفافية حاسمة عند التواصل مع المستخدمين حول كيفية تدريب ميزات الذكاء الاصطناعي التوليدي في أدوبي، بما في ذلك أنواع البيانات المستخدمة. تبني الثقة والثقة في تقنياتنا من خلال ضمان فهم المستخدمين للعمليات وراء تطوير الذكاء الاصطناعي التوليدي. من خلال أن تكون مفتوحة حول مصادر البيانات وطرق التدريب والحماية الأخلاقية التي لدينا، نمكن المستخدمين من اتخاذ قرارات مستنيرة حول كيفية تفاعلهم مع منتجاتنا. لا تتوافق هذه الشفافية فقط مع مبادئ أخلاقيات الذكاء الاصطناعي الأساسية لدينا، ولكنها أيضًا تعزز علاقة تعاونية مع مستخدمينا.

مع استمرار نمو الذكاء الاصطناعي، خاصة الذكاء الاصطناعي التوليدي، ما هي أكبر التحديات الأخلاقية التي ستواجهها الشركات مثل أدوبي في المستقبل القريب؟

أعتقد أن أكبر التحديات الأخلاقية للشركات مثل أدوبي هي تقليل التحيزات الضارة وضمان الشمولية والحفاظ على ثقة المستخدم. هناك قلق من أن يؤدي الذكاء الاصطناعي إلى تعزيز الاستереوتيبات أو توليد محتوى ضار ومضلل بشكل غير مقصود، وهو ما يتطلب اليقظة المستمرة والحماية القوية. على سبيل المثال، مع التطورات الأخيرة في الذكاء الاصطناعي التوليدي، أصبح من السهل على “الممثلين السيئين” إنشاء محتوى خادع ونشر معلومات خاطئة وتمثيل الرأي العام، مما يؤدي إلى تقويض الثقة والشفافية.

لمواجهة ذلك، أسست أدوبي مبادرة صحة المحتوى في عام 2019 لإنشاء نظام رقمي أكثر ثقة وشفافية للمستهلكين. تطبق مبادرة صحة المحتوى حلنا لإنشاء ثقة على الإنترنت – يسمى بيانات المحتوى. تشمل بيانات المحتوى “المكونات” أو المعلومات المهمة مثل اسم المنشئ وتاريخ إنشاء الصورة والأدوات المستخدمة لإنشاء الصورة وأي تحريرات تم إجراؤها في الطريق. هذا يمنح المستخدمين khảية إنشاء سلسلة رقمية من الثقة والصحة.

مع استمرار نمو الذكاء الاصطناعي التوليدي، سيكون من المهم تعزيز تبني بيانات المحتوى على نطاق واسع لاستعادة الثقة في المحتوى الرقمي.

ما النصيحة التي تقدمها للمنظمات الأخرى التي تبحث عن إطار عمل أخلاقي للتنمية؟

نصيحتي ستكون أن تبدأ بتحديد مبادئ واضحة وبسيطة وعمليّة يمكن أن توجّه جهودك. غالبًا ما أرى الشركات أو المنظمات تركز على ما يبدو جيدًا في النظرية، لكن مبادئها ليست عملية. السبب في أن مبادئنا استمرت هو أننا صممناها لتكون قابلة للتطبيق. عندما نقيم ميزاتنا المدعومة بالذكاء الاصطناعي، يعرف فريقنا الهندسي والمنتج ما الذي نبحث عنه وما هي المعايير التي نتوقعها منهم.

كما أنني أوصي المنظمات بالدخول إلى هذه العملية مع علم أنها ستكون تكرارية. قد لا أعرف ما ستحضره أدوبي في الخمس أو عشرة سنوات القادمة، لكنني أعرف أننا سوف نطور تقييمنا لتلبية هذه الابتكارات والتعليقات التي نتلقاها.

شكرًا على المقابلة الرائعة، القراء الذين يرغبون في معرفة المزيد يمكنهم زيارة أدوبي.