نافрина سينغ، الرئيس التنفيذي ومؤسس كريدو إيه آي – سلسلة المقابلات

نافрина سينغ هي الرئيس التنفيذي ومؤسس كريدو إيه آي، شركة تصمم منصة الحوكمة الشاملة لإيه آي كخدمة، التي تمكن الشركات والأفراد من فهم وإيصال إيه آي موثوقة ومتعاقبة، والبقاء في طليعة اللوائح والسياسات الجديدة، وخلق سجل إيه آي يمكن تدقيقه وشفafه في جميع أنحاء المنظمة. كانت الشركة تعمل في سرية وبناء محفظة عملاء مثيرة للإعجاب تشمل واحدة من أكبر مقاولي الحكومة وشركات الخدمات المالية في العالم، من بين العلامات التجارية الأخرى في فورتشن 100.

كنتي نشأت في مدينة صغيرة في الهند مع بدايات متواضعة، كيف وجدت نفسك متجذرة إلى الهندسة ومجال إيه آي؟

أنا来自 عائلة من الطبقة المتوسطة؛ كان والدي في الجيش لمدة أربع عقود و كانت أمي معلمة تحولت إلى مصممة أزياء. من سن مبكرة، شجعوني دائمًا على فضوليتي، وحبي للاكتشافات العلمية، ووفرولي مكانًا آمنًا لاستكشاف “ماذا لو”.

عندما كنت أكبر في الهند، لم تكن النساء قد حصلن على فرص كثيرة مثل الرجال. كانت العديد من القرارات قد اتخذت بالفعل من أجل فتاة، بناءً على ما كان مقبولًا من قبل المجتمع. كان الطريقة الوحيدة للخروج والتمتع بحياة جيدة لأسرتك من خلال التعليم.

بعد تخرجتي من المدرسة الثانوية، امتلكت أول كمبيوتر لي، الذي كان نافذتي إلى العالم. كنت حقًا مهتمة بالعتاد، وقضيت ساعات على الإنترنت تعلم كيفية تفكيك اللوحات الأم، و بناء تطبيقات الروبوتات، تعلم البرمجة، إعادة تشكيل الكهرباء في منزلي (يا إلهي!) والمزيد. أصبحت الهندسة مكانًا آمنًا لي، حيث يمكنني تجربة، استكشاف، بناء، وتجربة العالم الذي أردت أن أكون جزءًا منه من خلال اختراعي. كنت مستوحاة ومثيرة للاهتمام حول كيف يمكن أن تكون التكنولوجيا أداة قوية للتأثير على التغيير، خاصة بالنسبة للنساء.

كنتي نشأت، كانت وسailتي محدودة، ولكن الإمكانيات لم تكن كذلك. لقد حلمت دائمًا بالذهاب إلى الولايات المتحدة ل بناء أساس أقوى في التكنولوجيا لحل أكبر التحديات التي تواجه البشرية. هاجرت هنا في عام 2001، لمواصلة رحلتي الهندسية في جامعة ويسكونسن ماديسون.

على مدار عقدين تقريبًا في الهندسة، كان لي شرف العمل عبر تقنيات متقدمة متعددة، من الهواتف المحمولة إلى الواقع المعزز.

في عام 2011، بدأت استكشاف الذكاء الاصطناعي لبناء أعمال جديدة في كوالكوم. كما قمت ببناء أعمال وتطبيقات في إيه آي عبر الكلام والرؤية و NLP في مايكروسوفت وكوالكوم، على مدار العقد الماضي.随着 تعلمي المزيد عن إيه آي والتعلم الآلي، أصبح من الواضح أن هذه التكنولوجيا الجبهوية ستسبب اضطرابًا كبيرًا في حياتنا بما يفوق ما يمكننا تخيله.

(QCOM ) (MSFT )

بناء إيه آي على نطاق الشركات أيضًا جعلني أدرك كيف يمكن للتكنولوجيا أن تؤدي خدمة سيئة و تضر الناس والمجتمعات، إذا تركت دون رقابة. يجب علينا، كقادة، أن نتحمل مسؤولية شديدة عن التكنولوجيا التي نبنيها. يجب علينا أن نكون مت proactiv في تحقيق الفوائد القصوى لهذه التكنولوجيا للبشرية وتقليل المخاطر. بعد كل شيء “ما نصنع، يصنعنا” لذا فإن البناء مسؤولية حاسمة، وهو ما ألهم المرحلة التالية من مسيرتي المهنية في بناء حوكمة إيه آي.

متى بدأت التفكير جديًا في حوكمة إيه آي؟

عندما كنت رئيس الابتكار في كوالكوم، كنا نستكشف الإمكانيات التي يمكن أن تbringها إيه آي إلى أعمالنا الناشئة. كان عملنا الأول يركز على الروبوتات التعاونية التي تستخدم في سلسلة التوريد. كان هذا أول تعرض لي للمخاطر الحقيقية لإيه آي، خاصة فيما يتعلق بالسلامة البدنية للأشخاص الذين يعملون جنبًا إلى جنب مع هذه الأنظمة الروبوتية.

خلال هذه الفترة، قمنا بإنفاق وقت كبير مع الشركات الناشئة، مثل Soul Machines، لتعلم حالات استخدام جديدة وطرق التعاون معهم لتسريع عملنا. كان Soul Machines قد أطلقوا إصدارًا جديدًا من صورة الطفل، “Baby X”. مشاهدة هذا الطفل الذي يعتمد على الشبكات العصبية، والذي يتعلم بنشاط من العالم المحيط به، جعلني أتوقف وأفكر في العواقب غير المقصودة لتكنولوجيا إيه آي. كانت ابنتي زييا مولودة في نفس الوقت، ولقد أطلقنا عليها اسم “Baby Z” بعد Baby “X” من Soul Machines. لقد تحدثت عن هذا الأمر كثيرًا، بما في ذلك في كلمة رئيسية في Women In Product في عام 2019.

كانت رحلات التعلم ل Baby X و Baby Z مشابهة بشكل غريب! عندما كانت زييا تكبر، كنا نزويدها بالمفردات الأولية والأدوات للتعلم. مع مرور الوقت، بدأت تفهم العالم وتجمعه بنفسها. كان Baby X، الطفل الذي يعتمد على الشبكات العصبية، يتعلم أيضًا من خلال حساسات الرؤية والتعرف على الكلام، وبناء فهم عميق للعالم البشري.

جعلتني هذه اللحظات المبكرة في إيه آي أدرك أن من الضروري العثور على طرق لإدارة المخاطر ووضع حواجز فعالة حول هذه التكنولوجيا القوية لضمان استخدامها من أجل الخير.

يمكنك مشاركة قصة نشأة كريدو إيه آي؟

بعد كوالكوم، تم توظيفي لقيادة تأسيس تكنولوجيا إيه آي في مايكروسوفت في مجموعة التطوير التجاري، ولاحقًا في مجموعة المنتجات. خلال فترتي، كنت محظوظة للعمل على طيف من تكنولوجيا إيه آي مع تطبيقات في حالات استخدام من إيه آي الحوارية إلى استخبارات العقود، ومن التفتيش البصري إلى اكتشاف المنتجات القائمة على الكلام.

然而، بذرة حوكمة إيه آي التي غرسوها في كوالكوم استمرت في النمو عندما استمرت في الشهادة العاجزة المتزايدة في تطوير تكنولوجيا إيه آي. كما كنت محفزًا ل بناء تطبيقات إيه آي عالية الأداء مدفوعة بالتعلم الآلي ونشرها بسرعة في السوق.

كنا نرى الامتثال والحوكمة كفحص بوابة تبطئ من وتيرة الابتكار. ومع ذلك، ازدادت مخاوفي من عجز الحوكمة بين المحترفين التقنيين والمهنيين في المخاطر والامتثال والتدقيق، مما دفعتني إلى استمرار استكشاف التحديات في تحقيق حوكمة إيه آي.

جميع الأسئلة غير المجابة حول حوكمة إيه آي دفعتني إلى طلب الإجابات. لذلك بدأت في وضع الأساس لمنظمة غير ربحية تسمى MERAT (سوق أدوات إيه آي المسؤولة) بهدف إنشاء نظام بيئي للشركات الناشئة و Global 2000s التي تركز على تطوير إيه آي المسؤول.

من خلال التجارب المبكرة في MERAT، أصبح من الواضح أن هناك فجوة في الشركات الناشئة التي تمكن أدوات متعددة الأطراف لتوفير حوكمة شاملة لتطبيقات إيه آي و ML – حتى كريدو إيه آي. كانت هذه الفجوة فرصتي لتحقيق مهمة توجيه إيه آي عمدًا. استمرت في التحقق من فرضيتي أن الجبهة التالية من ثورة إيه آي ستكون محكومة بالحوكمة. ستظهر الشركات التي تتبنى الحوكمة كقادة في العلامات التجارية الموثوقة.

تم 접근ي من قبل AI Fund، وهو حاضنة تأسست بواسطة Andrew Ng، خبير إيه آي مشهور. كان AI Fund قد ركز على نفس المواضيع المتعلقة بتدقيق إيه آي والحوكمة التي كنت قد استهلكت بها لمدة عقد من الزمن.

تم تأسيس كريدو إيه آي في 28 فبراير 2020، بتمويل من AI Fund.

كريدو يعني “مجموعة من القيم التي توجيه أفعالك”. مع كريدو إيه آي، رؤيتنا هي تمكين الشركات من إنشاء إيه آي بأعلى المعايير الأخلاقية.

في مقابلة سابقة، تحدثت عن كيفية أن العلامات التجارية في المستقبل سوف تثق فقط على كيفية بناء و نشر إيه آي، ولكن على كيفية توسيع نطاق إيه آي بحيث تكون في خدمة البشرية. هل يمكنك توضيح ذلك؟

إيه آي هي واحدة من التكنولوجيات المبتكرة في هذا القرن وتقدم فرصًا تحويلية للاقتصاد والمجتمع. من المتوقع أن تساهم إيه آي بنحو 16 تريليون دولار في الاقتصاد العالمي بحلول عام 2030.

然而، السنوات القليلة الماضية ألقت الضوء على تهديدات إيه آي الكبيرة (وليس روبوتات السيطرة!) التي هي بالفعل هنا. على سبيل المثال، يمكن أن تقدم الخوارزميات القضائية التي تهدف إلى تحسين الحد الأدنى من العودة إلى الجريمة (العودة إلى السلوك الإجرامي) تحيزًا وتنكر العفو لأولئك الذين يستحقون ذلك.

يمكن أن تقسم الخوارزميات الاجتماعية التي تهدف إلى تحسين المشاركة دولة.

يمكن أن تكون الخوارزميات غير العادلة سببًا في عدم حصولك على وظيفة أو قبول في الجامعة.

كلما أمنحنا أدواتنا استقلالية، زادت نطاق العواقب غير المقصودة. يولد التأثير الاستثنائي تأثيرًا استثنائيًا، ولكن ليس دائمًا التأثير الذي ننويه (أكتب عن هذا في مانيفستو كريدو إيه آي).

أتنبأ بأن الشركات التي تستثمر في حوكمة إيه آي لمساعدتها على بناء التكنولوجيا مسؤولية و الالتزام بالاستخدام الأخلاقي للبيانات، ستتمكن من إثارة الثقة عبر جميع أصحاب المصلحة – العملاء، المستهلكين، المستثمرين، الموظفين، وغيرهم.

كيف تساعد كريدو إيه آي في الحفاظ على مسؤولية الشركات؟

المسؤولية تعني التزامًا بالموافقة على مسؤولية أفعالك. في سياق تطوير و نشر إيه آي، هذا يعني أن الشركات لا تحتاج فقط إلى أن تكون متوافقة مع “ما يبدو جيدًا لهم”، ولكن اتخاذ خطوات عمدية لتظهير الإجراءات على هذه الأهداف الموافقة وافتراض مسؤولية عن النتائج.

تهدف كريدو إيه آي إلى أن تكون شيربا للشركات في مبادرات إيه آي الأخلاقية والمسؤولة لتساعد في مساءلتها أمام أصحاب المصلحة المتنوعين: المستخدمين، الموظفين، المنظمين، المدققين، المستثمرين، التنفيذيين، وغيرهم. وبالتالي، قادت كريدو إيه آي في حل حقيقي، متعلق بالسياق، شاملة، ومستمر لتقديم إيه آي أخلاقي و مسؤول في النطاق.

بناء المسؤولية والثقة في إيه آي هو عملية ديناميكية. يجب على المنظمات أن تكون متوافقة مع قيم الشركة، وترميز هذه القيم، و بناءها في البنية التحتية للمنظمة، ومراقبة التأثير وتكرار العملية مع أصوات متنوعة توفير الإدخال في كل مرحلة. تمكن كريدو إيه آي من هذه المسؤولية من خلال حل شاملة و حقيقي ل إدارة الامتثال وقياس المخاطر لتطبيقات إيه آي في النطاق.

باستخدام حل حوكمة كريدو إيه آي، يمكن للشركات:

• التوافق على متطلبات الحوكمة لتطبيقات إيه آي و نماذجها، مع حزمة سياسات قابلة للتعديل وأدوات دعم القرار لاختيار مقاييس تقييم النموذج.
• تقييم و استجواب البيانات و نماذج ML مقابل هذه الأهداف الموافقة.
• تحليل المواصفات الفنية إلى تأثير خطر قابل للعمل في الأعمال في كل مرحلة من مراحل تطوير و نشر النموذج، بحيث يمكنك التقاط و إصلاح قضايا الحوكمة قبل أن تصبح مشاكل ضخمة.

من خلال تسجيل القرارات و الإجراءات في كل نقطة، تقوم كريدو إيه آي بتسجيل مصدر القرارات التي أدت إلى إنشاء النماذج كدليل. هذا الدليل سيكون سجلاً يتم مشاركته داخليًا مع أصحاب المصلحة في الشركة وخارجيًا مع المدققين، مما يبني الثقة في نوايا إيه آي.

سيساعد هذا الدليل فرق التطوير على التنبؤ ومنع العواقب غير المقصودة وسيوحد الطريقة التي نقييم بها فعالية و موثوقية نماذج إيه آي.

نحن في البداية المبكرة لتكليف حوكمة إيه آي من خلال التقييمات الشاملة والضمان، ونحن متحمسون للعمل مع المزيد من الشركات لترويج المسؤولية.

كيف تساعد كريدو إيه آي الشركات على التحرك بعيدًا عن كون حوكمة إيه آي فكرة ثانوية؟

في عالم اليوم، هناك نقص في الوضوح حول ما يعني “مسؤول” و “أخلاقي” و “موثوق” إيه آي، وكيف يمكن للشركات تقديم ذلك. نساعد في إعادة صياغة هذا السؤال الرئيسي للشركات، من خلال استخدام منصة كريدو إيه آي كخدمة لتظهير “اقتصاديات الأخلاقيات”.

مع كريدو إيه آي، يمكن للشركات تقديم إيه آي عادلة ومتوافقة ويمكن تدقيقها، بالإضافة إلى بناء ثقة العملاء.

بناء ثقة العملاء يمكن أن يوسع قاعدة العملاء ويفصل المزيد من المبيعات. على سبيل المثال، يمكن للشركات تقديم أفضل تجربة عملاء ممكنة باستخدام إيه آي أخلاقي في روبوتات الدردشة للخدمة العملاء، أو استخدام إيه آي مسؤول ل فهم نشاط المستخدم واقتراح محتوى أو منتجات إضافية لهم. العملاء المتحمسون جدًا يقدمون أفضل الإعلانات من خلال مشاركة تجاربهم مع الأصدقاء والعائلة.

بالإضافة إلى ذلك، يمكن للشركات أيضًا رؤية كيف يمكن للتعاون عبر الوظائف الفنية والرقابية مساعدتهم في توفير التكاليف بسبب وقت الامتثال السريع، وإدارة المخاطر المطلع، وتخفيض المخاطر العلامة التجارية والتنظيمية. نساعد المنظمات على نشر إيه آي أخلاقي من خلال بناء جسر بين المقاييس الفنية والنتائج التجارية الملموسة. كما يدرك الناس بشكل متزايد، فإن تأييد إيه آي الأخلاقي يتضمن أكثر من مجرد وضع علامة على مربع الامتثال التنظيمي. ولكن لديه القدرة على تقديم أكثر من مساهمة في عالم أكثر مساواة، وهو ما سيكون نتيجة جيدة بحد ذاتها.

عندما تتبنى شركة معايير أخلاقية عالية، يمكنها توقع نتائج أعمال حقيقية، مثل زيادة الإيرادات. تحويل المنظور من مفهوم “ناعم” مجرد إلى قرار أعمال موضوعي، كان أحد الطرق الرئيسية التي نساعد بها على وضع حوكمة إيه آي كجزء حرج من المحرك الاقتصادي والاجتماعي للشركة.

最近، أنشأت إدارة بايدن اللجنة الاستشارية الوطنية للذكاء الاصطناعي. ما هي الآثار المترتبة على هذا للشركات التي تعمل في مجال إيه آي؟

الحكومات في جميع أنحاء العالم تذهب إلى الأمام في تنظيم إيه آي، ويتعين على الشركات أن تكون مستعدة. إن إنشاء إدارة بايدن اللجنة الاستشارية الوطنية للذكاء الاصطناعي و الاستثمارات في مكتب العلوم والتكنولوجيا في البيت الأبيض هو خطوة جيدة لجعل الإجراءات في مناقشات حول مشروع قانون الحقوق لإيه آي. ومع ذلك، هناك الكثير من العمل الذي يتعين القيام به لتحقيق ما يعني إيه آي المسؤول.

أعتقد أن عام 2022 سيصبح عام العمل للمسؤولية في إيه آي. إنه نداء استيقاظ للشركات التي تهدف إلى تنفيذ أو تعزيز إطارها الأخلاقي لإيه آي. الآن هو الوقت المناسب للشركات لتقييم إطارها الحالي للفجوات، أو، للشركات التي تفتقر إلى نهج، لتنفيذ إطار صلب لموثوقية إيه آي لتأسيسها للنجاح في قيادة عصر إيه آي.

نحن نتوقع المزيد من اللوائح الصلبة واللينة التي تظهر. بالإضافة إلى إجراءات البيت الأبيض، هناك الكثير من الزخم القادم من واضعي السياسات والوكالات الأخرى، مثل مشروع قانون المسؤولية الخوارزمية في مجلس الشيوخ، وتوجيه لجنة التجارة الفيدرالية حول انحياز إيه آي، والمزيد.

إذا قفزنا إلى المستقبل، كيف سيكون重要 حوكمة إيه آي وأخلاقيات إيه آي في غضون خمس سنوات؟

نحن في البداية المبكرة لحوكمة إيه آي. لتأكيد مدى أهمية حوكمة إيه آي، إليك بعض توقعاتي للسنوات القليلة القادمة:

• حوكمة إيه آي الأخلاقية ستصبح أولوية منظمة رئيسية

تستمر الشركات في الاستثمار و الحصول على فوائد من استخدام إيه آي في أعمالها. من المتوقع أن تنفق IDC 340 مليار دولار على إيه آي في عام 2022. بدون حوكمة، ستتردد الشركات في الاستثمار في إيه آي بسبب مخاوف من الانحياز وأمان و دقة و امتثال هذه الأنظمة.

بدون ثقة، ستتردد المستهلكون أيضًا في قبول منتجات أو مشاركة بيانات بناء هذه الأنظمة. خلال السنوات الخمس القادمة، ستصبح حوكمة إيه آي الأخلاقية أولوية في غرفة المجلس و مقياسًا مهمًا الذي يجب على الشركات الإفصاح عنه و تقريره ل بناء الثقة عبر أصحاب المصلحة.

• فئات وظيفية جديدة ستنشأ داخل المنظمة

نحن نشهد بالفعل مؤسسات متقدمة تستثمر بكثافة في مستقبل التطوير لضمان إيه آي عادلة ومتوافقة ويمكن تدقيقها.

لقيادة إيه آي، ستتطلب الشركات التوسع في التعلم حول المنظر التنظيمي لإيه آي وتنفيذ هياكل المسؤولية في النطاق.随着 تطور مجال تطبيق إيه آي الأخلاقي، قد تظهر فئة وظيفية جديدة لتسهيل هذه المحادثات وتولي المسؤولية في هذا المجال. يمكن لهذه المكونة الجديدة من القوى العاملة أن تعمل كوسيط بين الوظائف الفنية والرقابية، لمساعدة تطوير معايير و أهداف مشتركة.

• تجارب إيه آي الجديدة ستحتاج إلى حوكمة أكثر صرامة

إدارة العواقب المقصودة و غير المقصودة للذكاء الاصطناعي هي حرجة، خاصة عند دخولنا عالم Metaverse و web3. المخاطر التي تطرحها إيه آي موجودة في العالم الحقيقي و العالم الافتراضي، ولكنها تزيد في العالم الافتراضي.

بالغوص في Metaverse بدون حوكمة إيه آي، تعرض الشركات عملاءها لمخاطر مثل سرقة الهوية و الاحتيال. من الضروري حل مشاكل إيه آي و الحوكمة في العالم الحقيقي الآن لضمان سلامة المستهلكين في Metaverse.

• نظم جديدة في حوكمة إيه آي الأخلاقية ستنشأ

لقد استيقظ العالم إلى فكرة أن حوكمة إيه آي تمثل الحجر الأساس لتشغيل إيه آي المسؤول. خلال السنوات القليلة القادمة، سنرى سوقًا ديناميكيًا وتنافسيًا لمقدمي الخدمات ي出现 لتقديم أدوات وخدمات و تعليم و قدرات أخرى لدعم هذا الحاجة الكبيرة.

بالإضافة إلى ذلك، سنرى أيضًا توحيد وتعزيز منصات MLops و GRC الحالية لجلب قدرات الحوكمة و التقييم إلى إيه آي.

هل هناك أي شيء آخر تريد مشاركته حول كريدو إيه آي؟

حوكمة إيه آي الأخلاقية هي استثمار محمي من المخاطر لا يمكنك أن تتخلف عنه، واليوم هو أفضل يوم للبدء.

شكرًا على المقابلة المفصلة ومشاركتك جميع رؤىك المتعلقة بحوكمة إيه آي و الأخلاقيات، القراء الذين يرغبون في معرفة المزيد يجب أن يزوروا كريدو إيه آي.