ناتاشا موهانتي، نائب الرئيس للهندسة في دوبل – سلسلة مقابلات

ناتاشا موهانتي، نائب الرئيس للهندسة في دوبل، هي قائدة تقنية محنكة ذات خبرة عميقة في مجالات الذكاء الاصطناعي، والدفع، والوسائط، والمنصات الاستهلاكية. قبل انضمامها إلى دوبل، قادت الهندسة لشركة ستрайب في مجموعة الدفع المُحسّنة وسلسلة الرابط، مما أدى إلى توسيع المنظمة من 30 إلى 200 مهندس، مما ساعد في تعزيز اعتماد كبير عبر منتجات الدفع والمحفظة الاستهلاكية لشركة ستрайب. في وقت سابق، شغلت منصب نائب الرئيس للهندسة في نيلسن بعد استحواذها على بريزما.اي، شركة تحليل الوسائط والتحليلات الإعلامية التي تعمل بالذكاء الاصطناعي والتي共同 أسستها وقادتها كمسؤول تقني. في وقت سابق من مسيرتها المهنية، أمضت أكثر من سبع سنوات في جوجل، حيث عملت عبر جودة البحث، وجوجل نيوز، وتخصيص جوجل+. (GOOGL )

دوبل هي شركة هندسة اجتماعية أصلية بالذكاء الاصطناعي تركز على حماية المنظمات، والتنفيذيين، والعلامات التجارية، والعملاء من التقليد القوي بالذكاء الاصطناعي، والغش، والخداع، والمخاطر الرقمية الأوسع. منصة الشركة تجمع بين حماية المخاطر الرقمية، وحماية التنفيذيين والعلامات التجارية، وأمان البريد الإلكتروني، وإدارة المخاطر البشرية، والتحاكي، وتدريب الوعي الأمني، باستخدام الذكاء الاصطناعي وذكاء المخاطر في الوقت الفعلي لاكتشاف، وترجمة، واعتراض بنية المهاجم عبر قنوات مثل النطاقات، ووسائل التواصل الاجتماعي، وتطبيقات المراسلة، والإعلانات، والويب المظلم. وقد وضعت الشركة نفسها حول التهديد المتزايد للتقليد الاجتماعي القوي بالذكاء الاصطناعي، مما يساعد فرق الأمن على الاستجابة للهجمات المتطورة بشكل متزايد عبر المناظر الرقمية الحديثة.

لقد قادت منظمات هندسية في شركات بما في ذلك ستрайب، وجوجل، ونيلسن، ودوبل الآن. كيف تطورت رؤيتك لدور مهندس البرمجيات من كتابة الأنظمة مباشرة إلى تنسيق سير عمل متقدم بالذكاء الاصطناعي?

لقد تغير سير عمل مهندس البرمجيات بشكل كبير، ولكن المسؤولية المطلوبة من المهندسين لم تتغير. عندما بدأت مسيرتي في جوجل قبل عقدين، قضاء المهندسين معظم وقتهم في كتابة ومراجعة التعليمات البرمجية بأنفسهم. اليوم، يمكن للذكاء الاصطناعي التعامل مع معظم توليد التعليمات البرمجية، ولكن المهندسين لا يزالون مسؤولين عن تعريف الأهداف، واعتماد المخرجات، وإنشاء حواجز أمان، ومراجعة التعليمات البرمجية، وضمان استمرار تشغيل الأنظمة بشكل موثوق به على المدى الطويل. في nhiều طرق، وسع الذكاء الاصطناعي نطاق مسؤولية الهندسة بدلاً من تقليله.

ما تطورت هو حيث يخلق المهندسون القيمة. مع اتخاذ الذكاء الاصطناعي لميكانيكا البرمجة، يصبح الدور متزايدًا في التركيز على الذوق والحكم، وفهم المشكلة، وصنع القرارات المعمارية، وتقييم التبادل، وضمان أن النتائج تتوافق مع احتياجات المستخدم والعمل.

لقد جادلت بأن الذكاء الاصطناعي لا يقلل من مسؤولية الهندسة، بل يوسعها. ما هي أكبر المفاهيم الخاطئة التي لا يزال التنفيذيين لديهم حول ما يمكن للوكلاء البرمجيين بالذكاء الاصطناعي التعامل معه بشكل واقعي دون إشراف بشري?

أكبر مفاهيم خاطئة هي أن الذكاء الاصطناعي سيقضي على الحاجة إلى مهندسين أقوياء. الواقع هو أن الذكاء الاصطناعي يرفع السقف لما يمكن لفريق ماهر صغير بناءه، مما يجعل حكم الهندسة أكثر قيمة، لا أقل.

ما يتغير هو مساحة السطح التي يتحملها المهندسون. لم يعودوا يكتبون التعليمات البرمجية فقط. إنهم يحددون ما سيُبنى، واعتماد وكالات أنهم يفعلون ما قصده، وامتلاك النتيجة عندما لا يفعلون.

إذا كان هناك شيء يتغير، فمساحة المشكلة أصبحت أكثر إثارة. المهاجمون لديهم الوصول إلى نفس أدوات الذكاء الاصطناعي التي لدينا، مما يعني أن تحدي البقاء أمامهم أصبح أكثر صعوبة، وأكثر إثارة، مما كان عليه من قبل. لا يوجد نقص في المشاكل الصعبة التي يجب حلها، ودوبل تعمل على توظيف مهندسين عبر الهندسة لأشخاص متحمسين بهذا النوع من العمل.

عندما تبدأ فرق الهندسة في تنسيق وكلاء متعددين بالذكاء الاصطناعي عبر البرمجة، والاختبار، والتصحيح، والتوثيق، ما يشبه سير عمل “إدارة الوكيل” الفعال في الممارسة؟

يتمتع المهندسون بشكل متزايد بدور مديري الأنظمة المستقلة، لا مساهمين فقط. يمكن للمهندسين الأفضل حاملين السياق الهام عبر سير عمل متوازية متعددة مع معرفة دقيقة بالسياق الذي يجب مشاركته مع كل وكيل. في الممارسة، يعني ذلك كتابة معايير قبول محددة جيدًا، ووضع حواجز واضحة للخصوصية والأمان، وطلب من الوكلاء شرح منطقهم وافتراضاتهم كخطوة للتأكيد. إذا لم يكن الوكيل قادرًا على توضيح ما يفعله ولماذا، فلا يمكنك الثقة الكاملة بالخرج.

في دوبل، نبني أنظمة وكيلية تحقق التهديدات، وتكيف باستمرار مع سياسات الكشف، وتوضح قراراتها باللغة البسيطة. يتطلب إدارة الوكيل الفعال أيضًا بنية تحتية على مستوى النظام، بما في ذلك بيئات الإعداد، وخطوط الاختبار الآلية، وأدوات الأمان مع صلاحيات ومراقبة محددة، وإطارات تقييم تقييم مستمر لتحديد ما إذا كانت الوكالات والنظام الأوسع يعملان كما هو متوقع.

ما هي أكبر المخاطر التشغيلية أو الأمنية التي تظهر عندما يُمنح وكلاء الذكاء الاصطناعي الوصول إلى أدوات داخلية، أو أنظمة إنتاج، أو سير عمل حساسة دون حواجز قوية؟

المخاطر ليست فقط أن وكلاء الذكاء الاصطناعي يرتكبون أخطاء. إنها أنهم يمكن أن يرتكبوا أخطاء بمقياس صعب على اكتشافه في الوقت الفعلي. الخطر الأكثر تحديدًا هو وكلاء يتصرفون خارج نطاقهم المقصود، سواء كان ذلك الوصول إلى أنظمة لم يُصمّموا للتعامل معها أو التعامل مع بيانات لا ينبغي الاحتفاظ بها.

في منتج أمان البريد الإلكتروني، على سبيل المثال، يعالج الوكلاء بيانات حساسة بشكل固有. لقد اتخذنا خطوات كبيرة لضمان أن يكون للوكلاء هذه الوصول المقيد بشكل صارم، ولا يمكنهم التعرض بشكل غير مقصود لمعلومات شخصية حساسة في المستقبل، ولا يُحتفظون بمعلومات سرية، مع الحفاظ على السياق اللازم لاتخاذ القرار الصحيح.

في أي نقطة يبدأ الاعتماد بشكل كبير على التعليمات البرمجية التي يولدها الذكاء الاصطناعي في إعاقة الديون التقنية على المدى الطويل، وكيف يجب على قادة الهندسة التفكير في موازنة السرعة مقابل القابلية للصيانة؟

المخاطر هي تقديم الأولوية للسرعة قصيرة الأمد على الأسس التي تسمح للنظم بالتوسع والتطور. واحدة من أكبر الدروس التي تعلمتها من وقت tôi في ستрайب هي أن ليس كل القرارات متساوية. بعضها هو أبواب خفية: من الصعب عكسه، ومن المحتمل أن يكون له عواقب على المدى الطويل، في حين أن البعض الآخر يمكن تغييره بسهولة.

مع الذكاء الاصطناعي، الانضباط هو معرفة أي قرارات لا تزال تحمل عواقب على المدى الطويل، ووضع حواجز أقوى حولها، والحركة بسرعة فيما تبقى. في دوبل، يعني ذلك استخدام أنظمة التقييم والوثائق الحالية لضمان استمرار عمل الوكلاء كما هو مقصود مع تطور الأنظمة. الهدف ليس إبطاء، ولكن ضمان أن السرعة لا تهدد أساسًا هادئًا.

خلال وقتك في توسيع منظمات الهندسة في ستрайب، ما هي الدروس حول الموثوقية والثقة وتصميم الأنظمة التي تشعر أنها أكثر صلة في عصر وكلاء الذكاء الاصطناعي المستقل؟

في ستрайب، كانت الموثوقية كل شيء، خاصة لأن صناعة المالية كانت منظمًا بشكل كبير، ويمكن أن يكون لها تأثير مدمر على الأعمال إذا انهار منافذ الدفع. إذا لم تعمل نظام كما هو مقصود، كان هناك تأثير مباشر على العملاء، مما خلق ثقافة قوية من الملكية والمسؤولية في الشركة.

واحدة من الأشياء التي جذبتني إلى دوبل كانت مستوى مشابه من الهوس بالعملاء. الفرق هنا منضبط بشكل عميق لفهم التحديات التي يواجهها العملاء وملكية حلولها.

الآن، وأنا في دوبل، تشعر هذه الدروس بالصلة بشكل خاص. نبني أنظمة أصلية بالذكاء الاصطناعي لمساعدة المنظمات على الدفاع ضد هجمات التقليد الاجتماعي المتطورة. ومثل ستрайب، حيث لا يمكنك أن ت允ي لمنافذ الدفع أن تنهار، من الكارثي للأعمال عدم وجود وضع أمني قوي. كلاهما يعتبر مخاطر عالية، ولكن لأسباب مختلفة.

كيف تتوقع أن تتغير توظيف الهندسة على مدى السنوات القليلة القادمة مع زيادة الشركات للاهتمام بالذكاء الاصطناعي، والتفكير في الأنظمة، والتعلم؟

أعتقد أننا سنجد تركيزًا متزايدًا على توظيف مهندسين يمكنهم العمل بتميز، وحكم قوي، وسرعة التعلم. هذه هي السمات التي لطالما توظيفتها، ولكنها تهم أكثر الآن، لا أقل. على مدار مسيرتي، لم يكن المهندسون الذين كان لهم أكبر تأثير دائمًا أولئك الذين لديهم التخصص الضيق. كانوا أولئك الذين يمكنهم التكيف بسرعة، والتنقل عبر الغموض، والتعلم المستمر مع تطور التكنولوجيا.

لكن العارضة قد تحولت. في دوبل، المشاكل التي نحلها ليست محددة جيدًا. نحن نعمل باستمرار للبقاء أمام المهاجمين الذين يعتمدون أيضًا على الذكاء الاصطناعي، مما يعني بناء أنظمة مثل وكلاء ذكاء المخاطر التي تكتشف التهديدات بشكل استباقي. لا يوجد دليل قائم لهذا النوع من العمل، لذلك يتطلب ذلك الصلابة والإرادة لدفع حدود ما هو ممكن.

سيتابع الذكاء الاصطناعي تغيير كيفية عمل الأشياء، ولكن الشركات ستحتاج إلى أشخاص يمكنهم العمل عبر الأنظمة وملكية دورة حياة ما يبنون. المهندسون الذين يزدهرون سيكونون أولئك الذين يعيدون اختراع ما لديهم من قدرات مع تطور مشهد الذكاء الاصطناعي حولهم.

لقد عملت على نطاق واسع على التخصيص، وأنظمة التوصية، والمنصات القوية بالذكاء الاصطناعي على مدار مسيرتك. كيف يؤثر ذلك الخبرة على كيفية تفكيرك في التعاون بين البشر والذكاء الاصطناعي داخل منظمات الهندسة اليوم؟

شيء واحد تعلمته من العمل على التخصيص وأنظمة الذكاء الاصطناعي هو أن جودة الإخراج فقط جيدة مثل جودة الإدخالات، بما في ذلك بيانات التدريب، وإطارات التقييم، وتصريف ما يعني “جيد” حقًا. النماذج جيدة في معالجة المعلومات على نطاق واسع، ولكن الناس يأتون بالحكم، والسياق، وفهم ما يهم أكثر.

أعتقد أن نفس المبدأ ينطبق على منظمات الهندسة التي تعمل اليوم. يمكن للذكاء الاصطناعي مساعدة الفرق على الحركة بسرعة، ولكن أفضل الفرق سيكونون مدروسين حول السياق والحقائق الأرضية التي يمنحونها للذكاء الاصطناعي، وكذلك كيف تتكامل أنظمة الذكاء الاصطناعي في النظام البيئي الهندسي الأوسع. لا يزال المهندسون بحاجة إلى اتخاذ القرارات، وتقييم التبادل، وملكية النتيجة في النهاية.

هل تعتقد أن الميزة التنافسية في النهاية ستأتي من التشفير الأسرع، أو من بناء منظمات تعرف كيف تحكم وتنسق أنظمة الذكاء الاصطناعي بشكل فعال؟

السرعة مهمة، خاصة في الأمن السيبراني، حيث أن التأخر عن المهاجمين ليس خيارًا. ولكن السرعة بدون حواجز هي فقط وسيلة أسرع لإنشاء فجوات قابلة للاستغلال. ينبغي أن تكون حوكمة أنظمة الذكاء الاصطناعي أساسًا لكل شركة تبني بالذكاء الاصطناعي، وليس فكرة لاحقة. من الضروري ضمان الجودة، والموثوقية، والمسؤولية في سير عمل هندسة البرمجيات. في صناعة الأمن السيبراني على وجه الخصوص، الحوكمة ضرورية لأن المهاجمين سيجدون ويسخران أي فجوة تتركونها. هذا هو السبب في أننا بنينا منصة الوكيل في دوبل، قادنا بالحواجز الأمنية واضحة مع سجل تدقيق مدمج من البداية.

متى نتطلع إلى المضي قدمًا بخمس سنوات، ما شكل فريق هندسة البرمجيات الحديثة بعد أن يصبح وكلاء الذكاء الاصطناعي متأصلين في سير عمل التطوير اليومية؟

من الصعب التنبؤ بخمس سنوات بدقة لأن العالم يتحرك بسرعة. ما يمكنني قوله بثقة أكبر هو أنه خلال الثمانية عشر شهرًا إلى ثلاث سنوات القادمة، من المحتمل أن يتعامل وكلاء الذكاء الاصطناعي مع معظم توليد التعليمات البرمجية، والاختبار، والتصحيح الأولي.

ما سيكون للمهندسين هو حكم المنتج: المواصفات، الذوق، الهندسة المعمارية، والمسؤولية عند حدوث شيء ما. قد تصبح الفرق أصغر، ولكن الدور سيكون أكثر صعوبة. المهندسون الذين يزدهرون لن يكونوا بالضرورة أولئك الذين ينتجون أكثر التعليمات البرمجية، ولكن أولئك الذين يمكنهم توجيه، وتقييم، وتصحيح الأنظمة المستقلة بشكل فعال.

من خلال العمل من خلال التغييرات التكنولوجية السابقة، تعلمت أن الابتكار نادرًا ما يتبع خطًا مستقيمًا. الفرق التي تنجح ستكون تلك التي تبقى فضولية، وتتكيف بسرعة، وتطوير سير عملها مع تغير التكنولوجيا.

شكرًا على المقابلة الرائعة، القراء الذين يرغبون في التعلم أكثر يجب أن يزوروا دوبل.