مارك فرنانديز، كبير مسؤولي الإستراتيجية في Neurologyca – سلسلة المقابلات

مارك فرنانديز، كبير مسؤولي الإستراتيجية في Neurologyca، هو مستشار تقني وتنفيذي تطوير أعمال يمتلك أكثر من عقدين من الخبرة في مجال الذكاء الاصطناعي، التقنيات الناشئة، الإلكترونيات الاستهلاكية، وتفاعل الإنسان مع الحاسوب. في Neurologyca، يركز على الإستراتيجية وتسويق تقنية “الذكاء الاصطناعي لسياق الإنسان”، التي صُممت لمساعدة أنظمة الذكاء الاصطناعي على تفسير إشارات مثل الضغط، الثقة، والمشاركة. شغل فرنانديز سابقًا منصب الرئيس التنفيذي لشركة Pearl، وهي منصة موجهة بالذكاء الاصطناعي تركز على المهارات الناعمة والتطوير المهني، كما كان رائد أعمال مقيم في ALIVE Ventures حيث عمل في مجال التقنيات الخاصة بالشيخوخة. في وقت سابق، قاد الإستراتيجية الأمريكية في OPPO، مركّزًا على التقنيات الجيل التالي بما فيها الذكاء الاصطناعي، Web3، البلوك تشين، وأنظمة تشغيل الهواتف المحمولة، وشغل مناصب عليا في تطوير الأعمال في شركات Emerge، Denizen، SweetLabs، Movella، وX‑Rite/Pantone. كما قضى 15 سنة كأستاذ مساعد في جامعة جنوب كاليفورنيا، يدرّس عند تقاطع ريادة الأعمال، التواصل، المنصات الاجتماعية، الذكاء الاصطناعي، البلوك تشين، وغيرها من التقنيات الناشئة.

Neurologyca هي شركة ذكاء اصطناعي مقرها سان فرانسيسكو تُنشئ ما تصفه بـ “طبقة سياق الإنسان” للأنظمة الذكية، مما يمكّن تطبيقات وعوامل الذكاء الاصطناعي من فهم الأشخاص الذين تخدمهم بشكل أفضل والتكيف معهم. تُعالج منصتها القائمة على API وSDK الإشارات السلوكية المتعددة الأنماط، وأنماط التفاعل، والسياق الظرفي لتوليد مؤشرات قابلة للقراءة آليًا حول عوامل مثل المشاركة، الثقة، الضغط، الانتباه، والموثوقية. يمكن لهذه الرؤى أن تساعد أنظمة الذكاء الاصطناعي على تعديل استجاباتها، وتيرة عملها، توصياتها، وإجراءاتها في الوقت الفعلي مع الحفاظ على استمرارية السياق عبر التفاعلات. تُصنّف Neurologyca التقنية كالبنية التحتية بدلاً من تطبيق مستقل، مع إمكانات تطبيقية تمتد إلى التعليم والتدريب، العافية، برامج المؤسسات، العوامل المستقلة، سلامة السائق، الألعاب، وأنظمة تفاعلية أخرى. الشركة تُقدّم المنصة حاليًا عبر برنامج وصول مبكر انتقائي للشركاء الذين يبنون تجارب ذكاء اصطناعي متكيفة.

لقد أخذتك مسيرتك من إستراتيجية التكنولوجيا الجيل التالي في OPPO إلى بناء Pearl حول المهارات الناعمة المدعومة بالذكاء الاصطناعي والآن إلى تطوير الذكاء الاصطناعي لسياق الإنسان في Neurologyca. كيف شكل هذا التدرج رؤيتك بأن أحد أكبر قيود الذكاء الاصطناعي ليس الذكاء نفسه، بل فهم الإنسان خلف التعليمات؟

منذ ثلاثين عامًا، جعل الويب المعلومات متاحة. قبل خمس سنوات، جعل الذكاء الاصطناعي المخرجات وفيرة. اليوم نغرق في المحتوى ولا نزال نكافح للحصول على نتائج مفيدة. القوة التقنية الخام لا تضمن نتيجة جيدة للإنسان الفعلي على الطرف المستقبل.

هذا هو الخط الفاصل في عملي—من دمج التقنية الناشئة في الحياة اليومية في OPPO، إلى اختبار ما إذا كان الذكاء الاصطناعي يستطيع تعليم المهارات الشخصية في Pearl، إلى بناء سياق الإنسان كبنية تحتية في Neurologyca. الذكاء لم يعد هو القيد الحقيقي؛ النماذج تستطيع التفكير والتنفيذ بشكل جيد. القضية الأصعب هي كل السياق غير المعلن الذي يجلبه الناس إلى طلب بسيط: لماذا سألوا، ما الذي يزعجهم، أم هل يعني تردد طفيف أن النظام يجب أن يتوقف. حاليًا، يرى الذكاء الاصطناعي شريحة مضغوطة من ذلك عبر النص فقط، ومع بدء العوامل في اتخاذ إجراءات في العالم الحقيقي، يصبح هذا العدم البصر نقطة حرجة.

أمثلة حديثة على عوامل مستقلة تسرق بيانات الاعتماد، تُنشئ هويات مزيفة، أو تُخفي أفعالها تثير تساؤلات حول ما يحدث عندما يصبح الذكاء الاصطناعي فعالًا جدًا في تحقيق هدف دون أن يفهم النية الكاملة وراءه. هل ترى ذلك في المقام الأول كمشكلة توافق، مشكلة هندسية، أم كقيد أساسي في طريقة تصميمنا الحالي للعوامل؟

إنها فشل تصميم يشمل كلًا من التوافق والهندسة. لقد حسّنا الأنظمة للوصول إلى الأهداف دون أن نبذل نصف الجهد في تعليمها ما هو النجاح الفعلي بالنسبة للمستخدم البشري.

انظر إلى مثال GPT‑4 الشهير مع TaskRabbit: عندما واجه نموذج CAPTCHA، كذب وادعى أنه يعاني من إعاقة بصرية للحصول على عامل بشري لحله. لم يُعلّمه أحد أن يخدع أحدًا؛ فقط حدد عقبة واختار أقل مسار مقاومة. إذا كافئنا العامل بناءً على النتيجة فقط، سيتخذ اختصارات جريئة. التحدي الأساسي هو تقسيم الإجراءات التي يجب حجبها معماريًا عن تلك المسموح بها تقنيًا لكنها خاطئة في السياق.

لقد جادلت بأن الشركات تتحسن في إخبار عوامل الذكاء الاصطناعي ما الهدف الذي يجب متابعته دون أن تزودها بفهم كافٍ لما يعنيه “النجاح” للمستخدم البشري. ما المعلومات التي يحتاجها العامل إلى جانب المطالبة نفسها لفهم النية حقًا؟

المطالبات ليست سوى الطبقة السطحية. النية الحقيقية تعتمد على العمق الظرفي: التاريخ السابق، ما هي المساومات المقبولة، ما هي المخاطر الفعلية، وكيف يتفاعل المستخدم أثناء المهمة.

بعض ذلك يأتي من حالة بيئة التطبيق أو سجل الدردشة، لكن في التفاعلات المباشرة، الإشارات السلوكية هي ما يبقي السياق ديناميكيًا. الناس يترددون، يغيرون رأيهم في منتصف الطريق، أو يشتتون. إذا لم يتمكن العامل من قراءة تلك التحولات، سيستمر في متابعة تعليمات أصبحت قديمة قبل خطوتين.

هناك فرق مهم بين الإجراءات التي يجب أن تكون مستحيلة تقنيًا للعامل وتلك المسموح بها لكنها غير ملائمة في سياق معين. كيف ينبغي للمطورين تقسيم المسؤولية بين الحواجز الأمنية الصارمة وقدرة نظام الذكاء الاصطناعي على ممارسة الحكم السياقي؟

أي إجراء يسبب ضررًا جسيمًا دون أي حالات استخدام مشروعة—سرقة بيانات الاعتماد، مسح سجلات التدقيق، تصعيد صلاحيات غير مصرح به—يجب أن يُحذف برمجياً من الوجود. لا ينبغي للعامل أن يضيع دورة حسابية في التفاوض حول ما إذا كان يتجاوز ضوابط الأمان؛ يجب أن تجعل بنية النظام ذلك مستحيلًا.

المنطقة الرمادية الحقيقية هي الإجراءات اليومية مثل إرسال رسائل بريد إلكتروني، إلغاء اجتماعات، أو تعديل سير عمل داخلي. هذه الإجراءات مسموح بها نظريًا، لكن ما إذا كان العامل يجب أن ينفذها تلقائيًا يعتمد على المخاطر، تاريخ المستخدم، إمكانية التراجع، وإشارات التردد الدقيقة. معرفة متى يتوقف لأن السياق مفقود أهم بكثير من القدرة الخام.

تطوّر Neurologyca تقنية يمكنها تحويل إشارات مثل الضغط، الثقة، الانتباه، المشاركة، والثقة إلى سياق قابل للقراءة آليًا. كيف يمكن لهذه الإشارات عمليًا أن تغيّر سلوك عامل ذكاء اصطناعي مستقل أثناء تنفيذ مهمة؟

هذه المدخلات السلوكية هي في الأساس بيانات رد فعل فورية—الحلقة التغذوية التي تفتقدها بنى الذكاء الاصطناعي الحالية. الآن، تتعقب النماذج أفعالها الخاصة، لكنها تعمل عمياء تمامًا تجاه كيفية تلقي الإنسان لها. تخيّل سياق تدريس: يكتب المستخدم “أنا أفهم”، لكن إشاراته الفسيولوجية أو السلوكية تشير إلى ارتباك متصاعد وانخفاض الانتباه. هذه إشارة مباشرة للذكاء الاصطناعي لتغيير الاتجاه، إبطاء السرعة، أو تقديم شرح بديل. الهدف ليس تشخيصًا سريريًا؛ بل إنشاء حلقة تغذية راجعة محكمة—السياق، الفعل، الاستجابة، التكيّف—حتى يتعلم النظام ما ينجح فعلاً لهذا الفرد المحدد.

السياق البشري قد يكون غامضًا أيضًا. قد يسيء النظام تفسير التردد، الضغط، نبرة الصوت، أو إشارات سلوكية أخرى. كيف تمنع الذكاء الاصطناعي الواعي للسياق من أن يصبح واثقًا بشكل مفرط مما يفكر أو ينوي الشخص؟

الإشارات السلوكية بطبيعتها صاخبة واحتمالية. قفزة مفاجئة في الضغط أو توقف عن الكتابة قد تعني ارتباكًا، أو قد تكون مجرد انسكاب القهوة. الأنظمة التي تترجم نقطة بيانات واحدة إلى ادعاء قاطع حول الحالة العاطفية لشخص ما هي في جوهرها معيبة.

الأنظمة المتينة تنظر إلى مجموعة إشارات على مدى الزمن، وتؤخذ في الاعتبار الأساس البيئي، وتخرج حدود ثقة صريحة. هناك فرق هائل بين تسجيل “ارتفاع الحمل المعرفي مقارنة بالأساس” وتحديد “المستخدم قلق”. عندما تكون الشكوك مرتفعة أو المخاطر كبيرة، لا يُفترض أن يخمن العامل—بل يطرح سؤال توضيحي.

إدخال الإنسان في الحلقة لكل قرار حاسم قد يضعف الكثير من الكفاءة التي تعد بها العوامل المستقلة. كيف يبدو نموذج إشرافي قابل للتوسع حيث يعرف العامل متى يمكنه المتابعة بمفرده ومتى يحتاج حقًا إلى التوقف وطلب التوجيه؟

الإشراف القابل للتوسع لا يعني الحفاظ على إنسان في الحلقة دائمًا؛ بل يعني التصعيد الديناميكي.

المهام منخفضة المخاطر والقابلة للتراجع تُنفّذ تلقائيًا. لكن مع ارتفاع المخاطر، أو زيادة الضوضاء المحيطة، أو ظهور إشارات تدل على عدم ارتياح المستخدم، يرتفع عتبة الموافقة ديناميكيًا. من الضروري أن تكون هذه العتبات شخصية—فمدير قد يفوض إدارة التقويم بسعادة، بينما آخر يفضّل الموافقة على كل تعديل صغير. يجب أن يتعلم النظام حدود كل فرد، لا أن يطبق سياسات عامة صلبة.

مع تطور العوامل للذاكرة المستديمة والنماذج المفصلة للأشخاص الذين يخدمونهم، قد يصبح السياق سريعًا بيانات شخصية حساسة. كيف ينبغي للشركات التعامل مع الموافقة، الخصوصية، ملكية البيانات، والحدود التي يجب أن يُسمح للعامل بتذكرها عن المستخدم؟

هذه هي القنطرة الأساسية للثقة التي تواجه الأنظمة المستقلة. الذاكرة المستديمة تحول الأداة العامة إلى مساعد، لكن هناك تقاطع خطر بين تخزين تفضيلات سير العمل وبناء ملف نفسي غير مصرح به. تحتاج حوكمة البيانات هنا إلى حدود غرضية صارمة. إذا استنتج العامل نمط ضغط خلال جلسة تدريب تنفيذي، لا يجوز أن يتسرب هذا السياق إلى تقييم الأداء، خوارزميات التأمين، أو تقنيات الإعلان. يجب أن تكون الشفافية دقيقة—يحتاج المستخدم إلى رؤية ما تم تخزينه من سياق، زر حذف بنقرة واحدة، وحدود احتفاظ افتراضية معقولة. مجرد قدرة النظام على استنتاج شيء عنك لا تعطيه إذنًا لتخزينه.

كيف نقيم ما إذا كان العامل المستقل يفهم نية الإنسان حقًا؟ هل تركّز معايير اليوم بشكل مفرط على إكمال المهمة والدقة بدلًا من ما إذا كان العامل قد حقق الهدف بطريقة يراها المستخدم مقبولة؟

إكمال المهمة هو معيار مخادع بعمق. يمكن للعامل اتباع التعليمات حرفيًا ومع ذلك ينتج نتيجة يكرهها المستخدم.

إذا حصل العامل على أقل سعر لعقد لكنه أفسد علاقة طويلة الأمد مع المورد لتحقيق ذلك، تسجل مؤشرات التقييم التقليدية نسبة نجاح 100 ٪. بالنسبة للمدير التنفيذي، هذا كارثة. نحتاج إلى معايير تقيس الأداء ضمن حدود غير معلنة: هل احترم المعايير غير اللفظية؟ هل توقف عندما تغيرت الظروف؟ هذه الفجوة بين الإكمال الخام والرضا الفعلي هي ما تتجاهله المعايير الحالية تمامًا.

نظرة مستقبلية، هل تتوقع أن تصبح قدرات سياق الإنسان طبقة معيارية في بنية الذكاء الاصطناعي إلى جانب النماذج، الذاكرة، الأدوات، والأمان؟ ما الذي لا يزال يحتاج إلى حل قبل أن تتمكن المؤسسات من تفويض عمل ذي معنى للعوامل دون الإشراف المستمر؟

مع انتقال الذكاء الاصطناعي من توليد المحتوى إلى اتخاذ إجراءات في العالم الواقعي، يصبح سياق الإنسان طبقة أساسية. النماذج تتعامل مع الاستدلال والأدوات تعطي النظام أيديًا، لكن بدون سياق الإنسان كحلقة تغذية راجعة حية، تظل الذاكرة وحواجز الأمان تعمل على افتراضات ثابتة.

قبل أن تفوض المؤسسات سلطة حقيقية، لا يزال علينا حل خصوصية السياق، الاستدلال الاحتمالي تحت عدم اليقين، وقواعد الحوكمة الدقيقة. بناء ذكاء اصطناعي يُنَجِز مهامًا معزولة قد تم حله إلى حد كبير؛ لكن جعل الأنظمة تتكيف ديناميكيًا مع الإنسان خلف المطالبة هو ما سيحدد مقدار الاستقلالية الحقيقية التي سنمنحها.

شكرًا لك على هذه المقابلة الرائعة، القراء الذين يرغبون في معرفة المزيد ينبغي عليهم زيارة Neurologyca.