سيليان كييران، المؤسس والرئيس التنفيذي لشركة Ethyca – سلسلة المقابلات

سيليان كييران، المؤسس والرئيس التنفيذي لشركة Ethyca، هو رائد أعمال ومهندس خصوصية مع أكثر من عقدين من الخبرة في بناء الشركات التكنولوجية المكثفة في البيانات. قبل تأسيس Ethyca في عام 2019، قاد وكالة CKSK الرقمية لمدة عقد من الزمن وأسس بعد ذلك BrandCommerce، مستفيداً من خلفيته في هندسة البرمجيات وتصميم تجربة المستخدم وبرامج البيانات الكبيرة للشركات. في Ethyca، ركز كييران على تحويل الخصوصية وحوكمة البيانات من وظيفة مطابقة يدوية في الغالب إلى بنية تحتية يمكن دمجها مباشرة في كيفية بناء الشركات وتشغيل التكنولوجيا.

Ethyca تطور بنية تحتية موثوقة للبيانات تساعد الشركات على اكتشاف المعلومات الحساسة وإدارة الموافقة وتنفيذ طلبات الخصوصية وفرض القواعد التي تحكم كيفية استخدام البيانات عبر التطبيقات التقليدية وأنظمة الذكاء الاصطناعي. منصة الشركة مبنية حول Fides، لغة حوكمة مفتوحة المصدر تخلق إطاراً متسقاً لتحديد ومراجعة وفرض استخدامات البيانات المسموح بها عبر الأنظمة وواجهات برمجة التطبيقات وأنابيب الذكاء الاصطناعي. وتطلق الشركة الآن Astralis، طبقة حوكمة للذكاء الاصطناعي التي تجمع التقييمات التنظيمية الآلية مع التحكم في الوصول القائم على الغرض، مما يتيح للشركات تحديد سبب وصول النماذج والوكلاء إلى بيانات معينة وفرض تلك الأذونات في الوقت الفعلي. تقول Ethyca إن المنصة يمكن أن تقلل التقييمات التي تتطلب عادة 40 إلى 60 ساعة من العمل اليدوي إلى حوالي 20 إلى 40 دقيقة، مما يساعد الشركات على توسيع نطاق عمليات الذكاء الاصطناعي دون جعل عمليات الحوكمة عائقاً.

لقد أسست شركات متعددة قبل إطلاق Ethyca في عام 2019، بما في ذلك بناء CKSK إلى استشارة رقمية عالمية تخدم الشركات في قائمة فورتشن 500. ما هي الخبرات التي وثقت خلال تلك الرحلة التي أقنعتك بأن حوكمة البيانات، بدلاً من نماذج الذكاء الاصطناعي نفسها، ست trởة الحاجز المحدد لاعتماد الشركات للذكاء الاصطناعي؟

قضيت سنوات في بناء استشارة رقمية تخدم الشركات الكبيرة مثل هينيكن وسوني وبيبسي خلال الازدهار الذهبي للإعلان الرقمي ووسائل التواصل الاجتماعي. مررت دائماً بنفس النمط. تظهر تقنية قوية، ويتسارع الجميع لاعتمادها، وبمجرد أن تصبح متأصلة في الأعمال، يأتي المنظمون لتحديد الحدود حولها، تاركين فرق المطابقة للتعامل مع العواقب. khwift GDPR، أول حملة حقيقية لتنظيم كيفية استخدام الشركات للبيانات الشخصية. لم ي介ن المنظمون حتى بعد أن أصبحت تكنولوجيا التسويق ووسائل التواصل الاجتماعي قد حولت جمع البيانات إلى العمود الفقري لنموذج أعمالها. كان واضحاً لي أن نفس النمط سيحدث مع الذكاء الاصطناعي.

ما عزز هذا الشك الذي لدي كان العمل على مطابقة الخصوصية الذي كنت أعمل عليه في Ethyca. عند بناء أنظمة المطابقة للشركات الكبيرة، أدركت أنك يمكن أن تضع طبقة حول بيانات الشركة لتقييم كل طلب ضد ثلاثة أشياء: ما هي البيانات، ما السماح باستخدامها، وما الخطر إذا قمت بذلك. العمل على ذلك جعل العائق الحقيقي واضحاً. الشركات ليست قصيرة على البيانات، إنما قصيرة على طبقة حوكمة تحدد ما البيانات المسموح باستخدامها.

خلال العام الماضي، تحول الذكاء الاصطناعي للشركات من محادثات بسيطة إلى وكلاء مستقلين قادرون على اتخاذ القرارات والقيام بالactions. كيف غيرت تلك التطورات تحديات الحوكمة التي تواجهها المنظمات، ولماذا لا تتمتع المناهج التقليدية للمطابقة بالقدرة على التكيف؟

يتحدث الناس عن الذكاء الاصطناعي للشركات وعودته على الاستثمار كما لو أن القيمة تأتي من مجرد توصيل وكيل إلى عمليات العمل. في الواقع، تأتي القيمة من توصيل ذلك الوكيل إلى مجموعة واسعة من الأنظمة، بحيث يمكنه تحليل البيانات وإنتاج مخرجات لا يستطيع أي إنسان جمعها في الوقت نفسه. الوصول إلى البيانات هو الحاجز الحقيقي.

الملحق هو أن الشيء الذي يجعل الوكيل قيمة هو ما يجعله مخاطراً. كلما زادت الأنظمة التي توصلها، زادت البيانات التي تتدفق من جزء إلى آخر من المنظمة، وكل تدفق من تلك التدفقات ي trởة فرصة للبيانات لأن تنتهي في المكان الخطأ.

كل واحدة من تلك التدفقات تحتاج إلى التحقق: هل هذه البيانات مسموح باستخدامها بهذه الطريقة، لهذا الغرض، بموجب قانون الخصوصية وسياستنا الخاصة؟ عندما يكون هناك عدد قليل من تلك القرارات كل يوم، يمكن لأحد الأشخاص اتخاذ كل قرار يدوياً. عندما يكون هناك وكيل ذكاء اصطناعي يطلق آلاف الطلبات في الثانية، ي trởة مستحилаً على الإنسان.

في ذلك الحين، ي trởة الحوكمة التقليدية غير صالحة.

تطلق Ethyca Astralis كطبقة حوكمة للذكاء الاصطناعي للشركات. ما هي التحديات المحددة للعملاء التي أدت إلى إنشاء المنصة، ولماذا الآن هو الوقت المناسب لإطلاقها؟

عملية تنظيف البيانات للذكاء الاصطناعي لا تزال تحدث بنفس الطريقة التي كانت عليه في عام 2016، مع أشخاص يملأون استبيانات ويجرون تقييمات يدوياً. تلك العملية كانت بطيئة جداً حتى للعمل العادي المتعلق بالخصوصية، وأمام حجم حالات استخدام الذكاء الاصطناعي، لا تتمتع بالقدرة على التكيف. معظم ما يباع باسم حوكمة الذكاء الاصطناعي حالياً هو نفس النماذج والعمليات مع وضع علامة “الذكاء الاصطناعي” عليها. ملء استمارة ليس حوكمة. ما يفتقر إليه هو برنامج ي thựcي العمل الحوكمة نفسه، بدلاً من إنتاج سجل لأحد الأشخاص الذين قاموا بذلك يدوياً. هذا ما بنينا Astralis لتحقيقه.

الطلب الذي نستجيب له يأتي من الفرق التي تمت إخطارها بشحن الذكاء الاصطناعي بسرعة وبأمان، ولا يمكنهم القيام بذلك حالياً. الوكلاء يدخلون الإنتاج بسرعة أكبر من أي فريق يمكنه مواكبته، وسؤال المنظمين قد تغير. كان السؤال في الماضي 是否 لديك سياسة. الآن، السؤال هو ما إذا كنت تستطيع أن تثبت أن السياسة اتبعتها على قطعة معينة من البيانات، لغرض معين. يمكن للشركات الإجابة على السؤال الأول جيداً. ومع ذلك، لا يستطيع معظمهم الإجابة على السؤال الثاني.

تتنبأ شركة Gartner أن شركة Fortune 500 المتوسطة قد تتمكن من تشغيل 150,000 وكيل ذكاء اصطناعي بحلول عام 2028، مقارنة بـ 15 فقط في عام 2025. كيف يجب على قادة الشركات إعادة التفكير في الحوكمة في عالم قد يفوق فيه وكلاء الذكاء الاصطناعي المستقلون عدد الموظفين البشر الذين يتعاملون مع البيانات؟

بحلول عام 2028، سيتجاوز عدد الوكلاء الذين يتعاملون مع بيانات الشركة عدد الموظفين الذين يفعلون ذلك. عندما يكون الفاعلون الذين يستخدمون بياناتك في الغالب آلات، من هو المسؤول؟ النموذج القديم يحدد المسؤولية في الموافقة النهائية البشرية، ولكن عندما تكون معظم تلك القرارات لا تتخذها الأجهزة ولا تتم مراجعتها من قبل البشر، يجب أن تنتقل المسؤولية من الأشخاص إلى الأنظمة.

قامت البنوك بهذا التحول منذ فترة طويلة. لا نثق في بنك لأن موظفاً يعد الأوراق يدوياً. نثق به لأن التحكمات صحيحة، وهناك أشخاص مسؤولون عن الحفاظ عليها. يجب على حوكمة البيانات أن تفعل الشيء نفسه. الدليل على أن الشركة تتعامل مع البيانات بمسؤولية ي trởة من كون شخصاً قد راجعها، لي trởة أن النظام يفرض السياسة تلقائياً على كل استخدام، ويمكن أن يقدم الأدلة على ذلك، بحيث تكون المسؤولية مدمجة.

هذا سوف يسمح لقادة الأعمال بالتركيز على ما هم جيدون فيه: تطبيق الحكم، ووضع القواعد، والدفاع عن النظام.

تجمع Astralis نموذج تنظيمي للغة كبيرة مع التحكم في الوصول القائم على الغرض. هل يمكنك شرح كيف تعمل هذه التكنولوجيا معاً لضمان فهم أنظمة الذكاء الاصطناعي ليس فقط من يمكنه الوصول إلى البيانات، ولكن أيضاً لماذا يجب أن يكون قادراً على الوصول إليها؟

التحكم التقليدى في الوصول يتحقق من من أنت، وإذا كان هويتك تسمح لك بالوصول إلى بيانات معينة.

لكن الخصوصية مختلفة؛ ليست مسألة من يصل. يمكن لأحد الأشخاص أن يكون مخولاً تماماً للوصول إلى مجموعة بيانات ويتعامل معها لشيء لم يكن مخولاً قط لفعل ذلك. السؤال الذي ي trởة महतي هو ماذا يتم استخدام البيانات من أجله، وما إذا كان الغرض المسموح به. هذا ما يجيب عنه التحكم في الوصول القائم على الغرض وينفذه.

الجزء الصعب هو أن الغرض ليس حقيقة تقنية يمكن قراءتها من قاعدة بيانات. يعتمد على ما تفعله عملك، وما وعدت العملاء به، وما يسمح به القانون. هذا ما يفعل النموذج التنظيمي للغة الكبيرة. يتعلم كيفية عمل عملك الخاص، ثم يعمل من خلال التنظيمات التي تنطبق عليه. الناتج هو تحديد واضح لما يمكن استخدام كل نوع من البيانات من أجله وما لا يمكن. ثم ينفذ التحكم في الوصول القائم على الغرض ذلك التحديد عند نقطة الوصول. النموذج التنظيمي للغة الكبيرة يعتبر، والتحكم في الوصول القائم على الغرض يعتمد.

يذكر إعلان إطلاقك أن تقييمات الذكاء الاصطناعي يمكن تقليلها من 40 إلى 60 ساعة من العمل اليدوي إلى 20 إلى 40 دقيقة فقط. ما هي الأجزاء الأكثر عيباً في عملية الحوكمة الحالية، وأين يحدث أكبر مكاسب التأهيل؟

معظم تلك 40 إلى 60 ساعة لا تُستخدم في شيء يحتاج إلى حكم بشري. تُستخدم في التجميع. يحدد شخص ما البيانات يدوياً، ويحتفظ بها في جدول، ثم يطارد السياق عبر الفرق. وبمجرد جمع كل ذلك، التقييم الفعلي، الجزء الذي يحتاج إلى شخص يفكر، هو جزء صغير من العمل. الجزء الآخر هو عمل محترف يجمع المعلومات التي تملكها الشركة بالفعل، لكنها منتشرة عبر الفرق.

التقييم هو صورة واحدة في الوقت، ولكن حالات استخدام الذكاء الاصطناعي لا تتوقف عن الظهور. تظهر حالات جديدة باستمرار، وكل واحدة منها تحتاج إلى مراجعة خاصة. لذلك، العملية اليدوية ليست فقط بطيئة مرة واحدة، بل دائماً متأخرة عن وتيرة الأعمال التي تريد أن تتحرك فيها، وسوف تصبح غير قابلة للإدارة عندما تريد الشركات

المنافع الكفاءة تأتي من تغيير من يفعل ماذا. النظام يجمع البيانات الوصفية بنفسه، لذلك لا يتعين على أحد السعي وراء السياق يدوياً. يظهر فقط الأسئلة التي يمكن لأحد الأشخاص الإجابة عليها فعلاً – القرارات الحقيقية – بدلاً من أن يجعل شخصاً يطحن عبر الحقول التي يمكن أن يملأها آلة. وسجل المراجعة يبني نفسه أثناء التقييم، بدلاً من كتابة شخص ما عنه لاحقاً من الذاكرة. هذا هو المكان الذي ي trởة 40 ساعة إلى 40 دقيقة.

إحدى المطالبات الأكثر إثارة هي أن مؤسسة مالية كبرى في الولايات المتحدة تتمكن من معالجة حوالي 6,000 طلب حوكمة في الثانية من خلال Astralis. ما الذي يعلّمنا تشغيل النظام عند هذا الحجم عن متطلبات البنية التحتية للمستقبل للذكاء الاصطناعي للشركات؟

الدروس هي أن الحوكمة لا يمكن أن تكون خطوة منفصلة بعد الآن. عند 6,000 قرار في الثانية، يجب أن تحدث داخل مسار البيانات نفسه، بنفس سرعة الاستفسارات والنماذج التي تحكمها. بالنسبة للذكاء الاصطناعي، يجب أن تكون الحوكمة بنية تحتية: دائماً تشغيل، دائماً في الخط، وليس تقريراً ينتج على الجانب. يجب أن تكون سريعة، لأن إذا كانت الحوكمة بطيئة، تصبح الشيء الذي يتعين على الناس تجاوزه للوفاء بموعدهم النهائي.

تستمر التنظيمات المتعلقة بالذكاء الاصطناعي في التطور بسرعة في كل من الولايات المتحدة وأوروبا. كيف تبني منصة حوكمة يمكنها التكيف مع الإطارات القانونية المتغيرة دون إجبار الشركات على تحديثات سياسة يدوية مستمرة؟

الخطأ الذي يرتكبه معظم أدوات المطابقة هو وضع القواعد في المنتج، بحيث عندما تتغير القانون، تكون عالقة في انتظار بائع إعادة هندسة الأداة. Astralis مبنية للعمل بالطريقة المعاكسة. في قاعدتها، هناك لغة مشتركة لوصف البيانات واستخداماتها، ولا تحتوي على قواعد على الإطلاق. القواعد تقع بشكل منفصل، في طبقة سياسة فوقها. النموذج التنظيمي للغة الكبيرة يقرأ التنظيم، ويعمل على ما يعنيه ذلك لعملك الخاص، ويكتب السياسة وفقاً لذلك. ثم ينفذ التحكم في الوصول القائم على الغرض ما تقوله تلك السياسة في الوقت الحالي – لذلك، فإن تغيير القواعد يترك آلية التنفيذ سليمة تماماً.

عندما يصل تنظيم جديد، يمكن أن تذهب كل جهود الشركة إلى فهم ما يعنيه للعمل؛ لا يذهب أي منها إلى إعادة هندسة أنظمة الخصوصية.

يتساءل العديد من التنفيذيين عن وكلاء الذكاء الاصطناعي الذين يأخذون قرارات غير مصرح بها أو يصلون إلى معلومات حساسة. ما مدى واقعية هذا القلق اليوم، وما هي الحوافز العملية التي يجب على المنظمات تنفيذها قبل نشر وكلاء الذكاء الاصطناعي على نطاق واسع؟

إنه قلق حقيقي، ويحدث بالفعل. فرضت كاليفورنيا غرامة قدرها 2.75 مليون دولار على ديزني لأن أنظمتها لم تتمكن من فرض الخروج من القائمة بشكل موثوق. في أنظمتها، لم يبق المستهلك الذي خروج من القائمة على جهاز واحد مخرج من القائمة على الأجهزة الأخرى، ولم تُعتبر تعليمات الخروج من القائمة على مستوى المتصفح طلبات صالحة على الإطلاق. لم تكن تلك الحادثة ناجمة عن وكيل يتصرف بطريقة غير متوقعة، بل كانت فجوة بسيطة بين ما قالت ديزني للعملاء وما كان نظامها قادراً على فرضه.

الحوافز التي تمنع ذلك هي غير ملهمة: اعرف ما البيانات التي تمتلكها وما وعدت به. احتفظ بها جميعاً في مكان واحد، لأن معظم تلك الفشل تأتي من وعد فريق لم يصل إلى قاعدة بيانات فريق آخر.

إذا نظرنا إلى الأمام ثلاثة إلى خمس سنوات، ما الذي سوف يميز الشركات التي تنجح في تشغيل الذكاء الاصطناعي بنجاح عن تلك التي تظل مبادراتها في الذكاء الاصطناعي عالقة في مشاريع تجريبية، وما دور الحوكمة في خلق ذلك الميزة التنافسية؟

سوف يكون الفرق بين شركة تملك نظاماً واحداً لحوكمة جميع بياناتها وشركة تختار لصق الحوكمة على كل قاعدة بيانات وفريق على حدة. الشركات التي لا تزال تحكم بياناتها من قسم إلى قسم سوف تواصل اصطدامها بالجدران، لأن الذكاء الاصطناعي يمتد عبر الأقسام بالتصميم. كل شركة تُ 告ى بتشغيل الذكاء الاصطناعي بسرعة وعدم النهاية في رسالة منظم، ولم يكن هذان الأمرين يتنافيان حتى الآن. من يحل كلاهما، بدلاً من التسوية من أجل واحد، سوف يفوز بالعقد.

شكراً على المقابلة الرائعة، القراء الذين يرغبون في معرفة المزيد يجب أن يزوروا Ethyca أو Astralis.