مقابلات
تشيستر ليونغ، المؤسس المشارك ورئيس منصة الذكاء الاصطناعي في OPAQUE – سلسلة المقابلات
تشيستر ليونغ هو المؤسس المشارك ورئيس هندسة المنصة في OPAQUE، وهي شركة ناشئة من الفئة أ تقوم ببناء منصة البيانات والذكاء الاصطناعي الموثوقة التي تمكن الفرق من توسيع خطوط أنابيب البيانات الخاصة بهم مع طبقة موثوقة، مما يتيح الحصول على رؤى أسرع مع moins من الجهد والخصوصية والسيطرة القابلة للتحقق.
في السابق، كان تشيستر طالبًا دراسات عليا في علوم الحاسوب في جامعة كاليفورنيا، بيركلي، حيث نشر أوراقًا مراجعة الأقران في المؤتمرات الرائدة وأشرف أيضًا على صيانة مشروع MC2 المفتوح المصدر لتحليلات وتعلم الآلة الآمنة.
أنت مؤسس مشارك لشركة Opaque بعد وقتك في مختبر RISELab بجامعة كاليفورنيا، بيركلي، حيث جسّرت عملك بين الذكاء الاصطناعي والأنظمة الآمنة. ما هو الفراغ المحدد في بنية تحتية البيانات للشركات الذي رأيته وادعى إلى إنشاء OPAQUE، وكيف أثر خبرتك الأكاديمية في اتجاه الشركة؟
في ذلك الوقت، كان هناك تركيز هائل، في كل من الأكاديمية والصناعة، على استخدام تعلم الآلة لاستخدامات محددة. في المختبر، كنا محظوظين للغاية بوجود رعاة شركات كبرى ساعدونا الباحثين على تشكيل عملنا لحل مشاكل أكثر إلحاحًا التي واجهوها داخل منظماتهم. كانت مجموعتنا، على وجه الخصوص، لديها فرصة فريدة للعمل بشكل وثيق مع شركات التكنولوجيا والخدمات المالية والتأمين (BFSI) ، بالتعاون لحل مشاكل خصوصية صعبة حول استخدام البيانات الحساسة ولكن القيمة لتعلم الآلة. مثل جميع مجالات الذكاء الاصطناعي، يعتمد تعلم الآلة على كميات كبيرة من البيانات عالية الجودة لإنتاج رؤى قيمة ومتينة.
لقد واجهنا نفس النمط مرة تلو الأخرى أثناء التعاون مع الفرق من شركات مثل أمازون و Scotiabank و Ant Group (سابقًا Ant Financial) : مشاريع تعلم الآلة التي تتمتع بقدرة على توليد قيمة للشركة، ولكنها عُلقت قبل الوصول إلى الإنتاج بسبب مخاوف حول استخدام البيانات الحساسة ولكن الحيوية لهذه الاستخدامات. بعبارة أخرى، لم تكن هذه الفرق قادرة على استخدام الذكاء الاصطناعي في المشاريع التي كانت تعرف أنها يمكن أن تولد قيمة للشركة، ليس بسبب مشكلة تقنية مع الذكاء الاصطناعي، ولكن لأنهم لم يتمكنوا من الحصول على الوصول إلى البيانات الصحيحة.
في Opaque، نحن نحل مشكلة متطابقة. نحن نساعد الفرق على الحصول على الوصول إلى البيانات الصحيحة، مما يتيح لهم تفعيل أو بيع قدرات الذكاء الاصطناعي الخاصة بهم. التغيير الوحيد منذ أيام بحثنا هو إلحاح المشكلة: نحن الآن نرى تبني الذكاء الاصطناعي وتكاملها بشكل متواصل، وهو ما يظل مقيدًا بالوصول إلى البيانات الصحيحة، ليصبح أمرًا استراتيجيًا على مستوى الشركة.
في مشهد حيث تستثمر الشركات الكبيرة في نماذج التفكير والذكاء الاصطناعي المستقل، لماذا تعتقد أن خطوط أنابيب البيانات الآمنة أكثر أهمية من أي وقت مضى؟
خطوط أنابيب البيانات الآمنة هي العمود الفقري الذي تبني عليه الشركات نماذج التفكير والذكاء الاصطناعي المستقل. كل شيء من تدريب هذه النماذج إلى نشر الذكاء الاصطناعي المستقل يتضمن بيانات حساسة ويعتمد على خطوط أنابيب البيانات الآمنة.
على سبيل المثال، نحن نرى الآن في الصناعة استثمارًا متزايدًا في توليد بيانات عالية الجودة لتدريب هذه النماذج. وتوقعت بعض التقارير أن استثمار الحوسبة في توليد البيانات عالية الجودة سيكون قريبًا أكثر من استثمار الحوسبة على تدريب النماذج نفسها. بالطبع، يعتمد توليد البيانات على عملية متعددة الخطوات مدعومة بخطوط أنابيب تنتج ملكية فكرية قيمة لشركة ما: بيانات عالية الجودة ومحددة النطاق التي يمكن أن تتدرب نماذج توليد قيمة هائلة فيما بعد. الاستثمار في توليد هذه البيانات هائل، والبيانات المولدة، بالنظر إلى أصلها، تميز شركة ما عن منافسيها، وتعمل كخندق لها. يجب على الشركة أن تفعل كل ما في وسعها لحماية خطوط أنابيب البيانات هذه.
منصة OPAQUE للحوسبة الموثوقة تمكن من تحليل البيانات المشفرة. ما هي التحديات الفنية الأساسية في جعلها قابلة للتطوير ومريحة للمطورين في بيئات الشركات؟
منصتنا للذكاء الاصطناعي الموثوق لا تمكن فقط من التحليل والتعلم الآلي والذكاء الاصطناعي التوليدي على البيانات المشفرة، ولكنها توفر أيضًا دليلًا قابلًا للتحقق على أن بياناتك تم استخدامها بالطرق التي تتوقعها وتمكن فقط.
التحديات الأساسية، مع التطوير والإدارة، تكمن في جعل تنسيق الحمل الموثوق والقابل للتحقق على نطاق واسع. على وجه الخصوص، تستخدم العديد من الشركات اليوم خدمات السحابة المدارة عند الحاجة إلى التوسع. يمكن أن يكون هذا كفيلًا بالتكلفة وفعالًا. ومع ذلك، يظل بعض البرامج التي تدعم خدمات السحابة المدارة تحت سيطرة مزود السحابة. لذلك يصبح التحدي هو كيف يمكن لمنظمة أن تأمن البرامج التي لا تخضع لسيطرتها؟ إذا أخذت المنظمة سيطرة جميع البرامج، فماذا تفقد بذلك؟ وماذا تفقد بذلك؟
لقد قلت إن هندسة التصميم الآمنة يمكن أن توفر ميزة تنافسية دائمة. هل يمكنك توضيح كيف يلعب هذا المبدأ دورًا عمليًا للفرق التي تعمل بالذكاء الاصطناعي في الشركات؟
هناك زاويتان لنظرتهما إلى هذا الأمر: زاوية المنتج وزاوية الهندسة.
من زاوية المنتج، الجميع يفهمون أن بياناتهم مشعة، أو خندقهم، أو كليهما. تصبح الشركات أكثر نضجًا في تقييم حلول الخصوصية والأمان والسيادة. وبالتالي، يجب على أي فريق يبني أي منتج يعالج بيانات الشركات أن يوفر ضمانات بأن البيانات المعالجة لا تظهر أو تستخدم إلا للأطراف والمؤسسات المأذون لها. توفر هندسة التصميم الآمنة ثقة بأن خصوصية البيانات والأمان والسيادة كانت اعتبارات أولية في تصميم المنتج، وتمكّن المنتج من تقديم هذه الضمانات بشكل صريح.
من زاوية الهندسة، هندسة التصميم الآمنة أكثر قابلية للتوسيع وأكثر استدامة. تصبح فرق القانون والمخاطر والامتثال أكثر صرامة استجابة للمخاطر واللوائح الجديدة. وبالتالي، يجب على المنظمات الهندسية بناء نظام ذكاء اصطناعي آمن من البداية حتى لا تضطر إلى إعادة هندسته و/أو تصحيح نظامها الحالي عندما تدرك أن نظامها الحالي غير كافٍ من الناحية الأمنية والمخاطر. إعادة هندسة النظام وتصحيحه تكلف أشهرًا، إن لم تكن سنوات، من النطاق العريض للهندسة القيمة.
كيف يجب على المنظمات إعادة التفكير في دور البيانات – بعيدًا عن كونها موردًا – كخندق قابل للدفاع عنه؟
هناك إجماع متزايد في الصناعة على أن البيانات قد تصبح قريبًا الخندق الوحيد الذي تملكه المنظمة. لقد رأينا مواهب البحث والهندسة والتقنيات والمنتجات الرائعة التي تبنيها تنط من منظمة إلى أخرى.
ما لا يمكن نقلها بسهولة من منظمة إلى أخرى، مع ذلك، هي بيانات المنظمة – إلا إذا تسربت. وعلاوة على ذلك، إنها بالضبط هذه البيانات التي يمكن أن تجعل منتجًا أكثر جاذبية من منافسيه – أكثر شخصنة، وتAILORING، ومحددة النطاق. يجب على المنظمات أن تفعل كل ما في وسعها لحماية بياناتها، مما يتيح لها استغلال بياناتها كالميزة التنافسية.
ما هو شكل خط أنابيب الذكاء الاصطناعي المتين في الممارسة، وكيف يساعد الشركات على تجنب التكاليف أو المخاطر الخفية أثناء توسيع نطاق عمليات الذكاء الاصطناعي؟
خط أنابيب الذكاء الاصطناعي المتين هو الذي يعتمد عليه، ومقاوم للأخطاء، ولكن الأهم من ذلك كله، موثوق به ومحمي من النهاية إلى النهاية. قبل المعالجة، يجب على الشركات التحقق من البيانات التي تدخل الخط الأنابيب، وكذلك الخط الأنابيب نفسه، لضمان عدم وجود إمكانية لخط الأنابيب لتسرب البيانات أو تشويه الرؤى التي توفرها. أثناء المعالجة، يجب أن يكون خط أنابيب الذكاء الاصطناعي محميًا من التلاعب، لضمان عدم khả năng لأي شخص سرقة أي بيانات يتم معالجتها أو تشويه الرؤى التي توفرها. بعد المعالجة، يجب أن يكون خط أنابيب الذكاء الاصطناعي قابلًا للتدقيق، بحيث يمكن للفريق ملاحظة وتفسير اتخاذ القرارات وتحرك خط أنابيب الذكاء الاصطناعي، ويمكن للفريق رؤية ما пошكلة عندما يحدث خطأ.
ما هي الأنواع من التهديدات أو نقاط الضعف التي تظهر حول خطوط أنابيب الذكاء الاصطناعي ومشاركة البيانات التي قد لا يدركها قادة الشركات بعد؟
ما نراه في هذه الاندفاعة نحو الذكاء الاصطناعي هو إلحاح أعمى نحو نشر وكلاء ذكاء اصطناعي يتفاعلون مع أنظمة السجلات المختلفة. ويمكن أن توفر هذه الوكلاء قيمة، ولكنها تشكل أيضًا مخاطر هائلة لأنها تلمس أنظمة تحتوي على بيانات قيمة. الوكلاء ذو طبيعة غير محددة، ولقد رأينا العديد من الحالات التي يخرجون فيها عن السيطرة ويفعلون شيئًا لا نتوقعه. في عالم حيث بياناتك هي خندقك الوحيد، يجب على قادة الشركات دائمًا التساؤل عما إذا كانوا يمكنهم الوثوق بالوكلاء الذكاء الاصطناعي الذين لديهم وصول إلى جميع بياناتهم لعدم إساءة استخدامها عن طريق الخطأ أو عمدًا.
كيف ترى التفاعل بين البنية التحتية للبيانات الآمنة ومسؤولية النموذج والامتثال يتطور في السنوات القليلة القادمة مع تطور التنظيمات؟
البنية التحتية للبيانات الموثوقة تمكن من مسؤولية النموذج والوكيل. على وجه الخصوص، بدون دليل موثوق على اتخاذ القرارات أو استخدام الأدوات من قبل الوكيل أو النموذج، لا يمكننا التأكد من أي شيء، وبالتالي لن نتمكن من تتبع المسؤولية. مع اندماج الذكاء الاصطناعي بشكل متزايد في حياتنا اليومية، سنريد المزيد من الشفافية والمراقبة في الذكاء الاصطناعي. ومع ذلك، عندما يمكن للذكاء الاصطناعي العمل بسرعة الآلة، ونحن لا نستطيع، يمكن للذكاء الاصطناعي الخبيث أن يخدعنا ببناء تاريخيات كاذبة. نحن بحاجة إلى الموثوقية لتحمل الذكاء الاصطناعي مسؤولية أفعالها.
من وجهة نظري، الامتثال التنظيمي هو رد فعل متأخر. تتحرك تطوير اللوائح واعتمادها ببطء أكبر من الابتكار التكنولوجي. سيظل هذا صحيحًا بشكل متزايد مع مساعدة الذكاء الاصطناعي على زيادة وتيرة الابتكار. في حين أن الامتثال سيدفع في النهاية المتأخرين إلى تبني البنية التحتية للبيانات الآمنة، سيتعرف المبتكرون والمعظمون المبكرون على أن هذا هو أمر بالغ الأهمية من أجل سلامة الذكاء الاصطناعي، وسيتبنونه قبل أن يصبح الامتثال إلزاميًا. إنهم يفهمون أن مسؤولية الوكيل، التي تمكنها البنية التحتية للبيانات الآمنة، هي أمر بالغ الأهمية لتبني منتجاتهم التي تعمل بالذكاء الاصطناعي.
شكرًا على المقابلة الرائعة، يرجى زيارة OPAQUE لمعرفة المزيد.
