أناند كانابان، الرئيس التنفيذي والمؤسس المشارك لشركة باترونوس آي – سلسلة المقابلات

أناند كانابان هو المؤسس المشارك والرئيس التنفيذي لشركة باترونوس آي، وهي منصة التقييم والأمان الآلي لأول مرة في الصناعة لمساعدة الشركات على التقاط أخطاء LLM على نطاق واسع. في السابق، قاد أناند جهود تفسير ML وتجارب متقدمة في مختبرات Meta Reality.

ما الذي جذبك في البداية إلى علوم الحاسوب؟

عندما كنت صغيرًا، كنت دائمًا مهتمًا بالتكنولوجيا وبالطريقة التي يمكن أن تستخدم بها لحل المشكلات في العالم الحقيقي. فكرة أنني يمكنني إنشاء شيء من الصفر باستخدام الحاسوب والبرمجة فقط كانت تجذبني. عندما غطست في علوم الحاسوب، أدركت الإمكانيات الهائلة التي تتمتع بها هذه العلوم لتحقيق الابتكار والتغيير عبر مختلف الصناعات. هذا الدافع لتحقيق الابتكار وإحداث الفرق هو ما جذبني في البداية إلى علوم الحاسوب.

يمكنك أن تشاركنا قصة نشأة باترونوس آي؟

نشأة باترونوس آي هي رحلة مثيرة للاهتمام. عندما أطلقت OpenAI منصة ChatGPT، أصبحت المنتج الاستهلاكي الأسرع نموًا، حيث جمعت أكثر من 100 مليون مستخدم في غضون شهرين فقط. هذا التبني الكبير أبرز إمكانيات الذكاء الاصطناعي التوليدي، ولكنه كشف أيضًا عن تردد الشركات في نشر الذكاء الاصطناعي بسرعة كبيرة. كانت العديد من الشركات قلقة من الأخطاء والسلوك غير المتوقع للنماذج اللغوية الكبيرة (LLM).

كانت ربيكا وأنا نعرف بعضنا منذ سنوات، حيث درسنا علوم الحاسوب معًا في جامعة شيكاغو. في شركة Meta، واجهنا كلاً منا تحديات في تقييم ومعالجة مخرجات التعلم الآلي – ربيكا من منظور بحثي وأنا من منظور تطبيقي. عندما تم الإعلان عن ChatGPT، رأينا كلاً منا الإمكانيات التحويلية للنماذج اللغوية الكبيرة، ولكننا فهمنا أيضًا الحذر الذي تتبعه الشركات.

حصلت النقطة التحول عندما قرر بنك استثماري شقيقتي، بايبر ساندر، حظر الوصول إلى OpenAI داخليًا. هذا جعلنا ندرك أن जबकان الذكاء الاصطناعي قد تقدم بشكل كبير، كان هناك仍ً فجوة في تبني الشركات بسبب مخاوف بشأن الموثوقية والأمان. أسسنا باترونوس آي لمعالجة هذه الفجوة وتعزيز ثقة الشركات في الذكاء الاصطناعي التوليدي من خلال تقديم طبقة تقييم وأمان للنماذج اللغوية الكبيرة.

يمكنك وصف الوظيفة الأساسية لمنصة باترونوس آي لتقييم وأمان النماذج اللغوية الكبيرة؟

مهمتنا هي تعزيز ثقة الشركات في الذكاء الاصطناعي التوليدي. لقد طوّرنا أول منصة تقييم وأمان آلي مخصصة للنماذج اللغوية الكبيرة. منصتنا تساعد الشركات على اكتشاف الأخطاء في مخرجات النماذج اللغوية الكبيرة على نطاق واسع، مما يسمح لهم بنشر منتجات الذكاء الاصطناعي بأمان وثقة.

تتضمن منصتنا تلقائيًا العديد من العمليات الرئيسية:

• التقييم: نقيم أداء النموذج في سناريوهات العالم الحقيقي، مع التركيز على معايير مهمة مثل الوهم والأمان.
• توليد الاختبار: نقوم تلقائيًا بإنشاء مجموعات اختبار معارضة على نطاق واسع لتقييم قدرات النموذج بدقة.
• المقارنة: نقوم بمقارنة النماذج المختلفة لمساعدة العملاء على تحديد أفضل الخيارات لاستخداماتهم المحددة.

تفضل الشركات التقييمات المتكررة لتكيف مع النماذج المتطورة والبيانات والاحتياجات المتغيرة للمستخدمين. تعمل منصتنا كجهة تقييم ثالثة موثوقة، تقدم منظورًا غير متحيز مشابه لشركة مودي في مجال الذكاء الاصطناعي. تشمل شركاؤنا الأوليين شركات الذكاء الاصطناعي الرائدة مثل MongoDB (MDB ) وDatabricks وCohere وNomic AI، ونحن في محادثات مع عدة شركات كبرى في الصناعات التقليدية لاختبار منصتنا.

ما هي أنواع الأخطاء أو “الأوهام” التي يمكن لكشفها في مخرجات النماذج اللغوية الكبيرة بواسطة نموذج Lynx لشركة باترونوس آي، وكيف تعالج هذه القضايا للشركات؟

النماذج اللغوية الكبيرة هي أدوات قوية، لكن طبيعتها الاحتمالية تجعلها عرضة للأوهام، أو الأخطاء التي تنتج فيها النموذج معلومات غير دقيقة أو غير ذات صلة. هذه الأوهام مشكلة، خاصة في بيئات الأعمال الحساسة حيث يعتبر الدقة أمرًا بالغ الأهمية.

تقليدية، اعتمدت الشركات على التفتيش اليدوي لتقييم مخرجات النماذج اللغوية الكبيرة، وهو عملية لا تتم فقط ببطء، بل هي أيضًا غير قابلة للتوسيع. لتسهيل هذه العملية، طوّرت باترونوس آي نموذج Lynx، وهو نموذج متخصص يعزز قدرات منصتنا من خلال تلقيني اكتشاف الأوهام. Lynx، المتكامل في منصتنا، يوفر تغطية اختبار شاملة وضمانات أداء قوية، مع التركيز على تحديد الأخطاء الحرجة التي يمكن أن تؤثر بشكل كبير على عمليات الأعمال، مثل الحسابات المالية غير الصحيحة أو الأخطاء في مراجعة الوثائق القانونية.

باستخدام Lynx، نتخفف من قيود التقييم اليدوي من خلال الاختبار المعادي التلقائي، واستكشاف طائفة واسعة من سيناريوهات الفشل المحتملة. هذا يسمح باكتشاف القضايا التي قد تفوت المفتشين البشر، ويوفر للشركات موثوقية وثقة أكبر لنشر النماذج اللغوية الكبيرة في التطبيقات الحساسة.

يُوصف FinanceBench بأنه أول معيار لتقدير أداء النماذج اللغوية الكبيرة على الأسئلة المالية. ما هي التحديات في القطاع المالي التي دفعت إلى تطوير FinanceBench؟

FinanceBench تم تطويره استجابة للتحديات الفريدة التي يواجهها القطاع المالي في تبني النماذج اللغوية الكبيرة. تتطلب التطبيقات المالية درجة عالية من الدقة والموثوقية، لأن الأخطاء يمكن أن تؤدي إلى خسائر مالية كبيرة أو مشاكل تنظيمية. على الرغم من وعد النماذج اللغوية الكبيرة في التعامل مع كميات كبيرة من البيانات المالية، أظهرت أبحاثنا أن النماذج المتقدمة مثل GPT-4 وLlama 2 عانوا من صعوبات في الأسئلة المالية، وأحيانًا فشلوا في استرجاع المعلومات الدقيقة.

تم إنشاء FinanceBench كمعيار شامل لتقدير أداء النماذج اللغوية الكبيرة في السياقات المالية. يتضمن 10,000 زوج من الأسئلة والإجابات بناءً على وثائق مالية متاحة للجمهور، تغطي مجالات مثل المنطق العددي، واسترجاع المعلومات، والمنطق، والمعرفة العالمية. من خلال تقديم هذا المعيار، نهدف إلى مساعدة الشركات على فهم أفضل للقيود الحالية للنماذج وتحديد مجالات التحسين.

كشفت تحليلنا الأولي أن العديد من النماذج اللغوية الكبيرة فشلت في تحقيق المعايير العالية المطلوبة للتطبيقات المالية، مما يبرز الحاجة إلى المزيد من التحسين والتقييم المستهدف. مع FinanceBench، نقدم أداة قيمة للشركات لتقييم وتحسين أداء النماذج اللغوية الكبيرة في القطاع المالي.

أظهرت أبحاثك أن النماذج الرائدة للذكاء الاصطناعي، ولا سيما GPT-4 من OpenAI، أنتجت محتوى محمي بحقوق النشر عند مستويات كبيرة عند التحفيز بالفصول من الكتب الشهيرة. ما هي الآثار طويلة المدى لتلك النتائج على تطوير الذكاء الاصطناعي وصناعة التكنولوجيا بشكل أوسع، خاصة مع المناقشات الجارية حول الذكاء الاصطناعي وقانون حقوق النشر؟

مشكلة النماذج التي تنتج محتوى محمي بحقوق النشر هي قضية معقدة وملحة في صناعة الذكاء الاصطناعي. أظهرت أبحاثنا أن النماذج مثل GPT-4، عند التحفيز بفصول من الكتب الشهيرة، أنتجت محتوى محمي بحقوق النشر. هذا يثير أسئلة هامة حول حقوق الملكية الفكرية والآثار القانونية لاستخدام المحتوى الذي ينتجه الذكاء الاصطناعي.

على المدى الطويل، تبرز هذه النتائج الحاجة إلى إرشادات وأوضاع أكثر وضوحًا حول الذكاء الاصطناعي وحقوق النشر. يجب على الصناعة العمل على تطوير نماذج الذكاء الاصطناعي التي تحترم حقوق الملكية الفكرية مع الحفاظ على قدراتها الإبداعية. قد يتضمن ذلك تحسين مجموعات البيانات للتدريب لاستبعاد المحتوى المحمي بحقوق النشر أو تنفيذ آليات لاكتشاف ومنع إعادة إنتاج المحتوى المحمي.

يجب على الصناعة ككل المشاركة في مناقشات مستمرة مع الخبراء القانونيين والسياسيين والأطراف المعنية لتأسيس إطار يوازن بين الابتكار واحترام القوانين الحالية. مع استمرار تطور الذكاء الاصطناعي، من المهم معالجة هذه التحديات بشكل استباقي لضمان تطوير الذكاء الاصطناعي بشكل مسؤول ومتعاقب مع القيم المجتمعية.

نظرًا لمعدل الصدمات الذي تنتج به النماذج الرائدة للذكاء الاصطناعي محتوى محمي بحقوق النشر، كما هو موضح في دراستك، ما هي الخطوات التي يجب على مطوري الذكاء الاصطناعي والصناعة ككل اتخاذها لمعالجة هذه المخاوف؟ وكيف تخطط باترونوس آي للمساهمة في خلق نماذج الذكاء الاصطناعي أكثر مسؤولية وامتثالًا للقوانين في ضوء هذه النتائج؟

معالجة قضية النماذج التي تنتج محتوى محمي بحقوق النشر تتطلب نهجًا متعددة الأوجه. يجب على مطوري الذكاء الاصطناعي والصناعة ككل أن يprioritizes الشفافية والمساءلة في تطوير نماذج الذكاء الاصطناعي.

• تحسين اختيار البيانات: يجب التأكد من أن مجموعات البيانات للتدريب يتم تحضيرها بعناية لاستبعاد المحتوى المحمي بحقوق النشر ما لم يتم الحصول على التراخيص المناسبة.
• تطوير آليات الكشف: يجب تنفيذ أنظمة يمكنها تحديد عندما ينتج نموذج الذكاء الاصطناعي محتوى محمي بحقوق النشر محتمل، وتقديم خيارات للمستخدمين لتعديل أو إزالة هذا المحتوى.
• تأسيس معايير الصناعة: يجب التعاون مع الخبراء القانونيين وشركاء الصناعة لتأسيس إرشادات ومعايير لتطوير الذكاء الاصطناعي التي تحترم حقوق الملكية الفكرية.

في باترونوس آي، نحن ملتزمون المساهمة في تطوير الذكاء الاصطناعي بشكل مسؤول من خلال التركيز على التقييم والامتثال. تشمل منصتنا منتجات مثل EnterprisePII، التي تساعد الشركات على اكتشاف وإدارة القضايا المحتملة المتعلقة بالخصوصية في مخرجات الذكاء الاصطناعي. من خلال تقديم هذه الحلول، نهدف إلى تمكين الشركات من استخدام الذكاء الاصطناعي بشكل مسؤول ومتعاقب مع المخاطر القانونية.

مع أدوات مثل EnterprisePII وFinanceBench، ما هي التحولات التي تتوقعها في كيفية نشر الشركات للذكاء الاصطناعي، خاصة في المجالات الحساسة مثل المالية والبيانات الشخصية؟

تسمح هذه الأدوات للشركات بتقييم وإدارة مخرجات الذكاء الاصطناعي بشكل أكثر فعالية، خاصة في المجالات الحساسة مثل المالية والبيانات الشخصية.

في قطاع المالية، يسمح FinanceBench للشركات بتقييم أداء النماذج اللغوية الكبيرة بدقة عالية، مما يضمن أن النماذج ت满ي المتطلبات الصارمة للتطبيقات المالية. هذا يمنح الشركات الثقة والقدرة على استخدام الذكاء الاصطناعي لtasks مثل تحليل البيانات وصنع القرار بثقة أكبر.

بالمثل، تساعد أدوات مثل EnterprisePII الشركات على التنقل في تعقيدات الخصوصية. من خلال تقديم رؤى حول المخاطر المحتملة وطرق التخفيف منها، تمكن هذه الأدوات الشركات من نشر الذكاء الاصطناعي بشكل أكثر أمانًا ومسؤولية.

بشكل عام، هذه الأدوات تفتح الطريق لنهج أكثر إطلاعًا واستراتيجية لتبني الذكاء الاصطناعي، مما يساعد الشركات على استغلال فوائد الذكاء الاصطناعي مع تقليل المخاطر المرتبطة.

كيف تعمل باترونوس آي مع الشركات لتكامل هذه الأدوات في عمليات نشر النماذج اللغوية الكبيرة الحالية؟

في باترونوس آي، ندرك أهمية التكامل السلس في تبني الذكاء الاصطناعي. نعمل بشكل وثيق مع عملائنا لضمان أن أدواتنا تدمج بسهولة في عمليات نشر النماذج اللغوية الكبيرة الحالية. هذا يشمل تقديم العملاء مع:

• خطط التكامل المخصصة: نتعاون مع كل عميل لتحديد خطة تكامل مخصصة تتوافق مع احتياجاتهم وأهدافهم المحددة.
• الدعم الشامل: يقدم فريقنا دعمًا مستمرًا طوال عملية التكامل، مع تقديم إرشادات ومساعدة لضمان انتقالات سلسة.
• التدريب والتعليم: نقدم جلسات تدريبية وموارد تعليمية لمساعدة العملاء على فهم واستخدام أدواتنا بشكل كامل، مما يمنحهم القدرة على استغلال استثماراتهم في الذكاء الاصطناعي بشكل أفضل.

نظرًا لتعقيدات ضمان أن مخرجات الذكاء الاصطناعي آمنة ودقيقة ومتوافقة مع القوانين المختلفة، ما هي النصائح التي تقدمها لمطوري النماذج اللغوية الكبيرة والشركات التي تهدف إلى استخدامها؟

من خلال أولوية التعاون والدعم، نهدف إلى جعل عملية التكامل بسيطة وفعالة قدر الإمكان، مما يسمح للشركات بفتح إمكانيات حلول الذكاء الاصطناعي بالكامل.

تعقيدات ضمان أن مخرجات الذكاء الاصطناعي آمنة ودقيقة ومتوافقة مع القوانين تطرح تحديات كبيرة. لمطوري النماذج اللغوية الكبيرة، المفتاح هو أولوية الشفافية والمساءلة خلال عملية التطوير.

أحد الجوانب الأساسية هو جودة البيانات. يجب على المطورين أن يضمنوا أن مجموعات البيانات للتدريب تكون مدروسة جيدًا وخالية من المحتوى المحمي بحقوق النشر ما لم يتم الحصول على التراخيص المناسبة. هذا لا يمنع فقط المشاكل القانونية المحتملة، بل يضمن أيضًا أن النماذج تنتج مخرجات موثوقة. بالإضافة إلى ذلك، يجب معالجة الانحياز والعدالة. من خلال العمل الفعّال لتحديد وتخفيف الانحيازات، وتنمية بيانات التدريب المتنوعة والممثلة، يمكن للمطورين تقليل الانحياز وضمان نتائج عادلة لجميع المستخدمين.

إجراءات التقييم الشاملة ضرورية. من خلال تنفيذ اختبارات قوية واستخدام معايير مثل FinanceBench، يمكن تقييم أداء وثقة النماذج، مما يضمن أنها تتوافق مع متطلبات الحالات الاستخدامية المحددة. بالإضافة إلى ذلك، يجب أن تكون الاعتبارات الأخلاقية في المقدمة. المشاركة في الإرشادات الأخلاقية والإطارات تضمن أن أنظمة الذكاء الاصطناعي تُطوّر بشكل مسؤول ويتوافق مع القيم المجتمعية.

对于 الشركات التي تهدف إلى استخدام النماذج اللغوية الكبيرة، من المهم فهم إمكانيات الذكاء الاصطناعي. يجب وضع التوقعات الواقعية وضمان استخدام الذكاء الاصطناعي بشكل فعال داخل المنظمة. التكامل السلس والدعم ضروريان أيضًا. من خلال العمل مع شركاء موثوقين، يمكن للشركات دمج حلول الذكاء الاصطناعي في سير العمل الحالية وضمان أن فرقهم مدربة ودعمة لاستخدام الذكاء الاصطناعي بشكل فعال.

الامتثال والأمان يجب أن يُprioritizes، مع التركيز على الامتثال للقوانين واللوائح المتعلقة بحماية البيانات. يمكن لأدوات مثل EnterprisePII مساعدة الشركات على رصد وإدارة المخاطر المحتملة. المراقبة المستمرة والتقييم المنتظم لأداء الذكاء الاصطناعي ضروريان أيضًا لضمان الحفاظ على الدقة والموثوقية، مما يسمح بإجراء التعديلات حسب الحاجة.

شكرًا على المقابلة الرائعة، القراء الذين يرغبون في التعلم أكثر يجب أن يزوروا باترونوس آي.