جوناثان دامبروت، الرئيس التنفيذي ومؤسس شركة Cranium AI – سلسلة المقابلات

جوناثان دامبروت هو الرئيس التنفيذي ومؤسس شركة Cranium AI، وهي شركة تساعد فرق الأمن السيبراني وعلوم البيانات على فهم كل مكان يتأثر به الذكاء الاصطناعي على أنظمتهم أو بياناتها أو خدماتها.

جوناثان هو شريك سابق في شركة KPMG، وقائد في صناعة الأمن السيبراني، ورؤيته واضحة. قبل انضمامه إلى KPMG، قاد شركة Prevalent لتصبح شركة رائدة في مجال إدارة المخاطر الثالثة، قبل بيعها لشركة Insight Venture Partners في نهاية عام 2016. في عام 2019، انتقل جوناثان إلى منصب الرئيس التنفيذي لشركة Prevalent، مع استمرار الشركة في النمو تحت إدارة جديدة. وقد تم الاستشهاد به في العديد من المنشورات، ويتحدث بانتظام مع مجموعات من العملاء حول الاتجاهات في مجال تكنولوجيا المعلومات والأمن السيبراني والامتثال.

يمكنك أن تقدم لنا قصة نشأة شركة Cranium AI؟

لدي فكرة حول شركة Cranium منذ يونيو 2021، عندما كنت شريكًا في شركة KPMG وأدري خدمات الأمن الثالثة على مستوى العالم. كنا نبني ونقدم حلولًا مدعومة بالذكاء الاصطناعي لبعض أكبر عملائنا، واكتشفت أننا لا نفعل شيئًا لضمان أمانها ضد التهديدات المعادية. لذلك، سألت نفس السؤال من قادة الأمن السيبراني في أكبر عملائنا، والresponses التي تلقيتها كانت مخيفة للغاية. العديد من فرق الأمن لم تكن قد تحدثت حتى مع علماء البيانات – كانوا يتحدثون لغات مختلفة تمامًا عند الحديث عن التكنولوجيا وبالتالي لم يكن لديهم أي رؤية حول الذكاء الاصطناعي الذي يعمل عبر المؤسسة. كل هذا بالإضافة إلى التطور المستمر للوائح كان الحافز لبناء منصة يمكنها تقديم أمان للذكاء الاصطناعي. بدأنا العمل مع معمل KPMG وrought في بعض أكبر عملائنا كشركاء في التصميم لتوجيه التطوير لتلبي احتياجات هذه الشركات الكبيرة. في يناير من هذا العام، انضمت شركة Syn Ventures لاستكمال التمويل الأولي، وخرجنا بشكل مستقل عن شركة KPMG في مارس وخرجنا من وضع السرية في أبريل 2023.

ما هو بطاقة Cranium AI، وما هي Informationen الرئيسية التي تكشف عنها؟

بطاقة Cranium AI تسمح للمنظمات بجمع المعلومات وتحديثها بفعالية حول ثقة وامتثال نماذج الذكاء الاصطناعي مع العملاء والمنظمين، واكتساب رؤية حول أمان أنظمة الذكاء الاصطناعي الخاصة بمورديها. في النهاية، نهدف إلى تزويد فرق الأمن والامتثال ب khảية رؤية ومراقبة أمان الذكاء الاصطناعي في سلسلة التوريد، وتنسيق أنظمتهم الخاصة بالذكاء الاصطناعي مع متطلبات الامتثال الحالية والمقبلة والإطارات، وتبادل المعلومات بسهولة حول أن أنظمتهم الخاصة بالذكاء الاصطناعي آمنة وموثوقة.

ما هي بعض القضايا المتعلقة بالثقة التي يعاني منها الناس مع الذكاء الاصطناعي والتي يتم حلها بهذه الحلول؟

الناس يريدون عادة معرفة ما يوجد خلف الذكاء الاصطناعي الذي يستخدمونه، خاصة مع تأثير الذكاء الاصطناعي على معظم عمليات العمل اليومية. نهدف إلى تزويد عملائنا ب khảية الإجابة على الأسئلة التي سيتم طرحها عليهم قريبًا من قبل عملائهم، مثل “كيف يتم الحكم على هذا؟”، “ما الذي يتم القيام به لضمان أمان البيانات والنمذجة؟”، و “هل تم التحقق من هذه المعلومات؟”. بطاقة الذكاء الاصطناعي توفر للمنظمات طريقة سريعة لمعالجة هذه الأسئلة وإظهار شفافية وموثوقية أنظمتهم الخاصة بالذكاء الاصطناعي.

في أكتوبر 2022، نشر مكتب العلوم والتكنولوجيا في البيت الأبيض خطة لائحة حقوق الذكاء الاصطناعي، والتي قدمت خطة غير ملزمة للاستخدام المسؤول للذكاء الاصطناعي. يمكنك مناقشة وجهات نظرك الشخصية حول مزايا وعيوب هذه اللائحة؟

على الرغم من أن هذه الخطوة الأولى التي اتخذها البيت الأبيض في تحديد المبادئ التوجيهية للذكاء الاصطناعي المسؤول مهمة للغاية، إلا أننا لا نعتقد أنها ذهبت بعيدًا بما فيه الكفاية لتقديم إرشادات للمنظمات وليس فقط للأفراد الذين يقلقون من اتخاذ قرارات قائمة على الذكاء الاصطناعي. يجب أن تكون التوجيهات التنظيمية في المستقبل لا تهدف فقط إلى مزودي أنظمة الذكاء الاصطناعي، ولكن أيضًا للمستخدمين لتمكينهم من فهم واستخدام هذه التكنولوجيا بطريقة آمنة وموثوقة. في النهاية، الفائدة الرئيسية هي أن أنظمة الذكاء الاصطناعي ستكون أكثر أمانًا وشمولية وشفافية. ومع ذلك، بدون إطار مخاطر يعتمد على المخاطر للمنظمات لتحضيرها للتنظيمات المستقبلية، هناك خطر من تباطؤ وتيرة الابتكار، خاصة في الحالات التي يتعذر فيها تلبية متطلبات الشفافية والقابلية للفهم.

كيف تساعد شركة Cranium AI الشركات على الامتثال لهذه اللائحة؟

تساعد منصة Cranium Enterprise الشركات على تطوير وتقديم أنظمة آمنة وموثوقة، وهو المبدأ الأول في لائحة حقوق الذكاء الاصطناعي. بالإضافة إلى ذلك، تساعد بطاقة الذكاء الاصطناعي المنظمات على الامتثال لمبدأ الإشعار والتفسير من خلال تمكينهم من مشاركة تفاصيل حول كيفية عمل أنظمتهم الخاصة بالذكاء الاصطناعي وما البيانات التي يستخدمونها.

ما هو إطار إدارة المخاطر للذكاء الاصطناعي في معهد NIST، وكيف ستحقق شركة Cranium AI مساعدة الشركات في تحقيق التزاماتها بالامتثال لهذا الإطار؟

إطار إدارة المخاطر للذكاء الاصطناعي في معهد NIST هو إطار للشركات لتحسين إدارة المخاطر المرتبطة بالذكاء الاصطناعي. يتبع هذا الإطار بنية مشابهة للإطارات الأخرى في المعهد، من خلال تحديد نتائج برنامج إدارة المخاطر الناجح للذكاء الاصطناعي. قمنا بتحديد بطاقة الذكاء الاصطناعي إلى الأهداف المحددة في الإطار لدعم الشركات في تتبع كيفية امتثال أنظمتهم الخاصة بالذكاء الاصطناعي للإطار، ونظرًا لأن منصتنا已经 تجمع الكثير من هذه المعلومات، يمكننا تلقائيًا ملء بعض الحقول وتحققها.

ما هو قانون الذكاء الاصطناعي في الاتحاد الأوروبي، ولماذا يجب على الشركات غير الأوروبية الامتثال له؟

مثل قانون حماية البيانات العامة في الاتحاد الأوروبي، سوف يغير قانون الذكاء الاصطناعي بشكل أساسي كيفية تطوير وتشغيل الشركات لأنظمتهم الخاصة بالذكاء الاصطناعي. الشركات التي لا تقع في الاتحاد الأوروبي يجب أن تتبع متطلبات هذا القانون، لأن أي نظام للذكاء الاصطناعي يستخدم أو يؤثر على مواطني الاتحاد الأوروبي سوف يخضع للمتطلبات، بغض النظر عن موقع الشركة.

كيف تستعد شركة Cranium AI لقانون الذكاء الاصطناعي في الاتحاد الأوروبي؟

في شركة Cranium، لقد كنا نتابع تطوير قانون الذكاء الاصطناعي منذ البداية، وقمنا بتصميم منتج بطاقة الذكاء الاصطناعي لدعم الشركات في الامتثال للمتطلبات. نشعر أننا لدينا بداية جيدة للغاية نظرًا لوعينا المبكر بقانون الذكاء الاصطناعي وكيف تطور على مر السنين.

لماذا يجب على الشركات أن تجعل الذكاء الاصطناعي المسؤول أولوية؟

بسبب سرعة دمج الذكاء الاصطناعي في جميع عمليات العمل والوظائف، يمكن أن يفقد الأمور السيطرة بسرعة إذا لم يتم التعامل معها بشكل مسؤول. جعل الذكاء الاصطناعي المسؤول أولوية الآن في بداية ثورة الذكاء الاصطناعي سوف يسمح للشركات بالتوسع بشكل أكثر فعالية وعدم مواجهة عقبات كبيرة ومشاكل امتثال لاحقًا.

ما هو رؤيتك لمستقبل شركة Cranium AI؟

نرى أن شركة Cranium سوف تصبح الفئة الرائدة الحقيقية للذكاء الاصطناعي الآمن والموثوق. بينما لا يمكننا حل كل شيء، مثل التحديات المعقدة مثل الاستخدام الأخلاقي والقابلية للفهم، نهدف إلى التعاون مع قادة في مجالات أخرى من الذكاء الاصطناعي المسؤول لدفع نظام بيئي يجعل من السهل على عملائنا تغطية جميع جوانب الذكاء الاصطناعي المسؤول. كما نهدف إلى العمل مع مطورين حلول الذكاء الاصطناعي التوليدي المبتكرة لدعم أمان وثقة هذه القدرات. نريد أن تمكن شركة Cranium الشركات في جميع أنحاء العالم من الاستمرار في الابتكار بطريقة آمنة وموثوقة.

شكرًا على المقابلة الرائعة، يُرجى من القراء الذين يرغبون في معرفة المزيد زيارة شركة Cranium AI.