یو ایس فیڈرل اور ملٹری AI: نیا پلیٹ فارم الگورتھم کی توثیق اور ایکریڈیشن پیش کرتا ہے

ایک سٹارٹ اپ جس میں سابق حکومتی ملٹری لیمینریز کا ایک ایڈوائزری بورڈ ہے، نے ایک نیا پلیٹ فارم جاری کیا ہے جو AI ایپلی کیشنز کی سیکیورٹی اور تعیناتی کا جائزہ لینے کے لیے ڈیزائن کیا گیا ہے۔ کہا جاتا ہے کہ نظام کے ابتدائی اختیار کرنے والوں میں امریکی فضائیہ اور محکمہ ہوم لینڈ سیکیورٹی شامل ہیں۔

اس پلیٹ فارم کو VESPR کہا جاتا ہے، CalypsoAI سے، جس کی بنیاد 2018 میں رکھی گئی تھی، جس کا ہیڈ کوارٹر سلیکن ویلی، ڈبلن میں ہے، اور ورجینیا میں ایک سرکاری طور پر 'نامعلوم' مقام ہے - لینگلی میں CIA کے لیے terra firma۔

VESPR ایک ماڈل رسک مینجمنٹ (MRM) سسٹم ہے جو تعینات الگورتھم کے لیے ایکریڈیٹیشن کے وفاقی طور پر موافق نظام کی سہولت کے لیے ڈیزائن کیا گیا ہے۔ یہ صارف کے لیے دوستانہ ڈیش بورڈ طرز کا GUI ماحول، اور زیادہ جدید استعمال کے لیے CLI انٹرفیس دونوں پیش کرتا ہے۔

وسعت کے لئے کلک کریں۔ ماخذ: https://www.youtube.com/watch?v=lMhS6j7t2pI

VESPR کی بنیاد CalypsoAI کی مشین لرننگ کی توثیق، تصدیق اور تصدیق کے معیارات پر رکھی گئی ہے، اور اس میں ہاتھ سے تیار کردہ مخالف مشین لرننگ لائبریریوں کی خصوصیات ہیں۔ یہ ممکنہ تعیناتی الگورتھم کے لیے خودکار تناؤ کی جانچ کے معمولات بھی پیش کرتا ہے۔

نیشنل آرٹیفیشل انٹیلی جنس ریسرچ ریسورس ٹاسک فورس

ریلیز کا وقت کل سے متعلق ہو سکتا ہے۔ شروع ایک نئی قومی مصنوعی ذہانت ریسرچ ریسورس ٹاسک فورس کی بائیڈن انتظامیہ کی طرف سے، کانگریس کے مطابق ایک وفاقی مشاورتی کمیٹی کے طور پر کام کرنے کے لیے ڈیزائن کیا گیا ایک ادارہ نیشنل AI انیشیٹو ایکٹ 2020۔

مشین لرننگ سسٹمز کے لیے بامعنی ریگولیٹری معیارات کے لیے امریکہ، اور پوری دنیا پر دباؤ بڑھتا جا رہا ہے، کم از کم مشن کے لیے اہم شعبوں جیسے کہ بنیادی ڈھانچے اور فوجی استعمال میں۔ چونکہ ایم ایل سسٹم اب بھی ایک ابتدائی مرحلے اور ترقی کی تیز رفتار شرح کو برداشت کر رہے ہیں، وہ ایک نسبتاً غیر مستحکم اور اکثر متنازعہ راستے کی نمائندگی کرتے ہیں جہاں سے نقل کرنے کے قابل اور قابل بھروسہ تجزیاتی الگورتھم کی شناخت کرنا اب ضروری ہے – اگر یہ ممکن ہو تو۔

اپریل میں CalypsoAI نے اپنی حمایت پوسٹ کی۔ لامتناہی فرنٹیئرز ایکٹ، ایک کانگریس کا بل جو چین کی ایک AI طاقت کے طور پر بڑھتی ہوئی عظمت کے پیش نظر سائنس کی مالی اعانت میں اصلاحات کے لیے ڈیزائن کیا گیا ہے، حالانکہ یہ ایکٹ بالآخر نیچے پانی پلایا سینیٹ کے مرحلے میں.

وفاقی AI کی توثیق

VESPR کی پریس ریلیز کے مطابق، فریم ورک کے تحت آنے والے علاقوں میں کمپیوٹر ویژن اور نیچرل لینگویج پروسیسنگ (NLP) شامل ہیں۔

CalypsoAI کا دعویٰ ہے کہ VESPR کو 'موجودہ قومی سلامتی کے صارفین کے تنقیدی ان پٹ کے ساتھ بنایا گیا تھا اور اس کی پیدائش مخالف مشین لرننگ میں آزادانہ طور پر فنڈڈ تحقیق کے سالوں سے ہوئی'۔

ایک پروموشنل ویڈیو میں نظر آنے والی سسٹم کی تصاویر (مضمون کے آخر میں دیکھیں) میں ڈیٹا پوائزننگ اور شور انجیکشن کے لیے پتہ لگانے اور/یا نقلی معمولات شامل ہوتے ہیں، جو ممکنہ حملہ آوروں کی کارروائیوں کے لیے نظام کو تعینات کرنے کے لیے نقالی فراہم کرتے ہیں۔

وسعت کے لئے کلک کریں۔

ایسا لگتا ہے کہ یہ نظام ملکی اور غیر ملکی کارروائیوں کے تاریخی ڈیٹا کو استعمال کرتا ہے۔ نمایاں کردہ ٹارگٹ کلاسز میں 'احتجاج' اور 'فساد' شامل ہیں، اس کے علاوہ کم واضح 'اسٹریٹیجک پیش رفت'۔ ایسا لگتا ہے کہ قومی دہشت گردی کے واقعات کو بھی سسٹم کے حوالہ جات کے ڈیٹا بیس میں شامل کیا گیا ہے، جس میں 'شہریوں کے خلاف تشدد ایک اور دستیاب ہدف طبقہ ہے۔ دیگر دستیاب ٹارگٹ کلاسز میں 'لڑائیاں' اور 'دھماکے/ریموٹ وائلنس' شامل ہیں۔

وسعت کے لئے کلک کریں۔

ایسا لگتا ہے کہ یہ نظام کنفیگریشن کے "BIAS مینجمنٹ" سیکشن میں خصوصیات کے تحفظ کی اجازت دیتا ہے، بظاہر اوور فٹنگ کا مقابلہ کرنے کے لیے یا کسی تجزیاتی معمول میں دلچسپی رکھنے والے معمولی واقعات کے ناپسندیدہ خاتمے سے بچنے کے لیے ڈیزائن کیا گیا ہے۔

اس ابتدائی پروموشنل بلٹز کے علاوہ، یہ امکان نہیں ہے کہ (شاید ڈیزائن کے لحاظ سے) کہ ہم اس حکومت کو درپیش SaaS پروڈکٹ کے بارے میں بہت کچھ سننے جا رہے ہیں، تاہم اس کا کرایہ ہے۔ یہ ایک کافی بار فرنچائز، ایک سوشل ڈیٹنگ ایپ، اور ایک اسٹریمنگ البم کے ساتھ اپنا نام شیئر کرتا ہے، اور VSEPR کیمسٹری ماڈل کے ذریعہ درجہ بندی کے نتائج میں مسلسل پیچھے ہٹ جاتا ہے۔

CalypsoAI موصول ہوا۔ 13 ڈالر ڈالر سیریز A میں Paladin Capital Venture Group سے جولائی 0f 2020 میں فنڈ ریزنگ۔ دیگر سرمایہ کار شامل 8VC، Lockheed Martin Ventures، Manta Ray Ventures، Frontline Ventures، Lightspeed Venture Partners اور Pallas Ventures۔

کمپنی کی سائٹ پر ایک بلاگ پوسٹ میں، CalypsoAI کے بانی نیل سیریبریانی، جنہوں نے 2018 میں محکمہ دفاع میں غیر متعینہ تحقیقی کام کیا، بتاتا ہے کہ کمپنی کی بنیاد حکومتوں کے غیر منظم ماحول میں جدید الگورتھمک سسٹمز کی تعیناتی کے خوف کے ممکنہ حل کے طور پر رکھی گئی تھی۔

'اے آئی پروجیکٹس کے اس خوف کی بنیادی وجہ، جس کی وجہ سے انہیں حکومت کے اندر چھوڑ دیا جاتا ہے، بے ہودہ لگتا ہے، لیکن حقیقت میں یہ کافی پیچیدہ ہے۔ کوالٹی اشورینس کی کمی کی وجہ سے انہیں ترک کیا جا رہا تھا۔ یہ ماڈل کی ساخت کی بنیادی نوعیت اور انتہائی پیچیدہ طریقوں کی وجہ سے ہے جس میں وہ ناکام ہو سکتے ہیں۔ ان غیر متعین نظاموں کا تعین کرنے کے لیے ایک طریقہ کار کی کمی کی وجہ سے، قابل سماعت طریقے سے، حکومت کے اندر کی تنظیمیں ایک بینچ مارک کے خلاف AI ماڈلز کے نام نہاد 'معیار' کا اندازہ لگانے سے قاصر تھیں۔ اس کی وجہ سے یہ خوف پیدا ہوا کہ وہ ناکام ہو سکتے ہیں، خرابی کا شکار ہو سکتے ہیں، یا کسی مخالف کی طرف سے اس وقت ہیک کر سکتے ہیں جب ان کی سب سے زیادہ ضرورت ہوتی ہے مثال کے طور پر لڑائی میں، پرواز میں، یا کسی پیچیدہ طبی طریقہ کار کے دوران۔ '

ایڈوائزری بورڈ

سرمایہ کاری کے راؤنڈ سے ایک ماہ قبل، کمپنی نے ایک نیشنل سیکیورٹی ایڈوائزری بورڈ بنایا جس میں شامل ہیں۔ ٹونی ڈی مارٹینووزیر دفاع جم میٹس کے سابق معاون، اور اب واشنگٹن میں قائم اسٹریٹجک ایڈوائزری فرم پالاس ایڈوائزرز کے بانی پارٹنر ہیں۔ سابق پرنسپل ڈپٹی انڈر سیکرٹری برائے دفاع برائے انٹیلی جنس (صدر ٹرمپ کے ماتحت) کیری بنگن; سابق ایسوسی ایٹ ڈپٹی ڈائریکٹر برائے سی آئی اے ڈیجیٹل انوویشن شان روشے, اس تنظیم میں ایک سابقہ ​​سائبر انٹیلی جنس ماہر؛ اور مائیکل مولینو, ASRC Federal میں کارپوریٹ ڈویلپمنٹ کے سابق ایگزیکٹو نائب صدر، جو کہ اہم وفاقی خدمات کی ایک حد میں مشاورتی، تحقیق اور تکنیکی منتقلی کی صلاحیتیں فراہم کرتا ہے۔

ریلیز کے مطابق:

'VESPR ایک ہموار ورک فلو کے ساتھ جدید ترین AI ٹیسٹنگ کی صلاحیتیں فراہم کرتا ہے تاکہ یہ یقینی بنایا جا سکے کہ پروڈکشن میں ڈالی جانے والی ہر مشین لرننگ الگورتھم کی تصدیق محفوظ ہو گئی ہے۔ VESPR کمپیوٹر ویژن سے لے کر قدرتی زبان کی پروسیسنگ تک مختلف قسم کے AI سسٹمز کو بے مثال سیکیورٹی اور یقین دہانی فراہم کرتا ہے۔ VESPR عمل ماڈل کی تعیناتی کے ذریعے تحقیق اور ترقی کے مرحلے سے لے کر محفوظ مشین لرننگ لائف سائیکل (SMLC) کے دوران جانچ، تشخیص، تصدیق اور تصدیق (TEVV) کو یقینی بناتا ہے۔ حتمی نتیجہ AI نظام ہے جو ماڈل کی صلاحیتوں، کمزوریوں اور کارکردگی پر درست اور جامع نگرانی اور رپورٹنگ فراہم کرتا ہے۔'

11:07 AM EST کو اس بات کی عکاسی کرنے کے لیے اپ ڈیٹ کیا گیا کہ Michael Molino اب ASRC Federal میں کام نہیں کرتا، اصل مضمون میں ایک errata ہے۔

ٹوٹے ہوئے YouTube ویڈیو کو ہٹانے کے لیے 1 جنوری 28، 2024 کو اپ ڈیٹ کیا گیا۔