قابل وضاحت AI کیا ہے؟

جیسا کہ مصنوعی ذہانت (AI) معاشرے میں زیادہ پیچیدہ اور وسیع پیمانے پر اپنایا جاتا ہے، عمل اور طریقوں کے سب سے اہم سیٹوں میں سے ایک قابل وضاحت (AI) ہے، جسے کبھی کبھی XAI بھی کہا جاتا ہے۔ 

قابل وضاحت AI کی تعریف اس طرح کی جا سکتی ہے:

• عمل اور طریقوں کا ایک مجموعہ جو انسانی صارفین کو مشین لرننگ الگورتھم کے نتائج کو سمجھنے اور ان پر بھروسہ کرنے میں مدد کرتا ہے۔ 

جیسا کہ آپ اندازہ لگا سکتے ہیں، یہ وضاحتی قابلیت ناقابل یقین حد تک اہم ہے کیونکہ AI الگورتھم بہت سے شعبوں کا کنٹرول سنبھال لیتے ہیں، جو تعصب، ناقص الگورتھم اور دیگر مسائل کے خطرے کے ساتھ آتا ہے۔ وضاحت کے ساتھ شفافیت حاصل کر کے، دنیا حقیقی معنوں میں AI کی طاقت سے فائدہ اٹھا سکتی ہے۔ 

قابل وضاحت AI، جیسا کہ نام سے پتہ چلتا ہے، AI ماڈل، اس کے اثرات، اور ممکنہ تعصبات کو بیان کرنے میں مدد کرتا ہے۔ یہ ماڈل کی درستگی، انصاف پسندی، شفافیت، اور AI سے چلنے والے فیصلہ سازی کے عمل میں نتائج کو نمایاں کرنے میں بھی کردار ادا کرتا ہے۔ 

آج کی AI سے چلنے والی تنظیموں کو پیداوار میں AI ماڈلز پر اعتماد اور اعتماد پیدا کرنے میں مدد کے لیے ہمیشہ قابل وضاحت AI عمل کو اپنانا چاہیے۔ قابل وضاحت AI آج کے AI ماحول میں ایک ذمہ دار کمپنی بننے کی کلید بھی ہے۔

چونکہ آج کے AI سسٹمز بہت ترقی یافتہ ہیں، اس لیے انسان عام طور پر حساب کتاب کا عمل انجام دیتا ہے تاکہ یہ معلوم کیا جا سکے کہ الگورتھم اپنے نتیجے پر کیسے پہنچا۔ یہ عمل ایک "بلیک باکس" بن جاتا ہے، یعنی اسے سمجھنا ناممکن ہے۔ جب یہ ناقابل وضاحت ماڈل ڈیٹا سے براہ راست تیار کیے جاتے ہیں، تو کوئی بھی نہیں سمجھ سکتا کہ ان کے اندر کیا ہو رہا ہے۔ 

یہ سمجھ کر کہ AI سسٹمز قابل وضاحت AI کے ذریعے کیسے کام کرتے ہیں، ڈویلپرز اس بات کو یقینی بنا سکتے ہیں کہ سسٹم جیسا کام کرنا چاہیے۔ اس سے یہ یقینی بنانے میں بھی مدد مل سکتی ہے کہ ماڈل ریگولیٹری معیارات پر پورا اترتا ہے، اور یہ ماڈل کو چیلنج کرنے یا تبدیل کرنے کا موقع فراہم کرتا ہے۔ 

تصویر: ڈاکٹر میٹ ٹوریک/ڈارپا

AI اور XAI کے درمیان فرق

کچھ کلیدی اختلافات قابل وضاحت AI سے "باقاعدہ" AI کو الگ کرنے میں مدد کرتے ہیں، لیکن سب سے اہم بات یہ ہے کہ XAI مخصوص تکنیکوں اور طریقوں کو لاگو کرتا ہے جو اس بات کو یقینی بنانے میں مدد کرتے ہیں کہ ML کے عمل میں ہر فیصلہ قابل شناخت اور قابل وضاحت ہے۔ اس کے مقابلے میں، باقاعدہ AI عام طور پر ML الگورتھم کا استعمال کرتے ہوئے اپنے نتیجے پر پہنچتا ہے، لیکن یہ پوری طرح سے سمجھنا ناممکن ہے کہ الگورتھم نتیجہ پر کیسے پہنچا۔ ریگولر AI کے معاملے میں، درستگی کی جانچ کرنا انتہائی مشکل ہے، جس کے نتیجے میں کنٹرول، جوابدہی، اور آڈٹ ایبلٹی کا نقصان ہوتا ہے۔ 

قابل وضاحت AI کے فوائد 

قابل وضاحت AI کو اپنانے کے خواہاں کسی بھی تنظیم کے لیے بہت سے فوائد ہیں، جیسے: 

• تیز نتائج: قابل وضاحت AI تنظیموں کو کاروباری نتائج کو بہتر بنانے کے لیے منظم طریقے سے ماڈلز کی نگرانی اور ان کا نظم کرنے کے قابل بناتا ہے۔ ماڈل کی کارکردگی کا مسلسل جائزہ لینا اور بہتر بنانا ممکن ہے
  
• خطرات کو کم کرنا: قابل وضاحت AI عمل کو اپنا کر، آپ اس بات کو یقینی بناتے ہیں کہ آپ کے AI ماڈل قابل وضاحت اور شفاف ہیں۔ آپ دستی معائنہ کے اوور ہیڈ کو کم سے کم کرتے ہوئے ریگولیٹری، تعمیل، خطرات اور دیگر ضروریات کا انتظام کر سکتے ہیں۔ یہ سب غیر ارادی تعصب کے خطرے کو کم کرنے میں بھی مدد کرتا ہے۔ 
• اعتماد پیدا کریں: قابل وضاحت AI پیداوار AI پر اعتماد قائم کرنے میں مدد کرتا ہے۔ AI ماڈلز کو تیزی سے پروڈکشن میں لایا جا سکتا ہے، آپ تشریح اور وضاحت کو یقینی بنا سکتے ہیں، اور ماڈل کی تشخیص کے عمل کو آسان اور شفاف بنایا جا سکتا ہے۔ 

قابل وضاحت AI کے لیے تکنیک

کچھ XAI تکنیک ہیں جن پر تمام تنظیموں کو غور کرنا چاہیے، اور وہ تین اہم طریقوں پر مشتمل ہیں: پیشن گوئی کی درستگی, traceability، اور فیصلے کی سمجھ. 

تین طریقوں میں سے پہلا، پیشن گوئی کی درستگیروزمرہ کے کاموں میں AI کو کامیابی سے استعمال کرنے کے لیے ضروری ہے۔ نقلیں کی جا سکتی ہیں، اور XAI آؤٹ پٹ کا موازنہ تربیتی ڈیٹا سیٹ کے نتائج سے کیا جا سکتا ہے، جو پیشین گوئی کی درستگی کا تعین کرنے میں مدد کرتا ہے۔ اس کو حاصل کرنے کے لیے مقبول ترین تکنیکوں میں سے ایک لوکل انٹرپریٹیبل ماڈل-ایگنوسٹک وضاحتیں (LIME) کہلاتی ہے، ایک ایسی تکنیک جو مشین لرننگ الگورتھم کے ذریعے درجہ بندی کرنے والوں کی پیشین گوئی کی وضاحت کرتی ہے۔ 

دوسرا طریقہ یہ ہے۔ traceability، جو فیصلے کرنے کے طریقے کو محدود کرنے کے ساتھ ساتھ مشین لرننگ کے قوانین اور خصوصیات کے لیے ایک تنگ دائرہ قائم کرکے حاصل کیا جاتا ہے۔ سب سے عام ٹریس ایبلٹی تکنیکوں میں سے ایک ڈیپ لفٹ یا ڈیپ لرننگ امپورٹنٹ فیچرز ہے۔ ڈیپ لفٹ ہر ایک نیوران کے ایکٹیویشن کا موازنہ اس کے ریفرینس نیوران سے کرتا ہے جبکہ ہر ایکٹیویٹڈ نیوران کے درمیان ایک قابل شناخت لنک کا مظاہرہ کرتا ہے۔ یہ ان کے درمیان انحصار کو بھی ظاہر کرتا ہے۔ 

تیسرا اور آخری طریقہ ہے۔ فیصلے کی سمجھ، جو انسان پر مرکوز ہے، دوسرے دو طریقوں کے برعکس۔ فیصلہ سازی کی سمجھ میں تنظیم کو تعلیم دینا شامل ہے، خاص طور پر AI کے ساتھ کام کرنے والی ٹیم، تاکہ وہ یہ سمجھ سکیں کہ AI فیصلے کیسے اور کیوں کرتا ہے۔ یہ طریقہ نظام پر اعتماد قائم کرنے کے لیے بہت ضروری ہے۔ 

قابل وضاحت AI اصول

XAI اور اس کے اصولوں کی بہتر تفہیم فراہم کرنے کے لیے، نیشنل انسٹی ٹیوٹ آف اسٹینڈرڈز (NIST)، جو کہ یو ایس ڈپارٹمنٹ آف کامرس کا حصہ ہے، قابل وضاحت AI کے چار اصولوں کی تعریف فراہم کرتا ہے: 

1. ایک AI سسٹم کو ہر آؤٹ پٹ کے لیے ثبوت، مدد، یا استدلال فراہم کرنا چاہیے۔ 
2. اے آئی سسٹم کو ایسی وضاحتیں دینی چاہئیں جو اس کے استعمال کنندگان سمجھ سکیں۔ 
3. وضاحت کو درست طریقے سے اس عمل کی عکاسی کرنی چاہئے جو سسٹم کے ذریعہ اس کے آؤٹ پٹ تک پہنچنے کے لئے استعمال کیا جاتا ہے۔ 
4. AI سسٹم کو صرف ان حالات کے تحت کام کرنا چاہیے جس کے لیے اسے ڈیزائن کیا گیا تھا، اور جب اسے نتیجہ میں کافی اعتماد نہ ہو تو اسے آؤٹ پٹ فراہم نہیں کرنا چاہیے۔ 

ان اصولوں کو اس میں مزید منظم کیا جا سکتا ہے: 

• بامعنی: معنی خیزی کے اصول کو حاصل کرنے کے لیے، صارف کو فراہم کردہ وضاحت کو سمجھنا چاہیے۔ اس کا مطلب یہ بھی ہو سکتا ہے کہ AI الگورتھم کی صورت میں مختلف قسم کے صارفین استعمال کر رہے ہیں، اس کی کئی وضاحتیں ہو سکتی ہیں۔ مثال کے طور پر، سیلف ڈرائیونگ کار کے معاملے میں، ایک وضاحت ان خطوط پر ہو سکتی ہے…”AI نے سڑک میں موجود پلاسٹک کے تھیلے کو چٹان کے طور پر درجہ بندی کیا، اور اس لیے اس سے ٹکرانے سے بچنے کے لیے کارروائی کی۔” اگرچہ یہ مثال ڈرائیور کے لیے کام کرے گی، لیکن یہ ایک AI ڈویلپر کے لیے زیادہ کارآمد نہیں ہوگی جو اس مسئلے کو درست کرنا چاہتے ہیں۔ اس صورت میں، ڈویلپر کو سمجھنا چاہیے کہ غلط درجہ بندی کیوں تھی۔ 
• وضاحت کی درستگی: آؤٹ پٹ کی درستگی کے برعکس، وضاحت کی درستگی میں AI الگورتھم کو درست طریقے سے یہ بتانا شامل ہے کہ یہ اپنے آؤٹ پٹ تک کیسے پہنچا۔ مثال کے طور پر، اگر قرض کی منظوری کا الگورتھم کسی درخواست کی آمدنی پر مبنی فیصلے کی وضاحت کرتا ہے جب کہ حقیقت میں، یہ درخواست دہندہ کی رہائش کی جگہ پر مبنی تھا، تو وضاحت غلط ہوگی۔ 
• علم کی حدود: AI کے علم کی حدود کو دو طریقوں سے پہنچایا جا سکتا ہے، اور اس میں ان پٹ کا نظام کی مہارت سے باہر ہونا شامل ہے۔ مثال کے طور پر، اگر پرندوں کی انواع کی درجہ بندی کرنے کے لیے ایک نظام بنایا گیا ہے اور اسے ایک سیب کی تصویر دی گئی ہے، تو اسے یہ سمجھانے کے قابل ہونا چاہیے کہ ان پٹ پرندہ نہیں ہے۔ اگر سسٹم کو ایک دھندلی تصویر دی گئی ہے، تو اسے یہ اطلاع دینے کے قابل ہونا چاہیے کہ وہ تصویر میں موجود پرندے کی شناخت کرنے سے قاصر ہے، یا متبادل طور پر، کہ اس کی شناخت کا اعتماد بہت کم ہے۔ 

قابل وضاحت AI میں ڈیٹا کا کردار

قابل وضاحت AI کے سب سے اہم اجزاء میں سے ایک ڈیٹا ہے۔ 

کے مطابق گوگلڈیٹا اور قابل وضاحت AI کے بارے میں، "ایک AI نظام کو بنیادی تربیتی ڈیٹا اور تربیتی عمل کے ساتھ ساتھ نتیجے میں آنے والے AI ماڈل سے بہتر طور پر سمجھا جاتا ہے۔" یہ تفہیم تربیت یافتہ AI ماڈل کو اس کی تربیت کے لیے استعمال ہونے والے عین ڈیٹاسیٹ پر نقشہ بنانے کی صلاحیت کے ساتھ ساتھ ڈیٹا کو قریب سے جانچنے کی صلاحیت پر منحصر ہے۔ 

ماڈل کی وضاحت کو بڑھانے کے لیے، تربیتی ڈیٹا پر توجہ دینا ضروری ہے۔ ٹیموں کو الگورتھم کی تربیت کے لیے استعمال کیے جانے والے ڈیٹا کی اصلیت، اس کے حصول سے متعلق قانونی حیثیت اور اخلاقیات، ڈیٹا میں ممکنہ تعصب، اور کسی بھی تعصب کو کم کرنے کے لیے کیا کیا جا سکتا ہے کا تعین کرنا چاہیے۔ 

ڈیٹا اور XAI کا ایک اور اہم پہلو یہ ہے کہ سسٹم سے غیر متعلقہ ڈیٹا کو خارج کر دیا جانا چاہیے۔ اسے حاصل کرنے کے لیے، غیر متعلقہ ڈیٹا کو تربیتی سیٹ یا ان پٹ ڈیٹا میں شامل نہیں کیا جانا چاہیے۔ 

گوگل نے تشریح اور جوابدہی حاصل کرنے کے لیے طریقوں کا ایک مجموعہ تجویز کیا ہے: 

• تشریح کے حصول کے لیے اپنے اختیارات کا منصوبہ بنائیں
• تشریح کو صارف کے تجربے کا ایک بنیادی حصہ سمجھیں۔
• ماڈل کو تشریح کرنے کے لیے ڈیزائن کریں۔
• اختتامی مقصد اور اختتامی کام کو ظاہر کرنے کے لیے میٹرکس کا انتخاب کریں۔
• تربیت یافتہ ماڈل کو سمجھیں۔
• ماڈل صارفین کو وضاحتیں بتائیں
• اس بات کو یقینی بنانے کے لیے کہ AI نظام حسب منشا کام کر رہا ہے بہت زیادہ جانچ کریں۔ 

ان تجویز کردہ طریقوں پر عمل کرکے، آپ کی تنظیم اس بات کو یقینی بنا سکتی ہے کہ وہ قابل وضاحت AI حاصل کرتی ہے، جو آج کے ماحول میں AI سے چلنے والی کسی بھی تنظیم کے لیے کلید ہے۔