گوگل شفافیت اور ڈیبگ ایبلٹی کو بڑھانے کے لیے نیا قابل وضاحت AI پروگرام بناتا ہے۔

ابھی حال ہی میں، گوگل نے ایک نیا کلاؤڈ پلیٹ فارم بنانے کا اعلان کیا ہے جس کا مقصد بصیرت حاصل کرنا ہے کہ ایک AI پروگرام کس طرح فیصلے کرتا ہے، پروگرام کو ڈیبگ کرنا آسان بناتا ہے اور شفافیت کو بڑھاتا ہے۔ جیسا کہ رپورٹ کیا گیا ہے۔ رجسٹر، کلاؤڈ پلیٹ فارم کو Explainable AI کہا جاتا ہے، اور یہ Google کی طرف سے AI کی وضاحت میں سرمایہ کاری کرنے کی ایک بڑی کوشش کی نشاندہی کرتا ہے۔

مصنوعی اعصابی نیٹ ورک آج دنیا میں کام کرنے والے بڑے AI نظاموں میں سے بہت سے، شاید زیادہ تر میں کام کر رہے ہیں۔ نیورل نیٹ ورک جو بڑی AI ایپلی کیشنز چلاتے ہیں وہ غیر معمولی طور پر پیچیدہ اور بڑے ہو سکتے ہیں، اور جیسے جیسے سسٹم کی پیچیدگی بڑھتی جاتی ہے یہ سمجھنا مشکل سے مشکل تر ہوتا جاتا ہے کہ سسٹم کی طرف سے کوئی خاص فیصلہ کیوں کیا گیا ہے۔ جیسا کہ گوگل اپنے وائٹ پیپر میں وضاحت کرتا ہے، جیسے جیسے AI سسٹمز زیادہ طاقتور ہوتے جاتے ہیں، وہ بھی پیچیدہ ہوتے جاتے ہیں اور اس لیے ڈیبگ کرنا مشکل ہوتا ہے۔ جب ایسا ہوتا ہے تو شفافیت بھی ختم ہو جاتی ہے، جس کا مطلب ہے کہ متعصب الگورتھم کو پہچاننا اور حل کرنا مشکل ہو سکتا ہے۔

حقیقت یہ ہے کہ استدلال جو پیچیدہ نظاموں کے طرز عمل کو چلاتا ہے اس کی تشریح کرنا بہت مشکل ہے اکثر اس کے سخت نتائج ہوتے ہیں۔ AI تعصب کا مقابلہ کرنا مشکل بنانے کے علاوہ، یہ حقیقی طور پر اہم اور دلچسپ ارتباط سے جعلی ارتباط بتانا غیر معمولی طور پر مشکل بنا سکتا ہے۔

بہت سی کمپنیاں اور تحقیقی گروپ اس بات کی کھوج کر رہے ہیں کہ AI کے "بلیک باکس" کے مسئلے کو کیسے حل کیا جائے اور ایک ایسا نظام بنایا جائے جو مناسب طریقے سے وضاحت کرے کہ AI کے ذریعے کچھ فیصلے کیوں کیے گئے ہیں۔ گوگل کا قابل وضاحت AI پلیٹ فارم اس چیلنج سے نمٹنے کے لیے اپنی بولی کی نمائندگی کرتا ہے۔ قابل وضاحت AI تین مختلف ٹولز پر مشتمل ہے۔ پہلا ٹول ایک سسٹم جو یہ بتاتا ہے کہ AI کے ذریعہ کن خصوصیات کو منتخب کیا گیا ہے اور یہ ایک انتساب سکور بھی دکھاتا ہے جو کہ حتمی پیشین گوئی پر کسی خاص خصوصیت کے اثر و رسوخ کی مقدار کو ظاہر کرتا ہے۔ ٹول پر گوگل کی رپورٹ بارش، موجودہ درجہ حرارت، ہفتے کے دن، اور وقت شروع ہونے جیسے متغیرات کی بنیاد پر یہ اندازہ لگانے کی ایک مثال پیش کرتی ہے کہ موٹر سائیکل کی سواری کتنی دیر تک چلے گی۔ نیٹ ورک کی جانب سے فیصلہ سنانے کے بعد، فیڈ بیک دیا جاتا ہے جو ظاہر کرتا ہے کہ پیشین گوئیوں پر کن خصوصیات کا سب سے زیادہ اثر پڑا۔

تصویری ڈیٹا کے معاملے میں یہ ٹول ایسی رائے کیسے فراہم کرتا ہے؟ اس صورت میں، ٹول ایک اوورلے تیار کرتا ہے جو تصویر کے ان علاقوں کو نمایاں کرتا ہے جو پیش کردہ فیصلے پر سب سے زیادہ وزن رکھتے ہیں۔

ٹول کٹ میں پایا جانے والا ایک اور ٹول "What-If" ٹول ہے، جو ماڈل کی کارکردگی میں ممکنہ اتار چڑھاو کو ظاہر کرتا ہے کیونکہ انفرادی صفات میں ہیرا پھیری ہوتی ہے۔ آخر میں، آخری ٹول قابل بناتا ہے ایک مستقل شیڈول پر انسانی جائزہ لینے والوں کو نمونے کے نتائج دینے کے لیے ترتیب دیا جا سکتا ہے۔

AI اور مشین لرننگ کے لیے گوگل کے چیف سائنٹسٹ ڈاکٹر اینڈریو مور نے اس پروجیکٹ کے لیے تحریک کو بیان کیا۔ مور نے وضاحت کی کہ تقریباً پانچ سال قبل تعلیمی برادری نے AI کے استعمال کے نقصان دہ ضمنی پروڈکٹس کے بارے میں فکر مند ہونا شروع کر دیا تھا اور یہ کہ گوگل اس بات کو یقینی بنانا چاہتا تھا کہ ان کے سسٹمز کو صرف اخلاقی طریقوں سے استعمال کیا جا رہا ہو۔ مور نے ایک واقعہ بیان کیا جہاں کمپنی تعمیراتی کارکنوں کو خبردار کرنے کے لیے کمپیوٹر وژن پروگرام ڈیزائن کرنے کی کوشش کر رہی تھی اگر کسی نے ہیلمٹ نہ پہنا ہو، لیکن وہ اس بات پر فکر مند ہو گئے کہ نگرانی کو بہت دور لے جایا جا سکتا ہے اور یہ غیر انسانی ہو سکتا ہے۔ مور نے کہا کہ اسی طرح کی ایک وجہ تھی کہ گوگل نے عام چہرے کی شناخت API کو جاری نہ کرنے کا فیصلہ کیا، کیونکہ کمپنی اس بات پر زیادہ کنٹرول حاصل کرنا چاہتی ہے کہ ان کی ٹیکنالوجی کو کس طرح استعمال کیا جاتا ہے اور اس بات کو یقینی بنانا ہے کہ اسے صرف اخلاقی طریقوں سے استعمال کیا جا رہا ہے۔

مور نے بھی روشنی ڈالی۔ AI کے فیصلے کے قابل وضاحت ہونا اتنا اہم کیوں تھا:

"اگر آپ کے پاس حفاظت کا ایک اہم نظام ہے یا سماجی طور پر کوئی اہم چیز جس کے غیر ارادی نتائج ہو سکتے ہیں اگر آپ کو لگتا ہے کہ آپ کے ماڈل نے غلطی کی ہے، تو آپ کو اس کی تشخیص کرنے کے قابل ہونا پڑے گا۔ ہم احتیاط سے وضاحت کرنا چاہتے ہیں کہ وضاحت کی اہلیت کیا کر سکتی ہے اور کیا نہیں کر سکتی۔ یہ کوئی علاج نہیں ہے۔