Baidu نے Google اور Microsoft کو پیچھے چھوڑ دیا، زبان کی تفہیم کے لیے نئی تکنیک تیار کی۔

Baidu، چین کی سب سے بڑی ٹیک کمپنیوں میں سے ایک، نے حال ہی میں زبان کو سمجھنے کے لیے AIs سکھانے کا ایک نیا طریقہ تیار کیا ہے۔ جیسا کہ ٹیکنالوجی ریویو کے ذریعہ رپورٹ کیا گیا۔کمپنی نے حال ہی میں جنرل لینگویج اینڈ انڈرسٹینڈنگ ایویلیوایشن (GLUE) مقابلے میں مائیکروسافٹ اور گوگل کو مات دے کر بہترین نتائج حاصل کیے ہیں۔

GLUE نو مختلف ٹیسٹوں پر مشتمل ہے، ہر ٹیسٹ کے ساتھ زبان کی تفہیم کے لیے ایک مختلف کام کی پیمائش ہوتی ہے، جیسے کہ ایک جملے میں موجود اداروں کے ناموں کو سمجھنا اور یہ سمجھنا کہ جب متعدد ممکنہ امیدوار ہوتے ہیں تو اس کا ضمیر کس تناظر میں استعمال کیا جا رہا ہے۔ . اوسطاً انسان GLUE پر ممکنہ 87 میں سے 100 پوائنٹس حاصل کرتا ہے۔ Baidu کا نیا ماڈل، ERNIE، 90 پوائنٹ کی حد کو توڑ دیا۔

محققین ہمیشہ GLUE پر اپنے ماڈلز کی کارکردگی کو بہتر بنانے کی کوشش کرتے رہتے ہیں، اور اس وجہ سے Baidu کی طرف سے مقرر کردہ موجودہ معیار شاید جلد ہی ختم ہو جائے گا۔ تاہم، جو چیز Baidu کی کامیابیوں کو قابل ذکر بناتی ہے وہ یہ ہے کہ وہ جو سیکھنے کا طریقہ استعمال کرتے ہیں وہ دوسری زبانوں کو عام کرنے کے قابل ہوتا ہے۔ اگرچہ یہ ماڈل چینی زبان کی ترجمانی کے لیے تیار کیا گیا تھا، لیکن وہی اصول اسے بہتر بناتے ہیں اور انگریزی زبان کی ترجمانی کرتے ہیں۔ ERNIE کا مطلب ہے "علم کے انضمام کے ذریعے بہتر نمائندگی"، اور یہ ترقی کی پیروی کرتا ہے۔ برٹ  ("ٹرانسفارمرز سے دو طرفہ انکوڈر کی نمائندگی") زبان کا ماڈل۔

BERT نے زبان کی تفہیم کے لیے ایک نیا معیار قائم کیا کیونکہ یہ ایک دو طرفہ ماڈل تھا۔ پچھلے زبان کے ماڈل صرف اس قابل تھے کہ اعداد و شمار کی ترجمانی کریں جو ایک "سمت" میں بہتے ہیں، کسی ایسے لفظ کو دیکھتے ہیں جو ہدف کے لفظ سے پہلے یا بعد میں آیا ہو۔ BERT ایک دو طرفہ نقطہ نظر کو نافذ کرنے کے قابل تھا جو ایک جملے میں پچھلے اور بعد کے دونوں الفاظ استعمال کر سکتا ہے تاکہ ہدف والے لفظ کے معنی معلوم کرنے میں مدد مل سکے۔ BERT دو طرفہ تجزیہ کو ممکن بنانے کے لیے ماسکنگ نامی تکنیک کا استعمال کرتا ہے، ایک جملے میں ایک لفظ کا انتخاب کرتا ہے اور اسے چھپاتا ہے، جو اس لفظ کے ممکنہ سیاق و سباق کو پہلے اور بعد کے سیاق و سباق کے اشارے میں تقسیم کرتا ہے۔

انگریزی زبان میں، لفظ غالب سیمنٹک اکائی ہے، لوگ معنی جاننے کے لیے انفرادی حروف کی بجائے پورے الفاظ کو دیکھتے ہیں۔ کسی لفظ کو اس کے سیاق و سباق سے ہٹانا ممکن ہے اور پھر بھی وہ لفظ اپنے معنی کو برقرار رکھے، اور انفرادی حروف کے معنی تقریباً ہمیشہ ایک جیسے ہوتے ہیں۔ اس کے برعکس، چینی زبان اس بات پر بہت زیادہ انحصار کرتی ہے کہ معنی کا تعین کرتے وقت حروف کو دوسرے حروف کے ساتھ کیسے ملایا جاتا ہے۔ کرداروں کا مطلب ان کے ارد گرد کے کرداروں کے لحاظ سے مختلف چیزیں ہو سکتی ہیں۔

Baidu ریسرچ ٹیم نے بنیادی طور پر استعمال شدہ ماڈل BERT لیا اور اسے بڑھایا، مکمل الفاظ کی بجائے حروف کے تار چھپائے۔ AI نظام کو بے ترتیب تاروں اور معنی خیز تاروں کے درمیان فرق کرنے کی تربیت بھی دی گئی تھی تاکہ حروف کی صحیح تاروں کو نقاب پوش کیا جا سکے۔ یہ ERNIE کو متنی دستاویز سے معلومات حاصل کرنے اور مشینی ترجمہ کرنے میں ماہر بناتا ہے۔ تحقیقی ٹیم کو یہ بھی پتہ چلا کہ ان کے تربیتی طریقہ کار کے نتیجے میں ایک ایسا ماڈل بھی نکلا جو انگریزی کے فقروں کو دوسرے ماڈلز سے بہتر طریقے سے الگ کر سکتا ہے۔ اس کی وجہ یہ ہے کہ انگریزی بعض اوقات، اگرچہ شاذ و نادر ہی، الفاظ کے مجموعے کا استعمال کرتی ہے جو مختلف معنی کا اظہار کرتے ہیں جب وہ ایک دوسرے کے ساتھ شامل ہوتے ہیں بمقابلہ جب وہ خود ہوتے ہیں۔ مناسب نام اور محاورے یا بول چال، جیسے "پرانے بلاک کو چپ کر دینا" ایسے لسانی مظاہر کی مثالیں ہیں۔

ERNIE کارکردگی کو بہتر بنانے کے لیے متعدد دیگر تربیتی تکنیکوں کا استعمال کرتا ہے، بشمول پیراگراف کی تشریح کرتے وقت جملے کی ترتیب اور فاصلے کا تجزیہ کرنا۔ ایک مسلسل تربیت کا طریقہ بھی استعمال کیا جاتا ہے، جو ERNIE کو پہلے سے حاصل کردہ علم کو فراموش کیے بغیر نئے ڈیٹا پر تربیت دینے اور نئے نمونوں کو سیکھنے کی اجازت دیتا ہے۔

Baidu فی الحال تلاش کے نتائج کے معیار کو بڑھانے کے لیے ERNIE کا استعمال کرتا ہے۔ ERNIE کے تازہ ترین فن تعمیر کی تفصیل ایک آئندہ مقالے میں دی جائے گی جو 2020 ایسوسی ایشن فار دی ایڈوانسمنٹ آف آرٹیفیشل انٹیلی جنس کانفرنس میں پیش کی جائے گی۔