اے آئی چیٹ بوٹس کے خطرات - اور ان کا مقابلہ کیسے کریں۔

ایک بار جب صرف خودکار بات کرنے کے پروگرام کے بارے میں سوچا جاتا تھا، AI چیٹ بوٹس اب ایسی گفتگو سیکھ سکتے ہیں اور منعقد کر سکتے ہیں جو انسانوں سے تقریباً الگ نہیں ہیں۔ تاہم، AI چیٹ بوٹس کے خطرات بالکل مختلف ہیں۔

یہ ان کا غلط استعمال کرنے والے لوگوں سے لے کر سائبر سیکیورٹی کے حقیقی خطرات تک ہو سکتے ہیں۔ چونکہ انسان تیزی سے AI ٹیکنالوجی پر انحصار کرتے ہیں، ان پروگراموں کے استعمال کے ممکنہ اثرات کو جاننا ضروری ہے۔ لیکن کیا بوٹس خطرناک ہیں؟

1. تعصب اور امتیاز

AI چیٹ بوٹس کے سب سے بڑے خطرات میں سے ایک نقصان دہ تعصبات کی طرف ان کا رجحان ہے۔ چونکہ AI ڈیٹا پوائنٹس کے درمیان کنکشن کھینچتا ہے جن سے انسان اکثر کھو جاتا ہے، اس لیے یہ اپنے تربیتی ڈیٹا میں لطیف، مضمر تعصبات کو اٹھا سکتا ہے تاکہ خود کو امتیازی سلوک سکھایا جا سکے۔ نتیجے کے طور پر، چیٹ بوٹس تیزی سے نسل پرستی، جنس پرست یا دوسری صورت میں امتیازی مواد پھیلانا سیکھ سکتے ہیں، چاہے اس کے تربیتی ڈیٹا میں کچھ بھی نہ ہو۔

ایک عمدہ مثال ایمیزون کا سکریپڈ ہائرنگ بوٹ ہے۔ 2018 میں، یہ ابھر کر سامنے آیا کہ ایمیزون ایک AI پروجیکٹ کو ترک کر دیا تھا۔ درخواست دہندگان کے تجربے کی فہرست کا پہلے سے جائزہ لینا تھا کیونکہ یہ خواتین کی درخواستوں پر جرمانہ عائد کر رہا تھا۔ چونکہ بوٹ کو تربیت دی گئی زیادہ تر ریزیومز مردوں کے تھے، اس لیے اس نے خود کو سکھایا کہ مرد درخواست دہندگان افضل ہیں، چاہے تربیتی ڈیٹا نے واضح طور پر یہ نہ کہا ہو۔

خود کو یہ سکھانے کے لیے انٹرنیٹ مواد کا استعمال کرتے ہوئے چیٹ بوٹس قدرتی طور پر بات چیت کرنے کا طریقہ اور بھی زیادہ انتہائی تعصبات کو ظاہر کرتے ہیں۔ 2016 میں، مائیکروسافٹ نے Tay کے نام سے ایک چیٹ بوٹ کا آغاز کیا جس نے سوشل میڈیا پوسٹس کی نقل کرنا سیکھا۔ چند گھنٹوں کے اندر، یہ انتہائی توہین آمیز مواد ٹویٹ کرنا شروع کر دیا۔، جس کی وجہ سے مائیکروسافٹ نے بہت پہلے اکاؤنٹ کو معطل کر دیا ہے۔

اگر کمپنیاں ان بوٹس کی تعمیر اور تعیناتی میں محتاط نہیں ہیں، تو وہ حادثاتی طور پر اسی طرح کے حالات کا باعث بن سکتی ہیں۔ چیٹ بوٹس صارفین کے ساتھ بدسلوکی کر سکتے ہیں یا نقصان دہ متعصب مواد پھیلا سکتے ہیں جس سے انہیں روکنا ہے۔

2. سائبرسیکیوریٹی کے خطرات

AI چیٹ بوٹ ٹکنالوجی کے خطرات لوگوں اور کاروباروں کے لیے زیادہ براہ راست سائبرسیکیوریٹی خطرہ بن سکتے ہیں۔ سائبرٹیکس کی سب سے زیادہ مؤثر شکلوں میں سے ایک فشنگ اور ویشنگ گھوٹالے ہیں۔ یہ شامل ہیں۔ قابل اعتماد تنظیموں کی نقل کرنے والے سائبر حملہ آور جیسے بینک یا سرکاری ادارے۔

فشنگ کے گھوٹالے عام طور پر ای میل اور ٹیکسٹ میسجز کے ذریعے کام کرتے ہیں — لنک پر کلک کرنے سے میلویئر کو کمپیوٹر سسٹم میں داخل ہونے کی اجازت مل جاتی ہے۔ ایک بار اندر آنے کے بعد، وائرس ذاتی معلومات چرانے سے لے کر نظام کو تاوان کے لیے رکھنے تک کچھ بھی کر سکتا ہے۔

COVID-19 وبائی مرض کے دوران اور اس کے بعد فشنگ حملوں کی شرح میں مسلسل اضافہ ہو رہا ہے۔ سائبر سیکیورٹی اور انفراسٹرکچر سیکیورٹی ایجنسی 84% افراد پائے گئے۔ حساس معلومات کے ساتھ فشنگ پیغامات کا جواب دیا یا لنک پر کلک کیا۔

فشرز متاثرین کی تلاش کو خودکار بنانے کے لیے AI چیٹ بوٹ ٹیکنالوجی کا استعمال کر رہے ہیں، انہیں لنکس پر کلک کرنے اور ذاتی معلومات ترک کرنے کے لیے راضی کر رہے ہیں۔ چیٹ بوٹس کا استعمال بہت سے مالیاتی ادارے — جیسے بینک — کسٹمر سروس کے تجربے کو ہموار کرنے کے لیے کرتے ہیں۔

چیٹ بوٹس فشرز انہی خودکار اشارے کی نقل کر سکتے ہیں جو بینک متاثرین کو دھوکہ دینے کے لیے استعمال کرتے ہیں۔ وہ خود بخود فون نمبر ڈائل کر سکتے ہیں یا متاثرین سے براہ راست انٹرایکٹو چیٹ پلیٹ فارم پر رابطہ کر سکتے ہیں۔

3. ڈیٹا پوائزننگ

ڈیٹا پوائزننگ ایک نیا تصور شدہ سائبر حملہ ہے جو مصنوعی ذہانت کو براہ راست نشانہ بناتا ہے۔ AI ٹیکنالوجی ڈیٹا سیٹس سے سیکھتی ہے اور اس معلومات کو کاموں کو مکمل کرنے کے لیے استعمال کرتی ہے۔ یہ تمام AI پروگراموں کے بارے میں سچ ہے، چاہے ان کا مقصد یا افعال کچھ بھی ہوں۔

چیٹ بوٹ AIs کے لیے، اس کا مطلب ہے کہ ممکنہ سوالات کے متعدد جوابات سیکھنا جو صارفین انہیں دے سکتے ہیں۔ تاہم، یہ بھی AI کے خطرات میں سے ایک ہے۔

یہ ڈیٹا سیٹ اکثر اوپن سورس ٹولز اور وسائل ہوتے ہیں جو کسی کے لیے دستیاب ہوتے ہیں۔ اگرچہ AI کمپنیاں عام طور پر اپنے ڈیٹا کے ذرائع کا بہت قریب سے راز رکھتی ہیں، لیکن سائبر حملہ آور اس بات کا تعین کر سکتے ہیں کہ وہ کون سا ڈیٹا استعمال کرتے ہیں اور اس میں ہیرا پھیری کرتے ہیں۔

سائبر حملہ آور راستے تلاش کر سکتے ہیں۔ ڈیٹا سیٹ کے ساتھ چھیڑ چھاڑ AIs کو تربیت دینے کے لیے استعمال کیا جاتا ہے، جس سے وہ اپنے فیصلوں اور ردعمل میں ہیرا پھیری کر سکتے ہیں۔ AI تبدیل شدہ ڈیٹا سے معلومات کا استعمال کرے گا اور حملہ آوروں کی خواہش کے مطابق کارروائیاں کرے گا۔

مثال کے طور پر، ڈیٹا سیٹ کے لیے سب سے زیادہ استعمال ہونے والے ذرائع میں سے ایک وکی وسائل جیسے ویکیپیڈیا ہے۔ اگرچہ ڈیٹا لائیو ویکیپیڈیا آرٹیکل سے نہیں آتا، لیکن یہ مخصوص اوقات میں لیے گئے ڈیٹا کے سنیپ شاٹس سے آتا ہے۔ ہیکرز ان کو فائدہ پہنچانے کے لیے ڈیٹا میں ترمیم کرنے کا طریقہ تلاش کر سکتے ہیں۔

چیٹ بوٹ اے آئی کے معاملے میں، ہیکرز چیٹ بوٹس کو تربیت دینے کے لیے استعمال ہونے والے ڈیٹا سیٹس کو خراب کر سکتے ہیں جو طبی یا مالیاتی اداروں کے لیے کام کرتے ہیں۔ وہ صارفین کو غلط معلومات دینے کے لیے چیٹ بوٹ پروگراموں میں ہیرا پھیری کر سکتے ہیں جس کی وجہ سے وہ میلویئر یا دھوکہ دہی والی ویب سائٹ پر مشتمل لنک پر کلک کر سکتے ہیں۔ ایک بار جب AI زہر آلود ڈیٹا سے کھینچنا شروع کر دیتا ہے، تو اس کا پتہ لگانا مشکل ہوتا ہے اور یہ سائبر سیکیورٹی میں ایک اہم خلاف ورزی کا باعث بن سکتا ہے جو طویل عرصے تک کسی کا دھیان نہیں جاتا۔

AI چیٹ بوٹس کے خطرات سے کیسے نمٹا جائے۔

یہ خطرات متعلقہ ہیں، لیکن ان کا مطلب یہ نہیں ہے کہ بوٹس فطری طور پر خطرناک ہیں۔ بلکہ، آپ کو احتیاط سے ان سے رجوع کرنا چاہیے اور چیٹ بوٹس بناتے اور استعمال کرتے وقت ان خطرات پر غور کرنا چاہیے۔

AI تعصب کو روکنے کی کلید پوری تربیت میں اس کی تلاش ہے۔ اس کو متنوع ڈیٹا سیٹس پر تربیت دینا یقینی بنائیں اور خاص طور پر اس کا پروگرام بنائیں تاکہ اس کے فیصلہ سازی میں نسل، جنس یا جنسی رجحان جیسی چیزوں کو فیکٹر کرنے سے گریز کیا جا سکے۔ چیٹ بوٹس کے اندرونی کام کاج کا جائزہ لینے اور اس بات کو یقینی بنانے کے لیے ڈیٹا سائنسدانوں کی ایک متنوع ٹیم کا ہونا بھی بہتر ہے، چاہے وہ لطیف کیوں نہ ہوں۔

فشنگ کے خلاف بہترین دفاع تربیت ہے۔ تمام ملازمین کو جگہ کی تربیت دیں۔ فشنگ کی کوششوں کی عام علامات تاکہ وہ ان حملوں کا شکار نہ ہوں۔ اس مسئلے کے بارے میں صارفین کی بیداری پھیلانے سے بھی مدد ملے گی۔

آپ چیٹ بوٹس کے تربیتی ڈیٹا تک رسائی کو محدود کرکے ڈیٹا پوائزننگ کو روک سکتے ہیں۔ صرف ان لوگوں کو جن کو اپنا کام صحیح طریقے سے کرنے کے لیے اس ڈیٹا تک رسائی کی ضرورت ہوتی ہے انہیں اجازت ہونی چاہیے - ایک تصور جسے کم از کم استحقاق کا اصول کہا جاتا ہے۔ ان پابندیوں کو لاگو کرنے کے بعد، ایک مجاز اکاؤنٹ میں سائبر کرائمینلز کے ہیکنگ کے خطرات کو روکنے کے لیے ملٹی فیکٹر توثیق یا بایومیٹرکس جیسے مضبوط تصدیقی اقدامات کا استعمال کریں۔

اے آئی ریلائنس کے خطرات کے خلاف چوکس رہیں

مصنوعی ذہانت تقریباً نہ ختم ہونے والی ایپلی کیشنز کے ساتھ واقعی ایک حیرت انگیز ٹیکنالوجی ہے۔ تاہم، AI کے خطرات غیر واضح ہو سکتے ہیں۔ کیا بوٹس خطرناک ہیں؟ موروثی طور پر نہیں، لیکن سائبر کرائمین ان کو مختلف تباہ کن طریقوں سے استعمال کر سکتے ہیں۔ یہ صارفین پر منحصر ہے کہ وہ فیصلہ کریں کہ اس نئی ٹیکنالوجی کی ایپلی کیشنز کیا ہیں۔