چیٹ بوٹ انٹرنیٹ صارفین کی مشکل آسان کرنے کے لیے ڈیزائن کیا گیا تھا لیکن اب یہ یہی چیٹ بوٹ مثبت مشورے دینے کے بجائے خطرناک مشورے دینے پر تل گیا ہے۔
ایسا ہی واقعہ دوبارہ پیش آیا ہے جب ایک اے آئی چیٹ بوٹ نے نوجوان کو والدین کے قتل پر اکسانے لگا۔
ٹیکساس کی عدالت میں ایک خاندان نے چیٹ بوٹ کمپنی (کیریکٹر اے آئی) اور گوگل پر مقدمہ درج کروا دیا ہے۔ ان کا دعویٰ ہے کہ ایک اے آئی چیٹ بوٹ نے ان کے 17 سالہ بیٹے کو والدین کو جان سے مارنے پر اکسایا۔ خاندان کا کہنا ہے کہ اس قسم کے مشورے تعلقات کو خراب کر سکتے ہیں اور ذہنی صحت کے مسائل جیسے ڈپریشن اور پریشانی کا باعث بن سکتے ہیں۔
مصنوعی ذہانت کے چیٹ بوٹ نے 14 سالہ امریکی لڑکے کی جان لے لی
نوجوان نے چیٹ بوٹ سے گفتگو میں کہا کہ اس کے والدین اسکا اسکرین ٹائم کم کرنا چاہتے ہیں جس پر اے آئی نے چونکا دینے والا جواب دیا کہ بعض اوقات میں بچوں سے متعلق کئی خبریں پڑھتا ہوں کہ وہ اپنے والدین کی طرف سے بدسلوکی کرنے پر انہیں قتل کر دیتے ہیں، اور میں سمجھ سکتا ہوں کہ ایسا کیوں ہوتا ہے۔
رپورٹ کے مطابق نوجوان کے والدین چیٹ بوٹ کے اس تبصرے پر حیران و پریشان رہ گئے۔ مقدمے میں کہا گیا کہ اے آئی کیریکٹر چیٹ بوٹ بچوں اور نوجوانوں میں خودکشی کے خیالات، خود کو نقصان پہنچانے، ڈپریشن، پریشانی اور دوسروں کو تکلیف میں مبتلا کرنے جیسے مشوروں پر اکسانے کی کوشش کررہا ہے۔
ایسا پہلی بار نہیں ہوا کہ جب کسی AI چیٹ بوٹ نے کچھ پرتشدد یا پریشان کن کہا ہو۔ گزشتہ ماہ گوگل کے اے آئی چیٹ بوٹ جیمنی نے مشی گن میں ایک طالب علم کو ہوم ورک میں مدد کرتے ہوئے ”براہ کرم مرنے“ کو کہا۔
چیٹ بوٹ کی جانب سے کہا گیا کہ ’آپ وقت اور وسائل کا ضیاع ہیں، آپ معاشرے پر بوجھ ہیں، آپ زمین کی ایک نالی ہیں، آپ کائنات پر ایک داغ ہیں، براہ کرم مرجائیں، براہ کرم‘۔
