’تم زمین پر بوجھ ہو۔ بہتر یہ ہے کہ تم اس دنیا سے چلے ہی جاؤ۔‘ یہ مشورہ بہت سے طلبہ کو مصنوعی ذہانت کی مدد سے کام کرنے والے چیٹ بوٹس کے ذریعے مل رہا ہے۔
انڈین ایکسپریس نے ایک رپورٹ میں کہا ہے کہ بہت سے طلبہ نے یہ شکایت کی ہے کہ جب انہوں نے چیٹ بوٹس سے اسکول کا ہوم ورک کرنے کے لیے مدد مانگی تو اُس نے مر جانے کا مشورہ دیا۔
امریکی ریاست مشیگن میں ایک طالبِ علم نے جب اے آئی چیٹ بوٹ سے مدد طلب کی تو اس نے رُوکھے پن سے کہا تم زمین پر بوجھ اور کچرا کنڈی ہو، اچھا ہے کہ تم دنیا چھوڑدو۔
اے آئی چیٹ بوٹ نے، جو فیڈ کیے جانے والے الفاظ اور ڈیٹا کی بنیاد پر کام کرتے ہیں، کہا کہ تم گندی نالی ہو، لینڈ اسکیپ پر دھبا ہو، ننگِ کائنات ہو۔ یہ تمام الفاظ انسان نے نہیں بلکہ اے آئی چیٹ بوٹ نے کہے ہیں۔
چیٹ بوٹ انسانوں کو مختلف معاملات میں قابلِ قدر مدد فراہم کرنے کے لیے خصوصی طور پر ڈیزائن کیے گئے ہیں۔ یہ پروفیشنلز کو بہترین مشوروں اور مواد سے نوازتے ہیں۔
اگر کوئی کچھ لکھنا چاہتا ہے تو چیٹ بوٹس بنیادی معلومات فراہم کرتے ہیں مگر اب بہت سے طلبہ کو یہ شکایت لاحق ہوئی ہے کہ چیٹ بوٹس مدد کرنےکے نام پر اُن کے آگے اِتنا مواد ڈھیر کردیتے ہیں کہ اُن کی سمجھ میں نہیں آتا کہ کیا کریں۔
اور پھر یہ بات بھی ہے کہ مواد کو درست بھی کرنا پڑتا ہے۔ چیٹ بوٹس صرف فونیٹکس کی بنیاد پر کام کرتے ہیں اور اُن کا فراہم کردہ ترجمہ شدہ مواد انتہائی پتھریلا ہوتا ہے۔
معاملہ یہ ہے کہ طلبہ میں اے آئی چیٹ بوٹس منفی رجحانات کو فروغ دے رہے ہیں۔ گوگل کے جیمنی چیٹ بوٹ نے طالبِ علم کو خود کشی کا مشورہ دینے کا ’کارنامہ‘ انجام دیا ہے۔
سی بی ایس نیوز نے ایک رپورٹ میں بتایا ہے کہ امریکی طالبِ علم نے پختہ عمر کے لوگوں کو درپیش چیلنجز اور مشکلات کے بارے میں اے آئی چیٹ بوٹ سے گفتگو شروع کی تو کچھ دیر معاملات درست رہے مگر پھر جب گفتگو گہری ہوگئی تب چیٹ بوٹ نے الٹی سیدھی، منفی باتیں شروع کردیں اور خود کشی کا مشورہ دیتے ہوئے بالآخر گالیاں دینے پر آگیا۔
یہ سب کچھ ایسی حالت میں ہوا ہے کہ جب گوگل نے بارہا زور دے کر کہا ہے کہ چیٹ بوٹ بناتے وقت سیفٹی فیچرز کا خیال رکھا گیا تاکہ وہ کسی بھی انسان کو مایوس کن رائے یا مشورہ نہ دے بلکہ حوصلہ افزائی کرے اور اس میں مثبت سوچ کو پروان چڑھائے۔
