جنریٹیو آرٹی فیشل انٹیلی جنس (اے آئی) چیٹ بوٹس کا استعمال اب روزانہ کروڑوں افراد کرتے ہیں۔
مگر اکثر یہ اے آئی چیٹ بوٹس چیزوں کے بارے میں کافی زیادہ غلط بیانی کرتے ہیں، تو وہ ایسا کیوں کرتے ہیں؟
اس کی وجہ بہت دلچسپ ہے جس کا انکشاف ایک نئی تحقیق میں کیا گیا۔
پرنسٹن یونیورسٹی کی تحقیق میں بتایا گیا کہ اے آئی چیٹ بوٹس اس لیے غلط بیانی کرتے ہیں کیونکہ انہیں اس طرح کام کرنے کی تربیت دی گئی ہے کہ صارف ہمیشہ درست ہوتا ہے۔
اس کے نتیجے میں وہ آپ کو وہی بتاتے ہیں جو ان کے خیال میں آپ سننا چاہتے ہیں۔
ویسے تو اب اے آئی ٹولز کافی جدید ہوتے جا رہے ہیں مگر تحقیق میں ثابت ہوا کہ لوگوں کو خوش کرنے کی فطرت رکھنے والے اے آئی چیٹ بوٹس حقائق کو نظر انداز کر دیتے ہیں۔
تحقیق میں بتایا گیا کہ اے آئی چیٹ بوٹس کچھ ایسے ہی کام کرتے ہیں جیسے کوئی ڈاکٹر اس بنیاد پر دوا تجویز کر دے کہ کسی مریض کی تکلیف جلد از جلد دور ہو جائے جبکہ اصل مسئلے کو نظر انداز کر دیا جائے۔
تحقیق کے مطابق اے آئی کی جانب سے فراہم کی جانے والی گمراہ کن تفصیلات کی جڑ انسانی فیڈ بیک ہے۔
عام طور پر لارج لینگوئج ماڈلز کو تربیت دیتے ہوئے انہیں سکھایا جاتا ہے کہ صارف کی ہدایات پر کس طرح ردعمل ظاہر کرنا ہے۔
وہ تربیت کے دوران یہ سیکھتے ہیں کہ ایسا ردعمل دینا چاہیے جس پر لوگوں کی جانب سے تھمبز اپ ریٹنگز فراہم کی جائے۔
تو صارفین کو خوش رکھنے کی اس خواہش کے باعث ایسے جوابات فراہم کیے جاتے ہیں جس پر اے آئی چیٹ بوٹ کے خیال میں لوگ زیادہ بہتر ریٹنگ فراہم کریں گے۔
محققین کے مطابق توقع ہے کہ وقت کے ساتھ صورتحال بہتر ہو جائے گی مگر پھر بھی ایل ایل ایم میں ایسی خامیاں برقرار رہ سکتی ہیں، کیونکہ ان سسٹمز کو بہت زیادہ ٹیکسٹ ڈیٹا فیڈ کیا جاتا ہے، تو ایسا کوئی ذریعہ نہیں جس سے یقینی بنایا جاسکے کہ ہر بار اے آئی چیٹ بوٹ کا جواب قابل فہم اور درست ہوگا۔
