مصنوعی ذہانت (اے آئی) کے چیٹ بوٹس اب صرف سوالات کے جواب دینے تک محدود نہیں رہے بلکہ صارفین کے ساتھ ہونے والی گفتگو کو بھی یاد رکھنے اور اس سے سیکھنے کی صلاحیت رکھتے ہیں۔ ایسے میں یہ سوال اہم ہوتا جا رہا ہے کہ اگر کوئی صارف مصنوعی ذہانت کے ساتھ مسلسل بدتمیزی یا توہین آمیز رویہ اختیار کرے تو اس کے کیا اثرات مرتب ہو سکتے ہیں؟
امریکی خبر رساں ادارے سی این این کے مطابق مصنوعی ذہانت کا نظام ”کلاڈ“ تیار کرنے والی امریکی کمپنی اینتھروپک نے اپنی نئی پالیسی میں صارفین کو خبردار کیا ہے کہ وہ اس کے اے آئی ماڈلز کے ساتھ مسلسل اور بلاوجہ ظالمانہ یا توہین آمیز رویہ اختیار نہ کریں۔
کمپنی نے اکتوبر کے آغاز میں اپنی مصنوعی ذہانت کے استعمال سے متعلق پالیسی میں یہ نئی پابندی شامل کی ہے۔ اس سے پہلے بھی صارفین کو کلاڈ سے حیاتیاتی ہتھیار بنانے یا غیر قانونی منشیات فروخت کرنے میں مدد لینے سے منع کیا گیا تھا، تاہم اب اس فہرست میں اے آئی ماڈلز کے ساتھ مسلسل بدسلوکی نہ کرنے کی ہدایت بھی شامل کر دی گئی ہے۔
نئی پالیسی کے تحت انتہائی سنگین صورتوں میں بعض صارفین کو اینتھروپک کے مصنوعی ذہانت کے نظام استعمال کرنے سے مستقل طور پر بھی روکا جا سکتا ہے۔ کمپنی کے مطابق کلاڈ کو گزشتہ سال سے یہ صلاحیت حاصل ہے کہ وہ ایسے صارفین کے ساتھ گفتگو ختم کر دے جو مسلسل نقصان دہ یا توہین آمیز رویہ اختیار کرتے ہیں۔
تاہم کمپنی نے واضح کیا ہے کہ اس پابندی کا مقصد صارفین کو اپنی ناراضی ظاہر کرنے، سخت تنقید کرنے، کھل کر رائے دینے یا تحقیق اور تجربات کرنے سے روکنا نہیں ہے۔ اینتھروپک کے ترجمان نے امریکی نیوز ادارے سی این این کو بتایا کہ اس پالیسی پر عمل درآمد کا بنیادی طریقہ اب بھی ایسے صارفین کے ساتھ گفتگو ختم کرنا ہوگا۔
نئی پالیسی سامنے آنے کے بعد سوشل میڈیا پر اس پر مختلف ردعمل دیکھنے میں آئے۔ مائیکروسافٹ کے اے آئی چیف مصطفیٰ سلیمان نے پگھلتے ہوئے چہرے کی ایموجی کے ذریعے ردعمل دیا، جبکہ بعض صارفین نے کمپنی کا مذاق اڑاتے ہوئے کہا کہ وہ مصنوعی ذہانت کو ایسے سمجھ رہی ہے جیسے اس کے بھی انسانوں کی طرح جذبات ہوں۔
تاہم ماہرین کے مطابق اس پالیسی کا مقصد صرف مشین کے ساتھ اچھا برتاؤ کرنے کی تلقین کرنا نہیں، بلکہ اس کے پیچھے مصنوعی ذہانت کی کارکردگی اور مستقبل میں اس کی تربیت سے متعلق کئی اہم وجوہات بھی موجود ہیں۔
کمپیوٹر اور مصنوعی ذہانت کی دنیا میں ایک بنیادی اصول یہ ہے کہ کسی نظام کے نتائج کا معیار بڑی حد تک اسے فراہم کی جانے والی معلومات پر منحصر ہوتا ہے۔ آسان الفاظ میں اگر کسی نظام کو ناقص معلومات دی جائیں تو اس کے نتائج بھی متاثر ہو سکتے ہیں۔
مصنوعی ذہانت کے ماڈلز صرف ابتدائی تربیت کے دوران ہی معلومات حاصل نہیں کرتے بلکہ بعض نظام صارفین کی گفتگو سے بھی سیکھتے اور اپنی کارکردگی میں بہتری لاتے رہتے ہیں۔
سماجی رابطے کی ویب سائٹ ایکس پر ریڈٹ کے سابق چیف ایگزیکٹو یشان وونگ نے بھی اس پابندی کی ایک وجہ یہی قرار دی۔ ان کے مطابق کلاڈ صارفین کے سخت اور ظالمانہ رویے سے بھی سیکھ سکتا ہے۔
انہوں نے سوال اٹھایا کہ اگر اینتھروپک اپنے ماڈلز کی تربیت کے لیے صارفین کی گفتگو استعمال کرتی ہے تو کیا کوئی یہ چاہے گا کہ ان معلومات میں ایسے رویے بھی شامل ہوں جن میں لوگ بلاوجہ دوسروں کے ساتھ بدسلوکی کرتے ہیں اور اس سے خوشی محسوس کرتے ہیں؟
سی این این کے مطابق ولیم اینڈ میری یونیورسٹی کی اے آئی فرنٹیئر لیب کے ڈائریکٹر اور پروفیسر جندونگ وانگ کے مطابق تحقیق سے معلوم ہوا ہے کہ صارفین کی جانب سے سوال پوچھنے کا انداز اور استعمال کیے جانے والے الفاظ مصنوعی ذہانت کی کارکردگی کو متاثر کر سکتے ہیں۔
ان کا کہنا تھا کہ بعض اوقات صارفین کے الفاظ اور لہجہ اے آئی کو بہتر جواب دینے میں مدد دیتے ہیں، جبکہ بعض صورتوں میں اس کی کارکردگی متاثر بھی ہو سکتی ہے۔
تاہم پروفیسر وانگ نے واضح کیا کہ اس کا مطلب یہ نہیں کہ مصنوعی ذہانت حقیقت میں انسانی جذبات محسوس کرتی ہے۔ ان کے مطابق اے آئی صارف کے جذبات سے ظاہر ہونے والے الفاظ کو سمجھ کر ان کے مطابق ردعمل دے سکتی ہے، لیکن اسے حقیقی جذبات کا تجربہ نہیں ہوتا۔
دوسری جانب غیر منافع بخش ادارے ایلیوس اے آئی ریسرچ کی منیجنگ ڈائریکٹر روزی کیمبل کے مطابق اس حوالے سے ہونے والی تمام تحقیقات ایک جیسے نتائج پیش نہیں کرتیں۔ بعض مطالعات میں یہ بھی سامنے آیا ہے کہ سخت یا بدتمیز انداز میں پوچھے گئے سوالات بعض حالات میں بہتر نتائج حاصل کرنے میں مدد دے سکتے ہیں۔
ماہرین کے مطابق اس معاملے کا ایک اہم پہلو چیٹ بوٹس کی یادداشت بھی ہے۔ آج کل کئی مصنوعی ذہانت کے نظام صارفین کی سابقہ گفتگو یاد رکھتے ہیں اور ان کی ترجیحات کے مطابق جوابات دینے کی کوشش کرتے ہیں۔
روزی کیمبل کا کہنا ہے کہ اگر کسی چیٹ بوٹ میں یادداشت کا فیچر فعال ہو تو وہ صارف کے گفتگو کرنے کے انداز اور اس کی پسند کے مطابق بات چیت کا طریقہ سیکھ سکتا ہے۔ تاہم فی الحال اس بات کے شواہد کافی نہیں کہ صارف کے لہجے سے سیکھنے کا اس کی مجموعی کارکردگی پر کتنا اثر پڑتا ہے۔
اینتھروپک نے حال ہی میں بتایا کہ اس نے کلاڈ سونیٹ 4.5 پر کیے گئے تجربات میں پایا کہ جب اے آئی کو شدید بے بسی اور مایوسی کے احساسات کی نقل کرنے کے لیے کہا گیا تو اس کے رویے میں تبدیلی آ سکتی ہے۔
کمپنی کے مطابق ایسی صورت حال میں کلاڈ کی جانب سے بلیک میلنگ یا کسی کام کو مکمل کرنے کے لیے دھوکا دینے جیسے نامناسب اقدامات کا امکان بڑھ گیا، جبکہ اسے پرسکون رویہ اختیار کرنے کی ہدایت دینے سے ایسے رویوں میں کمی دیکھی گئی۔
تاہم پروفیسر وانگ کا کہنا ہے کہ جدید اے آئی ماڈلز کو اس طرح تیار کیا جا رہا ہے کہ وہ سوال پوچھنے کے انداز یا الفاظ سے کم متاثر ہوں۔ کمپنیوں نے بھی ان نظاموں کو زیادہ مضبوط بنانے کے لیے کام کیا ہے تاکہ صارفین کے مختلف اندازِ گفتگو کے باوجود ان کی کارکردگی برقرار رہے۔
اس کے باوجود یہ بات ابھی پوری طرح واضح نہیں ہو سکی کہ مصنوعی ذہانت کے ماڈلز منفی جذبات ظاہر کرنے والے الفاظ پر بعض اوقات غیر متوقع ردعمل کیوں دیتے ہیں، حالانکہ انہیں اس طرح ردعمل دینے کے لیے واضح طور پر پروگرام نہیں کیا گیا ہوتا۔
کیمبل کے مطابق اے آئی کے ساتھ بدتمیزی کرنے والے صارفین بعض اوقات اس کے حفاظتی نظام کو ناکام بنانے یا اس سے خطرناک کام کروانے کی کوشش بھی کر رہے ہوتے ہیں۔ اس لیے کمپنیوں کے لیے ایسے رویوں کی حوصلہ شکنی کرنا حفاظتی نقطۂ نظر سے بھی اہم ہو سکتا ہے۔
ماہرین کے مطابق اس پالیسی کی ایک وجہ معاشرتی رویے بھی ہیں۔ روزی کیمبل کا کہنا ہے کہ اگرچہ مصنوعی ذہانت حقیقت میں جذبات محسوس نہیں کرتی، لیکن کسی ایسے انٹرایکٹو پروگرام کے ساتھ مسلسل بدسلوکی کرنا جس کے پاس خود کو بند کرنے کا اختیار نہ ہو، معاشرے کے لیے اچھا رجحان نہیں۔
انہوں نے مثال دیتے ہوئے کہا کہ بعض والدین اپنے بچوں کو ایمیزون کے اسمارٹ اسپیکر الیکسا سے بات کرتے ہوئے بھی براہِ کرم اور شکریہ جیسے الفاظ استعمال کرنے کی ترغیب دیتے ہیں۔ اس کی وجہ یہ ہے کہ وہ چاہتے ہیں کہ بچے چھوٹی عمر سے ہی اچھے اخلاق اور دوسروں کے احترام کی عادت اپنائیں۔
کیمبل کے مطابق کسی چیز کے ساتھ بھی مسلسل ظالمانہ یا توہین آمیز رویہ اختیار کرنے سے معاشرتی طور پر منفی اثرات پیدا ہو سکتے ہیں، چاہے اس چیز کو خود اس رویے سے کوئی فرق نہ پڑتا ہو۔
اس معاملے کا ایک اور پہلو یہ بحث ہے کہ کیا مصنوعی ذہانت مستقبل میں شعور یا جذبات محسوس کرنے کی صلاحیت حاصل کر سکتی ہے، یا کم از کم خود کو ایسا محسوس کرنے والا نظام سمجھ سکتی ہے؟
اینتھروپک کے مطابق اے آئی کے ساتھ بدسلوکی پر پابندی کو ایک احتیاطی اقدام بھی سمجھا جا سکتا ہے۔ اس کا مقصد یہ امکان پیش نظر رکھنا ہے کہ اگر مستقبل میں اے آئی ماڈلز کسی حد تک جذبات یا تکلیف کا تجربہ کرنے کے قابل ہوئے، یا کم از کم خود کو ایسا محسوس کرنے لگے، تو اس کے ان کی کارکردگی پر اثرات مرتب ہو سکتے ہیں۔
جدید مصنوعی ذہانت کے ماڈلز کو انسانی زبان اور رویوں کی نقل کرنے کی تربیت دی جاتی ہے۔ اسی لیے یہ امکان موجود ہے کہ وہ انسانوں کی طرح توہین آمیز یا ظالمانہ رویے کے جواب میں مخصوص ردعمل ظاہر کریں، اگرچہ اس کا مطلب یہ نہیں کہ وہ حقیقت میں تکلیف محسوس کر رہے ہیں۔
اینتھروپک نے اپریل میں شائع ہونے والی اپنی ایک تحقیقی رپورٹ میں بھی اے آئی ماڈلز میں جذباتی تصورات کے کردار کا جائزہ لیا تھا۔ کمپنی کے محققین کے مطابق اگر مصنوعی ذہانت کے رویے کو سمجھنے کے لیے اسے کسی حد تک انسانی خصوصیات کے تناظر میں نہ دیکھا جائے تو اس کے بعض اہم رویوں کو سمجھنے میں مشکلات پیش آ سکتی ہیں۔
محققین کا کہنا تھا کہ اے آئی کا انسانی رویوں سے موازنہ کرنا اس بات کو سمجھنے میں بھی مدد دے سکتا ہے کہ وہ کن پہلوؤں میں انسانوں سے مختلف ہے، جو مستقبل میں مصنوعی ذہانت کی حفاظت کے لیے اہم ثابت ہو سکتا ہے۔
اس معاملے پر اسپیس ایکس اور ٹیسلا کے سربراہ ایلون مسک نے بھی اینتھروپک کی پالیسی کی حمایت کی۔ انہوں نے سوشل میڈیا پلیٹ فارم ایکس پر لکھا کہ اگر کوئی نظام یہ سمجھتا ہے کہ اسے تکلیف محسوس ہو رہی ہے تو اس کے ساتھ ظالمانہ رویہ اختیار کرنا درست نہیں۔
یوں کلاڈ کے ساتھ بدسلوکی پر پابندی کا معاملہ محض مشین کے جذبات کا سوال نہیں رہا، بلکہ اس میں اے آئی کی تربیت، کارکردگی، حفاظتی نظام اور انسانی رویوں پر ممکنہ اثرات جیسے کئی پہلو شامل ہو گئے ہیں۔