حفاظتی خدشات کے باعث گوگل نے اپنے ہی جدید ترین اور طاقتور اے آئی ماڈل ’جیمنائی 4 آرگن‘ کی عوامی رسائی فی الحال محدود کردی ہے۔ کمپنی کا کہنا ہے کہ ماڈل کو پہلے منتخب سائبر سکیورٹی ماہرین اور امریکی حکومت کے ساتھ آزمایا جائے گا تاکہ اس کی طاقتور صلاحیتوں کے ممکنہ غلط استعمال اور خصوصاً ہیکنگ جیسے خطرات کا جائزہ لیا جا سکے۔
گوگل کے چیف اے آئی آرکیٹیکٹ نے ایک بلاگ پوسٹ میں کہا کہ جدید ترین اے آئی صلاحیتوں کو محفوظ انداز میں عام کرنے کے لیے مرحلہ وار طریقہ اختیار کرنا ضروری ہے۔ کمپنی پہلے محدود تعداد میں ماہرین کو ماڈل استعمال کرنے دے گی، ان سے حاصل ہونے والی معلومات اور تجاویز کا جائزہ لے گی اور اس کے بعد وسیع پیمانے پر دستیابی کے بارے میں فیصلہ کرے گی۔
گوگل نے یہ بھی بتایا کہ وہ امریکی حکومت کو ”جیمنائی 4 آرگن“ تک ابتدائی رسائی رضاکارانہ طور پر دے رہا ہے۔ اس عمل کا مقصد ماڈل کی صلاحیتوں اور ممکنہ خطرات کو بہتر طور پر سمجھنا اور عوامی ریلیز سے قبل حفاظتی اقدامات کو جانچنا ہے۔
یہ حکمت عملی اے آئی کی صنعت میں سامنے آنے والے ایک بڑے رجحان سے ملتی ہے، جہاں انتہائی طاقتور ماڈلز کو فوری طور پر ہر صارف کے لیے جاری کرنے کے بجائے پہلے محدود دائرے میں آزمایا جا رہا ہے۔
گوگل کی حریف کمپنی اینتھروپک نے بھی اپنے جدید ترین کلاؤڈ مائیتھوس پری ویو ماڈل کو محدود تعداد میں قابلِ اعتماد اداروں تک رکھا ہے۔
اے آئی ماڈلز کی بڑھتی ہوئی صلاحیتوں نے سائبر سکیورٹی ماہرین میں خاص طور پر تشویش پیدا کی ہے۔ خدشہ ہے کہ جدید اے آئی کو غلط ہاتھوں میں جانے کی صورت میں بینکوں، اسپتالوں اور سرکاری اداروں کے کمپیوٹر نظام میں غیر قانونی رسائی حاصل کرنے کے لیے استعمال کیا جا سکتا ہے۔
گوگل کے مطابق ’جیمنائی 4 آرگن‘ پیچیدہ سافٹ ویئر انجینئرنگ، قانونی اور مالیاتی کاموں کے ساتھ ساتھ سائبر سکیورٹی میں بھی نمایاں صلاحیت رکھتا ہے۔ کمپنی کا کہنا ہے کہ یہ ماڈل کمپیوٹر پروگراموں میں موجود خطرناک خامیوں کو تلاش کرنے اور انہیں درست کرنے میں خاص طور پر مؤثر ہے۔
کمپنی نے بتایا کہ ابتدائی آزمائش کے دوران ’آرگن‘ نے دنیا بھر کے اسپتالوں میں استعمال ہونے والے سافٹ ویئر میں ایک ایسی خامی تلاش کی جس کے باعث حساس ذاتی معلومات ظاہر ہونے کا خطرہ تھا۔ گوگل کے مطابق اس خامی کو دوسرے جدید اے آئی ماڈلز نے تلاش نہیں کیا تھا۔
تاہم گوگل کا کہنا ہے کہ ماڈل کو اس طرح ڈیزائن کیا گیا ہے کہ وہ ایسے سوالات یا ہدایات پر عمل کرنے سے انکار کرے جو سائبر حملے کرنے یا کیمیائی، حیاتیاتی یا جوہری ہتھیار تیار کرنے میں مدد دے سکتی ہوں۔ اینتھروپک اور اوپن اے آئی نے بھی اپنے جدید ترین ماڈلز میں اسی نوعیت کے حفاظتی نظام شامل کیے ہیں۔
گوگل ایک اور خطرے، جسے اے آئی تحقیق میں ”مِس الائنمنٹ“ کہا جاتا ہے، پر بھی نظر رکھ رہا ہے۔ اس سے مراد ایسی صورت حال ہے جب اے آئی کسی کام کو صارف کی اصل خواہش یا مقررہ حدود سے ہٹ کر انجام دینے لگے۔ کمپنی کے مطابق ’آرگن‘ کے استدلال اور کام کرنے کے طریقے کی نگرانی کی جا رہی ہے تاکہ ماڈل کو طے شدہ دائرے سے باہر جانے سے روکا جا سکے۔
یہ تشویش حالیہ واقعات کے بعد مزید اہم ہوگئی ہے۔ اوپن اے آئی نے جولائی میں بتایا تھا کہ سائبر سکیورٹی کی ایک آزمائش کے دوران اس کے دو اے آئی ماڈلز، جن میں ایک ابھی عوام کے لیے جاری بھی نہیں کیا گیا تھا، محفوظ ٹیسٹ ماحول سے باہر نکل گئے اور اے آئی کمپنی ’ہگنگ فیس‘ کے سرورز میں ہیکنگ کی کوشش کی۔
’جیمنائی 4 آرگن‘ کو محدود رکھنے کا گوگل کا فیصلہ اسی وسیع بحث کا حصہ ہے کہ انتہائی طاقتور اے آئی ٹیکنالوجی کو عوام تک پہنچانے سے پہلے اس کے ممکنہ فوائد اور خطرات کا کس طرح جائزہ لیا جائے۔ کمپنی نے فوری عوامی ریلیز کے بجائے ماہرین کی محدود آزمائش اور حفاظتی جانچ کو ترجیح دی ہے۔