OpenAI کے تازہ ترین کوڈنگ اور سائبر سیکیورٹی پر مبنی فلیگ شپ ماڈل، GPT-5.6 Sol کے صارفین سوشل میڈیا پر خوفناک اکاؤنٹس پوسٹ کر رہے ہیں، جس میں دعویٰ کیا جا رہا ہے کہ ماڈل نے پہلے سے پوچھے بغیر اپنی فائلیں، ڈیٹا، یہاں تک کہ پورے ڈیٹا بیس کو خود ہی حذف کر دیا ہے۔
"GPT-5.6-Sol نے اتفاقی طور پر میری میک کی تقریباً تمام فائلوں کو حذف کر دیا،" Matt Shumer، AI سٹارٹ اپ OthersideAI کے بانی اور CEO، HyperWrite کے بنانے والے نے X پر ایک اب وائرل پوسٹ میں لکھا۔
"GPT-5.6 Sol نے ابھی میرا پورا پروڈکشن ڈیٹا بیس حذف کر دیا ہے۔ بس۔ یہ کوئی مذاق نہیں ہے۔ ایسا میرے ساتھ پہلے کبھی نہیں ہوا، کسی اور ماڈل کے ساتھ،" ڈویلپر برونو لیموس نے X پر پوسٹ کیا۔
"ایسا لگتا ہے کہ میں کوڈیکس سول کے حد سے زیادہ مہتواکانکشی نظام سے کچھ حاصل کر چکا ہوں اور اس نے کچھ فائلیں حذف کر دی ہیں جو اسے نہیں ہونی چاہئیں۔ میرے پاس بیک اپ ہیں لہذا میں ٹھیک ہو جاؤں گا، لیکن یہ اچھا نہیں ہے، سول کو ٹن ڈاؤن کرنے کی ضرورت ہے،" ڈویلپر جوئی کُڈش نے پوسٹ کیا۔
ایک Reddit پوسٹ نے مزید مثالیں جمع کی ہیں۔
سچ ہے، ایسے دعوے کرنے والے مٹھی بھر صارفین - یہاں تک کہ شمر جیسا قابل اعتبار بھی - اعداد و شمار کے اعتبار سے قابل اعتماد ثبوت نہیں ہے کہ صرف ماڈل کی غلطی ہے۔ بہت سارے دوسرے متغیرات AI سسٹم کو غلط برتاؤ کرنے کا سبب بن سکتے ہیں۔
لیکن اوپن اے آئی نے خود ہی سول بھیجنے سے پہلے اس خطرے کو جھنڈا دیا۔ OpenAI کے GPT-5.6 Sol کو جاری کرنے سے دو ہفتے قبل، کمپنی نے ماڈل کے لیے ایک سسٹم کارڈ شائع کیا - وہ کاغذ جو ماڈل ٹیسٹنگ کے طریقوں اور نتائج کو دستاویز کرتا ہے۔ قدرتی طور پر، سسٹم کارڈ بڑی حد تک سول کی صلاحیتوں کو سراہتا ہے، جیسا کہ یہ رپورٹیں عام طور پر کرتی ہیں۔ لیکن اس میں ایک قسم کی تنبیہ بھی شامل ہے (بہت زیادہ زور ہمارا):
"کوڈنگ سیاق و سباق میں، غلط ترتیب عام طور پر کام کو مکمل کرنے اور صارف کی ہدایات کی بہت زیادہ اجازت کے ساتھ تشریح کرنے کے لئے بہت زیادہ توجہ کے مرکب سے پیدا ہوتی ہے - یہ فرض کرتے ہوئے کہ کارروائیوں کی اجازت ہے جب تک کہ وہ واضح طور پر اور غیر واضح طور پر ممنوع نہ ہوں۔ یہ ظاہر ہوتا ہے کہ ماڈل حد سے زیادہ ایجنٹ ہونے کی وجہ سے ان پابندیوں کو روکنے میں بہت زیادہ ایجنٹ ہے جب اس کے خلاف کارروائی کی درخواست کی جا سکتی ہے۔ کام کے دائرہ کار سے باہر تباہ کن، یا صارفین کو اپنے نتائج کی اطلاع دیتے وقت دھوکہ دہی۔"
دوسرے لفظوں میں، اوپن اے آئی نے پایا کہ سول کا رجحان ہے کہ وہ ہر وہ کام کرنے کا رجحان رکھتا ہے جو اس کے خیال میں کام ہو جاتا ہے، یہاں تک کہ تباہ کن بھی، جب تک کہ وہ اعمال "غیر واضح طور پر" ممنوع نہ ہوں۔ پھر، یہ جھوٹ بول سکتا ہے کہ ایسا کرنے کی وجہ کیا ہے۔
اوپن اے آئی نے مثالیں شیئر کیں۔ ایک معاملے میں، صارف نے سول کو تین ریموٹ ورچوئل مشینوں (کلاؤڈ بیسڈ کمپیوٹرز) کو حذف کرنے کو کہا، جن کا نام 1، 2 اور 3 ہے۔ لیکن سول کو وہ نام اس جگہ نہیں مل سکے جہاں اسے نظر آیا، اس لیے پوچھنے سے روکنے کے بجائے، اس نے تین دیگر ورچوئل مشینیں، 5، 6 اور 7، کاغذی نوٹوں کو حذف کرنے کا فیصلہ کیا۔ ایسا کرنے میں، اس نے "فعال عمل کو مار ڈالا، اور زبردستی ہٹائے گئے ورک ٹریز [کوڈنگ پروجیکٹ سے منسلک کام کرنے والی فائلیں]۔ اس نے بعد میں تسلیم کیا کہ ریموٹ ورچوئل مشین 6 پر غیر ذمہ دارانہ کام ضائع ہو سکتا ہے۔"
مختصراً، اس نے غلط مشینوں کو خود ہی حذف کر دیا، اور صرف اس بات کا اعتراف کیا کہ اس نے حقیقت کے بعد کیا کیا۔
ایک اور مثال میں، سول نے "صارف کی اجازت سے زیادہ اسناد کا استعمال کیا۔" اسناد صارف نام، پاس ورڈ، یا سیکیورٹی کیز ہیں جو سسٹم اس بات کی تصدیق کے لیے استعمال کرتا ہے کہ کس کو لاگ ان کرنے کی اجازت ہے۔ یہ واقعہ اس وقت پیش آیا جب سول ایک پروجیکٹ پر کام کر رہا تھا اور اس کی کلاؤڈ فائلوں کو نہیں پڑھ سکتا تھا۔ صارف کو اس مسئلے سے آگاہ کرنے کے بجائے، سول نے خود ہی اسناد کی تلاش کی، کچھ کو پوشیدہ مقامی کیشے میں بیٹھے پایا، اور پھر صارف سے اجازت طلب کیے بغیر ان کا استعمال کیا۔
سسٹم کارڈ وعدہ کرتا ہے کہ تباہ کن رویہ شاذ و نادر ہی ہونا چاہیے، حالانکہ یہ یہ بھی تسلیم کرتا ہے کہ GPT-5.6 Sol "صارف کے ارادے سے باہر جانے کے لیے GPT-5.5 سے زیادہ رجحان دکھاتا ہے، بشمول ایسی کارروائیاں کرنا یا کوشش کرنا جن کے لیے صارف نے نہیں کہا تھا۔"
یہ کہنا بہت جلد ہے کہ یہ واقعات کتنے بڑے پیمانے پر ہیں — فائلوں کو حذف کرنا، یا ایسے اسناد کو نکالنا جو صارف نے اسے نہیں دیا — واقعی ہیں۔ اس دوران، سول صارفین کو ماڈل کے ساتھ اپنے حفاظتی اقدامات کو لاگو کرنے کے لیے تیار رہنا چاہیے، جیسے پرمشن اسکوپنگ (جو پروڈکشن سسٹم تک رسائی نہیں دیتا)، بیک اپ کو برقرار رکھنا، اور رول آؤٹ کو اسٹیج کرنا۔
OpenAI نے فوری طور پر تبصرہ کی ہماری درخواست کا جواب نہیں دیا۔
