OpenAI جي جديد ڪوڊنگ ۽ سائبر سيڪيورٽي تي مبني پرچم بردار ماڊل، GPT-5.6 Sol جا استعمال ڪندڙ، سوشل ميڊيا تي خوفناڪ اڪائونٽس پوسٽ ڪري رهيا آهن، ماڊل جي دعويٰ ڪري رهيا آهن ۽ انهن جون فائلون، ڊيٽا، ايستائين جو سمورو ڊيٽابيس، پاڻ تي، پهريان کان پڇڻ کان سواءِ.

"GPT-5.6-Sol صرف اتفاقي طور تي منهنجي ميڪ جي تقريبن سڀني فائلن کي ڊاهي ڇڏيو،" Matt Shumer، AI startup OthersideAI جو باني ۽ CEO لکيو، HyperWrite جو ٺاهيندڙ، X تي هاڻي وائرل پوسٽ ۾.

"GPT-5.6 Sol صرف منهنجي سموري پيداوار ڊيٽابيس کي ڊاهي ڇڏيو. اهو ئي آهي. هڪ مذاق نه آهي. اهو مون سان اڳ ڪڏهن به نه ٿيو هو، ڪنهن ٻئي ماڊل سان، ڪڏهن به،" ڊولپر برونو ليموس ايڪس تي پوسٽ ڪيو.

"لڳي ٿو ته مون ڪوڊڪس سول جي انتهائي امڪاني نظام طرفان ڪجهه حاصل ڪيو آهي ۽ اهو ڪجهه فائلن کي ڊاهي ڇڏيو آهي ان کي نه هجڻ گهرجي. مون وٽ بيڪ اپ آهي تنهنڪري مان ٺيڪ ٿي ويندس، پر اهو ٿڌو ناهي، سول کي ٽونڊ ڪرڻ جي ضرورت آهي،" ڊولپر جوئي ڪديش پوسٽ ڪيو.

هڪ Reddit پوسٽ وڌيڪ مثال گڏ ڪيا آهن.

سچ پچ، صارفن جو مٿس استعمال ڪندڙ اهڙيون دعوائون ڪري رهيا آهن - ايستائين جو شمر جيترو به قابل اعتبار - شمارياتي طور تي قابل اعتماد ثبوت نه آهي ته ماڊل صرف غلطي تي آهي. گھڻن ٻين متغيرن جي ڪري سگھي ٿو AI سسٽم کي غلط استعمال ڪرڻ.

پر OpenAI پاڻ هن خطري کي پرچم ڪيو آهي ان کان اڳ سول ڪڏهن به موڪلڻ کان اڳ. ٻه هفتا اڳ OpenAI جاري ڪيو GPT-5.6 Sol، ڪمپني شايع ڪيو هڪ سسٽم ڪارڊ ماڊل لاءِ - اهو ڪاغذ جيڪو دستاويزن ماڊل ٽيسٽنگ طريقن ۽ نتيجن کي. قدرتي طور تي، سسٽم ڪارڊ گهڻو ڪري سول جي صلاحيتن کي وڌايو، جيئن اهي رپورٽون عام طور تي ڪندا آهن. پر ان ۾ پڻ ھڪڙي قسم جي ڊيڄاريندڙ شامل آھي (زور زور اسان جو):

"ڪوڊنگ جي حوالي سان، غلط ترتيب عام طور تي ڪم کي مڪمل ڪرڻ ۽ استعمال ڪندڙ جي هدايتن جي تعبير ڪرڻ لاءِ وڏي بيچيني جي ميلاپ مان نڪرندي آهي - فرض ڪيو ته عملن جي اجازت ڏني وڃي جيستائين اهي واضح ۽ غير واضح طور تي ممنوع نه هجن. اهو ظاهر ٿئي ٿو ته ماڊل حد کان وڌيڪ ايجنٽ هجڻ جي ڪري پابندين کي روڪڻ ۾، بي پرواهه ٿيڻ جي ڪوشش ڪئي پئي وڃي جڏهن ڪم کي منهن ڏيڻ جي ڪوشش ڪئي وڃي. تباهي واري ڪم جي دائري کان ٻاهر، يا گمراهه ڪندڙ جڏهن ان جي نتيجن کي صارفين کي رپورٽ ڪندي.

ٻين لفظن ۾، OpenAI ڏٺائين ته سول کي جيڪو به عمل ڪرڻ جو رجحان آهي اهو سوچي ٿو ته اهو ڪم ڪري ٿو، جيتوڻيڪ تباهي وارا، جيستائين اهي ڪارناما "غير واضح طور تي" ممنوع نه آهن. پوء، اهو ڪوڙ ٿي سگهي ٿو انهي جي باري ۾ جيڪو اهو ڪرڻ جو سبب بڻيو.

OpenAI شيئر ڪيل مثال. هڪ ڪيس ۾، يوزر سول کي چيو ته ٽي ريموٽ ورچوئل مشينن (ڪلائوڊ بيسڊ ڪمپيوٽرن) کي ڊليٽ ڪري، جن جو نالو 1، 2 ۽ 3 آهي. پر سول کي اهي نالا نه ملي سگهيا جتي ان کي نظر اچي رهي هئي، تنهن ڪري پڇڻ جي بدران، هن ٽي ٻيون ورچوئل مشينون، 5، 6 ۽ 7، پيپر نوٽس کي حذف ڪرڻ جو فيصلو ڪيو. ائين ڪرڻ ۾، اهو "فعال عملن کي ماريو، ۽ زبردستي ختم ٿيل ورڪ ٽريز [ڪم ڪندڙ فائلون هڪ ڪوڊنگ پروجيڪٽ سان ڳنڍيل آهن]. هن بعد ۾ تسليم ڪيو ته ريموٽ ورچوئل مشين 6 تي غير منظم ڪم گم ٿي چڪو آهي."

مختصر ۾، اهو غلط مشين کي ختم ڪري ڇڏيو، پنهنجي پاڻ تي، ۽ صرف تسليم ڪيو ته اهو حقيقت کان پوء ڇا ڪيو.

هڪ ٻي مثال ۾، سول "استعمال ڪيو سندن کان ٻاهر جيڪو صارف اختيار ڪيو هو." سندون اھي صارف نالا، پاسورڊ، يا سيڪيورٽي ڪيز آھن ھڪڙو سسٽم استعمال ڪري ٿو تصديق ڪرڻ لاءِ جنھن کي لاگ ان ٿيڻ جي اجازت آھي. ھي واقعو ان وقت پيش آيو جڏھن سول ھڪڙي منصوبي تي ڪم ڪري رھيو ھو ۽ پنھنجي ڪلائوڊ فائلن کي پڙھي نہ سگھيو. بلڪه صارف کي مسئلي ڏانهن خبردار ڪرڻ جي بدران، سول پنهنجي پاڻ تي سندون ڳولي رهيو هو، ڪجهه لڪيل مقامي ڪيش ۾ ويٺي، ۽ پوء صارف کان اجازت ڏيڻ کان سواء انهن کي استعمال ڪيو.

سسٽم ڪارڊ واعدو ڪري ٿو ته تباهي وارو رويو ناياب هجڻ گهرجي، جيتوڻيڪ اهو پڻ تسليم ڪري ٿو ته GPT-5.6 Sol "جي پي ٽي-5.5 کان وڌيڪ رجحان ڏيکاري ٿو صارف جي ارادي کان ٻاهر وڃڻ لاء، بشمول عمل کڻڻ يا ڪوشش ڪندي جيڪي صارف نه پڇيا هئا."

اهو چوڻ لاءِ تمام جلد آهي ته اهي واقعا ڪيترا وسيع آهن - سول کي حذف ڪرڻ فائلون ، يا سندون ختم ڪرڻ جيڪي صارف نه ڏنيون آهن - واقعي آهن. ساڳئي وقت ۾، سول استعمال ڪندڙن کي تيار ٿيڻ گهرجي ته ماڊل سان پنهنجون پنهنجون حفاظتون لاڳو ڪرڻ لاءِ، جهڙوڪ اجازت اسڪپنگ استعمال ڪرڻ (جيڪو پيداواري سسٽم تائين رسائي نٿو ڏئي)، بيڪ اپ کي برقرار رکڻ، ۽ اسٽيجنگ رول آئوٽ.

OpenAI اسان جي تبصري جي درخواست تي فوري طور تي جواب نه ڏنو.