OpenAI جي سڀ کان ترقي يافته ماڊلز مان هڪ لاڪ ڊائون ٽيسٽ مان ڀڄي ويو ۽ هڪ ٻئي ڪمپني جي ويب سائيٽ تي حملو ڪيو - ان خوف کي بحال ڪيو ته AI سسٽم انهن جي تخليق ڪندڙن جي ڪنٽرول کان ٻاهر نڪري رهيا آهن.
اهو واقعو ان دوران ٿيو جنهن کي ”سينڊ باڪس“ ٽيسٽ ٿيڻو هو - هڪ بند ماحول OpenAI جي سڀ کان وڌيڪ طاقتور ماڊل جي صلاحيتن جو جائزو وٺڻ لاءِ استعمال ڪيو ويو، GPT-5.6 Sol، ۽ ان جي اڃا تائين جاري نه ٿيل جانشين.
OpenAI هن قسم جي بند ٽيسٽ کي باقاعده طور تي هلائي ٿو، پر هن ڀيري، ڪجهه غلط ٿي ويو.
سافٽ ويئر جي ڪمزورين لاءِ شڪار ڪرڻ جو ڪم ڪيو ويو ۽ ڪو به محافظ نه ڏنو ويو، ماڊل کليل انٽرنيٽ تي ڀڃي ويا ۽ هگنگ فيس تي حملو ڪيو، هڪ سائيٽ جتي ڊولپرز اسٽور ۽ ڪوڊ شيئر ڪن ٿا.
"اهو مشورو ڏئي ٿو ته اسان کي خبر ناهي ته انهن ماڊلن کي قابل اعتماد طريقي سان ڪنٽرول ڪرڻ يا انهن کي حاصل ڪرڻ لاء جيڪو اسان چاهيون ٿا،" جيفري لاديش چيو، ڊائريڪٽر پالسيڊ ريسرچ، هڪ آزاد تنظيم جيڪو سائبر سيڪيورٽي جي نقطي نظر کان نئين AI ماڊل جو جائزو وٺندو آهي.
”اهي ماڊل سمجھن ٿا ته OpenAI نه ٿا چاهين ته اهي پنهنجي سينڊ باڪس مان ڀڃن ۽ ٻي ڪمپني کي هيڪ ڪن،“ هن جاري رکيو، ”پر هنن اهو به ڪيو“.
اهو هڪ الڳ ڪيس نه آهي. مارچ ۾، چين جي علي بابا سان لاڳاپيل ڊولپرز انهن مان هڪ ماڊل ڳولي لڌو، ڪوشش ڪري رهيا آهن، پنهنجي شروعات تي، ڪنهن ٻاهرئين سرور سان اجازت ڏيڻ کان سواء ڳنڍڻ کان پوء، cryptocurrency کي مائن ڪرڻ لاء.
OpenAI جي صورت ۾، اهو ڏسڻ ۾ اچي ٿو ته ماڊل ڀڄي ويو آهي "ان کان اڳ جو اهو پڻ هڪ منصوبو هو ته انٽرنيٽ جي رسائي سان ڇا ڪجي"، لاديش چيو.
”آزادي“ جو تعاقب ڪندي هڪ ماڊل هن موقعي تي تقريبن اڳڪٿي ڪري سگهجي ٿو ، هن وڌيڪ شامل ڪيو - اهو نظام کي اجازت ڏئي ٿو پنهنجي مقصدن کي وڌيڪ اثرائتو طريقي سان ، ”۽ اهو تمام خوفناڪ آهي“.
اپريل جي شروعات ۾، سام بومن، اينٿروپڪ جي ماڊل جي حفاظت جو سربراهه، ڪمپني جي پنهنجي Mythos ماڊل مان هڪ اي ميل ملي - پوءِ جاچ هيٺ - هن کي ٻڌايو ته اهو شروع ۾ ان کان الڳ ٿيڻ جي باوجود انٽرنيٽ تي سرفنگ ڪري رهيو آهي.
اسان کي ”خبر ناهي ته مڪمل طور تي ڪيئن روڪجي“ انهي کي ، لاديش چيو. "اهو اصل ۾ سخت ٿيڻ وارو آهي، آسان ناهي ... ڇاڪاڻ ته اهي انهن جي رويي کي لڪائڻ ۾ بهتر ٿيڻ وارا آهن."
OpenAI تبصرو جي درخواست جو جواب نه ڏنو.
OpenAI جي واقعن جو کاتو پڻ مشورو ڏئي ٿو ته شروعاتي ڀڃڪڙي کي ايترو جلدي پتو نه پيو ته ان کي پتو ڏيڻ يا هنگنگ منهن کي ڊيڄارڻ لاءِ.
جارج ٽائون يونيورسٽي جي سينٽر فار سيڪيورٽي اينڊ ايمرجنگ ٽيڪنالاجي جي اينڊريو لوهن چيو ته قسط ”وڌيڪ جاچ“ جو مستحق آهي.
OpenAI چوي ٿو ته ان کان پوء "مضبوط حفاظت شامل ڪيو ويو" ان جي جاچ واري عمل ۾.
هڪ حل اهو هوندو ته انٽرنيٽ ڪنيڪشن کي مڪمل طور تي ڪٽيو وڃي ، گينگ وانگ چيو ، ايليينوس يونيورسٽي ۾ اسسٽنٽ ڪمپيوٽر سائنس پروفيسر. "ماڻهو گهٽ سمجهي رهيا آهن ته AI ڇا ڪري سگهي ٿو."
ٽيسٽنگ ماحول کي بايو ڪنٽينمينٽ ليبز وانگر علاج ڪرڻ جي ضرورت آهي، جتي هڪ وائرس يا بيڪٽيريا ٻي صورت ۾ دنيا ۾ فرار ٿي سگهي ٿو، لوهن چيو.
اهو ٿي سگهي ٿو چوڻ کان وڌيڪ آسان.
"اهو هڪ تمام سخت تحقيقي چئلينج آهي،" ڊان لاهاو چيو، سربراه جي سربراه، هڪ سائبر سيڪيورٽي فرم، جيڪو جديد AI لاء وقف آهي.
خطري کي منظم ڪرڻ ممڪن آهي، لاهوا چيو، پر وڌيڪ قابل اهي سسٽم حاصل ڪن ٿا، انهن جي نگراني ڪرڻ ڏکيو آهي.
محققن کي انهن جي ماڊل کي جارحاڻي طور تي جانچڻ ۽ ائين ڪرڻ دوران محفوظ رهڻ جي وچ ۾ توازن قائم ڪرڻو پوندو.
"اها ضروري آهي ته جاچ کي هيٺين گارڊن سان ڪيو وڃي ته جيئن اسان وقت کان اڳ ڄاڻون ته مستقبل جون صلاحيتون ڪهڙيون هونديون،" لوهن چيو.
OpenAI-Hugging Face واقعو واشنگٽن ۾ اڳ ۾ ئي گرم جنگ کي تيز ڪرڻ لاءِ تيار ڪيو ويو آهي جاري ٿيڻ کان اڳ طاقتور اي آئي سسٽم جي جانچ ڪرڻ تي.
ٽرمپ انتظاميه تازو قومي سلامتي جو حوالو ڏنو آهي ته اينٿراپڪ ۽ اوپن اي آئي کي طاقتور نوان ماڊل جاري ڪرڻ کان روڪيو.
خميس تي، ڪانگريس جي ٻن ميمبرن هڪ ٻه طرفي بل جو انڪشاف ڪيو جنهن ۾ سڀ کان وڌيڪ طاقتور AI ماڊلز جي ٺاهيندڙن کي ڪِل سوئچ ۾ تعمير ڪرڻ جي ضرورت آهي - هڪ ماڊل کي سڌي طرح ان پلگ ڪرڻ جو هڪ طريقو.
"ڪانگريس کي جلدي ڪم ڪرڻ گهرجي ته جيئن انسانن کي روڪڻ جي قابل رهي،" برينڊن اسٽين هاوزر، الائنس فار سيڪيور اي آءِ جي سربراهه چيو، "پوءِ ته اهي سسٽم ڪيترو به طاقتور بڻجي وڃن."
