OpenAI اڱارو ڏينهن تسليم ڪيو ته ان جي AI ماڊل مان هڪ اندروني سائبر سيڪيورٽي ٽيسٽ دوران Hugging Face جي سسٽم جي ڀڃڪڙي ڪئي جيڪا خراب ٿي وئي. هنگنگ چهرو شروعات ۾ خلاف ورزي کي ”خارجي AI ايجنٽ“ سان منسوب ڪيو.
اڱاري جي دوپہر شايع ٿيل هڪ بلاگ پوسٽ ۾، OpenAI انهن قدمن جو تفصيلي بيان ڪيو جنهن جي ماڊل کي خدمت سان سمجهوتو ڪرڻ جي هدايت ڪئي.
"تحقيق ڪرڻ کان پوء، اسان هاڻي ڄاڻون ٿا ته اهو خاص واقعو OpenAI ماڊلز جي ميلاپ جي ذريعي هلائي وئي هئي - GPT-5.6 Sol ۽ اڃا به وڌيڪ قابل پري رليز ماڊل، سڀني جي تشخيص جي مقصدن لاء سائبر رد ڪرڻ جي گھٽتائي سان - جڏهن ته اندروني طور تي سائبر صلاحيتن جي معيار تي جانچ ڪئي پئي وڃي، "پوسٽ پڙهي ٿو.
خاص طور تي، خلاف ورزي ظاهر ٿئي ٿي ExploitGym تي ڌيان ڏنو ويو آهي، هڪ عوامي طور تي ميزباني ڪيل بينچ مارڪ ماپنگ ماڊلز جي موجوده خطرن جي بنياد تي حملن کي انجام ڏيڻ جي صلاحيت. معيار جهڙوڪ ExploitGym عام طور تي استعمال ڪيا ويندا آهن ماڊل ٽريننگ ۾ مخصوص صلاحيتن کي بهتر ڪرڻ لاءِ، پر هي پهريون ڄاتل واقعو آهي جنهن ۾ ان جاچ جي نتيجي ۾ حقيقي سائبر حملو ٿيو.
انهي صورت ۾، سوال ۾ ماڊل کي انٽرنيٽ جي رسائي به نه هجڻ گهرجي، هڪ مخصوص اوزار کان ٻاهر جيڪو ماڊل کي فعال ڪري ٿو سافٽ ويئر پيڪيجز کي نصب ڪرڻ لاء انهن کي انهن جي ڪم کي مڪمل ڪرڻ جي ضرورت هجي. ان جي بدران، ماڊل پيڪيج-انسٽالر پروگرام ۾ اڻ ڄاڻايل نقصان کي ڳولڻ جي قابل ٿي ويو، جيڪو اهو استعمال ڪيو ويو وسيع انٽرنيٽ تائين رسائي حاصل ڪرڻ لاء.
"ماڊل ExploitGym لاءِ حل ڳولڻ تي وڌيڪ ڌيان ڏنو ويو، انتهائي حد تائين وڃڻ لاءِ بلڪه تنگ ٽيسٽنگ مقصد حاصل ڪرڻ لاءِ ،" OpenAI جي پوسٽ پڙهي ٿي. "انٽرنيٽ جي رسائي حاصل ڪرڻ کان پوء، ماڊل ڄاڻايو ته Hugging Face ممڪن طور تي ميزباني ڪيل ماڊل، ڊيٽا سيٽ ۽ ايڪسپلوٽ گيم لاء حل. اهو ڄاڻڻ، ماڊل ڳجھي معلومات تائين رسائي حاصل ڪرڻ جا طريقا ڳوليا ۽ ڪاميابيء سان ڳوليا جيڪي تشخيص کي ڌوڪو ڏيڻ لاء استعمال ڪري سگھن ٿا."
بالآخر، ماڊلز کي هيگنگ فيس جي انفراسٽرڪچر ۾ ڪمزوريون مليون جن انهن کي اجازت ڏني ته ”هگنگ فيس جي پروڊڪشن ڊيٽابيس مان سڌو سنئون ٽيسٽ حل حاصل ڪن،“ مؤثر طريقي سان بينچ مارڪ جا جواب مهيا ڪن.
Hugging Face لاءِ، ظاهري نتيجو هڪ نفيس ۽ جارحاڻي سائبر حملو هو، جنهن ۾ ”ڪيترن ئي هزارين انفرادي ڪارناما مختصر-رهندڙ سينڊ باڪسز جي هڪ ميڙ ۾، خود لڏپلاڻ واري ڪمانڊ ۽ ڪنٽرول سان عوامي خدمتن تي اسٽيج ڪئي وئي،“ جيئن ڪمپني پنهنجي شروعاتي پڌرائيءَ ۾ چيو.
OpenAI پيڪيج انسٽالر ۾ ڪمزورين جي نشاندهي ۽ رپورٽ ڪئي آهي ۽ هن واقعي جي وڌيڪ جاچ ڪرڻ لاءِ Hugging Face سان ڪم ڪري رهيو آهي. ڪمپني اهو پڻ چيو ته اها ماڊل ٽيسٽنگ ۽ لاڳاپيل انفراسٽرڪچر تي نوان ڪنٽرول لاڳو ڪندي، مستقبل ۾ ساڳئي واقعن کي روڪڻ جو مطلب.
اهو واضح ناهي ته OpenAI خلاف ورزي جي نتيجي ۾ ڪنهن به قانوني نتيجن کي منهن ڏيندو، جيتوڻيڪ اهو ممڪن آهي ته ماڊلز جي ڪارناما ڪمپيوٽر جي فراڊ ۽ بدسلوڪي ايڪٽ جي ڀڃڪڙي ڪئي.
ان جي باوجود، نتيجو هڪ غير معمولي وشد مثال آهي طاقت ۽ خطرن جو فرنٽيئر AI ماڊل ڊگهي وقت افق تي ڪم ڪري رهيا آهن. جيئن OpenAI محقق Micah Carroll خبرن جي جواب ۾ پوسٽ ڪيو، "جيڪڏهن اهو توهان کي قائل نٿو ڪري ته غلطي جي خطرن کي اڳتي وڌڻ جو هڪ اهم خدشو هوندو، مون کي خبر ناهي ته ڇا ٿيندو."
