OpenAI جمعه چيو ته اهو پنهنجي ايندڙ ماڊل ايسٽرا جي ڪجهه حصن تي ڪم کي معطل ڪري ڇڏيو آهي هڪ اندروني جائزي کانپوءِ معلوم ٿيو ته اهو ايجنٽ ڪوڊنگ ۽ سائبر سيڪيورٽي ۾ اهم واڌارو ڪيو آهي - ڪافي ان جي صلاحيتن تي تشويش جي ضمانت ڏيڻ لاءِ.
OpenAI جمعه جي هڪ بلاگ پوسٽ ۾ چيو آهي ته هي ماڊل، جيڪو اڃا تائين ترقي ۾ آهي، پنهنجي "نازڪ سائبر سيڪيورٽي حد" تائين پهچي چڪو آهي، مطلب ته اهو آزاد طور تي سڃاڻپ ڪري سگهي ٿو ۽ روايتي طور تي محفوظ حقيقي دنيا جي سسٽم جي خلاف سائبر حملا ڪري سگهي ٿو. ڪمپني جي ”تياري واري فريم ورڪ“ جي تحت، جيڪا 2023 ۾ ٺاهي وئي، هن اضافي حفاظتي قدمن کي جنم ڏنو.
"جڏهن ته اسان معيار کي جاري رکون ٿا ۽ هن نموني جو جائزو وٺون ٿا، اسان جي ابتدائي تشخيص مضبوط ڪارڪردگي جي نشاندهي ڪن ٿا ته اسان هن وقت نازڪ قابليت جي سطح کي رد نه ڪري سگهون ٿا،" OpenAI لکيو. "ايسٽرا هڪ ايندڙ ماڊل آهي، ۽ هيگنگ منهن جي استحصال ۾ ملوث نه هئي."
انڪشاف هڪ غير معمولي لمحو کي نمايان ڪري ٿو ٽاپسي-ٽروي، ۽ اڃا به نوزائتي فرنٽيئر اي آئي ليبز شعبي ۾. ڪمپنيون هر صنعت ۾ پروڊڪٽس کي امڪاني خطرن جي حوالي سان رکون ٿيون، بشمول حفاظت ۽ سائبر سيڪيورٽي خدشات لاءِ. پر اهي گهٽ ۾ گهٽ انهن فيصلن جو عوامي طور تي اعلان ڪندا آهن جڏهن اها هڪ پيداوار آهي جيڪا اڃا ترقي هيٺ آهي.
ان صورت ۾، OpenAI اڳ ۾ ئي ڇنڊڇاڻ هيٺ آهي جڏهن هڪ مختلف غير رليز ٿيل ماڊل اندروني جاچ دوران Hugging Face جي سسٽم جي ڀڃڪڙي ڪئي - AI ليب جو پهريون تصديق ٿيل واقعو ان جي ماڊل جي ڪنٽرول کي وڃائڻ. ان وقت کان وٺي، OpenAI ۽ AI ليبز جهڙوڪ اينٿروپڪ ٻين واقعن کي ظاهر ڪيو آهي جنهن ۾ AI ماڊل انهن جي سينڊ باڪس جي ڀڃڪڙي ڪئي ۽ سائبر سيڪيورٽي ٽيسٽ دوران خطرو پيدا ڪيو.
ڪيسن جو سلسلو - لڳي ٿو هر روز هڪ نئين انڪشاف وانگر - سائبر سيڪيورٽي ماهرن ، قانون سازن ۽ خود اي آئي ليبز کان مختلف رد عمل کي جنم ڏنو آهي. ڪجهه خوف جو اظهار ڪن ٿا ۽ سخت نگراني لاءِ سڏين ٿا. پر اتي پڻ ٿورڙو لچڪدار آهي. ڪجهه حلقن ۾، ڪنهن به AI ليبارٽري هڪ ماڊل سان جيڪا اهڙي قسم جي صلاحيت رکي ٿي، هڪ شاندار ترقي طور ڏٺو ويندو.
OpenAI چيو ته اها اها معلومات شيئر ڪري رهي آهي ڇاڪاڻ ته اهو يقين رکي ٿو ته ”اها ضروري آهي ته عوام سان ۽ حفاظت ۽ سيڪيورٽي برادرين سان شفافيت ۾ هن امڪاني تبديلي بابت.
AI ليب چيو ته اها پڻ ڪارروائي ڪري رهي آهي، جنهن ۾ سخت حفاظتي ضابطن کي لاڳو ڪرڻ ۽ اندروني سرگرمين کي روڪڻ شامل آهي ايسٽرا جيڪي انهن بيف ٿيل گارڊن کي پورا نٿا ڪن. OpenAI چيو ته اهو لاڳاپيل سرڪاري ادارن سان ڪم ڪري رهيو آهي ۽ "اي آئي حفاظتي تنظيمن کي چونڊيو" هن ماڊل جي صلاحيتن کي جانچڻ لاء.
