اڱارو ڏينهن، OpenAI نئين سيڪيورٽي پاليسين جي نئين بيچ جو اعلان ڪيو جنهن ۾ سيڪيورٽي واقعن تي مشتمل آهي جڏهن ته ماڊل ٽيسٽ ڪيا ويندا آهن. نون حفاظتي قدمن ۾ شامل آهن ماڊلز جي وڌيڪ تفصيلي مانيٽرنگ ڊولپمينٽ جي عمل دوران، انهي سان گڏ تربيت ۽ پوسٽ ٽريننگ جي عمل دوران سيڪيورٽي تي وڌيڪ زور.
"جيئن ماڊل وڌيڪ قابل ٿي ويندا آهن، انهن کي اندروني طور تي ترقي ۽ جانچ ڪرڻ سان لاڳاپيل خطرات پڻ وڌندا آهن،" ڪمپني هڪ بلاگ پوسٽ ۾ چيو. "مانيٽرنگ، ترتيب، ۽ سيڪيورٽي لاء اسان جي معيار کي انهن خطرن کان اڳتي وڌڻ گهرجي."
نوان قدم اوپن اي آءِ جي حفاظتي عملن ۾ پهرين عوامي تبديلين مان هڪ آهن جڏهن ته هگنگ فيس واقعي جي فوري بعد کان پوءِ، جيڪو 26 جولاءِ تي ظاهر ڪيو ويو هو.
اوپن اي آءِ جي نمائندن زور ڏنو ته اهي قدم هگنگ فيس واقعي جو سڌو سنئون جواب نه آهن، پر ايندڙ ايسٽرا ماڊل جي سائبر سيڪيورٽي صلاحيتن سان گڏوگڏ اي آءِ جي ترقي ۾ مجموعي رفتار جي لحاظ کان پڻ ثابت ڪيا ويا.
ساڳئي پوسٽ ۾، OpenAI انڪشاف ڪيو آهي ته هن هگنگ منهن واري واقعي جي پٺيان ٻن هفتن تائين مضبوط ڪرڻ واري سکيا کي منجمد ڪيو هو، پر ان کان پوء ڪيترن ئي گهٽ خطرناڪ ماڊل کي ٻيهر شروع ڪيو هو.
"اسان جي سڀ کان وڏي منصوبابندي ڪيل فرنٽيئر آر ايل رن تي رکيل آهي جڏهن ته اسان ماڊل رويي جو جائزو وٺڻ، اسان جي حفاظت جي تصديق ڪرڻ، ۽ اڳتي وڌڻ کان اڳ ترتيب جي وڌيڪ ثبوت قائم ڪرڻ لاء ننڍڙي پيماني تي ٽريننگ ۽ جائزو وٺندا آهيون،" پوسٽ پڙهي ٿو.
صحافين سان ڳالهائيندي، OpenAI جي تحقيق جي VP اميليا گليس تي زور ڏنو ته ڪنٽرول جي سختي وڌندي ويندي جيئن ماڊل وڌيڪ قابل ٿي ويندا آهن، سڀ کان وڏو ماڊل تمام وڏي جاچ کي منهن ڏيڻ سان.
”اسان محفوظ ترقي لاءِ گهربل ضرورتون ۽ اميدون رکيون آهن ،“ گليس صحافين کي ٻڌايو. "اهي گهرجون ۽ اميدون مختلف آهن خطري جي سطح سان جيڪي اسان ڏسون ٿا."
OpenAI واقعي جي نتيجي ۾ خراب نيٽ ورڪ سيڪيورٽي عملن لاءِ تنقيد ڪئي وئي آهي، جنهن ڏٺو ته ماڊلز پنهنجي تربيتي ماحول کان بچي ويا هڪ پيڪيٽ-انسٽاليشن افاديت کي سمجھوتو ڪندي جيڪا انٽرنيٽ تائين رسائي برقرار رکي ٿي. نون حفاظتي قدمن ۾ مضبوط نيٽ ورڪ اڪيلائيشن جا طريقا شامل آھن، جيتوڻيڪ خاصيتون مبہم رھن ٿيون. نئين سسٽم تحت، پوسٽ چوي ٿو، "ڪم لوڊ يا سپورٽ سروس جو هڪ واحد سمجھوتو، پاڻ طرفان، انٽرنيٽ، يا ٻين اندروني نيٽ ورڪن تائين غير مجاز رسائي جي اجازت نٿو ڏئي."
سڀ کان مضبوط حفاظت مانيٽرنگ سسٽم آهي، جيڪو مختلف قسم جي غير مجاز رويي لاءِ اوزارن جي عملن، موجود دليلن جا نشان ۽ سرگرمي جي لاگن کي جانچيندو. OpenAI جو چوڻ آهي ته انهن جو مقصد آهي ته الرٽ جاري ڪرڻ جي اندر 30 منٽن اندر سرگرمي بابت.
OpenAI جو اندازو آهي ته انهي مانيٽرنگ جو ڪمپيوٽ بوجھ لڳ ڀڳ 20 سيڪڙو هوندو جيڪو به عمل جي نگراني ڪئي پئي وڃي. ڪمپني ايندڙ بلاگ پوسٽ ۾ سسٽم تي وڌيڪ تفصيل جو واعدو ڪيو. OpenAI جي واقعي جو سرڪاري پوسٽ مارٽم تجزيو پڻ اڃا تائين انتظار ۾ آهي.
