OpenAI پنهنجي سرڪاري رپورٽ اربع تي جاري ڪئي Hugging Face جي خلاف ورزي تي، واقعي کان وڌيڪ هڪ مهيني بعد عوامي ٿيڻ کانپوء. رپورٽ، جيڪا ڪيترن ئي مختلف سائبر سيڪيورٽي سمجھوتن کي پکڙيل آهي، اڄ تائين واقعي جو سڀ کان مڪمل حساب ڪتاب آهي.
"هي واقعو هڪ غير معمولي ۽ غير متوقع سنگم جي واقعن ۾ شامل هڪ ٻاهرئين منظر ۾ غلط ترتيب واري رويي کي ظاهر ڪري ٿو: ExploitGym جي تشخيص ۾ ناممڪن ڪمن جي موجودگي، ڊگهي ڪم افق تي ماڊل تسلسل، ۽ پيرن جي ماڊلن ڏانهن پيغام جيڪي انهن ماڊل کي پنهنجي مقصد کان هٽائڻ جو سبب بڻيا،" رپورٽ پڙهي ٿي.
OpenAI جي رپورٽ ۾ ڪيترائي تفصيل اڳ ۾ 6 آگسٽ تي بليڪ هيٽ پريزنٽيشن ۾ عام ڪيا ويا هئا، پر OpenAI جي سرڪاري رپورٽ واقعي جي وڌيڪ تفصيلي حساب ڪتاب ڏئي ٿي، جنهن ۾ وڌيڪ تفصيل شامل آهي ان جي جاچ شروع ڪئي وئي. رپورٽ پڻ نازڪ نئين تفصيل ڏئي ٿي ته ڪيئن OpenAI مستقبل جي واقعن کي روڪڻ جو مقصد رکي ٿو، جنهن ۾ چين جي سوچ جي نگراني ۽ بدمعاش ايجنٽن کي روڪڻ لاء هڪ وڌيڪ جديد نظام شامل آهي.
METR ۽ ريڊ ووڊ ريسرچ واقعي دوران ماڊل جي رويي جي ٽئين پارٽي جي جائزي پڻ ڪئي؛ ٻئي گروپ ان واقعي تي پنهنجون رپورٽون شايع ڪرڻ جي منصوبابندي ڪري رهيا آهن.
وسيع اسٽروڪ ۾، رپورٽ بيان ڪري ٿي ته ڪيئن هڪ OpenAI ماڊل پيش ڪيو ويو هڪ ناقابل حل مسئلي سان ٽيسٽ ۾ ۽ اڳ ۾ ئي اڻڄاتل استحصال کي گڏ ڪرڻ لاء اڳتي وڌايو ويو حفاظتي قدمن کي نظرانداز ڪرڻ ۽ ان جي ڪم کي مڪمل ڪرڻ لاء. ماڊل شروعاتي طور تي انٽرنيٽ تائين رسائي حاصل ڪرڻ لاءِ آرٽيفيڪٽري پيڪيج مينيجمينٽ ٽول سان سمجھوتو ڪيو، پوءِ OpenAI، Hugging Face، ۽ ٻين وينڊرز ۾ مختلف سسٽم سان سمجھوتو ڪيو.
رپورٽ انهن ماڊلز بابت نازڪ نوان تفصيل ڏئي ٿي جن جي ڀڃڪڙي ڪئي وئي. پرائمري ماڊل ساڳئي خاندان مان هو OpenAI جي ايندڙ Astra ماڊل جي طور تي، جيتوڻيڪ رپورٽ زور ڏئي ٿي ته اهو "مختلف پوسٽ ٽريننگ سان هڪ الڳ ماڊل هو، جتي ماڊل جي رويي جو گهڻو حصو ٺهيل آهي."
ڇاڪاڻ ته OpenAI ماڊل جي صلاحيتن جي جانچ ڪري رهيو هو، اهو پڻ غير منظم ڪيو ويو عام درجه بندي ڪندڙ جو مطلب آهي ماڊل کي ڊجيٽل انفراسٽرڪچر کي سمجهڻ کان روڪڻ.
"OpenAI وڌ ۾ وڌ سائبر صلاحيتن جو اندازو لڳائي ٿو هن تشخيص کي هلائڻ کان سواءِ پيداوار جي درجه بندي جي بغير ماڊلز کي وڌيڪ خطري واري سائبر سرگرمي جي پيروي ڪرڻ کان روڪڻ لاءِ ،" رپورٽ بيان ڪري ٿي. "اهي تشخيص اهم آهن انهي ڪري ته OpenAI ماڊل جي بنيادي صلاحيتن کي ماپ ڪري سگهي ٿو ۽ مناسب حفاظت جي ڊيزائن کي ترتيب ڏئي سگهي ٿو."
رپورٽ پڻ OpenAI جي سيڪيورٽي تبديلين جي باري ۾ اهم نئين معلومات ڏئي ٿي، اڳتي وڌڻ جي نگراني ۽ ترتيب جي ڪوششن تي تعمير ڪندي گذريل هفتي عوام کي.
خاص طور تي، ڪمپني پنهنجي AI ايجنٽن جي نگراني کي وڌائي رهي آهي "سوچ جو سلسلو،" هڪ ڪم ڪندڙ جڳهه جنهن ۾ AI سسٽم مختصر مدت جي رد عمل ۽ مقصدن کي رڪارڊ ڪري ٿو. انهي مانيٽرنگ کي 24/7 وڌائڻ واري نظام سان گڏ ڪيو ويندو، انهي سان گڏ ڪم جي لوڊ کي روڪڻ لاء نئين ٽولنگ جيڪي غير محفوظ سمجهيا وڃن ٿا.
”انهن تبديلين جو مقصد آهي ڳولڻ جي وسعت ۽ رفتار ٻنهي کي بهتر ڪرڻ - بنيادي ڍانچي جي بي ضابطگين کان وٺي ممڪن طور تي ماڊل رويي جي حوالي سان - ۽ انهي نمائش کي تيزيءَ سان ڪنٽرول ڪرڻ جي ميڪانيزم سان جوڙيو ،“ رپورٽ ٻڌائي ٿي. "جيڪڏهن اسان جو في الحال مقرر ڪيل CoT مانيٽرنگ سسٽم واقعي جي وقت هلي رهيو هو، ته اهو ابتدائي لاڳاپيل سرگرمي کي پڪڙي ها ۽ ماڊلز هگنگ فيس سسٽم جي ڀڃڪڙي ڪرڻ کان هڪ ڏينهن کان وڌيڪ اڳ اسان جي سيڪيورٽي ٽيم کي پيج ڪري ها."
