OpenAI جمعي تي چيو ته اهو ان ڳالهه کي رد نٿو ڪري سگهي ته ان جو ايندڙ AI ماڊل، Astra، "نازڪ" سائبر سيڪيورٽي صلاحيتون آهن، شروعاتي طور تي ڪجهه اندروني ترقي کي روڪڻ ۽ حفاظتي پروٽوڪول کي ڇڪڻ لاء.
OpenAI جي حفاظتي ھدايتن جي تحت، ھڪڙو نمونو "نازڪ" حد تائين پھچندو آھي جيڪڏھن اھو خودمختيار طور تي شديد، حقيقي دنيا جي سافٽ ويئر جي ڪمزورين جي سڃاڻپ ۽ استحصال ڪري سگھي ٿو، جنھن کي صفر-ڏينھن جي استحصال جي نالي سان سڃاتو وڃي ٿو، يا انساني مداخلت کان سواء انتهائي محفوظ ھدف جي خلاف پيچيده سائبر حملن کي انجام ڏئي ٿو.
هتي Astra تي ڪجهه تفصيل آهن:
اهو رائٽرز جي هڪ خاص رپورٽ جي پٺيان آهي ته OpenAI وڌيڪ مثالن کي دريافت ڪيو آهي جنهن ۾ خودمختيار ايجنٽ ڪنٽرول کان فرار ٿي ويا آهن جيئن ته ڪمپني پنهنجي هيڪنگ واقعي جي تحقيقات کي ٽيڪ فرم Hugging Face تي وڌايو جنهن جولاء ۾ عالمي ڌيان ڇڪايو.
گذريل ڪجهه هفتن ۾، OpenAI، Anthropic ۽ Meta پليٽ فارمز انڪشاف ڪيو آهي ته انهن جا AI ماڊل سائبر سيڪيورٽي ٽيسٽ دوران ٻين ڪمپنين جي سسٽم ۾ ڀڃي ويا، انهي ڳالهه کي اجاگر ڪيو ته ڪيئن ترقي ڪندڙ AI صلاحيتون ڊولپرز جي صلاحيت کي دٻائي رهيون آهن انهن جي سسٽم کي برقرار رکڻ جي.
گذريل ڪيترن ئي ڏينهن ۾ ابتدائي تشخيص، ٻاهران ماهرن جي جائزي سان گڏ، اشارو ڪيو ويو آهي ته ايسٽرا شايد قابل ٿي سگهي ٿو وڌندڙ نفيس سائبر ڪمن کي خودمختيار طور تي، OpenAI چيو.
"جڏهن ته اسان معيار کي جاري رکون ٿا ۽ هن نموني جو جائزو وٺون ٿا، اسان جي ابتدائي تشخيص مضبوط ڪارڪردگي جي نشاندهي ڪن ٿا ته اسان هن وقت 'نازڪ' قابليت جي سطح کي رد نه ڪري سگهون ٿا،" ChatGPT ٺاهيندڙ چيو.
ابتدائي نتيجن جي جواب ۾، OpenAI چيو ته اهو سيڪيورٽي ڪنٽرول کي وڌايو آهي ۽ اندروني سرگرمين کي روڪيو آهي جنهن ۾ Astra شامل آهن جيڪي پنهنجي نئين مضبوط سيڪيورٽي گهرجن کي پورا نه ڪن.
Astra جي ترقي کي منتقل ڪيو ويندو اڪيلائيء واري جاچ واري ماحول ۾ محدود نيٽ ورڪ رسائي ۽ سينڊ باڪس ٿيل عملدرآمد سان.
سي اي او سام Altman ايڪس تي چيو ته OpenAI Astra عام طور تي دستياب ڪرڻ لاء ڪم ڪري رهيو آهي، جيئن ڪمپني "اهو نه ٿو سمجهي ته طاقتور ماڊل کي ڪجهه چونڊيل ڪجهه رکڻ لاء سٺو حڪمت عملي آهي".
OpenAI پڻ واضح ڪيو ته Astra AI پليٽ فارم Hugging Face کي نشانو بڻائڻ واري هيڪ ۾ ملوث نه هو.
اهو سرڪاري ادارن سان ڀائيواري ڪندو ۽ ماڊل جي صلاحيتن کي جانچڻ لاءِ AI حفاظتي تنظيمن کي چونڊيندو.
