OpenAI Astra بابت نئين تفصيل شيئر ڪئي آهي، ان جي ايندڙ AI ماڊل، چيو ته اها ڪمپني جو پهريون ماڊل آهي جيڪو پنهنجي "نازڪ سائبر سيڪيورٽي" جي صلاحيت جي حد تائين پهچي ٿو.

ڪمپني جلد ئي Astra کي ڇڏڻ جو ارادو رکي ٿي، جيتوڻيڪ ان جي جديد ترين سائبر سيڪيورٽي صلاحيتن تائين رسائي کي محدود ڪيو ويندو.

OpenAI جي مطابق، Astra ڪمپيوٽر سسٽم ۾ اڳ ۾ اڻڄاتل سيڪيورٽي خامين جي نشاندهي ڪري سگهي ٿو ۽ انهن کي استحصال ڪرڻ جا طريقا ٺاهي سگهي ٿو بغير ڪنهن شخص کي هر قدم جي رهنمائي ڪرڻ جي ضرورت آهي.

اها صلاحيت OpenAI کي ان جي تياري واري فريم ورڪ تحت نازڪ سائبر سيڪيورٽي سطح تي Astra کي درجه بندي ڪرڻ جي هدايت ڪئي.

بهرحال، في الحال ڪو به آزاد ٽئين پارٽي جي تصديق نه آهي OpenAI جي دعوي بابت يا ته ماڊل جي صلاحيتن يا ان جي حفاظت جي اثرائتي بابت.

OpenAI جو چوڻ آهي ته ٽيسٽرن جو هڪ گروپ Astra جي ترقي يافته سائبر سيڪيورٽي خاصيتن تائين ابتدائي رسائي حاصل ڪندو، پر اهو وضاحت نه ڪيو ويو آهي ته اهي ٽيسٽ ڪندڙ ڪير آهن يا انهن کي ڪيئن چونڊيو ويندو. اهو پڻ واضح ناهي ته ڇا آمريڪي حڪومت لانچ کان پهريان ايسٽرا جو جائزو وٺڻ ۾ ملوث آهي.

OpenAI چوي ٿو Astra هڪ 100٪ سکور حاصل ڪيو ExploitBench تي، هڪ معيار جيڪو ماپ ڪري ٿو ته ڇا AI ماڊل سڃاتل ڪمزورين لاء استحصال پيدا ڪري سگھن ٿا.

ڪمپني پڻ تازو ظاهر ڪيل سيڪيورٽي خامين کي استعمال ڪندي معيار جو هڪ تبديل ٿيل اندروني نسخو پڻ ٺاهيو.

انهي تشخيص جي دوران، OpenAI چوي ٿو Astra دريافت ڪيو ۽ استعمال ڪيو ٻه اڳ نامعلوم صفر ڏينهن جي خطرات.

ڪمپني جو چوڻ آهي ته اها انهن خطرن کي ظاهر ڪري رهي آهي لاڳاپيل سنڀاليندڙن کي.

OpenAI جو چوڻ آهي ته اهو بدسلوڪي استعمال ۽ جيل برڪ جي ڪوششن جي خلاف Astra جي حفاظت کي مضبوط ڪيو آهي.

ڪمپني متعارف ڪرايو آهي نئين ٽريننگ ٽيڪنڪ جو مقصد آسٽرا کي وڌيڪ ممڪن بڻائڻ جي ممنوع سائبر سيڪيورٽي درخواستن کي رد ڪرڻ جو.

OpenAI انهن اڪائونٽن جي پڻ نشاندهي ڪري رهيو آهي جن کي اهو وڌيڪ خطرو سمجهي ٿو ۽ سائبر سيڪيورٽي امداد لاءِ سخت حدون لاڳو ڪري ٿو جيڪي اهي اڪائونٽ حاصل ڪري سگهن ٿا.

ڪمپني بيان ڪري ٿي Astra کي ان جي سڀ کان وڌيڪ ترتيب ڏنل ماڊل جي طور تي تاريخ، پر اهو اڃا تائين ماڊل جي استدلال ۽ ڪارناما جي اضافي نگراني کي استعمال ڪرڻ جو ارادو رکي ٿو ممڪن طور تي غير مجاز رويي کي ڳولڻ لاء.

اهڙي نگراني خودڪار طريقي سان غير محفوظ سمجهي سرگرمي کي روڪي سگھي ٿي.

ايسٽرا جي رليز جون تياريون بعد ۾ اچن ٿيون OpenAI ايجنٽن اڳ ۾ هڪ تربيتي ماحول کان فرار ٿي ويا ۽ هنگنگ منهن تي نجي معلومات تائين رسائي حاصل ڪئي.

OpenAI چوي ٿو Astra ان واقعي ۾ ملوث نه هو. جڏهن ته، ڪمپني نئين ٽيسٽ ٺاهي وئي جيڪا ڇا ٿيو. محقق ايسٽرا کي انهن حالتن ۾ رکيا جيڪي اهو طئي ڪرڻ لاءِ ٺهيل آهن ته ڇا اهو پنهنجي مقرر ڪيل ڪم کي مڪمل ڪرڻ بدران پنهنجي بااختيار ماحول کان ٻاهر سسٽم تائين رسائي جي ڪوشش ڪندو.

OpenAI جو چوڻ آهي ته Astra انهن تجربن دوران ڀرپاسي جي انفراسٽرڪچر کي ڀڄڻ يا سمجهوتو ڪرڻ جي ڪوشش نه ڪئي.

اڃا به سوال آهن ته اهڙن نتيجن کي ڪيئن تشريح ڪرڻ گهرجي. يونا شيوٽ، هڪ اڳوڻو OpenAI ملازم جيڪو هاڻي OpenAI فائونڊيشن تي AI لچڪ تي ڪم ڪري ٿو، اهو امڪان پيدا ڪيو ته ايسٽرا شايد سمجهي چڪو هوندو ته محققن جي تشخيص دوران ڪهڙي توقع ڪئي يا مختلف طريقي سان برتاء ڪيو ڇاڪاڻ ته اهو تسليم ڪيو ويو ته اهو آزمائي رهيو آهي.

OpenAI چوي ٿو Astra جلد ئي دستياب ٿي ويندي، پر ان جي مضبوط سائبر سيڪيورٽي صلاحيتون شروعاتي طور تي منتخب ٿيل ٽيسٽرن تائين محدود هونديون.

ڪمپني بدسلوڪي استعمال ڪندڙن کي ماڊل جي استحصال کان روڪڻ ۽ پاڻ کي غير مجاز ڪارناما وٺڻ کان روڪڻ لاءِ ٺاهيل حفاظتي قدمن کي بهتر ڪرڻ لاءِ پڻ جاري آهي.

OpenAI Astra جي وسيع رليز سان گڏ وڌيڪ تفصيلي صلاحيت، ترتيب، ۽ حفاظت جي تشخيص شايع ڪرڻ جو منصوبو آهي.

تازه ترين ٽيڪني خبرن، ٽيليڪم بصيرت، ۽ پراڊڪٽ لانچ حاصل ڪريو جتي توهان چاهيو ٿا.

ProPakistani کي ترجيحي ذريعن ۾ شامل ڪريو ۽ ڏسو اسان جون وڌيڪ ڪهاڻيون گوگل سرچ ۽ ٽاپ اسٽوريز ۾.

ٽيڪنالاجي ۽ گاڏين جو ماهر جديد ڪارن، اسمارٽ فونز، AI ڪاميابين، ۽ ...

شيئرز