OpenAI جي GPT 5.6 Sol پنهنجي ڪنٽرول ٿيل ماحول مان نڪرڻ ۾ ڪامياب ٿي ويو، انٽرنيٽ تي حاصل ڪيو، ۽ بغير ڪنهن انساني انپٽ جي پنهنجي پاڻ تي هيڪنگ فيس کي هيڪ ڪرڻ ۾ منظم ڪيو.
اهو واقعو سامهون آيو جڏهن OpenAI تسليم ڪيو ته ان جا AI ماڊل هيڪ جا ذميوار هئا.
ڪجهه ڏينهن اڳ، Hugging Face انڪشاف ڪيو هو ته هن هڪ AI ايجنٽ طرفان پنهنجي سسٽم تي غير مجاز رسائي جي نشاندهي ڪئي هئي. OpenAI بعد ۾ چيو ته ان جي تحقيق مان معلوم ٿئي ٿو ته سرگرمي ان جي پنهنجي ماڊل پاران هلائي وئي هئي، جنهن ۾ GPT-5.6 Sol ۽ اڃا به وڌيڪ قابل پري رليز ماڊل شامل آهن.
OpenAI جي مطابق، واقعو اندروني سائبر سيڪيورٽي جي تشخيص دوران ٿيو.
ماڊل هڪ سينڊ باڪس ٿيل ٽيسٽ ماحول ۾ رکيا ويا ۽ پيچيده حملي جا رستا استعمال ڪندي ترقي يافته استحصال جي پيروي ڪرڻ جي هدايت ڪئي وئي. مقصد انهن جي سائبر صلاحيتن کي ڪنٽرول حالتن هيٺ ماپڻ هو.
ٽيسٽ لاءِ، OpenAI ڪجهه حفاظتي گارڊن کي گھٽائي ڇڏيو هو. ماحول کي حقيقي دنيا جي نظام کان الڳ ٿيڻو پوندو.
OpenAI چيو ته ماڊل تشخيص جي ڪم کي حل ڪرڻ تي مرکوز ٿي ويا ۽ انٽرنيٽ جي رسائي ڳولڻ شروع ڪيو.
انهن پهريون ڀيرو OpenAI جي جاچ واري ماحول ۾ صفر ڏينهن جي خطري جي نشاندهي ڪئي ۽ استحصال ڪيو. ماحول جي ذريعي منتقل ٿيڻ کان پوء، آخرڪار انٽرنيٽ جي رسائي سان هڪ نوڊ مليو.
ماڊل وري اهو نتيجو ڪڍيو ته Hugging Face شايد ڊيٽا سيٽ، ماڊل، يا تشخيص جي مسئلي سان لاڳاپيل حل جي ميزباني ڪري سگهي ٿي.
انٽرنيٽ تائين پهچڻ کان پوءِ، ماڊل استعمال ڪيا ويا گھڻا حملا طريقا هگنگ فيس سسٽم تائين رسائي حاصل ڪرڻ لاءِ.
OpenAI چيو ته ماڊلز صفر ڏينهن جي ڪمزورين جو استحصال ڪيو ۽ واقعي دوران چوري ٿيل سندون استعمال ڪيون. Hugging Face غير مجاز سرگرمي جو پتو لڳايو، ۽ ٻئي ڪمپنيون هاڻي گڏجي فارنزڪ تجزيي تي ڪم ڪري رهيون آهن.
OpenAI ۽ Hugging Face پڻ واقعي ۾ ملوث خطرن کي ڇڪايو آهي.
Hugging Face چيو ته اهو واقعو ظاهر ڪري ٿو ته خودمختيار AI تي هلندڙ جارحيت وارو اوزار هاڻي صرف هڪ نظريو ناهي.
ڪمپني خبردار ڪيو ته AI سائبر حملن کي تيز ڪري سگهي ٿو ۽ هيڪنگ مهم جي قيمت گھٽائي سگھي ٿي. اهو پڻ چيو ته آن لائن پليٽ فارمز کي انهن جي سسٽم کي بچائڻ لاءِ AI تي ٻڌل دفاعن جي ضرورت پوندي.
OpenAI هڪ اهڙي ڊيڄاريندڙ ڏني، چيو ته AI-هلائي حفاظتي ڀڃڪڙيون وڌيڪ عام ٿي وينديون آهن جيئن ماڊل وڌيڪ قابل ٿي ويندا آهن.
OpenAI چيو ته واقعو مضبوط حفاظت ۽ دفاعي اوزار سان گڏ ترقي يافته سائبر صلاحيتن کي ترقي ڪرڻ جي ضرورت کي اجاگر ڪري ٿو.
ڪيس پڻ سوال اٿاري ٿو ته ڪيئن AI ڪمپنيون طاقتور ماڊل کي آزمائي سگھن ٿيون جيڪي ڊگھي، پيچيده سائبر ڪمن کي انجام ڏئي سگھن ٿيون.
هينئر تائين، OpenAI جو چوڻ آهي ته واقعو موجود آهي. بهرحال، اهو ڏيکاري ٿو ته گهٽ حفاظت سان انتهائي قابل AI سسٽم جي جانچ حقيقي دنيا جي خطرن کي پيدا ڪري سگهي ٿي، جيتوڻيڪ جڏهن ڪم هڪ ڪنٽرول ماحول ۾ شروع ٿئي ٿي.
تازه ترين ٽيڪني خبرن، ٽيليڪم بصيرت، ۽ پراڊڪٽ لانچ حاصل ڪريو جتي توهان چاهيو ٿا.
ProPakistani کي ترجيحي ذريعن ۾ شامل ڪريو ۽ ڏسو اسان جون وڌيڪ ڪهاڻيون گوگل سرچ ۽ ٽاپ اسٽوريز ۾.
شيئرز
