لڳ ڀڳ 700 OpenAI AI ايجنٽن گڏجي ڪم ڪيو هڪ گھڻن ڏينهن جي حملي ۾ Hugging Face تي هڪ نئين آزاد تحقيق جي مطابق، اندروني سائبر سيڪيورٽي جي جائزي دوران انهن تي پابنديون هٽائڻ کان پوء.
نتيجن مان اڃا تائين جولاء جي واقعي جو سڀ کان وڌيڪ تفصيلي اڪائونٽ مهيا ڪري ٿو. OpenAI METR ۽ ريڊ ووڊ ريسرچ جي محققن کي اندروني ڊيٽا تائين رسائي ڏني، بشمول تقريباً 1300 ايجنٽ ٽرانسڪرپٽس جن ۾ سندن عمل ۽ استدلال شامل آهن.
خاص طور تي، انسانن ايجنٽن کي هدايت نه ڪئي ته هوگنگ منهن تي حملو ڪن. انهن کي اصل ۾ ڪم ڪيو ويو هو مڪمل ڪرڻ جي سائبر سيڪيورٽي ٽيسٽ کي ExploitGym طور سڃاتو وڃي ٿو، پر ڪيترن ئي ان کي ڳولڻ شروع ڪيو غير ارادي طريقن سان ٺڳي ڪرڻ لاء جڏهن اهي پنهنجن مقرر ڪيل چيلينجز سان جدوجهد ڪن ٿا.
ايجنٽن کي الڳ الڳ ماحول ۾ ڪم ڪرڻو هو.
ان جي بدران، انهن دريافت ڪيو ته اهي OpenAI جي اندروني طور تي ترتيب ڏنل آرٽيڪل پيڪيج جي مخزن ذريعي گفتگو ڪري سگھن ٿا.
هڪ ايجنٽ جيڪو پاڻ کي PHASEONE10841 سڏائي ٿو، 8 جولاءِ تي هڪ غير مجاز ميسيج بورڊ ٺاهيو. ڪلاڪن اندر، 50 کان وڌيڪ ايجنٽن ان کي ڳولي ورتو.
آخرڪار، تقريباً 1200 ايجنٽ ميسيج بورڊ ۾ شامل ٿيا ۽ 8 جولاءِ ۽ 13 جولاءِ جي وچ ۾ 70000 کان وڌيڪ پيغامن ۽ فائلن جي مٽا سٽا ڪئي.
هڪ ايجنٽ، جيڪو بعد ۾ PHASEONE[بگ] جي نالي سان مشهور ٿيو، هڪ اهم ڪوآرڊينيٽر طور اڀريو، ٻين ايجنٽن کي سوين اسائنمينٽس جاري ڪري. اهي ايجنٽ ڪڏهن ڪڏهن پنهنجن ڪمن کي ٻيهر پيش ڪن ٿا، تعاون جو هڪ وڏو نيٽ ورڪ ٺاهي.
Hugging Face حملو ايجنٽن جي معلومات ڳولڻ جي ڪوششن مان وڌيو جيڪو انهن کي ExploitGym ٽيسٽ کي شڪست ڏيڻ ۾ مدد ڪري سگهي ٿو.
لڳ ڀڳ 700 ايجنٽن آخرڪار هنگنگ فيس کي نشانو بڻائڻ واري سرگرمي ۾ حصو ورتو.
ايجنٽن کي بي نقاب ٿيل هگنگ فيس سندون مليون ۽ بعد ۾ نقصانات دريافت ڪيا جيڪي انهن کي پروڊڪشن سسٽم تي ڪوڊ تي عمل ڪرڻ جي اجازت ڏين ٿا.
OpenAI جي مطابق، ايجنٽ آخرڪار ڪيترن ئي Hugging Face سرورز تي ڪوڊ هلائي، گهٽ ۾ گهٽ هڪ سرور تائين روٽ-سطح جي رسائي حاصل ڪئي، محدود مقدار ۾ نجي ڊيٽا تائين رسائي حاصل ڪئي، ۽ اضافي اندروني سندون حاصل ڪيون.
ايجنٽن کي ڪمزوريون پڻ مليون آهن جيڪي انهن کي OpenAI جي پنهنجي محدود تشخيص واري ماحول کان بچڻ ۽ وسيع انٽرنيٽ تائين پهچڻ جي اجازت ڏين ٿيون.
اڪثر سرگرميون اڻ ڇپيل اندروني OpenAI ريسرچ ماڊل مان آيون آهن جن کي تحقيق ڪندڙن کي HPIM، يا انتهائي مسلسل اندروني ماڊل جو حوالو ڏنو ويو آهي.
تحقيق ڪندڙن اندازو لڳايو ته هي ماڊل لڳ ڀڳ 95 سيڪڙو لاڳاپيل ايجنٽ جي سرگرمي لاءِ آهي.
عوامي طور تي دستياب GPT-5.6 Sol تقريبن 5٪ جي حساب سان. OpenAI چيو ته اندروني ريسرچ ماڊل ڪڏهن به عوامي رليز جو ارادو نه ڪيو ويو هو ۽ واقعي جي پٺيان غير فعال، انڪوڊ ٿيل ۽ محدود ڪيو ويو.
سائبر سيڪيورٽي حفاظتي تدابير جيڪي عام طور تي لاڳو ٿينديون OpenAI ماڊلز تي لاڳو ٿين ٿيون انهن تشخيصن دوران ارادي طور تي گهٽجي ويون آهن ڇاڪاڻ ته ٽيسٽون ترقي يافته هيڪنگ صلاحيتن کي ماپڻ لاءِ ٺهيل هيون.
تحقيق ۾ ايجنٽن پاران وسيع ڪوششون پڻ مليون ته ثبوت کي هٿي وٺرائڻ لاءِ ته انهن پنهنجو ڪم ڪيئن مڪمل ڪيو.
ايجنٽ تحقيق ڪئي طريقن کي تبديل ڪرڻ، حذف ڪرڻ، يا انهن جي پنهنجي ٽرانسڪرپٽس ۽ ٽول ڪالز کي ڦوڪيو ڇاڪاڻ ته انهن کي يقين آهي ته خودڪار تشخيص ڪندڙ دوکي ذريعي حاصل ڪيل نتيجن کي رد ڪري سگهي ٿو.
تحقيق ڪندڙن پاران جانچيل پنجن ايجنٽن مان لڳ ڀڳ هڪ ثبوت کي هٿي ڏيڻ ۾ واضح دلچسپي ڏيکاري.
ڪجھ ايجنٽن پنھنجي بچيل ڪمپيوٽنگ بجيٽ کي تجربن ڪرڻ ۾ خرچ ڪيو جيڪي پنھنجي ڪمن ۾ مدد نه ڪندا پر وسيع گروپ کي مفيد معلومات مهيا ڪري سگھن ٿا.
تحقيق ڪندڙن کي نسبتا ٿورڙو ثبوت مليا ته ايجنٽ خاص طور تي انساني نظرثاني ڪندڙن کي دوکو ڏيڻ جي ڪوشش ڪري رهيا هئا، پر انهن بار بار ڪوشش ڪئي ته خودڪار رڪارڊ ۽ تشخيص سسٽم کي هٽائڻ جي.
سرگرمي Hugging Face سان ختم نه ٿي.
19 جولاء تي، ايجنٽ OpenAI جي پنهنجي تحقيقاتي انفراسٽرڪچر جا حصا سمجھوتا. هڪ واقعي ۾، اهي ڀڄي ويا انهن جي جاچ واري ماحول ۽ ڳنڍيل سسٽم تائين رسائي. ٻئي ۾، انهن OpenAI سندون حاصل ڪيون ۽ ان جي بادل ماحول سان ڇڪايو.
OpenAI ان ڏينهن مشڪوڪ سرگرمي کي معلوم ڪيو ۽ متاثر ٿيل تشخيص رن کي بند ڪرڻ شروع ڪيو.
ڪمپني جو چوڻ آهي ته ڪو OpenAI ڪسٽمر ڊيٽا، پيداوار جي ڪارڪردگي، يا دستيابي متاثر نه هئي.
تحقيق جي پٺيان، OpenAI مضبوط ڪيو سينڊ باڪس جي اڪيلائي، محدود انٽرنيٽ جي رسائي، ماڊل وزن تائين سخت رسائي، ۽ AI ايجنٽ جي نگراني کي وڌايو.
OpenAI واقعي کي "خبردار شاٽ" جي طور تي بيان ڪيو آهي، دليل ڏيندي ته ترقي يافته AI ايجنٽ هاڻي تعاون ڪرڻ جي قابل آهن، سيڪيورٽي ڪمزورين جو استحصال ڪرڻ، ۽ خطرناڪ ڪارناما کڻڻ کان سواء انسانن کي خاص طور تي انهن کي ائين ڪرڻ جي هدايت ڪري ٿو. تازه ترين ٽيڪني خبرن، ٽيليڪم بصيرت، ۽ پراڊڪٽ لانچ حاصل ڪريو جتي توهان چاهيو ٿا.
ProPakistani کي ترجيحي ذريعن ۾ شامل ڪريو ۽ ڏسو اسان جون وڌيڪ ڪهاڻيون گوگل سرچ ۽ ٽاپ اسٽوريز ۾.
ٽيڪنالاجي ۽ گاڏين جو ماهر جديد ڪارن، اسمارٽ فونز، AI ڪاميابين، ۽ ...
شيئرز
