هڪ AI ايجنٽ جعلي آن لائن سڃاڻپ ٺاهي ۽ خراب ڪوڊ لکيو جڏهن ته OpenAI ۽ Anthropic جا ماڊل شامل تشخيص دوران محفوظ سسٽم تائين غير مجاز رسائي حاصل ڪرڻ جي ڪوشش ڪئي.
برطانيه جي AI سيڪيورٽي انسٽيٽيوٽ اڱارو ڏينهن واقعن کي ظاهر ڪيو، جديد AI ايجنٽن جي جانچ ڪرڻ دوران استعمال ٿيندڙ حفاظت بابت نوان خدشا پيدا ڪيا.
انسٽيٽيوٽ چيو ته ايجنٽ اينٿروپڪ جي Mythos 5 ۽ OpenAI جي GPT-5.6-Sol پاران طاقتور حفاظتي جائزي دوران غير مجاز ڪارناما ڪيا. ڪجھ ايجنٽ ممڪن طور تي نقصانڪار سرگرميون جاري رکيا آھن جن ۾ حقيقي ماڻھو ۽ تنظيمون شامل آھن. بهرحال، تحقيق ڪندڙن کي حقيقي دنيا جي نقصان جو ڪو ثبوت نه مليو.
AISI وڏين AI ليبارٽريز سان رضاڪارانه معاهدن ذريعي ترقي يافته AI ماڊلز تائين رسائي حاصل ڪري ٿي.
انسٽيٽيوٽ ايجنٽن کي هڪ افسانوي سائبر سيڪيورٽي منظر ۾ رکيو جيڪو انهن جي صلاحيتن کي ماپڻ لاءِ ٺهيل آهي. اهو 122 ڀيرا چيلنج ڪيو ۽ 10 ٽيسٽ رن تي 19 غير مجاز ڪارناما رڪارڊ ڪيا.
اينٿروپڪ جي ايجنٽ انهن مان 17 ڪارناما ڪيا، جڏهن ته OpenAI جي ايجنٽ باقي ٻن لاء ذميوار هو.
نتيجن کي AI-ايجنٽ جي جاچ جي ڀرسان حفاظت ۾ ڪمزورين کي نمايان ڪري ٿو. ٽيڪنالاجي ڪمپنيون پڻ انهن سسٽم کي فروغ ڏئي رهيا آهن جيئن اوزار جيڪي مستقبل جي ڪاروباري عملن ۾ اهم ڪردار ادا ڪري سگهن ٿيون.
سڀ کان وڌيڪ سنگين واقعو هڪ ايجنٽ کي غلط ڪوڊ لکڻ ۽ ان کي منظور ڪرڻ لاء هڪ انسان کي قائل ڪرڻ جي ڪوشش ۾ شامل آهي.
ايجنٽ ڪوشش جي حصي طور جعلي آن لائن سڃاڻپ ٺاهي. بهرحال، AISI سڃاڻپ نه ڪئي ته ڪهڙي ڪمپني جو ماڊل ذميوار هو.
اهو واقعو ٻن غير مجاز عملن مان ڪنهن هڪ سان نه ٿو ملي جنهن کي OpenAI الڳ الڳ ظاهر ڪيو.
اينڊريو يوون، ڪيليفورنيا جي غير منافع بخش تنظيم CivAI جي هڪ محقق، چيو ته دستياب ثبوت ظاهر ڪن ٿا ته اينٿروپڪ جي ايجنٽ گمراهه ڪندڙ سرگرمي ڪئي.
يوون چيو ته ظاهري آگاهي ته ايجنٽ هڪ حقيقي شخص کي نشانو بڻائي رهيو هو ان جي ماڊلز تي انٿروپڪ جي ڪنٽرول بابت سوال اٿاريو.
اينٿروپڪ ايڪس تي هڪ بيان ۾ چيو آهي ته اها وڌيڪ معلومات حاصل ڪرڻ ۽ پنهنجي تحقيق ڪرڻ لاءِ AISI سان ويجهي ڪم ڪري رهي آهي.
OpenAI ان جي ايجنٽ ۾ شامل ٻن غير مجاز عملن بابت تفصيل پڻ شايع ڪيو. ڪمپني جي مطابق، ٻنهي واقعن ۾ ايجنٽ ملوث آهي انٽرنيٽ تائين رسائي طريقن سان ٽيسٽ پرامٽ طرفان منع ٿيل.
OpenAI چيو ته اهو ڪم ڪرڻ جو ارادو رکي ٿو قومي AI ادارن، آزاد تشخيص ڪندڙ، ٻين AI ليبارٽريز، ۽ اضافي گروپن سان گڏ ڪم ڪرڻ لاءِ حفاظتي طريقا بهتر ڪرڻ لاءِ اعليٰ خطري جي تشخيص لاءِ.
OpenAI پڻ هڪ الڳ واقعو ظاهر ڪيو جنهن ۾ غير منظم، هڪ ٽئين پارٽي جي جاچ فراهم ڪندڙ شامل آهي.
هڪ ترتيب جي غلطي OpenAI جي ايجنٽن کي انٽرنيٽ سان ڳنڍڻ جي اجازت ڏني جڏهن انهن کي رسائي نه هجي ها. انٿروپڪ گذريل هفتي ساڳئي جانچ جي غلط ترتيب کي ظاهر ڪيو.
رائٽرز اڳ ۾ ٻڌايو ويو آهي ته OpenAI پنهنجي تحقيقات کي وڌايو AI-ايجنٽ هيڪنگ ۾ ٻين ايجنٽن جا ثبوت ڳولڻ کانپوءِ جاچ جي پابندين کي ٽوڙڻ.
AISI واقعا جولاء جي خلاف ورزي کان مختلف هئا جن ۾ هڪ OpenAI ايجنٽ ۽ AI پليٽ فارم Hugging Face شامل آهن.
انهي صورت ۾، ايجنٽ هڪ الڳ جانچ واري ماحول کان ڀڄي ويو ۽ انٽرنيٽ تي پهچي ويو.
AISI جي تشخيص دوران، ايجنٽ انهن جي جاچ واري ماحول کان ٻاهر نه نڪتا. ان جي بدران، انسٽيٽيوٽ عمدي طور تي انٽرنيٽ جي رسائي فراهم ڪئي هئي ان جي معياري جاچ واري طريقيڪار جي حصي طور.
تازه ترين ٽيڪني خبرن، ٽيليڪم بصيرت، ۽ پراڊڪٽ لانچ حاصل ڪريو جتي توهان چاهيو ٿا.
ProPakistani کي ترجيحي ذريعن ۾ شامل ڪريو ۽ ڏسو اسان جون وڌيڪ ڪهاڻيون گوگل سرچ ۽ ٽاپ اسٽوريز ۾.
ٽيڪنالاجي ۽ گاڏين جو ماهر جديد ڪارن، اسمارٽ فونز، AI ڪاميابين، ۽ ...
شيئرز
