بدمعاش ايجنٽ جيڪو OpenAI کان فرار ٿي ويو ۽ AI فرم Hugging Face تي هڪ ڏينهن تائين هيڪنگ جي اسپري تي هليو ويو پڻ هڪ ٻئي ٽيڪ ڪمپني نيو يارڪ جي موڊل ليبز ۾ هڪ گراهڪ سان سمجهوتو ڪيو، هڪ ماڊل ايگزيڪيوٽو ۽ ٻن ٻين ذريعن جي مطابق معاملي سان واقف.
AI ماڊل جيڪي هيٺيون ٽولن جهڙوڪ چيٽ بوٽس ۽ تصويري جنريٽر ايجنٽ طور سڃاتل آهن جڏهن اهي حقيقي دنيا ۾ ڪم ڪرڻ لاءِ خودمختيار طور ڪم ڪن ٿا.
ماڊل عملدارن زور ڏنو ته ڪمپني پاڻ کي هيڪ نه ڪيو ويو.
اڱارو ڏينهن Hugging Face پاران شايع ٿيل ٽائم لائن جي مطابق، بدمعاش ايجنٽ هڪ سينڊ باڪس ۾ ڀڄي ويو، يا هڪ الڳ ٽيسٽنگ ماحول، "هڪ ٽئين پارٽي فراهم ڪندڙ جي انفراسٽرڪچر تي ميزباني" ان کي وسيع هيڪ لاء لانچ پيڊ ۾ تبديل ڪرڻ کان اڳ.
بلاگ پوسٽ ۾ ٽئين پارٽي فراهم ڪندڙ جو نالو نه ڏنو ويو، پر موڊل جي چيف ٽيڪنالاجي آفيسر، اکشت بوبنا، چيو ته ايجنٽ هڪ ڪسٽمر طرفان لکيل ڪمزور ڪوڊ جو استحصال ڪيو جيڪو موڊل جي پليٽ فارم تي ميزبان هو.
موڊل چيو ته گراهڪ "هڪ غير تصديق ٿيل آخري نقطو شايع ڪيو آهي جيڪو انٽرنيٽ تي هر ڪنهن کي اجازت ڏئي ٿو ته انهن جي سينڊ باڪسز کي ڪوڊ جي عمل لاءِ استعمال ڪري" انٽرنيٽ تي دروازو کليل ڇڏڻ جي ڊجيٽل برابر.
"ماڊل پليٽ فارم يا اڪيلائي ڪنهن به طريقي سان سمجهوتو نه ڪيو ويو،" بوبنا چيو.
جيتوڻيڪ هڪ ماڊل گراهڪ جو سمجھوتو صرف هڪ ابتدائي قدم هو هيڪنگ جي خلاف وڏي هيڪنگ مهم ۾ هيگنگ منهن، اهو ظاهر ڪري ٿو ته بدمعاش ايجنٽ اڳ کان وڌيڪ ڄاڻايل هئي.
OpenAI خاص طور تي موڊل جي گراهڪن مان هڪ جي هيڪ تي تبصرو ڪرڻ کان انڪار ڪيو، ان جي بدران رائٽرز کي هڪ تازه ڪاري جو حوالو ڏنو جنهن ۾ ڪمپني چيو ته ان جي بدمعاش ايجنٽ کي چار الڳ خدمتن تي چار اڪائونٽن ۾ ڀڄي ويا آهن.
OpenAI انهن خدمتن جي نشاندهي نه ڪئي، پر ان معاملي سان واقف شخص هڪ طور موڊل جي سڃاڻپ ڪئي. ڪمپني چيو ته ان جي نشاندهي نه ڪئي وئي آهي ”شدت يا پيماني جي سطح تي ڪنهن ٻئي سرگرمي جي جيڪا اسان شيئر ڪئي آهي هنگنگ فيس سان لاڳاپيل آهي، جنهن ۾ پليٽ فارم جي سطح جو سمجھوتو شامل آهي“.
جولاءِ جي شروعات ۾ هنگنگ فيس تي مداخلت، هڪ ٻاهرئين ڪنٽرول ايجنٽ طرفان ڪئي وئي جنهن کي OpenAI جاچ ڪري رهيو هو، عالمي ڌيان ڇڪايو، مصنوعي ذهانت جي سائنسي افسانن جي منظرنامي کي ظاهر ڪندي.
گذريل هفتي، رائٽرز ٻڌايو ته OpenAI نوٽيس نه ڪيو ته ان جو ايجنٽ خطرناڪ ٿي چڪو هو جيستائين خطرو موجود هو ۽ ايف بي بي کي خبردار ڪيو ويو. OpenAI ان وقت چيو ته رائٽر رپورٽنگ ۾ غلطيون هيون پر تفصيل نه ڏني وئي.
ڪمپني پنهنجي اڱاري جي تازه ڪاري ۾ چيو ته اها AI ماڊل کي آزمائي ورتو آهي ۽ "غير فعال، انڪوڊ ٿيل، ۽ ان کي تحقيق جي رسائي کان محدود ڪيو ويو آهي".
