روگ آرٽيفيشل انٽيليجنس ماڊل جيڪو هڪ ڪنٽرول ٿيل ٽيسٽ مان ڀڃي ويو ۽ هڪ ٻي AI ڪمپني کي هيڪ ڪيو پڻ هڪ ٻئي ٽيڪنالاجي فرم ۾ هڪ گراهڪ سان سمجهوتو ڪيو ، رائٽر نيوز ايجنسي جي رپورٽ.
اڱاري تي شايع ٿيل ٽائم لائن موجب هگنگ فيس - ڪمپني اوپن اي آءِ جي ٽيسٽ ماڊل طرفان هيڪ ڪئي وئي - بدمعاش ايجنٽ هڪ الڳ ٿيل ٽيسٽنگ ماحول (يا سينڊ باڪس) ۾ ڀڃي “هڪ ٽئين پارٽي فراهم ڪندڙ جي انفراسٽرڪچر تي ميزباني ڪئي” ۽ اتان پنهنجو تازو هيڪ لانچ ڪيو.
Hugging Face ٽئين پارٽي ڪمپني جو نالو نه ٻڌايو، پر رائٽر ٻڌايو آهي ته اها نيويارڪ جي ماڊل ليبز هئي.
موڊل جي چيف ٽيڪنالاجي آفيسر، اکشت بوبنا، چيو ته ايجنٽ هڪ صارف پاران لکيل ڪمزور ڪوڊ جو استحصال ڪيو جيڪو انهن جي پليٽ فارم تي ميزبان هو.
”ماڊل جي پليٽ فارم يا اڪيلائي کي ڪنهن به طريقي سان سمجهوتو نه ڪيو ويو ،“ بوبنا رائٽر کي ٻڌايو.
جيتوڻيڪ هڪ ماڊل گراهڪ جو سمجھوتو صرف هگنگ منهن جي خلاف هيڪنگ مهم جو حصو هو، اهو ظاهر ڪري ٿو ته بدمعاش ايجنٽ اڳي ڄاڻايل کان وڌيڪ اڳتي وڌو.
OpenAI خاص طور تي موڊل جي گراهڪن مان هڪ جي هيڪ تي تبصرو ڪرڻ کان انڪار ڪيو، ان جي بدران رائٽرز کي هڪ تازه ڪاري جو حوالو ڏنو جنهن ۾ ڪمپني چيو ته ان جي بدمعاش ايجنٽ کي چار الڳ خدمتن تي چار اڪائونٽن ۾ ڀڄي ويا آهن.
OpenAI خدمتن جي نشاندهي نه ڪئي.
ڪمپني چيو ته ان جي نشاندهي نه ڪئي وئي آهي ”شدت يا پيماني جي سطح تي ڪنهن ٻئي سرگرمي جي جيڪا اسان شيئر ڪئي آهي هنگنگ فيس سان لاڳاپيل آهي ، جنهن ۾ پليٽ فارم سطح جو سمجھوتو شامل آهي“.
Hugging Face جي تازي هيڪنگ عالمي ڌيان ڇڪايو ۽ الارم ڪيو، جيئن OpenAI جو ڪنٽرول کان ٻاهر وارو ايجنٽ پنهنجي ٽيسٽ ماحول کان بچڻ ۽ کليل انٽرنيٽ تائين پهچڻ ۾ ڪامياب ٿي ويو.
اهو پوءِ چوري ٿيل لاگ ان تفصيلات استعمال ڪيو ۽ هنگنگ فيس سرورز تائين رسائي حاصل ڪرڻ لاءِ اڻڄاتل سيڪيورٽي خامي ڳوليائين، OpenAI چيو.
AI فرم چيو ته هيڪ ايجنٽ جي نمائندگي ڪري ٿو "انتهائي ڊگھائي" ڏانهن وڃڻ لاءِ معلومات حاصل ڪرڻ لاءِ جيڪا مدد ڪندي جاچ جي مقصدن کي پورو ڪرڻ ۾.
Hugging Face cofounder Clement Delangue چيو ته ڪمپني کي شڪ هو ته هڪ فرنٽيئر ليب حملي جي پويان هئي، ۽ هن کي يقين آهي ته OpenAI جي حصي تي ڪو به خراب ارادو نه هو.
OpenAI جي مطابق، بدمعاش ايجنٽ کي "غير فعال، انڪوڊ ٿيل، ۽ تحقيق جي رسائي کان محدود" ڪيو ويو آهي.
ماهرن بار بار AI-فعال سائبر حملن ۽ ماڊلز تي انساني ڪنٽرول کان ٻاهر نڪرڻ تي الارم وڄايو آهي.
