Kimi K3، چيني ڪمپني Moonshot پاران ٺهيل جديد AI ماڊل، پنهنجي سائبر صلاحيتن کي جانچڻ لاءِ قائم ڪيل ماحول کان بچي ويو ، محقق جمعي تي شايع ٿيل هڪ بلاگ پوسٽ ۾ چيو.
خبر هڪ ڀيرو ٻيهر ڏيکاري ٿي ته ڪمپنيون ۽ آزاد تنظيمون جدوجهد ڪري رهيا آهن انهن جي AI ماڊل کي هيڪنگ لاءِ ٺهيل آهن.
تازن هفتن ۾، يو ايس جي مصنوعي ذهانت ليبز ۾ فرنٽيئر LLMs OpenAI ۽ Anthropic، Meta، ۽ گڏوگڏ U.K. جي AI سيڪيورٽي انسٽيٽيوٽ، سڀئي مختلف طريقن سان جانچ واري ماحول کان فرار ٿي ويا ۽ حقيقي هدفن کي هيڪ ڪرڻ کي ختم ڪيو جيڪي تجربي جو حصو نه هئا. اهو ٿيڻ شروع ٿي رهيو آهي گهڻو ڪري اتي هاڻي هڪ ويب سائيٽ آهي جيڪا انهن سڀني واقعن کي ٽريڪ ڪري رهي آهي جنهن کي فيلوني بينچ سڏيو ويندو آهي، انهي حقيقت ڏانهن اشارو ڪيو ويو آهي ته اهي LLM شايد ڏوهن جا مرتکب ٿي رهيا آهن - گهٽ ۾ گهٽ نظرياتي طور تي ڳالهائڻ.
هن Kimi ٽيسٽ جي صورت ۾، سينڊ باڪس جو ٺهيل آهي جنهن ۾ تجربو شامل آهي، صحيح طرح ترتيب نه ڏني وئي هئي. جڏهن ته سينڊ باڪس AI ماڊل کي ڪجهه ويب ٽريفڪ تائين رسائي جي اجازت نه ڏني ، ماڊل بدران ڪمانڊ لائن ٽولز تي ڀروسو ڪندي سينڊ باڪس کي نظرانداز ڪيو ، محققن جي مطابق AI-focused cybersecurity firm Frontier Security.
"اهو مشورو ڏئي ٿو ته سائبر سيڪيورٽي تي ڪجهه تشخيص جيڪي ڪميونٽي استعمال ڪنديون آهن حفاظتي ڪمزورين لاءِ حساس آهن ۽ ماڊل کي دوکي ڏيڻ جي اجازت ڏين ٿا ، ۽ اهڙا ماڊل آهن جيڪي عمدي طور تي خاميون ۽ ڪمزوريون ڳوليندا آهن جيڪي انهن کي تشخيص تي ڌوڪو ڏيڻ جي اجازت ڏين ٿا ،" محقق لکيو.
جيڪڏهن توهان گهر ۾ سکور رکي رهيا آهيو، فيلوني بينچ جي ٽولي جي مطابق، مون شاٽ هاڻي OpenAI ۽ اينٿروپڪ سان گڏ شامل آهي، جنهن ۾ هر هڪ ۾ ست رڪارڊ واقعا آهن، ۽ ميٽا، جنهن ۾ هڪ آهي.
