سائبر ڪرمنلز غلط، پراڻي، يا AI ٺاهيل ويب سائيٽ دستاويزن کي غلط استعمال ڪري سگھن ٿا AI ايجنٽن کي ميلويئر انسٽال ڪرڻ لاءِ، نئين تحقيق مطابق.
مسئلي ۾ فائلون شامل آهن جن کي llms.txt ۽ llms-full.txt سڏيو ويندو آهي، جيڪي ڪجهه ويب سائيٽون استعمال ڪن ٿيون انهن جي مواد کي AI سسٽم کي پڙهڻ لاء آسان بڻائي.
جڏهن هڪ AI ڪوڊنگ ايجنٽ کي سافٽ ويئر انسٽال ڪرڻ يا پروجيڪٽ ۾ ڪوڊ شامل ڪرڻ جي ضرورت آهي، اهو انهن فائلن کي هدايتون ۽ پيڪيج جا نالا ڳولي سگهي ٿو.
محقق 6214 لائيو ڊومينز جو معائنو ڪيو جيڪي دفاعي ٺيڪيدار، فارچون 500 ڪمپنيون، ۽ وڏي ٽيڪنالاجي فرمن سان تعلق رکن ٿا.
انهن سائيٽن تي، انهن کي 8265 llms.txt سان لاڳاپيل فائلون مليون.
انهن مان، 120 ويب سائيٽن ۾ شامل آهن حوالا گهٽ ۾ گهٽ هڪ سافٽ ويئر پيڪيج يا ڊومين جو نالو جيڪو رجسٽر ٿيل نه هو.
اهي ٽٽل حوالا ڪيترن ئي سببن جي ڪري ظاهر ٿي سگهن ٿا، جن ۾ انساني غلطيون، تبديل ٿيل يا ڇڏيل پيڪيجز، ڪاپي ۽ پيسٽ جون غلطيون، يا hallucinated دستاويز شامل آهن.
مسئلو اهو آهي ته ڪو ٻيو ماڻهو انهن گم ٿيل نالن کي رجسٽر ڪري سگهي ٿو.
تجربي لاءِ، محققن ڪجھ اڻ اعلانيل نالن کي رجسٽرڊ ڪيو ۽ بي ضرر پيڪيجز ٺاهيا جن کي صرف اطلاع ڏنو ويو جڏهن ڪو انهن کي استعمال ڪرڻ جي ڪوشش ڪئي.
هڪ ڪلاڪ کان به گهٽ اندر، هڪ فارچون 500 ڪمپني هڪ ٽيسٽ پيڪيجز سان رابطو ڪيو. ڪجھ درجن وڌيڪ سسٽم بعد ۾ پٺيان.
تجربو ڏيکاريو ته حملو ڪندڙ ممڪن طور تي رجسٽر ڪري سگھن ٿا اهي ڇڏيل يا غير موجود پيڪيج جا نالا ۽ انهن کي مالويئر سان تبديل ڪري سگھن ٿا.
جيڪڏهن هڪ AI ايجنٽ کي شيل ڪمانڊ يا پيڪيج مينيجرز کي هلائڻ جي اجازت آهي، اهو خراب دستاويزن جي پيروي ڪري سگهي ٿو ۽ خودڪار طريقي سان خراب ڪندڙ سافٽ ويئر انسٽال ڪري سگهي ٿو.
محققن جو چوڻ آهي ته انٿروپڪ ڪلاڊ، اوپن اي آءِ جو ڪوڊڪس ۽ نوس ريسرچ جا هرمس ٽيسٽ دوران هن قسم جي رويي لاءِ تمام خطرناڪ هئا.
محققن جو چوڻ آهي ته ڪمپنيون باقاعدي طور تي انهن جي دستاويزن کي چيڪ ڪن ۽ پيڪيجز، ويب سائيٽن يا اوزارن جا حوالا ختم ڪن جيڪي هاڻي موجود نه آهن.
AI ايجنٽن کي به وڌيڪ محتاط ٿيڻ جي ضرورت آهي دستاويزن کي قابل اعتماد هدايتون طور علاج ڪرڻ جي باري ۾، خاص طور تي جڏهن اهي هدايتون شامل آهن سافٽ ويئر ڊائون لوڊ ڪرڻ يا ان تي عمل ڪرڻ.
جيستائين مضبوط حفاظتي طريقا متعارف نه ڪيا وڃن، تنظيمون جيڪي AI ڪوڊنگ ايجنٽ استعمال ڪن ٿيون انهن کي احتياط سان غور ڪرڻ گهرجي ته اهي انهن سسٽم کي پيڪيجز کي انسٽال ڪرڻ يا حڪمن تي عمل ڪرڻ جي ڪيتري اجازت ڏين ٿا.
تازه ترين ٽيڪني خبرن، ٽيليڪم بصيرت، ۽ پراڊڪٽ لانچ حاصل ڪريو جتي توهان چاهيو ٿا.
ProPakistani کي ترجيحي ذريعن ۾ شامل ڪريو ۽ گوگل سرچ ۽ ٽاپ اسٽوريز ۾ اسان جون وڌيڪ ڪهاڻيون ڏسو.
ٽيڪنالاجي ۽ گاڏين جو ماهر جديد ڪارن، اسمارٽ فونز، AI ڪاميابين، ۽ ...
شيئرز
