نئی تحقیق کے مطابق، سائبر کرائمین AI ایجنٹوں کو میلویئر انسٹال کرنے کے لیے غلط، پرانی، یا AI سے تیار کردہ ویب سائٹ دستاویزات کا غلط استعمال کر سکتے ہیں۔
اس مسئلے میں llms.txt اور llms-full.txt نامی فائلیں شامل ہیں، جنہیں کچھ ویب سائٹس اپنے مواد کو AI سسٹمز کے لیے پڑھنے میں آسان بنانے کے لیے استعمال کرتی ہیں۔
جب کسی AI کوڈنگ ایجنٹ کو سافٹ ویئر انسٹال کرنے یا کسی پروجیکٹ میں کوڈ شامل کرنے کی ضرورت ہوتی ہے، تو وہ ان فائلوں کو ہدایات اور پیکیج کے ناموں کے لیے تلاش کر سکتا ہے۔
محققین نے دفاعی ٹھیکیداروں، فارچیون 500 کمپنیوں اور بڑی ٹیکنالوجی فرموں سے تعلق رکھنے والے 6214 لائیو ڈومینز کی جانچ کی۔
ان سائٹس پر، انہیں 8265 llms.txt سے متعلق فائلیں ملیں۔
ان میں سے، 120 ویب سائٹس میں کم از کم ایک سافٹ ویئر پیکج یا ڈومین نام کے حوالے شامل تھے جو رجسٹرڈ نہیں تھے۔
یہ ٹوٹے ہوئے حوالہ جات کئی وجوہات کی بناء پر ظاہر ہو سکتے ہیں، بشمول انسانی غلطیاں، نام تبدیل کیے گئے یا ترک کیے گئے پیکیجز، کاپی اور پیسٹ کی غلطیاں، یا فریب شدہ دستاویزات۔
مسئلہ یہ ہے کہ کوئی اور ان گمشدہ ناموں کو رجسٹر کروا سکتا ہے۔
تجربے کے لیے، محققین نے کچھ غیر دعوی شدہ ناموں کو رجسٹر کیا اور بے ضرر پیکجز بنائے جو صرف اس وقت رپورٹ کیے جب کسی نے انہیں استعمال کرنے کی کوشش کی۔
ایک گھنٹہ سے بھی کم وقت میں، فارچیون 500 کمپنی نے ٹیسٹ پیکجوں میں سے ایک سے رابطہ کیا۔ بعد میں چند درجن مزید نظاموں کی پِیروی کی۔
تجربے سے ظاہر ہوا کہ حملہ آور ممکنہ طور پر ان لاوارث یا غیر موجود پیکیج کے ناموں کو رجسٹر کرسکتے ہیں اور انہیں میلویئر سے بدل سکتے ہیں۔
اگر کسی AI ایجنٹ کو شیل کمانڈز یا پیکیج مینیجرز کو چلانے کی اجازت ہے، تو یہ خراب دستاویزات کی پِیروی کر سکتا ہے اور خود بخود نقصان دہ سافٹ ویئر انسٹال کر سکتا ہے۔
محققین نے کہا کہ انتھروپکس کلاڈ، اوپن اے آئی کا کوڈیکس اور نوس ریسرچ کے ہرمیس ٹیسٹ کے دوران اس قسم کے رویے کا شکار تھے۔
محققین کا کہنا ہے کہ کمپنیوں کو اپنی دستاویزات کو باقاعدگی سے چیک کرنا چاہیے اور ان پیکجز، ویب سائٹس یا ٹولز کے حوالے کو ہٹانا چاہیے جو اب موجود نہیں ہیں۔
AI ایجنٹوں کو دستاویزات کو قابل اعتماد ہدایات کے طور پر استعمال کرنے کے بارے میں بھی زیادہ محتاط رہنے کی ضرورت ہے، خاص طور پر جب ان ہدایات میں سافٹ ویئر ڈاؤن لوڈ کرنا یا اس پر عمل کرنا شامل ہو۔
جب تک مضبوط حفاظتی اقدامات متعارف نہیں کرائے جاتے، AI کوڈنگ ایجنٹس استعمال کرنے والی تنظیموں کو احتیاط سے غور کرنا چاہیے کہ وہ ان سسٹمز کو پیکجز انسٹال کرنے یا کمانڈز پر عمل کرنے کی کتنی اجازت دیتے ہیں۔
جہاں آپ چاہیں تازہ ترین ٹیک خبریں، ٹیلی کام کی بصیرتیں، اور پروڈکٹ لانچ حاصل کریں۔
ProPakistani کو ترجیحی ذرائع میں شامل کریں اور گوگل سرچ اور ٹاپ اسٹوریز میں ہماری مزید کہانیاں دیکھیں۔
ٹیکنالوجی اور آٹوموٹو ماہر جدید ترین کاروں، اسمارٹ فونز، AI کامیابیوں، اور...
شیئرز
