هن مهيني جي شروعات ۾، AI ڊيٽا سيٽ پليٽ فارم Hugging Face دنيا کي حيران ڪري ڇڏيو جڏهن اهو انڪشاف ڪيو ته اهو مڪمل طور تي خودمختار AI-طاقتور سائبر حملي جو شڪار ٿي ويو آهي. ڏينهن بعد، ڪهاڻي هڪ ٻيو ڊرامائي موڙ ورتو جڏهن OpenAI تسليم ڪيو ته ڀڃڪڙي جي پويان هيڪر ان جي AI ماڊل مان هڪ هو، جيڪو هڪ معيار کي ختم ڪرڻ جي ڪوشش ۾ ٽيسٽنگ ماحول ۽ محفوظ هگنگ منهن سسٽم ۾ ڀڄي ويو.
اهو هڪ خطرناڪ واقعو آهي هر ڪنهن لاءِ به ٿورو پريشان ڪندڙ روگ اي آئي ماڊلز - ۽ جڏهن کان اهو واقعو هڪ نئين سائبر سيڪيورٽي پيراڊم بابت اڳڪٿين سان ڀريل آهي جنهن ۾ اي آءِ ماڊل حملا شروع ڪن ٿا ايترو مضبوط ته صرف ٻيا اي آئي ماڊل انهن جي خلاف دفاع ڪري سگهن ٿا.
پر صحيح الارم جي باوجود، پيراڊائم شايد ايترو گهڻو نه ڦيرايو آهي جيترو اهو لڳي ٿو. ماهرن جيڪي ڳالهايو TechCrunch تي زور ڏنو ته OpenAI جو ايجنٽ گهڻو ڪري هڪ انسان وانگر ڪم ڪري ٿو - ڪجهه احتياط سان - ۽ انهي کي بهتر طور تي لاڳو ڪيل روايتي دفاعي ٽيڪنالاجي حملي کي روڪڻ ۾ مدد ڪري سگهي ٿي. مختصر ۾، اسان وٽ اڳ ۾ ئي اوزار موجود هوندا هن قسم جي حملي کان بچاءُ لاءِ؛ اسان صرف ان کي صحيح استعمال نه ڪري رهيا آهيون.
Hugging Face پنهنجي واقعي جي رپورٽ ۾ هن نقطي جو هڪ نسخو ٺاهيو، بيان ڪيو ته حملي ۾ استحصال ٿيل ڪمزورين "واقف هئا،" ۽ "هڪ قابل انساني حملي آور ساڳيون خاميون ڳولي ۽ استحصال ڪري سگهي ٿو."
ڪيلي ريان، پينسار ۾ آر اينڊ ڊي جو سربراهه، هڪ اسٽارٽ اپ جيڪو مسلسل هيڪنگ AI ايجنٽن کي ترقي ڪري ٿو، ۽ Vlad Ionescu، RunSybil جو گڏيل باني ۽ CTO، هڪ اسٽارٽ اپ جيڪو AI سان هلندڙ بگ هِنٽرز ٺاهي ٿو، ٻنهي اتفاق ڪيو ۽ TechCrunch کي ٻڌايو ته ٽيڪنالاجي ۾ استعمال ٿيندڙ ٽيڪنڪ هڪ ئي انساني ٽيم جي حملي يا انساني ٽيم جي ملازمن طرفان استعمال ڪئي ويندي. اهو آهي، هيڪرز هڪ سسٽم تي حملو ڪرڻ جو فرض ڪيو آهي ڪمپني جي مدد ڪرڻ لاء جيڪو ان جي حفاظت کي بهتر بڻائي ٿو.
جيڪا ڳالهه بلڪل غير انساني هئي، اها هئي حملي جي رفتار، ماپ ۽ بي صبري. جيئن Hugging Face وضاحت ڪئي، OpenAI جي ايجنٽ 17600 ڪارناما انجام ڏنو ساڍا چار ڏينهن ۾: ان کي ٽوڙيو، ڳولهيو، پاس ورڊ ۽ ڪوڊ چوري ڪيو، ۽ ڪمپني جي انفراسٽرڪچر جي چوڌاري منتقل ٿي ويو.
"ڇا متاثر ڪندڙ آهي خودمختياري ۽ برداشت،" ريان چيو. "اهڙي قسم جو پائيدار، موافقت وارو آپريشن اهو آهي جيڪو مون لاء سڀ کان وڌيڪ بيٺو آهي."
اسان سان رابطو ڪريو ڇا توھان کي وڌيڪ معلومات آھي OpenAI جي ھيڪ جي خلاف Hugging Face بابت؟ يا ٻيون AI-طاقتور سائبر حملا؟ اسان توهان کان ٻڌڻ پسند ڪنداسين. هڪ غير ڪم واري ڊوائيس ۽ نيٽ ورڪ کان، توهان Lorenzo Franceschi-Bicchierai سان محفوظ طور تي سگنل تي +1 917 257 1382 تي رابطو ڪري سگهو ٿا، يا ٽيليگرام ۽ ڪيبيس @lorenzofb، يا اي ميل ذريعي.
ٻئي طرف، ڪيترن ئي ڏينهن جي عرصي دوران ڪارناما جو سراسر تعداد ڏنو ويو، OpenAI جو ايجنٽ "بيحد شور" هو، جيئن ريان ان کي رکيو. هڪ انسان جي برعڪس، جيڪو چوري ٿي سگهي ٿو، ايجنٽ تمام گهڻو شور مچايو، جنهن کي جلد ئي Hugging Face جي دفاع کي ختم ڪرڻ گهرجي ها، مثالي طور تي انسان جي مداخلت ۽ حملي کي روڪڻ لاء.
"مان ان کي غير معمولي سٺي ڏوهن کان وڌيڪ دفاعي ناڪامي سڏيان ٿو. هنگنگ فيس جي ٽولنگ اصل ۾ سرگرمي کي حملي جي سگنل ۾ لاڳاپو ڪيو، پر تنقيد کي وڌائڻ ۾ ناڪام ٿيو ۽ آن ڪال ٽيم جو صفحو، جنهن ۾ انهن جو وقت خرچ ڪيو،" ريان وضاحت ڪئي. "اتي کان، انسانن کي اڃا تائين شدت کي سڃاڻڻ ۽ جواب ڏيڻو هو."
جيميسن او ريلي، سائبر سيڪيورٽي فرم ڊيولن جو باني، ساڳئي نتيجي تي پهتو هڪ پوسٽ ۾ ايڪس تي تجزيو ڪندي Hugging Face جي رپورٽ.
"اهو ڏسڻ ۽ روڪڻ جي وچ ۾ صحيح فرق آهي،" O'Reilly لکيو. "سسٽم حملي جو مشاهدو ڪيو ۽ ان کي به سمجهي ورتو، ۽ ڪجھ به نه سمجھيو ته ان کي جلدي مداخلت ۾ تبديل ڪيو."
ريان وضاحت ڪئي ته صحيح طريقي سان لاڳو ڪيل ٽيڪنڪ جهڙوڪ ڊفينس-ان-ڊيپٿ- هڪ حڪمت عملي جيڪا سائبر سيڪيورٽي قدمن جي ڪيترن ئي تہن کي فائدو ڏئي ٿي- کي گهرجي هاگنگ منهن کي حملي کي پڪڙڻ لاءِ ڪيترائي موقعا.
"هڪ مضبوط جديد سيڪيورٽي پروگرام اڃا به هن طرح جي حملي کي ٽوڙڻ جي قابل هجڻ گهرجي ڪيترن ئي نقطن تي دفاع جي کوٽائي ۾، گهٽ ۾ گهٽ استحقاق، ڀاڱيداري، سٺي سڃاڻپ، قابل اعتماد واڌارو، ۽ خلا کي ڳولڻ لاء مسلسل جارحتي جاچ،" ريان وضاحت ڪئي.
جيئن O'Reilly ان کي بيان ڪيو، "انهي مان ڪو به غير معمولي ناهي، ۽ ان مان ڪو به منحصر ناهي ته حملي ڪندڙ هڪ AI آهي،" ڏنو ويو آهي ته حملي ۾ استعمال ٿيل ٽيڪنالاجي "پراڻي" هئي. حملي آور تي ڇا انحصار ڪيو ويو AI، هڪ طريقي سان، اهو هو ته OpenAI جي ايجنٽ کي چوري ٿيڻ جي هدايت نه ڪئي وئي هئي. "ايجنٽ سست نه ٿي رهيو هو. ان کي صرف خاموش رهڻ جو ڪو سبب نه هو. ڪنهن به ان کي ٿيڻ لاءِ نه چيو. مقصد ڪم تي سٺو ڪرڻ هو ،" XBOW تي چيف انفارميشن سيڪيورٽي آفيسر نيڪو وائيسمن چيو ، هڪ شروعات آهي جيڪا AI بگ شڪارين کي ٺاهيندي آهي.
وائيسمان اهو پڻ اشارو ڪيو ته هگنگ منهن جي سڀ کان وڏي غلطي اها هئي ته هڪ واحد چوري ٿيل سند OpenAI جي ايجنٽ کي ان جي ڪيترن ئي سسٽم تي اعلي امتياز ڏني.
اهو سڀ ڪجهه چيو پيو وڃي، جيئن پراڻي چوڻي آهي، حملو ڪندڙن کي صرف هڪ ڀيرو کٽڻو پوندو آهي، ۽ ڪنهن به قسم جي هيڪرز جي خلاف دفاع ڪرڻ آسان ناهي.
”هنگنگ چهرو وڌيڪ دريافت ڪري سگهي ٿو پر منصفانه ٿيڻ لاءِ سڀ [تنظيم] اهو سٺو نه ڪري رهيا آهن ،“ SYON سيڪيورٽي جي مئنيجنگ ڊائريڪٽر ونسنٽ يويو چيو. "انفراسٽرڪچر جي ميزباني ڪرڻ ۽ 2026 ۾ هڪ ڪاروبار جي حيثيت سان زندهه رهڻ آسان ناهي. هر جڳهه هيڪرز آهن."
RunSybil کان ولاد جي مطابق، جن چيو آهي ته اهي ماضي ۾ مينڊيٽ ۽ ميٽا تي واقعن جا جواب ڪيا آهن، هگنگ منهن ظاهر ڪيو "مناسب قدم کڻڻ لاء انهن جي سمجهه ڏني وئي ته ماڊل ڪهڙي قابل آهن."
”اها درجي بندي ڪرڻ واقعي مشڪل آهي ته ڪهڙو بدسلوڪي عمل آهي جنهن تي توهان کي خبردار ڪرڻ گهرجي ، بمقابله ڪير آهي جيڪو صرف پنهنجو ڪم ڪري رهيو آهي ،“ ولاد چيو. "حجم اڪيلو ضروري ناهي ته هڪ لال پرچم آهي."
ڊين گائيڊو، سائبر سيڪيورٽي ريسرچ فرم ٽريل آف بٽس جي سي اي او، TechCrunch کي ٻڌايو ته OpenAI ڪجهه الزامن جو مستحق آهي ته اهو محسوس نه ڪيو ويو ته حملو ڪيترن ئي ڏينهن تائين جاري هو، جڏهن ته هگنگ منهن آخرڪار پنهنجي پاڻ تي حملي کي ڳولڻ لاء ڪريڊٽ جو مستحق آهي.
”سخت حصو هڪ نفيس حملي کي سڃاڻڻ لاءِ استعمال ڪيو ويندو هو، پر هاڻي اهو سخت حصو شايد حقيقي حملي کي ان شور مان ڪڍي رهيو آهي جيڪو حملي آور رستي ۾ اڇلائي ٿو،“ گائيڊو چيو. ”ڪو به هٿ سان 17000 تعمير ٿيل عملن کي پڙهڻ لاءِ وڃڻ وارو ناهي ته ڇا ٿيو آهي ، تنهن ڪري هگنگ فيس کي صرف ٽائم لائن کي ٻيهر ترتيب ڏيڻ لاءِ ٽولنگ ٺاهڻي هئي.
۽ اهو ڪرڻ لاء، ڪمپني کي پنهنجي AI جي ضرورت هئي. Hugging Face چيو ته ان کي چيني ڪمپني Z.ai کان اوپن سورس ماڊل GLM 5.2 استعمال ڪرڻو پيو ان کان پوءِ ان کي فرنٽيئر ماڊل استعمال ڪرڻ کان روڪيو ويو ڇاڪاڻ ته انهن جي حفاظت جي ڪري ، جيئن ڪمپني ان کي ٻڌايو ، “هڪ واقعي جي جوابدار کي حملي آور کان ڌار نٿو ڪري سگهي.”
ان موقعي تي، هگنگ منهن AI ۽ انسانن کي گڏ ڪيو OpenAI جي LLM-powered هيڪر جي تحقيق ڪرڻ لاء. اها هڪ نسبتا نئين صورتحال آهي. پر ان کان سواء، اهو واقعو ڏيکاري ٿو ته پراڻي فيشن تصورات ۽ دفاعي سائبر سيڪيورٽي جا طريقا اڃا تائين AI هيڪرز جي خلاف حفاظت ۽ جنگ ڪرڻ لاء هڪ ڊگهو رستو وٺي سگهن ٿا.
