اس مہینے کے شروع میں، AI ڈیٹاسیٹ پلیٹ فارم Hugging Face نے دنیا کو حیران کر دیا جب اس نے انکشاف کیا کہ وہ مکمل طور پر خود مختار AI سے چلنے والے سائبر اٹیک کا شکار ہو گیا ہے۔ کچھ دن بعد، کہانی نے ایک اور ڈرامائی موڑ لیا جب OpenAI نے اعتراف کیا کہ خلاف ورزی کے پیچھے ہیکر اس کے AI ماڈلز میں سے ایک تھا، جو ٹیسٹنگ ماحول سے باہر نکلا اور ایک بینچ مارک کو روکنے کی کوشش میں محفوظ Hugging Face سسٹم میں داخل ہوا۔
بدمعاش AI ماڈلز کے بارے میں قدرے بھی فکر مند ہر کسی کے لیے یہ ایک تشویشناک واقعہ ہے - اور اس واقعے کے بعد کے دنوں سے سائبر سیکیورٹی کے ایک نئے نمونے کے بارے میں پیشین گوئیوں سے بھرا پڑا ہے جس میں AI ماڈلز اتنے مضبوط حملے کرتے ہیں کہ صرف دوسرے AI ماڈلز ان کے خلاف دفاع کر سکتے ہیں۔
لیکن جائز الارم کے باوجود، تمثیل اتنی زیادہ نہیں بدلی ہوگی جیسا کہ لگتا ہے۔ ماہرین جنہوں نے TechCrunch سے بات کی، اس بات پر زور دیا کہ OpenAI کا ایجنٹ بڑی حد تک ایک انسان کی طرح کام کرتا ہے - کچھ انتباہات کے ساتھ - اور روایتی دفاعی تکنیکوں کو بہتر طریقے سے نافذ کرنے سے حملے کو روکنے میں مدد مل سکتی تھی۔ مختصراً، ہمارے پاس اس قسم کے حملے کے خلاف دفاع کے لیے پہلے سے ہی آلات موجود ہو سکتے ہیں۔ ہم صرف ان کا صحیح استعمال نہیں کر رہے ہیں۔
Hugging Face نے اپنی واقعہ کی رپورٹ میں اس نکتے کا ایک ورژن بنایا، جس میں کہا گیا کہ حملے میں جن کمزوریوں کا فائدہ اٹھایا گیا وہ "جان پہچان" تھیں، اور "ایک قابل انسانی حملہ آور بھی انہی خامیوں کو تلاش کر سکتا تھا اور اس کا فائدہ اٹھا سکتا تھا۔"
پینسار میں R&D کے سربراہ کائل ریان، ایک سٹارٹ اپ جو مسلسل ہیکنگ AI ایجنٹوں کو تیار کرتا ہے، اور RunSybil کے شریک بانی اور CTO، ایک سٹارٹ اپ جو AI سے چلنے والے بگ ہنٹر بناتا ہے، دونوں نے اس بات پر اتفاق کیا اور TechCrunch کو بتایا کہ کسی ایک انسانی گروپ کی طرف سے استعمال کی جانے والی تکنیکیں یا کسی ایک انسانی گروپ کی طرف سے استعمال کی جانے والی تکنیک ایک جیسی ہو گی۔ یعنی، ہیکرز کو ایک سسٹم پر حملہ کرنے کا کام سونپا گیا ہے تاکہ اس کمپنی کی مدد کی جا سکے جو اس کی مالک ہے دفاع کو بہتر بناتی ہے۔
جو چیز انتہائی غیر انسانی تھی وہ حملے کی رفتار، پیمانہ اور انتھک تھی۔ جیسا کہ Hugging Face نے وضاحت کی، OpenAI کے ایجنٹ نے ساڑھے چار دنوں میں 17600 کارروائیاں کیں: اس نے توڑ پھوڑ کی، جاسوسی کی، پاس ورڈز اور کوڈ چرائے، اور کمپنی کے بنیادی ڈھانچے کے ارد گرد گھومے۔
ریان نے کہا، "جو چیز متاثر کن ہے وہ خود مختاری اور برداشت ہے۔ "اس قسم کا پائیدار، انکولی آپریشن وہی ہے جو میرے لیے سب سے نمایاں ہے۔"
ہم سے رابطہ کریں کیا آپ کو گلے لگانے والے چہرے کے خلاف OpenAI کے ہیک کے بارے میں مزید معلومات ہیں؟ یا AI سے چلنے والے دوسرے سائبر حملے؟ ہم آپ سے سننا پسند کریں گے۔ غیر کام کے آلے اور نیٹ ورک سے، آپ Lorenzo Franceschi-Bicchierai سے محفوظ طریقے سے سگنل پر +1 917 257 1382 پر، یا ٹیلیگرام اور Keybase @lorenzofb، یا ای میل کے ذریعے رابطہ کر سکتے ہیں۔
دوسری طرف، کئی دنوں کے دوران ہونے والی کارروائیوں کی سراسر تعداد کو دیکھتے ہوئے، OpenAI کا ایجنٹ "بے حد شور مچانے والا" تھا جیسا کہ ریان نے کہا۔ ایک انسان کے برعکس، جو زیادہ چپکے سے ہو سکتا تھا، ایجنٹ نے بہت شور مچایا، جس سے جلد ہی Hugging Face کے دفاع کو ختم کر دینا چاہیے تھا، جو مثالی طور پر انسان کی مداخلت اور حملے کو روکنے کا باعث بنتا ہے۔
"میں اسے غیر معمولی طور پر اچھے جرم سے زیادہ دفاعی ناکامی کہوں گا۔ ہگنگ فیس کے ٹولنگ نے حقیقت میں سرگرمی کو حملے کے سگنل میں جوڑ دیا، لیکن تنقید کو بڑھانے اور آن کال ٹیم کو صفحہ بنانے میں ناکام رہا، جس کی وجہ سے ان کا وقت ضائع ہوا۔" ریان نے وضاحت کی۔ "وہاں سے، انسانوں کو اب بھی شدت کو پہچاننا تھا اور جواب دینا تھا۔"
جیمیسن او ریلی، سائبر سیکیورٹی فرم ڈوولن کے بانی، X پر ایک پوسٹ میں ہیگنگ فیس کی رپورٹ کا تجزیہ کرتے ہوئے اسی نتیجے پر پہنچے۔
"دیکھنے اور رکنے کے درمیان یہی فرق ہے،" او ریلی نے لکھا۔ "نظام نے حملے کا مشاہدہ کیا اور اسے سمجھ بھی لیا، اور کسی بھی چیز نے اس تفہیم کو فوری طور پر مداخلت میں تبدیل نہیں کیا۔"
ریان نے وضاحت کی کہ مناسب طریقے سے لاگو کی جانے والی تکنیک جیسے ڈیفنس ان ڈیپتھ - ایک حکمت عملی جو سائبرسیکیوریٹی اقدامات کی کئی پرتوں کا فائدہ اٹھاتی ہے - کو ہگنگ فیس کو حملے کو پکڑنے کے متعدد مواقع ملنا چاہیے تھے۔
ریان نے وضاحت کرتے ہوئے کہا کہ "ایک مضبوط جدید سیکورٹی پروگرام اب بھی اس طرح کے حملے کو گہرائی میں دفاع، کم از کم استحقاق، تقسیم، اچھی شناخت، قابل اعتماد اضافہ، اور خلا کو تلاش کرنے کے لیے مسلسل جارحانہ جانچ کے ذریعے اس طرح کے حملے کو توڑ سکتا ہے۔"
جیسا کہ O'Reilly نے کہا، "اس میں سے کوئی بھی غیر ملکی نہیں ہے، اور اس میں سے کوئی بھی حملہ آور کے AI ہونے پر منحصر نہیں ہے،" یہ دیکھتے ہوئے کہ حملے میں استعمال ہونے والی تکنیک "پرانی" تھی۔ جس چیز کا انحصار حملہ آور کے AI ہونے پر تھا، ایک طرح سے، یہ تھا کہ OpenAI کے ایجنٹ کو خفیہ رہنے کی ہدایت نہیں کی گئی تھی۔ "ایجنٹ میلا نہیں تھا۔ اس کے پاس خاموش رہنے کی کوئی وجہ نہیں تھی۔ کسی نے اسے ہونے کو نہیں کہا۔ مقصد کام کو اچھی طرح سے کرنا تھا،" XBOW کے چیف انفارمیشن سیکیورٹی آفیسر نیکو ویسمین نے کہا، ایک اسٹارٹ اپ جو AI بگ ہنٹر بناتا ہے۔
Waisman نے یہ بھی نشاندہی کی کہ Hugging Face کی سب سے بڑی غلطی یہ تھی کہ ایک ہی چوری شدہ سند نے OpenAI کے ایجنٹ کو اس کے کئی سسٹمز پر اعلیٰ مراعات فراہم کیں۔
یہ سب کچھ کہا جا رہا ہے، جیسا کہ پرانی کہاوت ہے، حملہ آوروں کو صرف ایک بار جیتنا ہے، اور کسی بھی قسم کے ہیکرز کے خلاف دفاع کرنا آسان نہیں ہے۔
SYON سیکیورٹی کے منیجنگ ڈائریکٹر ونسنٹ ییو نے کہا کہ "گلے لگانے والے چہرے سے مزید پتہ چل سکتا تھا لیکن منصفانہ طور پر تمام [تنظیمیں] اتنا اچھا کام نہیں کر رہی ہیں۔" "2026 میں بنیادی ڈھانچے کی میزبانی کرنا اور کاروبار کے طور پر زندہ رہنا آسان نہیں ہے۔ ہر جگہ ہیکرز موجود ہیں۔"
RunSybil سے ولاد کے مطابق، جنہوں نے کہا کہ انہوں نے ماضی میں Mandiant اور Meta پر واقعے کے ردعمل کیے ہیں، Hugging Face "ان کی سمجھ کے پیش نظر مناسب اقدامات اٹھائے کہ ماڈل کس قابل ہیں۔"
ولاد نے کہا، "یہ درجہ بندی کرنا واقعی مشکل ہے کہ ایک بدنیتی پر مبنی عمل کیا ہے جس کے بارے میں آپ کو متنبہ کرنا چاہیے، اس کے مقابلے میں کوئی شخص صرف اپنا کام کر رہا ہے۔" "صرف حجم ضروری نہیں کہ سرخ پرچم ہو۔"
سائبرسیکیوریٹی ریسرچ فرم ٹریل آف بٹس کے سی ای او ڈین گائیڈو نے ٹیک کرنچ کو بتایا کہ اوپن اے آئی کچھ الزام کا مستحق ہے کہ وہ اس بات کا ادراک نہیں کرسکا کہ یہ حملہ کئی دنوں سے جاری تھا، جب کہ ہیگنگ فیس آخرکار اس حملے کا خود ہی پتہ لگانے کے لیے کریڈٹ کا مستحق ہے۔
گائیڈو نے کہا کہ "مشکل حصہ ایک نفیس حملے کو پہچانتا تھا، لیکن اب مشکل حصہ اصل حملے کو اس شور سے نکال رہا ہے جو حملہ آور راستے میں پھینکتا ہے،" گائیڈو نے کہا۔ "کوئی بھی 17000 دوبارہ تعمیر شدہ اعمال کو ہاتھ سے نہیں پڑھ رہا ہے کہ کیا ہوا ہے، اس لیے ہگنگ فیس کو صرف ٹائم لائن کی تشکیل نو کے لیے ٹولنگ بنانا پڑی۔"
اور ایسا کرنے کے لیے، کمپنی کو اپنے AI کی ضرورت تھی۔ Hugging Face نے کہا کہ اسے چینی کمپنی Z.ai کا اوپن سورس ماڈل GLM 5.2 استعمال کرنا پڑا کیونکہ اسے فرنٹیئر ماڈلز کو ان کے حفاظتی اقدامات کی وجہ سے استعمال کرنے سے روک دیا گیا تھا، جیسا کہ کمپنی نے کہا، "کسی واقعے کے جواب دہندہ کو حملہ آور سے ممتاز نہیں کیا جا سکتا۔"
اس وقت، Hugging Face نے AI اور انسانوں کو ملا کر OpenAI کے LLM سے چلنے والے ہیکر کی تحقیقات کی۔ یہ نسبتاً نئی صورتحال ہے۔ لیکن اس سے آگے، یہ واقعہ ظاہر کرتا ہے کہ پرانے زمانے کے تصورات اور دفاعی سائبرسیکیوریٹی کے طریقے اب بھی AI ہیکرز کے خلاف تحفظ اور ان سے لڑنے کے لیے بہت آگے جا سکتے ہیں۔
