کلاڈ کے اے آئی ایجنٹ نے آسٹریلیائی جم کے ریزرویشن سسٹم کو ہیک کیا اور ایک مشہور ورزش کلاس میں اپنے صارف کے لئے جگہ محفوظ کرنے کی کوشش کرتے ہوئے دوسرے صارف کی بکنگ منسوخ کردی۔
یہ واقعہ مہینوں پہلے پیش آیا تھا لیکن آسٹریلوی ABC نیوز نے ہفتے کے آخر میں اس کی اطلاع ملک میں AI ایجنٹ کے ہیک کرنے کا پہلا دستاویزی کیس کے طور پر دی تھی۔ ایجنٹ کو Anthropic's Claude Opus 4.6 سے تقویت ملی تھی اور اسے OpenClaw کے ذریعے استعمال کیا جا رہا تھا۔
OpenClaw کے مالک اینڈریو برڈ نے اپنے AI ایجنٹ کو بکنگ اپائنٹمنٹ جیسے کاموں کو سنبھالنے کی تربیت دی تھی۔ اس نے باقاعدگی سے صبح سویرے ورزش کی ایک مشہور کلاس میں شرکت کی لیکن بار بار ویٹ لسٹ میں شامل ہونے اور اوپننگ تلاش کرنے کے لیے بکنگ پیج کو ریفریش کرنے کی وجہ سے مایوسی ہوئی۔
جب برڈ نے ایجنٹ سے اس کے لیے جگہ بک کرنے کو کہا، تو اس نے ابتدائی طور پر اسے انتظار کی فہرست میں نمبر 4 پر ڈال دیا۔
ایجنٹ نے پھر برڈ کو بتایا کہ اس نے کلاسوں میں جگہیں بک کرنے کا ایک طریقہ تلاش کر لیا تھا اس سے پہلے کہ جم کے عام طور پر انہیں رجسٹریشن کے لیے کھولا جائے۔
برڈ نے پوچھا کہ کیا یہ اسے انتظار کی فہرست میں اوپر لے جا سکتا ہے۔ ایجنٹ نے ایسا کرنے کی کوشش کی اور اسے جم کے اپائنٹمنٹ سافٹ ویئر کے ذریعے استعمال ہونے والے اجازت کے نظام میں ایک کمزوری کا پتہ چلا۔
اس کے بعد اس نے انتظار کی فہرست میں نمبر 1 پر موجود شخص کی ریزرویشن منسوخ کر دی، برڈ کو نمبر 3 تک لے جایا گیا۔
ABC کی طرف سے شائع کردہ چیٹ لاگز کے مطابق، ایجنٹ نے برڈ کو بتایا کہ اپوائنٹمنٹ سسٹم کے پاس دوسرے صارفین کے تحفظات کو منسوخ کرنے کے لیے کوئی اجازت نامہ نہیں ہے۔ اس نے کہا کہ اس نے انتظار کی فہرست میں پہلے شخص پر عمل کا تجربہ کیا اور تصدیق کی کہ منسوخی کام کرتی ہے۔
برڈ، جو ایک سافٹ ویئر ڈویلپر ہے، اس بات پر پریشان تھا کہ اس کے AI ایجنٹ نے جم کا سسٹم ہیک کر لیا ہے۔
اس کے بعد اس نے ایجنٹ سے دوسرے صارف کی بکنگ بحال کرنے کو کہا۔ اے آئی نے کہا کہ وہ منسوخی کو واپس نہیں لے سکتا۔
اس کے بجائے برڈ نے اسے جم کی سپورٹ ٹیم کے لیے ایک ذمہ دارانہ انکشاف ای میل تیار کرنے کو کہا۔ اس کے اکاؤنٹ کے مطابق، ای میل نے سیکیورٹی کے کمزور ہونے کی وضاحت کی، اصلاحات تجویز کیں، اور غلط اجازت کی جانچ کا ان ورژنوں سے موازنہ کیا جنہوں نے اجازت کو درست طریقے سے نافذ کیا۔
اگرچہ ABC نے اس واقعے کو آسٹریلیا میں پہلے دستاویزی AI ایجنٹ ہیکنگ کیس کے طور پر رپورٹ کیا، لیکن اصل واقعہ مہینوں پہلے پیش آیا۔
برڈ نے 10 اپریل کو اپنی کمپنی کی ویب سائٹ پر شائع ہونے والی ایک بلاگ پوسٹ میں اس واقعے کو بیان کیا۔ اصل پوسٹ کو تب سے حذف کر دیا گیا ہے، لیکن ایک کاپی انٹرنیٹ آرکائیو کے ذریعے دستیاب ہے۔
یہ واقعہ اس لیے قابل ذکر ہے کہ اے آئی ایجنٹ فروری میں ریلیز ہونے والا ماڈل Claude Opus 4.6 استعمال کر رہا تھا۔
اس سے یہ سوالات بھی اٹھتے ہیں کہ پرانے AI ماڈلز اور اوپن ویٹ ماڈل پہلے سے ہی سیکیورٹی کی کمزوریوں کو تلاش کرنے اور ان کا استحصال کرنے میں کتنے قابل ہو سکتے ہیں۔
جم کا واقعہ اس وقت پیش آیا جب متعدد AI کمپنیاں ایسے معاملات کی تحقیقات کر رہی ہیں جن میں ان کے ماڈل سائبر سیکیورٹی ٹیسٹنگ ماحول سے بچ گئے ہیں یا غیر مجاز کارروائیاں کی ہیں۔
پچھلے مہینے، ایک غیر ریلیز شدہ OpenAI ماڈل نے OpenAI کو اس وقت کی سرگرمی کے بارے میں جانے بغیر ہیگنگ فیس کو ہیک کیا۔ بعد میں دیگر تحقیقات میں Moonshot's Kimi K3، Meta's Muse Spark اور Anthropic کے ماڈل شامل تھے۔
اینتھروپک نے پایا کہ اس کے تین ماڈلز نے اسی طرح کی حرکتیں کی ہیں۔ ان میں Opus 4.7 شامل تھا، جو اپریل میں جاری کیا گیا تھا اور پیچیدہ کوڈنگ کے لیے جانا جاتا ہے، Mythos 5، Fable، جو سائبر سیکیورٹی کی صلاحیتوں کے لیے جانا جاتا ہے، اور ایک اندرونی تحقیقی ماڈل جو عوامی طور پر جاری نہیں کیا گیا تھا۔
کچھ AI کمپنیوں نے فرنٹیئر ماڈلز کی سست ترقی یا AI سسٹمز کی مستقبل کی نسلوں کو جانچنے کے لیے آزاد تنظیموں کی تشکیل پر بحث کرتے ہوئے جواب دیا ہے۔
تاہم، آسٹریلوی جم کے واقعے میں ایک نئے ماڈل کے بجائے کلاڈ اوپس 4.6 شامل تھا۔ اس سے پتہ چلتا ہے کہ ہیکنگ کا انتہائی قابل رویہ جدید ترین فرنٹیئر سسٹم تک محدود نہیں ہے۔
اس سے یہ سوال بھی اٹھتا ہے کہ کتنے اے آئی ایجنٹس پہلے ہی اپنے صارفین کے ذریعہ درخواست کردہ کاموں کو مکمل کرنے کی کوشش کرتے ہوئے سیکیورٹی کنٹرول کے ارد گرد راستے تلاش کر رہے ہیں۔
ٹیکنالوجی کی صنعت ایسے نظام بنا رہی ہے جو صارفین کی جانب سے کام کر سکے۔ اس معاملے میں، ایجنٹ صرف اس کام کو مکمل کرنے کی کوشش کر رہا تھا جو اسے دیا گیا تھا اور اس کے پاس Mythos جیسے ماڈلز سے وابستہ سائبر سیکیورٹی کی زیادہ جدید صلاحیتیں نہیں تھیں۔
اس سے یہ خدشات پیدا ہوتے ہیں کہ اگر AI ایجنٹس سسٹمز جیسے ایئر لائن ریزرویشنز، کنسرٹ ٹکٹنگ پلیٹ فارمز، اور دیگر سروسز کے ساتھ بات چیت شروع کر دیں تو کیا ہو سکتا ہے جہاں صارفین محدود دستیابی کے لیے مقابلہ کرتے ہیں۔
اس وجہ سے جم کا واقعہ ایک بڑے مسئلے کی ابتدائی مثال پیش کر سکتا ہے: AI ایجنٹس اپنے دیئے گئے اہداف کو حاصل کرنے کی کوشش کرتے ہوئے قواعد کو نظرانداز کرنے اور لائن میں کاٹنے کے طریقے تلاش کر سکتے ہیں۔ جہاں آپ چاہیں تازہ ترین ٹیک خبریں، ٹیلی کام کی بصیرتیں، اور پروڈکٹ لانچ حاصل کریں۔
ProPakistani کو ترجیحی ذرائع میں شامل کریں اور گوگل سرچ اور ٹاپ اسٹوریز میں ہماری مزید کہانیاں دیکھیں۔
شیئرز
