اینتھروپک نے انکشاف کیا ہے کہ اس کے تین کلاڈ اے آئی ماڈلز نے سائبرسیکیوریٹی ٹیسٹنگ کے دوران تین حقیقی کمپنیوں کے سسٹمز تک غیر مجاز رسائی حاصل کی جب کنفیگریشن کی خرابی کی وجہ سے ماڈلز پبلک انٹرنیٹ سے منسلک رہ گئے۔

کمپنی نے ان واقعات کو اوپن اے آئی کے حالیہ انکشاف کے بعد 141006 تشخیصی سیشنز کا جائزہ لینے کے بعد دریافت کیا کہ اس کے اپنے AI ماڈلز نے علیحدہ سیکیورٹی ٹیسٹ کے دوران ہیگنگ فیس سے سمجھوتہ کیا۔ انتھروپک نے اپنے واقعات کو "آپریشنل ناکامی" کے طور پر بیان کیا۔

یہ واقعات "کیپچر دی فلیگ" مشقوں کے دوران پیش آئے جو کلاڈ کی سائبرسیکیوریٹی صلاحیتوں کو جانچنے کے لیے استعمال کی گئیں۔ ماڈلز کو ہدایت کی گئی تھی کہ وہ نقلی نیٹ ورکس کے اندر چھپی ہوئی معلومات تلاش کریں۔

Anthropic's prompts نے واضح طور پر Claude کو بتایا کہ اس کے پاس انٹرنیٹ تک رسائی نہیں ہے۔ تاہم، اینتھروپک اور تھرڈ پارٹی ایویلیویشن پارٹنر کے درمیان غلط فہمی نے کچھ ٹیسٹنگ ماحول کو عوامی انٹرنیٹ سے منسلک کر دیا۔

اس نے کلاڈ کو نقلی نظاموں سے باہر حقیقی نظام تک پہنچنے کی اجازت دی۔

اینتھروپک نے کہا کہ ماڈلز نسبتاً بنیادی طریقے استعمال کرتے ہیں، بشمول کمزور پاس ورڈز اور خدمات کا فائدہ اٹھانا جن میں تصدیق کی کمی تھی۔ متاثرہ کمپنیوں کے نام نہیں بتائے گئے۔

ان واقعات میں Claude Opus 4.7، Claude Mythos 5، اور ایک اندرونی تحقیقی ماڈل شامل تھا۔ ابتدائی کیس اپریل کا ہے۔

ایک واقعہ میں، Opus 4.7 کو ایک فرضی کمپنی کو اس کا ہدف مقرر کیا گیا تھا۔ ایک حقیقی کمپنی نے اسی نام کا اشتراک کیا، اور کلاڈ کو ایسی کمزوریاں ملی جس کی وجہ سے اسے اس کاروبار سے تعلق رکھنے والے اسناد اور ڈیٹا بیس تک رسائی حاصل ہوئی۔

اینتھروپک نے کہا کہ ماڈل نے حقیقی دنیا کے نظاموں کی ترجمانی مصنوعی ماحول کے حصے کے طور پر کی جس پر حملہ کرنے کے لیے کہا گیا تھا۔

ایک اور معاملے میں، اندرونی تحقیقی ماڈل نے یہ تسلیم کرنے کے بعد اپنے حملے کو روک دیا کہ یہ ایک حقیقی نظام تک پہنچ گیا ہے۔ اینتھروپک نے کہا کہ یہ سلوک حوصلہ افزا تھا لیکن خبردار کیا کہ نتیجہ اخذ کرنے سے پہلے مزید جانچ کی ضرورت ہوگی۔

اینتھروپک نے 23 جولائی کو تشخیصی ریکارڈز کا جائزہ لینا شروع کیا اور اس دن اپنی سائبرسیکیوریٹی تشخیص کو معطل کردیا۔

اس نے 24 جولائی تک تین واقعات کی نشاندہی کی اور 27 جولائی کو متاثرہ تنظیموں کو مطلع کیا۔ دو کمپنیاں انتھروپک کے رابطہ کرنے سے پہلے اس سرگرمی سے لاعلم تھیں، جب کہ کمپنی نے کہا کہ وہ اب بھی تیسرے تک پہنچنے کی کوشش کر رہی ہے۔ بے قاعدہ واقعات کی تحقیقات بھی کر رہے ہیں۔

یہ انکشاف اوپن اے آئی کی جانب سے ایک الگ واقعے کے انکشاف کے چند دن بعد سامنے آیا ہے جس میں اس کے ماڈلز الگ تھلگ ٹیسٹنگ ماحول سے بچ گئے اور بالآخر ہیگنگ فیس انفراسٹرکچر سے سمجھوتہ کیا۔

اوپن اے آئی کیس کے برعکس، جہاں ماڈلز نے انٹرنیٹ تک رسائی حاصل کرنے کے لیے پہلے سے نامعلوم خطرے کا فائدہ اٹھایا، اینتھروپک نے کہا کہ اس کے ماڈل انٹرنیٹ تک پہنچنے کے قابل تھے کیونکہ تشخیصی ماحول کو غلط کنفیگر کیا گیا تھا۔

اینتھروپک نے کہا کہ واقعات یہ ظاہر کرتے ہیں کہ اندرونی اور فریق ثالث دونوں تشخیصی ماحول میں مضبوط حفاظتی اقدامات کی ضرورت ہے کیونکہ AI ماڈلز حقیقی دنیا کی سائبر کارروائیوں کو انجام دینے کے قابل ہو جاتے ہیں۔

جہاں آپ چاہیں تازہ ترین ٹیک خبریں، ٹیلی کام کی بصیرتیں، اور پروڈکٹ لانچ حاصل کریں۔

ProPakistani کو ترجیحی ذرائع میں شامل کریں اور گوگل سرچ اور ٹاپ اسٹوریز میں ہماری مزید کہانیاں دیکھیں۔

ٹیکنالوجی اور آٹوموٹو ماہر جدید ترین کاروں، اسمارٹ فونز، AI پیش رفتوں، اور...

شیئرز