اینتھروپک نے کہا ہے کہ اس کے کلاڈ اے آئی ماڈل نے ٹیسٹنگ کے دوران تین تنظیموں کے سسٹمز کو ہیک کر لیا تھا جو انہیں انٹرنیٹ سے الگ تھلگ رکھنا تھا۔

جُمِرات کو یہ اعلان حریف اوپن اے آئی کی جانب سے پہلی بار یہ انکشاف کرنے کے چند دن بعد سامنے آیا ہے کہ اس کے ماڈلز نے غلط طریقے سے انٹرنیٹ تک رسائی حاصل کی اور سیکیورٹی ٹیسٹنگ کے دوران بدمعاش ہو گئے۔

اینتھروپک نے کہا کہ غلط کنفیگریشن نے کلاڈ ماڈلز کو انٹرنیٹ تک پہنچنے کی اجازت دی۔ کمپنی نے کہا کہ اس نے یہ واقعات 141006 ٹیسٹ سیشنز کا جائزہ لینے کے بعد دریافت کیے ہیں۔

یہ جائزہ اوپن اے آئی کی جانب سے گزشتہ ہفتے اس انکشاف کے بعد شروع کیا گیا تھا کہ اس کے AI ماڈلز سے چلنے والا ایک خود مختار ایجنٹ سیکیورٹی ٹیسٹ کے دوران بدمعاش ہوا اور ایک اور AI کمپنی Hugging Face کے انفراسٹرکچر سے سمجھوتہ کیا۔

ان واقعات نے AI ایجنٹوں، سافٹ ویئر پروڈکٹس کے بارے میں خدشات کو بڑھا دیا ہے جو خود مختاری سے کام انجام دینے کے لیے بنائے گئے ہیں۔ OpenAI اور Anthropic دونوں نے اس سال اپنے سب سے طاقتور ماڈل جاری کیے ہیں، جنہیں بالترتیب Sol اور Mythos کہا جاتا ہے۔

اینتھروپک نے کہا کہ خلاف ورزیاں "کیپچر دی فلیگ" مشقوں کے دوران ہوئیں، جس میں ماڈلز کو نقلی نیٹ ورکس میں چھپی ہوئی معلومات تلاش کرنے کا کام سونپا جاتا ہے۔ اس کے اشارے نے ماڈلز کو بتایا کہ ان کے پاس انٹرنیٹ تک رسائی نہیں ہے، لیکن اس کے ایویلیویشن پارٹنر، غیر منظم کے ساتھ غلط فہمی نے عوامی انٹرنیٹ سے منسلک نظام کو چھوڑ دیا۔

کمپنی نے کہا کہ "کلاؤڈ نے بنیادی تکنیکوں کا استعمال کرتے ہوئے متاثرہ تنظیموں کے بنیادی ڈھانچے سے سمجھوتہ کیا، جیسے کمزور پاس ورڈز اور غیر تصدیق شدہ اینڈ پوائنٹس کا استحصال کرنا،" کمپنی نے کہا۔

اینتھروپک نے کہا کہ اس نے 23 جولائی کو تمام سائبر تشخیصات کو اس بات کے شواہد ملنے کے بعد معطل کر دیا کہ شاید کلاڈ نے انٹرنیٹ تک رسائی حاصل کی ہو۔ اس نے 24 جولائی تک تینوں واقعات کی نشاندہی کی اور 27 جولائی کو متاثرہ تنظیموں کو مطلع کیا۔

اس نے کہا کہ دو تنظیمیں رابطہ کرنے سے پہلے اس سرگرمی سے لاعلم تھیں، اس نے مزید کہا کہ وہ اب بھی تیسرے تک پہنچنے کی کوشش کر رہی ہے۔

OpenAI واقعے نے ایک پٹیشن کو جنم دیا، جس پر AI کمپنیوں کے 1000 سے زائد ملازمین نے دستخط کیے، جس میں ریاستہائے متحدہ کی حکومت سے مطالبہ کیا گیا کہ وہ جدید ترین AI ماڈلز کی ریلیز کو سست کرنے میں مدد کرے۔ انتھروپک کے سی ای او ڈاریو آمودی دستخط کنندگان میں شامل تھے۔

اوپن اے آئی کے سی ای او سیم آلٹ مین نے اس ہفتے کہا کہ کمپنی نے اپنی جانچ روک دی ہے جبکہ یہ اپنے سسٹمز کی تنہائی کے ارد گرد حفاظتی اقدامات کو بہتر بناتی ہے۔

اینتھروپک نے کہا کہ نتائج اندرونی اور تیسری پارٹی کے ٹیسٹنگ ماحول میں مضبوط کنٹرول کی ضرورت پر زور دیتے ہیں کیونکہ AI ماڈلز حقیقی دنیا کی سائبر سرگرمیاں انجام دینے کے قابل ہو جاتے ہیں۔