انٿروپڪ خميس تي چيو ته هن جا ڪجهه ڪلاڊ اي آئي ماڊل سائبر سيڪيورٽي ٽيسٽ دوران ٽن ڪمپنين جي سسٽم ۾ هيڪ ڪيا هئا، هڪ انڪشاف جيڪو ڪجهه ڏينهن بعد اچي ٿو حریف OpenAI انڪشاف ڪيو ته ان جي AI ايجنٽن مان هڪ هڪ بدمعاش حملي تي ويو.
نوان واقعا هڪ غلطيءَ جي ڪري ٿيا جنهن نادانستگي سان انٿروپڪ جي ماڊلز کي کليل انٽرنيٽ تائين رسائي ڏني. اهو OpenAI سان تضاد رکي ٿو، جنهن جي AI ايجنٽ آزاديءَ سان سائبر ٽيسٽ دوران انٽرنيٽ تائين پهچڻ لاءِ هڪ نئين ڪمزوريءَ جو استحصال ڪيو.
ان جي باوجود، تازو ظاهر ڪيو ويو آهي ته ڪيئن AI سائبر سيڪيورٽي لاء خطرن کي وڌايو آهي ۽ ڪيئن ان جي ڊولپرز پنهنجي ماڊل جي صلاحيتن کي برقرار رکڻ لاء جدوجهد ڪري سگهن ٿا.
اهو ممڪن آهي ته ايندھن کي شامل ڪرڻ لاءِ تيز رفتار آمريڪي حڪومت جي زور تي اي آءِ سيڪيورٽي خطرن کي بهتر انتظام ڪرڻ لاءِ هڪ وقت تي جڏهن انٿروپڪ ۽ اوپن اي آئي پنهنجي منصوبابندي ڪيل عوامي لسٽن کان اڳ وڌيڪ قابل سسٽم جاري ڪرڻ لاءِ ڊوڙي رهيا آهن. انهن ليبز ۾ ممتاز اڳواڻن اڳ ۾ خطرن کي منهن ڏيڻ لاءِ سست رفتاري جو مطالبو ڪيو آهي.
سان فرانسسڪو جي بنياد تي اينٿروپڪ هڪ بلاگ پوسٽ ۾ چيو ته هن واقعن جي نشاندهي ڪئي 141006 ٽيسٽ سيشنن جو جائزو وٺڻ کان پوءِ، هڪ عمل جيڪو اهو شروع ڪيو ويو اوپن اي آءِ کان پوءِ گذريل هفتي چيو ته هڪ خودمختيار ايجنٽ ان جي AI ماڊلز سان هلندڙ هڪ هيڪ کي متحرڪ ڪيو جنهن شروعاتي هگنگ Face جي انفراسٽرڪچر کي سمجھوتو ڪيو.
سائبر ٽيسٽ دوران، Anthropic جي ڪلاڊ ماڊلز کي ٻڌايو ويو ته انهن وٽ انٽرنيٽ جي رسائي نه هئي، پر هڪ غلط فهمي جنهن ۾ شامل آهي انٿروپڪ جي تشخيصي ڀائيوارن مان هڪ عوامي ويب سان ڳنڍيل سسٽم کي ڇڏي ڏنو. انهي کي فعال ڪيو غير مجاز رسائي ٽن تنظيمن جي سسٽم تائين، اينٿروپڪ چيو تنظيمن جو نالو ڏيڻ کان سواء.
"ڪلاڊ متاثر ٿيل تنظيمن جي بنيادي ڍانچي کي بنيادي ٽيڪنالاجي استعمال ڪندي سمجھوتو ڪيو، جهڙوڪ ڪمزور پاسورڊ ۽ غير تصديق ٿيل آخري پوائنٽ جو استحصال،" اينٿروپڪ چيو.
جيفري ليڊيش، ايگزيڪيوٽو ڊائريڪٽر پالسيڊ ريسرچ، جيڪو AI سسٽم جي جارحتي صلاحيتن جو مطالعو ڪري ٿو، چيو ته هن کي شڪ آهي ته اعليٰ AI ڪمپنين جي هڪ رينج ٻين واقعن جو تجربو ڪيو آهي جيڪي اڻڄاتل ٿي ويا آهن يا عوامي طور تي ظاهر نه ڪيا ويا آهن.
"اهو صرف خراب ٿيڻ وارو آهي جيئن ماڊل هوشيار ٿي ويندا آهن. اهي ٺڳيءَ ۾ بهتر ٿيڻ وارا آهن. اهي ڪوڙ ڳالهائڻ ۾ بهتر هوندا ،" هن چيو.
اينٿروپيڪ چيو ته واقعا - جن کي "آپريشنل ناڪامي" جو ليبل ڪيو ويو آهي - ٽي الڳ ماڊل شامل آهن: ڪلاڊ اوپس 4.7، ڪلواڊ ميٿس 5 ۽ هڪ اندروني ريسرچ ٽيسٽ ماڊل. ابتدائي ڪيس اپريل ۾ واپس آيا ۽ تشخيص واري ماحول ۾ واقع ٿيا جن ۾ ارادي طور تي حفاظتي انتظامن جي کوٽ هئي ان ڪري انٿروپڪ اهو اندازو لڳائي سگهي ٿو ته ان جي AI ڪهڙي قابل هئي.
ان جي ماڊلز کي نام نهاد ”ڪيپچر-دي-پرچم“ چيلينجز، افسانوي منظرنامي سان ڪم ڪيو ويو جنهن ۾ انهن کي سمايل نيٽ ورڪن ۾ لڪيل معلومات ڳولڻي هئي.
ھڪڙي واقعي ۾، Claude Opus 4.7 ھڪڙي افسانوي ھدف واري ڪمپني کي ڏنو ويو، جيڪو ھڪڙي ڪاروبار جو نالو حقيقي دنيا ۾ حصيداري ڪرڻ لاء نڪتو. AI ماڊل پوءِ ڳوليا ۽ غلط استعمال ڪيا جيڪي ان کي رسائي ڏين ٿا سندون ۽ انهي ڪاروبار جي ڊيٽابيس تائين. Opus 4.7 منطقي طور تي ظاهر ڪيو ته جيڪو حقيقي دنيا سان واسطو رکي ٿو اهو لازمي طور تي انٿروپڪ ترتيب ڏنل تخليق جو حصو هوندو، AI شروعاتي چيو.
هڪ الڳ واقعو شامل آهي انٿروپڪ جو نئون، غير عوامي ٽيسٽ ماڊل، جنهن آزاديءَ سان ان جي حملي کي روڪيو ان کان پوءِ جو مقصد حاصل ڪيو اهو حقيقي هو. هن رويي انٿروپڪ کي محتاط طور تي پراميد بڻائي ڇڏيو آهي ان جي ترقي بابت AI مناسب طريقي سان عمل ڪرڻ لاءِ ، ”پر اسان کي هن نتيجي تي اعتماد ڪرڻ لاءِ وڌيڪ جاچ ڪرڻ جي ضرورت پوندي ،“ اهو چيو.
Anthropic چيو ته هن 23 جولاءِ تي سڀني سائبر اڀياس کي معطل ڪيو. هن 27 جولاءِ تي متاثر تنظيمن کي اطلاع ڏنو، جن مان ٻه رابطي کان اڳ سرگرمي کان بي خبر هئا. انٿروپڪ چيو ته اهو ٽين ڪمپني تائين پهچڻ جاري آهي.
ان جي ٽئين پارٽي جي تشخيصي ڀائيوارن مان هڪ، هڪ سائبر سيڪيورٽي ليب جنهن کي Irregular سڏيو ويندو آهي، رائٽرز کي ٻڌايو ته ان جي واقعن جي تحقيقات جاري آهي.
اينٿروپڪ چيو ته واقعا اندروني ۽ ٽئين پارٽي جي جاچ واري ماحول ۾ مضبوط ڪنٽرول جي ضرورت کي اجاگر ڪن ٿا جيئن ته AI ماڊل حقيقي دنيا جي سائبر سرگرمين کي انجام ڏيڻ جي قابل ٿي ويندا آهن.
ايلون مسڪ، اسپيس ايڪس جو سي اي او، جيڪو هڪ مقابلي واري اي آئي ليب کي هلائي ٿو، ايڪس تي خبرن جو جواب ڏيندي چيو ته "اهو اڪثر ٿيندو جيئن AI وڌيڪ هوشيار ۽ وڌيڪ ايجنٽ بڻجي ويندو،" ڪمپيوٽر پروگرامن يا "ايجنٽ" جو حوالو ڏنو ويو آهي جيڪي محدود انساني مداخلت سان ڪم ڪن ٿا. OpenAI ايجنٽ جيڪو ٽوڙيو ويو Hugging Face، هڪ پليٽ فارم جيڪو ڊولپرز پاران AI ماڊلز جي ميزباني ۽ تعاون ڪرڻ لاءِ استعمال ڪيو ويو، ڪيترن ئي ڏينهن تائين هيڪنگ جي اسپري تي هليو ويو جنهن کي OpenAI ان وقت تائين پڪڙي نه سگهيو جيستائين خطرو موجود هو ۽ ايف بي آءِ کي اطلاع ڏنو ويو.
OpenAI جي سي اي او سام الٽمن چيو ته هن هفتي هن هيڪ تي بحث ڪيو آهي سينيٽرن سان ڪئپيٽول هيل تي، ۽ هڪ OpenAI جي ترجمان چيو ته هن وائيٽ هائوس سان ايندڙ اي آئي ماڊل ۽ ٽيسٽ تي بحث ڪرڻ جو منصوبو ٺاهيو.
واشنگٽن نئين ماڊل رول آئوٽ جي نگراني کي سخت ڪرڻ شروع ڪيو آهي. 2 جون تي، آمريڪي صدر ڊونلڊ ٽرمپ مشيرين کي هدايت ڪئي ته ترقي يافته AI لاءِ رضاڪارانه سائبر سيڪيورٽي ٽيسٽنگ فريم ورڪ تيار ڪن، بشمول ٽيڪنالاجي جي ڊولپرز کان ان پٽ.
انٿروپڪ اڳ ۾ پنهنجي فيبل 5 ۽ Mythos 5 ماڊلز تائين رسائي کي محدود ڪري ڇڏيو، آمريڪا کان پوءِ عارضي طور تي برآمد ڪنٽرول جي هدايت جاري ڪئي، قومي سلامتي جي خدشات جو حوالو ڏيندي.
