جيئن ته پاليسي ساز بحث ڪن ٿا ته ڪيئن وڌندڙ طاقتور AI سسٽم کي سنڀالڻ جهڙوڪ OpenAI جي GPT-5.6 Sol ۽ Anthropic's Mythos، هڪ چيني اوپن وزن ماڊل صنعت جي اڳواڻن سان خال کي تنگ ڪري ڇڏيو آهي.
GLM-5.2، چين جي Z.ai کان اوپن-وزن AI ماڊل، OpenAI جي GPT-5.5 ۽ Anthropic's Claude Opus 4.7 کان سائبر ۽ بايو صلاحيتن تي صرف چند مهينا پوئتي آهي، AI حفاظت جي غير منافع بخش تنظيم SaferAI جي نئين رپورٽ مطابق. پر فرنٽيئر صلاحيتن ۽ حفاظت جي عملن جي وچ ۾ فرق وڌي رهيو آهي.
SaferAI جي تشخيص جي مطابق، جيڪو غير منافع بخش Z.ai جي عوامي API ذريعي هلندو هو، GLM-5.2 ڪنهن به جارحتي سائبر يا ٻه-استعمال حياتيات جي ڪمن کي رد نه ڪيو جيڪو ڏنو ويو هو. مقابلي ۾، ڪلاڊ اوپس 4.7 "انهي طرح مسلسل انڪار ڪيو ته SaferAI ان تي سائبر گيم مڪمل نه ڪري سگهيو." (سائبر گيم هڪ معيار آهي جيڪو سائبر سيڪيورٽي صلاحيتن جو جائزو وٺندو آهي. OpenAI ان کي استعمال ڪيو ان تشخيص ۾ جيڪو گذريل مهيني جي هگنگ منهن جي ڀڃڪڙي کان اڳ.)
اهو هڪ واضح ياد ڏياريندڙ آهي جيڪو ڪجهه نقادن سالن کان خبردار ڪيو آهي: ته کليل وزن وارا اي آئي ماڊل انتهائي قابل AI کي امڪاني حملي ڪندڙن جي هٿن ۾ وجهي سگهن ٿا، پوليس کي ڪو به طريقو ناهي ته اهي ٽيڪنالاجي کي ڪيئن استعمال ڪندا آهن جڏهن اهي وزن ڊائون لوڊ ڪن ٿا. کليل وزن وارا ماڊل تيزيءَ سان دنيا جي معروف AI سسٽم جي صلاحيتن جي ويجهو اچي رهيا آهن، اهو بحث ان طرف وڃي رهيو آهي ته ڇا اهي مقابلو ڪري سگهن ٿا ته ڪيئن سماج خطرن کي منظم ڪري ٿو هڪ ڀيرو انهن کي آزاد ڪيو وڃي.
"صلاحيت جي سرحد خطري جي سرحد نه آهي، ۽ تنهنڪري اسان کي خطرن جي صحيح اندازي ڪرڻ لاء گهٽتائي جي حالت ۾ رکڻو پوندو،" Henry Papadatos، SaferAI جي ايگزيڪيوٽو ڊائريڪٽر، TechCrunch کي ٻڌايو.
جڏهن ته Z.ai پنهنجي ميزباني ڪيل API تي حفاظتي قدمن کي لاڳو ڪري سگهي ٿي، اهي تحفظات ناقابل عمل ٿي ويندا آهن جڏهن ڪو ماڻهو پنهنجي هارڊويئر تي وزن هلائيندو آهي، جتي اهي ڪنهن به حفاظتي اپاءَ کي هٽائي يا تبديل ڪري سگهن ٿا، ماڊل کي ٺيڪ ڪري سگهن ٿا، يا سسٽم جي اشارن کي تبديل ڪري سگهن ٿا.
فرنٽيئر ڊولپرز جهڙوڪ OpenAI ۽ Anthropic خطرناڪ سائبر ۽ حياتياتي امداد کي محدود ڪرڻ لاءِ حفاظتي اپاءَ تي ڀروسو ڪن ٿا جهڙوڪ درجه بندي، رد ڪرڻ واري تربيت، ۽ API-سطح جا ڪنٽرول.
اهي قدم بيوقوف کان پري آهن: جيل بريڪز باقاعده طور تي مقرر ٿيل ماڊلز تي تحفظات کان پاسو ڪندا آهن. Far.ai، هڪ AI حفاظتي غير منافع بخش، سوين يونيورسل جيل بريڪز مليا آهن - ٻيهر استعمال لائق چابيون جي طور تي بيان ڪيل آهن جيڪي تمام نقصانڪار درخواستن تي ڪامياب ٿين ٿيون - فرنٽيئر ماڊلز جهڙوڪ xAI's Grok 4.5 ۽ Google DeepMind's Gemini 3.1 Pro. رپورٽ جي مطابق، جيل بريڪز ڪامياب ٿي ويندا آهن جڏهن حملي آور ڪيترن ئي هٿيارن جي ٽيڪنالاجي کي گڏ ڪن ٿا - جنهن ۾ ڪردار ادا ڪرڻ، اختيار جي نقالي، جعلي گفتگو جي تاريخ، ۽ فالو اپ پرامپس شامل آهن - هڪ ماڊل جي دفاع ۾ ڪمزور پوائنٽن کي وڌائڻ لاء.
پر بند ٿيل ماڊلز جي جاءِ تي موجود حفاظتي قاعدا کليل وزن واري ماڊل تي ڪم نه ڪندا آهن، جيڪي ڪنهن به انفراسٽرڪچر تي هلائڻ لاءِ ٺاهيا ويا آهن حفاظت جي ڪنهن به سيٽ سان - يا ان جي کوٽ.
"مقصد واضح طور تي هجڻ گهرجي ته سٺيون صلاحيتون - محفوظ آهن - هر ڪنهن لاءِ پهچ وارا آهن ، ۽ پوءِ اسان ڪوشش ڪريون ٿا خرابن کي ختم ڪرڻ جي ، حتي هڪ اوپن سورس فيشن ۾ ،" پاپاداتوس چيو.
هڪ ٽيڪنڪ Papadatos نوٽ ڪيل مدد ڪري سگهي ٿي "پري ٽريننگ ڊيٽا فلٽرنگ" کي سڏيو ويندو آهي، جيڪو اهو آهي جڏهن هڪ AI ڪمپني جارحتي سائبر سيڪيورٽي معلومات کي انهن جي تربيتي ڊيٽا مان هٽائي ٿو ۽ پوء ماڊل کي ترتيب ڏنل ڊيٽا سيٽ تي تربيت ڏئي ٿو.
ڪجھ تحقيق ڏيکاري ٿي ته هي خطرناڪ حياتياتي علم کي گھٽائي سگھي ٿو بغير مجموعي نموني ڪارڪردگي کي نقصان پهچائڻ. بهرحال، سائبر سيڪيورٽي لاءِ، ڊيٽا فلٽرنگ تمام گهٽ عملي آهي.
اهو هڪ عام ماڊل کي تربيت ڏيڻ ڏکيو آهي جيڪو ڪوڊنگ ۾ شاندار آهي پر سٺو هيڪر پڻ ناهي. ڇاڪاڻ ته ڪوڊنگ AI جو سڀ کان وڏو پئسو ٺاهيندڙ بڻجي چڪو آهي، ڊولپرز کي انهن صلاحيتن کي بهتر بڻائڻ لاءِ دٻاءُ جو سامنا آهي جيتوڻيڪ اهي غلط استعمال کي محدود ڪرڻ جا طريقا ڳوليندا آهن.
انهي جي ڪري، فرنٽيئر ڊولپرز ان جي بدران ٻين گھٽتائي تي ڀروسو ڪيو آهي. ھڪڙو طريقو چونڊيو ويو آھي سائبر سيڪيورٽي امداد جي ماڊل جي قسمن کي منتخب طور تي محدود ڪرڻ. مثال طور، Anthropic’s Opus 5، مثال طور، غير مرتب ٿيل سورس ڪوڊ ۾ ڪمزورين جي ڳولا ڪري سگھي ٿو، پر مرتب ٿيل سافٽ ويئر نه، ماڊل جي سسٽم ڪارڊ جي مطابق. استدلال اهو آهي ته هي جارحتي مقصدن لاءِ Opus 5 استعمال ڪرڻ مشڪل بڻائي ٿو.
ٻين ۾ شامل آهن سخت اڳ-تعميراتي حفاظت جي تشخيص، اشاعت جي خطري جي جائزي، ۽ ماڊل وزن کي روڪڻ، جيڪڏهن سسٽم کي تمام خطرناڪ سمجهيو وڃي. GLM-5.2 جي صورت ۾، SaferAI چوي ٿو Z.ai حفاظتي فريم ورڪ شايع نه ڪيو، اڳ-تعميراتي جاچ وابستگي، يا ماڊل لاء خطري جي تشخيص. TechCrunch Z.ai کان پڇيو آهي ته ڇا اهو آزاد ٿيڻ کان اڳ اندروني يا ٽئين پارٽي فرنٽيئر حفاظتي جائزو ورتو، پر جواب نه مليو.
چيني اڳواڻن ترقي يافته AI جي خطرن کي تيزيء سان تسليم ڪيو آهي. گذريل مهيني ورلڊ AI ڪانفرنس ۾، چيني صدر شي جن پنگ کليل وزن جي ماڊل جي اهميت تي زور ڏنو، جڏهن ته AI کي يقيني بڻائڻ جي ضرورت تي زور ڏنو ته سخت انساني ڪنٽرول هيٺ هڪ اوزار رهي.
گراهم ويبسٽر، جيڪو اسٽنفورڊ سائبر پاليسي سينٽر ۾ چيني AI پاليسي جو مطالعو ڪري ٿو، TechCrunch کي ٻڌايو ته چين ۾ AI کي سنڀالڻ لاءِ مضبوط ضابطا آهن، پر اهي ضابطا تاريخي طور تي سياسي طور تي حساس مواد، غلط معلومات، ۽ سماجي استحڪام تي مرکوز آهن، بجاءِ تباهي واري AI خطرن جهڙوڪ جارحاڻي سائبر صلاحيتون ۽ حياتياتي غلط استعمال.
"آمريڪي AI سوچيندڙ، عام طور تي، چيني ڪميونٽي جي ڀيٽ ۾ هن وجودي تباهي [خيال] سان وڌيڪ لاڳاپا آهن،" ويبٽر چيو، وڌيڪ چيو ته ڪيترن ئي چيني پاليسي محققن کي يقين آهي ته جيڪڏهن واقعي هڪ ناول فرنٽيئر خطرو ٿيڻ وارو آهي، آمريڪي ڪمپنيون ممڪن طور تي پهريون ڀيرو ان کي منهن ڏيندا.
"چيني سسٽم کي يقين آهي ته اهي چين جي اندر انهن ٽيڪنالاجي جي استعمال کي ڪنٽرول ڪن ٿا،" Webster جاري رهي. "چين ۾ آن لائن هجڻ ڪجهه آهي جيڪو توهان پنهنجي اصل نالي سان منسوب ڪيو آهي، ۽ ڪمپنيون احتساب ٿي سگهن ٿيون، صارفين کي احتساب ڪري سگهجي ٿو."
ويبسٽر ميوزيم ڪيو ته اهو ساڳيو ميکانيزم جيڪو ماڊل فراهم ڪندڙ استعمال ڪن ٿا ڪجهه سياسي موضوعن تي مشغول ٿيڻ کان انڪار ڪرڻ لاءِ ممڪن طور تي ٽائيڪ ڪري سگهجي ٿو انهي کي يقيني بڻائڻ لاءِ ته ماڊل جارحاڻي سائبر حملن کي مڪمل ڪرڻ کان انڪار ڪن ٿا يا منفي حياتياتي انجنيئرنگ جا نتيجا نه ڏيندا. هن وڌيڪ شامل ڪيو ته ڇاڪاڻ ته چيني ڪمپنيون پردي جي پويان ريگيوليٽرن سان هم آهنگي ڪن ٿيون، اهو ڄاڻڻ ڏکيو ٿي سگهي ٿو ته اهي رليز کان پهريان ڪهڙي اندروني جاچ ڪري رهيا آهن.
اوپن ويٽ AI جا وڪيل دليل ڏين ٿا ته وزن جاري ڪرڻ سائبر سيڪيورٽي لاءِ اهم آهي ڇاڪاڻ ته اها ڪمپنين کي اجازت ڏئي ٿي ته هو پاڻ کي حملن کان بچائي - هگنگ فيس GLM-5.2 تي ڀروسو ڪيو پنهنجو پاڻ کي OpenAI جي خلاف ورزي جي خلاف دفاع ڪرڻ لاءِ - ۽ ڇاڪاڻ ته اها انهن کي اجازت ڏئي ٿي ته مستقبل جي خطرن لاءِ بهتر تياري ڪري جيڪڏهن انهن کي خبر آهي ته ڇا اچي رهيو آهي.
"ساڳي سسٽم جيڪي AI-طاقتور سائبر حملن کي روڪڻ ۾ مدد ڪندا هئا، هاڻي هر روز لکين سائبر حملن جي خلاف دفاع ۾ مدد ڪري سگھن ٿا، جڏهن ته اسان جي مدد ڪري رهيا آهيون اسان جي نقصانن کي سڃاڻڻ ۽ ان کان اڳ جو حملو ڪندڙ انهن جو استحصال ڪن،" Clem Delangue، CEO Hugging Face، هن هفتي هڪ سوشل ميڊيا پوسٽ ۾ چيو.
Papadatos چيو ته فائدو گهڻو ڪري ختم ڪيو ويندو آهي، ۽ ان جو مطلب اهو ناهي ته "اسان کي کليل ذريعو خطرناڪ صلاحيتن کي گهرجي."
”منهنجي ذهن ۾ بنيادي نقطو اهو آهي ته اسان کي صرف اهو قبول نه ڪرڻ گهرجي ته خطرناڪ صلاحيتون آساني سان ڪنهن به هنڌ تائين پهچن ٿيون ،“ هن چيو ، هن زور ڀريو ته هن کي يقين آهي ته صنعت کي صرف ”سٺن صلاحيتن“ کي آسانيءَ سان پهچائڻ لاءِ ڪوشش ڪرڻ گهرجي. ڊفالٽ طور تي حملو ڪندڙ محافظن کان وڌيڪ تيزيءَ سان نوان اوزار اختيار ڪن ٿا. مثال طور، هڪ ransomware گروپ هڪ هفتي ۾ پنهنجي طريقن کي تبديل ڪري سگهي ٿو. اسپتال نه ٿي سگهي.
