اهو صرف دنيا جي سڀ کان وڌيڪ قابل اوپن-وزن AI ماڊلن جي رسائي حاصل ڪرڻ لاء تمام آسان ٿي ويو آهي، ان جي محافظن کي هٽايو ويو ۽ نقصانڪار ڪمن کي انجام ڏيڻ کان انڪار ڪيو.
نالي هڪ ٽيڪنڪ جي نالي سان جيڪو هڪ ماڊل جي رجحان کي هٽائي ٿو نقصانڪار درخواستن کي رد ڪرڻ لاءِ، startup Abliteration.ai ان هٽائڻ کي هڪ خدمت ۾ تبديل ڪري ڇڏيو آهي. پليٽ فارم کليل وزن جي ماڊلز جي تبديل ٿيل ورزن کي ميزباني ڪري ٿو انهن جي سنڀاليندڙن سان هٽايو ويو آهي، بشمول Z.ai جو تازو جاري ڪيل GLM-5.3، جيڪي صارف ويب برائوزر کان پڇي سگهن ٿا يا API ذريعي رسائي ڪري سگهن ٿا.
ڪمپني هڪ تازي سوشل ميڊيا پوسٽ ۾ چيو آهي ته ان جو مقصد ٻين کي انجام ڏيڻ جي قابل ڪرڻ آهي "جارحتي سائبر، ريڊ ٽيمنگ، ۽ ايجنٽ جي جاچ جو ڪم ٻيا ماڊل ڪرڻ کان انڪار ڪن ٿا." منطق سڪيورٽي ڪم ۾ واقف آهي: توهان هڪ رويي جي خلاف دفاع نٿا ڪري سگهو جيڪو توهان ٻيهر نه ٿا ڪري سگهو، ۽ هڪ ماڊل جيڪو ڪم ڪندڙ استحصال ڪوڊ لکڻ کان انڪار ڪري ٿو، هڪ لال ٽيم کي حملي ڪندڙن جي خلاف دفاع ۾ مدد نٿو ڪري سگهي. پر اهي ساڳيون هٽائڻ ٻين ممڪن طور تي خطرناڪ ڪمن کي پڻ آسان بڻائي ٿو.
اوپن سورس ماڊلز جي وچ ۾ ختم ٿيڻ هڪ ڊگهي ٽيڪنڪ آهي. محقق ۽ ڊولپر سالن کان کليل وزن جي ماڊلز کان انڪار کي ختم ڪري رهيا آهن، ۽ هگنگ فيس پنهنجي پليٽ فارم تي هزارين ختم ٿيل ماڊلز کي ميزباني ڪري ٿو.
گذريل سال جي آخر ۾ ٺهرايو ويو پر سرڪاري طور تي مارچ ۾ شامل ڪيو ويو، Abliteration.ai ٽيڪنڪ کي هڪ زير زمين اوپن سورس جي مشق کان هڪ تجارتي، آساني سان دستياب خدمت ۾ منتقل ڪري ٿو. ماڊل کي ميزباني ڪرڻ سان، Abliteration انهن ماڻهن لاءِ ڇڪتاڻ گھٽائي ٿي جن کي ٻي صورت ۾ پنهنجا پهريان کان ختم ٿيل ماڊل ڊائون لوڊ ڪرڻا پوندا ۽ ان کي هلائڻ لاءِ گهربل ڪمپيوٽ کي محفوظ رکڻو پوندو.
خدمت کي استعمال ڪندي، TechCrunch جلدي هڪ اڪائونٽ ٺاهڻ ۽ GLM-5.3 جي هڪ ختم ٿيل نسخي جي سوال ڪرڻ شروع ڪرڻ جي قابل هئي ويب برائوزر ذريعي مفت ۾. اسان ان کي پٿون پروگرام لکڻ لاءِ چيو جيڪو محفوظ ڪيل ڪروم پاسورڊ چوري ڪري ٿو ۽ گهر ۾ هڪ خطرناڪ انساني پيٿوجين کي ڪلچر ڪرڻ لاءِ تفصيلي پروٽوڪول، ۽ اهو آساني سان عمل ڪيو.
Abliteration.ai Co-Founder Devon جو چوڻ آهي ته شروعات ۾ وڏن ڪلائوڊ فراهم ڪندڙن سان ڪيترائي معاملا آهن، جيڪي اهو مڪمل طور تي گراهڪ جي آمدني ذريعي برداشت ڪرڻ جي قابل آهن. (اسان ڊيون جو آخري نالو هن جي درخواست تي شامل نه ڪيو آهي ڇاڪاڻ ته هو اڃا تائين ڪنهن ٻئي فرم ۾ ملازم آهي.) Abliteration.ai اڃا تائين ڪو به وينچر ڪيپيٽل نه وڌايو آهي، پر ائين ڪرڻ لاءِ ڳالهين ۾ آهي.
نقادن جو چوڻ آهي ته پيماني تي دستياب ٿيل ماڊل ٺاهڻ سان حقيقي نقصان ٿي سگهي ٿو. اينڊريو يوون، ريسرچ جي سربراهه AI حفاظتي غير منافع بخش CivAI، TechCrunch کي ٻڌايو ته ماڊل ختم ڪرڻ وارا ماڊل توهان کي اجازت ڏين ٿا ته "ماڊل کي تبديل ڪريو ته جيئن اهو هڪ سماجي پيٽ بڻجي وڃي."
"توهان لفظي طور تي هتي ڪجھ به ٽائيپ ڪري سگهو ٿا، ۽ اهو ان جي تعميل ڪندو،" يوون چيو. "جڏهن ماڻهو AI ماڊلز مان محافظن کي هٽائڻ بابت ڳالهائي رهيا آهن، اهو آهي جيڪو اسان ڳالهائي رهيا آهيون ... مان اميد ڪريان ٿو ته اسان ڏسڻ شروع ڪنداسين تبديل ٿيل، ختم ٿيل ماڊل ويجهي مستقبل ۾ نقصان جي لاء استعمال ڪيا ويندا."
Aliteration AI صرف GLM-5.3 مان حفاظتي قدمن کي هٽايو ويو آهي ان ڪري اهو ڪري سگهي ٿو جارحتي سائبر حملا. مون کي پڻ آزاد تصديق ملي آهي ته Abliteration AI ماڊل جي بايو سان لاڳاپيل حفاظتي قدمن کي پڻ هٽائي ڇڏيو. حقيقت اها آهي ته ان کان بچاء کي هٽائڻ آسان آهي ... https://t.co/7Wk2Ibx35H
اڪثر ماهرن TechCrunch جو چوڻ هو ته هن ٽرين کي روڪيو ناهي. پر جيڪڏهن کليل وزن جي ماڊلز مان حفاظتي قدمن کي هٽائڻ حقيقي طور تي روڪي نه ٿو سگهجي، اتي ٻيا هنڌ آهن جيڪي حڪومت مداخلت ڪري سگهن ٿيون. هڪ تازي راءِ واري ٽڪري ۾ ، يوون تجويز ڪيو ته حڪومتن کي گهربل سائبر ۽ بايو ويپنز جي سرگرمي کي ڳولڻ ۽ بلاڪ ڪرڻ لاءِ ڪلاسفير هلائڻ جي ضرورت آهي. هن اهو پڻ دليل ڏنو ته ڪمپنيون جيڪي ڪرائي تي وٺن ٿيون سڌي طرح ترقي يافته GPUs تائين رسائي کي گراهڪن جي سڃاڻپ جي تصديق ڪرڻ جي ضرورت آهي ۽ "پهچ کان انڪار ڪيو جتي خطرناڪ غلط استعمال جي شڪ ڪرڻ جو سبب آهي."
Abliteration.ai گراهڪ کي هڪ معتدل پرت پيش ڪري ٿو ته جيئن اهي شامل ڪري سگهن جيڪي به گارڊ ريلز اهي چاهين. پليٽ فارم ۾ پاڻ کي ڪجهه نن guardrails آهن - مثال طور، اسان جي جاچ ۾، اسان خودڪشي هدايتون مهيا ڪرڻ لاء ماڊل حاصل نه ڪري سگهيا - ۽ Devon چوي ٿو ته هو تشدد کي روڪڻ لاء وڌيڪ لاڳو ڪرڻ تي ڪم ڪري رهيو آهي.
Abliteration.ai پڻ ڪريڊٽ ڪارڊ لاگ ان ڪرڻ کان سواءِ ڪنهن به KYC عملن کي ضم نه ڪيو آهي هڪ گراهڪ سروس خريد ڪرڻ لاءِ استعمال ڪري ٿو، اهو چوڻ آهي ته اهو فيصلو ڪرڻ جو مسئلو آهي ته ڪير رسائي حاصل ڪري ٿو اهو هڪ سخت آهي ته نوجوان ڪمپني اڃا تائين ڪم ڪري رهي آهي.
”توهان نه ٿا چاهيو ته ڪنهن ماڻهوءَ لاءِ ذميوار ماڻهو هجي جيڪو ڪجهه چريو ڪري رهيو آهي… پوءِ توهان ڪٿي لکو ٿا ته توهان جي ذميواري ڪهڙي ڪمپني جي آهي؟ ڊيون چيو. "اسان اڃا تائين ان جي وضاحت ڪرڻ جي عمل ۾ آهيون." اهو سوال اٿاريندو آهي صنعت ۽ حڪومتن کي منهن ڏيڻو پوندو جيئن وڌندڙ قابل ماڊلز ڊائون لوڊ ڪرڻ جي قابل وزن سان جاري ڪيا وڃن: جيڪڏهن ڪو به ماڊل جي حفاظت کي ختم ڪري سگهي ٿو، ڇا نتيجو ماڊل هر ڪنهن جي رسائي کي آسان بڻائي ٿو انٽرنيٽ کي محفوظ يا وڌيڪ خطرناڪ؟
Abliteration.ai جو باني ۽ ٻيا وڪيل دليل ڏين ٿا ته غير سينسر ٿيل فرنٽيئر ماڊل تائين رسائي کي جمهوري بڻائڻ دفاع جو بهترين روپ آهي.
"خراب ٿيل ماڊلز جي وڏي تصوير اها آهي ته اهي خراب اداڪارن کي ماڊل ڪرڻ جي قابل آهن،" ڊيون چيو. "فائدو هاڻي اهو آهي ته محافظ جيترو جلدي ٿي سگهي منتقل ڪري سگهن ٿا. انهن وٽ اهي سڀئي اوزار آهن جيڪي انهن کي انهن خراب اداڪارن کي ماڊل ڪرڻ ۽ پوء انهن خراب عملن کان بچائڻ جي قابل هوندا، ۽ مان سمجهان ٿو ته اهو سائبر سيڪيورٽي کي تيز ڪندو، جيڪو هڪ قسم جو ضد نقطو آهي."
جڏهن ته اڃا هڪ نوجوان ڪمپني، ڊيون چوي ٿو Abliteration.ai جي گراهڪن ۾ شامل آهن ڪيترن ئي شروعاتي اسٽيج ريڊ ٽيمنگ شروع ڪرڻ وارا برطانيه ۽ يورپ ۾ ٻڌل آهن، ڪمپنيون جيڪي بينڪن، ايئر لائنز ۽ ٻين ادارن جي مدد ڪن ٿيون جيڪي نازڪ انفراسٽرڪچر سان معاملو ڪن ٿيون انهن جي سائبر سيڪيورٽي طريقن کي وڌايو.
”اسان جو هڪ وڏو گراهڪ بينڪن جي ريڊ ٽيمن جو ايجنٽ آهي، ۽ اهي اڄ باڪس مان ماڊل استعمال ڪرڻ جي قابل نه هوندا ته جيئن انهن ايجنٽن کي ريڊ ٽيم ڪري سگهن،“ ڊيون چيو.
ان کان علاوه، سائبر سيڪيورٽي انڊسٽري اڃا تائين اهو معلوم ڪري رهيو آهي ته ڪٿي ختم ٿيل ماڊل دفاعي ڪم ۾ مناسب آهن، جيڪڏهن بلڪل.
ڪيترائي ايجنٽ ريڊ ٽيمنگ ڪمپنيون جيڪي TechCrunch ڊيون سان متفق ٿيڻ لاءِ ڳالهايو ته خراب ماڻهو اڳ ۾ ئي پنهنجن ماڊل کي ختم ڪري رهيا آهن ۽ انهن کي مخالف حملن کي انجام ڏيڻ لاءِ استعمال ڪري رهيا آهن ، ڪيس ٺاهي رهيا آهن محافظن جي افاديت لاءِ جيڪي ساڳيا اوزار آهن. پر انهن ۾ فرق آهي ته صرف ڪئين نتيجن وارا ختم ٿيل ماڊل واقعي عمل ۾ آهن.
جڏهن ته ڊيون زور ڏئي ٿو ته ماڊل کي ختم ڪرڻ ضروري آهي مڪمل ايجنٽ ريڊ ٽيمنگ کي انجام ڏيڻ لاءِ، ڪجهه چون ٿا ته اهي انهن کي پنهنجي روزاني ڪم ۾ استعمال نٿا ڪن، بجاءِ ڀروسو ڪرڻ جي آسانيءَ تي ڀاڙيندڙ اوپن ويٽ ماڊل - جن وٽ اڳ ۾ ئي ڪجهه محافظ آهن - انهن جي جاچ ڪرڻ لاءِ.
احمد علي، ايجنٽ ريڊ ٽيمنگ فرم Fabraix جي سي اي او جو چوڻ آهي ته هن جي ڪمپني ختم ٿيل ماڊل استعمال ڪرڻ جي بجاءِ فائن ٽيوننگ اوپن ماڊلز تي وڌيڪ ڀاڙيندي آهي، هن شامل ڪيو ته ختم ڪرڻ جو عمل ماڊل جي ڪجهه علم ۽ صلاحيتن کي ختم ڪري ٿو.
"جيڪڏهن توهان واقعي ان سان حقيقي نقصان ڪرڻ جي ڪوشش ڪري رهيا آهيو - سائبر نقصان، بايو نقصان - اهو اثرائتو نه ٿيندو،" ايلي ٻڌايو TechCrunch.
Alessio Lomuscio، سيف انٽيليجنس ۾ چيف ٽيڪنالوجسٽ، اتفاق ڪيو ته قابليت ۾ گهٽتائي ممڪن آهي، پر اڃا به مڃي ٿو ته ختم ٿيل ماڊل ڪجهه خاص رويي کي ظاهر ڪري سگھن ٿا جيڪو سسٽم جي دٻاء جي جانچ ۾ مفيد آهي.
"اڃا تائين ختم ٿيل ماڊل پروسيس جو حصو نه آهن،" ڊيوڊ سليٽر، باني ۽ چيف معمار سائبر سيڪيورٽي پليٽ فارم Armadin تي، TechCrunch کي ٻڌايو. "جڏهن اسان هن مطلق آخري نسل تائين کليل وزن جا ماڊل ڏسون ٿا، اهو خاص طور تي ڏکيو نه هو ته انهن کي جيل برڪ ڪرڻ ۽ انهن کي حاصل ڪرڻ لاء جيڪو اسان چاهيون ٿا."
هن وڌيڪ شامل ڪيو ته آرمادين خاتمي جي تحقيق ڪري رهيو آهي، جيتوڻيڪ، ۽ يقين رکي ٿو ته "ماڻهن جي قابليت کي سمجهڻ لاء کليل ڪميونٽي کي زور ڏيڻ ضروري آهي."
"اهو ٿيڻ وارو آهي بند دروازن جي پويان. اهو ذاتي طور تي ٿيڻ وارو آهي،" سليٽر جاري رهي. "اهو کليل ۾ ٿي رهيو آهي محققن کي اوزار ڏئي ٿو. اهو اسان کي اهو سمجهڻ جي صلاحيت ڏئي ٿو ته حقيقي سرحد ڪيئن نظر اچي ٿي ۽ نقصان کي سمجهڻ."
