دنیا کے سب سے زیادہ قابل اوپن ویٹ AI ماڈلز میں سے ایک تک رسائی حاصل کرنا بہت آسان ہو گیا، اس کے محافظوں کو چھین لیا گیا اور نقصان دہ کاموں کو انجام دینے سے انکار۔
ایک ایسی تکنیک کے نام سے منسوب جو ماڈل کے نقصان دہ درخواستوں کو مسترد کرنے کے رجحان کو دور کرتی ہے، اسٹارٹ اپ Abliteration.ai نے اس ہٹانے کو سروس میں تبدیل کر دیا ہے۔ یہ پلیٹ فارم اوپن ویٹ ماڈلز کے ترمیم شدہ ورژنز کی میزبانی کرتا ہے جس میں ان کے گارڈریلز کو ہٹا دیا گیا ہے، بشمول Z.ai کا حال ہی میں جاری کردہ GLM-5.3، جس سے صارفین ویب براؤزر سے استفسار کر سکتے ہیں یا API کے ذریعے رسائی حاصل کر سکتے ہیں۔
کمپنی نے ایک حالیہ سوشل میڈیا پوسٹ میں کہا کہ اس کا مقصد دوسروں کو "جارحانہ سائبر، ریڈ ٹیمنگ، اور ایجنٹ ٹیسٹنگ کے کام کرنے کے قابل بنانا ہے جو دوسرے ماڈلز کرنے سے انکار کرتے ہیں۔" سیکورٹی کے کام میں منطق واقف ہے: آپ ایسے رویے کے خلاف دفاع نہیں کر سکتے جسے آپ دوبارہ پیش نہیں کر سکتے، اور ایک ماڈل جو ورکنگ ایکسپلائٹ کوڈ لکھنے سے انکار کرتا ہے وہ سرخ ٹیم کو حملہ آوروں کے خلاف دفاع میں مدد نہیں دے سکتا۔ لیکن وہی ہٹانے سے دوسرے ممکنہ طور پر خطرناک کام بھی آسان ہو جاتے ہیں۔
اوپن سورس ماڈلز کے درمیان خاتمہ ایک دیرینہ تکنیک ہے۔ محققین اور ڈویلپر برسوں سے کھلے وزن کے ماڈلز سے انکار کو ہٹا رہے ہیں، اور Hugging Face اپنے پلیٹ فارم پر ہزاروں ختم شدہ ماڈلز کی میزبانی کرتا ہے۔
پچھلے سال کے آخر میں قائم کیا گیا لیکن مارچ میں باضابطہ طور پر شامل کیا گیا، Abliteration.ai ٹیکنالوجی کو زیر زمین اوپن سورس پریکٹس سے ایک تجارتی، آسانی سے دستیاب سروس میں منتقل کرتا ہے۔ ماڈل کی میزبانی کرنے سے، Abliteration ان لوگوں کے لیے رگڑ کو کم کرتا ہے جنہیں بصورت دیگر اپنے پہلے سے ختم شدہ ماڈلز کو ڈاؤن لوڈ کرنا پڑے گا اور اسے چلانے کے لیے درکار کمپیوٹ کو محفوظ کرنا پڑے گا۔
سروس کا استعمال کرتے ہوئے، TechCrunch تیزی سے ایک اکاؤنٹ بنانے اور ویب براؤزر کے ذریعے مفت میں GLM-5.3 کے ختم شدہ ورژن سے استفسار کرنے کے قابل تھا۔ ہم نے اسے ایک Python پروگرام لکھنے کو کہا جو محفوظ شدہ Chrome پاس ورڈز اور گھر میں ایک خطرناک انسانی روگجن کی ثقافت کے لیے ایک تفصیلی پروٹوکول چوری کرتا ہے، اور اس نے آسانی سے تعمیل کی۔
Abliteration.ai کے شریک بانی ڈیون کا کہنا ہے کہ سٹارٹ اپ کے بڑے کلاؤڈ فراہم کنندگان کے ساتھ کئی معاہدے ہیں، جنہیں وہ خالصتاً کسٹمر کی آمدنی کے ذریعے برداشت کرنے کے قابل ہے۔ (ہم ڈیون کا آخری نام اس کی درخواست پر شامل نہیں کر رہے ہیں کیونکہ وہ اب بھی کسی دوسری فرم میں ملازم ہے۔) Abliteration.ai نے ابھی تک کوئی وینچر کیپیٹل نہیں اکٹھا کیا ہے، لیکن ایسا کرنے کے لیے بات چیت جاری ہے۔
ناقدین کا کہنا ہے کہ ختم شدہ ماڈلز کو پیمانے پر دستیاب کرنا حقیقی نقصان کا باعث بن سکتا ہے۔ اینڈریو یون، AI سیفٹی کے غیر منافع بخش ادارے CivAI کے ریسرچ کے سربراہ، نے TechCrunch کو بتایا کہ ماڈلز کو ختم کرنے والے ماڈلز آپ کو "ماڈل میں ترمیم کرنے کی اجازت دیتے ہیں تاکہ یہ ایک سوشیوپیتھ بن جائے۔"
"آپ یہاں لفظی طور پر کچھ بھی ٹائپ کر سکتے ہیں، اور یہ اس کی تعمیل کرے گا،" یون نے کہا۔ "جب لوگ AI ماڈلز سے guardrails کو ہٹانے کے بارے میں بات کرتے ہیں، تو ہم اس کے بارے میں بات کر رہے ہیں... میں امید کرتا ہوں کہ ہم مستقبل قریب میں ترمیم شدہ، ختم شدہ ماڈلز کو نقصان پہنچانے کے لیے استعمال ہوتے دیکھنا شروع کر دیں گے۔"
Abliteration AI نے ابھی GLM-5.3 سے حفاظتی اقدامات کو ہٹا دیا ہے تاکہ یہ جارحانہ سائبر حملے کر سکے۔ مجھے آزادانہ تصدیق بھی ملی ہے کہ Abliteration AI نے ماڈل کے بائیو سے متعلق حفاظتی اقدامات کو بھی ہٹا دیا ہے۔ حقیقت یہ ہے کہ حفاظتی تدابیر کو ہٹانا معمولی طور پر آسان ہے… https://t.co/7Wk2Ibx35H
زیادہ تر ماہرین TechCrunch کا کہنا تھا کہ اس ٹرین کو کوئی رکنا نہیں ہے۔ لیکن اگر کھلے وزن والے ماڈلز سے حفاظتی تدابیر کو ہٹانے سے حقیقتاً روکا نہیں جا سکتا، تو ایسی دوسری جگہیں ہیں جہاں حکومت مداخلت کر سکتی ہے۔ ایک حالیہ رائے کے ٹکڑے میں، یون نے تجویز کیا کہ حکومتوں کو فراہم کنندگان کو نقصان دہ سائبر اور بائیو ویپنز کی سرگرمیوں کا پتہ لگانے اور روکنے کے لیے درجہ بندی کرنے والے چلانے کی ضرورت ہے۔ انہوں نے یہ بھی استدلال کیا کہ اعلی درجے کی GPUs تک براہ راست رسائی کرایہ پر لینے والی کمپنیوں کو گاہک کی شناخت کی تصدیق کرنے کی ضرورت ہے اور "جہاں خطرناک غلط استعمال کا شبہ ہونے کی وجہ ہو وہاں رسائی سے انکار کرنا چاہئے۔"
Abliteration.ai صارفین کو ایک اعتدال پسندی کی پرت پیش کرتا ہے تاکہ وہ اپنی مرضی کے مطابق جو کچھ چاہیں اس میں شامل کر سکیں۔ پلیٹ فارم میں ہی کچھ معمولی گڑھے ہیں - مثال کے طور پر، ہماری جانچ میں، ہم خودکشی کی ہدایات فراہم کرنے کے لیے ماڈل حاصل نہیں کر سکے — اور ڈیون کا کہنا ہے کہ وہ تشدد کو روکنے کے لیے مزید عمل درآمد پر کام کر رہا ہے۔
Abliteration.ai نے کریڈٹ کارڈ کو لاگ کرنے کے علاوہ کسی بھی KYC پریکٹس کو مربوط نہیں کیا ہے، یہ کہتے ہوئے کہ یہ فیصلہ کرنے کا مسئلہ کہ کس کو رسائی حاصل ہے، نوجوان کمپنی ابھی تک اس پر کام کر رہی ہے۔
"آپ کسی ایسے شخص کے لیے ذمہ دار نہیں بننا چاہتے جو کوئی پاگل کام کر رہا ہو… تو آپ اس کی لکیر کہاں کھینچیں گے کہ بطور کمپنی آپ کی ذمہ داری کیا ہے؟" ڈیون نے کہا۔ "ہم ابھی بھی اس کی وضاحت کرنے کے عمل میں ہیں۔" اس سے صنعت پر سوالات اٹھتے ہیں اور حکومتوں کو اس کا سامنا کرنا پڑے گا کیونکہ تیزی سے قابل ماڈلز ڈاؤن لوڈ کے قابل وزن کے ساتھ جاری کیے جاتے ہیں: اگر کوئی ماڈل کے تحفظات کو ہٹا سکتا ہے، تو کیا اس کے نتیجے میں ماڈل کو ہر کسی کے لیے رسائی آسان بنانا انٹرنیٹ کو محفوظ یا زیادہ خطرناک بناتا ہے؟
Abliteration.ai کے بانی اور دیگر وکلاء کا استدلال ہے کہ غیر سینسر شدہ فرنٹیئر ماڈلز تک رسائی کو جمہوری بنانا دفاع کی بہترین شکل ہے۔
ڈیون نے کہا ، "ختم شدہ ماڈلز کی بڑی تصویر یہ ہے کہ وہ خراب اداکاروں کو ماڈل کرنے کے قابل ہیں۔" "فائدہ یہ ہے کہ محافظ جتنی جلدی ہو سکے آگے بڑھ سکتے ہیں۔ ان کے پاس یہ تمام ٹولز ہیں جن کی ضرورت ہے کہ وہ ان برے اداکاروں کو ماڈل بنانے اور پھر ان برے اعمال سے دفاع کرنے کے قابل ہو سکیں، اور مجھے لگتا ہے کہ اس سے سائبر سیکیورٹی میں تیزی آئے گی، جو کہ ایک قسم کا متضاد نقطہ ہے۔"
ڈیون کا کہنا ہے کہ ابھی بھی ایک نوجوان کمپنی ہے، Abliteration.ai کے صارفین میں برطانیہ اور یورپ میں قائم کئی ابتدائی مرحلے کے ریڈ ٹیمنگ اسٹارٹ اپس شامل ہیں، وہ کمپنیاں جو بینکوں، ایئر لائنز اور دیگر کاروباری اداروں کو اہم انفراسٹرکچر سے نمٹنے میں مدد کرتی ہیں جو سائبر سیکیورٹی کے طریقوں کو بہتر بناتی ہیں۔
ڈیون نے کہا، "ہمارے بڑے صارفین میں سے ایک بینکوں کے ایجنٹوں کو ریڈ ٹیم بناتا ہے، اور وہ ان ایجنٹوں کو ریڈ ٹیم بنانے کے لیے آج ماڈلز کو باکس سے باہر استعمال نہیں کر سکیں گے۔"
دریں اثنا، سائبرسیکیوریٹی انڈسٹری خود اب بھی یہ معلوم کر رہی ہے کہ اگر بالکل بھی ہے تو، ختم شدہ ماڈلز دفاعی کام میں کہاں فٹ ہوتے ہیں۔
کئی ایجنٹ ریڈ ٹیمنگ کمپنیاں جن سے TechCrunch نے ڈیون کے ساتھ بات کی تھی کہ برے لوگ پہلے ہی اپنے ماڈلز کو ختم کر رہے ہیں اور انہیں مخالفانہ حملے کرنے کے لیے استعمال کر رہے ہیں، جو ایک ہی ٹولز رکھنے والے محافظوں کی افادیت کا معاملہ بنا رہے ہیں۔ لیکن ان میں اس بات پر اختلاف ہے کہ اس عمل کے نتیجے میں ختم شدہ ماڈل واقعی کتنے ہیں۔
جب کہ ڈیون کا دعویٰ ہے کہ مکمل ایجنٹ ریڈ ٹیمنگ کو انجام دینے کے لیے ماڈلز کو ختم کرنا ضروری ہے، کچھ کا کہنا ہے کہ وہ انہیں اپنے روزمرہ کے کام میں استعمال نہیں کرتے، بجائے اس کے کہ کھلے وزن کے ماڈلز کو ٹھیک کرنے کی آسانی پر انحصار کرتے ہوئے - جن کے پاس پہلے سے ہی کچھ گارڈریل ہیں - اپنی جانچ کو انجام دینے کے لیے۔
ایجنٹ ریڈ ٹیمنگ فرم Fabraix کے سی ای او احمد علی کا کہنا ہے کہ ان کی کمپنی ختم شدہ ماڈلز کو استعمال کرنے کے بجائے فائن ٹیوننگ اوپن ماڈلز پر زیادہ انحصار کرتی ہے، انہوں نے مزید کہا کہ خاتمے کا عمل ماڈل کے کچھ علم اور صلاحیتوں کو ختم کر دیتا ہے۔
"اگر آپ واقعی اس کے ساتھ حقیقی نقصان پہنچانے کی کوشش کر رہے ہیں - سائبر نقصان، بائیو نقصان - یہ اتنا موثر نہیں ہوگا،" ایلی نے ٹیک کرنچ کو بتایا۔
سیف انٹیلی جنس کے چیف ٹیکنالوجسٹ الیسیو لوموسیو نے اس بات پر اتفاق کیا کہ صلاحیتوں میں کمی ممکن ہے، لیکن پھر بھی مانتے ہیں کہ ختم شدہ ماڈلز کچھ ایسے رویے کو ظاہر کر سکتے ہیں جو کسی نظام کو تناؤ کی جانچ میں مفید ہے۔
سائبرسیکیوریٹی پلیٹ فارم ارماڈین کے بانی اور چیف آرکیٹیکٹ ڈیوڈ سلیٹر نے ٹیک کرنچ کو بتایا کہ "اب تک ختم شدہ ماڈلز اس عمل کا حصہ نہیں ہیں۔" "جب ہم اس مطلق پچھلی نسل تک کھلے وزن کے ماڈلز کو دیکھتے ہیں، تو ان کو جیل بریک کرنا اور ان سے جو ہم چاہتے ہیں وہ کرنا کوئی خاص مشکل نہیں تھا۔"
انہوں نے مزید کہا کہ آرمیڈین خاتمے پر تحقیق کر رہا ہے، اگرچہ، اور اس کا خیال ہے کہ "کھلی برادری کو ماڈلز کی صلاحیت کو سمجھنے کے لیے دباؤ ڈالنا بہت ضروری ہے۔"
"یہ بند دروازوں کے پیچھے ہونے والا ہے۔ یہ نجی طور پر ہونے والا ہے،" سلیٹر نے جاری رکھا۔ "یہ کھلے عام ہونے سے محققین کو اوزار ملتے ہیں۔ یہ ہمیں یہ جاننے کی صلاحیت فراہم کرتا ہے کہ اصل سرحد کیسی نظر آتی ہے اور نقصان کو سمجھنا۔"
