مہینوں سے، AI جنات نے خاص جانچ شدہ پروگرام اور سخت حفاظتی راستے وضع کیے ہیں تاکہ بدنیتی پر مبنی ہیکرز کے ذریعے اپنے ماڈلز کے استعمال کو محدود کیا جا سکے۔ لیکن یہ حدود اب نیٹ ورک کے جائز محافظوں کے ساتھ ساتھ جارحانہ سائبرسیکیوریٹی محققین کے کام میں رکاوٹ بن رہی ہیں۔
جون میں، امریکی حکومت نے اینتھروپک کے بہت زیادہ مشہور AI ماڈلز Mythos اور Fable پر برآمدی کنٹرول کی پابندیاں لگا دیں۔ اس اقدام کا اشارہ کم از کم جزوی طور پر ایک رپورٹ کے ذریعہ کیا گیا تھا جس میں دعوی کیا گیا تھا کہ ماڈلز کے محافظوں کو نظرانداز کرنا ممکن ہے تاکہ صارفین کو ان کے استعمال سے نقصان دہ سائبرٹیکس بنانے اور ان پر عمل کرنے سے روکا جاسکے۔
اس بات سے قطع نظر کہ آیا واقعہ واقعی جیل بریک کے خوف سے محرک تھا، حقیقت یہ ہے کہ Anthropic نے بار بار Mythos کو قیامت کے دن کی سائبر مشین کے طور پر مارکیٹ کیا ہے جو صرف احتیاط سے جانچنے والے صارفین کو دی جا سکتی ہے، اور اس کے بعد بھی سخت حفاظتی انتظامات کے ساتھ۔ (اس کے بعد سے Fable 5 اور Mythos 5 پر برآمدی کنٹرول ختم کر دیے گئے ہیں۔ Fable 5 1 جولائی کو عام رسائی پر واپس آ گیا؛ Mythos 5 کو حکومت کے نظرثانی کے عمل کے حصے کے طور پر صرف جانچ شدہ امریکی تنظیموں کے لیے دوبارہ متعارف کرایا گیا ہے۔)
اس قسم کی گیٹ کیپنگ Mythos کے لیے منفرد نہیں ہے۔ Anthropic، اس کے دیگر ماڈلز کے ساتھ، اور OpenAI دونوں سائبر سیکیورٹی ریسرچرز پروگرام پیش کرتے ہیں جو وہ جانچ پڑتال کے لیے درخواست دے سکتے ہیں اور - اگر منظور ہو تو - سائبر سیکیورٹی کی کم پابندیوں کے ساتھ ماڈلز تک رسائی حاصل کرسکتے ہیں: OpenAI کی سائبر اور انتھروپک کے سائبر تصدیقی پروگرام کے لیے قابل اعتماد رسائی۔
ان محافظوں پر بڑے پیمانے پر تنقید کی گئی ہے، خاص طور پر محققین جن کا کام سسٹمز میں نامعلوم کمزوریوں کو تلاش کرنا اور مجرموں سے پہلے ان کا استحصال کرنے کے طریقے وضع کرنا ہے۔
سائبرسیکیوریٹی پوڈ کاسٹ پر ایک حالیہ پیشی کے دوران، ایک معروف سیکیورٹی محقق، مارک ڈاؤڈ نے کہا کہ، "یہ میرے لیے واقعی آرام دہ نہیں ہے کہ یہ بے ترتیب بڑی کمپنیاں اس بارے میں من مانی فیصلے کر رہی ہیں کہ سیکیورٹی میں کیا محفوظ ہے اور کیا نہیں۔"
ڈاؤڈ نے کئی دہائیاں "زیرو ڈےز" تلاش کرنے اور بیچنے میں گزاری ہیں - پہلے نامعلوم سافٹ ویئر کی خامیاں اور ان سے فائدہ اٹھانے والے کارنامے - مغربی حکومتوں کو، بجائے اس کے کہ سافٹ ویئر بنانے والوں کو ان کی اطلاع دیں تاکہ ان کا پیچھا ہو جائے۔ حکومتیں کمزوریوں کے لیے خاص طور پر ایک پریمیم ادا کرتی ہیں کیونکہ وہ کھلے رہتے ہیں، جو انٹیلی جنس آپریشنز کے لیے مفید ہے۔
ڈاؤڈ نے اعتراف کیا کہ اس کا کام اسے متعصب بنا سکتا ہے، لیکن وہ اکیلا نہیں ہے۔ کئی لوگ جو جارحانہ سائبرسیکیوریٹی میں کام کرتے ہیں - وہ کمزوریوں کے لیے سسٹمز کو فعال طور پر جانچتے ہیں - TechCrunch کو بتایا کہ وہ کس طرح AI ٹولز کا استعمال کرتے ہیں اور اپنے محافظوں سے نمٹتے ہیں۔
سیکورٹی کنسلٹنگ دیو این سی سی گروپ کے چیف سائنٹسٹ کرس اینلے نے کہا کہ اے آئی ماڈل سے بگ کا فائدہ اٹھانے کی کوشش کرنا اس بات کی تصدیق کرنے کے لیے ایک اہم قدم ہے کہ یہ درست کرنے کے قابل حقیقی کمزوری ہے۔ لیکن اگر کوئی گارڈریل ماڈل کو سوال کا جواب دینے سے صاف انکار کرنے کا اشارہ کرتا ہے، تو گارڈریل محافظوں کو تکلیف دیتی ہے۔
اینلے نے کہا، "یہی وہ جگہ ہے جہاں پورے جارحانہ بمقابلہ دفاعی اور محافظوں کا حصہ آتا ہے، کیونکہ 'اس کوڈ کو درست کریں' ایک پرامپٹ کے طور پر دفاع کے لیے ایک ضروری طریقہ کار ہے بلکہ کوڈ بیس میں اہم کمزوریوں کو تلاش کرنے کے لیے ایک روڈ میپ بھی ہے۔" "لہذا ایک ہی وقت میں، ایک ہی ٹول ایک جارحانہ ٹول اور ایک دفاعی ٹول ہے، اور ان دونوں کو واقعی نہیں اٹھایا جا سکتا۔"
یہ "ہتھوڑے کی طرح ہے،" اس نے جاری رکھا۔ "آپ ہتھوڑے کے بغیر گھر نہیں بنا سکتے۔ یہ یقینی طور پر ایک آلہ ہے لیکن یہ ایک ناقابل تلافی ہتھیار بھی ہے۔"
جب وہ اور اس کے ساتھی اس طرح کے روڈ بلاک میں بھاگتے ہیں، تو وہ کبھی کبھی اوپن سورس AI ماڈلز پر پیچھے پڑ جاتے ہیں جن میں کوئی گارڈریل نہیں ہوتا ہے۔
Paolo Stagno، CrowdFense کے چیف ٹکنالوجی آفیسر، ایک معروف کمپنی جو نامعلوم خطرات کو سرکاری ایجنسیوں کو تیار کرتی ہے، حاصل کرتی ہے اور فروخت کرتی ہے، Dowd سے اتفاق کرتے ہوئے کہتے ہیں کہ AI کمپنیاں اپنے جانچ شدہ پروگراموں اور گارڈریلز کے ساتھ "بنیادی طور پر ایسے صارفین کے ساتھ سلوک کرتی ہیں جن کو بچوں کی دیکھ بھال کی ضرورت ہوتی ہے"۔
Stagno نے کہا کہ وہ اور اس کے ساتھی فرنٹیئر ماڈل استعمال کرتے ہیں - لیکن صرف ریورس انجینئرنگ کے لیے۔ انہوں نے کہا کہ وہ کمزوریوں کو تلاش کرنے یا کارناموں کی تعمیر میں مدد کے لیے AI کا استعمال کرنے سے گریز کرتے ہیں، کیونکہ کلاؤڈ بیسڈ ماڈل میں کام کرنے والے کو کھانا کھلانے سے حساس خطرے کا ڈیٹا لیک ہونے یا اسے مستقبل کی تربیت میں جذب ہونے کا خطرہ ہوتا ہے۔ اس قدم کے لیے، انہوں نے کہا، وہ مقامی طور پر چلنے والے اوپن سورس ماڈلز کا استعمال کرتے ہیں، کیونکہ وہ ماڈل سے باہر ڈیٹا شیئر کرنے پر انحصار نہیں کرتے ہیں۔ جیوسپ کیلی، ایک سیکورٹی محقق جو صفر دن تلاش کرتا ہے اور کارناموں کو تیار کرتا ہے، نے کہا کہ چوکیاں اس کے کام میں رکاوٹ نہیں بن رہی ہیں۔ اس کی وجہ یہ ہے کہ وہ جارحانہ کام کے لیے AI کا استعمال نہیں کرتا ہے۔ اس کے بجائے، وہ اسے ابتدائی ریورس انجینئرنگ کے لیے استعمال کرتا ہے، اس کوڈ کو سمجھنے کے لیے جس کا وہ تجزیہ کر رہا ہے، اور معاون ٹولز بنانے کے لیے۔ اس کے لیے، انہوں نے کہا، AI ٹولز اس عمل کو تیز کر سکتے ہیں اور اسے کمزوریوں کو دریافت کرنے پر توجہ مرکوز کرنے کی اجازت دے سکتے ہیں۔
کیلی نے کہا، "میں اب بھی اصل بگ کی دریافت اور ہتھیار سازی کا مالک بننا چاہتا ہوں اور یہ تبدیل نہیں ہو گا اگر کل تمام گارڈریلز کو ہٹا دیا جائے،" کیلی نے کہا۔ "مجھے اپنے کیڑے سے رشک آتا ہے، اور مجھے یہ گیم بہت زیادہ پسند ہے کہ وہ ماڈلز کو میرے لیے کھیلنے دیں۔"
اسمارٹ فون کے اجزاء بنانے والے ایک محقق نے، جس نے نام ظاہر نہ کرنے کی شرط پر بات کی کیونکہ وہ پریس سے بات کرنے کا مجاز نہیں ہے، نے کہا کہ اس کا آجر اینتھروپک کے CVP پروگرام کا حصہ نہیں ہے اور اس کے نتیجے میں، اس کے ٹولز کمزوریوں کو تلاش کرنے کے لیے بمشکل کارآمد ہیں کیونکہ گارڈریلز بہت سخت ہیں۔
"اگر یہ ہوا پکڑتا ہے تو ہم سیکورٹی سے متعلق کچھ بھی کر رہے ہیں، یہ صرف رک جاتا ہے اور استعمال کے قابل نہیں ہے،" اس شخص نے کہا۔
کرس تھامسن - سائبر سیکیورٹی فرم ریموٹ تھریٹ کے چیف ایگزیکٹیو اور جارحانہ سیکیورٹی اور اے آئی فوکسڈ ایونٹ کے بانی Offensive AI Con کے بانی - نے کہا کہ فرنٹیئر AI ماڈلز کو استعمال کرنے کے ان کے تجربے میں، گارڈریلز متضاد ہو سکتے ہیں اور ہر روز مختلف طریقے سے کام کر سکتے ہیں۔ یہ انتھروپک اور اوپن اے آئی کے جانچ شدہ پروگراموں کی ڈھیلی حدود کے اندر بھی سچ ہے۔
"میرے خیال میں عملی اثر یہ ہے کہ آپ بنیادی سیکیورٹی پروگرام پر کام کرنے کے بجائے ماڈل کے ساتھ گفت و شنید کرنے میں کافی وقت صرف کرتے ہیں،" تھامسن نے کہا۔ "استحصال کے ذریعے کمزوری کا تجزیہ کرنے اور استدلال کرنے کے بجائے، آپ یہ جاننے کی کوشش کر رہے ہیں کہ آپ کو متضاد نتائج کیوں مل رہے ہیں یا ماڈل آؤٹ پٹ کو زیادہ سینیٹائز کیوں کر رہے ہیں۔"
اس کے نتیجے میں، محققین چینی اوپن سورس ماڈلز جیسے GLM پر انحصار کرتے ہیں یا ان کی طرف دھکیلتے ہیں - آزادانہ طور پر ڈاؤن لوڈ کے قابل ماڈلز جو مقامی طور پر بغیر جانچ یا استعمال کی پابندیوں کے چلائے جاسکتے ہیں - تھامسن نے کہا۔
انہوں نے کہا کہ "آپ کے پاس یہ ذمہ دار محققین ہیں جنہیں امریکہ کے زیر انتظام نظاموں سے دور غیر ملکی ملکیتی نظاموں کی طرف دھکیل دیا جا رہا ہے۔" "میرے خیال میں ان گارڈریلز کو جگہ پر رکھنا اچھے سے زیادہ نقصان دہ ہے۔"
پابندیوں کو مزید سخت کرنے کے بجائے، تھامسن نے AI فرنٹیئر لیبز سے مطالبہ کیا کہ وہ اپنے پروگرام کھولیں، ذمہ دارانہ رسائی فراہم کریں، اور اپنے ٹولز کا غلط استعمال کرنے والوں کو جوابدہ ٹھہرائیں۔ بصورت دیگر، اس نے دلیل دی، محافظ AI کی دوڑ سے محروم ہو جائیں گے۔
"یہ بڑا طوفان آنے والا ہے۔ حملوں کی اتنی بڑی لہر ہے جو اس رفتار اور پیمانے پر ہونے والی ہے جس طرح پہلے کبھی نہیں ہوئی،" تھامسن نے کہا۔ "لیکن وہی سیکیورٹی کنسلٹنگ فرمیں اور قانونی محققین جو فرق پیدا کرنے کی کوشش کر رہے ہیں، ان کو ابھی دبایا جا رہا ہے۔"
