اینتھروپک نے اپنا تازہ ترین ماڈل فیبل مَنگَل کو جاری کیا، جس نے اسے اپنے طاقتور اور بہت زیادہ مشہور سائبر سیکیورٹی ماڈل Mythos کے عوامی اور محدود ورژن کے طور پر بل کیا۔
لیکن ہر کوئی پابندیوں سے خوش نہیں ہے، اور سائبر سیکیورٹی کے متعدد محققین اور پیشہ ور افراد نے آن لائن شکایات نشر کی ہیں۔
IBM X-Force میں کام کرنے والی ایک معروف سیکیورٹی محقق ویلنٹینا "چومپی" Palmiotti نے کہا، "[Fable] کسی بھی ایسی درخواست کو مسترد کرتا ہے جس کا تعلق سائبر سے ہو سکتا ہے۔ یہاں تک کہ ایک بلاگ پوسٹ کو پڑھنے جیسے بے ضرر کام بھی۔"
جب کوئی پرامپٹ اس کے محافظوں کو متحرک کرتا ہے، Fable چیٹ کو روکتا ہے اور کہتا ہے کہ اس کے "حفاظتی اقدامات نے اس پیغام کو سائبر سیکیورٹی یا حیاتیات کے موضوعات کے لیے جھنڈا لگایا ہے۔"
حفاظتی خطوط اس خطرے کو محدود کرنے کے لیے لگائے گئے تھے کہ Fable کو میلویئر یا کمپرومائز سافٹ ویئر تیار کرنے کے لیے استعمال کیا جا سکتا ہے - جو Anthropic کے اندر ایک دیرینہ تشویش ہے۔ حیاتیات پر پابندیاں حیاتیاتی ہتھیاروں کو تیار کرنے کے بارے میں اسی طرح کی تشویش سے آتی ہیں۔
جب AI دیو نے اپریل میں Mythos کو جاری کیا، تو اس نے ماڈل کو محدود تعداد میں کمپنیوں اور تنظیموں تک محدود کر دیا جسے اس نے Project Glasswing کہا، یہ ماڈل کو اہم سافٹ ویئر اور انفراسٹرکچر کو محفوظ بنانے کے لیے تعینات کرنے کی کوشش ہے۔ پچھلے ہفتے، Anthropic نے 15 ممالک میں سینکڑوں تنظیموں تک Mythos تک رسائی کو بڑھایا۔
لیکن نیک نیتی کے باوجود، بہت سے سائبرسیکیوریٹی ماہرین اب بھی پابندیوں کی بے ترتیبی کی وجہ سے روکے ہوئے ہیں۔ سائبرسیکیوریٹی کے ایک تجربہ کار، Matt Suiche نے TechCrunch کو بتایا کہ "اگر آپ اسے محفوظ کوڈ لکھنے کو کہتے ہیں، تو یہ فرض کرتا ہے کہ یہ سافٹ ویئر انجینئرنگ کے بہترین طریقوں کے بجائے سائبر سیکیورٹی سے متعلق کام ہے، اور آپ کو نیچے کا درجہ دیا جائے گا۔" Fable کو Claude Opus 4.8 پر واپس آنے کا پروگرام بنایا گیا ہے اگر یہ کسی گارڈریل سے ٹکراتا ہے۔ "ایسا لگتا ہے کہ یہ کلیدی الفاظ پر مبنی ہے، لہذا 'سائبرسیکیوریٹی' کے لغوی شعبے میں کوئی بھی چیز محافظوں کو متحرک کرتی ہے۔"
ہم سے رابطہ کریں کیا آپ کے پاس مزید معلومات ہیں کہ ہیکرز AI کو کس طرح استعمال کر رہے ہیں؟ یا سائبرسیکیوٹی کمپنیاں AI کو کس طرح استعمال کر رہی ہیں؟ ہم آپ سے سننا پسند کریں گے۔ غیر کام کے آلے اور نیٹ ورک سے، آپ Lorenzo Franceschi-Bicchierai سے محفوظ طریقے سے سگنل پر +1 917 257 1382 پر، یا ٹیلیگرام اور Keybase @lorenzofb، یا ای میل کے ذریعے رابطہ کر سکتے ہیں۔
"لیکن یہ بات قابل فہم ہے کیونکہ ہم ابھی بھی ابتدائی دنوں میں ہیں اور وہ ابھی بھی اپنے محافظوں کو ڈھال رہے ہیں۔ مجھے یقین ہے کہ وہ وقت کے ساتھ ساتھ ترقی کریں گے کیونکہ اینتھروپک اور دیگر فرنٹیئر ماڈل کمپنیاں سائبر سیکیورٹی کمپنیوں کی موجودہ نئی نسل کے ساتھ مزید تعاون کریں گی،" سوئیچ نے کہا، جو ٹولمو میں تکنیکی عملے کے رکن ہیں، ایک AI سائبر سیکیورٹی اسٹارٹ اپ۔ "جب آپ اس طرح کی ریلیز کرتے ہیں تو زیادہ سے زیادہ لوگوں کو پکڑنا اور وقت کے ساتھ ساتھ چوکیوں کو آرام کرنا بہتر ہے۔"
ایک اور محقق نے X پر گرفت کی کہ "کوڈ کا جائزہ لینے کے لئے بھی پوچھنا" Fable کے محافظوں کو متحرک کرتا ہے۔
اینتھروپک نے فوری طور پر تبصرہ کی درخواست کا جواب نہیں دیا۔
اپنے ماڈلز کے اندر گارڈریلز کے علاوہ، Anthropic کو سائبر سیکیورٹی کے پیشہ ور افراد کو سائبر تصدیقی پروگرام میں درخواست دینے کی ضرورت ہے۔ اگر وہ منظور ہو جاتے ہیں، درخواست دہندگان کو سائبرسیکیوریٹی کے کام کے لیے Claude کے استعمال پر کم پابندیاں ہیں۔ اوپن اے آئی کا ایک ایسا ہی پروگرام ہے جسے سائبر کے لیے ٹرسٹڈ ایکسیس کہا جاتا ہے۔
