اینتھروپک نے حال ہی میں ٹرمپ انتظامیہ کے ایکسپورٹ کنٹرول آرڈر کی وجہ سے اپنے دو جدید ترین AI ماڈلز کو آف لائن لیا، جس سے AI پالیسی اور ڈیجیٹل خودمختاری کے بارے میں وسیع بحثیں شروع ہوئیں۔
TechCrunch's Equity podcast کے تازہ ترین ایپی سوڈ پر، Sean O'Kane، Rebecca Bellan، اور میں نے بحث کی کہ اصل میں Anthropic کے خلاف انتظامیہ کے اقدامات کو کس چیز نے اکسایا، اور وسیع تر AI ماحولیاتی نظام کے لیے اس کا کیا مطلب ہو سکتا ہے۔
جیسا کہ شان نے کہا، "انتھروپک کا ٹرمپ انتظامیہ کے ساتھ اس طرح سے بہترین تعلق نہیں رہا ہے جو کہ دیگر سرکردہ AI لیبز سے الگ ہے،" اس لیے شاید دوسرے Anthropic کے حریفوں کو اسی طرح کے کریک ڈاؤن کے بارے میں فکر کرنے کی ضرورت نہیں ہے۔
لیکن ربیکا نے یہ بھی نوٹ کیا کہ سائبر سیکیورٹی کے سرکردہ ماہرین نے "ایک کھلے خط پر دستخط کیے ہیں تاکہ ٹرمپ کو حکم نامہ منسوخ کرنے کا کہا جائے، اور ان کا کہنا ہے کہ امریکہ میں نیٹ ورک کے محافظوں سے سائبر سیکیورٹی کی ان جدید صلاحیتوں کو کھینچنا درحقیقت خطرناک ہے۔"
اور ہم نے سوچا کہ کیا یہ سب انتھروپک کے لیے اچھی تشہیر کا باعث بن سکتا ہے، خاص کر جب سے - ربیکا کے الفاظ میں - "ہر کوئی ایک برے لڑکے سے محبت کرتا ہے۔"
ہماری گفتگو کے پیش نظارہ کے لیے پڑھتے رہیں، طوالت اور وضاحت کے لیے ترمیم کی گئی ہے۔
ربیکا بیلن: جیسا کہ مجھے یقین ہے کہ ہمارے بہت سے سامعین جانتے ہیں، امریکی حکومت نے بنیادی طور پر صرف Anthropic کو مجبور کیا کہ وہ اپنے دو نئے ماڈلز کو آف لائن کھینچ لے — Fable 5، اور پھر Mythos 5 بھی تھا، جو کہ موجودہ Mythos صارفین کے لیے دستیاب تھا، [جبکہ] Fable 5 عوام کے لیے زیادہ دستیاب تھا۔
انہوں نے جُمُعَہ کو ایک خط [گزشتہ] بھیجا جس میں "قومی سلامتی کے خدشات" کا حوالہ دیا گیا تھا۔ کوئی نہیں جانتا کہ یہ خدشات کیا ہیں۔ اس رپورٹ کو عام نہیں کیا گیا ہے، انہوں نے کوئی تفصیلات نہیں بتائیں اور [انتھروپک] کو بتایا کہ انہیں یہ یقینی بنانا ہوگا کہ ان ماڈلز کو کوئی غیر ملکی شہری استعمال نہ کرے۔ تو انتھروپک اس طرح تھا، "ٹھیک ہے، میرا اندازہ ہے کہ ہمیں صرف ماڈلز کو مکمل طور پر کھینچنا ہے، کیونکہ ہم نہیں جانتے کہ کب کوئی غیر ملکی شہری ہے۔ ہمارے اپنے ملازمین میں سے بہت سے غیر ملکی ہیں۔"
لیکن واقعی، [رپورٹس میں کہا گیا ہے] وائٹ ہاؤس کو کچھ ایمیزون محققین کی وجہ سے اس کی اطلاع ملی جنہوں نے مبینہ طور پر Fable 5 کے guardrails کو نظرانداز کرنے کا ایک طریقہ تلاش کیا۔ ایمیزون کے سی ای او اینڈی جسی نے ان خدشات کو وائٹ ہاؤس کے ساتھ اٹھایا، اور یہ وہاں سے ایک طرح سے پھیل گیا۔
شان او کین: یہ سب واقعی تیزی سے منتقل ہوا، خاص طور پر جُمُعَہ کی سہ پہر کے لیے ویک اینڈ میں۔ اور یہ اسی وقت ہے کہ انتظامیہ بظاہر ایران میں شروع ہونے والی جنگ کے لیے کسی نہ کسی معاہدے پر بات چیت کرنے کی کوشش کر رہی تھی۔
ربیکا: نیویارک میں ہمارے لیے جُمُعَہ کی شام۔ وہ ایک خلفشار پسند کرتے ہیں۔
شان: آئیے ایک لمحے کے لیے بہت پیچھے ہٹیں۔ اینتھروپک کا ٹرمپ انتظامیہ کے ساتھ اس طرح سے بہترین رشتہ نہیں رہا ہے جو کہ دیگر سرکردہ AI لیبز سے الگ ہے — میرے خیال میں کم از کم اس کا ایک عنصر یہاں موجود ہے۔
تو کیا آپ کو لگتا ہے کہ اس کا ان دوسری کمپنیوں پر اثر پڑے گا؟ کیا آپ کو لگتا ہے کہ ٹرمپ انتظامیہ ان حریفوں میں سے کسی ایک پر نل بند کرنے کی طرف کم مائل ہوگی؟
انتھونی ہا: یہاں سیاق و سباق کا ایک حصہ یہ ہے کہ آزاد سیکورٹی ماہرین کی رپورٹنگ اور تجزیہ دونوں یہ بتاتے ہیں کہ اینتھروپک سے اصل سیکورٹی خطرہ اتنا منفرد نہیں ہے۔ تو ایسا لگتا ہے کہ اس میں سے بہت کچھ ٹرمپ انتظامیہ اور انتھروپک کے کچھ حصوں سے بہت اچھا لگتا ہے۔ جو بھی خطرات ہیں، وہ چیزیں تناسب سے باہر ہو جائیں گی کیونکہ ایسا لگتا ہے کہ وہ ایک دوسرے کے ساتھ سول فون کال نہیں کر سکتے۔
اگر آپ دوسری کمپنی ہیں - ایک طرف، شاید یہ آپ کے لیے فائدہ مند ہے، کیونکہ آپ کہہ سکتے ہیں، "ٹھیک ہے، ہم صرف ان لوگوں کو ہم سے ناراض نہیں کرتے اور ہم جو چاہتے ہیں وہ کر سکتے ہیں۔" لیکن یہ صرف یہ کہنا کہ "لڑکے، مجھے امید ہے کہ وہ ہم پر پاگل نہیں ہوں گے" کے لیے کوئی بہت بڑا ریگولیٹری منظرنامہ بھی نہیں ہے۔
ربیکا: ایک طرف، یہ یقینی طور پر انتقامی محسوس ہوتا ہے - حکومت کی جانب سے اینتھروپک کو سپلائی چین رسک کا لیبل لگانے کے بعد، ان کے درمیان یہ بڑا مقدمہ چل رہا ہے، ایسا محسوس ہوتا ہے کہ وائٹ ہاؤس صرف انتھروپک کو دبانے کے لیے کسی بہانے کی تلاش میں ہے۔ اور میں ایسا محسوس کرتا ہوں نہ صرف اس لیے کہ یہ میرا ابتدائی ردعمل تھا، بلکہ اس وجہ سے کہ سائبر سیکیورٹی کے بہت سے محققین نے کیا کہا ہے۔ ان کا کہنا ہے کہ اس سے کبھی بھی ایکسپورٹ کنٹرول [آرڈر] کو متحرک نہیں ہونا چاہیے تھا۔ ان سب نے ایک کھلے خط پر دستخط کیے ہیں تاکہ ٹرمپ کو حکم واپس لینے کے لیے کہا جائے، اور ان کا کہنا ہے کہ یہ واقعی خطرناک ہے کہ سائبر سیکیورٹی کی ان جدید صلاحیتوں کو نیٹ ورک کے دفاع کرنے والوں سے یو ایس اینتھروپک نے خود کہا کہ اسی طرح کے کچھ جیل بریک کئی دوسرے AI ماڈلز میں بھی مل سکتے تھے۔ مذموم طور پر، یہ اس طرح ہے: ٹھیک ہے، کیا آپ صرف انتھروپک کو روک رہے ہیں تاکہ دوسرے وہاں تک پہنچ سکیں جہاں انتھروپک تھا؟
لیکن ایک ہی وقت میں، میں نے ایسے ردعمل بھی دیکھے ہیں جو کہ [کہتے ہیں]: انتھروپک قسم کا یہ آنے والا تھا۔ وہ اس طرح ہیں، "یہ کسی کے لیے استعمال کرنا بہت خطرناک ہے، لیکن ہم نہیں، ہم اچھے لوگ ہیں۔" وہ اپنے منہ کے دونوں اطراف سے بات کر رہے ہیں۔ Fable کے سامنے آنے سے ایک ہَفتَہ قبل، وہ [کہہ رہے تھے]، "ارے، ہمیں اے آئی کو سست کرنے کی ضرورت ہے، لوگو۔ یہ واقعی خطرناک ہو رہا ہے۔" لیکن پھر بوم، "یہ ہے ہمارا اب تک کا سب سے زیادہ پاگل، انتہائی طاقتور ماڈل، چلے جاؤ۔"
انتھونی: کچھ طریقوں سے یہ AI کے ارد گرد ہونے والی بہت سی بحث کے ایک مائیکرو کاسم کی طرح محسوس ہوتا ہے، جہاں سیم آلٹ مین اور جینسن ہوانگ جیسے لوگ [کہہ رہے ہیں]، "ارے، آئیے درجہ حرارت کو کم کرنے کی کوشش کریں۔ ہر کوئی ہم پر کیوں پاگل ہے؟" ٹھیک ہے، آپ نے پچھلے دو سال یہ کہتے ہوئے گزارے کہ آپ نے یہ خدا کی مشین بنائی ہے جو ہر کسی سے ملازمتیں چھین لے گی۔ یہ بالکل کوئی جھٹکا نہیں ہے کہ لوگ اس کے بارے میں اچھا محسوس نہیں کرتے ہیں۔
اور خاص طور پر Mythos کے بارے میں Anthropic کے بات کرنے کے طریقے کے بارے میں کچھ ہے، جہاں وہ اس طرح ہیں، "یہ اب تک کا سب سے ناقابل یقین حد تک طاقتور ماڈل ہے، اسے عوام کے لیے جاری کرنا بہت خطرناک ہے۔" اور اسی طرح کسی سطح پر، [آپ کہتے ہیں،] "ٹھیک ہے، ٹھیک ہے، چلیں کہ ہم اسے سنجیدگی سے لیتے ہیں۔ اس کا مطلب ہے کہ اس کے ارد گرد جانچ کی ایک ناقابل یقین سطح ہونے والی ہے۔"
اور مجھے حیرت ہے - ایسا لگتا ہے کہ انتھروپک اس سے خوش نہیں ہے۔ میں اس بارے میں محتاط رہنا چاہتا ہوں کہ یہ ان کے لیے کس طرح فائدہ مند ہو سکتا ہے۔ لیکن ہم نے اس حقیقت کو اجاگر کرنے کے لیے ریمپ کے تجزیے کے بارے میں کچھ کہانیاں بھی چلائیں کہ Anthropic اور ٹرمپ انتظامیہ کے درمیان آخری بڑا دھچکا کم از کم کچھ طریقوں سے کمپنی کے لیے اچھا تھا۔ کلاڈ کے ڈاؤن لوڈز بڑھ گئے۔ میرے خیال میں بہت سارے لوگ جنہوں نے ChatGPT کو پہلے چیٹ بوٹ، AI اسسٹنٹ کے طور پر سوچا تھا، اچانک وہ کلاڈ کی طرف دیکھ رہے تھے کہ شاید زیادہ ذمہ دار، زیادہ "مزاحمت" والا۔
اور اسی طرح، [جبکہ] انتھروپک اس بارے میں بہت زیادہ زور دے رہے ہیں، یہ ایک بار پھر، ان کے ماڈلز کو مزید طاقتور بنا سکتا ہے۔
ربیکا: ضرور۔ "ہم بہت خطرناک ہیں۔" ہر کوئی ایک برے لڑکے سے محبت کرتا ہے، ٹھیک ہے؟ ہر کوئی پسند کرتا ہے، "یہ سب سے طاقتور ماڈل ہے، یہاں تک کہ ٹرمپ بھی ایسا کہتے ہیں۔ یقینا، مجھے اس پر ہاتھ اٹھانا پڑے گا۔"
