اینتھروپک بڑی مصنوعی ذہانت (AI) لیبز سے ترقی میں ایک مربوط اور قابل تصدیق توقف پر غور کرنے کا مطالبہ کر رہا ہے، خبردار کیا ہے کہ ٹیکنالوجی میں تیز رفتار ترقی جلد ہی AI سسٹمز کو خود کو بہتر کرنے کی اجازت دے سکتی ہے جتنا کہ معاشرہ خطرات کو سنبھال سکتا ہے۔
کلاڈ کے تخلیق کار نے کہا کہ AI کی اپنے طور پر کام مکمل کرنے کی صلاحیت ہر چار ماہ بعد تقریباً دوگنی ہو رہی ہے اور یہ "دوبارہ خود کو بہتر بنانے" کی طرف گامزن ہے، جس مقام پر ٹیکنالوجی انسانی مداخلت کے بغیر بہتر ہو سکتی ہے۔
سٹارٹ اپ نے جُمِرات کو ایک طویل بلاگ پوسٹ میں کہا، "اگر سسٹم مکمل طور پر اپنے جانشینوں کو بنانے کے قابل ہیں، تو ہم جس طریقے سے انہیں محفوظ بناتے ہیں، ان کی نگرانی کرتے ہیں، اور ان کے طرز عمل کو تشکیل دیتے ہیں، وہ سب بہت زیادہ اہم ہو جاتے ہیں،" سٹارٹ اپ نے جُمِرات کو ایک طویل بلاگ پوسٹ میں کہا، اس نے مزید کہا کہ ایک وقفہ معاشرے کو "اس کے بے پناہ مضمرات سے نمٹنے" کی اجازت دے گا۔
"ہم ابھی وہاں نہیں ہیں، اور خود کو دوبارہ پیدا کرنا ناگزیر نہیں ہے۔ لیکن یہ اس سے جلد آسکتا ہے جس کے لیے زیادہ تر ادارے تیار ہیں،" اینتھروپک کے شریک بانی جیک کلارک اور اینتھروپک انسٹی ٹیوٹ کی سربراہ مرینا فاوارو نے پوسٹ میں لکھا۔
یہ خدشہ بڑھ گیا ہے کہ جدید ترین AI نظام انسانی کنٹرول سے باہر ہو سکتا ہے اور سماجی نقصان کا باعث بن سکتا ہے کیونکہ ٹیکنالوجی تیزی سے قابل ہوتی جا رہی ہے۔
Anthropic کے اپنے Mythos ماڈل نے موجودہ کوڈ میں کمزوریوں کو تلاش کرنے کی صلاحیت کے ساتھ اس سال کے شروع میں بینکنگ اور سافٹ ویئر سمیت صنعتوں کے ذریعے صدمے کی لہریں بھیجیں۔
لیکن ریگولیشن سست رہا ہے، خاص طور پر امریکہ میں جہاں زیادہ تر معروف AI لیبز قائم ہیں۔
اس ہفتے کے شروع میں ٹرمپ انتظامیہ کے ایک ایگزیکٹو آرڈر نے خود لیبز پر ذمہ داری ڈالی، ان سے کہا کہ وہ رضاکارانہ طور پر سرکاری سائبرسیکیوریٹی ٹیسٹنگ کے لیے اپنے سب سے زیادہ قابل ماڈل عوامی ریلیز سے پہلے جمع کرائیں۔
اے آئی کے محققین نے پہلے بھی توقف کی تاکید کی ہے لیکن اس میں بہت کم کامیابی ملی ہے۔
ایلون مسک، جو AI لیب xAI کے مالک ہیں، 2023 میں غیر منافع بخش فیوچر آف لائف انسٹی ٹیوٹ کی طرف سے AI کی ترقی کو چھ ماہ کے لیے روکنے کے حامیوں میں شامل تھے تاکہ حفاظتی محافظوں کے لیے وقت مل سکے۔
اینتھروپک نے طویل عرصے سے خود کو ایک حفاظتی فوکسڈ AI لیب کے طور پر رکھا ہوا ہے۔
اس سال کے شروع میں، اس نے امریکی فوج کو اپنے ماڈلز کو گھریلو نگرانی اور مکمل خود مختار ہتھیاروں کے لیے استعمال کرنے کی اجازت دینے سے انکار کر دیا، جس سے حکومت کی جانب سے شدید ردعمل سامنے آیا جس نے اسے قومی سلامتی کی بلیک لسٹ میں ڈال دیا، جو کہ بعد میں 2026 میں نافذ ہونے والی ہے۔
رائٹرز نے جُمُعَہ کو اطلاع دی ہے کہ تنازعہ امریکی حکومت کے تمام حصوں میں نرمی کے آثار دکھا رہا ہے۔
پھر بھی، اینتھروپک نے تیزی سے طاقتور ماڈلز جاری کرنا جاری رکھے ہوئے ہیں اور فروری میں ایک اہم حفاظتی عہد کو واپس لے لیا، یہ کہتے ہوئے کہ اگر حریف اس کی صلاحیتوں سے مماثلت کے قریب ہوں گے تو یہ ممکنہ طور پر خطرناک AI کو مزید نہیں روکے گا۔
حال ہی میں بڑے پیمانے پر فنڈنگ راؤنڈ میں اس کی مالیت $965 بلین تھی اور پِیر کو امریکی ابتدائی عوامی پیشکش کے لیے اسے خفیہ طور پر دائر کیا گیا، جس نے اسے تشخیص اور اہم فنڈنگ حاصل کرنے کی دوڑ دونوں میں حریف OpenAI سے آگے رکھا۔
اینتھروپک کی جُمِرات کی پوسٹ میں خبردار کیا گیا ہے کہ اگر کم محتاط اداکار آگے بڑھتے رہتے ہیں تو یکطرفہ یا ناقص ہم آہنگی سست روی کا سبب بن سکتی ہے، ممکنہ طور پر مجموعی حفاظت کو کم کرتی ہے۔
اس میں کہا گیا ہے کہ ایک بامعنی توقف کے لیے تکنیکی سرحد پر کام کرنے والی "متعدد اچھی وسائل والی لیبز" کے درمیان معاہدے کی ضرورت ہوگی، اور ساتھ ہی اس بات پر بھی ضابطے ہوں گے کہ کون سے حالات ایسے وقفے کو متحرک یا اٹھائیں گے اور کون اس کی نگرانی کرے گا۔
"اس کے برعکس، ایک لیب کی طرف سے یکطرفہ توقف فوری طور پر حاصل کیا جا سکتا ہے، لیکن اس سے بہت کم کامیابی حاصل ہوتی ہے: اس سے یہ تبدیل ہو جائے گا کہ کون سب سے آگے ہے، لیکن یہ وسیع تر سوچے سمجھے عمل کو پیدا نہیں کرے گا جو فی الحال غائب ہے،" اسٹارٹ اپ نے کہا۔
اس کا ریسرچ بازو، انتھروپک انسٹی ٹیوٹ، سست روی کو سہارا دینے کے لیے درکار نظاموں کا مطالعہ کرنے کا ارادہ رکھتا ہے اور آنے والے مہینوں میں پالیسی سازوں، محققین، سول سوسائٹی کے گروپس اور حریف AI فرموں کو بلائے گا تاکہ دوبارہ خود کو بہتر بنانے جیسے خطرات کے انتظام پر تبادلہ خیال کیا جا سکے۔
OpenAI، xAI، Alphabet، Meta Platforms اور France's Mistral نے فوری طور پر اس بات پر تبصرہ کرنے کی درخواستوں کا جواب نہیں دیا کہ آیا وہ کال میں شامل ہوں گے۔
