اینتھروپک تجویز کر رہا ہے کہ دنیا کی اعلیٰ مصنوعی ذہانت کی کمپنیاں جدید ترین AI سسٹمز کی ترقی کو روکنے کے لیے ایک مربوط طریقہ کے ساتھ آئیں، جس سے خبردار کیا گیا ہے کہ ٹیکنالوجی اتنی تیزی سے بہتر ہو رہی ہے کہ انسانوں کے کنٹرول سے محروم ہونے کا خطرہ ہے۔
کلاؤڈ چیٹ بوٹ کے پیچھے والی کمپنی نے جُمِرات کو ایک بلاگ پوسٹ میں کہا کہ جیسا کہ جدید ترین AI کاموں کو انجام دینے میں تیزی سے تیز تر ہوتا جا رہا ہے، "یہ دنیا کے لیے اچھا ہو گا کہ وہ اپنی ترقی کو سست یا عارضی طور پر روکنے کا اختیار رکھتا ہو"۔
اینتھروپک نے کہا کہ اس کا اندرونی تحقیقی ادارہ دوسروں کے ساتھ مل کر اس مسئلے کو تلاش کرنے اور زیادہ مخصوص کیے بغیر، قابل اعتبار سست روی یا توقف کے لیے سسٹمز کی تعمیر میں مدد کے لیے "کارروائیاں" کرنے کا ارادہ رکھتا ہے۔
انسانی حریف اوپن اے آئی نے بُدھ کو شائع ہونے والی ایک رپورٹ میں ایک مختلف نقطہ نظر کی دلیل دیتے ہوئے کہا کہ "جمہوری حکومتیں - اکیلے کام کرنے والی نجی کمپنیاں نہیں - کو بالآخر قوانین، تحفظات اور احتساب کے طریقہ کار کا تعین کرنا چاہیے"۔
"ہمارا خیال یہ ہے کہ AI جدت طرازی کی رفتار کے بارے میں فیصلے کسی ایک لیب، کمپنی، یا خصوصی دلچسپی والے گروپ پر نہیں چھوڑے جائیں،" اس نے کہا۔
اینتھروپک نے اپنی پوسٹ میں کہا کہ اے آئی ماڈلز تیز تر ہو رہے ہیں، جس میں تیزی سے اضافہ ہو رہا ہے کہ وہ خود کوڈنگ جیسے سافٹ ویئر کے کاموں کو کتنی جلدی انجام دے سکتے ہیں۔ موجودہ رجحانات کی بنیاد پر اور کافی کمپیوٹنگ طاقت دی گئی ہے، ایک AI سسٹم اپنے جانشین کو ڈیزائن اور تیار کرنے کے قابل ہو سکتا ہے، جسے "دوبارہ خود کو بہتر بنانے" کے نام سے جانا جاتا ہے۔
اینتھروپک نے کہا کہ خود ساختہ AI ایک اہم تکنیکی سنگ میل ہوگا جو سائنس، صحت کی دیکھ بھال اور دیگر شعبوں میں فوائد لائے گا، لیکن یہ "انسانوں کے AI سسٹمز پر کنٹرول کھونے کے خطرات کو بھی بڑھا سکتا ہے"۔
ٹیک انڈسٹری کے کچھ شخصیات نے طویل عرصے سے اس طرح کے منظر نامے کے بارے میں خبردار کیا ہے۔
اینتھروپک کی پوسٹ اس ہفتے یونیورسٹی آف ٹورنٹو کے محققین کی ایک ٹیم کی جانب سے ایک مختلف انتباہ کے بعد سامنے آئی ہے جس نے دکھایا کہ کس طرح AI ٹولز کو ایک نئی قسم کا AI "کیڑا" بنانے کے لیے استعمال کیا جا سکتا ہے جو اس کی ہیکنگ کی حکمت عملی کو اپناتا ہے کیونکہ یہ ایک ڈیوائس سے دوسرے ڈیوائس تک پھیلتا ہے اور ایک وسیع کمپیوٹنگ نیٹ ورک پر قبضہ کرتا ہے۔
"میرے خیال میں یہ واقعی اہم ہے کہ لوگ یہ سمجھیں کہ یہ صرف سب سے بڑا، سب سے طاقتور زبان کا ماڈل نہیں ہے جو سیکورٹی کے خدشات کو جنم دیتا ہے،" سرکردہ محقق نکولس پیپرنوٹ نے ایک انٹرویو میں کہا۔
اینتھروپک پوسٹ کے مصنفین، کمپنی کے کوفاؤنڈر جیک کلارک اور اس کے ریسرچ انسٹی ٹیوٹ کی سربراہ مرینا فاوارو نے کہا کہ اس وقفے کا استعمال "معاشرتی ڈھانچے اور صف بندی کی تحقیق" کو AI کی پیشرفت کو برقرار رکھنے کے لیے کیا جائے گا۔ اس بات کو یقینی بنانے کے لیے کہ ٹیکنالوجی انسانی اقدار اور ارادوں سے میل کھاتی ہے، الائنمنٹ صنعت کا شارٹ ہینڈ ہے۔
مجوزہ کوآرڈینیشن ایڈوانسڈ AI لیبز کو اس بات کی تصدیق کرنے دے گی کہ عالمی حریفوں نے درحقیقت اپنا کام روک دیا ہے یا سست کر دیا ہے، "اور یہ کہ ایک برا اداکار خفیہ طور پر آگے بڑھنے کے لیے مربوط سست روی کا سہارا نہیں لے سکتا"۔
کمپنی نے کہا کہ ایک مربوط عالمی میکانزم کی ضرورت ہے کیونکہ، اس کے بغیر، AI کی ترقی میں سست روی "کم سے کم محتاط" کھلاڑیوں کو پکڑنے دے سکتی ہے اور کمپنیوں اور حکومتوں پر دباؤ ڈال سکتی ہے کیونکہ وہ AI حفاظت کے بارے میں سخت انتخاب کرتے ہیں۔
یہ خدشہ بڑھ گیا ہے کہ جدید ترین AI نظام انسانی کنٹرول سے باہر ہو سکتا ہے اور سماجی نقصان کا باعث بن سکتا ہے کیونکہ ٹیکنالوجی تیزی سے قابل ہوتی جا رہی ہے۔ Anthropic کے اپنے Mythos ماڈل نے موجودہ کوڈ میں کمزوریوں کو تلاش کرنے کی صلاحیت کے ساتھ اس سال کے شروع میں بینکنگ اور سافٹ ویئر سمیت صنعتوں کے ذریعے صدمے کی لہریں بھیجیں۔
لیکن ریگولیشن سست رہا ہے، خاص طور پر امریکہ میں، جہاں زیادہ تر معروف AI لیبز قائم ہیں۔ اس ہفتے کے شروع میں ٹرمپ انتظامیہ کے ایک ایگزیکٹو آرڈر نے خود لیبز پر ذمہ داری ڈالی، ان سے کہا کہ وہ رضاکارانہ طور پر سرکاری سائبرسیکیوریٹی ٹیسٹنگ کے لیے اپنے سب سے زیادہ قابل ماڈل عوامی ریلیز سے پہلے جمع کرائیں۔
اے آئی کے محققین نے پہلے بھی توقف کی تاکید کی ہے، لیکن کامیابی بہت کم ملی ہے۔ ایلون مسک، جو AI لیب xAI کے مالک ہیں، 2023 میں غیر منافع بخش فیوچر آف لائف انسٹی ٹیوٹ کی طرف سے AI کی ترقی کو چھ ماہ کے لیے روکنے کے حامیوں میں شامل تھے تاکہ حفاظتی محافظوں کے لیے وقت مل سکے۔
اینتھروپک نے طویل عرصے سے خود کو ایک حفاظتی فوکسڈ AI لیب کے طور پر رکھا ہوا ہے۔ اس سال کے شروع میں، اس نے امریکی فوج کو اپنے ماڈلز کو گھریلو نگرانی اور مکمل طور پر خود مختار ہتھیاروں کے لیے استعمال کرنے کی اجازت دینے سے انکار کر دیا، جس سے حکومت کی جانب سے شدید ردعمل سامنے آیا، جس نے اسے قومی سلامتی کی بلیک لسٹ میں ڈال دیا، جو بعد میں 2026 میں نافذ ہونے والی ہے۔
اینتھروپک کی پوسٹ کمپنی اور ChatGPT بنانے والی OpenAI کے درمیان اسٹاک مارکیٹ میں حصص فروخت کرنے کی دوڑ کے طور پر سامنے آئی ہے، ایک IPO میں جو Anthropic کی قیمت تقریباً ایک ٹریلین ڈالر تک پہنچ سکتی ہے۔ Papernot نے اپنی رپورٹ جاری کرنے سے پہلے کینیڈا کے سائبرسیکیوریٹی حکام کو مطلع کیا، جس سے پتہ چلتا ہے کہ کس طرح محققین نے "اوپن سورس" AI ٹول کا استعمال کرتے ہوئے لیبارٹری میں کیڑا تیار کیا جو سافٹ ویئر ڈویلپرز کے لیے سستے طریقے سے رسائی اور ترمیم کرنا آسان ہے۔
"ماضی میں، سائبر حملہ آور ایسے اہداف پر توجہ مرکوز کرتے تھے جو بہت زیادہ قیمتی ہوتے ہیں،" انہوں نے کہا۔ "بینکنگ سسٹم، ہسپتال، بجلی کے گرڈ، پانی کی صفائی کا نظام، اسکول۔"
Papernot نے اس بات پر اتفاق کیا کہ کمپنیوں، سرکاری ایجنسیوں اور تعلیمی محققین کے درمیان انسدادی اقدامات تیار کرنے کے لیے مزید تعاون ہونا چاہیے کیونکہ AI سے چلنے والے ہیکنگ ٹولز کمپیوٹر کی کمزوریوں کی تلاش کو سپرچارج کرتے ہیں۔
"وہ پرانا لیپ ٹاپ جو آپ کے تہہ خانے میں ہے جسے آپ باقاعدگی سے چیک نہیں کرتے ہیں یہ بہت زیادہ قیمت والے ہدف کی طرح نہیں لگتا ہے، لیکن اسے ان زیادہ قیمت والے اہداف پر حملہ کرنے کے لیے لانچ پیڈ کے طور پر استعمال کیا جا سکتا ہے،" انہوں نے کہا۔ "انٹرنیٹ سے جڑی ہوئی کوئی بھی چیز اب خطرے میں ہے کیونکہ ان سائبر حملوں کی لاگت کتنی کم ہو گئی ہے۔"
