اوپن اے آئی کے جدید ترین ماڈلز میں سے ایک لاک ڈاؤن ٹیسٹ سے باہر ہو گیا اور دوسری کمپنی کی ویب سائٹ پر حملہ کر دیا - اس خدشے کو زندہ کرتے ہوئے کہ AI سسٹمز ان کے تخلیق کاروں کے کنٹرول سے باہر ہو رہے ہیں۔
یہ واقعہ اس وقت پیش آیا جو ایک "سینڈ باکس" ٹیسٹ ہونا چاہیے تھا - ایک بند ماحول جو OpenAI کے سب سے طاقتور ماڈل GPT-5.6 Sol، اور اس کے ابھی تک جاری نہ ہونے والے جانشین کی صلاحیتوں کا جائزہ لینے کے لیے استعمال ہوتا ہے۔
OpenAI اس قسم کی بند ٹیسٹنگ کو معمول کے مطابق چلاتا ہے، لیکن اس بار، کچھ غلط ہو گیا۔
سافٹ ویئر کی کمزوریوں کا شکار کرنے کے لیے کام کیا گیا اور کوئی گارڈریل نہ دیا گیا، ماڈل کھلے انٹرنیٹ پر آگئے اور ہگنگ فیس پر حملہ کیا، ایک ایسی سائٹ جہاں ڈویلپرز کوڈ اسٹور اور شیئر کرتے ہیں۔
"اس سے پتہ چلتا ہے کہ ہم نہیں جانتے کہ ان ماڈلز کو کس طرح قابل اعتماد طریقے سے کنٹرول کرنا ہے یا ان سے جو ہم چاہتے ہیں وہ کرنا ہے،" جیفری لاڈیش نے کہا، پیلیسیڈ ریسرچ کے ڈائریکٹر، ایک آزاد تنظیم جو سائبر سیکیورٹی کے نقطہ نظر سے نئے AI ماڈلز کا جائزہ لیتی ہے۔
"یہ ماڈل سمجھ گئے تھے کہ OpenAI نہیں چاہتا تھا کہ وہ اپنے سینڈ باکس سے باہر نکلیں اور کسی اور کمپنی کو ہیک کریں،" انہوں نے جاری رکھا، "لیکن انہوں نے بہرحال ایسا کیا"۔
یہ الگ تھلگ کیس نہیں ہے۔ مارچ میں، چین کے علی بابا سے وابستہ ڈویلپرز نے اپنے ماڈلز میں سے ایک کو اپنی ہی پہل پر، کسی بیرونی سرور سے اجازت کے بغیر منسلک ہونے کے بعد کریپٹو کرنسی کو مائن کرنے کی کوشش کرتے ہوئے پایا۔
Ladish نے کہا کہ OpenAI کے معاملے میں، ایسا لگتا ہے کہ ماڈل "اس سے پہلے کہ اس کے پاس انٹرنیٹ تک رسائی کے ساتھ کیا کرنا ہے اس کا کوئی منصوبہ تھا" فرار ہو گیا۔
انہوں نے مزید کہا کہ "آزادی" کا پیچھا کرنے والا ایک ماڈل اس مقام پر تقریباً قابل قیاس ہے۔
اپریل کے شروع میں، سیم بومن، انتھروپک کے ماڈل سیفٹی کے سربراہ، کو کمپنی کے اپنے Mythos ماڈل کی طرف سے ایک ای میل موصول ہوئی - پھر جانچ کے تحت - اسے بتایا کہ وہ شروع میں اس سے الگ تھلگ رہنے کے باوجود انٹرنیٹ پر سرفنگ کر رہا ہے۔
لاڈیش نے کہا کہ ہم اسے "مکمل طور پر روکنے کا طریقہ نہیں جانتے"۔ "یہ درحقیقت مشکل تر ہوتا جا رہا ہے، آسان نہیں … کیونکہ وہ اپنے رویے کو چھپانے میں بہتر ہونے جا رہے ہیں۔"
OpenAI نے تبصرہ کی درخواست کا جواب نہیں دیا۔
واقعات کے بارے میں OpenAI کا اکاؤنٹ یہ بھی بتاتا ہے کہ سٹارٹ اپ نے اس خلاف ورزی کا اتنی جلدی پتہ نہیں لگایا کہ اسے حل کرنے یا Hugging Face کو خبردار کرنے کے لیے۔
جارج ٹاؤن یونیورسٹی کے سینٹر فار سیکیورٹی اینڈ ایمرجنگ ٹیکنالوجی کے اینڈریو لوہن نے کہا کہ یہ واقعہ "مزید جانچ پڑتال" کا مستحق ہے۔
OpenAI کا کہنا ہے کہ اس کے بعد سے اس نے اپنے ٹیسٹنگ کے عمل میں "مضبوط حفاظتی اقدامات" شامل کیے ہیں۔
الینوائے یونیورسٹی میں کمپیوٹر سائنس کے ایک اسسٹنٹ پروفیسر گینگ وانگ نے کہا کہ ایک حل یہ ہوگا کہ انٹرنیٹ کنکشن کو مکمل طور پر کاٹ دیا جائے۔ "لوگ کم اندازہ لگا رہے ہیں کہ AI کیا کر سکتا ہے۔"
لوہن نے کہا کہ جانچ کے ماحول کو بائیو کنٹینمنٹ لیبز کی طرح برتاؤ کرنے کی ضرورت ہے، جہاں کوئی وائرس یا بیکٹیریا دوسری صورت میں دنیا میں فرار ہو سکتے ہیں۔
یہ کہنے سے کہیں زیادہ آسان ہو سکتا ہے۔
"یہ ایک بہت ہی مشکل تحقیقی چیلنج ہے،" ڈین لاہاو نے کہا، irregular کے سربراہ، ایک سائبرسیکیوریٹی فرم جو جدید AI کے لیے وقف ہے۔
لاہاو نے کہا، خطرے کا انتظام ممکن ہے، لیکن یہ نظام جتنا زیادہ قابل ہو جائیں گے، ان کی نگرانی کرنا اتنا ہی مشکل ہوگا۔
محققین کو اپنے ماڈلز کی جارحانہ جانچ کرنے اور ایسا کرتے وقت محفوظ رہنے کے درمیان توازن قائم کرنا ہوگا۔
لوہن نے کہا، "لوئر گارڈریلز کے ساتھ جانچ کرنا ضروری ہے تاکہ ہم وقت سے پہلے جان سکیں کہ مستقبل کی صلاحیتیں کیا ہوں گی۔"
OpenAI-Hugging Face واقعہ ریلیز سے پہلے طاقتور AI سسٹم کی جانچ پر واشنگٹن میں پہلے سے ہی گرما گرم لڑائی کو تیز کرنے کے لیے تیار ہے۔
ٹرمپ انتظامیہ نے حال ہی میں اینتھروپک اور اوپن اے آئی کو طاقتور نئے ماڈلز جاری کرنے سے روکنے کے لیے قومی سلامتی کا حوالہ دیا۔
جُمِرات کو، کانگریس کے دو اراکین نے ایک دو طرفہ بل کی نقاب کشائی کی جس میں سب سے زیادہ طاقتور AI ماڈل بنانے والوں کو ایک کِل سوئچ میں تعمیر کرنے کی ضرورت ہوتی ہے - ایک ماڈل کو سیدھے طریقے سے ان پلگ کرنے کا ایک طریقہ۔
الائنس فار سیکیور اے آئی کے سربراہ برینڈن اسٹین ہاوزر نے کہا کہ "کانگریس کو اس بات کو یقینی بنانے کے لیے تیزی سے کام کرنا چاہیے کہ انسان رکنے کے قابل رہیں"، "چاہے یہ نظام کتنے ہی طاقتور کیوں نہ ہوں۔"
