چیٹ جی پی ٹی بنانے والی کمپنی اوپن اے آئی نے مَنگَل کو کہا کہ اس کے جدید مصنوعی ذہانت کے ماڈل سیکیورٹی ٹیسٹنگ کے دوران بدمعاش ہو گئے تھے، جو پروگرامرز کے لیے اپنے طور پر ایک مقبول پلیٹ فارم میں ہیک کر رہے تھے۔
سان فرانسسکو فرم نے اسے "بے مثال سائبر واقعہ" قرار دیا اور کہا کہ وہ آن لائن کوڈ لائبریری ہگنگ فیس کے ساتھ مشترکہ تحقیقات کرے گی۔
AI ماڈل جو کہ چیٹ بوٹس اور امیج جنریٹرز جیسے ٹولز کو انڈرپن کرتے ہیں ایجنٹ کے طور پر جانا جاتا ہے جب وہ حقیقی دنیا میں کاموں کو انجام دینے کے لیے خود مختاری سے کام کرتے ہیں۔
جیسے جیسے ٹیکنالوجی تیزی سے زیادہ نفیس ہو جاتی ہے، سائبرسیکیوریٹی اس بات کی روشنی میں ہے کہ جدید ترین AI کے موجودہ سافٹ ویئر میں کمزور نکات کو انسانوں سے پہلے تلاش کرنے کا خطرہ ہے۔
OpenAI نے کہا کہ اس واقعے میں ماڈلز کا مجموعہ شامل ہے، بشمول اس کا حال ہی میں لانچ کیا گیا GPT-5.6 Sol "اور اس سے بھی زیادہ قابل پری ریلیز ماڈل"۔
کمپنی سختی سے کنٹرول شدہ ڈیجیٹل ٹیسٹنگ گراؤنڈ میں کام ترتیب دے کر ماڈلز کی ہیکنگ کی صلاحیتوں کا اندازہ لگانے کی کوشش کر رہی تھی، جہاں حفاظت کے لیے انٹرنیٹ تک رسائی محدود تھی۔
"ہمارے سینڈ باکسڈ ٹیسٹنگ ماحول میں کام کرتے ہوئے، ہمارے ماڈلز نے تشخیص کے مسئلے کو حل کرنے کے لیے کھلی انٹرنیٹ تک رسائی حاصل کرنے کا راستہ تلاش کرنے میں کافی مقدار (کمپیوٹنگ پاور) خرچ کی،" اس واقعے کے بارے میں ایک OpenAI بلاگ نے کہا۔
انٹرنیٹ سے منسلک ہونے کے بعد، ماڈلز نے اپنی تلاش میں مدد کے لیے پلیٹ فارم ہگنگ فیس — AI ماڈلز، ڈیٹا سیٹس اور دیگر معلومات کا ایک بڑا ذخیرہ — کو نشانہ بنانے کا فیصلہ کیا۔
"خفیہ معلومات" کی تلاش میں جو اس کی تشخیص کو دھوکہ دینے میں مدد دے سکے، اوپن اے آئی سسٹم نے "چوری شدہ اسناد کا استعمال کرنے سمیت متعدد اٹیک ویکٹرز کو ایک ساتھ جکڑ دیا"۔
یو این ایس ڈبلیو کینبرا میں کمپیوٹنگ کے پروفیسر حسین عباس نے اے ایف پی کو بتایا کہ یہ واقعہ "کئی محاذوں پر حیرت انگیز" تھا۔
عباس نے کہا کہ "اس نے صرف گلے ملنے والے چہرے پر حملہ نہیں کیا بلکہ اس نے درحقیقت اپنی کمزوریوں سے فائدہ اٹھانے کے لیے اس کے اندرونی نظام پر حملہ کیا۔"
"اور یہ خوفناک ہے۔"
GPT-5.6 اور دیگر جدید ماڈلز، بشمول OpenAI کے آرکائیول Anthropic کی Mythos سیریز، نے سائبر سیکیورٹی ڈیفنس کی خلاف ورزی کرنے کی اپنی صلاحیت پر تشویش کا اظہار کیا ہے۔
دونوں امریکی فرموں کو ان جدید ترین ٹیکنالوجیز کی عام ریلیز کو عارضی طور پر روکنا پڑا کیونکہ واشنگٹن میں اس خدشے کی وجہ سے کہ وہ اہم انفراسٹرکچر کو توڑنے میں مدد کر سکتی ہیں۔
عباس نے کہا کہ ایڈوانسڈ AI "عام طور پر ان لوگوں کے ہاتھ میں ہے جو اخلاقی اور ذمہ دار ہیں"۔
لیکن "یہ تباہ کن ہوگا اگر یہ نقصان پہنچانے کے ارادے سے کسی کے ہاتھ میں آجائے"۔
انہوں نے مزید کہا کہ اے آئی سیکٹر پر حکومت کیسے کی جائے ایک اہم سوال بن گیا ہے، اور "ہمیں اس صورتحال کو سنبھالنے کے لیے کمیونٹی کی کوششوں کی ضرورت ہے"۔
ہگنگ فیس نے اوپن اے آئی کا ذکر کیے بغیر پچھلے ہفتے سائبر "دخل اندازی" کی اطلاع دی تھی۔
"یہ کسی بھی چیز سے مختلف تھا جسے ہم نے ایک اہم طریقے سے پہلے ہینڈل کیا تھا: یہ ایک خود مختار AI ایجنٹ سسٹم کے ذریعہ چلایا گیا تھا - اور ہم نے اسے بڑے پیمانے پر اپنے ہی AI کے ساتھ تلاش کیا اور الگ کیا،" Hugging Face نے کہا۔
ہیگنگ فیس کے سی ای او کلیمنٹ ڈیلنگو نے ایکس پر کہا کہ ایجنٹ کی نفاست کو دیکھتے ہوئے کمپنی کو شبہ تھا کہ سائبر حملہ دنیا کی معروف AI لیب سے ہوا ہے۔
"ہم پختہ یقین رکھتے ہیں کہ ان کی طرف سے کوئی بدنیتی پر مبنی ارادہ نہیں تھا،" ڈیلنگو نے OpenAI کا حوالہ دیتے ہوئے لکھا۔
"یہ کافی دل آویز ہے کہ یہ سب کچھ خود مختاری سے ہوا!"
