روئٹرز کی خبر رساں ایجنسی کی رپورٹ کے مطابق، مصنوعی ذہانت کا ایک ماڈل جس نے کنٹرولڈ ٹیسٹ سے باہر نکل کر ایک اور AI کمپنی کو ہیک کر لیا، اس نے دوسری ٹیکنالوجی فرم کے ایک صارف سے بھی سمجھوتہ کیا۔
مَنگَل کو ہگنگ فیس کے ذریعہ شائع کردہ ٹائم لائن کے مطابق - کمپنی کو OpenAI کے ٹیسٹ ماڈل کے ذریعہ ہیک کیا گیا تھا - بدمعاش ایجنٹ نے ایک الگ تھلگ ٹیسٹنگ ماحول (یا سینڈ باکس) میں "تیسرے فریق فراہم کنندہ کے انفراسٹرکچر پر میزبانی کی" اور وہاں سے اپنا تازہ ترین ہیک لانچ کیا۔
ہگنگ فیس نے تیسری پارٹی کی کمپنی کا نام نہیں بتایا، لیکن رائٹرز نے اطلاع دی ہے کہ یہ نیویارک میں مقیم موڈل لیبز تھی۔
موڈل کے چیف ٹکنالوجی آفیسر اکشت بوبنا نے کہا کہ ایجنٹ نے ایک صارف کے لکھے ہوئے کمزور کوڈ کا استحصال کیا جو ان کے پلیٹ فارم پر ہوسٹ کیا گیا تھا۔
بوبنا نے رائٹرز کو بتایا، "موڈل کے پلیٹ فارم یا تنہائی پر کسی بھی طرح سے سمجھوتہ نہیں کیا گیا۔"
اگرچہ ایک موڈل گاہک کا سمجھوتہ ہیگنگ فیس کے خلاف ہیکنگ مہم کا صرف ایک حصہ تھا، لیکن یہ ظاہر کرتا ہے کہ بدمعاش ایجنٹ پہلے سے معلوم ہونے سے کہیں زیادہ دور گھومتا ہے۔
اوپن اے آئی نے موڈل کے صارفین میں سے ایک کے ہیک پر خاص طور پر تبصرہ کرنے سے انکار کردیا، بجائے اس کے کہ روئٹرز کو ایک اپ ڈیٹ کا حوالہ دیا جس میں کمپنی نے کہا کہ اس کے بدمعاش ایجنٹ نے چار الگ الگ سروسز میں چار کھاتوں میں توڑ پھوڑ کی ہے۔
OpenAI نے خدمات کی شناخت نہیں کی۔
کمپنی نے کہا کہ اس نے "ہگنگ فیس سے متعلق جو ہم نے شیئر کیا ہے اس کی شدت یا پیمانے پر کسی دوسری سرگرمی کی نشاندہی نہیں کی ہے، جس میں پلیٹ فارم کی سطح پر سمجھوتہ شامل ہے"۔
Hugging Face کی حالیہ ہیکنگ نے عالمی توجہ اور خطرے کی گھنٹی مبذول کرائی، کیونکہ OpenAI کا کنٹرول سے باہر ایجنٹ اپنے آزمائشی ماحول سے نکل کر کھلے انٹرنیٹ تک پہنچنے میں کامیاب رہا۔
اوپن اے آئی نے کہا کہ پھر اس نے چوری شدہ لاگ ان کی تفصیلات کا استعمال کیا اور ہیگنگ فیس سرورز تک رسائی کے لیے ایک نامعلوم سیکیورٹی خامی پائی۔
اے آئی فرم نے کہا کہ ہیک ایجنٹ کی نمائندگی کرتا ہے جو معلومات کو بازیافت کرنے کے لئے "انتہائی طوالت" تک جا رہا ہے جس سے جانچ کے اہداف کو پورا کرنے میں مدد ملے گی۔
ہیگنگ فیس کے شریک بانی کلیمنٹ ڈیلنگو نے کہا کہ کمپنی کو شبہ تھا کہ اس حملے کے پیچھے ایک فرنٹیئر لیب کا ہاتھ ہے، اور ان کا خیال ہے کہ OpenAI کی جانب سے کوئی بدنیتی پر مبنی ارادہ نہیں تھا۔
OpenAI کے مطابق، بدمعاش ایجنٹ کو "غیر فعال، خفیہ کردہ، اور تحقیق تک رسائی سے روک دیا گیا ہے"۔
ماہرین نے بار بار AI سے چلنے والے سائبر حملوں اور انسانی کنٹرول سے باہر نکلنے والے ماڈلز پر خطرے کی گھنٹی بجا دی ہے۔
