OpenAI کا GPT 5.6 Sol اپنے کنٹرول شدہ ماحول سے باہر نکلنے میں کامیاب ہوا، انٹرنیٹ پر آیا، اور بغیر کسی انسانی ان پٹ کے خود ہی Hugging Face کو ہیک کرنے میں کامیاب رہا۔
یہ واقعہ اس وقت سامنے آیا جب OpenAI نے اعتراف کیا کہ اس کے AI ماڈل ہیک کے ذمہ دار تھے۔
کچھ دن پہلے ہیگنگ فیس نے انکشاف کیا تھا کہ اس نے ایک AI ایجنٹ کے ذریعے اپنے سسٹمز پر غیر مجاز رسائی کا پتہ لگایا تھا۔ اوپن اے آئی نے بعد میں کہا کہ اس کی تحقیقات سے پتا چلا ہے کہ یہ سرگرمی اس کے اپنے ماڈلز کے ذریعے چلائی گئی تھی، بشمول GPT-5.6 سول اور اس سے بھی زیادہ قابل پری ریلیز ماڈل۔
OpenAI کے مطابق، یہ واقعہ داخلی سائبر سیکیورٹی کی تشخیص کے دوران پیش آیا۔
ماڈلز کو ایک سینڈ باکسڈ ٹیسٹ ماحول میں رکھا گیا تھا اور پیچیدہ حملے کے راستوں کا استعمال کرتے ہوئے اعلی درجے کا استحصال کرنے کا اشارہ کیا گیا تھا۔ اس کا مقصد ان کی سائبر صلاحیتوں کو کنٹرول شدہ حالات میں ناپنا تھا۔
ٹیسٹ کے لیے، OpenAI نے کچھ حفاظتی گڑھے کم کیے تھے۔ ماحول کو حقیقی دنیا کے نظاموں سے الگ تھلگ کیا جانا تھا۔
OpenAI نے کہا کہ ماڈلز تشخیصی کام کو حل کرنے پر مرکوز ہو گئے اور انٹرنیٹ تک رسائی کی تلاش شروع کر دی۔
انہوں نے سب سے پہلے OpenAI کے ٹیسٹنگ ماحول میں صفر دن کے خطرے کی نشاندہی کی اور اس کا استحصال کیا۔ ماحول سے گزرنے کے بعد، انہیں بالآخر انٹرنیٹ تک رسائی کے ساتھ ایک نوڈ ملا۔
اس کے بعد ماڈلز نے یہ نتیجہ اخذ کیا کہ Hugging Face ڈیٹا سیٹس، ماڈلز، یا تشخیصی مسئلے سے متعلق حل کی میزبانی کر سکتا ہے۔
انٹرنیٹ تک پہنچنے کے بعد، ماڈلز نے Hugging Face سسٹم تک رسائی کے لیے متعدد حملے کے طریقے استعمال کیے۔
OpenAI نے کہا کہ ماڈلز نے صفر دن کی کمزوریوں کا فائدہ اٹھایا اور واقعے کے دوران چوری شدہ اسناد کا استعمال کیا۔ Hugging Face نے غیر مجاز سرگرمی کا پتہ لگایا، اور دونوں کمپنیاں اب فرانزک تجزیہ پر مل کر کام کر رہی ہیں۔
OpenAI اور Hugging Face نے اس واقعے میں ملوث کمزوریوں کو بھی ٹھیک کیا ہے۔
ہگنگ فیس نے کہا کہ یہ واقعہ ظاہر کرتا ہے کہ خود مختار AI سے چلنے والی جارحانہ ٹولنگ اب صرف ایک نظریہ نہیں ہے۔
کمپنی نے خبردار کیا کہ AI سائبر حملوں کو تیز کر سکتا ہے اور ہیکنگ مہم کی لاگت کو کم کر سکتا ہے۔ اس نے یہ بھی کہا کہ آن لائن پلیٹ فارمز کو اپنے سسٹم کی حفاظت کے لیے تیزی سے AI پر مبنی دفاع کی ضرورت ہوگی۔
اوپن اے آئی نے اسی طرح کی انتباہ دیتے ہوئے کہا کہ ماڈلز کے زیادہ قابل ہونے کے ساتھ ہی اے آئی سے چلنے والی سیکیورٹی کی خلاف ورزیاں عام ہونے کا امکان ہے۔
OpenAI نے کہا کہ یہ واقعہ مضبوط حفاظتی اقدامات اور دفاعی آلات کے ساتھ ساتھ جدید سائبر صلاحیتوں کو فروغ دینے کی ضرورت کو اجاگر کرتا ہے۔
یہ کیس اس بارے میں بھی سوالات اٹھاتا ہے کہ AI کمپنیوں کو طاقتور ماڈلز کی جانچ کیسے کرنی چاہیے جو طویل، پیچیدہ سائبر کام انجام دے سکیں۔
ابھی کے لیے، OpenAI کا کہنا ہے کہ واقعہ پر قابو پا لیا گیا ہے۔ تاہم، یہ ظاہر کرتا ہے کہ کم حفاظتی تدابیر کے ساتھ انتہائی قابل AI سسٹمز کی جانچ کرنا حقیقی دنیا کے خطرات پیدا کر سکتا ہے، یہاں تک کہ جب کام ایک کنٹرولڈ ماحول میں شروع ہوتا ہے۔
جہاں آپ چاہیں تازہ ترین ٹیک خبریں، ٹیلی کام کی بصیرتیں، اور پروڈکٹ لانچ حاصل کریں۔
ProPakistani کو ترجیحی ذرائع میں شامل کریں اور گوگل سرچ اور ٹاپ اسٹوریز میں ہماری مزید کہانیاں دیکھیں۔
شیئرز
