OpenAI نے بدھ کو اپنی سرکاری رپورٹ ہگنگ فیس بریچ پر جاری کی، اس واقعے کے عام ہونے کے ایک ماہ سے زیادہ بعد۔ یہ رپورٹ، جس میں سائبرسیکیوریٹی کے کئی مجرد سمجھوتوں پر محیط ہے، آج تک کے واقعے کا سب سے مکمل حساب کتاب ہے۔
"یہ واقعہ ایک غیر معمولی اور غیر متوقع طور پر واقعات کے سنگم پر مشتمل ایک بیرونی منظر نامے میں غلط رویے کی عکاسی کرتا ہے: ExploitGym کی تشخیص میں ناممکن کاموں کی موجودگی، طویل کام کے افق پر ماڈل کی استقامت، اور ہم مرتبہ ماڈلز کو پیغامات جس کی وجہ سے وہ ماڈل اپنے مقصد سے ہٹ گئے،" رپورٹ پڑھتی ہے۔
OpenAI کی رپورٹ میں بہت سی تفصیلات پہلے 6 اگست کو بلیک ہیٹ پریزنٹیشن میں منظر عام پر لائی گئی تھیں، لیکن OpenAI کی آفیشل رپورٹ اس واقعے کا مزید مکمل حساب کتاب دیتی ہے، جس میں اس کی شروعات کی گئی جانچ کے بارے میں مزید تفصیل بھی شامل ہے۔ رپورٹ میں یہ بھی اہم نئی تفصیل دی گئی ہے کہ اوپن اے آئی کا مقصد مستقبل میں ہونے والے واقعات کو کیسے روکنا ہے، بشمول چین کی سوچ کی نگرانی اور بدمعاش ایجنٹوں کو روکنے کے لیے ایک جدید ترین نظام۔
METR اور Redwood ریسرچ نے واقعے کے دوران ماڈلز کے رویے کے تیسرے فریق کے جائزے بھی کیے؛ دونوں گروپ اس واقعہ پر اپنی اپنی رپورٹس شائع کرنے کا منصوبہ بنا رہے ہیں۔
وسیع اسٹروک میں، رپورٹ میں بتایا گیا ہے کہ کس طرح اوپن اے آئی ماڈل کو جانچ میں ناقابل حل مسئلہ پیش کیا گیا اور حفاظتی اقدامات کو نظرانداز کرنے اور اپنے کام کو مکمل کرنے کے لیے پہلے سے دریافت نہ ہونے والے کارناموں کو یکجا کرنے کے لیے آگے بڑھا۔ ماڈل نے ابتدائی طور پر انٹرنیٹ تک رسائی حاصل کرنے کے لیے آرٹیفیکٹری پیکیج مینجمنٹ ٹول سے سمجھوتہ کیا، پھر OpenAI، Hugging Face، اور دیگر وینڈرز کے مختلف سسٹمز سے سمجھوتہ کیا۔
رپورٹ ان ماڈلز کے بارے میں اہم نئی تفصیلات فراہم کرتی ہے جنہوں نے خلاف ورزی کی۔ بنیادی ماڈل اسی خاندان سے تھا جیسا کہ OpenAI کے آنے والے Astra ماڈل کا تھا، حالانکہ رپورٹ میں اس بات پر زور دیا گیا ہے کہ یہ "مختلف پوسٹ ٹریننگ کے ساتھ ایک الگ ماڈل تھا، جہاں ماڈل کے زیادہ تر رویے کی تشکیل ہوتی ہے۔"
چونکہ OpenAI ماڈل کی صلاحیتوں کی جانچ کر رہا تھا، اس لیے یہ عام درجہ بندی کرنے والوں کے ذریعے بھی بے لگام تھا جس کا مقصد ماڈلز کو ڈیجیٹل انفراسٹرکچر سے سمجھوتہ کرنے سے روکنا تھا۔
"OpenAI زیادہ سے زیادہ سائبر صلاحیتوں کا تخمینہ لگا کر اس تشخیص کو بغیر پروڈکشن کلاسیفائر کے چلا کر لگاتا ہے جس کا مقصد ماڈلز کو ہائی رسک سائبر سرگرمی کو آگے بڑھانے سے روکنا ہے،" رپورٹ بتاتی ہے۔ "یہ تشخیصات اہم ہیں تاکہ OpenAI ماڈلز کی بنیادی صلاحیتوں کی پیمائش کر سکے اور مناسب حفاظتی اقدامات کو ڈیزائن کر سکے۔"
رپورٹ میں اوپن اے آئی کی سیکیورٹی میں ہونے والی تبدیلیوں کے بارے میں بھی اہم نئی معلومات دی گئی ہیں، جو پچھلے ہفتے منظر عام پر آنے والی تیز ترین نگرانی اور صف بندی کی کوششوں کو آگے بڑھاتی ہیں۔
خاص طور پر، کمپنی AI ایجنٹوں کی نگرانی میں اضافہ کر رہی ہے "خیال کا سلسلہ"، ایک کام کرنے کی جگہ جس میں AI سسٹمز قلیل مدتی ردعمل اور اہداف کو ریکارڈ کرتے ہیں۔ اس نگرانی کو 24/7 بڑھانے والے نظاموں کے ساتھ جوڑا بنایا جائے گا، ساتھ ہی غیر محفوظ سمجھے جانے والے کام کے بوجھ کو روکنے کے لیے نئی ٹولنگ کی جائے گی۔
رپورٹ میں کہا گیا ہے کہ "ان تبدیلیوں کا مقصد پتہ لگانے کی وسعت اور رفتار دونوں کو بہتر بنانا ہے - بنیادی ڈھانچے کی بے ضابطگیوں سے لے کر ممکنہ طور پر ماڈل کے رویے سے متعلق - اور تیزی سے قابو پانے کے میکانزم کے ساتھ اس مرئیت کو جوڑنا،" رپورٹ میں کہا گیا ہے۔ "اگر ہمارا فی الحال تعینات CoT مانیٹرنگ سسٹم وقوعہ کے وقت چل رہا ہوتا، تو اس نے ابتدائی متعلقہ سرگرمی پکڑ لی ہوتی اور ماڈلز کے Hugging Face سسٹم کی خلاف ورزی کرنے سے ایک دن سے زیادہ پہلے ہماری سیکیورٹی ٹیم کو صفحہ بندی کر لیتا۔"
