OpenAI نے جُمُعَہ کو کہا کہ وہ اس بات کو مسترد نہیں کر سکتا کہ اس کے آنے والے AI ماڈل، Astra میں "اہم" سائبرسیکیوریٹی صلاحیتیں ہیں، جو اسٹارٹ اپ کو کچھ اندرونی ترقی کو روکنے اور حفاظتی پروٹوکول کو متحرک کرنے کا اشارہ دیتی ہے۔
OpenAI کے حفاظتی رہنما خطوط کے تحت، ایک ماڈل "نازک" حد تک پہنچ جاتا ہے اگر وہ خود مختار طور پر شدید، حقیقی دنیا کے سافٹ ویئر کے کمزوریوں کی شناخت اور ان کا استحصال کر سکتا ہے، جنہیں صفر دن کے استحصال کے نام سے جانا جاتا ہے، یا انسانی مداخلت کے بغیر انتہائی محفوظ اہداف کے خلاف پیچیدہ سائبر حملے انجام دے سکتے ہیں۔
Astra پر کچھ تفصیلات یہ ہیں:
یہ روئٹرز کی ایک خصوصی رپورٹ کے بعد ہے کہ اوپن اے آئی نے مزید ایسے واقعات دریافت کیے ہیں جن میں خود مختار ایجنٹ قابو سے بچ گئے ہیں کیونکہ کمپنی نے ٹیک فرم ہگنگ فیس میں ہیکنگ کے واقعے کی تحقیقات کو بڑھایا ہے جس نے جولائی میں عالمی توجہ مبذول کرائی تھی۔
پچھلے چند ہفتوں میں، OpenAI، Anthropic اور Meta Platforms نے انکشاف کیا ہے کہ سائبر سیکیورٹی ٹیسٹنگ کے دوران ان کے AI ماڈلز نے دوسری کمپنیوں کے سسٹمز میں توڑ پھوڑ کی ہے، جس سے اس بات پر روشنی ڈالی گئی ہے کہ کس طرح AI صلاحیتوں میں اضافہ ڈویلپرز کی اپنے سسٹمز کو برقرار رکھنے کی صلاحیت کو دبا رہا ہے۔
اوپن اے آئی نے کہا کہ گزشتہ کئی دنوں کے ابتدائی جائزوں کے ساتھ ساتھ بیرونی ماہرین کے جائزوں نے اشارہ کیا کہ Astra خود مختاری سے بڑھتے ہوئے جدید ترین سائبر کاموں کو انجام دینے کے قابل ہو سکتا ہے۔
چیٹ جی پی ٹی بنانے والے نے کہا، "جب کہ ہم اس ماڈل کو بینچ مارک اور اس کا جائزہ لیتے رہتے ہیں، ہمارے ابتدائی جائزے کافی مضبوط کارکردگی کی نشاندہی کرتے ہیں کہ ہم اس وقت 'نازک' صلاحیت کی سطح کو مسترد نہیں کر سکتے،" ChatGPT بنانے والے نے کہا۔
ابتدائی نتائج کے جواب میں، OpenAI نے کہا کہ اس نے سیکیورٹی کنٹرولز کو بڑھا دیا ہے اور Astra سے متعلق اندرونی سرگرمیوں کو روک دیا ہے جو اس کی نئی مضبوط سیکیورٹی کی ضروریات کو پورا نہیں کرتی ہیں۔
آسٹرا کی ترقی کو محدود نیٹ ورک تک رسائی اور سینڈ باکسڈ ایگزیکیوشن کے ساتھ الگ تھلگ ٹیسٹنگ ماحول میں منتقل کیا جائے گا۔
سی ای او سیم آلٹ مین نے X پر کہا کہ OpenAI Astra کو عام طور پر دستیاب کرنے کے لیے کام کر رہا ہے، کیونکہ کمپنی "یہ نہیں سمجھتی کہ طاقتور ماڈلز کو چند منتخب افراد کے لیے رکھنا اچھی حکمت عملی ہے"۔
OpenAI نے یہ بھی واضح کیا کہ Astra AI پلیٹ فارم Hugging Face کو نشانہ بنانے والے ہیک میں ملوث نہیں تھا۔
یہ سرکاری ایجنسیوں کے ساتھ شراکت کرے گا اور ماڈل کی صلاحیتوں کو جانچنے کے لیے AI حفاظتی تنظیموں کو منتخب کرے گا۔
