OpenAI نے جُمُعَہ کو کہا کہ اس نے اپنے آنے والے ماڈل Astra کے کچھ پہلوؤں پر کام کو معطل کر دیا ہے جب کہ ایک داخلی جائزہ کے بعد پتہ چلا کہ اس نے ایجنٹی کوڈنگ اور سائبرسیکیوریٹی میں اہم پیشرفت کی ہے - جو اس کی صلاحیتوں پر تشویش کی ضمانت دینے کے لیے کافی ہے۔
OpenAI نے جُمُعَہ کو ایک بلاگ پوسٹ میں کہا کہ یہ ماڈل، جو ابھی تک ترقی کے مراحل میں ہے، اپنی "سائبر سیکیورٹی کی اہم حد" تک پہنچ گیا ہے، یعنی یہ روایتی طور پر اچھی طرح سے محفوظ حقیقی دنیا کے نظاموں کے خلاف آزادانہ طور پر سائبر حملوں کی شناخت اور انجام دے سکتا ہے۔ کمپنی کے "تیاری فریم ورک" کے تحت، جو اس نے 2023 میں بنایا تھا، اس سے اضافی حفاظتی اقدامات شروع ہوئے۔
اوپن اے آئی نے لکھا، "جب کہ ہم اس ماڈل کو بینچ مارک اور اس کا جائزہ لیتے رہتے ہیں، ہمارے ابتدائی جائزے کافی مضبوط کارکردگی کی نشاندہی کرتے ہیں کہ ہم اس وقت قابلیت کی نازک سطح کو مسترد نہیں کر سکتے،" OpenAI نے لکھا۔ "آسٹرا ایک آنے والا ماڈل ہے، اور گلے ملنے والے چہرے کے استحصال میں ملوث نہیں تھا۔"
یہ انکشاف ایک غیر معمولی لمحے پر روشنی ڈالتا ہے جو اوپری ٹروی، اور اب بھی نوزائیدہ فرنٹیئر AI لیبز کے شعبے میں ہے۔ ہر صنعت کی کمپنیاں ممکنہ خطرات کے پیش نظر مصنوعات کو روکتی ہیں، بشمول حفاظت اور سائبر سیکیورٹی کے خدشات۔ لیکن وہ شاذ و نادر ہی ان فیصلوں کا عوامی طور پر اعلان کرتے ہیں جب یہ ایک ایسی پروڈکٹ ہے جو ابھی تک ترقی کے مراحل میں ہے۔
اس معاملے میں، اوپن اے آئی پہلے ہی جانچ کی زد میں ہے جب ایک مختلف غیر ریلیز شدہ ماڈل نے اندرونی ٹیسٹنگ کے دوران ہیگنگ فیس کے سسٹمز کی خلاف ورزی کی تھی - یہ پہلا قابل تصدیق واقعہ ہے کہ کسی AI لیب کا اپنے ماڈل پر کنٹرول کھو بیٹھا ہے۔ اس کے بعد سے، OpenAI اور AI لیبز جیسے Anthropic نے دیگر واقعات کا انکشاف کیا ہے جس میں AI ماڈلز نے اپنے سینڈ باکسز کی خلاف ورزی کی اور سائبر سیکیورٹی ٹیسٹ کے دوران خطرات لاحق ہوئے۔
مقدمات کا سلسلہ - اب ہر روز ایک نئے انکشاف کی طرح لگتا ہے - نے سائبر سیکیورٹی کے ماہرین، قانون سازوں اور خود AI لیبز کی طرف سے مختلف ردعمل کو جنم دیا ہے۔ کچھ خوف کا اظہار کرتے ہیں اور سخت نگرانی کا مطالبہ کرتے ہیں۔ لیکن تھوڑا سا لچک بھی ہے. بعض حلقوں میں، کسی بھی AI لیب کے ساتھ ماڈل جس میں اس قسم کی صلاحیت ہو، ایک متاثر کن ترقی کے طور پر دیکھا جائے گا۔
OpenAI نے کہا کہ وہ یہ معلومات اس لیے شیئر کر رہا ہے کیونکہ اس کا ماننا ہے کہ "عوام کے ساتھ شفاف ہونا ضروری ہے اور سیفٹی اور سیکیورٹی کمیونٹیز کی صلاحیتوں میں اس ممکنہ تبدیلی کے بارے میں۔"
اے آئی لیب نے کہا کہ وہ بھی کارروائی کر رہی ہے، بشمول سخت حفاظتی کنٹرولز کو نافذ کرنا اور ایسٹرا میں شامل اندرونی سرگرمیوں کو روکنا جو ان بیفڈ گارڈریلز کو پورا نہیں کرتے ہیں۔ OpenAI نے کہا کہ وہ متعلقہ سرکاری ایجنسیوں کے ساتھ کام کر رہا ہے اور اس ماڈل کی صلاحیتوں کو جانچنے کے لیے AI سیفٹی تنظیموں کو منتخب کریں۔
