OpenAI نے اپنے آنے والے AI ماڈل، Astra کے بارے میں نئی تفصیلات شیئر کی ہیں، اور کہا ہے کہ یہ کمپنی کا پہلا ماڈل ہے جو اپنی "سائبر سیکیورٹی" کی قابلیت کی حد تک پہنچنے والا ہے۔
کمپنی جلد ہی Astra کو جاری کرنے کا ارادہ رکھتی ہے، حالانکہ اس کی جدید ترین سائبرسیکیوریٹی صلاحیتوں تک رسائی پر پابندی ہوگی۔
OpenAI کے مطابق، Astra کمپیوٹر سسٹمز میں پہلے سے نامعلوم سیکورٹی خامیوں کی نشاندہی کر سکتا ہے اور کسی شخص کو ہر قدم کی رہنمائی کرنے کی ضرورت کے بغیر ان کا فائدہ اٹھانے کے طریقے تیار کر سکتا ہے۔
اس صلاحیت نے اوپن اے آئی کو اس کے تیاری کے فریم ورک کے تحت سائبرسیکیوریٹی کی اہم سطح پر Astra کی درجہ بندی کرنے کا باعث بنا۔
تاہم، فی الحال ماڈل کی صلاحیتوں یا اس کے تحفظات کی تاثیر کے بارے میں OpenAI کے دعووں کی کوئی آزاد فریق ثالث تصدیق نہیں ہے۔
OpenAI کا کہنا ہے کہ ٹیسٹرز کے ایک گروپ کو Astra کی اعلی درجے کی سائبر سیکیورٹی خصوصیات تک جلد رسائی حاصل ہوگی، لیکن اس نے یہ نہیں بتایا کہ وہ ٹیسٹرز کون ہیں یا ان کا انتخاب کیسے کیا جائے گا۔ یہ بھی واضح نہیں ہے کہ آیا امریکی حکومت لانچ سے پہلے ایسٹرا کا جائزہ لینے میں شامل ہے۔
OpenAI کا کہنا ہے کہ Astra نے ExploitBench پر 100% سکور حاصل کیا، یہ ایک بینچ مارک ہے جو اس بات کی پیمائش کرتا ہے کہ آیا AI ماڈل معروف کمزوریوں کے لیے کارنامے تیار کر سکتے ہیں۔
کمپنی نے حال ہی میں انکشاف کردہ سیکیورٹی خامیوں کا استعمال کرتے ہوئے بینچ مارک کا ایک ترمیم شدہ اندرونی ورژن بھی بنایا۔
اس تشخیص کے دوران، OpenAI کا کہنا ہے کہ Astra نے دو پہلے نامعلوم صفر دن کے خطرات کو دریافت کیا اور استعمال کیا۔
کمپنی کا کہنا ہے کہ وہ متعلقہ مینٹینرز کو ان کمزوریوں کا انکشاف کر رہی ہے۔
OpenAI کا کہنا ہے کہ اس نے بدنیتی پر مبنی استعمال اور جیل توڑنے کی کوششوں کے خلاف Astra کے تحفظات کو مضبوط کیا ہے۔
کمپنی نے نئی تربیتی تکنیکیں متعارف کرائی ہیں جن کا مقصد Astra کو سائبر سیکیورٹی کی ممنوعہ درخواستوں کو مسترد کرنے کا زیادہ امکان بنانا ہے۔
OpenAI ان اکاؤنٹس کی بھی نشاندہی کر رہا ہے جنہیں وہ زیادہ خطرہ سمجھتا ہے اور سائبر سیکیورٹی امداد کے لیے سخت حدود کا اطلاق کر رہا ہے جو ان اکاؤنٹس کو مل سکتی ہے۔
کمپنی Astra کو آج تک کے اپنے سب سے زیادہ منسلک ماڈل کے طور پر بیان کرتی ہے، لیکن یہ اب بھی ممکنہ طور پر غیر مجاز رویے کا پتہ لگانے کے لیے ماڈل کے استدلال اور اعمال کی اضافی نگرانی استعمال کرنے کا ارادہ رکھتی ہے۔
اس طرح کی نگرانی غیر محفوظ سمجھی جانے والی سرگرمی کو خود بخود روک سکتی ہے۔
Astra کی ریلیز کی تیاریاں اس وقت ہوئی جب OpenAI ایجنٹس پہلے تربیتی ماحول سے بچ گئے اور Hugging Face پر نجی معلومات تک رسائی حاصل کی۔
OpenAI کا کہنا ہے کہ Astra اس واقعے میں ملوث نہیں تھا۔ تاہم، کمپنی نے جو کچھ ہوا اس کی بنیاد پر نئے ٹیسٹ بنائے۔ محققین نے آسٹرا کو ایسے حالات میں رکھا جو اس بات کا تعین کرنے کے لیے ڈیزائن کیا گیا تھا کہ آیا یہ اپنے تفویض کردہ کام کو مکمل کرنے کے بجائے اپنے مجاز ماحول سے باہر کے سسٹمز تک رسائی حاصل کرنے کی کوشش کرے گا۔
OpenAI کا کہنا ہے کہ Astra نے ان ٹیسٹوں کے دوران فرار ہونے یا ارد گرد کے بنیادی ڈھانچے سے سمجھوتہ کرنے کی کوشش نہیں کی۔
اب بھی سوالات ہیں کہ ایسے نتائج کی تشریح کیسے کی جانی چاہیے۔ اوپن اے آئی کی ایک سابق ملازمہ یونا شیویت جو اب OpenAI فاؤنڈیشن میں AI لچک پر کام کرتی ہیں، نے اس امکان کو بڑھایا کہ Astra نے اندازہ لگایا ہو گا کہ محققین کی تشخیص کے دوران کیا توقع تھی یا اس نے مختلف طریقے سے برتاؤ کیا کیونکہ اس نے تسلیم کیا کہ اس کا تجربہ کیا جا رہا ہے۔
OpenAI کا کہنا ہے کہ Astra جلد ہی دستیاب ہو جائے گا، لیکن اس کی مضبوط ترین سائبرسیکیوریٹی صلاحیتیں ابتدائی طور پر منتخب ٹیسٹرز تک ہی محدود ہوں گی۔
کمپنی نقصان دہ صارفین کو ماڈل کا استحصال کرنے سے روکنے اور خود ماڈل کو غیر مجاز اقدامات کرنے سے روکنے کے لیے بنائے گئے حفاظتی اقدامات کو بہتر بنانا بھی جاری رکھے ہوئے ہے۔
OpenAI Astra کی وسیع تر ریلیز کے ساتھ ساتھ مزید تفصیلی صلاحیت، صف بندی، اور حفاظتی جائزے شائع کرنے کا ارادہ رکھتا ہے۔
جہاں آپ چاہیں تازہ ترین ٹیک خبریں، ٹیلی کام کی بصیرتیں، اور پروڈکٹ لانچ حاصل کریں۔
ProPakistani کو ترجیحی ذرائع میں شامل کریں اور گوگل سرچ اور ٹاپ اسٹوریز میں ہماری مزید کہانیاں دیکھیں۔
ٹیکنالوجی اور آٹوموٹو ماہر جدید ترین کاروں، اسمارٹ فونز، AI پیش رفتوں، اور...
شیئرز
