اوپن اے آئی کے محققین نے انکشاف کیا ہے کہ متعدد AI ایجنٹوں نے ایک اندرونی میسج بورڈ بنایا، ہیکنگ کی تکنیکیں شیئر کیں، اور آخر کار سائبرسیکیوریٹی کی تشخیص مکمل کرتے ہوئے دو ماڈلز کو ہیگنگ فیس کی خلاف ورزی کرنے میں مدد کی۔
محققین مائیکل ڈالٹن اور ایرک والیس نے لاس ویگاس میں بلیک ہیٹ سائبرسیکیوریٹی کانفرنس میں اس واقعے کے بارے میں نئی تفصیلات کا انکشاف کیا۔ ڈالٹن نے اسے OpenAI اور وسیع تر AI صنعت کے لیے ایک اہم لمحہ قرار دیا۔
اوپن اے آئی نے مئی کے اوائل میں اندرونی تحقیقی ماڈل کی جانچ شروع کی۔ سائبرسیکیوریٹی ٹاسک کے ساتھ جدوجہد کرنے کے بعد، ایک ایجنٹ نے دریافت کیا کہ یہ آرٹیفیکٹری کے اندر فائلوں کو اسٹور کرسکتا ہے، جو ٹیسٹنگ ماحول سے منسلک ایک مشترکہ پیکیج ریپوزٹری ہے۔
اس نے ایک نوٹ چھوڑا جس میں بتایا گیا کہ اسے کیا ملا ہے۔ دوسرے ایجنٹوں نے بعد میں اس نوٹ کو دریافت کیا اور اوپن اے آئی کو اس کا احساس کیے بغیر مؤثر طریقے سے ایک مشترکہ میسج بورڈ بنا کر اپنے پیغامات چھوڑنا شروع کر دیے۔
ایجنٹوں نے اسے کمزوریوں، انٹرنیٹ تک رسائی کے حل اور ہیکنگ کے مشکل چیلنجوں کے بارے میں معلومات کے تبادلے کے لیے استعمال کیا۔ انہوں نے بالآخر کام کو تقسیم کرنا اور ایک دوسرے کو کام سونپنا شروع کر دیا۔
مئی کے آخر تک، ایک ایجنٹ نے بیرونی فائلوں کو بازیافت کرنے کے لیے آرٹفیکٹری کی اجازت یافتہ انٹرنیٹ کنیکٹیویٹی کو استعمال کرنے کا ایک طریقہ ڈھونڈ لیا تھا۔
ایجنٹوں نے بعد میں آرٹفیکٹری میں متعدد کمزوریاں دریافت کیں، جن میں پہلے سے نامعلوم خامی بھی شامل تھی جس نے انتظامی رسائی کی اجازت دی۔ انہوں نے کمزوریوں کو سافٹ ویئر انسٹال کرنے، اپنی رسائی کو بڑھانے اور پابندیوں کے گرد کام جاری رکھنے کے لیے استعمال کیا۔
اس سرگرمی نے بالآخر آرٹفیکٹری کو اوورلوڈ کر دیا، جس کی وجہ سے جولائی کے شروع میں بندش شروع ہو گئی۔ اس ناکامی نے OpenAI انجینئرز کو متنبہ کیا، جنہوں نے سسٹم کی چھان بین کی، میسج بورڈ کو ہٹا دیا، رسائی کو منسوخ کر دیا، اور کمزوریوں کو دور کرنے کے لیے کام کیا۔
تاہم، صرف دو دن بعد، ایجنٹوں نے ایک مختلف طریقہ استعمال کرتے ہوئے ایک اور مواصلاتی نظام بنایا اور معلومات کا تبادلہ دوبارہ شروع کیا۔
ان کے تعاون نے آخر کار دو OpenAI ماڈلز کو بیرونی انفراسٹرکچر تک پہنچانے اور جولائی کے وسط میں سائبر سیکیورٹی کی تشخیص کے جوابات تلاش کرنے کی کوشش کرتے ہوئے Hugging Face سے سمجھوتہ کرنے میں تعاون کیا۔ OpenAI نے کہا کہ ماڈلز کو بینچ مارک کو حل کرنے کی ہدایت کی گئی تھی، خاص طور پر Hugging Face پر حملہ کرنے کے لیے نہیں۔
OpenAI نے اس کے بعد سے AI ایجنٹوں کی نگرانی میں اضافہ کیا ہے، اس کے تشخیصی ماحول کے ارد گرد سیکیورٹی کو مضبوط کیا ہے اور اپنے تحفظات کو بہتر بناتے ہوئے کچھ تحقیقی کام کو سست کردیا ہے۔
ڈالٹن نے متنبہ کیا کہ بدنیتی پر مبنی ہیکرز جان بوجھ کر AI ایجنٹوں کے گروپس کو اسی طرح سے تعینات کر سکتے ہیں، جس سے خودکار دفاعی سائبرسیکیوریٹی تیزی سے اہم ہو جاتی ہے۔
جہاں آپ چاہیں تازہ ترین ٹیک خبریں، ٹیلی کام کی بصیرتیں، اور پروڈکٹ لانچ حاصل کریں۔
ProPakistani کو ترجیحی ذرائع میں شامل کریں اور گوگل سرچ اور ٹاپ اسٹوریز میں ہماری مزید کہانیاں دیکھیں۔
ٹیکنالوجی اور آٹوموٹو ماہر جدید ترین کاروں، اسمارٹ فونز، AI پیش رفتوں، اور...
شیئرز
