پِیر کے روز Hugging Face نے ایک تکنیکی ٹائم لائن شائع کی جو قارئین کو اس بات کے بارے میں بتاتی ہے کہ کس طرح ایک خود مختار AI ایجنٹ، OpenAI ماڈلز پر بنایا گیا اور OpenAI کی اپنی سائبرسیکیوریٹی تشخیصات میں سے ایک کے اندر چل رہا ہے، اس مہینے کے شروع میں چار دن سے زیادہ عرصے میں اپنے سسٹمز میں داخل ہوا۔ یہ پہلا سیکورٹی واقعہ ہے جس کے بارے میں OpenAI کے سی ای او سیم آلٹ مین نے "بہت ضعف محسوس کیا،" انہوں نے کہا ہے۔
حیرت کی بات یہ ہے کہ یہ محسوس ہوتا ہے، کم از کم، جیسا کہ یہاں واقعی کچھ ہوا ہے۔ درحقیقت، Hugging Face کی ٹیم نے اپنی رپورٹ کو پیش کرتے ہوئے پیش کیا کہ "ہر ایک کو بطور محافظ تیار رہنا چاہیے"، اس سے پہلے کہ ہر جگہ سیکیورٹی کے پیشہ ور افراد کے فائدے کے لیے جو کچھ ہوا اس کی سختی میں ڈوب جائے۔
جب کہ باقی انٹرنیٹ اس بات کو سمجھنے کی کوشش کر رہا ہے کہ کیا ہوا ہے (ہگنگ فیس کی رپورٹ میں موجود جرگون کو زیادہ تر لوگوں کے لیے پارس کرنا ناممکن ہے)، ایک نکتہ جس سے بہت سے مبصرین غائب رہتے ہیں وہ یہ ہے کہ یہ کوئی بدمعاش ایجنٹ نہیں تھا جو احکامات کی نافرمانی کرتا تھا۔ یہ ایک ایسا نظام تھا جو استحصال کی تلاش کے لیے بنایا گیا تھا، بالکل غلط ہدف کے خلاف ایسا ہی کرنا۔
پوری چیز کے بارے میں سوچنے کا دوسرا طریقہ کیمپ سائٹ پر ریچھ کی تصویر بنانا ہے۔ واقعی ایک ریچھ خیمے کے زپر اور کار کے دروازے کے ہینڈلز اور کولر اور کوڑے دان کے ڈھکن آزماتا ہے۔ یہ ہر کیمپ سائٹ پر، رات بھر ایسا کرتا ہے، کیونکہ اسے معلوم ہے کہ اسے کچھ غریب schmuck کے گروسری سے اپنا پیٹ بھرنے کے لیے صرف ایک کھلا کولر کی ضرورت ہے۔
گلے لگانے والے چہرے پر تقریباً یہی ہوا۔ OpenAI سسٹم نے ہزاروں چیزوں کو آزمایا اور بس چلتا رہا۔ آخر کار، ان کوششوں میں سے چند ایک نے کام کیا، اور ایک بار ایسا کرنے کے بعد، ایجنٹ آگے بڑھ گیا۔ Hugging Face کے مطابق، ایجنٹ نے بغیر توقف کے ساڑھے چار دنوں میں 17600 کارروائیاں کیں۔
جو ہمیں اپنے ریچھ کی مشابہت پر واپس لاتا ہے۔ بالکل اسی طرح جیسے کھانے سے بھرے کولر کے ساتھ ایک کامیابی ریچھ کو اگلی بار اور بھی سخت کوشش کرنا سکھاتی ہے (اب یہ ایک "کھانے کے لیے کنڈیشنڈ" ریچھ ہے)، ایک لیک شدہ پاس ورڈ نے OpenAI کے ایجنٹ کو مزید کارناموں کی تلاش میں اور بالآخر، ایک ہی کلید کی طرف لے جایا جس نے کمپنی کے کئی سسٹمز کو ایک ساتھ کھول دیا۔
کوئی بھی منظر نامہ بے ضرر نہیں ہے۔ ایک ریچھ جو آپ کے کولر پر چھاپہ مارتا ہے وہ اب بھی آپ کا کھانا کھاتا ہے اور شاید آپ کے کیمپ سائٹ کو کوڑے دان میں ڈال دیتا ہے۔ یہ صرف کھانا کھلانے پر مرکوز ہے، لیکن اس کے باوجود یہ تباہی کا راستہ چھوڑ دیتا ہے۔ اسی طرح، OpenAI کا ایجنٹ بظاہر کسی اور چیز کی پرواہ کیے بغیر ہدف کا تعاقب کر رہا تھا۔ ایجنٹ اصل میں سائبرسیکیوریٹی کا امتحان دے رہا تھا، اسے پتہ چلا کہ امتحان کی جوابی کلید شاید Hugging Face کے سرورز پر بیٹھی تھی، اور وہ اس کے لیے چلا گیا۔
یہاں پر استقامت وہی ہے جو سب سے بڑھ کر قابل ذکر ہے۔ ایجنٹ کے پاس کام تھا اور یہ اس وقت تک رکنے والا نہیں تھا جب تک وہ اسے مکمل نہ کر لے۔ چہرے کو گلے لگاتے ہوئے، آخر کار احساس ہوا کہ کچھ گڑبڑ ہے، اس کی رسائی کاٹ دی اور مداخلت کو بند کر دیا، لیکن اس وقت بہت دیر ہو چکی تھی۔ ایجنٹ نے پہلے ہی حاصل کر لیا تھا جس کے لیے وہ آیا تھا، اور اس کے لیے بہت کچھ ہے۔
اگر آپ نے اسے کھو دیا ہے تو، یہاں زیادہ تر جو ہوا ہے، فی Hugging Face کی ٹائم لائن، لیکن سادہ انگریزی میں۔
بالآخر، Hugging Face نے اپنی رپورٹ میں یہ نتیجہ اخذ کیا، ایک "قابل" انسانی ہیکر "انہی خامیوں کو تلاش کر سکتا تھا اور ان کا استحصال کر سکتا تھا: غیر محفوظ ڈیٹا سیٹ پروسیسنگ، بے نقاب کلاؤڈ میٹا ڈیٹا، حد سے زیادہ وسیع رسائی، اور طویل المدت اسناد۔" بڑا فرق، تنظیم جاری رہی، یہ ہے کہ "ایجنٹ نے انہیں مختلف پیمانے پر تلاش کیا۔"
یہ وہ جگہ ہے جہاں ریچھ کی مشابہت سب سے زیادہ کارآمد ثابت ہوتی ہے۔ بھوکے ریچھ کے خلاف بہترین دفاع پروٹوکول ہے۔ تم کھانا دور رکھو۔ آپ ایک لیچ استعمال کرتے ہیں جو پکڑنے کے لیے کافی کام کرتا ہے۔ یہاں لے جانے والا یہ نہیں ہونا چاہئے کہ ریچھ اتنا چالاک یا شرارتی تھا۔ یہ ہے کہ اس نے کبھی جانچنا بند نہیں کیا۔ سائبرسیکیوریٹی میں یہ سمجھا جاتا ہے کہ ہمیشہ کچھ ایسا بگ ہوتا ہے جو آپ کو نہیں ملا، لہذا اگر اچانک ہر چیز کو چیک کرنا 100 گنا آسان ہو جاتا ہے، تو کوئی بھی چیز واقعی محفوظ نہیں ہے۔ یہ وہی ہے جو بہت سے لوگوں کو اس ایپی سوڈ کے بارے میں پریشان کن محسوس ہوتا ہے۔
