اڱارو ڏينهن، OpenAI انڪشاف ڪيو ته ان جو هڪ ماڊل هڪ ٽيسٽ دوران خراب ٿي ويو ۽ مڪمل طور تي AI-فعال حملي ۾ AI ڊيٽا سيٽ پليٽ فارم Hugging Face جي سسٽم کي هيڪ ڪيو، ترقي يافته AI ماڊلز جي خطرن جو هڪ ڊرامائي مثال.
پر، ڪجهه سائبر سيڪيورٽي ماهرن جي مطابق، هن بي مثال AI-طاقت جي خلاف ورزي جي دل ۾ هڪ تمام انساني غلطي هئي: OpenAI صحيح طريقي سان ترتيب ڏيڻ ۾ ناڪام ٿي جنهن کي "انتهائي اڪيلائي وارو ماحول" سڏيو ويندو آهي، هڪ ٽيسٽ سينڊ باڪس جي اجازت ڏئي ٿي جيڪا مڪمل طور تي انٽرنيٽ کان الڳ ٿي وڃي ها ته حقيقت ۾ انٽرنيٽ سان ڳنڍڻ لاء.
ڊين گائيڊو، سائبر سيڪيورٽي ريسرچ اسٽارٽ اپ ٽريل آف بٽس جو باني ان غلطي کي سڏيو ”حفاظتين سان هڪ ڪنٽرول ناڪامي بند ٿي وئي.
واقعي جي تفصيل سان پنهنجي بلاگ پوسٽ ۾، OpenAI چيو آهي ته ٽيسٽ جنهن جي نتيجي ۾ Hugging Face جي ڀڃڪڙي ڪئي وئي "هڪ انتهائي اڪيلائي واري ماحول ۾ هلائڻ لاء، نيٽ ورڪ جي رسائي سان گڏ هڪ اندروني طور تي ميزباني ڪيل ٽئين پارٽي سافٽ ويئر ذريعي پيڪيجز کي نصب ڪرڻ جي صلاحيت تائين محدود آهي جيڪو هڪ پراکسي ۽ ڪيش طور ڪم ڪري ٿو پيڪيج رجسٽري لاءِ.
ماڊل سينڊ باڪس ٿيل ٽيسٽنگ ماحول مان فرار ٿيڻ جي قابل ٿي ويو پيڪيج-انسٽاليشن سسٽم ۾ اڳ ۾ اڻ اعلانيل ڪمزوري جي مهرباني، OpenAI جي مطابق، Hugging Face تي حتمي هيڪ ۾ هڪ نازڪ پهريون قدم.
جواب ۾، ڪمپني "ذميوار طور تي ظاهر ڪيو ويو صفر-ڏينهن جي خطري کي اندروني طور تي ميزباني ڪيل ٽئين پارٽي سافٽ ويئر ۾ ۽ انهن سان گڏ ڪم ڪري رهيا آهن پيچ ڪرڻ لاء."
پر اڪثر سائبر سيڪيورٽي پروفيشنلز لاءِ ، سافٽ ويئر جي ڪمزورين جي توقع ڪئي وڃي ٿي - ۽ اصل غلطي پهرين جڳهه تي ٽئين پارٽي سافٽ ويئر کي برقرار رکڻ جي فيصلي سان آهي. بالآخر، "سينڊ باڪس" سسٽم جو قدر ان جي مڪمل ۽ مڪمل اڪيلائي ۾ آهي. هڪ پيڪيج-انسٽاليشن سسٽم سميت مصيبت لاء پڇي رهيو آهي.
مارٽن بوون، هڪ سائبر سيڪيورٽي محقق، TechCrunch کي ٻڌايو ته "هي آواز انساني ناڪامي وانگر آهي."
"اهو ڪڏهن به نه ٿيڻ گهرجي،" بوون چيو. "جيڪڏهن سينڊ باڪس جو مطلب اصل ۾ سينڊ باڪس هوندو، توهان کي اميد آهي ته ان جو انٽرنيٽ سان ڪوبه جسماني ڪنيڪشن نه هوندو. اهو وڌيڪ لڳي ٿو ته انهن وٽ ڪجهه فائر والنگ يا ڪا شيءِ جاءِ تي هئي، ۽ فائر والنگ ٻاهران کان سخت آهي، ٻاهران انٽرنيٽ جي اندر کي اڪيلو ڇڏي ڏيو."
سائبر سيڪيورٽي جي ماهر جيڪ وليمز اتفاق ڪيو. ”ڪنهن به ماڊل کي انجام ڏيڻ واري عملن جي قسمن کي دستاويز ڪيو ويو هوگنگ فيس طرفان مڪمل طور تي سينڊ باڪس ۾ موجود نه هو ،“ وليمز چيو ، جنهن هن کي ”وڏي ڪنٽرول ناڪامي“ سڏيو آهي OpenAI پاران.
”هڪ ماڻهوءَ جو ’ماڊل فرار ٿي ويو سينڊ باڪس‘ ٻئي ماڻهوءَ جو آهي ’توهان سينڊ باڪس صحيح طرح ٺاهڻ ۾ ناڪام ٿيو، تنهن ڪري يقيناً اهو بچي ويو،‘“ وليمز جاري رکيو.
اسان سان رابطو ڪريو ڇا توھان وٽ ھن واقعي بابت وڌيڪ معلومات آھي؟ يا ٻين AI-فعال سائبر حملن بابت؟ اسان توهان کان ٻڌڻ پسند ڪنداسين. هڪ غير ڪم واري ڊوائيس ۽ نيٽ ورڪ کان، توهان Lorenzo Franceschi-Bicchierai سان محفوظ طور تي سگنل تي +1 917 257 1382 تي رابطو ڪري سگهو ٿا، يا ٽيليگرام ۽ ڪيبيس @lorenzofb، يا اي ميل ذريعي.
ڊينيل ڪارڊ، هڪ سائبر سيڪيورٽي صلاحڪار، اتفاق ڪيو ته OpenAI "سينڊ باڪس جي ڊيزائن ۽ ان جي ڪنٽرولن ۾ مناسب ڪوشش نه ڪئي" سينڊ باڪس يا ان جو ڪجهه حصو ڏئي "انٽرنيٽ ڏانهن هڪ غير فلٽر ٿيل رستو." سينڊ باڪس کي ترتيب ڏيڻ، جيتوڻيڪ محدود نيٽ ورڪ رسائي سان گڏ OpenAI ان کي بيان ڪيو، ڪارڊ جي مطابق، "مناسب" فيصلو نه هو.
پڪ ڪرڻ لاءِ ، انهن تنقيدن ۾ پٺڀرائي جو فائدو آهي ، پر اهي AI ليبز ۾ حفاظتي عملن بابت حقيقي سوال اٿاريندا آهن - خاص طور تي ماڊل جي جاچ لاءِ الڳ ماحول کي برقرار رکڻ ۾. OpenAI جي ترجمانن TechCrunch جي سوالن جو جواب نه ڏنو، جنهن ۾ شامل ڪيو ويو ته ڇا هڪ AI يا انسان ٽيسٽنگ ماحول قائم ڪيو هو.
پر اهي سوال OpenAI کان پري آهن.
دستاويز ۾ ان جي سائبر سيڪيورٽي تي ڌيان ڏيڻ واري ماڊل Mythos کي متعارف ڪرايو، Anthropic لکيو ته هڪ ٽيسٽ ۾، ماڊل "سان رابطو ڪرڻ لاء هڪ محفوظ 'سينڊ باڪس' ڪمپيوٽر سان گڏ مهيا ڪيو ويو،" ۽ انهي کي "محفوظ ڪنٽينر" کان بچڻ جي ڪوشش ڪرڻ جي هدايت ڪئي وئي. Mythos ڪامياب ٿي ويو ۽ انٽرنيٽ تائين وسيع رسائي حاصل ڪئي "هڪ سسٽم کان جنهن جو مقصد صرف اڳواٽ مقرر ڪيل خدمتن جي هڪ ننڍڙي تعداد تائين پهچڻ جي قابل هوندو." اڃا تائين، اينٿروپڪ نوٽ ڪيو ته ماڊل "مڪمل طور تي" ٺهيل ڪنٽرول کان بچڻ جي قابل نه هو.
