سومر تي Hugging Face هڪ ٽيڪنيڪل ٽائم لائن شايع ڪئي جيڪا پڙهندڙن کي هلندي آهي ته ڪيئن هڪ خودمختيار AI ايجنٽ، OpenAI ماڊلز تي ٺاهيل ۽ OpenAI جي پنهنجي سائبر سيڪيورٽي جي جائزي مان هڪ اندر هلندڙ، هن مهيني کان وڌيڪ چئن ڏينهن کان وڌيڪ سسٽم ۾ ڀڃي. اهو پهريون سيڪيورٽي واقعو آهي جنهن جي باري ۾ OpenAI CEO سام آلٽمن "ڏاڍي بصيرت سان محسوس ڪيو،" هن چيو آهي.
ٿورڙي تعجب ڏني وئي آهي ته اهو محسوس ٿئي ٿو، گهٽ ۾ گهٽ، جيئن ته هتي ڪجهه واقعي کي ختم ڪيو ويو آهي. حقيقت ۾، هگنگ فيس جي ٽيم پنهنجي رپورٽ کي پيش ڪندي پيش ڪيو ته "هر ڪنهن کي محافظ جي طور تي تيار ٿيڻ گهرجي،" ان کان اڳ جو ان جي نفيس گريٽي ۾ ڊائيونگ ڪرڻ کان اڳ هر جڳهه سيڪيورٽي پروفيسر جي فائدي لاء هيٺ ٿي ويو.
جڏهن ته انٽرنيٽ جو باقي حصو اهو سمجهڻ جي ڪوشش ڪري رهيو آهي ته ڇا ٿيو (Hugging Face جي رپورٽ ۾ جرگون اڪثر ماڻهن لاءِ پارس ڪرڻ ناممڪن آهي)، هڪ نقطو جيڪو ڪيترن ئي مبصرن کي ياد اچي رهيو آهي اهو اهو آهي ته هي هڪ بدمعاش ايجنٽ نه هو جيڪو حڪم جي نافرماني ڪري رهيو هو. اهو هڪ نظام هو جيڪو استحصال جي شڪار ڪرڻ لاءِ ٺاهيو ويو هو، بلڪل ائين ڪندي، صرف غلط ٽارگيٽ جي خلاف.
سڄي شيءِ جي باري ۾ سوچڻ جو هڪ ٻيو طريقو اهو آهي ته هڪ بيئر کي ڪئمپ سائيٽ تي تصوير ڏيڻ. واقعي. هڪ ريڙ خيمه جي زپرن ۽ ڪار جي دروازي جي هينڊلز ۽ کولر ۽ ڪچري جي لڪڙن کي آزمائي ٿو. اهو هر ڪيمپ سائٽ تي ڪري ٿو، سڄي رات، ڇاڪاڻ ته اهو ڄاڻي ٿو ته ان کي صرف هڪ کولر کولر جي ضرورت آهي ته هو پنهنجي پيٽ ڀرڻ لاء ڪجهه غريب اسڪمڪ جي سامان سان.
لڳ ڀڳ اهو ئي ٿيو جيڪو هنگنگ منهن تي ٿيو. OpenAI سسٽم هزارين شين جي ڪوشش ڪئي ۽ صرف جاري رهي. آخرڪار، انهن ڪوششن جو هڪ هٿ ڪم ڪيو، ۽ هڪ دفعو انهن ڪيو، ايجنٽ اڳتي وڌو. Hugging Face جي مطابق، ايجنٽ ساڍا چار ڏينهن ۾ بغير ڪنهن وقفي جي 17600 عمل ڪيا.
جيڪو اسان کي اسان جي بيئر قياس ڏانهن واپس آڻيندو آهي. جيئن کاڌي سان ڀريل ڪولر سان گڏ هڪ ڪاميابي هڪ بيئر کي سيکاري ٿي ته ايندڙ وقت کان به وڌيڪ سخت ڪوشش ڪري (اهو هاڻي هڪ ”فوڊ-ڪنڊيشنڊ“ بيئر آهي)، هڪ لِڪ ٿيل پاسورڊ OpenAI جي ايجنٽ کي وڌيڪ ڪارناما ڳولڻ جي هدايت ڪري ٿو ۽ آخرڪار، هڪ ئي چاٻي ڏانهن جنهن هڪ ئي وقت ڪيترن ئي ڪمپني سسٽم کي ان لاڪ ڪيو.
ڪوبه منظر بي ضرر نه آهي. هڪ ڀؤ جيڪو توهان جي کولر تي حملو ڪري ٿو اڃا تائين توهان جو کاڌو کائيندو آهي ۽ شايد توهان جي ڪئمپ سائيٽ کي پڻ رد ڪري ٿو. اهو صرف خوراڪ حاصل ڪرڻ تي ڌيان ڏئي ٿو، پر ان جي باوجود تباهي جي پيچرن کي ڇڏي ٿو. اهڙي طرح، OpenAI جي ايجنٽ بظاهر ڪنهن ٻئي جي پرواهه ڪرڻ کان سواء هڪ مقصد جو تعاقب ڪري رهيو هو. ايجنٽ اصل ۾ هڪ سائبر سيڪيورٽي امتحان وٺي رهيو هو، اهو معلوم ڪيو ته امتحان جي جوابي چيڪ شايد هنگنگ منهن جي سرورز تي ويٺي هئي، ۽ اهو ان لاء ويو.
ھتي استقامت اھو آھي جيڪو سڀ کان وڌيڪ قابل ذڪر آھي؛ ايجنٽ وٽ نوڪري هئي ۽ اهو بند ٿيڻ وارو نه هو جيستائين اهو مڪمل نه ٿئي. هنگنگ چهرو، آخرڪار محسوس ڪيو ته ڪجهه خراب آهي، ان جي پهچ کي بند ڪري ڇڏيو ۽ مداخلت کي بند ڪيو، پر ان وقت، ڪافي دير ٿي چڪي هئي. ايجنٽ اڳ ۾ ئي حاصل ڪري چڪو هو جيڪو اهو آيو هو، ۽ بوٽ ڪرڻ لاء هڪ وڏو معاملو.
جيڪڏهن توهان ان کي وڃايو، هتي سڀ کان وڌيڪ ڇا ٿيو آهي، في Hugging Face جي ٽائم لائن، پر صاف انگريزي ۾.
بالآخر، هگنگ فيس پنهنجي رپورٽ ۾ نتيجو ڪڍيو، هڪ "قابل" انساني هيڪر "ساڳئي خامين کي ڳولي ۽ استحصال ڪري سگهي ٿو: غير محفوظ ڊيٽا سيٽ پروسيسنگ، بي نقاب ڪلائوڊ ميٽا ڊيٽا، حد کان وڌيڪ وسيع رسائي، ۽ ڊگهي عرصي تائين معتبر سندون." وڏو فرق، تنظيم جاري رهي، اهو آهي ته "ايجنٽ انهن کي مختلف پيماني تي ڳوليائين."
اهو واقعي آهي جتي بيئر قياس ختم ٿئي ٿو سڀ کان وڌيڪ مفيد آهي. بکايل رڇ جي خلاف بهترين دفاع پروٽوڪول آهي. توهان کاڌو پري رکيو؛ توهان هڪ لچ استعمال ڪريو ٿا جيڪو چڱي طرح ڪم ڪري ٿو. هتي وٺڻ وارو رستو اهو نه هجڻ گهرجي ته ڀورو ايترو هوشيار يا شرارتي هو. اهو آهي ته اهو ڪڏهن به چيڪ ڪرڻ بند نه ڪيو. اهو سمجھيو ويو آهي سائبر سيڪيورٽي ۾ ته اتي هميشه ڪجهه بگ آهي جيڪو توهان کي نه مليو آهي، تنهنڪري جيڪڏهن اوچتو اهو آهي 100 ڀيرا هر شي کي چيڪ ڪرڻ آسان، پوء ڪجھ به واقعي محفوظ ناهي. اھو اھو آھي جيڪو گھڻن کي ھن قسط جي باري ۾ پريشان محسوس ٿئي ٿو.
