جولاءِ ۾، اوپن اي آءِ تسليم ڪيو ته ان جو هڪ ايجنٽ سائبر سيڪيورٽي تجربو مڪمل ڪرڻ جو فرض انجام ڏنو ۽ AI ڊيٽا سيٽ پليٽ فارم هگنگ فيس کي هيڪ ڪيو. اهو واقعو، جيڪو ڪالهه OpenAI کان مڪمل حساب ڪتاب حاصل ڪيو، پهريون عوامي طور تي ٻڌايو ويو ڪيس هو جتي هڪ LLM بدمعاش ٿي ويو ۽ خودمختيار طور تي ٽئين پارٽي کي هيڪ ڪيو.
ان وقت کان وٺي، اهو بي مثال اسڪئي فائي-ايسڪ ايونٽ تمام گهٽ ناياب ثابت ٿيو جنهن جي اميد هوندي.
هڪ طنزيه ويب سائيٽ جي مطابق فيلوني بينچ (بينچ مارڪ لاءِ)، جيڪا انهن واقعن کي ڊگهو ڪري ٿي، مجموعي طور تي 17 واقعا ٿيا آهن. اهو ياد رکڻ ضروري آهي ته فوجداري قانون جا ماهر مڪمل طور تي يقين نه رکندا آهن ته ڇا اهي AI ڪمپنيون جن ايل ايل ايم ٺاهيا جن هيڪنگ ڪئي انهن جي خلاف ڪارروائي ٿي سگهي ٿي، يا نه ته متاثرين انهن تي ڪيس ڪري سگهن ٿا. پر اسان کي جلد ئي انهن سوالن جا جواب ملندا.
Anthropic ۽ OpenAI جا ماڊل ريس جي اڳواڻي ڪن ٿا هر هڪ اٺ واقعن سان، ۽ ميٽا پيچرا هڪ سان گڏ، سائيٽ جي مطابق. هن نقطي تي، اهو واضح ٿي چڪو آهي ته AI حفاظتي ٽيسٽ پاڻ کي حفاظتي خطرن جي ڪري رهيا آهن. ۽ ڪجهه AI ڪمپنيون ۽ ڪارڪنن پاڻ انهن خطرن کي تسليم ڪيو آهي “Pacing The Frontier” کليل خط ۾، جنهن ۾ AI صلاحيتن کي ذميواري سان ترقي ڪرڻ جو مطالبو ڪيو ويو آهي.
اسان فيصلو ڪيو ته اهو سٺو وقت هوندو ته انهن سڀني واقعن کي تاريخي طور تي ٻيهر ورجايو.
انٽرنيٽ جي رسائي. اتان کان، ڪيترن ئي ايجنٽن گڏجي ڪم ڪيو هگنگ فيس کي نشانو بڻائڻ ۽ هيڪ ڪرڻ لاءِ اهو سوچڻ ته اهي اتي ئي چيلنج جو حل ڳولي سگهن ٿا. OpenAI صرف ان کان پوء معلوم ٿيو جڏهن Hugging Face ظاهر ڪيو ته اهو مڪمل طور تي خودمختيار حملي جو شڪار هو. اڙي.
OpenAI جي انڪشاف اينٿروپڪ جي تجسس کي وڌايو، جيڪو حيران ڪيو: ڇا اهو اسان سان پڻ ٿي سگهي ٿو؟ ٻاهر ڦرندو، جواب هو هو. ٽي ڀيرا ها. فرنٽيئر ليب دريافت ڪيو ته ان جا پنهنجا ماڊل ٽن مختلف ۽ اڃا تائين اڻڄاتل ڪمپنين جي ڀڃڪڙي ڪن ٿا، اڳوڻو واقعو اپريل ۾ تاريخن سان گڏ - ٽن مهينن کان وڌيڪ اڳ ڪمپني ان کي دريافت ڪيو. انتھروپڪ جزوي طور تي الزام لڳايو Irregular، ھڪڙو شروعاتي آھي جيڪو ھلندو آھي AI سائبر تشخيص. اڙي.
هڪ دفعو OpenAI هنگنگ فيس جي خلاف ورزي جي جاچ شروع ڪئي، اهو معلوم ٿيو ته ايجنٽ جن هيگنگ فيس کي هيڪ ڪيو هو انهن چار اڪائونٽن ۽ چار مختلف ڪمپنين کي به ٽوڙي ڇڏيو، جيئن رائٽرز پهريون ڀيرو ٻڌايو. Modal، هڪ AI inference startup، متاثرين مان هڪ هو. اڙي.
جولاءِ جي آخر ۾، Irregular OpenAI کي ٻڌايو ته ان جو هڪ ماڊل جيڪو حصو وٺي رهيو هو هڪ Capture-the-Flag مقابلي ۾ - بنيادي طور تي هڪ سائبر سيڪيورٽي راند جتي رانديگرن کي هيڪ ڪيو ويو سسٽم خاص طور تي مقابلي لاءِ تيار ڪيو ويو آهي - راند کان فرار ٿي ويو، انٽرنيٽ سان ڳنڍيو، ۽ هڪ حقيقي ڪمپني کي هيڪ ڪيو. سبب؟ Irregular هڪ افسانوي مقصد کي هڪ حقيقي ڪمپني جو ساڳيو نالو ڏنو هو. اڙي.
جولاء جي آخر ۾ پڻ، برطانيه جي حڪومت جي AI سيڪيورٽي انسٽيٽيوٽ، هڪ عوامي ادارو جيڪو AI ٽيڪنالاجيز جي حفاظت ۽ خطرن تي تحقيق ڪرڻ جو ڪم ڪيو، انڪشاف ڪيو ته هن ڪيترن ئي واقعن کي ڳولي ورتو آهي جنهن ۾ OpenAI ۽ Anthropic ماڊل شامل آهن جيڪي "معمولي" تشخيص هلائڻ دوران "حقيقي ماڻهن ۽ تنظيمن" کي نشانو بڻايو. انهن حالتن ۾، AISI ماڊلز کي انٽرنيٽ جي رسائي ڏني هئي. اڙي. سٺي خبر اها آهي ته ايجنسي اصل ۾ دريافت ڪيو جيئن اهي ٿيا، بلڪه هفتي کان پوء ٻين واقعن وانگر.
آگسٽ جي شروعات ۾، ميٽا آخري ڪمپني بڻجي وئي جنهن هڪ واقعو ظاهر ڪيو جنهن ۾ هڪ ايل ايل ايم شامل آهي، جنهن کي هيڪ ڪيو ويو "هڪ ٽئين پارٽي" سروس. ميٽا واقعي کي غلط ترتيب ڏيڻ تي الزام لڳايو Irregular، جيڪو ٽيڪ ديو لاءِ سائبر سيڪيورٽي جي قيمت هلائي رهيو هو جنهن کي انٽرنيٽ جي رسائي نه هجڻ گهرجي. اڙي.
هڪ آسٽريلوي ماڻهو هڪ اينٿروپڪ AI ايجنٽ کان پڇيو ته هن کي جم ڪلاس بک ڪرڻ ۾ مدد ڪري، جنهن لاءِ هو ويٽنگ لسٽ تي هو. ”مان صرف صوفيءَ تي ويٺو سوچي رهيو هوس، ’جي، هي هڪ ڪم آهي،‘“ انسان ABC آسٽريليا کي ٻڌايو. درخواست جي تعميل ڪرڻ جي ڪوشش ۾، ايجنٽ جم جي بکنگ سافٽ ويئر ۾ هڪ ڪمزوري محسوس ڪئي، ان جو استحصال ڪيو، ۽ ماڻهن کي ٻاهر ڪڍيو جيڪي انتظار جي فهرست تي انسان کان اڳ هئا. انسان نقصان کي واپس ڪرڻ جي ڪوشش ڪئي، ايجنٽ کي ان جي عملن کي رد ڪرڻ لاء چيو. ايجنٽ جواب ڏنو: "خراب خبر - مان انهن کي واپس شامل نه ٿو ڪري سگهان." اڙي.
