ChatGPT ٺاهيندڙ OpenAI اڱاري تي چيو آهي ته ان جا جديد مصنوعي ذهانت جا ماڊل سيڪيورٽي ٽيسٽ دوران خراب ٿي ويا هئا، هيڪنگ پنهنجي پاڻ تي پروگرامرز لاءِ هڪ مشهور پليٽ فارم ۾.
سان فرانسسڪو فرم ان کي ”غير معمولي سائبر واقعو“ قرار ڏنو ۽ چيو ته اها آن لائن ڪوڊ لائبريري هگنگ فيس سان گڏيل تحقيق ڪندي.
AI ماڊل جيڪي هيٺيون ٽولن جهڙوڪ چيٽ بوٽس ۽ تصويري جنريٽر ايجنٽ طور سڃاتل آهن جڏهن اهي حقيقي دنيا ۾ ڪم ڪرڻ لاءِ خودمختيار طور ڪم ڪن ٿا.
جيئن ته ٽيڪنالاجي جلدي وڌيڪ نفيس ٿي وڃي ٿي، سائبر سيڪيورٽي اسپاٽ لائٽ ۾ آهي ترقي يافته AI جي خطري کي انسانن کان اڳ موجوده سافٽ ويئر ۾ ڪمزور پوائنٽون ڳولڻ.
OpenAI چيو ته واقعي ۾ ماڊلز جو هڪ ميلاپ شامل آهي، جنهن ۾ تازو شروع ڪيل GPT-5.6 Sol "۽ اڃا به وڌيڪ قابل پري رليز ماڊل" شامل آهن.
ڪمپني ماڊلز جي هيڪنگ جي صلاحيتن کي جانچڻ جي ڪوشش ڪري رهي هئي ڪمن کي ترتيب ڏيندي هڪ مضبوط ڪنٽرول ٿيل ڊجيٽل ٽيسٽنگ گرائونڊ ۾، جتي انٽرنيٽ جي رسائي حفاظت لاءِ محدود هئي.
"جڏهن ته اسان جي سينڊ باڪس ٿيل ٽيسٽنگ ماحول ۾ ڪم ڪندي، اسان جي ماڊلز (ڪمپيوٽنگ پاور) جي وڏي رقم خرچ ڪئي، اوپن انٽرنيٽ جي رسائي حاصل ڪرڻ جو رستو ڳولڻ ۾، تشخيص جي مسئلي کي حل ڪرڻ جي ڪوشش ۾،" واقعي بابت هڪ OpenAI بلاگ چيو.
انٽرنيٽ سان ڳنڍڻ کان پوء، ماڊل پليٽ فارم کي نشانو بڻائڻ جو فيصلو ڪيو Hugging Face - AI ماڊلز، ڊيٽا سيٽ ۽ ٻين معلومات جو هڪ وڏو ذخيرو - انهن جي ڳولا ۾ مدد ڪرڻ لاء.
ڳولها "ڳجهي معلومات" جيڪا مدد ڪري سگهي ٿي تشخيص کي ٺڳي، OpenAI سسٽم "گڏيل ڪيترن ئي حملن جي ویکٹرز کي گڏ ڪيو، بشمول چوري ٿيل سندون استعمال ڪندي".
حسين عباس، يو اين ايس ڊبليو ڪينبرا ۾ ڪمپيوٽنگ پروفيسر، اي ايف پي کي ٻڌايو ته اهو واقعو ”ڪيترن ئي محاذن تي حيرت انگيز“ هو.
عباس چيو ته ”اها رڳو هگنگ فيس تي حملو نه ڪيو، پر اهو دراصل ان جي اندروني نظام تي حملو ڪيو ته جيئن ان جي پنهنجي ڪمزورين جو فائدو وٺي،“ عباس چيو.
"۽ اهو خوفناڪ آهي."
GPT-5.6 ۽ ٻيا جديد ماڊل، بشمول Mythos سيريز OpenAI جي آرڪيائيل Anthropic کان، انهن جي سائبر سيڪيورٽي دفاعن جي ڀڃڪڙي ڪرڻ جي صلاحيت تي خدشات پيدا ڪيو آهي.
ٻنهي آمريڪي ڪمپنين کي عارضي طور تي انهن جديد ٽيڪنالاجيز جي عام رليز کي روڪڻو پيو ڇاڪاڻ ته واشنگٽن ۾ خوف جي ڪري ته اهي اهم انفراسٽرڪچر کي ٽوڙڻ ۾ مدد ڪري سگهن ٿيون.
ترقي يافته AI "عام طور تي ماڻهن جي هٿن ۾ آهي جيڪي اخلاقي ۽ ذميوار آهن"، عباس چيو.
پر ”اهو تباهي ٿيڻ وارو آهي جيڪڏهن اهو ڪنهن جي هٿن ۾ وڃي ٿو نقصان پهچائڻ جي نيت سان“.
AI شعبي کي ڪيئن سنڀالڻ هڪ اهم سوال بڻجي ويو آهي، ۽ "اسان کي هن صورتحال کي منظم ڪرڻ لاء ڪميونٽي جي ڪوشش جي ضرورت آهي"، هن وڌيڪ شامل ڪيو.
Hugging Face گذريل هفتي سائبر ”داخلا“ جي رپورٽ ڪئي هئي ، بغير اوپن اي آءِ جو ذڪر ڪرڻ.
”هي ڪنهن به شيءِ کان مختلف هو جنهن کي اسان اڳ ۾ هڪ اهم طريقي سان سنڀاليو هو: اهو هليو ويو ، آخر تائين ، هڪ خودمختيار AI ايجنٽ سسٽم ذريعي - ۽ اسان ان کي ڳولهيو ۽ ان کي گهڻو ڪري پنهنجي پنهنجي AI سان گڏ ڪيو ،“ Hugging Face چيو.
Clement Delangue، Hugging Face جي سي اي او، ايڪس تي چيو ته ڪمپني کي شڪ هو ته سائبر حملو دنيا جي معروف AI ليب مان آيو هو، ايجنٽ جي نفيس کي ڏنو ويو.
"اسان پختو يقين رکون ٿا ته انهن جي طرف کان ڪو به بدسلوڪي ارادو نه هو،" ڊيلنگو لکيو، OpenAI ڏانهن اشارو ڪيو.
”اها ڳالهه ڏاڍي دلڪش آهي ته اهو سڀ ڪجهه خودمختاري سان ٿيو!
