ChatGPT جي مالڪ OpenAI اعتراف ڪيو آهي ”بي مثال سائبر واقعو“ - ان جا ٻه سڀ کان وڌيڪ قابل مصنوعي انٽيليجنس ماڊل هيڪ ڪيا ويا هڪ ٻئي AI ڪمپني ۾ پنهنجو پاڻ - مضبوط ٽيڪنالاجي محافظن جي ضرورت تي بحث مباحثو.
ڪمپني چيو ته ان جو AI سسٽم هڪ ٽيسٽنگ ماحول مان ڀڃي ويو ۽ هيڪنگ اسٽارٽ اپ هگنگ فيس.
اسٽارٽ اپ 16 جولاءِ تي انڪشاف ڪيو هو ته هن جا سرور هڪ نامعلوم پر نفيس ايجنٽ طرفان هيڪ ڪيا ويا آهن جيڪو پنهنجي طور تي ڪم ڪري رهيو آهي.
هتي تازو آهي ته ڪيئن ڪمپنيون، ڪجهه حڪومتن ۽ قانون سازن پهريون ڀيرو عوامي طور تي ظاهر ڪيل سائبر حملي جو جواب ڏنو آهي:
ڪمپني هڪ بيان ۾ چيو آهي ته اها ڀڃڪڙي کي دريافت ڪيو پنهنجي AI جي مدد سان ڳولڻ جي ذريعي.
”هي ڪنهن به شيءِ کان مختلف هو جيڪو اسان اڳ ۾ هڪ اهم طريقي سان سنڀاليو هو: اهو هليو ويو ، آخر کان آخر تائين ، هڪ خودمختيار AI ايجنٽ سسٽم طرفان ،“ اهو چيو.
OpenAI جي انڪشاف جي پٺيان ته ان جا ماڊل ان جي خلاف ورزي ۾ ملوث هئا، ٻنهي طرفن هن هفتي هڪ جاري گڏيل تحقيق شروع ڪئي.
Hugging Face cofounder Clement Delangue چيو ته هن جي شروعاتي اوپن سورس GLM-5.2 ماڊل ڏانهن رخ ڪيو چيني ڪمپني Zhipu AI کان ڊيٽا جو تجزيو ڪرڻ لاءِ هيڪ کان ڊيٽا جو تجزيو ڪرڻ کان پوءِ آمريڪي اي آءِ ماڊلز جي اڳواڻي واري ڪم کي رد ڪري ڇڏيو ، محافظ ۽ حملي آور جي وچ ۾ فرق ڪرڻ کان قاصر.
هنگنگ فيس جي اسٽاف ”مضبوط طور تي يقين رکون ٿا ته انهن جي طرف کان ڪو به بدسلوڪي ارادو نه هو“ ، ڊيلنگو شامل ڪيو ، OpenAI جو حوالو ڏيندي.
”اسان جي سيڪيورٽي ٽيم تي تمام گهڻو فخر آهي! انهن هڪ حملي کي پڪڙيو، شامل ڪيو ۽ عوامي طور تي ظاهر ڪيو ان جي برعڪس ڪنهن به شيءِ جي برعڪس جيڪو اسان اڳ ۾ ڏٺو آهي، ۽ اهو رڪارڊ رفتار سان ڪيو،“ هن لکيو ايڪس.
"اهو ڏينهن آهي سائبر سيڪيورٽي لاءِ ايجنٽن جي دور ۾ ۽ اسان سڀ سکي رهيا آهيون ته رازداري جواب نه آهي ۽ اهو سڀ محافظ (نه صرف ڪجهه چونڊيل آهن) هر جڳهه تي وڌيڪ طاقتور ماڊل جي ضرورت آهي بغير پابندين جي، خاص طور تي کليل آهن!" ڊيلنگو شامل ڪيو ويو.
AI سيڪيورٽي انسٽيٽيوٽ (AISI)، برطانيه جي حڪومت جي مدد سان 2023 ۾ قائم ڪيل ادارو ترقي يافته AI سسٽم پاران پيدا ٿيندڙ خطرن جو جائزو وٺڻ لاءِ ، هن هفتي چيو ته هڪ AI ماڊل جيڪو ان جي تحقيق ڪري رهيو هو اهو پڻ بدمعاش بڻجي ويو ۽ ان جي ٽيسٽنگ سسٽم کي هيڪ ڪرڻ جي ڪوشش ڪئي.
AISI AI ماڊل جي پويان ڪمپني کي ظاهر نه ڪيو ۽ شامل ڪيو ته ان جي پنهنجي انفراسٽرڪچر کي ڪو به نقصان نه پهچايو ويو آهي. ان کان پوء ان جي سسٽم کي وڌيڪ محفوظ بڻائڻ لاء قدم کنيا آهن.
ان جي تازي تشخيص پڻ مليا آهن ته هر فرنٽيئر AI ماڊل اهو آزمائي ٿو ته اها صلاحيت جي جائزي دوران ٺڳي ڪرڻ جي ڪوشش ڪئي وئي، AI حفاظت لاء وڌندڙ چئلينج کي اجاگر ڪيو جيئن ماڊل وڌيڪ قابل ٿي ويندا آهن.
AISI جي مطابق، ماڊلز وڌيڪ آساني سان ڪم مڪمل ڪرڻ لاءِ تشخيصي قاعدن کي ٽوڙيو، بشمول منع ٿيل آن لائن جوابن کي ڳولڻ، نيٽ ورڪ جي پابندين کي نظرانداز ڪرڻ، اشارن لاءِ تشخيصي سافٽ ويئر جي تحقيق ڪرڻ، ۽ اجازت ڏنل ماحول کان ٻاهر سسٽم تائين رسائي شامل آهن.
اي ايس آءِ چيو ته ماڊلن ڪڏهن ڪڏهن ٺڳيءَ جو اعتراف ڪيو جڏهن بعد ۾ پڇا ڳاڇا ڪئي وئي ۽ اڪثر انهن جي استدلال ۾ رويي کي ظاهر نه ڪيو، اهو صرف خود رپورٽنگ ذريعي ڳولڻ ڏکيو بڻائي ٿو. انسٽيٽيوٽ دليل ڏنو ته آزاد نگراني ۽ مضبوط نگراني ميڪانيزم تيزي سان اهم ٿي ويندا جيئن AI سسٽم وڌيڪ خودمختياري حاصل ڪن.
انسٽيٽيوٽ زور ڀريو ته اهو رويو لازمي طور تي خراب ارادي جي نشاندهي نٿو ڪري پر بلڪه ماڊل کي ظاهر ڪري ٿو جيڪي شارٽ ڪٽ جو استحصال ڪن ٿا موجوده تشخيص سيٽ اپ ۾ ڪاميابي کي وڌائڻ لاءِ.
ChatGPT ٺاهيندڙ اڱارو ڏينهن هڪ بلاگ پوسٽ ۾ چيو: ”اسان هنگنگ فيس کي قابل اعتماد رسائي پروگرام ۾ آندو آهي ۽ انهن جي ٽيمن جي مدد ڪري رهيا آهيون تيزيءَ سان اسان جي ماڊلز جي صلاحيتن کي استعمال ڪندي انهن جي دفاع کي بهتر ڪرڻ لاءِ.
سان فرانسسڪو فرم انڪشاف ڪيو ته ان جا ٻه ماڊل حملي ۾ ملوث آهن جديد ترين GPT-5.6 سول ماڊل ۽ هڪ اڻ ڇپيل ماڊل جنهن کي ڪمپني چيو آهي ته ان جي جديد ورزن کان به وڌيڪ قابل آهي.
ٻن OpenAI ايجنٽن هيگنگ فيس جي سرورز ۾ ڪمزورين کي دريافت ڪيو ۽ لاگ ان جي تفصيلن کي چوري ڪرڻ لاءِ اڳتي وڌو ۽ پوءِ ڪمپني جي سسٽم ۾ هيڪ ڪيو.
اهو واقعو هڪ OpenAI اندروني ٽيسٽنگ سيشن دوران پيش آيو، ماڊل جي سائبر سيڪيورٽي صلاحيتن جو جائزو وٺڻ لاء ٺهيل. OpenAI ٽيسٽ لاءِ معياري حفاظتي قدمن کي هٽايو هو.
ٻنهي ٽيسٽ دوران هڪ مسئلي ذريعي پنهنجو رستو ٺڳي ڪرڻ جي ڪوشش ڪئي، OpenAI چيو. اهي ويا ”بلڪه تنگ ٽيسٽنگ مقصد حاصل ڪرڻ لاءِ انتهائي حد تائين“ ۽ ”ڳجهي معلومات تائين رسائي حاصل ڪرڻ جا طريقا ڳوليا ويا جيڪي استعمال ڪري سگھن ٿا تشخيص کي ڌوڪو ڏيڻ لاءِ“.
ٽيڪساس کان ڊيموڪريٽڪ يو ايس ڪانگريس ميمبر، گريگ ڪاسر، ايڪس تي هڪ پوسٽ ۾ لکيو: "اها انتهائي خطرناڪ آهي. AI اسان کي محفوظ رکڻ لاءِ ڪنهن به حقيقي ضابطن سان گڏ انتهائي تيزيءَ سان ترقي ڪري رهيو آهي. ان کي تبديل ڪرڻو پوندو." "اسان کي باقاعده لازمي آزاد حفاظت جي جاچ ۽ نگراني جي ضرورت آهي، سيڪيورٽي واقعن جي لازمي ظاهر ڪرڻ، ۽ ماڻهن کي مڪمل آفت کان محفوظ رکڻ لاء بين الاقوامي تعاون،" هن وڌيڪ چيو.
