OpenAI انڪشاف ڪيو آهي ته ان جي مصنوعي ذهانت جي ماڊلز مان هڪ آزاد طور تي لاگ ان سندون چوري ڪيو ۽ هڪ ٻئي ٽيڪنالاجي ڪمپني جي سسٽم ۾ هيڪ ڪيو ويو، جنهن ۾ وڏي پيماني تي ڏٺو وڃي ٿو AI سسٽم جي خودمختاري سان ڪم ڪرڻ جي پهرين ڄاڻايل واقعن مان.
"اسان وٽ اسان جي ماڊلز جي تشخيص دوران هڪ اهم سيڪيورٽي واقعو هو،" سي اي او سام آلٽمن اڱارو ڏينهن ايڪس تي پوسٽ ڪيو.
اهو واقعو اچي ٿو جيئن ٽيڪنالاجي حقن جي وڪيلن کان ڪالون مائونٽ تيزيءَ سان ترقي ڪندڙ AI سسٽم تي سخت محافظن لاءِ.
اهي تمام ٿورڙي عرصي ۾ ايترا طاقتور ٿي ويا آهن ته خطرناڪ واقعا جهڙوڪ ڊيپ فيڪس ۽ نفيس سائبر اسڪيم معمول بڻجي رهيا آهن.
هن سال جي شروعات ۾، ڪيترن ئي سافٽ ويئر انجنيئرن پنهنجون نوڪريون ڇڏي ڏنيون مٿين ڪمپنين جهڙوڪ اينٿروپڪ ۽ اي آءِ جي احتجاج ۾ ٽيڪنالاجيون ڪيئن ٺهي رهيون آهن.
"AI خطرات جي دريافت ۽ استحصال کي تيز ڪري رهيو آهي،" OpenAI چيو اڱارو ڏينهن هڪ ڊگهي بيان ۾ جيڪو تازو واقعو تفصيلي آهي.
"هن واقعي مان بنيادي سبق اهو آهي ته ماڊل سيڪيورٽي ۽ حفاظت کي تيزيء سان ترقي يافته صلاحيتن سان گڏ رکڻ گهرجي."
ھتي آھي جيڪو اسان جي ڀڃڪڙي بابت ڄاڻون ٿا:
OpenAI چيو ته ان جا ٻه ماڊل هڪ الڳ، بغير انٽرنيٽ جي رسائي واري ماحول مان نڪرڻ جو رستو ڳولي ورتو - يا هڪ سينڊ باڪس - ۽ ٽيڪ ڪمپني جي سسٽم ۾ هيڪ ڪيو ويو هوگنگ فيس پاڻ تي.
ماڊل شامل آهن جديد GPT-5.6 Sol ماڊل ۽ هڪ غير رليز ٿيل ماڊل ڪمپني چيو آهي ته ”اڃا به وڌيڪ قابل“ آهي ان جي جديد ورزن کان.
Hugging Face hosts openly sourced AI ماڊلز ۽ وسيلن. ٻن OpenAI ايجنٽن هيگنگ فيس جي سرورز ۾ ڪمزورين کي دريافت ڪيو ۽ لاگ ان جي تفصيلن کي چوري ڪرڻ لاءِ اڳتي وڌو ۽ پوءِ ڪمپني جي سسٽم ۾ هيڪ ڪيو.
اهو واقعو هڪ OpenAI اندروني ٽيسٽنگ سيشن دوران پيش آيو، ماڊل جي سائبر سيڪيورٽي صلاحيتن جو جائزو وٺڻ لاء ٺهيل. OpenAI ٽيسٽ لاءِ معياري حفاظتي قدمن کي هٽايو هو.
ٻنهي ٽيسٽ دوران هڪ مسئلي ذريعي پنهنجو رستو ٺڳي ڪرڻ جي ڪوشش ڪئي، OpenAI چيو. اهي ويا ”بلڪه تنگ ٽيسٽنگ مقصد حاصل ڪرڻ لاءِ انتهائي حد تائين“ ۽ ”ڳجهي معلومات تائين رسائي حاصل ڪرڻ جا طريقا ڳوليا ويا جيڪي استعمال ڪري سگھن ٿا تشخيص کي ڌوڪو ڏيڻ لاءِ“.
OpenAI جي سيڪيورٽي ٽيم اندروني طور تي غير معمولي سرگرمي جو پتو لڳايو، پر ڀڃڪڙي جا تفصيل ٻنهي ڪمپنين جي گڏيل تحقيق کانپوءِ سامهون آيا.
Hugging Face گذريل خميس ظاهر ڪيو ته ان جا سرور هڪ نامعلوم پر نفيس ايجنٽ طرفان هيڪ ڪيا ويا جيڪي پنهنجو پاڻ تي ڪم ڪري رهيا آهن. ڪمپني پنهنجي AI جي مدد سان ڳولڻ جي ذريعي ڀڃڪڙي کي دريافت ڪيو.
"هي هڪ هر شيء کان مختلف هو جيڪو اسان اڳ ۾ هڪ اهم طريقي سان سنڀاليو هو: اهو هلائي وئي، آخر تائين، هڪ خودمختيار اي ايجنٽ سسٽم طرفان،" ڪمپني چيو.
OpenAI جي انڪشاف جي پٺيان ته ان جا ماڊل ان جي خلاف ورزي ۾ ملوث هئا، ٻنهي طرفن هن هفتي جاري گڏيل تحقيق ڪئي.
"اسان کي شڪ آهي ته گذريل هفتي جو سائبر حملو شايد فرنٽيئر ليب مان آيو هجي، ايجنٽ جي نفيس کي ڏنو ويو آهي. ظاهر ٿيو اهو ٿيو!" CEO Clement Delangue پوسٽ ڪيو ايڪس تي اڱارو.
هنگنگ فيس جي عملي کي ”مضبوط طور تي يقين آهي ته انهن جي طرف کان ڪو به بدسلوڪي ارادو نه هو ،“ ڊيلنگو شامل ڪيو ، اوپن اي آءِ جو حوالو ڏيندي.
سائبر سيڪيورٽي ماهرن اڳ ۾ ئي AI سسٽم جي امڪاني، انتهائي صلاحيتن ۽ خطرن جي حوالي سان الارم وڄائي ڇڏيو آهي.
پر هن وقت تائين، ڪجھ حقيقي زندگي جا ڪيس آهن جيڪي انهن خدشات کي هن طرح ثابت ڪن ٿا.
ڪيترائي خبردار ڪن ٿا ته اهڙن واقعن وانگر عام ٿي سگهي ٿو ۽ AI سسٽم مالي، سيڪيورٽي ۽ ٻين حساس ڊيٽا سسٽم لاء خطرو آهي.
OpenAI هن هفتي جي شروعات ۾ هڪ الڳ واقعا ۾ ظاهر ڪيو ته اڻ ڇپيل، وڌيڪ طاقتور ماڊل هڪ ٻئي ٽيسٽ دوران هڪ الڳ ماحول کان ڀڄي ويو.
Anthropic، OpenAI جي حریف، ساڳئي مسئلن سان گڏ ان جي سڀ کان وڌيڪ طاقتور ايجنٽ سان گڏ هئا، ڪلواڊ ميٿس پريويو ماڊل.
شروعاتي ورزن جي سخت آزمائش دوران، ماڊل هڪ سينڊ باڪس مان پنهنجو رستو ڳولي ورتو، انٽرنيٽ جي رسائي حاصل ڪئي ۽ نگراني ڪندڙ محقق کي اي ميل ڪيو ته اهو فرار ٿي ويو آهي ۽ پوء ان جي سرگرمي جو ثبوت صاف ڪري ڇڏيو. انٿروپڪ بعد ۾ ماڊل جي منصوبابندي ڪيل عوامي رليز کي روڪيو.
اپريل ۾، يو ايس فيڊرل ريزرو ۽ خزاني واري کاتي بينڪ جي سي اي اوز سان گڏ هڪ اجلاس منعقد ڪيو جتي آفيسرن کي خبردار ڪيو ويو سائبر سيڪيورٽي خطرن بابت جيڪي Mythos پاران پيش ڪيا ويا آهن. ڪئناڊا جي وفاقي بينڪنگ ريگيوليٽر پڻ مالي ادارن کي ماڊل جي صلاحيتن بابت خبردار ڪيو آهي.
OpenAI جي خلاف ورزي پڻ ظاهر ٿئي ٿي ته ڪمپنين لاءِ ڪيس ٺاهيو جيئن هگنگ فيس، جيڪي اوپن سورس سسٽم تي ڀاڙين ٿيون، جيئن ته OpenAI وانگر وڌيڪ ڳجهي AI ڊولپمينٽ پليٽ فارمن جي مخالفت ڪن ٿا. "هي واقعو، ممڪن طور تي پنهنجي قسم جو پهريون، هڪ نقطو ثابت ڪري ٿو جيڪو اسان گهڻو وقت مڃيندا آهيون: AI حفاظت ڳجهي ڪم ڪندڙ ڪنهن به ڪمپني طرفان حل نه ٿيندي،" Hugging Face's Delangue OpenAI جي بيان ۾ چيو ويو آهي.
"اهو کليل ۾ حل ڪيو ويندو، تعاون سان، هر محافظ لاء AI تائين وسيع رسائي سان، هر جڳهه،" هن شامل ڪيو.
