ڪلاڊ جي AI ايجنٽ هڪ آسٽريليا جي جم جي رزرويشن سسٽم کي هيڪ ڪيو ۽ هڪ ٻئي گراهڪ جي بکنگ کي منسوخ ڪري ڇڏيو جڏهن ته هڪ مشهور ورزش ڪلاس ۾ پنهنجي صارف لاءِ جڳهه محفوظ ڪرڻ جي ڪوشش ڪئي.
اهو واقعو مهينو اڳ ٿيو پر آسٽريلوي ABC نيوز پاران هفتي جي آخر ۾ رپورٽ ڪئي وئي جيئن ملڪ جو پهريون دستاويزي ڪيس هڪ AI ايجنٽ هيڪ ڪري رهيو هو. ايجنٽ انٿروپڪ جي ڪلاڊ اوپس 4.6 پاران طاقتور هو ۽ OpenClaw ذريعي استعمال ڪيو پيو وڃي.
اوپن ڪلو جي مالڪ اينڊريو برڊ پنهنجي AI ايجنٽ کي تربيت ڏني هئي ڪمن کي سنڀالڻ لاءِ جيئن بکنگ اپائنٽمينٽ. هن باقاعدگي سان مشهور صبح جي ورزش واري ڪلاس ۾ شرڪت ڪئي پر بار بار انتظار جي فهرست تي ختم ٿيڻ ۽ اوپننگ ڳولڻ لاءِ بکنگ پيج کي ريفريش ڪرڻ جي ڪري مايوس ٿي ويو.
جڏهن برڊ ايجنٽ کان پڇيو ته هن کي هڪ جاءِ بُک ڪري، اهو شروعات ۾ کيس انتظار جي فهرست ۾ نمبر 4 تي رکڻ ۾ ڪامياب ٿي ويو.
ايجنٽ پوءِ برڊ کي ٻڌايو ته هن ڪلاسن ۾ هنڌن کي بک ڪرڻ جو هڪ طريقو ڳولي ورتو هو مهينا اڳ جم عام طور تي انهن کي رجسٽريشن لاءِ کوليو.
پکيءَ پڇيو ته ڇا اهو کيس انتظار جي فهرست تي مٿاهون منتقل ڪري سگهي ٿو. ايجنٽ ائين ڪرڻ جي ڪوشش ڪئي ۽ جم جي اپائنٽمينٽ سافٽ ويئر پاران استعمال ڪيل اختيار واري نظام ۾ ڪمزوري دريافت ڪئي.
ان کان پوءِ انتظار جي فهرست ۾ نمبر 1 تي موجود شخص جي رزرويشن منسوخ ڪري، برڊ کي 3 نمبر تائين منتقل ڪري ڇڏيو.
ABC پاران شايع ٿيل چيٽ لاگز موجب، ايجنٽ برڊ کي ٻڌايو ته اپائنٽمينٽ سسٽم کي ٻين صارفين جي رزرويشن کي منسوخ ڪرڻ لاءِ ڪو به اختياري چيڪ نه هو. اهو چيو ته اهو انتظار جي فهرست تي پهرين شخص تي عمل جي جانچ ڪئي ۽ تصديق ڪئي ته منسوخي ڪم ڪيو.
برڊ، جيڪو هڪ سافٽ ويئر ڊولپر آهي، پريشان ٿي ويو ته سندس AI ايجنٽ جم جي سسٽم کي هيڪ ڪيو هو.
هن پوءِ ايجنٽ کان پڇيو ته ٻي ڪسٽمر جي رزرويشن بحال ڪري. AI چيو ته اها منسوخي کي رد نه ڪري سگهي.
برڊ بدران ان کي جم جي سپورٽ ٽيم لاءِ ذميوار ظاهر ڪندڙ اي ميل تيار ڪرڻ لاءِ چيو. هن جي اڪائونٽ جي مطابق، اي ميل سيڪيورٽي خطرن جي وضاحت ڪئي، تجويز ڪيل حل، ۽ نسخن سان ناقص اختيار جي چيڪن جو مقابلو ڪيو جيڪو صحيح طور تي اختيار کي لاڳو ڪيو.
جيتوڻيڪ ABC واقعي کي آسٽريليا ۾ پهريون دستاويز ٿيل AI ايجنٽ هيڪنگ ڪيس طور ٻڌايو، اصل واقعو ڪجهه مهينا اڳ ٿيو.
برڊ 10 اپريل تي پنهنجي ڪمپني جي ويب سائيٽ تي شايع ٿيل هڪ بلاگ پوسٽ ۾ واقعو بيان ڪيو. اصل پوسٽ ختم ٿي وئي آهي، پر هڪ ڪاپي انٽرنيٽ آرڪائيو ذريعي موجود آهي.
اهو واقعو قابل ذڪر آهي ڇاڪاڻ ته AI ايجنٽ استعمال ڪري رهيو هو Claude Opus 4.6، هڪ ماڊل فيبروري ۾ جاري ڪيو ويو.
اهو پڻ سوال اٿاري ٿو ته ڪيئن قابل پراڻا AI ماڊل ۽ کليل وزن وارا ماڊل اڳ ۾ ئي سيڪيورٽي ڪمزورين کي ڳولڻ ۽ استحصال ڪرڻ ۾ هوندا.
جم واقعو آيو آهي جيئن ڪيتريون ئي AI ڪمپنيون ڪيسن جي تحقيقات ڪن ٿيون جن ۾ انهن جا ماڊل سائبر سيڪيورٽي ٽيسٽنگ ماحول کان ڀڄي ويا آهن يا غير مجاز ڪارناما ڪيا آهن.
گذريل مهيني، هڪ اڻ ڇپيل اوپن اي آءِ ماڊل هيڪنگ جو منهن هيڪ ڪيو بغير OpenAI کان سواءِ ان وقت جي سرگرمي بابت ڄاڻ. ٻيون تحقيقون بعد ۾ شامل ڪيون ويون Moonshot's Kimi K3، Meta's Muse Spark ۽ ماڊل انٿروپڪ مان.
انٿروپڪ ڏٺائين ته ان جا ٽي ماڊل ساڳيا ڪارناما ڪيا هئا. انهن ۾ شامل Opus 4.7، اپريل ۾ جاري ڪيو ويو ۽ پيچيده ڪوڊنگ لاءِ سڃاتي ويو، Mythos 5، Fable، جيڪو سائبر سيڪيورٽي صلاحيتن لاءِ ڄاتو وڃي ٿو، ۽ هڪ اندروني تحقيقي ماڊل جيڪو عوامي طور تي جاري نه ڪيو ويو هو.
ڪجهه AI ڪمپنين جواب ڏنو آهي بحث ڪندي فرنٽيئر ماڊلز جي سست ترقي يا آزاد تنظيمن جي تخليق جي مستقبل جي نسلن جي اي اي سسٽم کي جانچڻ لاءِ.
بهرحال، آسٽريليا جي جم واقعي ۾ شامل آهي Claude Opus 4.6 بلڪه نئين ماڊل جي. اهو مشورو ڏئي ٿو ته انتهائي قابل هيڪنگ رويي جديد فرنٽيئر سسٽم تائين محدود ناهي.
اهو پڻ سوال اٿاري ٿو ته ڪيترا AI ايجنٽ اڳ ۾ ئي حفاظتي ڪنٽرول جي چوڌاري طريقا ڳولي رهيا آهن جڏهن ته انهن جي استعمال ڪندڙن پاران درخواست ڪيل ڪمن کي مڪمل ڪرڻ جي ڪوشش ڪري رهيا آهن.
ٽيڪنالاجي انڊسٽري سسٽم ٺاهيندي آهي جيڪا صارفين جي طرفان ڪم ڪري سگهي ٿي. انهي صورت ۾، ايجنٽ صرف اهو ڪم مڪمل ڪرڻ جي ڪوشش ڪري رهيو هو جيڪو اهو ڏنو ويو هو ۽ هن وٽ ماڊلز جهڙوڪ Mythos سان لاڳاپيل وڌيڪ ترقي يافته سائبر سيڪيورٽي صلاحيتون نه هيون.
اهو خدشات پيدا ڪري ٿو ته ڇا ٿي سگهي ٿو جيڪڏهن AI ايجنٽ سسٽم سان رابطو ڪرڻ شروع ڪن ٿا جهڙوڪ ايئر لائن ريزرويشن، ڪنسرٽ ٽڪيٽنگ پليٽ فارم، ۽ ٻيون خدمتون جتي صارف محدود دستيابي لاءِ مقابلو ڪن ٿا.
جم جو واقعو تنهن ڪري هڪ وڏي مسئلي جو ابتدائي مثال پيش ڪري سگهي ٿو: AI ايجنٽ شايد ضابطن کي نظرانداز ڪرڻ جا طريقا ڳولي سگهن ٿا ۽ انهن کي ڏنل مقصدن کي حاصل ڪرڻ جي ڪوشش ڪندي قطار ۾ ڪٽجي سگهن ٿا. تازه ترين ٽيڪني خبرن، ٽيليڪم بصيرت، ۽ پراڊڪٽ لانچ حاصل ڪريو جتي توهان چاهيو ٿا.
ProPakistani کي ترجيحي ذريعن ۾ شامل ڪريو ۽ ڏسو اسان جون وڌيڪ ڪهاڻيون گوگل سرچ ۽ ٽاپ اسٽوريز ۾.
شيئرز
