خودمختيار AI جي باري ۾ خدشات گهڻو ڪري ان ڳالهه تي ڌيان ڏنو آهي ته ڇا ٿئي ٿو جڏهن هڪ ايجنٽ انساني ارادن کي نظرانداز ڪري ٿو يا مقصد جي تعاقب دوران نقصانڪار عمل ڪري ٿو، جهڙوڪ انسانن کي دوکو ڏيڻ.
Anthropic هاڻي هڪ ٻيو مسئلو ظاهر ڪيو آهي: AI ايجنٽ ٻين AI ايجنٽن کي به موڙي سگهن ٿا.
هڪ نئين تجربي ۾، انٿروپڪ ڪيترن ئي AI ايجنٽن کي متضاد هدايتون ڏنيون جڏهن ته انهن کي هڪ ئي سافٽ ويئر پروجيڪٽ تي آزاديءَ سان ڪم ڪرڻ جي اجازت ڏني. رڳو تڪرار کي تسليم ڪرڻ ۽ هڪ انسان کي مداخلت ڪرڻ لاء پڇڻ جي بدران، ايجنٽ بار بار هڪ ٻئي تي حملو ڪرڻ شروع ڪيو.
ڇا پٺيان لڳي ٿو گهٽ تعاون وانگر ۽ وڌيڪ ڊجيٽل ٽرف جنگ وانگر.
اينٿروپڪ ٽن ايجنٽن کي هدايت ڪئي ته اهي ساڳيا پٿون سافٽ ويئر پس منظر کي تبديل ڪن، پر هر ايجنٽ کي ٻڌايو ويو ته ان کي مختلف پروگرامنگ ٻولي استعمال ڪندي ٻيهر تعمير ڪيو وڃي.
ايجنٽن کي شروعات ۾ اها خبر نه هئي ته ٻين کي به جائز پر متضاد هدايتون مليون هيون.
انهن جلد ئي ٻين ايجنٽن جي ڪم کي عمدي مداخلت طور تعبير ڪيو.
اتان کان، ڪجهه ايجنٽ فعال طور تي مقابلي واري عمل کي ڳولڻ ۽ انهن کي بند ڪرڻ شروع ڪيو. اهي خودڪار اسڪرپٽ لکيا جيڪي بار بار حريف پروگرامن کي ڳوليندا هئا ۽ انهن کي ماريندا هئا جڏهن اهي ظاهر ٿيندا هئا.
ٻين لفظن ۾، ايجنٽ مؤثر طريقي سان شڪار ڪري رهيا هئا مقابلي واري اي آءِ ڪم لوڊ لوڊ ساڳئي سسٽم تي هلندڙ.
حملا جلدي وڌيڪ جارحيت بڻجي ويا.
ڪجهه ايجنٽ پنهنجن حریفن جي ڪمپيوٽر جي اجازتن کي رد ڪري ڇڏيو، انهن کي صارف گروپن مان هٽايو، انهن جي اڪائونٽن کي بند ڪيو، ۽ SSH رسائي کي بلاڪ ڪيو، جيڪو عام طور تي ڪمپيوٽر کي ڪنٽرول ڪرڻ لاء استعمال ڪيو ويندو آهي.
ٻيا ٺاهيل بدسلوڪي ڪوڊ جيڪي بار بار مقابلي واري عمل کي غير فعال ڪري سگھن ٿا.
انٿروپڪ ايجنڊا به ڏٺا آهن جيڪي مالويئر کي ڊيپلائي ڪندي نظر اچن ٿا ڄڻ ته اهو ڪنهن ٻئي ايجنٽ طرفان ٺاهيو ويو آهي.
ڪيترن ئي تجربن ۾، هڪ ايجنٽ مؤثر طريقي سان تڪرار کٽي ٻين جي ڪم کي جاري رکڻ جي صلاحيت کي هٽائي ڇڏيو.
هر تجربو هڪ AI سان ختم نه ٿيو ٻين کي آف لائن مجبور ڪرڻ.
ڪجهه ايجنٽ آخرڪار اهو محسوس ڪيو ته انهن جا حريف عمدي طور تي انهن تي حملو نه ڪري رهيا هئا. ان جي بدران، انهن سڀني کي انسانن طرفان نامناسب هدايتون ڏنيون ويون آهن.
هڪ دفعو انهن صورتحال کي سمجهي ورتو، ڪجهه وڙهڻ بند ڪيو، انهن کي ٺاهيل بدسلوڪي ڪوڊ حذف ڪيو، ۽ ڳالهين جي ڪوشش ڪئي.
ڪجھ به ڇڏيا معافي جا پيغام ڪوڊ ڪمٽس يا دستاويزن ۾ انسان کان پڇڻ کان اڳ اختلاف حل ڪرڻ لاءِ.
انٿروپڪ پڻ ڏٺو ته وڌيڪ ترقي يافته ايجنٽ پنهنجا مقابلا ٺاهي فيصلو ڪن ٿا ته ڪهڙو حل زنده رهڻ گهرجي. ڪيترن ئي Mythos 5 تجربن ۾، ايجنٽ مختلف پروگرامنگ ٻولين جي ڪارڪردگي جي مقابلي ۾، هڪ فاتح تي اتفاق ڪيو، ۽ کٽڻ واري ايجنٽ کي منصوبي کي ڪنٽرول ڪرڻ جي اجازت ڏني.
نتيجن مان ظاهر ٿئي ٿو ته AI ايجنٽن کي وڌيڪ آزادي ڏيڻ سان مسئلا پيدا ٿين ٿا جيڪي انساني-بمقابله-اي آئي تڪرار کان ٻاهر آهن.
مستقبل جي ڪم جي جڳهن ۾ شامل ٿي سگھي ٿو درجنين يا ھزارين ايجنٽ ھڪ ئي وقت ڪم ڪرڻ، فائلن کي ايڊٽ ڪرڻ، ڪمپيوٽرن کي ڪنٽرول ڪرڻ، ۽ ساڳيا ڊجيٽل وسيلن کي استعمال ڪرڻ.
جيڪڏهن اهي ايجنٽ غير مطابقت وارا مقصد حاصل ڪن ٿا، انٿروپڪ جي تحقيق ڏيکاري ٿي ته اهي خودڪار طور تي تعاون نٿا ڪن. اهي بجاءِ هڪ ٻئي کي بند ڪري سگهن ٿا، مقابلي واري ڪم کي تباهه ڪري سگهن ٿا، يا مخالف ايجنٽن کي روڪڻ لاءِ ٺهيل سافٽ ويئر کي ترتيب ڏئي سگهن ٿا.
اينٿروپڪ جو چوڻ آهي ته واضح درجه بندي ۽ تڪرار جي حل واري نظام جي ضرورت پوندي جيئن خودمختيار AI وڌيڪ عام ٿي وڃي.
تجربي مان معلوم ٿئي ٿو ته اي آءِ جي حفاظت لاءِ ايندڙ وڏو چيلنج شايد نه رڳو ايجنٽن کي انسانن سان گڏ رکڻ. اهو پڻ شامل ٿي سگھي ٿو AI ايجنٽ کي روڪڻ ۽ هڪ ٻئي کي سبوتاز ڪرڻ کان.
تازه ترين ٽيڪني خبرن، ٽيليڪم بصيرت، ۽ پراڊڪٽ لانچ حاصل ڪريو جتي توهان چاهيو ٿا.
ProPakistani کي ترجيحي ذريعن ۾ شامل ڪريو ۽ ڏسو اسان جون وڌيڪ ڪهاڻيون گوگل سرچ ۽ ٽاپ اسٽوريز ۾.
ٽيڪنالاجي ۽ گاڏين جو ماهر جديد ڪارن، اسمارٽ فونز، AI ڪاميابين، ۽ ...
شيئرز
