اينٿراپڪ تجويز ڪري رهيو آهي ته دنيا جون اعليٰ مصنوعي ذهانت واريون ڪمپنيون ترقي يافته AI سسٽم جي ترقي کي روڪڻ لاءِ هڪ همعصر طريقي سان اچن ٿيون، خبردار ڪيو ويو آهي ته ٽيڪنالاجي ايتري تيزيءَ سان بهتر ٿي رهي آهي جو انسانن جي ڪنٽرول وڃائڻ جو خطرو آهي.
ڪلاڊ چيٽ بٽ جي پويان ڪمپني خميس تي هڪ بلاگ پوسٽ ۾ چيو ته ، جيئن ته جديد AI ڪمن کي انجام ڏيڻ ۾ تيزي سان تيز ٿي وڃي ٿي ، ”اها دنيا لاءِ سٺو هوندو ته هو پنهنجي ترقي کي سست يا عارضي طور تي روڪڻ جو اختيار رکي.
انٿروپڪ چيو ته ان جو اندروني تحقيقي ادارو ٻين جي تعاون سان مسئلي کي ڳولڻ جو ارادو رکي ٿو ۽ وڌيڪ مخصوص ٿيڻ کان سواءِ، هڪ معتبر سست رفتاري يا روڪ لاءِ سسٽم ٺاهڻ ۾ مدد لاءِ ”ڪارروايون ڪريو“.
انٿروپڪ حریف OpenAI اربع تي شايع ٿيل هڪ رپورٽ ۾ هڪ مختلف انداز جي لاءِ دليل ڏيندي چيو ته ”جمهوري حڪومتون - نه پرائيويٽ ڪمپنيون اڪيلو ڪم ڪري رهيون آهن - لازمي طور تي ضابطن ، حفاظت ۽ احتساب جي ميڪانيزم جو تعين ڪرڻ گهرجي“.
"اسان جو خيال آهي ته AI جدت جي رفتار بابت فيصلا ڪنهن هڪ ليب، ڪمپني، يا خاص دلچسپي گروپ ڏانهن نه ڇڏڻ گهرجي،" اهو چيو.
AI ماڊل تيز ٿي رهيا آهن، تيزيءَ سان وڌي رهيا آهن ته اهي سافٽ ويئر جا ڪم ڪيئن ڪري سگهن ٿا جيئن پاڻ تي ڪوڊنگ، انٿروپڪ پنهنجي پوسٽ ۾ چيو. موجوده رجحانن جي بنياد تي ۽ ڪافي ڪمپيوٽنگ پاور ڏني وئي، ھڪڙو AI سسٽم پنھنجي جانشين کي ڊزائين ڪرڻ ۽ ترقي ڪرڻ جي قابل ٿي سگھي ٿو، جنھن کي "بار بار خود سڌارڻ" جي نالي سان سڃاتو وڃي ٿو.
خود تعمير AI هڪ اهم ٽيڪنالاجي سنگ ميل هوندو جيڪو سائنس، صحت جي سار سنڀار ۽ ٻين علائقن ۾ فائدا آڻيندو، اينٿروپڪ چيو، پر اهو پڻ "انسانن جي AI سسٽم تي ڪنٽرول وڃائڻ جي خطرن کي وڌائي سگھي ٿو".
ڪجهه ٽيڪني صنعت جي انگن اکرن کي ڊگهي خبردار ڪيو آهي اهڙي منظر کي.
انٿروپڪ جي پوسٽ هن هفتي ٽورانٽو يونيورسٽي جي محققن جي هڪ ٽيم کان مختلف انتباہ کانپوءِ آئي آهي جنهن ڏيکاريو ته ڪيئن AI اوزار استعمال ڪري سگهجن ٿا هڪ نئين قسم جي AI “ڪيم” ٺاهڻ لاءِ جيڪو هن جي هيڪنگ حڪمت عملي کي ترتيب ڏئي ٿو جئين اهو ڊوائيس کان ڊوائيس تائين پکڙجي ٿو ۽ هڪ وسيع ڪمپيوٽنگ نيٽ ورڪ تي قبضو ڪري ٿو.
"منهنجو خيال آهي ته اهو واقعي اهم آهي ته ماڻهو سمجهن ٿا ته اهو صرف سڀ کان وڏو نه آهي، سڀ کان وڌيڪ طاقتور ٻولي ماڊل جيڪي سيڪيورٽي خدشات پيدا ڪن ٿا،" اڳواڻ محقق نڪولس پيپرنٽ هڪ انٽرويو ۾ چيو.
انٿروپڪ پوسٽ جي مصنفن، ڪمپني جي ڪوفائونڊر جيڪ ڪلارڪ ۽ مارينا فاوارو، ان جي تحقيقاتي اداري جي سربراهه، چيو ته وقفو استعمال ڪيو ويندو "سماجي جوڙجڪ ۽ ترتيب واري تحقيق" کي AI پيش رفت سان گڏ رکڻ لاء. الائنمينٽ صنعت جي شارٽ هينڊ آهي انهي کي يقيني بڻائڻ لاءِ ته ٽيڪنالاجي انساني قدرن ۽ ارادن سان ملي ٿي.
تجويز ڪيل ڪوآرڊينيشن ترقي يافته AI ليبز کي تصديق ڪرڻ ڏي ٿي ته عالمي حریف اصل ۾ انهن جي ڪم کي روڪي يا سست ڪري چڪا آهن، “۽ اهو ته هڪ خراب اداڪار ڳجهي انداز ۾ اڳتي وڌڻ لاءِ هموار ٿيل سست رفتاري جي مدد کي استعمال نٿو ڪري سگهي”.
ڪمپني چيو ته هڪ مربوط عالمي ميکانيزم جي ضرورت آهي ڇاڪاڻ ته، ان جي بغير، AI ترقي ۾ سست رفتار "گهٽ ۾ گهٽ محتاط" رانديگرن کي پڪڙڻ ۽ ڪمپنين ۽ حڪومتن تي دٻاء وڌائڻ جي اجازت ڏئي ٿي جيئن اهي AI حفاظت بابت سخت چونڊون ڪن.
خوف آهي ته ترقي يافته AI سسٽم انساني ڪنٽرول کان ٻاهر نڪري سگهن ٿا ۽ سماجي نقصان جو سبب بڻيا آهن جيئن ٽيڪنالاجي تيزيء سان قابل ٿي ويندي آهي. انٿروپڪ جي پنهنجي Mythos ماڊل صنعتن ذريعي صدمو موڪليو، بشمول بينڪنگ ۽ سافٽ ويئر، هن سال جي شروعات ۾ موجوده ڪوڊ ۾ ڪمزورين کي ڳولڻ جي صلاحيت سان.
پر ضابطو سست ٿي چڪو آهي، خاص طور تي آمريڪا ۾، جتي سڀ کان وڌيڪ معروف AI ليبز ٻڌل آهن. ٽرمپ انتظاميه جو ايگزيڪيوٽو آرڊر هن هفتي جي شروعات ۾ پاڻ کي ليبز تي رکي ٿو ، انهن کان مطالبو ڪيو ته رضاڪارانه طور تي سرڪاري سائبر سيڪيورٽي ٽيسٽنگ لاءِ پنهنجا سڀ کان وڌيڪ قابل ماڊل پبلڪ رليز ٿيڻ کان پهريان پيش ڪن.
AI محققن اڳ ۾ به هڪ وقفي تي زور ڏنو آهي، پر ٿوري ڪاميابي ملي آهي. ايلون مسڪ، جيڪو AI ليب xAI جو مالڪ آهي، غير منافع بخش فيوچر آف لائف انسٽيٽيوٽ پاران 2023 جي پُش جي پٺڀرائي ڪندڙن مان هو ته ڇهن مهينن لاءِ اي آءِ جي ترقي کي روڪيو وڃي ته جيئن حفاظتي گارڊن لاءِ وقت ڏنو وڃي.
انتھروپڪ ڊگھي عرصي کان پاڻ کي حفاظت تي ڌيان ڏيڻ واري AI ليب جي حيثيت ۾ رکيو آھي. هن سال جي شروعات ۾، هن آمريڪي فوج کي گهريلو نگراني ۽ مڪمل طور تي خودمختيار هٿيارن لاءِ پنهنجا ماڊل استعمال ڪرڻ کان انڪار ڪري ڇڏيو، حڪومت کان رد عمل ظاهر ڪيو، جنهن ان کي قومي سلامتي بليڪ لسٽ ۾ شامل ڪيو، 2026 ۾ بعد ۾ اثر انداز ٿيڻ لاءِ مقرر ڪيو ويو.
Anthropic جي پوسٽ اچي ٿي ڪمپني ۽ ChatGPT-maker OpenAI ريس اسٽاڪ مارڪيٽ تي شيئر وڪڻڻ لاءِ، هڪ IPO ۾ جيڪا Anthropic جي قيمت لڳ ڀڳ هڪ ٽريلين ڊالر ٿي سگهي ٿي. Papernot پنهنجي رپورٽ جاري ڪرڻ کان اڳ ڪينيڊا جي سائبر سيڪيورٽي اختيارين کي مطلع ڪيو، جيڪو ڏيکاري ٿو ته ڪيئن محقق "اوپن سورس" اي آئي ٽول استعمال ڪندي هڪ ليبارٽري ۾ ورم کي ترقي ڪئي جيڪا سافٽ ويئر ڊولپرز لاءِ سستا رسائي ۽ ترميم ڪرڻ آسان آهي.
"ماضي ۾، سائبر حملو ڪندڙ اهڙن مقصدن تي ڌيان ڏيندا هئا جيڪي تمام گهڻي قدر آهن،" هن چيو. "بينڪنگ سسٽم، اسپتالون، بجلي گرڊ، پاڻي جي علاج جو نظام، اسڪول."
Papernot اتفاق ڪيو ته ڪمپنين، سرڪاري ادارن ۽ تعليمي محققن جي وچ ۾ وڌيڪ تعاون هجڻ گهرجي ته جيئن جوابي قدمن کي ترقي ڪري سگھن جيئن AI-طاقتور هيڪنگ اوزار ڪمپيوٽر جي ڪمزورين جي ڳولا کي سپرچارج ڪن ٿا.
”اهو پراڻو ليپ ٽاپ توهان وٽ توهان جي بيسمينٽ ۾ آهي جنهن کي توهان باقاعده چيڪ نٿا ڪريو هڪ تمام وڏي قيمت واري ٽارگيٽ وانگر نٿو لڳي، پر ان کي استعمال ڪري سگهجي ٿو لانچ پيڊ طور انهن اعليٰ قدر واري هدفن تي حملو ڪرڻ لاءِ،“ هن چيو. ”انٽرنيٽ سان ڳنڍيل ڪا به شيءِ هاڻي خطري ۾ آهي ڇاڪاڻ ته انهن سائبر حملن کي چڙهڻ جي قيمت ڪيتري گهٽ ٿي وئي آهي.
