لفظ "ٻيهر" AI حلقن ۾ تازو buzzword آهي. ٻه الڳ شروعاتي نالي تي ورتو آهي، ۽ ڪيترن ئي وڌيڪ شروع ڪيو آهي Recursive self-improvement (RSI) انهن جي روڊ ميپس ۾. ان کان اڳ AGI وانگر، RSI هڪ تباهي واري AI ٽيڪ آف لاءِ ٽي اکر وارو لفظ بڻجي چڪو آهي - جيتوڻيڪ اڃا به ٿورو اختلاف آهي ته ان جو مطلب ڇا آهي.
بنيادي شرطن ۾، RSI هڪ AI سسٽم ڏانهن اشارو ڪري ٿو جيڪو مسلسل پاڻ کي اپڊيٽ ڪري سگهي ٿو. هڪ دفعو AI سسٽم انسانن کان بهتر طور تي اپ گريڊ چڪر کي منظم ڪري سگهن ٿا، اهو عمل هڪ بند لوپ بڻجي سگهي ٿو، صرف ڪمپيوٽر جي طاقت تائين محدود ٿي سگهي ٿو جيڪي اهي رسائي ڪري سگهن ٿا، ۽ انسانن کي وڌيڪ ضروري يا مددگار نه آهي.
خوفناڪ يا نه، اهو هڪ خواب آهي ته ڪيتريون ئي AI ليبز جو تعاقب ڪرڻ جي خواهشمند آهن.
هن مهيني جي شروعات ۾، مشهور AI محقق، رچرڊ سوچي، مناسب طور تي شروع ڪيو Recursive Superintelligence RSI سان شروع ڪيو ويو هڪ واضح مقصد طور. "اسان جو بنيادي ڌيان اهو آهي ته حقيقت ۾ ٻيهر ورجائيندڙ، خود بخود بهتر ڪندڙ سپر انٽيليجنس پيماني تي،" سوچير لانچ تي TechCrunch کي ٻڌايو، "جنهن جو مطلب اهو آهي ته نظريي، عمل درآمد، ۽ تحقيقي خيالن جي تصديق جو سڄو عمل خودڪار ٿيندو."
ٻيا ڪيترائي ممتاز محقق اڳ ۾ ئي ساڳئي مقصد جو تعاقب ڪري رهيا آهن، هڪ پيش رفت جي اميد رکي ٿو جيڪا ٻيهر خودڪشي خود بهتري کي ممڪن بڻائي سگهندي.
سڀ کان نمايان مان هڪ آهي Alex Karpathy، Tesla ۽ OpenAI جي هڪ افسانوي شخصيت، جيڪو هڪ پروجيڪٽ لاءِ آسان ڪمن تي LLMs کي تربيت ڏيڻ لاءِ ايجنٽ swarms استعمال ڪري رهيو آهي جنهن کي هو آٽو-ريسرچ سڏين ٿا. ڪارپيٽي منصوبي بابت غير معمولي طور تي کليل آهي، باقاعده سنگ ميلن جي باري ۾ ٽوئيٽ ڪندي ۽ عمارت جي بلاڪ کي عوامي GitHub ريپو ذريعي دستياب بڻائيندي. هينئر تائين، ڪم گهڻو ڪري صرف هڪ GPT-2 اسڪيل ماڊل تي معمولي سڌارا ڪرڻ تائين محدود رهيو آهي - جيئن ڪارپيٽي مارچ ۾ نوٽ ڪيو، "اهو ناول ناهي، زمين کي ٽوڙڻ واري 'ريسرچ' (اڃا تائين)" - پر اهو ڪافي آهي ٻين ڪيترن ئي محققن کي قائل ڪرڻ لاءِ RSI خواب جي پيروي ڪرڻ لاءِ. ۽ ڪرپتي سان هاڻي انٿروپڪ ۾ اڳ-تربيت تي ڪم ڪري رهيو آهي، هن وٽ وڏي پيماني تي خيال کي لاڳو ڪرڻ جو ڪافي موقعو هوندو.
Adaption - Cohere ۽ Google alum Sara Hooker پاران ٺهرايو ويو - تازو ئي فرنٽيئر ٽريننگ کي خودڪار ڪرڻ جي ڪوشش ۾ AutoScientist نالي هڪ ساڳيو اوزار شروع ڪيو. ڪارپيٿي جي آٽو ريسرچرز وانگر، سسٽم ايجنٽن کي تربيت ڏئي ٿو ته جيئن واڌارو بهتر بڻائين - پر Adaption لاءِ، مقصد اهو آهي ته مڪمل پيماني تي فرنٽيئر ماڊل کي تربيت ڏيڻ آسان بڻائي. جيڪڏهن اهي ساڳيا محقق اڳتي وڌڻ شروع ڪن ٿا فرنٽيئر کي، سسٽم جلدي سرپل ٿي سگهي ٿو ڪنهن شيء ۾ تمام گهڻو RSI وانگر.
Disarray جي باني ڊورس زين وڌيڪ مخصوص RSI دلچسپي ورتي جڏهن هن جي خود تربيت يافته مشين لرننگ ايجنٽ هڪ تازي ڪاگل مقابلي ۾ 28 ميڊل کٽي، ڪيترن ئي انساني تربيت يافته ايجنٽن کي هارائي ڇڏيو. جيئن ته هوء ان کي ڏسي، اهم چئلينج reliability آهي.
"مان بحث ڪندس، لامحدود حساب ۽ لامحدود وقت جي افق ڏني، اسان اڳ ۾ ئي اتي آهيون،" زين مون کي ٻڌايو. "مان هڪ دليل ڏيڻ چاهيان ٿو ته اهو هڪ تخليقي ڪوشش ناهي، حقيقت ۾. اهو صرف گوشت ۽ آلو انجنيئرنگ جو تمام گهڻو آهي."
هتي پڻ ڪافي ثبوت آهن ته اي آئي انڊسٽري ڪنهن به معنيٰ واري طريقي سان ٻيهر ورجائيندڙ سسٽم جي تمام ويجهو نه آهي - ۽ اڃا تائين ان جي ترقي بابت محتاط عوام سان ڳالهائڻ سان جڙيل آهي. تنهن ڪري گوگل سي اي او سندر پچائي بنيادي طور تي تازو پوڊ ڪاسٽ انٽرويو ۾ تسليم ڪيو.
"اهو هڪ تسلسل آهي، ۽ اسان سڀ ضرور ترقي ڪري رهيا آهيون،" پچائي چيو. ”پر جنهن طريقي سان ماڻهو آر ايس آءِ کي بيان ڪن ٿا، اهو ايندڙ سطح تي تيزيءَ جي نمائندگي ڪندو ۽ ان جا ڪيترائي اثر هوندا، پر اسان اڃا تائين اتي نه آهيون.
پر تسلسل ۾ شامل آهي خوفناڪ تمام گهڻو خود سڌارڻ وارو AI سسٽم. جنوري ۾، ڪلاڊ ڪوڊ لاءِ اينٿروپڪ جي ليڊ پروگرامرز مان هڪ اندازو لڳايو ته ”تقريبن 100%“ سندس ٽيم جو ڪوڊ ٽول ذريعي لکيو ويو آهي - هڪ صاف اعتراف ته ڪلاڊ ڪوڊ لفظي طور تي پاڻ لکي رهيو هو.
صرف ان ڪري ته انجنيئرز AI اوزار استعمال ڪري رهيا آهن ان جو مطلب اهو ناهي ته اوزار انهن کي تبديل ڪري سگهي ٿو - پر انٿروپڪ پڻ انجنيئرن کي تبديل ڪرڻ جي ويجهو ٿيڻ لڳي. هڪ تازي سروي ۾ جيڪو Mythos پريويو سان ڳنڍيل آهي، 18 مان پنج اينٿراپڪ انجنيئرن جو خيال آهي ته، هيرنس جي بهتري سان، Mythos جو هي نسخو جلد ئي هڪ L4 انجنيئر لاءِ متبادل ٿي سگهي ٿو - هڪ وچولي سطح جو پروگرامر جيڪو بغير نگراني جي ملوث منصوبن تي ڪم ڪري سگهي ٿو.
اڃان تائين، اتي ڪجھ ساڳيون ڪمزوريون آھن جن جي توھان توقع ڪري سگھو ٿا.
"L4 جي مقابلي ۾ ڪلاڊ جي ڪجهه اهم رپورٽ ٿيل ڪمزورين ۾ شامل آهن: خود انتظام هفتي ڊگهي مبہم ڪم، تنظيم جي ترجيحن کي سمجھڻ، ذائقو، تصديق، هدايتن جي پٺيان، ۽ epistemics،" رپورٽ پڙهي ٿي. ٻين لفظن ۾، ان جي ڪمزورين سڀ ڪجهه شامل آهن خود هدايت سان، جيڪو RSI لاء بنياد آهي. پر پڪ، هر شي لاء، ڪلواڊ صحيح قدم کڻڻ لاء تيار آهي.
ان کان اڳ AGI اصطلاح وانگر، AI صنعت پڻ اسان کي نه ٻڌائي سگهي ٿي ته اهو هڪ بامعني ٻيهر ورجائيندڙ نظام کي ڏيکارڻ کان ڪيترو پري آهي. جڏهن جارج ٽائون سينٽر فار سيڪيورٽي اينڊ ايمرجنگ ٽيڪنالاجي گذريل سال RSI جو مطالعو ڪرڻ لاءِ ماهرن جي هڪ گروپ کي گڏ ڪيو، گروپ کي تشخيص ۾ هڪ وڏو ورهايو ويو - ڪجهه توقع ڪري رهيا آهن "سپر انٽيليجنس" انداز جي ڌماڪي جي توقع آهي جڏهن ته ٻين کي سست ترقي ۽ هڪ حتمي پليٽيو جي توقع آهي. پر سڀني اتفاق ڪيو ته ورهاڱي مستقبل کي خاص طور تي اڳڪٿي ڪرڻ ڏکيو بڻائي ڇڏيو.
هيلن ٽونر، CSET جي ڊائريڪٽر ۽ OpenAI ۾ اڳوڻي بورڊ ميمبر، TechCrunch کي ٻڌايو ته صرف AI ريسرچ ڪرڻ لاءِ AI اوزار استعمال ڪرڻ RSI طور قابليت حاصل ڪرڻ لاءِ ڪافي ناهي. "اهي صرف AI استعمال ڪري رهيا آهن جيترو اهي ڪري سگھن ٿا،" ٽونر TechCrunch کي ٻڌائي ٿو. "۽ مان سمجهان ٿو ته اهو RSI جي کلاسک تعريف کان مختلف آهي، جيڪا حقيقت اها آهي ته انسانن جي ضرورت ناهي."
ٽونر هڪ تازي پوسٽ ڏانهن اشارو ڪري ٿو METR جي Ayeja Cotra، جيڪو مختلف سنگ ميلن کي ڌار ڪري ٿو AI تحقيق جي قبضي جي رستي تي. ھڪڙو قدم، جنھن کي ڪوٽرا سڏيندو آھي "تقاضا"، اھو ايندو جڏھن سسٽم اڃا تائين تحقيق ڪري سگھي ٿو سڀني ماڻھن کي ختم ڪرڻ کان پوء - جيتوڻيڪ نتيجو تحقيق جيتري قدر يا ڪارائتو نه آھي. ”پيرٽي“ تڏهن ايندي آهي جڏهن هڪ AI-صرف سسٽم تحقيق ۾ ايترو سٺو هوندو آهي جيترو انساني صرف سسٽم. "برتري،" آخري مرحلو، اچي ٿو جڏهن هڪ AI-صرف سسٽم انسانن ۽ AI جي وچ ۾ هڪ تعاون واري نظام کي ختم ڪري ٿو.
آخرڪار، ڪوٽرا ان نتيجي تي پهچندو آهي ته AI ڪافي حد تائين تمام ويجھو آهي جو پاڻ ڪجهه ڪم پيدا ڪرڻ جي قابل ٿي رهيو آهي - ڪارپيٿي جي آٽو-ريسرچ سسٽم پاران ڪيل وڌندڙ تبديلين وانگر. "مان مڪمل طور تي حيران نه ٿيندس جيڪڏهن توهان مون کي ٻڌايو ته هي سنگ ميل اڳ ۾ ئي گذري چڪو آهي، ۽ مون کي اميد آهي ته اهو ايندڙ ڪجهه سالن ۾ ٿيندو،" ڪوٽرا لکي ٿو.
هوءَ گهٽ واضح آهي ته برابري ڪڏهن ايندي، پر هڪ دفعو اهو ٿئي ٿو، هوءَ سوچي ٿي ته اها ”اي آءِ جي ترقي جي رفتار کي وڏي پيماني تي تيز ڪندي، ٻئي سال اندر اي آءِ ريسرچ جي بالادستي جو سبب بڻجندي“.
اسڪيلنگ قانونن تي ٺاهيل AI جي تمام گھڻي سان، اتي ھڪڙو مضبوط رجحان آھي سوچڻ جو RSI ساڳئي وکر جي پيروي ڪندو. ٽونر جو خيال آهي ته انهن مان ڪيترائي جيڪي آر ايس آئي ذريعي AI ريسرچ ۽ ڊولپمينٽ جي پيروي ڪري رهيا آهن “ان کي هڪ خوبصورت هموار ڏاڪڻ سمجهو ، جتي توهان صرف اسڪيلنگ جاري رکي سگهو ٿا.”
پر جيتوڻيڪ AI محقق ڪارپيٿي جي آٽو ريسرچرز وانگر وڌندڙ بهتري ڪرڻ جي قابل آهن، تحقيق جي پوري عمل کي هٿي ڏيڻ ۾ وڏا چئلينج هوندا. ٽونر ان کي ڪمپيوٽنگ جي تاريخ جي لحاظ کان رکي ٿو، جيڪو انسانن کي وڌيڪ ۽ وڌيڪ عمل کي هٿي ڏئي ٿو، جڏهن ته اڃا تائين مٿين شين کي هدايت ڪري ٿو.
”اسان مشيني ٻولين کان اسيمبليءَ جي ٻولي ۽ مرتب ڪيل ٻولين ڏانهن وياسون؛ توهان ڪمپيوٽر جي همت کان اڳتي وڌي رهيا آهيو،“ ٽونر چوي ٿو. "پر انسان اڃا تائين، ڪجهه غير معمولي احساس ۾، شو کي هلائي رهيو آهي."
انهي تمثيل کان اڳتي وڌڻ وارا اهم چئلينج کڻندا، ٻئي انجنيئرنگ ۽ ترتيب ۾. پر وڏي پئماني تي ٿيندڙ سرمائيداري سان به، ڪو به لامحدود حساب موجود ناهي - ۽ انساني محنت ۽ مشيني ذهانت جي وچ ۾ بنيادي واپار کي ختم ڪرڻ مشڪل هوندو.
جيئن ته apocalyptic خوابن جي مجموعي ٻيهر AI سسٽم لاءِ؟ صرف هڪ شيءِ محقق لازمي طور تي متفق آهن ته، AGI وانگر، اهو اڃا تائين هتي ناهي.
