د "تکرار" کلمه د AI په حلقو کې وروستۍ بوج کلمه ده. دوه جلا پیلونه په نوم اخیستل شوي، او ډیری نورو د دوی د سړک نقشه کې د تکراري ځان پرمختګ (RSI) حواله پیل کړې. د دې دمخه د AGI په څیر ، RSI د AI ټیک آف د ویجاړولو لپاره درې لیکي کلمه ګرځیدلې - حتی که لاهم د دقیقا څه معنی په اړه یو څه اختلاف شتون ولري.

په اساسي شرایطو کې، RSI د AI سیسټم ته اشاره کوي چې کولی شي په دوامداره توګه خپل ځان لوړ کړي. یوځل چې د AI سیسټمونه د انسانانو په پرتله د نوي کولو دورې اداره کولی شي ، پروسه کولی شي یو تړل شوی لوپ شي ، یوازې د کمپیوټري ځواک لخوا محدود دی چې دوی ورته لاسرسی لري ، او انسانان نور اړین یا حتی ګټور ندي.

ډارونکی یا نه، دا یو لید دی چې د AI ډیری لابراتوارونه تعقیب ته لیواله دي.

د دې میاشتې په پیل کې، د AI پیژندل شوي څیړونکي، ریچارډ سوچر، د RSI سره د واضح هدف په توګه په مناسب ډول نومول شوی Recursive Superintelligence پیل کړ. "زموږ اصلي تمرکز په پیمانه د ریښتیني تکراري ، ځان ته وده ورکولو عالي استخباراتو رامینځته کول دي ،" سوچير په پیل کې ټیک کرنچ ته وویل ، "د دې معنی دا ده چې د څیړنې نظریاتو د نظریې ، پلي کولو او تصدیق ټوله پروسه به اتوماتیک وي."

یو شمیر نور نامتو څیړونکي لا دمخه ورته هدف تعقیبوي، د بریالیتوب په هیله چې د ځان بیاکتنې پرمختګ ممکن کړي.

یو له خورا مشهور الیکس کارپاټي دی، د Tesla او OpenAI څخه یو افسانوي شخصیت دی، چې د یوې پروژې لپاره د ساده دندو په اړه د LLMs روزلو لپاره د اجنټ swarms کاروي چې هغه د Auto-Research بولي. کارپتي د پروژې په اړه په غیر معمولي ډول خلاص و ، په منظم ډول د میلونو په اړه ټویټ کول او د عامه GitHub ریپو له لارې د ودانۍ بلاکونه چمتو کول. تر اوسه پورې، کار تر ډیره حده د GPT-2 پیمانه ماډل کې لږ پرمختګونو ته محدود شوی دی - لکه څنګه چې کارپتي په مارچ کې یادونه وکړه، "دا ناول ندی، د ځمکې ماتولو 'څیړنه' (تر اوسه)" - مګر دا د RSI خوب تعقیبولو لپاره د ډیری نورو څیړونکو قانع کولو لپاره کافي دی. او د کارپتي سره چې اوس په انټروپیک کې د روزنې دمخه کار کوي ، هغه به ډیر فرصت ولري چې نظر په لویه کچه پلي کړي.

تطابق - د کوهیر او ګوګل ایلوم ساره هوکر لخوا تاسیس شوی - پدې وروستیو کې د فرنټیر ټریننګ اتومات کولو په هڅه کې د AutoScientist په نوم ورته وسیله په لاره اچولې. د کارپتي د آٹو څیړونکو په څیر، سیسټم اجنټانو ته روزنه ورکوي ترڅو زیاتیدونکي پرمختګونه وکړي - مګر د تطبیق لپاره، هدف دا دی چې د بشپړ کچې فرنټیر ماډل روزل اسانه کړي. که ورته څیړونکي د سرحد مخ په وړاندې کولو پیل وکړي، سیسټم کولی شي په چټکۍ سره د RSI په څیر یو څه ته وګرځي.

د ګډوډۍ بنسټ ایښودونکي ډوریس ژین د RSI سره ډیر مشخص علاقه پیدا کړه کله چې د هغې د ځان روزل شوي ماشین زده کړې اجنټ د کاګل په وروستي سیالۍ کې 28 مډالونه وګټل او ډیری انساني روزل شوي اجنټان یې مات کړل. لکه څنګه چې هغه ګوري، لوی ننګونه اعتبار دی.

ژین ماته وویل: "زه به استدلال وکړم، د نامحدود محاسبې او نامحدود وخت افق په پام کې نیولو سره، موږ لا دمخه هلته یو." "زه غواړم یو دلیل وړاندې کړم چې دا واقعیا تخلیقي هڅه نه ده. دا یوازې د غوښې او کچالو ډیری انجینري ده."

دلته ډیر شواهد هم شتون لري چې د AI صنعت په هیڅ معنی لرونکي ډول تکراري سیسټمونو ته خورا نږدې ندی - او لاهم د دې پرمختګ په اړه د هوښیار خلکو سره د خبرو کولو سره بوخت دی. نو د ګوګل سی ای او سندر پچای اساسا په وروستي پوډکاسټ مرکه کې ومنله.

"دا یو دوام دی، او موږ ټول یقینا پرمختګ کوو،" پچای وویل. "مګر په هغه طریقه چې خلک R.S.I. تشریح کوي، دا به د ګړندۍ بلې کچې استازیتوب وکړي او ډیری اغیزې به ولري، مګر موږ لاهم هلته نه یو."

مګر په دوام کې د ځان ښه کولو AI سیسټمونو خورا خورا ډیر شامل دي. د جنوري په میاشت کې، د کلاډ کوډ لپاره د انتروپیک یو مخکښ پروګرام کونکي اټکل وکړ چې د هغه د ټیم کوډ "نږدې 100٪" د وسیلې لخوا لیکل شوی و - یو روښانه اعتراف چې د کلاډ کوډ په حقیقت کې پخپله لیکل شوی.

یوازې د دې لپاره چې انجینران د AI وسیله کاروي پدې معنی ندي چې وسیله کولی شي دوی ځای په ځای کړي - مګر انتروپیک داسې بریښي چې د انجینرانو ځای په ځای کولو ته نږدې کیږي. په یوه وروستۍ سروې کې چې د Mythos preview پورې تړلې وه، له 18 څخه پنځه د انتروپیک انجینرانو په دې باور وو چې، د کارونې په ښه کولو سره، د Mythos دا نسخه کولی شي ډیر ژر د L4 انجینر ځای ونیسي - د منځنۍ کچې پروګرامر چې کولی شي پرته له څارنې پرته ښکیل پروژې پرمخ بوځي.

بیا هم، ځینې ورته کمزورتیاوې وې چې تاسو یې تمه لرئ.

"د L4 په پرتله د کلاډ ځینې لوی راپور شوي ضعفونه پدې کې شامل دي: د اونۍ اوږدمهاله مبهم دندې پخپله اداره کول ، د سازمان لومړیتوبونو پوهیدل ، خوند ، تصدیق ، لارښوونې تعقیب ، او پوهه ،" راپور لوستل کیږي. په بل عبارت، د دې ضعف هر څه د ځان لارښوونې سره ښکیل دي، کوم چې د RSI بنسټ دی. مګر ډاډه، د هر څه لپاره، کلاډ چمتو دی چې سم ګام پورته کړي.

لکه څنګه چې د دې دمخه د AGI اصطلاح ، د AI صنعت هم نشي کولی موږ ته ووایی چې دا د معنی لرونکي تکرار سیسټم ښودلو څخه څومره لرې دی. کله چې د جورج ټاون د امنیت او رامینځته کیدونکي ټیکنالوژۍ مرکز تیر کال د RSI مطالعې لپاره د متخصصینو یوه ډله راغونډه کړه ، دې ډلې په ارزونو کې لوی تقسیم وموندل - ځینې یې د نږدې "سوپر انټلیجنس" سټایل چاودنې تمه درلوده پداسې حال کې چې نور د ورو پرمختګ او احتمالي تختې تمه لري. مګر ټولو ومنله چې تکرار راتلونکی په ځانګړې توګه د وړاندوینې لپاره ستونزمن کړی.

هیلین ټونر، د CSET رییس او په OpenAI کې د بورډ پخوانی غړی، TechCrunch ته وویل چې د AI څیړنې لپاره په ساده ډول د AI وسیلو کارول د RSI په توګه د وړتیا لپاره کافي ندي. ټونر ټیک کرنچ ته وویل: "دوی یوازې د هر څومره چې کولی شي AI کاروي." "او زه فکر کوم چې دا د RSI کلاسیک تعریف څخه توپیر لري، کوم چې واقعیا دا دی چې هیڅ انسانانو ته اړتیا نشته."

ټونر د METR د آیجا کوترا لخوا وروستي پوسټ ته اشاره کوي، کوم چې د AI څیړنې اخیستلو په لاره کې مختلف پړاوونه توپیر کوي. یو ګام، کوم چې کوټرا "کفایت" بولي، هغه وخت به راشي کله چې سیسټم لاهم د ټولو انسانانو له مینځه وړلو وروسته څیړنې ترسره کولی شي - حتی که پایله شوې څیړنه دومره ارزښتناکه یا اغیزمنه نه وي. "برابري" هغه وخت راځي کله چې د AI-یوازې سیسټم په څیړنه کې د انسان یوازې سیسټم په څیر ښه وي. "برتری"، وروستی مرحله، هغه وخت راځي کله چې د AI-یوازې سیسټم د انسانانو او AI ترمنځ د همکارۍ سیسټم څخه ښه کار وکړي.

په نهایت کې، کوترا دې پایلې ته ورسیده چې AI د وړتیا حد ته خورا نږدې دی چې په خپله یو څه کار تولید کړي - د کارپتي د آٹو څیړنې سیسټم لخوا رامینځته شوي مخ په زیاتیدونکي بدلونونو سره ورته. کوټرا لیکي: "زه به په بشپړ ډول حیران نه شم که تاسو ما ته وویل چې دا پړاو دمخه تیر شوی و ، او زه تمه لرم چې دا به په راتلونکو څو کلونو کې پیښ شي."

هغه په ​​​​دې اړه لږ روښانه ده چې مساوات به کله راشي ، مګر یوځل چې دا پیښ شي ، هغه فکر کوي چې دا به "په پراخه کچه د AI پرمختګ سرعت ګړندي کړي ، چې په بل کال کې د AI څیړنې برتری لامل کیږي."

د پیمانه کولو قوانینو باندې رامینځته شوي ډیری AI سره ، د فکر کولو قوي تمایل شتون لري چې RSI به ورته وکر تعقیب کړي. ټونر فکر کوي چې ډیری هغه کسان چې د RSI له لارې د AI څیړنې او پراختیا تعقیبوي "دا د یوې ښکلې زینې په توګه فکر وکړئ ، چیرې چې تاسو کولی شئ یوازې اندازه کولو ته دوام ورکړئ."

مګر حتی که د AI څیړونکي وکولی شي د کارپتي د آټو څیړونکو په څیر مخ په زیاتیدونکي پرمختګونه رامینځته کړي ، نو د څیړنې ټولې پروسې په سپارلو کې به لوی ننګونې وي. ټونر دا د کمپیوټري تاریخ په شرایطو کې اچوي، کوم چې ګوري چې انسانان د ډیری پروسې څخه لاس اخلي پداسې حال کې چې لاهم د پورته څخه شیان لارښوونه کوي.

ټونر وايي: "موږ له ماشیني ژبې څخه د مجلس ژبې او تالیف شوې ژبې ته لاړو؛ تاسو د کمپیوټر له حوصلې څخه نور هم ډیریږي." "مګر انسان لاهم په یو څه رواني معنی کې ننداره پرمخ وړي."

د دې تمثیل څخه هاخوا حرکت کول به د انجینرۍ او تنظیم په برخه کې د پام وړ ننګونې ترسره کړي. مګر حتی د لویو پانګوونو په رامینځته کیدو سره ، هیڅ لامحدود محاسبه شتون نلري - او د انساني کار او ماشین استخباراتو ترمینځ اساسی تجارت به له مینځه ویستل ګران وي.

لکه څنګه چې د apocalyptic لیدونو بشپړ تکراري AI سیسټم لپاره؟ یوازینی شی چې څیړونکي په لازمي ډول موافق دي هغه دا چې د AGI په څیر ، دا لاهم دلته ندی.