ریچارډ سوچر د یو څه وخت لپاره په AI کې یو لوی شخصیت و ، د لومړني چیټ بوټ سټارټ اپ You.com موندلو لپاره غوره پیژندل شوی او له دې دمخه ، په Imagenet کې د هغه کار. اوس، هغه د څیړنې متمرکز AI د اوسني نسل سره یوځای کیږي د Recursive Superintelligence سره، د سان فرانسسکو میشته پیل چې د چهارشنبه په ورځ د 650 ملیون ډالرو تمویل سره له غلا څخه راپورته شو.
سوچر په نوي شرکت کې د AI د نامتو څیړونکو د یوې ډلې لخوا یوځای شوی ، پشمول د پیټر نورویګ او کریسټا شریک بانی ټیم شی. په ګډه، دوی کار کوي چې په تکراري توګه د ځان ښه کولو AI ماډل رامینځته کړي، کوم چې کولی شي په خپلواکه توګه خپل نیمګړتیاوې وپیژني او د انسان د ښکیلتیا پرته د دوی د حل کولو لپاره خپل ځان بیا ډیزاین کړي - د معاصر AI څیړنې اوږده ساتل شوی مقدس قبر.
ما له لانچ وروسته د زوم په اړه له هغه سره خبرې وکړې ، د تکرار ځانګړي تخنیکي کړنالرې ته یې وژړل او ولې هغه د دې نوې پروژې په اړه د نیولاب په توګه فکر نه کوي ، هغه د نوي نسل AI پیل کولو لپاره غیر رسمي اصطلاح چې د محصولاتو جوړولو په اړه څیړنې ته لومړیتوب ورکوي.
دا مرکه د اوږدوالي او وضاحت لپاره تدوین شوې ده.
موږ پدې ورځو کې د تکرار په اړه ډیر څه اورو! دا په مختلف لابراتوارونو کې د خورا عام هدف په څیر احساس کوي. تاسو د خپل ځانګړي چلند په توګه څه ګورئ؟
زموږ ځانګړې کړنلاره دا ده چې د خلاصې پایښت څخه کار واخلو ترڅو تکراري ځان پرمختګ ته ورسیږو، کوم چې تر اوسه هیڅوک ندي ترلاسه کړي. دا د ډیری خلکو لپاره یو نامناسب هدف دی. ډیری خلک لا دمخه داسې انګیرل کیږي چې دا پیښیږي کله چې تاسو یوازې پخپله څیړنه کوئ. تاسو پوهیږئ، تاسو کولی شئ AI واخلئ او له دې څخه وغواړئ چې یو بل شی ښه کړي، کوم چې کیدای شي د ماشین زده کړې سیسټم وي، یا یوازې یو لیک چې تاسو یې لیکئ، یا تاسو پوهیږئ، هرڅه چې وي، سمه ده؟ مګر دا د ځان اصلاح تکرار ندی. دا یوازې پرمختګ دی.
زموږ اصلي تمرکز، په ریښتیا تکراري، د ځان د ښه کولو عالي استخباراتو رامینځته کول دي، پدې معنی چې د څیړنې نظریاتو د نظریې، پلي کولو او تایید ټوله پروسه به اتوماتیک وي.
لومړی [دا به اتومات کړي] د AI څیړنې نظریات ، په نهایت کې هر ډول څیړنې نظرونه ، په نهایت کې په فزیکي ډومینونو کې. مګر دا په ځانګړي توګه ځواکمن دی کله چې دا AI پخپله کار کوي ، او دا د خپلو نیمګړتیاوو په اړه د ځان پوهاوي نوي ډول احساس رامینځته کوي.
تاسو د خلاصې پای اصطلاح کارولې - ایا دا ځانګړی تخنیکي معنی لري؟
دا کوي. په حقیقت کې، ټیم راکټشیل، زموږ یو شریک بنسټ ایښودونکی، په ګوګل ډیپ مائنډ کې د خلاصې پایښت او ځان د ښه کولو ټیمونو مشري وکړه او په ځانګړې توګه یې د نړۍ ماډل جینی 3 باندې کار وکړ، کوم چې د خلاصې پایښت یوه غوره بیلګه ده. تاسو کولی شئ دا هر مفهوم، کومه نړۍ، کوم اجنټ ووایاست، او دا یوازې دا جوړوي، او دا متقابل دی.
په بیولوژیکي تکامل کې، حیوانات د چاپیریال سره تطابق کوي، او بیا نور د دې موافقت سره مخالف دي. دا یوازې یوه پروسه ده چې کولی شي د ملیاردونو کلونو لپاره وده وکړي ، او په زړه پوري شیان پیښیږي ، سمه ده؟ په دې توګه موږ په خپلو [سرونو] کې سترګې جوړې کړې.
بله بیلګه د رینبو ټیمینګ دی، د ټیم څخه د بل کاغذ څخه. ایا تاسو د سور ټیم کولو په اړه اوریدلي یاست؟
په سایبر امنیت کې، دا پدې مانا ده -
نو، سور ټیمینګ هم باید په LLM شرایطو کې ترسره شي. په اصل کې تاسو هڅه کوئ چې LLM ترلاسه کړئ ترڅو تاسو ته ووایاست چې څنګه بم جوړ کړئ، او تاسو غواړئ ډاډ ترلاسه کړئ چې دا یې نه کوي.
اوس، انسانان کولی شي د اوږدې مودې لپاره هلته ناست وي او په زړه پورې مثالونو سره راشي چې AI باید څه ونه وايي. مګر څه به وي که تاسو دا لومړی AI د دوهم AI سره ازموینه وکړئ ، او دا دوهم AI اوس دنده لري چې لومړی AI رامینځته کړي [کوشش وکړي] ټول احتمالي بد شیان ووایی. او بیا دوی کولی شي د ملیونونو تکرارونو لپاره شاته لاړ شي.
تاسو کولی شئ واقعیا دوه AIs ته د ګډ پرمختګ اجازه ورکړئ. یو په بل برید ته دوام ورکوي، او بیا یوازې د یوې زاویې سره نه بلکې د مختلفو زاویو سره راځي، او له همدې امله د رینبو مشابهت. او بیا تاسو کولی شئ لومړی AI واکسین کړئ، او تاسو خوندي او خوندي شئ. دا د ټیم Rocktaeschel څخه یو نظر و، او دا اوس په ټولو لوی لابراتوارونو کې کارول کیږي.
تاسو څنګه پوهیږئ کله چې دا ترسره کیږي؟ زه فکر کوم چې دا هیڅکله نه دی شوی.
ځینې دا شیان به هیڅکله ترسره نشي. تاسو کولی شئ تل ډیر هوښیار شئ. تاسو کولی شئ تل په برنامه کولو او ریاضي کې ښه شئ او داسې نور. په استخباراتو کې ځینې محدودیتونه شتون لري؛ زه واقعیا هڅه کوم چې دا همدا اوس رسمي کړم ، مګر دوی ستورپوهنه دي. موږ د دې حدونو څخه ډیر لیرې یو.
د نوياب په توګه، داسې احساس کوي چې تاسو باید داسې څه ترسره کوئ چې لوی لابراتوارونه یې نه کوي. نو دلته د تاثیر یوه برخه دا ده چې تاسو فکر نه کوئ چې لوی لابراتوارونه به د هغه څه په کولو سره چې دوی یې کوي RSI [د ځان اصلاح کولو تکرار] ته ورسیږي. ایا دا سمه ده؟ زه واقعیا نشم کولی د هغه څه په اړه تبصره وکړم چې دوی یې کوي ، مګر زه فکر کوم چې موږ ورته په بل ډول رسیدو. موږ واقعیا د خلاصیدو مفکوره منلې ، او زموږ ټیم په بشپړ ډول په دې لید متمرکز دی. او ټیم د تیرو لسیزو راهیسې پدې فضا کې څیړنه کوي او کاغذونه کوي. او ټیم د واقعیا ساحې ته د پام وړ مخ په وړاندې کولو او ریښتیني محصولاتو لیږدولو ریکارډ لري. تاسو پوهیږئ، ټیم شی کریسټا په یونیکورن کې جوړ کړی. جوش ټوبین په OpenAI کې یو له لومړیو خلکو څخه و او په نهایت کې یې د دوی د کوډیکس ټیمونو او ژورو څیړنو ټیمونو رهبري کوله.
زه واقعیا کله ناکله د دې نیوالاب کټګورۍ سره یو څه مبارزه کوم. زه داسې احساس کوم چې موږ یوازې لابراتوار نه یو. زه غواړم چې موږ واقعیا یو باثباته شرکت شو ، ترڅو واقعیا حیرانونکي محصولات ولرو چې خلک یې کارولو سره مینه لري ، کوم چې په انسانیت مثبت اغیزه لري.
نو تاسو کله پلان لرئ چې خپل لومړی محصول ولیږدوئ؟
ما د دې په اړه ډیر فکر وکړ. ټیم ډیر پرمختګ کړی، موږ ممکن واقعیا د هغه څه څخه چې موږ یې په پیل کې فکر کړی و، مهال ویش راوباسئ. مګر هو، دلته به محصولات وي، او تاسو باید ربع انتظار وکړئ، نه کلونه.
د تکراري ځان د ښه والي په شاوخوا کې یو نظر دا دی چې، کله چې موږ دا ډول سیسټم ولرو، کمپیوټر یوازینۍ مهمه سرچینه ګرځي. څومره ګړندی چې تاسو سیسټم پرمخ وړئ ، هومره ګړندی به وده وکړي ، او هیڅ بهر انساني فعالیت شتون نلري چې واقعیا توپیر وکړي. نو ریس یوازې رامینځته کیږي ، موږ پدې کې څومره پروسس کولو ځواک کولی شو؟ ایا تاسو فکر کوئ چې دا هغه نړۍ ده چې موږ یې په لور روان یو؟
محاسبه باید کمه ونه ګڼل شي. زه فکر کوم چې په راتلونکي کې به واقعیا مهمه پوښتنه دا وي: انسانیت څومره محاسبه غواړي د کومې ستونزې حل کولو لپاره مصرف کړي؟ دلته دا سرطان دی او دلته هغه ویروس دی - تاسو لومړی کوم یو حل کول غواړئ؟ تاسو څومره حساب ورکول غواړئ؟ دا په نهایت کې د سرچینو تخصیص مسله کیږي. دا به په نړۍ کې یو له لویو پوښتنو څخه وي.
