رچرڊ سوچير ڪجهه وقت لاءِ AI ۾ هڪ اهم شخصيت رهيو آهي ، بهترين طور تي سڃاتو وڃي ٿو شروعاتي چيٽ بٽ جي شروعات You.com ۽ انهي کان اڳ ، هن جو ڪم Imagenet تي. هاڻي، هو ريسرسيو سپر انٽيليجنس سان گڏ تحقيق تي ٻڌل اي آءِ جي شروعاتي نسل جي موجوده نسل ۾ شامل ٿي رهيو آهي، هڪ سان فرانسسڪو جي بنياد تي شروعاتي جيڪا اربع تي 650 ملين ڊالر جي فنڊنگ سان گڏ چوري مان نڪتي.
سوچير نئين منصوبي ۾ شامل ٿيو آهي ممتاز AI محققن جي هڪ ٽولي، جنهن ۾ پيٽر نوريگ ۽ ڪرسٽا جي گڏيل باني ٽم شي شامل آهن. گڏو گڏ، اهي ڪم ڪري رهيا آهن هڪ بار بار خود سڌاريندڙ AI ماڊل ٺاهڻ لاءِ، هڪ جيڪو خودمختيار طور تي پنهنجي ڪمزورين جي نشاندهي ڪري سگهي ٿو ۽ انهن کي درست ڪرڻ لاءِ پاڻ کي نئين سر ترتيب ڏئي سگهي ٿو، انساني شموليت کان سواءِ - عصر حاضر جي اي آءِ ريسرچ جو هڪ ڊگهو هولي گريل.
مون لانچ کان پوءِ زوم تي هن سان ڳالهايو ، ريڪرسيو جي منفرد ٽيڪنيڪل طريقي کي ڳولهيندي ۽ هو هن نئين پروجيڪٽ کي نيولاب ڇو نٿو سمجهي ، هو AI شروعاتن جي نئين نسل لاءِ غير رسمي اصطلاح جيڪي تعميراتي شين تي تحقيق کي ترجيح ڏين ٿا.
ھي انٽرويو ڊگھائي ۽ وضاحت لاءِ ايڊٽ ڪيو ويو آھي.
اسان انهن ڏينهن جي ورهاڱي بابت گهڻو ڪجهه ٻڌندا آهيون! اهو محسوس ٿئي ٿو هڪ تمام عام مقصد مختلف ليبز ۾. توهان پنهنجي منفرد انداز جي طور تي ڇا ٿا ڏسو؟
اسان جو منفرد طريقو اهو آهي ته کليل پڄاڻيءَ کي استعمال ڪرڻ لاءِ بار بار خود سڌاري لاءِ حاصل ڪيو وڃي، جيڪو اڃا تائين ڪنهن به حاصل نه ڪيو آهي. اهو ڪيترن ئي ماڻهن لاء هڪ غير معمولي مقصد آهي. گھڻا ماڻھو اڳ ۾ ئي فرض ڪن ٿا ته اھو ٿيندو آھي جڏھن توھان صرف آٽو ريسرچ ڪندا آھيو. توهان ڄاڻو ٿا، توهان AI وٺي سگهو ٿا ۽ ان کان پڇي سگهو ٿا ڪنهن ٻي شيءِ کي بهتر بڻائڻ لاءِ، جيڪا ٿي سگهي ٿي هڪ مشين لرننگ سسٽم، يا صرف هڪ خط جيڪو توهان لکو ٿا، يا، توهان کي خبر آهي، جيڪو به هجي، صحيح؟ پر اهو ٻيهر ورجائيندڙ خود سڌارو ناهي. اهو صرف بهتري آهي.
اسان جو بنيادي مقصد، حقيقت ۾ ٻيهر ورجائيندڙ، خود بخود بهتر ڪندڙ سپر انٽيليجنس کي پيماني تي تعمير ڪرڻ آهي، جنهن جو مطلب آهي ته تحقيق جي خيالن جي نظريي، عمل درآمد ۽ تصديق جو سڄو عمل خودڪار هوندو.
پهرين [اهو خودڪار ڪندو] AI تحقيقي خيالن، آخرڪار ڪنهن به قسم جي تحقيقاتي خيالن، آخرڪار جسماني ڊومينز ۾. پر اهو خاص طور تي طاقتور آهي جڏهن اهو AI پاڻ تي ڪم ڪري رهيو آهي، ۽ اهو ترقي ڪري رهيو آهي هڪ نئين قسم جي خود آگاهي جو احساس پنهنجي خامين جي.
توھان استعمال ڪيو اصطلاح کليل ختم ٿيل - ڇا اھو ھڪڙو خاص ٽيڪنيڪل معني آھي؟
اهو ڪري ٿو. درحقيقت، اسان جي ڪوفائونڊرن مان هڪ ٽم راکٽسشل، گوگل ڊيپ مائنڊ تي اوپن-انڊيڊنس ۽ خود بهتري واري ٽيمن جي اڳواڻي ڪئي ۽ خاص طور تي عالمي ماڊل جيني 3 تي ڪم ڪيو، جيڪو کليل-ختميت جو هڪ بهترين مثال آهي. توهان ان کي ڪنهن به تصور، ڪنهن به دنيا، ڪنهن به ايجنٽ کي ٻڌائي سگهو ٿا، ۽ اهو صرف ان کي ٺاهي ٿو، ۽ اهو انٽرايڪٽو آهي.
حياتياتي ارتقاء ۾، جانور ماحول سان ٺهڪندڙ ٿين ٿا، ۽ پوء ٻيا انهن موافقتن جي مقابلي ۾. اهو صرف هڪ عمل آهي جيڪو اربين سالن تائين ترقي ڪري سگهي ٿو، ۽ دلچسپ شيون ٿي رهي آهي، صحيح؟ اهڙيءَ طرح اسان پنهنجي [سر] ۾ اکيون پيدا ڪيون.
ٻيو مثال رينبو ٽيمنگ آهي، ٽم جي هڪ ٻئي پيپر مان. ڇا توهان لال ٽيمنگ بابت ٻڌو آهي؟
سائبر سيڪيورٽي ۾، ان جو مطلب آهي --
تنهن ڪري، ريڊ ٽيمنگ پڻ ڪيو وڃي ٿو ايل ايل ايم جي حوالي سان. بنيادي طور تي توهان LLM حاصل ڪرڻ جي ڪوشش ڪندا آهيو توهان کي ٻڌائڻ لاءِ ته هڪ بم ڪيئن ٺاهيو، ۽ توهان پڪ ڪرڻ چاهيو ٿا ته اهو نه ٿو ڪري.
هاڻي، انسان اتي هڪ ڊگهي وقت تائين ويهندا آهن ۽ دلچسپ مثالن سان گڏ ايندا آهن جيڪي AI کي نه چوڻ گهرجي. پر ڇا ڪجي جيڪڏهن توهان هن پهرين AI کي ٻئي AI سان آزمايو، ۽ اهو ٻيو AI هاڻي پهريون AI ٺاهڻ جو ڪم آهي [ڪوشش ڪرڻ] سڀ ممڪن خراب شيون. ۽ پوءِ اهي لکين ورهاڱي لاءِ اڳتي ۽ پوئتي وڃي سگهن ٿا.
توھان اصل ۾ اجازت ڏئي سگھو ٿا ٻن AIs کي تعاون ڪرڻ لاءِ. هڪ ٻئي تي حملو ڪندو رهي ٿو، ۽ پوءِ نه رڳو هڪ زاويه پر ڪيترن ئي مختلف زاوين سان سامهون اچي ٿو، ۽ ان ڪري قوس قزح جي تشبيهه. ۽ پوءِ توھان ڪري سگھوٿا پھرين AI کي، ۽ توھان محفوظ ۽ محفوظ ٿي ويندا. اهو هڪ خيال هو ٽم Rocktaeschel کان، ۽ اهو هاڻي سڀني وڏن ليبز ۾ استعمال ڪيو ويو آهي.
توهان ڪيئن ڄاڻو ٿا جڏهن اهو ٿي چڪو آهي؟ مان سمجهان ٿو ته اهو ڪڏهن به نه ڪيو ويو آهي.
انهن مان ڪجهه شيون ڪڏهن به نه ڪيون وينديون. توهان هميشه وڌيڪ ذهين حاصل ڪري سگهو ٿا. توهان هميشه پروگرامنگ ۽ رياضي ۾ بهتر حاصل ڪري سگهو ٿا وغيره. عقل تي ڪي حدون آهن؛ مان اصل ۾ ڪوشش ڪري رهيو آهيان انهن کي هاڻي رسمي ڪرڻ جي، پر اهي astronomical آهن. اسان انهن حدن کان تمام گهڻو پري آهيون.
هڪ نيولاب جي طور تي، اهو محسوس ٿئي ٿو ته توهان کي ڪجهه ڪرڻ گهرجي جيڪو وڏي ليبز نه ڪري رهيا آهن. تنهن ڪري هتي جو اثر اهو آهي ته توهان اهو نه ٿا سمجهو ته وڏيون ليبارٽريون RSI تائين پهچڻ وارا آهن [ٻيهر خودڪشي خود بهتري] ڪندي ڪندي جيڪي اهي ڪري رهيا آهن. ڇا اهو چوڻ مناسب آهي؟ مان واقعي تي تبصرو نٿو ڪري سگهان ته اهي ڇا ڪري رهيا آهن، پر مان سمجهان ٿو ته اسان ان کي مختلف طريقي سان پهچي رهيا آهيون. اسان حقيقت ۾ کليل ختم ٿيڻ جي تصور کي قبول ڪريون ٿا، ۽ اسان جي ٽيم مڪمل طور تي ان وژن تي مرکوز آهي. ۽ ٽيم هن تي تحقيق ڪري رهي آهي ۽ گذريل ڏهاڪي کان هن خلا ۾ مقالا ڪري رهي آهي. ۽ ٽيم وٽ هڪ ٽريڪ رڪارڊ آهي حقيقت ۾ فيلڊ کي اڳتي وڌائڻ ۽ حقيقي شين کي پهچائڻ. توهان کي خبر آهي، ٽم شي Cresta کي هڪ يونيسيور ۾ ٺاهيو. جوش ٽوبن OpenAI ۾ پهرين ماڻهن مان هڪ هو ۽ آخرڪار انهن جي ڪوڊيڪس ٽيمن ۽ گہری تحقيقاتي ٽيمن جي اڳواڻي ڪئي.
مان اصل ۾ ڪڏهن ڪڏهن هن نيولاب جي درجي سان ٿورو جدوجهد ڪندو آهيان. مون کي لڳي ٿو ته اسان صرف هڪ ليبارٽري نه آهيون. مان چاهيان ٿو ته اسان هڪ واقعي قابل عمل ڪمپني بڻجي وڃون، حقيقت ۾ حيرت انگيز شين جو جيڪي ماڻهو استعمال ڪرڻ پسند ڪن ٿا، جيڪي انسانيت تي مثبت اثر رکن ٿا.
پوء جڏهن توهان پنهنجي پهرين پيداوار کي موڪلڻ جو منصوبو ٺاهيو ٿا؟
مون ان بابت گهڻو سوچيو آهي. ٽيم تمام گهڻي ترقي ڪئي آهي، اسان اصل ۾ ٽائم لائنز کي ڪڍي سگهون ٿا جيڪو اسان شروعاتي طور تي فرض ڪيو هو. پر ها، اتي پراڊڪٽس هوندا، ۽ توهان کي چوٿون انتظار ڪرڻو پوندو، سال نه.
هڪ خيال جي چوڌاري خود سڌارڻ جي باري ۾ خيال آهي ته، هڪ دفعو اسان وٽ هن قسم جو سسٽم آهي، ڪمپيوٽر صرف اهم وسيلو بڻجي ويندو آهي. جيترو جلدي توھان سسٽم کي هلائيندا، اوترو ئي تيزيءَ سان اھو بھتر ٿيندو، ۽ اتي ڪا ٻاھرين انساني سرگرمي نه آھي جيڪا واقعي فرق آڻيندي. تنهنڪري نسل صرف ٿي وڃي ٿي، اسان ڪيترو پروسيسنگ پاور هن تي اڇلائي سگهون ٿا؟ ڇا توهان سوچيو ٿا ته اها دنيا آهي جنهن ڏانهن اسان وڃي رهيا آهيون؟
حساب ڪتاب کي گهٽ نه سمجهيو وڃي. منهنجو خيال آهي ته مستقبل ۾، هڪ واقعي اهم سوال ٿيندو: انسانيت ڪيتري حساب سان خرچ ڪرڻ چاهي ٿي ڪهڙن مسئلن کي حل ڪرڻ لاءِ؟ ھتي ھي ڪينسر آھي ۽ ھتي اھو وائرس آھي - توھان کي پھريون ڪنھن کي حل ڪرڻ چاھيو ٿا؟ توهان ان کي ڪيترو حساب ڏيڻ چاهيو ٿا؟ اهو آخرڪار وسيلن جي ورهاست جو معاملو بڻجي ٿو. اهو دنيا جي سڀ کان وڏي سوالن مان هڪ ٿيڻ وارو آهي.
