جيئن ته پراجيڪٽ Pacing the Frontier وانگر وڏين ليبز ڏانهن ڏسن ٿا جيئن AI ريسرچ کي محفوظ رکڻ لاءِ، اوپن سورس ماڊل انڊسٽري لاءِ هڪ ڏکوئيندڙ جڳهه بڻجي چڪا آهن. مفت ورهائڻ ۽ ان تي ٿورڙي ڪنٽرول سان ته اهي ڪيئن استعمال ڪيا وڃن، کليل وزن جا ماڊل آساني سان ڪنٽرول نه ڪيا ويا آهن، ڪجهه ليبز جي اڳواڻي ڪن ٿا انهن کي بلڪل خوفناڪ سمجھڻ لاءِ.
پر گذريل هفتي لاس ويگاس ۾ Ai4 ڪانفرنس ۾، دنيا جي سڀ کان وڌيڪ معزز AI محققن مان ٽي - نوبل انعام فاتح جيوفري هنٽن، ورلڊ ليبز جي سي اي او ۽ گڏيل باني Fei-Fei لي، ۽ Coursera جي گڏيل باني اينڊريو اين جي - مسئلي تي ڳالهايو. ۽ جڏهن انهن خاص حڪمت عملي تي اختلاف ڪيو، انهن ٽنهي کي AI کليل رکڻ لاء هڪ طاقتور ڪيس ٺاهيو.
ٽنهي ڳالهائيندڙن لاءِ، بنيادي تشويش ڪجهه وڏين AI ڪمپنين کي ترقي جي رفتار کي ڪنٽرول ڪرڻ جي اجازت ڏئي رهي هئي. جڏهن ڪجھ ڪمپنيون هڪ ٽيڪنالاجي تائين رسائي تي ڪنٽرول ڪن ٿيون، جيئن ايپل ۽ گوگل موبائل آپريٽنگ سسٽم سان ڪندا آهن، جدت سست ٿي سگهي ٿي ۽ ڪمپنيون جيڪي پليٽ فارم تي ڪنٽرول ڪن ٿيون انهن تي اثر انداز ڪري سگهن ٿيون جيڪي انهن تي ٺاهيل آهن.
اينڊريو اين جي چيو ته هو AI ۾ هڪ جهڙي متحرڪ پيدا ٿيڻ بابت پريشان آهي. ”مان نه ٿو چاهيان ته اتي دربان هجي،“ اين جي چيو. "اها حد بندي ڪري ٿي ته اسان سڀ AI تائين ڪيئن رسائي ڪري سگهون ٿا."
ڪمپنيون انهن جي مقابلي جي فائدن کي بچائڻ لاء هڪ حوصلا افزائي ڪن ٿا، بشمول صنعت کي سنڀاليندڙ ضابطن کي متاثر ڪندي. اهو هڪ متحرڪ ٺاهي سگهي ٿو جتي صرف سڀ کان وڏي، بهترين سرمائيداري ڪمپنيون وسيلن سان گڏ سڀ کان وڌيڪ ترقي يافته AI سسٽم ٺاهڻ لاء.
Ng جو حل ڪيترن ئي مهيا ڪندڙن کي برقرار رکڻ لاء، ماڊل ۽ ڪمپنين سان مقابلو ڪرڻ جي بدران رانديگرن کي ميدان تي غالب ڪرڻ جي اجازت ڏيڻ جي بدران. ”جيڪڏهن مان هڪ نسخو ڏيڻ جي ڪوشش ڪريان ها ته اها کليليت کي فروغ ڏيڻ لاءِ هوندي،“ اين جي چيو، ”ڇاڪاڻ ته اي آءِ عجيب ٽيڪنالاجي آهي ۽ مان چاهيان ٿو ته اها هر ڪنهن جي هٿن ۾ هجي.
پر هرڪو ان ڳالهه تي متفق ناهي ته کليل وزن جا ماڊل انهي راند جي حالت کي بچائڻ ۾ مدد ڏين ٿيون. هنٽن، خاص طور تي، اوپن سورس سافٽ ويئر جي وچ ۾ هڪ فرق پيدا ڪيو، جيڪو بنيادي ڪوڊ کي معائنو ۽ ترميم لاءِ دستياب بڻائي ٿو، ۽ اوپن-وزن ماڊل، جيڪي عوام لاءِ تربيت يافته AI ماڊل جا پيرا ميٽر جاري ڪن ٿا.
"اوپن سورس وڏو آهي. توهان ماڻهن کي ڪوڊ ڏيکاريو، ۽ ڪيترائي ماڻهو ڪوڊ جون لائينون ڏسندا آهن ۽ چوندا آهن، 'او، اتي هڪ بگ آهي.' کليل وزن جو مطلب آهي ته توهان هڪ وڏي ماڊل کي تربيت ڏيو ۽ پوء توهان ماڻهن کي وزن ڏيو. اهو بلڪل مختلف آهي،" هنٽن چيو. "مان کليل [وزن] جي خلاف هو ڇاڪاڻ ته اهو ماڻهن لاءِ انهن وڏن بنيادن جا ماڊل کڻڻ تمام آسان بڻائي ٿو، جن کي تربيت ڏيڻ تمام مهانگو آهي، ۽ تمام گهٽ پئسن لاءِ انهن کي سائبر حملن وانگر خراب شيون ڪرڻ جي تربيت ڏني وئي."
پر جيڪي به هن جا تحفظات آهن، هنٽن تسليم ڪيو ته کليل وزن جا ماڊل اڳ ۾ ئي AI جو مستقل فيڪٽر آهن. "منهنجو خيال آهي ته جنگ وڃائي وئي آهي. اسان وٽ هاڻي کليل وزن جا ماڊل آهن، تنهنڪري ڪيترن ئي ماڻهن کي اهي وڏا ماڊل حاصل ڪرڻ ۾ رڪاوٽ، جيڪا تربيتي بنيادن جي ماڊل جي قيمت هئي، اها رڪاوٽ غائب ٿي وئي آهي. تمام دير سان."
اڃان تائين حقيقت کي قبول ڪرڻ جو مطلب خطرن کي نظر انداز ڪرڻ نه هو. Hinton جي پوزيشن واضح هئي: AI اڳتي وڌڻ جاري رکندو، ۽ هن سوچيو ته اهو گهڻو ڪري هڪ سٺي شيء هئي. هن چيو ته ان سان پيداوار ۾ واڌارو ٿيندو ۽ تعليم ۽ صحت جي سهولتن ۾ بهتري ايندي. ”اي آءِ جي ممڪن خراب اثرن جي باري ۾ پريشان ٿيڻ ۽ انهن شين جي باري ۾ جيڪي ذهين ماڻهو ڪري سگهن ٿا جڏهن اهي اسان کان وڌيڪ هوشيار آهن. مان نه ٿو سمجهان ته اهو غير منصفانه آهي. منهنجو خيال آهي ته اهو غير منصفانه آهي ڪنهن به شخص کي جيڪو هن طرح سوچيندو آهي خوفزده ڪرڻ وارو ،“ هنٽن شامل ڪيو.
اين جي هڪ مختلف نظر ورتو. سوال، هن دليل ڏنو، اهو نه هو ته ڇا کليل ماڊل خطرناڪ هئا، پر ڪير رسائي کي سنڀاليندو ۽ ڪير مارڪيٽ کٽندو. جيڪو به سستو ماڊل ٺاهيو ان کي فائدو هوندو. جيڪڏهن چين جي کليل وزن جا ماڊل ايشيا، آفريڪا، ۽ / يا ترقي پذير دنيا ۾ وڏي پيماني تي اپنائڻ حاصل ڪن ٿا، هن خبردار ڪيو، اهي اثر انداز ڪري سگهن ٿا ته ڪيئن اربين ماڻهن جمهوريت، آزادي، ۽ انساني حقن بابت خيالن سان منهن ڪيو.
"هڪڙي شيء جيڪا مون کي اميد آهي ته اسان آمريڪي مقابلي ۽ اوپن سورس AI جي حوصلا افزائي ڪريون ٿا. اهو ظاهر ٿئي ٿو ته AI نرم طاقت جو هڪ زبردست ذريعو آهي. توهان ڏسي سگهو ٿا ته چين جي ماڊل آفريڪا سان زبردست ڪاميابي حاصل ڪئي آهي، مثال طور،" اين جي چيو. "پر منهنجي پريشاني آمريڪا ۾ سڀني لابنگ ۽ خوف جي ڪري، آمريڪا ۾ اوپن سورس AI جي تعمير چين مان نڪرندڙ اوپن-وزن ماڊلز سان مقابلو ڪرڻ جي لاءِ جدوجهد ڪري رهي آهي، ۽ منهنجي پريشاني اها آهي ته جيڪڏهن چين AI ٺاهڻ لاءِ بنيادي طور تي وڌيڪ لاڳت وارو طريقو ڳولي ٿو، ته پوءِ اهي شيون جيڪي وڌيڪ لاڳت وارا آهن ڪاروباري فنڊ کي اپنائڻ جو فائدو آهي. لي ان فريمنگ تي پوئتي ڌڪيو. ”اها تمام خطرناڪ آهي ته هن کي مڪمل کليل جي وچ ۾ هڪ اختلافي بناوت کي مڪمل بند ڪرڻ لاءِ ،“ هن چيو. "پيچيده سافٽ ويئر سسٽم سان گڏو گڏ سائنسي سسٽم ۾ اهو تمام گهڻو آهي."
لي ايٽمي فزڪس کي مثال طور استعمال ڪيو: سائنسي مقالا کليل طور تي شايع ٿيل آهن، پر يورينيم کي منظم ڪيو ويندو آهي، جڏهن ته ليبارٽري ڪم وچ ۾ ڪٿي پوي ٿو. سبق، هن وضاحت ڪئي، اها هئي ته کليليت هڪ تمام يا ڪجهه به نه هجڻ گهرجي. ماحولياتي نظام جون مختلف پرتون کليل جي مختلف سطحن تي ڪم ڪري سگهن ٿيون.
هن پڻ عوامي ۽ نجي ادارن جي وچ ۾ تعاون کي نمايان ڪيو، جهڙوڪ انساني جينوم پروجيڪٽ. نتيجو علم هڪ پليٽ فارم بڻجي ويو جنهن تي ٻيا ٺاهي سگهن ٿا، هن چيو، دوا ساز ڪمپنين کي فائدو ڏيڻ جي اجازت ڏئي ٿي، سائنسدان پنهنجي ڪم کي اڳتي وڌائڻ ۽ سماج کي فائدو ڏيڻ لاء.
"تنهنڪري مان سمجهان ٿو ته اسان کي [AI] کي ان قسم جي انفراسٽرڪچر طور استعمال ڪرڻو پوندو،" لي چيو. ”اسان کي سائنسي دريافتن ۾، تعليم ۾، عالمي پارٽنرشپ ۾، گڏوگڏ واپارين لاءِ منافعي بخش ڪاروباري ماڊلز جي ڪجهه سطحن جي ضرورت آهي. پر اسان بند ذريعن جي نظام کي به قبول ڪنداسين. هي بحث، خاص طور تي ”اسان صرف هڪ کي برداشت ڪري سگهون ٿا،“ جي وڏي سطح تي، هڪ غلط بحث آهي. اسان کي ضرورت آهي ته ڪنهن سطح تي.
پر هرڪو اتفاق ڪيو ويو ته AI کي صحيح رستي تي رکڻ لاءِ ضابطي جي ڪجهه سطح ضروري هوندي. "جيڪو اسان ڪرڻ چاهيون ٿا AI هڪ هدايت ۾ ترقي ڪري ٿو جيڪا ماڻهن جي مدد ڪري ٿي، ۽ ضابطو اسان کي اهو ڪرڻ ۾ مدد ڏيندو،" هنٽن چيو. "توهان اهو نه ٿا ڇڏي سگهو ماڻهن جهڙوڪ ايلون مسڪ ۽ مارڪ زڪربرگ اهو فيصلو ڪرڻ لاءِ ته اي آءِ ڪيئن ٿيڻ گهرجي."
