وائيٽ هائوس جي سائنس ايڊوائيزر مائيڪل ڪرٽسيوس چيو ته Moonshot، چيني ڪمپني Kimi K3 جي پويان، سڀ کان وڏي دستياب اوپن ويٽ LLM، پنهنجي ماڊل ٺاهي انٿروپڪ جي فيبل ايل ايل ايم کي نقل ڪندي جڏهن ته چپس استعمال ڪندي جيڪي چين ڏانهن برآمد ڪرڻ لاءِ صاف نه آهن.
"وڏي پيماني تي، ڳجهي صنعتي آلودگي جو مقصد ملڪيت جي آمريڪي ٽيڪنالاجي کي چوري ڪرڻ ۽ آمريڪي تحقيق کي نقصان پهچائڻ ناقابل قبول آهي،" Kratsios لکيو، چيني اوپن-وزن ماڊل تي پابندي لڳائڻ بابت بحث جي وچ ۾ ٻڌايو ويو آهي ته اي سي شعبي کي ڇڪايو آهي. Moonshot ان جي تربيتي عمل جي باري ۾ سوالن جو جواب نه ڏنو، ۽ Kratsios پنهنجي الزامن جي ذريعن بابت وڌيڪ تفصيل سان حصيداري نه ڪيو.
ڪرٽسيوس جي ٽوئيٽ خزاني واري سيڪريٽري سکاٽ بيسينٽ جي تبصرن جي گونج ڪئي ته ”اسان ڪيترن ئي چيني ماڊلن تي اسان جي آمريڪي وڏي ٻولي جي ماڊل جا واٽر مارڪ ڳولي رهيا آهيون ، ۽ اهو ناقابل قبول آهي. اهو واضح ناهي ته اهي واٽر مارڪ ڇا آهن، ۽ خزاني واري کاتي هڪ سوال جو جواب نه ڏنو.
بهرحال، ماهرن کي شڪ آهي ته ڊسٽليشن- هڪ LLM کان پڇڻ جو عمل ان جي اندروني ڪم کي طئي ڪرڻ ۽ ان جي صلاحيتن کي نقل ڪرڻ لاءِ- انهن ترقي يافته صلاحيتن لاءِ ذميوار آهي جيڪي Kimi K3 ڏيکاري ٿو.
”مان نه ٿو سمجهان ته توهان هڪ ماڊل حاصل ڪيو ايترو مضبوط ۽ هي جلدي فيبل جي هيل تي سختي سان ڊسٽليشن ڪري رهيا آهيو ،“ براڊن هانڪاڪ ، لاوڊ انسٽيٽيوٽ جو هڪ محقق ۽ سنورڪل اي آءِ جو ڪو باني ، ٽيڪ ڪرنچ کي ٻڌايو. ”اڃا ته صاف صاف وقت به نه آهي، صحيح؟ فيبل صرف پهرين جولاءِ کان عوامي طور تي دستياب آهي. توهان ايترو ڊيٽا ڊسٽ نه ٿا ڪري سگهو، هڪ ماڊل کي تربيت ڏيو، ۽ ان کي ٻن هفتن ۾ جاري ڪيو.
”منهنجي راءِ آهي ته آلودگي وقت سان گڏ گهٽ ۽ گهٽ اثرائتو ٿي رهي آهي جئين چيني ماڊل فرنٽيئر جي ويجهو اچن ٿا ۽ تربيتي نظام [تقسيم سکيا] ڏانهن شفٽ ٿئي ٿو ،“ ناٿن ليمبرٽ ، هڪ AI محقق ايلن انسٽيٽيوٽ فار AI ، ڪالهه جاري ڪيل پوڊ ڪاسٽ ۾ چيو. "[I]جيڪڏهن اهو معاملو هجي ها ته، هرڪو آساني سان پڪڙڻ جي قابل هوندو GLM يا هڪ K3 تائين ان جي ڊيٽا کي استعمال ڪندي آلودگي لاءِ. پر اسان اهو نه ڏٺو آهي، يا اسان اهو نه ڏسنداسين، صرف نگراني ٿيل فائن ٽيوننگ مان."
ڊيسٽليشن کي انجام ڏيڻ لاءِ هڪ ليبارٽري جي ضرورت آهي منظم طريقي سان ان جي ٽارگيٽ ماڊل کي پڇا ڳاڇا ڪرڻ لاءِ ڊيٽا پيدا ڪرڻ لاءِ جيڪا پوسٽ ٽريننگ لاءِ استعمال ٿي سگهي ٿي. ڪڏهن ڪڏهن اهو واضح طور تي شامل آهي ماڊل کان پڇڻ لاءِ ان جي سوچ جي سلسلي کي بيان ڪرڻ لاءِ اهو سمجهڻ لاءِ ته اهو ڪيئن مسئلا حل ڪري ٿو. ٻي دفعي، ماڊل مان اشارا ۽ جوابن کي استعمال ڪيو ويندو آهي نئين ماڊل کي تربيت ڏيڻ لاءِ هڪ پروسيس ۾ جنهن کي سپروائزڊ فائن ٽيوننگ، يا SFT سڏيو ويندو آهي.
اھو اھو ٺيڪ ٺاھڻ وارو عمل آھي جنھن جو نتيجو ٿي سگھي ٿو ھڪڙي نموني ٺاھي سگھي ٿو ھڪڙي ٽئين پارٽي طرفان دعويٰ ڪري ٿو ته اھو آھي Claude. فائن ٽيوننگ اهو آهي جتي، ليمبرٽ جي نظر ۾، "ماڊل پنهنجي آداب کي چونڊيندو آهي."
پر ليمبرٽ چوي ٿو ته SFT جا فائدا گهٽ اهم ٿي رهيا آهن جيئن ماڊل وڌيڪ پيچيده ٿي وڃن. Fable-جهڙي صلاحيتن کي ختم ڪرڻ لاء امڪاني طور تي قابليت واري سکيا جي ٽيڪنالاجي جي ضرورت هوندي. ڪيترين ئي صورتن ۾، ان جو مطلب آهي وڏي ماڊل گريڊ جو ايجنٽ هجڻ، ننڍڙن ماڊل جا جواب، ۽ گريڊ جي بنياد تي ترتيب ڏيڻ.
وڌيڪ جديد ٽيڪنالاجي پڻ وڌيڪ اهم زيربناء جي ضرورت آهي. وڏين قوتن جي سکيا لاءِ لکين ايجنٽن جي ضرورت پئجي سگھي ٿي. فرنٽيئر ليب جي API کي استعمال ڪندي اهو ڪرڻ لاءِ ”انتهائي مهانگو هوندو ۽ ممڪن طور تي اهو شايد وقت جي رڪاوٽ هوندو ڇاڪاڻ ته اهي ماڊل تمام سست هوندا آهن ۽ واضح طور تي شايد توهان کي ڪارڪردگي ۾ واڌارو به نه ڏئي سگهي.
اهو لڳي ٿو ته اڳئين فرنٽيئر ماڊل شايد Kimi ۾ حصو ورتو هجي. انٿروپڪ عوامي طور تي مون شاٽ، ڊيپ سيڪ ۽ ميني ميڪس تي الزام لڳايو ته هن سال جي شروعات ۾ هن جا ماڊل منظم طريقي سان ختم ڪيا ويا. انٿروپڪ چيو ته ان جي ماڊلز ۽ استعمال ڪندڙن جي وچ ۾ لکين مٽاسٽا دريافت ڪيا ويا جن جي سڃاڻپ انهن ڪمپنين تي IP پتي ۽ ٻين ميٽا ڊيٽا ذريعي ڪئي. اهي سوال هئا ”عام استعمال جي نمونن کان مختلف، جائز استعمال جي بجاءِ عمدي صلاحيت جي اضافي کي ظاهر ڪن ٿا. Anthropic Fable distillation بابت TechCrunch جي سوالن جو جواب نه ڏنو.
بهرحال، AI ڪمپنين جي وچ ۾ آستين کي عام طور تي ڏٺو ويندو آهي، نه رڳو چين ۾. ايلون مسڪ هن سال جي شروعات ۾ گواهي ڏني ته هن جي ڪمپني SpaceXAI Grok کي ترقي ڪرڻ لاءِ OpenAI ماڊل کي ڊسٽل ڪيو، ۽ اهو رواج صنعت ۾ عام هو. آستين جي وچ ۾ لڪير ۽ ترقي يافته مصنوعي ڊيٽا سيٽ، مثال طور، بلڪل blurry ٿي سگهي ٿو. "[مان] عام طور تي، آمريڪن انهن چيني ٽيمن جي ٽيڪنيڪل ماهر کي سمجهي رهيا آهن،" هانڪوڪ چيو. "Moonshot جي باني مان هڪ هڪ CMU پي ايڇ ڊي جو شاگرد هو. اهي جائز محقق ۽ انجنيئر آهن جيڪي مضبوط ڪم ڪري رهيا آهن. …جيڪڏهن آمريڪي ماڊلز کي روڪيو وڃي، منهنجو خيال آهي ته چين جي ترقي سست ٿي ويندي، پر اڃا تائين جاري رهندو. اهي صرف هتي ڪوٽا تي سوار نه آهن."
Kratsios جي تبصري جي ٻئي حصي کان آستين کي ختم ڪرڻ پڻ مشڪل آهي - ته مون شاٽ حاصل ڪئي هئي جديد Nvidia چپس، Grace Blackwell 300s، ۽ پڻ رسائي حاصل ڪئي GB300 ليس سرورز ٿائلينڊ ۾. اهي چپس چين ڏانهن برآمد ڪرڻ کان منع ٿيل آهن، پر هڪ ڪارو بازار موجود آهي، سام بريسنڪ جي مطابق، جارج ٽائون سينٽر فار سيڪيورٽي اينڊ ايمرجنگ ٽيڪنالاجي ۾ هڪ ريسرچ ساٿي. مئي ۾، Supermicro جو باني، يو ايس سرور بلڊر، چين ۾ ترقي يافته چپس اسمگل ڪرڻ جو الزام لڳايو ويو.
”مان توهان جي گراهڪ قانونن کي ڄاڻڻ جو حامي آهيان پوري دنيا ۾ ڊيٽا سينٽرن لاءِ،“ بريسنڪ چيو. "جيڪڏهن توهان هڪ ڪمپني کي اجازت ڏئي رهيا آهيو ته توهان جي جديد هارڊويئر تي وڏي ٽريننگ هلائي، اتي هڪ رپورٽنگ ميڪانيزم جي ضرورت آهي ته اها ڪمپني ڪير آهي ۽ اهي ڇا ڪري رهيا آهن."
صدر جو بائيڊن جو ڊپارٽمينٽ آف ڪامرس 2024 ۾ ڊيٽا سينٽرز لاءِ وفاقي ڄاڻ-توهان جي ڪسٽمر ضابطن جي تجويز پيش ڪئي، پر ڊونالڊ ٽرمپ جي سربراهي ۾ ڪا به وڌيڪ اڳڀرائي ظاهر نه ٿي آهي. ٻاهرين ملڪ ۾ ترقي يافته چپس موڪليندڙ برآمد ڪندڙ، جڏهن ته، انهن کي يقيني بڻائڻ گهرجي ته اهي صرف منظور ٿيل مقصدن لاءِ استعمال ڪيا وڃن.
