وائٹ ہاؤس کے سائنس ایڈوائزر مائیکل کراتسیوس نے کہا کہ مون شاٹ، Kimi K3 کے پیچھے موجود چینی کمپنی، جو سب سے بڑی دستیاب اوپن ویٹ LLM ہے، نے اپنا ماڈل Anthropic's Fable LLM کی کاپی کر کے بنایا جبکہ ایسی چپس کا استعمال کیا جو چین کو برآمد کرنے کے لیے کلیئر نہیں ہیں۔
"بڑے پیمانے پر، خفیہ صنعتی کشید جس کا مقصد ملکیتی امریکی ٹیکنالوجی کو چوری کرنا اور امریکی تحقیق کو نقصان پہنچانا ہے، ناقابل قبول ہے،" کراتسیوس نے لکھا، چینی اوپن ویٹ ماڈلز پر پابندی لگانے کے بارے میں ہونے والی بات چیت کے درمیان جنہوں نے AI سیکٹر کو نقصان پہنچایا ہے۔ مون شاٹ نے اپنے تربیتی عمل کے بارے میں سوالات کا جواب نہیں دیا، اور کراتسیوس نے اپنے الزامات کے ذرائع کے بارے میں مزید تفصیلات شیئر نہیں کیں۔
کراتسیوس کی ٹویٹ میں ٹریژری سکریٹری سکاٹ بیسنٹ کے تبصروں کی بازگشت آئی کہ "ہمیں بہت سے چینی ماڈلز پر اپنے امریکی بڑے زبان کے ماڈلز کے واٹر مارکس مل رہے ہیں، اور یہ ناقابل قبول ہے۔" یہ واضح نہیں ہے کہ وہ واٹر مارکس کیا ہیں، اور محکمہ خزانہ نے ایک سوال کا جواب نہیں دیا۔
تاہم، ماہرین کو شک ہے کہ ڈسٹلیشن — LLM سے اس کے اندرونی کام کا تعین کرنے اور اس کی صلاحیتوں کو کاپی کرنے کے لیے استفسار کرنے کا عمل — ان جدید صلاحیتوں کے لیے ذمہ دار ہے جو Kimi K3 دکھاتا ہے۔
لاؤڈ انسٹی ٹیوٹ کے ایک محقق اور اسنورکل اے آئی کے شریک بانی، بریڈن ہینکوک نے ٹیک کرنچ کو بتایا، "مجھے نہیں لگتا کہ آپ کو Fable کی ایڑیوں پر اس قدر مضبوط اور اتنی جلدی ماڈل مل جائے گا۔" "صرف واضح طور پر وقت بھی نہیں ہے، ٹھیک ہے؟ Fable صرف 1 جولائی سے عوامی طور پر دستیاب ہے۔ آپ اتنا ڈیٹا نہیں نکال سکتے، ایک ماڈل کو تربیت دے سکتے ہیں، اور اسے دو ہفتوں میں جاری کر سکتے ہیں۔"
ایلن انسٹی ٹیوٹ فار اے آئی کے محقق ناتھن لیمبرٹ نے کل جاری کیے گئے ایک پوڈ کاسٹ میں کہا، "میری رائے ہے کہ وقت کے ساتھ ساتھ ڈسٹلیشن کم سے کم اثر انداز ہوتا جا رہا ہے کیونکہ چینی ماڈل سرحد کے قریب آتے جا رہے ہیں اور تربیتی نظام [کمک سیکھنے] کی طرف منتقل ہوتا جا رہا ہے۔" "[I]اگر ایسا ہوتا تو، ہر کوئی آسانی سے GLM یا K3 تک اس کا ڈیٹا ڈسٹلیشن کے لیے استعمال کر سکتا تھا۔ لیکن ہم نے ایسا نہیں دیکھا، یا ہم اسے صرف نگرانی میں فائن ٹیوننگ سے نہیں دیکھیں گے۔"
ڈسٹلیشن کو انجام دینے کے لیے ایک لیب کی ضرورت ہوتی ہے کہ وہ اپنے ہدف کے ماڈل سے منظم طریقے سے استفسار کرے تاکہ ڈیٹا تیار کیا جا سکے جو پوسٹ ٹریننگ کے لیے استعمال کیا جا سکے۔ بعض اوقات اس میں واضح طور پر ماڈل سے اپنی سوچ کو بیان کرنے کے لیے کہا جاتا ہے تاکہ یہ سمجھا جا سکے کہ یہ مسائل کو کیسے حل کرتا ہے۔ دوسری بار، ایک ماڈل کے اشارے اور جوابات کا استعمال ایک نئے ماڈل کو سپروائزڈ فائن ٹیوننگ، یا SFT نامی عمل میں تربیت دینے کے لیے کیا جاتا ہے۔
یہ ٹھیک ٹیوننگ کا عمل ہے جس کے نتیجے میں ایک ایسا ماڈل ہو سکتا ہے جو ظاہری طور پر کسی تیسرے فریق کے ذریعہ تخلیق کیا گیا ہے جس کا دعویٰ ہے کہ یہ Claude ہے۔ عمدہ ٹیوننگ وہ جگہ ہے جہاں، لیمبرٹ کے خیال میں، "ماڈل اپنے آداب کو چنتا ہے۔"
لیکن لیمبرٹ کا کہنا ہے کہ SFT کے فوائد کم ہوتے جا رہے ہیں کیونکہ ماڈلز زیادہ پیچیدہ ہوتے جا رہے ہیں۔ Fable جیسی صلاحیتوں کو کشید کرنے کے لیے ممکنہ طور پر کمک سیکھنے کی تکنیک کی ضرورت ہوگی۔ بہت سے معاملات میں، اس کا مطلب ہے کہ بڑے ماڈل گریڈ کے ایجنٹ کا چھوٹے ماڈل کے جوابات، اور گریڈ کی بنیاد پر ایڈجسٹ کرنا۔
زیادہ جدید تکنیکوں کو بھی زیادہ اہم انفراسٹرکچر کی ضرورت ہوتی ہے۔ بڑی کمک سیکھنے کے لیے دسیوں لاکھوں ایجنٹوں کی ضرورت پڑ سکتی ہے۔ ایسا کرنے کے لیے فرنٹیئر لیب کے API کا استعمال کرنا "انتہائی مہنگا ہوگا اور ممکنہ طور پر یہ وقت کی رکاوٹ ہو گا کیونکہ یہ ماڈل کافی سست ہیں اور واضح طور پر کہا جائے تو شاید آپ کو کارکردگی میں اضافہ بھی نہ ہو۔"
ایسا لگتا ہے کہ پچھلے فرنٹیئر ماڈلز نے Kimi میں حصہ لیا ہوگا۔ انتھروپک نے عوامی طور پر مون شاٹ، ڈیپ سیک اور منی میکس پر اس سال کے شروع میں اپنے ماڈلز کو منظم طریقے سے کشید کرنے کا الزام لگایا۔ اینتھروپک نے کہا کہ اس نے اپنے ماڈلز اور صارفین کے درمیان لاکھوں تبادلے دریافت کیے جن کی شناخت اس نے ان کمپنیوں میں آئی پی ایڈریسز اور دیگر میٹا ڈیٹا کے ذریعے کی۔ وہ سوالات "عام استعمال کے نمونوں سے مختلف تھے، جو جائز استعمال کے بجائے جان بوجھ کر صلاحیت نکالنے کی عکاسی کرتے تھے۔" اینتھروپک نے Fable ڈسٹلیشن کے بارے میں TechCrunch کے سوالات کا جواب نہیں دیا۔
تاہم، ڈسٹلیشن کو AI کمپنیوں میں عام سمجھا جاتا ہے، نہ صرف چین میں۔ ایلون مسک نے اس سال کے شروع میں گواہی دی کہ اس کی کمپنی SpaceXAI نے Grok کو تیار کرنے کے لیے OpenAI ماڈلز کو ڈسٹل کیا، اور یہ کہ یہ عمل صنعت میں عام ہے۔ ڈسٹلیشن اور مصنوعی ڈیٹا سیٹ تیار کرنے کے درمیان لائن، مثال کے طور پر، کافی دھندلی ہو سکتی ہے۔ ہینکوک نے کہا، "[میں] عام طور پر، امریکی ان چینی ٹیموں کی تکنیکی مہارت کو کم کر رہے ہیں۔ "Moonshot کے بانیوں میں سے ایک CMU پی ایچ ڈی کا طالب علم تھا۔ یہ جائز محققین اور انجینئرز ہیں جو ٹھوس کام کر رہے ہیں۔ …اگر امریکی ماڈلز رک جائیں گے، تو میرے خیال میں چین کی ترقی سست ہو جائے گی، لیکن پھر بھی جاری رہے گی۔ وہ یہاں صرف کوٹ ٹیل پر سوار نہیں ہیں۔"
Kratsios کے تبصرے کے دوسرے حصے سے کشید کو ختم کرنا بھی مشکل ہے - کہ Moonshot نے جدید Nvidia Chips، Grace Blackwell 300s، اور تھائی لینڈ میں GB300 سے لیس سرورز تک بھی رسائی حاصل کی تھی۔ جارج ٹاؤن کے سینٹر فار سیکیورٹی اینڈ ایمرجنگ ٹکنالوجی کے ریسرچ فیلو سام بریسنک کے مطابق، ان چپس کی چین کو برآمد پر پابندی ہے، لیکن ایک بلیک مارکیٹ موجود ہے۔ مئی میں، امریکی سرور بنانے والے، سپر مائیکرو کے بانی پر چین میں جدید چپس اسمگل کرنے کا الزام عائد کیا گیا تھا۔
"میں دنیا بھر میں ڈیٹا سینٹرز کے لیے آپ کے کسٹمر قوانین کو جاننے کا حامی ہوں،" بریسنک نے کہا۔ "اگر آپ کسی کمپنی کو اپنے جدید ترین ہارڈویئر پر بڑی ٹریننگ چلانے دے رہے ہیں، تو اس کے لیے ایک رپورٹنگ میکانزم کی ضرورت ہے کہ وہ کمپنی کون ہے اور وہ کیا کر رہی ہے۔"
صدر جو بائیڈن کے محکمہ تجارت نے 2024 میں ڈیٹا سینٹرز کے لیے فیڈرل جان-یور-کسٹمر رولز تجویز کیے تھے، لیکن ڈونلڈ ٹرمپ کے دور میں مزید کوئی پیش رفت دکھائی نہیں دیتی۔ بیرون ملک اعلی درجے کی چپس بھیجنے والے برآمد کنندگان کو، تاہم، یہ یقینی بنانا چاہیے کہ وہ صرف منظور شدہ مقاصد کے لیے استعمال ہوں۔
