Nvidia کے بے مثال مارکیٹ کے غلبے کے دن ختم نہیں ہوئے ہیں، لیکن چیلنجرز اور انتخاب ہر طرف سے پیدا ہو رہے ہیں۔

ZML، ایک مشہور فرانسیسی AI سٹارٹ اپ جس کی توثیق ٹورنگ ایوارڈ یافتہ Yann LeCun نے کی ہے، نے inference-performance سافٹ ویئر جاری کیا ہے جو مختلف قسم کے اوپن سورس بڑے لینگویج ماڈلز کو مختلف قسم کے چپس پر چلانے کی اجازت دیتا ہے - بشمول Nvidia's, AMD's, Google's TPU, Apple Metal اور Intel Arc۔

ZML/LLMD، نئے شروع کیے گئے LLM انفرنس سرور کے ساتھ، کمپنی کی خواہش موجودہ سائلوز کو توڑنا ہے اور AI کے استعمال کے کیسز کے لیے مختلف چپس کو ان کی زیادہ سے زیادہ دستیاب رفتار سے، اور کبھی کبھی تیز، ZML کے بانی Steeve Morin نے TechCrunch کو بتایا۔

جیسے جیسے AI ہمارے کام اور روزمرہ کی زندگیوں میں ضم ہو جاتا ہے، انفرنس کو بہتر بنانا - عرف، پرامپٹس کی پروسیسنگ - اہمیت کے لحاظ سے ماڈل کی بارش سے آگے بڑھ رہی ہے، لیکن اکثر پردے کے پیچھے پیچیدہ محسوس ہوتی ہے، سافٹ ویئر اور فن تعمیر کی رکاوٹوں کے ساتھ جو وینڈر لاک ان کا باعث بنتے ہیں، مورین نے کہا۔

مختلف قسم کے چپس میں اعلیٰ کارکردگی کو حاصل کرنے کا وعدہ ایک تکنیکی کارنامہ ہے، لیکن یہ AI سے متعلقہ اخراجات کے بڑھتے ہوئے خدشات کے درمیان، مارکیٹ میں خلل ڈالنے والا بھی ہو سکتا ہے۔

ZML کو امید ہے کہ کاروباری اداروں اور کلاؤڈز کو چپس کا مرکب استعمال کرنے کا اختیار فراہم کرے گا، جن میں سے کچھ کم مہنگے یا کم توانائی استعمال کر سکتے ہیں۔ مورین نے کہا کہ "خیال یہ ہے کہ لوگوں کو اپنا نظام بنانے کی طاقت واپس دی جائے اور حقیقی کارکردگی کے فوائد حاصل کیے جائیں جو [AI] کو پھیلانے کی اجازت دیتے ہیں،" مورین نے کہا۔

اس طرح کے سافٹ ویئر کی مدد سے ناول AI چپ بنانے والوں میں مدد مل سکتی ہے، جن میں سے اکثر کا تعلق یورپ سے ہوتا ہے، مورین نے Axelera، Fractile، Kalray، OLIX، Q.ANT، SiPearl، SpiNNcloud، اور VSORA کا حوالہ دیتے ہوئے مشاہدہ کیا۔ لیکن ان کے اصل علاقے سے زیادہ، جو چیز اس کے لیے اہم ہے وہ یہ ہے کہ ZML ان کے ساتھ "ایسی چیزوں پر کام کر سکتا ہے جو اس سے پہلے دنیا میں کہیں بھی نہیں کی گئی ہیں۔"

اس کا مطلب یہ نہیں ہے کہ مورین Nvidia پر مندی کا شکار ہے۔ وہ نہیں ہے، جزوی طور پر اس کی موجودہ فراہمی کی وجہ سے۔ انہوں نے TechCrunch کو بتایا کہ ZML کا AI chip وشال کے ساتھ اچھا تعلق ہے، جو تخمینہ کے اضافے کے لیے تیاری کر رہا ہے۔

اندازہ اتنی شدید سرمایہ کاری کا ایک شعبہ رہا ہے، کہ اس رجحان کو "انفرنس گولڈ رش" قرار دیا گیا ہے۔ لہذا ZML کا مقابلہ ہے جیسا کہ Baseten، جس کی حال ہی میں قیمت $13 بلین ہے۔ Inferact , اوپن سورس پروجیکٹ vLLM کے تخلیق کاروں سے ; نیز RadixArk، SGLang کے پیچھے کمرشل کمپنی۔

دونوں vLLM اور SGLang جزوی طور پر LLMD کے ساتھ مقابلہ کرتے ہیں، لیکن ZML کے لیے مورین کے عزائم ایک وسیع میدان عمل کا احاطہ کرتے ہیں۔ انہوں نے کہا کہ ہم اس مقام پر پہنچ گئے ہیں جہاں ہم سلیکون کو مل کر ڈیزائن کر رہے ہیں۔ انہوں نے ZML کی 20 افراد پر مشتمل دبلی پتلی ٹیم کو اس وجہ سے مزید سہرا دیا کہ پِیرس میں قائم سٹارٹ اپ تیزی سے آگے بڑھنے میں کامیاب رہا ہے، منصوبوں میں مزید ریلیز کے ساتھ۔

اس نے یہ بھی مدد کی کہ اس چھوٹی ٹیم کو اس کے سائز کے لئے اچھی طرح سے مالی اعانت فراہم کی گئی ہے۔ Zenly کے انجینئرنگ کے VP کے طور پر اپنے ٹریک ریکارڈ کی بدولت، جسے Snapchat نے 2017 میں نو اعداد و شمار کے لیے حاصل کیا، مورین نے وینچر فرموں سے $20 ملین اکٹھے کیے جن میں Harry Stebbings' 20VC, >commit, AALVC, Drysdale Ventures, Xavier Niel's Kima Ventures, Kindslo Capital, Kinds, Lozzle,

ZML کے پہلے عوامی پروجیکٹ کے برعکس، 2024 میں ریلیز ہونے والے اور مارچ میں اپ ڈیٹ کیے جانے والے انفرنس فوکسڈ ML فریم ورک، ZML/LLMD اوپن سورس نہیں ہے۔ لیکن یہ استعمال کے بارے میں سیکھنے کے مقصد کے ساتھ ایک مفت پروڈکٹ کے طور پر لانچ کر رہا ہے۔ مورین نے کہا، "میں اس کی بجائے پیمائش کروں گا اور [پھر آمدنی پیدا کروں گا] جہاں یہ میری ترقی کو احمقانہ طریقے سے روکے بغیر سب سے زیادہ مؤثر ہے کیونکہ میں جانے سے بہت زیادہ لالچی رہا ہوں۔"

یہ بتانا بہت جلد ہے کہ ZML/LLMD کب ایک بامعاوضہ پروڈکٹ بن سکتا ہے، اور اس کو اپنانا کیسا ہوگا۔ لیکن اسٹارٹ اپ کا کیپ ٹیبل اس بات کی تصدیق کرتا ہے کہ دیگر بانی توجہ دے رہے ہیں، بشمول Dagger اور Docker کے بانی Solomon Hykes، Clément Delangue اور Julien Chaumon from Hugging Face، نیز LeCun، اب AMI Labs کے ساتھ۔ اس سے یہ معاملہ بھی بنتا ہے کہ یورپ کے AI اسٹارٹ اپ اب گھر سے بنا سکتے ہیں۔ "میں پِیرس کے علاوہ کہیں بھی ZML نہیں کر سکتا تھا،" مورین نے کہا۔