Nvidia جي بي مثال مارڪيٽ جي تسلط جا ڏينهن ختم نه ٿيا آهن، پر چئلينج ۽ چونڊون سڀني طرفن کان پيدا ٿي رهيا آهن.
ZML، هڪ گرم فرينچ AI شروعاتي طور تي ٽريننگ اوارڊ فاتح Yann LeCun پاران تصديق ٿيل آهي، انفرنس-پرفارمنس سافٽ ويئر جاري ڪيو آهي جيڪو مختلف قسم جي اوپن سورس وڏي ٻولي ماڊل کي مختلف قسم جي چپس تي هلائڻ جي اجازت ڏئي ٿو - بشمول Nvidia's, AMD's, Google's TPU, Apple Metal ۽ Intel Arc.
ZML/LLMD سان، نئين شروع ڪيل LLM انفرنس سرور، ڪمپني جو عزائم موجوده سائلوز کي ٽوڙڻ ۽ مختلف چپس کي AI استعمال جي ڪيسن لاءِ انهن جي وڌ ۾ وڌ دستياب رفتار تي دستياب ڪرڻ آهي، ۽ ڪڏهن ڪڏهن تيز، ZML جي باني اسٽيو مورين TechCrunch کي ٻڌايو.
جيئن ته AI اسان جي ڪم ۽ روزمره جي زندگين ۾ ضم ٿي وڃي ٿي، انفرنس کي بهتر ڪرڻ - عرف، اشارن جي پروسيسنگ - اهميت جي لحاظ کان ماڊل برسات کي ختم ڪري رهيو آهي، پر اڪثر ڪري پردي جي پويان پيچيدگي محسوس ڪندو آهي، سافٽ ويئر ۽ فن تعمير جي رڪاوٽن سان جيڪي وينڊر لاڪ ان ڏانهن ويندا آهن، مورين چيو.
مختلف قسم جي چپس ۾ چوٽي جي ڪارڪردگي حاصل ڪرڻ جو واعدو هڪ ٽيڪنالاجي خاصيت آهي، پر اهو پڻ ٿي سگهي ٿو مارڪيٽ کي خراب ڪندڙ، AI سان لاڳاپيل خرچن تي وڌندڙ خوفن جي وچ ۾.
ZML کي اميد آهي ته ادارن ۽ بادل کي مهيا ڪرڻ جي اختيار سان گڏ چپس جي ميلاپ کي استعمال ڪرڻ لاء، جن مان ڪجهه گهٽ قيمتي هوندا يا گهٽ توانائي استعمال ڪن ٿا. "خيال اهو آهي ته ماڻهن کي پنهنجو نظام ٺاهڻ جي طاقت واپس ڏيڻ ۽ حقيقي ڪارڪردگي حاصلات حاصل ڪرڻ جي اجازت ڏني وڃي جيڪا [AI] کي ڦهلائڻ جي اجازت ڏئي ٿي،" مورين چيو.
اهڙي سافٽ ويئر مدد ڪري سگھي ٿي ناول AI chipmakers، جن مان گھڻا آھن يورپ مان آھن، مورين جو حوالو ڏنو، Axelera , Fractile , Kalray , OLIX , Q.ANT , SiPearl , SpiNNcloud , ۽ VSORA . پر انهن جي اصليت واري علائقي کان وڌيڪ، هن لاءِ اهم ڳالهه اها آهي ته ZML انهن سان گڏ ڪم ڪري سگهي ٿو ”اهي شيون جيڪي اڳي دنيا ۾ ڪٿي به نه ڪيون ويون آهن“.
ان جو مطلب اهو ناهي ته مورين اينڊيا تي بيئرش آهي. هو نه آهي، جزوي طور تي ان جي موجوده فراهمي جي ڪري. هن TechCrunch کي ٻڌايو ته ZML جو AI چپ ديو سان سٺو تعلق آهي، جيڪو انفرنس جي اڀار لاءِ تيار ٿي رهيو آهي.
Inference اهڙي شديد سيڙپڪاري جو هڪ علائقو رهيو آهي، جنهن جي رجحان کي "انفرنس گولڊ رش" جي نالي سان ساراهيو ويو آهي. تنهنڪري ZML جو مقابلو آهي جيئن بيسٽين، تازو ئي 13 بلين ڊالر جي قيمت؛ Inferact , ٺاهيندڙن کان اوپن سورس پروجيڪٽ vLLM ؛ انهي سان گڏ RadixArk، SGLang جي پويان تجارتي ڪمپني.
ٻئي vLLM ۽ SGLang جزوي طور LLMD سان مقابلو ڪن ٿا، پر ZML لاءِ مورين جا عزائم هڪ وسيع اسپيڪٽرم کي ڍڪيندا آهن. "اسان ان نقطي تي پهچي چڪا آهيون جتي اسان سلڪون ٺاهي رهيا آهيون،" هن چيو. هن وڌيڪ اعتبار ڪيو ZML جي 20 ماڻهن جي ٿلهي ٽيم جو سبب اهو آهي ته پئرس جي بنياد تي شروعاتي منصوبن ۾ وڌيڪ رليز سان گڏ، تيزي سان هلڻ جي قابل ٿي ويو آهي.
اهو پڻ مدد ڪئي ته هن ننڍڙي ٽيم کي ان جي سائيز لاء چڱي طرح فنڊ آهي. Zenly جي انجنيئرنگ جي VP جي حيثيت سان سندس ٽريڪ رڪارڊ جي مهرباني، جيڪا Snapchat 2017 ۾ نون انگن اکرن لاءِ حاصل ڪئي، مورين 20 ملين ڊالر گڏ ڪيا جن ۾ وينچر فرمز شامل آهن Harry Stebbings' 20VC, >commit, AALVC, Drysdale Ventures, Xavier Niel’s Kima Ventures, Kindslo, Lozzle.
ZML جي پهرين عوامي منصوبي جي برعڪس، 2024 ۾ جاري ڪيل انفرنس-فوڪسڊ ML فريم ورڪ ۽ مارچ ۾ اپڊيٽ ڪيو ويو، ZML/LLMD اوپن سورس نه آهي. پر اهو شروع ڪري رهيو آهي هڪ مفت پراڊڪٽ طور استعمال جي باري ۾ سکڻ جي مقصد سان. ”مان بجاءِ ماپ ڪريان ٿو ۽ [پوءِ آمدني پيدا ڪريان] جتي اهو تمام گهڻو اثرائتو آهي بغير منهنجي ترقي کي بيوقوفيءَ سان روڪيو ڇاڪاڻ ته مان وڃڻ کان تمام گهڻو لالچي رهيو آهيان ،“ مورين چيو.
اهو ٻڌائڻ تمام جلدي آهي جڏهن ZML/LLMD هڪ ادا ڪيل پراڊڪٽ بڻجي سگهي ٿي، ۽ ان جو اپنائڻ ڪهڙو نظر ايندو. پر اسٽارٽ اپ جي ڪيپ ٽيبل تصديق ڪري ٿي ته ٻيا باني ڌيان ڏئي رهيا آهن، جن ۾ ڊيگر ۽ ڊاڪر جو باني سليمان هائيڪس، ڪليمينٽ ڊيلانگو ۽ جولين چومنڊ هگنگ فيس کان، گڏوگڏ LeCun، هاڻي AMI Labs سان. اهو پڻ اهو ڪيس ٺاهي ٿو ته يورپ جي AI شروعاتون هاڻي گهر کان ٺاهي سگهن ٿيون. "مان ZML ڪٿي به نه ڪري سگهيو پر پئرس ۾،" مورين چيو.
