د AI ماډلونو چلولو لپاره د کمپیوټرونو پراخه غوښتنه یوازې ګړندۍ شوې ، مګر دوه لوی خنډونه شتون لري چې په سوداګرۍ کې هرڅوک اړتیا لري له مینځه ویسي: د سم چپس ترلاسه کول ، او د ډیټا مرکزونو ته رسیدل چیرې چې دوی کولی شي د عاید تولید پیل کړي.
جنرال کمپیوټ، یو نوی انفرنس نیوکلوډ - یو شرکت چې د AI پروسس کولو ځواک کرایه کوي، په هغه مرحله کې تخصص لري کله چې ماډلونه چلیږي او کاروونکو ته ځواب ورکوي د روزنې پرځای - هغه پوښتنو ته ځوابونه لري چې روښانه کوي چې د AI اکوسیستم چیرته روان دی. دې ځوابونو د دې سره مرسته وکړه چې د 60 ملیون ډالرو څخه وروسته د پیسو ارزښت کې د 15 ملیون ډالرو تخم راټول کړي، چې مشري یې د FUSE VC لخوا د کاریا وینچر شریکانو او کلیو ګلوبل وینچرز په ګډون سره.
لومړی، سم چپ څه شی دی؟ د GPUs غوښتنه د چت څخه تیریږي ، مګر دا دودیز پوهه رامینځته کیږي چې دوی د AI ماډلونو چلولو لپاره غوره مناسب چپس ندي کله چې دوی روزل شوي وي. د AI مرحله چیرې چې ماډل په فعاله توګه ځوابونه رامینځته کوي د روزنې په پرتله مختلف کمپیوټري اړتیاوې لري ، او د چپس نوې ټولګي په ځانګړي ډول د دې لپاره ډیزاین شوې. د دسمبر په میاشت کې د Nvidia 20 ملیارد ډالرو Groq لیږد او تیره اونۍ د Cerebras $ 57 ملیارد IPO لاره په ګوته کړه.
په دې دواړو شرکتونو کې د ظرفیت فشار سره ، د عمومي کمپیوټر شریک بنسټ ایښودونکي ، سی ای او فین پوکلوسکي او CTO جیسن ګوډیسن ، بل انتخاب وموند. دوی د سامبا نووا لخوا رامینځته شوي ځانګړي چپس ته مخه کوي ، د انټیل لخوا ملاتړ شوی چپ میکر په استخراج تمرکز کوي چې د سیلیکون ویلی خبرو اترو څخه یو څه راوتلی.
دا ممکن بدلون ومومي کله چې سامبا نووا سږکال خپل نوي چپس خپروي. جوړښت ډیر انعطاف منونکی دی او د محاسبې محاسبې په جریان کې د شرایطو ذخیره کولو لپاره ډیر حافظه کاروي ، او سامبا نووا ادعا کوي چې دا نه یوازې GPUs بلکې نور ځانګړي چپسونه هم غوره کوي چې د Groq یا Cerebras په څیر جوړ شوي. پوکلوسکي وايي چې نوي چپس به په هره ثانیه کې له 600 څخه تر 700 ټوکنونو تولید کړي ، د GPUs لپاره په هره ثانیه کې شاوخوا 250 ټوکنونه.
جنرال کمپیوټ د شرکت SN50 چپس 300 ملیون ډالر په ترتیب کې لري او وايي چې دا به لومړی نیوکلاډ وي چې دوی یې ځای په ځای کوي.
دا چپس د دویمې لویې ستونزې په حل کې هم مرسته کوي — چیرته یې واچوئ — د عمومي کمپیوټر لپاره: دوی هوا یخ شوي، نه د اوبو یخ شوي، او لږ بریښنا مصرفوي، نو دوی د نوي زیربناوو پانګوونې پرته د موجوده ډیټا مرکز تاسیساتو کې نصب کیدی شي.
پوکلوسکي د راټولولو معاملې تعقیبوي - هغه تنظیمات چیرې چې جنرال کمپیوټ خپل هارډویر د بل چا په تاسیساتو کې نصبوي - نه یوازې د ډیټا سینټر چمتو کونکو سره ، بلکه د کریپټو کان کیندونکو سره هم د دوی زیربنا بیا رامینځته کولو په لټه کې دي ځکه چې د بټکوین تولید لګښت ډیری وختونه د هغې قیمت څخه ډیر شوی.
جنرال کمپیوټ تیره اونۍ خپل کلاوډ وړاندیز پیل کړ ، ادعا یې وکړه چې دا دمخه د مینی میکس 2.7 په چلولو کې ترټولو ګړندی دی ، یو پیاوړی خلاص سرچینه LLM.
Joe Hassleman یو پانګې اچوونکی دی چې په 2021 کې یې په Groq کې پانګه اچونه وکړه کله چې د انفرنس بوم په لومړي پوړ کې شامل شو. سږ کال، هغه یو نوی فنډ، Evercrest Partners، په AI فضا تمرکز وکړ، او جنرال کمپیوټ یې خپله لومړنۍ پانګه اچونه وکړه. هاسلمین د سامبا نووا په ملګرتیا کې د عمومي کمپیوټ سره د Nvidia سره د Coreweave اړیکې سره موازي ګوري - او د دې پخواني کلاوډ وړاندیز سره د Groq چپ جوړونې جوړه کول.
هاسلمن وویل: "دوی د پیرودونکو صحي ترکیب ته اړتیا لري چې خپل چپس په چاپیریال کې واچوي چې دوی ته به لوړه وده ورکړي." "څومره چې جنرال کمپیوټ په سامبا نووا کې شرط کوي، سمبا نووا په عمومي کمپیوټر کې شرط کوي."
پوښتنه دا ده چې کوم ډول کمپیوټر جوړښت به د AI راتلونکي کې خورا ارزښت ترلاسه کړي. د انفرنس کلاوډز د څو ماډلونو او اجنټانو په نړۍ کې ضمني شرطونه دي، چیرې چې هیڅ یو برابرونکي غالب نه وي او د سرعت او د اټکل لګښت کلیدي رقابتي متغیرات کیږي. پدې اونۍ کې د OpenRouter لپاره پورته شوي $ 113 ملیون لړۍ B په پام کې ونیسئ ، د شرکت وړتیا منعکس کوي چې پیرودونکو ته د دوی د توکی لګښت مطلوب کولو لپاره ډیری ماډلونو ته لاسرسی وړاندیز کوي.
په دې محاسبه کې د سرعت مسله، د قیمت او وړتیا لپاره. پوکلوسکي غواړي د کوډ کولو اجنټانو لپاره د ساعتونو اوږد کاري بارونه په پنځو یا لسو دقیقو کارونو بدل کړي ، او د پیرودونکي خدماتو لپاره آډیو اجنټان رامینځته کړي ، کوم چې د مؤثره او ډیر اقتصادي خبرو اترو لپاره ګړندي تحلیل ته اړتیا لري. "که تاسو ChatGPT کاروئ او دا تاسو ته په یوه ثانیه کې 50 ټوکن درکوي ، دا لاهم د لوستلو په پرتله خورا ګړندی دی ،" پوکلوسکي ټیک کرنچ ته وویل ، "اوس چې شیان اجنټ څخه اجنټ ته تللي ، چیرې چې اجنټان زموږ په استازیتوب لوستل کوي یا ډیټابیسونه پینګ کوي ، دوی باید ګړندي لاړ شي."
