تیز تر AI کا اندازہ لگانے کی دوڑ جاری ہے، اور مارکیٹوں نے سیریبراس اور اس کے مقصد سے تیار کردہ چپس کو مئی میں اپنے آئی پی او کی شروعات میں پرتپاک خیر مقدم کیا۔ لیکن فرانسیسی اسٹارٹ اپ کوگ شرط لگا رہا ہے کہ روایتی GPUs سے باہر نکلنے کے لیے بہت زیادہ طاقت ہے۔
سٹارٹ اپ نے مئی میں ہیکر نیوز کے صفحہ اول پر ایک ٹیک پیش نظارہ کے ساتھ کامیابی حاصل کی جس کا مقصد یہ ثابت کرنا تھا کہ "پہلے سے موجود معیاری ڈیٹا سینٹر GPUs انٹرپرائزز پر انتہائی تیز سنگل ریکویسٹ ڈی کوڈنگ ممکن ہے" — جیسے کہ AMD MI300X اور NVIDIA H200 GPUs جو اس نے اپنے ڈیمو کے لیے استعمال کیے ہیں۔
کچھ لوگوں کو یہ سن کر مایوسی ہوئی کہ یہ ہمارے لیپ ٹاپ میں GPUs تک نہیں پھیلا، لیکن دوسروں نے اس کی صلاحیت دیکھی۔ تخمینہ کی رفتار اور لاگت کے ساتھ اب ایک اہم رکاوٹ ہے، سافٹ ویئر آپٹیمائزیشن کے ساتھ موجودہ ہارڈ ویئر پر نئی صلاحیتوں کو غیر مقفل کرنے کے Kog کے وعدے نے تماشائیوں سے زیادہ اپنی طرف متوجہ کیا۔ CEO Gaël Delalleau نے TechCrunch کو بتایا، "ہمارے پاس 200 ٹھوس کاروباری لیڈز تھیں۔
ابتدائی تاثرات کی بنیاد پر، سولو بانی کو توقع ہے کہ سافٹ ویئر انجینئرنگ کے استعمال کا پہلا معاملہ ہوگا۔ تجربہ کار کلاڈ کوڈ استعمال کرنے والے اچھی طرح جانتے ہیں کہ انہیں نتائج حاصل کرنے کے لیے بعض اوقات گھنٹوں انتظار کرنا پڑتا ہے۔ اینتھروپک خود سمجھتا ہے کہ رفتار پیسے کے قابل ہے، اور کلاڈ کے فاسٹ موڈ کے لیے ایک سے زیادہ قیمت وصول کرتی ہے۔
کوگ امید کر رہا ہے کہ ان تاخیر کی وجہ سے صارفین کو نشانہ بنایا جائے، عام طور پر اس لیے کہ وہ پیشہ ورانہ کاموں کے لیے AI ورک فلو پر انحصار کرتے ہیں۔ لیکن سٹارٹ اپ میں ڈیزائن پارٹنرز بھی ہیں جو صارفین کو پرامپٹ کے ساتھ گیمز اور ایپس بنانے دیتے ہیں، اور جن کے لیے کوگ انفرنس انجن (KIE) کی بدولت تیز تر نتائج کا مطلب زیادہ آمدنی ہو گی۔
کمپنی کو احساس ہے کہ یہ مارکیٹ ابھی کافی پختہ نہیں ہے۔ مانگ کا مشاہدہ کرتے ہوئے، کوگ نے سیکھا کہ اس کے ممکنہ صارفین چھوٹے ماڈلز کو ٹھیک کرنے کے لیے تیار نہیں ہیں۔ "اور یہی وجہ ہے کہ لانچ کے بعد سے، ہم نے پوری طرح سے بڑے ماڈلز کی ترقی کو تیز کرنے پر توجہ مرکوز کی ہے تاکہ ہم نے جو طلب دیکھی ہے اسے پورا کیا جا سکے۔"
اس سے Kog کو "30x تیز LLM تخمینہ" کے اپنے وعدے کو پورا کرنے کے لیے ایک بہت بڑی چھلانگ ملتی ہے۔ اس کے ڈیمو نے متاثر کن 3000 فی ریکوئسٹ ٹوکن فی سیکنڈ (TPS) دکھائے — لیکن مقصد سے بنایا گیا ایک چھوٹا ماڈل جس میں صرف 2 بلین پیرامیٹرز ہیں، جو اب اوپن سورس لینفارمر 2B ہے۔
شکوک و شبہات سے متصادم، ڈیلالو کو یقین ہے کہ یہی طریقہ LLMs کے ساتھ بھی کام کر سکتا ہے، جس کا سائز انفرنس چپس کے لیے ایک چیلنج ہو سکتا ہے۔ "GPUs کا مستقبل روشن ہے،" انہوں نے کہا۔ کوگ کے سی ای او کے لیے، یہ خیال کہ وہ ڈی کوڈنگ کے لیے موزوں نہیں ہیں، ایک غلط فہمی بن گئی ہے۔ نئے GPUs میں زیادہ سے زیادہ میموری بینڈوڈتھ ہوتی ہے جو صرف انلاک ہونے کی درخواست کرتی ہے۔
کوگ یہ سوچنے میں اکیلا نہیں ہے کہ سافٹ ویئر آپٹیمائزیشن GPUs کو باکس پر کہنے سے کہیں زیادہ کام کرنے میں مدد کر سکتی ہے۔ ZML، فرانس سے بھی، نے ہارڈ ویئر-ایگنوسٹک سافٹ ویئر جاری کیا جو مسابقتی چپس میں تیزی سے اندازہ لگانے کے لیے Nvidia کے CUDA کو نظرانداز کرتا ہے۔ لیکن ڈیلالو نے کہا کہ کوگ اسٹینفورڈ یونیورسٹی لیب ہیزی ریسرچ سے زیادہ مشابہت رکھتا ہے، جس میں GPU ایکسلریشن پر گہری سطح پر توجہ دی جاتی ہے۔
Delalleau خود ایک محقق نہیں ہے، اور اس کے پہلے سٹارٹ اپ، TechCrunch50 2009 alum Stribe کا اس کے نئے سے کوئی تعلق نہیں ہے — اس کے علاوہ اس کے سابق کوفاؤنڈر VC کامل زیروئل بن گئے، جن کی فرم Varsity VC نے Kog کے بیج راؤنڈ کی شریک قیادت کی۔ لیکن اسٹارٹ اپ کی گہری سطح کی توجہ اس کے منفرد پس منظر سے ہوتی ہے۔
فرانس کے École Polytechnique میں ٹھوس ریاست کی طبیعیات کا مطالعہ کرنے کے بعد، اس نے جارحانہ سائبر سیکیورٹی میں کام کیا — جسے وائٹ ہیٹ ہیکنگ بھی کہا جاتا ہے۔ ڈیلالو کے مطابق، اس نے اس ذہنیت کی تشکیل کی جو اب وہ اپنی ٹیم کو اپنانے کی ترغیب دے رہے ہیں۔ سائنس کی طرف، "فزکس کے قوانین، اور GPU کے قوانین کو سمجھنے کی یہ ذہنیت ہے تاکہ ان میں سے زیادہ سے زیادہ فائدہ اٹھایا جا سکے۔"
جہاں تک ہیکنگ کا تعلق ہے، DEF CON کے CTF ٹورنامنٹ میں چار بار فائنلسٹ نے کہا کہ اس نے اسے "چیزوں کو انتہائی نچلی سطح پر ریورس انجینئر کرنا سکھایا — اسمبلی لینگویج اور بائنری کوڈ تک — یہ سمجھنا کہ یہ کیسے کام کرتا ہے، اور اس مقصد کو حاصل کرنے کے لیے اسے استعمال کرنے کی کوشش کرنا جس کے لیے یہ ضروری نہیں تھا کہ ڈیزائن کیا گیا ہو۔
اس نقطہ نظر کا منفی پہلو یہ ہے کہ یہ بہت ہی ہاتھ پر اور وقت طلب ہے۔ "ہر نئے GPU کے لیے، ہم اس ہارڈ ویئر پر واقعی تفصیلات جاننے اور GPU انجینئرنگ کی تحقیق کرنے کے لیے، کئی ہفتے یا مہینے بھی وقف کریں گے۔" 11 افراد کی ٹیم کے ساتھ، یہ چپس کی تعداد کو محدود کر دیتا ہے جن کے ساتھ کوگ کام کر سکتا ہے، کم از کم مستقبل قریب کے لیے۔
طویل عرصے میں، کوگ اپنے طریقہ کار کو ایجنٹ پر مبنی پائپ لائنوں میں کھلانے کی امید کرتا ہے جو اسے مزید چپس اور ماڈلز کی حمایت کرنے دے گا۔ جیسا کہ یورپ ان دو محاذوں پر اپنی صلاحیت پیدا کرنے کی کوشش کر رہا ہے، اس سے اسٹارٹ اپ کے لیے خودمختاری کے ٹیل وِنڈز کا اضافہ ہو سکتا ہے، جسے پہلے ہی Scaleway کی حمایت حاصل ہے اور فرانس کے Bpifrance اور French Tech 2030 کے پروگرام کی حمایت حاصل ہے۔
ابھی کے لیے، اگرچہ، کوگ کو دنیا کے سامنے یہ ثابت کرنے کی ضرورت ہے کہ اس کا طریقہ LLMs پر کام کرتا ہے۔ یہ مزید فنڈنگ حاصل کرنے کی کلید بھی ہو گی۔ "ایک بار جب ہم نے اپنا پہلا بڑا ماڈل 10x رفتار سے نافذ کر دیا، جو میرے خیال میں ستمبر میں ہو گا، ہم گاہک کی کرشن کا مظاہرہ کرنے کے قابل ہو جائیں گے اور وہاں سے، اپنی سیریز A کو بڑھا دیں گے،" ڈیلالو نے کہا۔
