پوری AI صنعت میں، صارفین اس بارے میں زیادہ باشعور ہو رہے ہیں کہ ان کی تعیناتیاں کتنی مہنگی ہو سکتی ہیں — اور لاگت میں کمی کے لیے ایک نئی فوری ضرورت محسوس کر رہے ہیں۔ لیکن جب کہ اوپن سورس ماڈلز نمایاں طور پر کم فی ٹوکن لاگت پیش کرتے ہیں، کسی کام کے لیے صحیح ماڈل تلاش کرنا مشکل ہو سکتا ہے۔
جُمِرات کو، رائٹر، جو مارکیٹرز کے لیے AI ٹولز اور ایجنٹس پیش کرتا ہے، نے Palmyra X6 کے نام سے ایک نیا فلیگ شپ ماڈل لانچ کیا، جس کا مقصد اپنے صارفین کے لیے اس مسئلے کو حل کرنا ہے۔ Z.ai کے اوپن سورس ماڈل GLM-5.2 پر تربیت کے بعد کی تبدیلی کے طور پر بنایا گیا، رائٹر کا کہنا ہے کہ نئے نظام کو بہت کم قیمت پر تعیناتی کے لیے تیار صلاحیتیں فراہم کرنی چاہئیں۔ کمپنی کا تخمینہ ہے کہ نیا ماڈل، کمپنیوں کے استعمال کے بنیادی ڈھانچے میں ہونے والی تبدیلیوں کے ساتھ، اپنے صارفین کے لیے بنیادی کاموں کے لیے لاگت میں 50 فیصد تک کمی کرے گا۔
نئے ماڈل کے ساتھ، کمپنی نے اپنے معیاری ایجنٹ کے استعمال میں اہم اپ گریڈ بھی جاری کیے ہیں۔ دونوں خصوصیات جُمِرات سے رائٹر کلائنٹس کے لیے دستیاب ہوں گی۔
سی ای او مے حبیب نے ٹیک کرنچ کو بتایا کہ "میرے خیال میں انٹرپرائز اگلے معیار کا پیچھا کرنے سے بالکل بیمار ہے۔" "وہ چپٹی لاگت چاہتے ہیں، اور ایسا لگتا ہے کہ کوئی بھی اسے فراہم نہیں کر سکتا۔"
نیا نقطہ نظر پیچیدہ، کثیر قدمی کاموں پر خاص زور دیتا ہے، جو تیزی سے اور کم ٹوکن کے ساتھ انجام پاتے ہیں۔ اور رائٹر ہارنس آپٹیمائزیشن کو ایسا کرنے کے لیے ایک اہم لیور کے طور پر دیکھتا ہے۔
رائٹر محققین کا ایک حالیہ مقالہ اس نقطہ نظر کو اعتبار دیتا ہے، متعدد مختلف ماڈلز میں استعمال کی کارکردگی میں چھوٹی تبدیلیوں کی جانچ کرتا ہے۔ تحقیق سے پتا چلا ہے کہ، بہت سے معاملات میں، ہارنس میں تبدیلیاں ماڈل کے انتخاب کے مقابلے میں لاگت کو کم کرنے کا ایک زیادہ قابل اعتماد طریقہ تھا، جب کہ ان کی جانچ کے دوران اخراجات میں اوسطاً 40 فیصد کمی واقع ہوئی۔
محققین نے لکھا، "حکمت ایک ایسا جزو ہے جس کی کارکردگی ہر اس ماڈل میں کئی گنا بڑھ جاتی ہے جو ایک تنظیم چلاتی ہے — موجودہ اور مستقبل،" محققین نے لکھا۔
رائٹر کے کلائنٹس کے لیے، تجربہ اب بھی ماڈل-اگنوسٹک ہے: Palmyra X6 دیگر رائٹر ماڈلز یا Azure یا Amazon Bedrock کے ذریعے درآمد کیے گئے باہر کے ماڈلز کے ساتھ بیٹھے گا۔ لیکن حبیب نے لاگت میں کمی کے دباؤ کو بڑی AI لیبز کی طرف وسیع تر عدم اعتماد کو جنم دینے کے طور پر بھی دیکھا، جن میں ٹوکن کے استعمال کو بڑھانے کے لیے مالی ترغیب حاصل ہے۔
حبیب نے TechCrunch کو بتایا، "یہاں لاگت میں ہونے والا دھماکہ گاہکوں کے لیے بالکل بے مثال ہے، اور اسی طرح CIOs لیبز کو ترک کر رہے ہیں،" حبیب نے مزید کہا کہ AI لیبز "یہ بات اچھی طرح سے نہیں سمجھتے کہ کس طرح کسی انٹرپرائز کو AI سے فائدہ اٹھانے میں مدد کی جائے۔"