ایک جرمن ریسرچ کنسورشیم نے Soofi S جاری کیا ہے، ایک نیا اوپن سورس بڑی زبان کا ماڈل جو جرمن اور انگریزی کے لیے ڈیزائن کیا گیا ہے۔
ماڈل، جسے سرکاری طور پر Soofi S 30B-A3B کہا جاتا ہے، کو یورپ کے AI ماحولیاتی نظام کے لیے بنایا گیا ایک خودمختار، اوپن سورس فاؤنڈیشن ماڈل کے طور پر بیان کیا گیا ہے۔ پراجیکٹ کی تکنیکی رپورٹ کے مطابق، یہ ایک مرکب-ماہرین کا ہائبرڈ مامبا-ٹرانسفارمر ماڈل ہے جو بنیادی طور پر جرمن اور انگریزی کاموں کے لیے تربیت یافتہ ہے۔
Soofi S کو امریکہ اور چین کے بڑے AI ماڈلز کے کھلے متبادل کے طور پر ڈیزائن کیا گیا ہے۔
ماڈل میں تقریباً 31.6 بلین کل پِیرامیٹرز ہیں، لیکن یہ صرف 3.2 بلین فی جنریٹڈ ٹوکن کو چالو کرتا ہے۔ اس کا مطلب یہ ہے کہ یہ کمپیوٹ کی ضروریات کو بہت چھوٹے سسٹم کے قریب رکھتے ہوئے ایک بڑے ماڈل کا پیمانہ پیش کر سکتا ہے۔
پروجیکٹ کا کہنا ہے کہ ماڈل کو شروع سے ہی تقریباً 27 ٹریلین ٹوکنز پر تربیت دی گئی تھی، جس میں جرمن ڈیٹا کو تربیت کے دوران جان بوجھ کر زیادہ وزن دیا گیا تھا۔ اسے میونخ میں ڈوئچے ٹیلی کام کے انڈسٹریل AI کلاؤڈ پر اینڈ ٹو اینڈ بنایا گیا تھا۔
Soofi S ماہرین کا مرکب، یا MoE، فن تعمیر کا استعمال کرتا ہے۔
آسان الفاظ میں، MoE ایک AI ماڈل کو چھوٹے ماہر نیٹ ورکس میں تقسیم کرتا ہے۔ ان میں سے صرف کچھ ماہرین کو ہر ٹوکن یا کام کے لیے استعمال کیا جاتا ہے، جو کمپیوٹنگ کی لاگت کو کم کرنے میں مدد کرتا ہے جبکہ اب بھی ماڈل کو ایک بڑے مجموعی ڈھانچے سے فائدہ اٹھانے کی اجازت دیتا ہے۔
یہ فن تعمیر معروف اوپن-AI ماڈلز میں عام ہو گیا ہے۔ Nvidia نے مصنوعی تجزیہ کے اعداد و شمار کا حوالہ دیتے ہوئے کہا کہ 10 سب سے زیادہ ذہین اوپن سورس ماڈل تمام مکسچر آف ایکسپرٹس ڈیزائن استعمال کرتے ہیں۔
Soofi ٹیم کا کہنا ہے کہ Soofi S اوپن سورس حریفوں کے خلاف سخت کارکردگی کا مظاہرہ کرتا ہے۔
ماڈل کی تکنیکی رپورٹ کے مطابق، Soofi S نے مکمل طور پر کھلے ہوئے ماڈلز میں سب سے زیادہ انگریزی اور جرمن تشخیصی اسکور حاصل کیے، اولمو 3 32B اور Apertus 70B جیسے ماڈلز سے آگے۔ اس نے ٹیم کے ذریعے ٹیسٹ کیے گئے 17 اوپن بیس ماڈلز میں انگریزی اور جرمن دونوں زبانوں میں بہترین کوڈ مجموعی اسکور بھی ریکارڈ کیے ہیں۔
ماڈل نے مقابلے میں شامل یورپی خودمختار AI بیس لائنز کو بھی پیچھے چھوڑ دیا، بشمول زیادہ فعال پِیرامیٹرز والے ماڈلز۔
کنسورشیم Soofi S کو خودمختار AI کے لیے یورپ کے دباؤ کے حصے کے طور پر پوزیشن دے رہا ہے۔
اس ماڈل کا مقصد کمپنیوں، محققین اور پبلک سیکٹر کے صارفین کو ایک اوپن سورس آپشن دینا ہے جس کی میزبانی اور یورپی انفراسٹرکچر کے اندر ترقی کی جا سکتی ہے۔ اس کے ہگنگ فیس پیج کا کہنا ہے کہ اس منصوبے کو صنعتی استعمال کے لیے ایک محفوظ یورپی اوپن سورس متبادل فراہم کرنے کے لیے ڈیزائن کیا گیا ہے۔
Soofi کنسورشیم میں KI Bundesverband کے تعاون اور Fraunhofer IAIS، DFKI، TU Darmstadt، ellamind، اور Merantix Momentum جیسے گروپوں کی شرکت کے ساتھ جرمن تحقیق اور صنعت کے شراکت دار شامل ہیں۔
صوفی ٹیم کا کہنا ہے کہ وہ اجازت دینے والی کھلی رسائی کی شرائط کے تحت ماڈل کو جاری کرنے کا ارادہ رکھتی ہے۔
اس میں ماڈل وزن، منتخب درمیانی چوکیاں، تربیت کی تفصیلات، تشخیصی کوڈ، ہائپر پِیرامیٹر، اور ڈیٹا اکاؤنٹنگ شامل ہیں جہاں لائسنسنگ اجازت دیتا ہے۔
ابھی کے لیے، Soofi S نے جرمن زبان کی کارکردگی، انگریزی کی اہلیت، کوڈنگ بینچ مارکس، اور خودمختار بنیادی ڈھانچے پر توجہ کے ساتھ، اوپن AI ماڈل ریس میں ایک اور بڑی یورپی اندراج کا اضافہ کیا ہے۔
جہاں آپ چاہیں تازہ ترین ٹیک خبریں، ٹیلی کام کی بصیرتیں، اور پروڈکٹ لانچ حاصل کریں۔
ProPakistani کو ترجیحی ذرائع میں شامل کریں اور گوگل سرچ اور ٹاپ اسٹوریز میں ہماری مزید کہانیاں دیکھیں۔
شیئرز
