چونکہ انٹرپرائزز اپنے AI سسٹمز کا ازالہ کرتے ہیں، گورننس ایک کلیدی چیلنج بن کر ابھری ہے۔ کچھ دوہری نقطہ نظر اختیار کر رہے ہیں: ایک ماڈل آنے والے سوالات کو ہینڈل کرنے کے لئے، جبکہ دوسرا ماڈل پہلے والے کو پریشانی میں پڑنے سے روکتا ہے۔
یہ ZeroDrift کی بنیاد ہے، ایک نئی AI تعمیل سروس جس نے مَنگَل کو $10 ملین سیڈ راؤنڈ کا اعلان کیا۔ (سرمایہ کاروں میں a16z Speedrun، Reign Ventures، PitchDrive Ventures، اور U&I Ventures، دوسروں کے درمیان شامل ہیں۔) کمپنی مکمل طور پر سسٹم کے دوسرے حصے سے نمٹتی ہے، AI ماڈلز اور اختتامی صارفین کے درمیان بیٹھ کر کسی بھی پیغام کو جھنڈا لگانے اور تبدیل کرنے کے لیے جو تعمیل کا مسئلہ پیش کر سکتا ہے۔
دوسرے AI سسٹمز کی غلطیوں کو درست کرنے کے لیے AI سسٹم بنانا عجیب معلوم ہو سکتا ہے - لیکن ZeroDrift کے اصلاحی نظام کے ان ماڈلز کے مقابلے میں کچھ آرکیٹیکچرل فائدے ہیں جنہیں یہ درست کیا جائے گا۔ اس نظام کو روایتی پروگراموں سے متحرک کیا جاتا ہے جو تعمیل کے معروف معیارات جیسے SOC 2 یا GDPR کا اطلاق کرتے ہیں۔ LLM صرف ایک بار آتا ہے جب ایک پیغام کو جھنڈا لگایا جاتا ہے، اسی پیغام کے ایک مطابقت پذیر ورژن کو دوبارہ لکھنا۔
اروموگن کہتے ہیں، "ہم تعین کے لحاظ سے شناخت کرنے کے قابل ہیں، تمام ریگولیٹڈ ایریاز کون سے ہیں، کون سی خلاف ورزی ہے جسے توڑا جا رہا ہے، اور پھر ہمارے پاس LLMs ہیں جو دوبارہ لکھ سکتے ہیں،" اروموگن کہتے ہیں۔
تنقیدی طور پر، پورے نظام کو روایتی LLM سے کم تاخیر اور زیادہ قابل اعتماد کے ساتھ چلایا جا سکتا ہے۔ یہ OpenAI اور Anthropic جیسی بڑی لیبز پر کمپنی کا بنیادی فائدہ ہے، جو اکثر بنیادی نظام میں پہلے سے موجود ہوتے ہیں۔
سب سے واضح استعمال کا معاملہ AI چیٹ بوٹس کا ہے، جو صارفین کے سامنے پہلے سے تعینات ہیں جہاں بدمعاش جوابات کے سنگین نتائج ہو سکتے ہیں۔ لیکن Aroomoogan مجموعی طور پر قابل شناخت مارکیٹ کو اتنا بڑا دیکھتا ہے، ممکنہ طور پر پھیلے ہوئے AI سے تیار کردہ پیغامات جو کہ انسان کبھی نہیں دیکھتے، صرف خودکار نظاموں کے اندر پیدا ہوتے ہیں۔ اب تک، یہ نسبتاً چھوٹی مارکیٹ ہے - لیکن یہ ایک ایسی ہے جو AI کے پھیلنے کے ساتھ ساتھ بڑھے گی۔
اگر فنڈ اکٹھا کرنا کوئی اشارہ ہے، تو اس پروڈکٹ کی بہت زیادہ مانگ ہے۔ سی ای او کمیش اروموگن کہتے ہیں، "یہ شاید میں نے اپنی زندگی میں سب سے تیزی سے فنڈ ریزنگ کیا ہے،" بیج راؤنڈ کی تشکیل میں اینڈریسن ہورووٹز کی مدد کا سہرا دیتے ہوئے کہتے ہیں۔ "ہم نے تین ہفتوں کے اندر اندر بند کر دیا، اور ہمیں رقم پر 3x سے زیادہ سبسکرائب کیا جائے گا۔"
