جیسے جیسے AI ایجنٹس زیادہ قابل ہو رہے ہیں، کاروباری اداروں کو ایپلی کیشنز، ورک فلو اور پروڈکٹس میں کام کرنے کے لیے دوڑ لگانا ایک نئے چیلنج کا سامنا ہے: اس بات کو یقینی بنانا کہ ایجنٹ وہی کرے جو اسے مختلف ماحول میں تعینات ہونے پر کرنا چاہیے۔
مائیکروسافٹ اس مسئلے کو ایک نئے اوپن سورس معیار کے ساتھ حل کرنے کی کوشش کر رہا ہے جسے Agent Control Specification یا ACS کہا جاتا ہے، جس کا مقصد ڈویلپرز کو AI ایجنٹوں کو کیا کرنے کی اجازت ہے اس کو کنٹرول کرنے کے لیے ایک زیادہ مستقل اور دانے دار طریقہ فراہم کرنا ہے۔
تفصیلات بنیادی طور پر ڈویلپر، تعمیل، اور سیکورٹی ٹیموں کو ایجنٹوں کی پِیروی کرنے کے لیے اپنی پالیسیوں کی وضاحت کرنے دیتی ہے۔ قواعد اس بات کی وضاحت کر سکتے ہیں کہ ایجنٹ کیا کر سکتا ہے، اسے کیا نہیں کرنا چاہیے، جب انسان کو کسی کارروائی کی منظوری دینی چاہیے، اور بعد میں جائزہ لینے کے لیے کون سے ثبوت کو لاگ کرنا چاہیے۔ ان پالیسی فائلوں کو کئی "انٹرسیپشن پوائنٹس" پر چیک کیا جاتا ہے جب ایجنٹ کسی کام کو انجام دینے سے دور ہوتا ہے تاکہ یہ یقینی بنایا جا سکے کہ یہ گارڈریلز کے اندر رہتا ہے۔
قیاس آرائی اس وقت سامنے آتی ہے جب ڈویلپر اپنے AI کو دیکھتے اور کیا کرتے ہیں کو کنٹرول کرنے کے طریقوں کو بہتر بنا رہے ہیں، خاص طور پر ٹول کے غلط استعمال، یا غیر ارادی کارروائیوں کی وجہ سے غلط ہونے والے AI ورک فلو پر توجہ مرکوز کرنے والی گفتگو جس کے نتیجے میں جھڑپوں میں ناکامی ہوتی ہے۔
آج، ڈویلپرز سسٹم پرامپٹ میں ہدایات کی وضاحت کر سکتے ہیں، ایپلیکیشن کوڈ میں حسب ضرورت چیک شامل کر سکتے ہیں، یا دشوار گزار ان پٹ اور آؤٹ پٹس کو پکڑنے کے لیے درجہ بندی کا استعمال کر سکتے ہیں۔ یہ نقطہ نظر کام کرتے ہیں، لیکن وہ اکثر کمپنیوں کو بکھرے ہوئے کنٹرول کے ساتھ چھوڑ دیتے ہیں جن کا آڈٹ کرنا مشکل ہوتا ہے اور مختلف فریم ورک، انٹرفیس اور سسٹمز میں دوبارہ استعمال کرنا مشکل ہوتا ہے۔
ACS کا مقصد ان کنٹرولز کو ایک مشترکہ گورننس پرت میں ضم کرنا ہے۔ مائیکروسافٹ کا کہنا ہے کہ تصریح کا استعمال اس بات کی جانچ کرنے کے لیے کیا جا سکتا ہے کہ آیا کوئی ایجنٹ اپنے ورک فلو میں متعدد پوائنٹس پر گارڈریلز سے چپک رہا ہے - اس سے پہلے کہ وہ ان پٹ وصول کرے، اس سے پہلے کہ وہ کسی ٹول کو کال کرے، کسی ٹول کے نتیجہ واپس آنے کے بعد، اور صارف کو حتمی جواب بھیجے جانے سے پہلے۔ پالیسی کسی کارروائی کی اجازت دے سکتی ہے، اسے مسدود کر سکتی ہے، حساس معلومات کو رد کر سکتی ہے، یا کسی شخص سے اسے منظور کرنے کے لیے بھی کہہ سکتی ہے۔
ڈویلپرز معلومات کی درجہ بندی کرنے، نتائج کی پیشن گوئی کرنے، یا ایجنٹ کو کس طرح جواب دینا چاہیے اس کا تعین کرنے کے لیے ان پٹ اور آؤٹ پٹ کے لیے درجہ بندی بھی داخل کر سکتے ہیں۔ پالیسیوں کے لیے "جج" کے طور پر کام کرنے کے اشارے کے ساتھ LLMs شامل کریں؛ اور ٹول کالز، ٹول سلیکشن، ان پٹ کی درستگی، آؤٹ پٹ کے استعمال اور جوابات کی جانچ کے لیے منطق۔
اور چونکہ یہ پالیسیاں سنگل فائلوں کے طور پر لکھی جا سکتی ہیں، ان کو ایجنٹوں کے ساتھ بنڈل کیا جا سکتا ہے، جس سے سیکیورٹی پالیسی مختلف فریم ورک اور ماحول میں ایجنٹ کی پِیروی کر سکتی ہے۔
ACS LangChain، OpenAI ایجنٹس SDK، Anthropic ایجنٹس SDK، AutoGen، CrewAI، Semantic Kernel، Microsoft.Extensions.AI، MCP ٹولز، اور مزید کے لیے پلگ انز کے ساتھ SDK کے بطور بھیج رہا ہے۔
