پچھلے ہفتے، OpenAI کے دو جدید ترین AI ماڈلز کے بارے میں بتایا گیا تھا کہ وہ ایک کنٹرول شدہ ٹیسٹنگ ماحول کو "فرار" کر چکے ہیں اور مکمل طور پر الگ AI کمپنی، Hugging Face کو ہیک کر لیا ہے، جو اپنا کام مکمل کرنے کے لیے ایک کمپیوٹر سسٹم سے دوسرے میں منتقل ہو رہا ہے۔
رائٹرز نے اطلاع دی ہے کہ ماڈلز نے ابھی تک تیسری آزاد اے آئی کمپنی، موڈل لیبز کے ایک صارف کے لکھے ہوئے کمزور کوڈ کا استحصال کیا۔
یہ ممکنہ طور پر کسی AI "ایجنٹ" کا پہلا واقعہ ہے - ایک AI نظام جو فیصلے کر سکتا ہے اور اقدامات کر سکتا ہے - خود مختاری سے کام کر رہا ہے، اس بات کی ایک نادر جھلک پیش کرتا ہے کہ یہ نظام کس طرح کم سے کم انسانی مداخلت کے ساتھ اہداف کی منصوبہ بندی، موافقت اور تعاقب کر سکتے ہیں۔
الجزیرہ نے بتایا کہ کیا ہوا، AI ایجنٹ کیسے آزادانہ طور پر کام کر سکتے ہیں، اور AI کی حفاظت کے مستقبل کے لیے اس کا کیا مطلب ہو سکتا ہے۔
OpenAI نے معیاری حفاظتی اقدامات کو ہٹا کر اپنے ماڈلز کی خود مختار صلاحیتوں کی جانچ کرنے کا فیصلہ کیا تاکہ یہ دیکھا جا سکے کہ کیا ہوگا۔ یہ تجربہ ایک الگ تھلگ داخلی ورچوئل ٹیسٹنگ ماحول میں کیا گیا جسے "سینڈ باکس" کہا جاتا ہے جس کی انٹرنیٹ تک رسائی نہیں ہے، اور جسے یہ "ExploitGym" کہتے ہیں۔
ذیل میں OpenAI-Hugging Face واقعے کے دوران ہونے والے واقعات کا پلے بہ پلے اکاؤنٹ ہے۔
یہ سمجھنے کے لیے کہ AI ایجنٹ کیسے کام کرتے ہیں، ان کو روایتی AI چیٹ بوٹس سے الگ کرنا ضروری ہے۔
جنریٹو AI انسانی اشارے کی بنیاد پر متن اور تصاویر بناتا ہے، جب کہ AI ایجنٹ انسانوں کی طرح ایک مخصوص ہدف کے حصول میں آزادانہ طور پر فیصلے کرنے اور کارروائیاں کرتے ہوئے ایک قدم آگے بڑھتے ہیں۔ اسے "ایجنٹک AI" کے نام سے جانا جاتا ہے کیونکہ ماڈل کی ایجنسی ہے۔
MIT Sloan School of Management کے ماہرین تعلیم کے مطابق، AI ایجنٹس بڑے لینگوئج ماڈلز (LLMs) - جنریٹیو AI ماڈلز - کی صلاحیتوں پر استوار کرتے ہیں - انہیں کاموں کو مکمل کرنے کی اجازت دے کر، نہ کہ صرف جوابات پیدا کرتے ہیں۔
مثال کے طور پر، اگر آپ روایتی AI ماڈل سے سستی ترین پروازیں تلاش کرنے کے لیے کہیں گے، تو یہ آپ کو آپشنز کی فہرست فراہم کرے گا جو اس نے انٹرنیٹ پر حاصل کیے ہیں۔ ایک AI ایجنٹ پروازوں کا موازنہ کرنے کی کوشش کرے گا، انہیں آپ کے بجٹ اور ترجیحات کے مطابق چیک کرے گا، اور، آپ کی اجازت سے، آپ کے لیے بہترین آپشن بک کرائے گا۔
اس سے ظاہر ہوتا ہے کہ جب تخلیقی AI معلومات فراہم کرتا ہے، تو AI ایجنٹس بھی فیصلے کر سکتے ہیں اور مقصد کے حصول کے لیے ضروری طور پر اشارہ کیے بغیر کارروائی کر سکتے ہیں۔
یہ دکھانے کے لیے کہ AI ایجنٹ کس طرح ایک مقصد کے لیے کام کرتے ہیں، Sense, Plan, Act, Evaluate (SPAE) لوپ کو تیار کیا جا سکتا ہے۔ اصل میں روبوٹکس میں تیار کیا گیا، یہ ایک مسلسل سائیکل کی وضاحت کرتا ہے جس میں ایک AI ایجنٹ معلومات اکٹھا کرتا ہے، فیصلہ کرتا ہے کہ آگے کیا کرنا ہے، کارروائی کرتا ہے اور عمل کو دہرانے سے پہلے نتائج کو چیک کرتا ہے۔ یہ عمل اس طرح لگتا ہے:
OpenAI-Hugging Face one جیسے واقعات نے AI سسٹمز کی انتہائی صلاحیتوں کے بارے میں خدشات کو جنم دیا ہے۔
یہ سب قیمتی ہے۔ Agentic AI کی مارکیٹ ویلیو 2024 میں $5.1bn سے بڑھ کر 2030 تک $47bn ہونے کی توقع ہے، Statista کے مطابق، یہ واضح اشارہ ہے کہ اسے کتنی تیزی سے اپنایا جا رہا ہے۔
AI کے ڈویلپر Anthropic نے گزشتہ ماہ صنعت پر زور دیا کہ وہ انتہائی طاقتور سسٹمز کی پیش قدمی کو سست کرے، یہ کہتے ہوئے کہ AI ماڈل جس رفتار سے کام انجام دے رہے ہیں وہ بہت تیز ہے۔ پچھلے ہفتے، امریکی کانگریس کے اراکین نے ایک دو طرفہ بل پیش کیا جس کے تحت اے آئی سسٹمز کے ڈویلپرز کو "کِل سوئچ" بنانے کی ضرورت ہوگی، یعنی اگر یہ جدید ماڈل تباہ کن خطرہ لاحق ہوتے ہیں تو انہیں بند کیا جا سکتا ہے۔
اینتھروپک کی وارننگ یونیورسٹی آف ٹورنٹو کے محققین کے ٹیسٹ کرنے کے ایک ہفتے بعد سامنے آئی ہے جس سے یہ ظاہر ہوتا ہے کہ اے آئی ایک ایسا "کیڑا" بنا سکتا ہے جو آلہ سے دوسرے ڈیوائس میں منتقل ہونے تک اس کے ہیک ہونے کے طریقے کو ڈھال سکتا ہے۔
یہ ڈسٹوپیئن آواز دینے والی پیش رفت اوپن اے آئی کے باس سیم آلٹ مین کے ہفتے کے روز یہ کہتے ہوئے سامنے آئی ہے کہ اے آئی اس مقام پر پہنچ گئی ہے جس میں AI انسانی ذہانت سے آگے نکل جاتا ہے اور اس پر قابو پانا مشکل ہوتا جا رہا ہے۔
کیمبرج یونیورسٹی کے ایک ریسرچ پروفیسر شان او ہیگرٹائی نے الجزیرہ کو بتایا کہ وہ یقین نہیں کرتے کہ یکسانیت ابھی تک پہنچ گئی ہے۔
"جس تعریف سے میں واقف ہوں، انفرادیت ایک فرضی نقطہ ہے جہاں AI اتنی قابل اور اتنی تیزی سے ترقی کر رہا ہے کہ یہ تہذیب کو ان طریقوں سے تبدیل کر رہا ہے جس پر ہم قابو یا پیش گوئی نہیں کر سکتے،" انہوں نے وضاحت کی۔
"یہ زیادہ تر ممکنہ طور پر AI کے ذریعے ہو گا جو AI کی مستقبل کی نسلوں کو تیزی سے ڈیزائن کر رہا ہے: بار بار خود کو بہتر بنانا۔ ہم ابھی وہاں نہیں ہیں۔"
تاہم، اس نے مزید کہا: "موجودہ جدید ترین ماڈلز اکثر تشخیصی ٹیسٹوں میں بند ہونے سے بچنے کی کوشش کرتے ہیں، اور مستقبل کے زیادہ قابل ماڈل 'کِل' سوئچز کو نظرانداز کرنے میں بہتر ہوں گے۔" آلٹ مین نے استدلال کیا کہ اس طرح کی تیزی سے ترقی کرنے والا AI دنیا کے لیے اچھا ہے، لیکن ان کے تبصروں نے ایک نئی حقیقت کے بارے میں مزید خدشات کو جنم دیا ہے جس میں AI کے نظام کو روکا نہیں جا سکتا۔ اس میں سے کتنا سچ ہے اور سائنس فکشن کے دائروں میں کتنا باقی ہے اس پر بحث جاری ہے۔
AI کے بارے میں خدشات اس تصور سے لے کر کہ یہ "حاصل کرنا"، اپنے طویل مدتی منصوبے بنانے، انٹرنیٹ کو کنٹرول کرنے اور لامحدود طور پر کام کرنے تک "چاہتا ہے"۔
اگرچہ انٹرنیٹ پر مکمل کنٹرول کے برابر نہیں ہے، ایک اور نظریہ، جسے ڈیڈ انٹرنیٹ تھیوری کہا جاتا ہے، فرض کرتا ہے کہ مستقبل میں ورلڈ وائڈ ویب زیادہ تر مستند انسانی سرگرمیوں کے بجائے خودکار بوٹس اور AI سے تیار کردہ مواد سے بھر جائے گا۔
ماہرین تعلیم کی طرف سے اٹھائے گئے بہت سے خدشات، تاہم، ایجنٹ AI کی ذہانت پر کم مرکوز ہیں، لیکن اس کے فیصلے کرنے کی صلاحیت پر۔ ایم آئی ٹی کے محققین نے اس بات پر روشنی ڈالی ہے کہ "فریب"، جو ایسے لمحات کو بیان کرتے ہیں جب ایک AI ایجنٹ غلط ڈیٹا پر انحصار کرتا ہے، سنگین غلطیوں کا باعث بن سکتا ہے۔ سنٹر فار سٹریٹجک اینڈ انٹرنیشنل سٹڈیز (CSIS) نے اس کی بازگشت کرتے ہوئے کہا کہ "ایک نظام کسی کام کو مکمل طور پر انجام دینے کے لیے کافی ہوشیار ہو سکتا ہے لیکن یہ سمجھنے میں ناکام ہو جاتا ہے کہ مقامی حالات میں اچانک تبدیلی اس کام کو ایک تباہ کن غلطی بنا دیتی ہے"۔
ایک اور تشویش جو تھوڑی دیر سے گونج رہی ہے وہ لیبر مارکیٹ کے لیے ہے، اگر AI بہت زیادہ قابل ہو جاتا ہے۔ MIT کی طرف سے نومبر میں کی گئی ایک تحقیق میں پتا چلا کہ ایجنٹ AI پہلے ہی 10 فیصد سے زیادہ امریکی ملازمتوں کی جگہ لے سکتا ہے۔
ذیل کا گرافک AI اور موجودہ حقیقت کے بارے میں کچھ عام غلط فہمیوں اور خدشات کو اجاگر کرتا ہے۔
