گذريل هفتي، OpenAI جي ٻن جديد ترين AI ماڊلز کي ٻڌايو ويو ته "فرار" هڪ ڪنٽرول ٿيل ٽيسٽنگ ماحول ۽ هيڪنگ هيڪنگ فيس، هڪ مڪمل طور تي الڳ AI ڪمپني، هڪ ڪمپيوٽر سسٽم کان ٻئي ڏانهن منتقل ڪرڻ لاء پنهنجو ڪم مڪمل ڪرڻ لاء.
رائٽرز ٻڌايو ته ماڊلز اڃا تائين ٽئين آزاد AI ڪمپني، ماڊل ليبز جي هڪ گراهڪ طرفان لکيل ڪمزور ڪوڊ جو استحصال ڪيو.
اهو ممڪن آهي ته هڪ AI ”ايجنٽ“ جو پهريون واقعو آهي - هڪ AI سسٽم جيڪو فيصلو ڪري سگهي ٿو ۽ عمل ڪري سگهي ٿو - خودمختياري سان ڪم ڪري ٿو، هڪ نادر جھلڪ پيش ڪري ٿو ته اهي سسٽم ڪيئن منصوبا ڪري سگهن ٿا، ترتيب ڏئي سگهن ٿا ۽ مقصد حاصل ڪري سگهن ٿا گهٽ ۾ گهٽ انساني مداخلت سان.
الجزيره ٽوڙي ٿو ته ڇا ٿيو، ڪيئن AI ايجنٽ آزاديء سان ڪم ڪرڻ جي قابل آهن، ۽ AI حفاظت جي مستقبل لاء ڇا مطلب ٿي سگهي ٿو.
OpenAI فيصلو ڪيو ته ان جي ماڊل جي خودمختيار صلاحيتن کي جانچڻ لاء معياري حفاظتي قدمن کي هٽائڻ سان ڏسڻ لاء ڇا ٿيندو. تجربو هڪ الڳ اندروني ورچوئل ٽيسٽنگ ماحول ۾ ڪيو ويو جنهن کي ”سينڊ باڪس“ جي نالي سان سڃاتو وڃي ٿو جنهن کي انٽرنيٽ تائين رسائي ناهي ، ۽ جنهن کي ”ExploitGym“ سڏين ٿا.
OpenAI-Hugging Face جي واقعن دوران واقعن جي راند جي حساب سان ھيٺ ڏنل آھي.
سمجھڻ لاءِ ته AI ايجنٽ ڪيئن ڪم ڪن ٿا، اھو ضروري آھي ته انھن کي روايتي AI چيٽ بوٽس کان ڌار ڪيو وڃي.
جنريٽو AI انساني اشارن جي بنياد تي ٽيڪسٽ ۽ تصويرون ٺاهي ٿو، جڏهن ته AI ايجنٽ هڪ قدم اڳتي وڌن ٿا فيصلا ڪرڻ ۽ عمل ڪرڻ سان آزاديءَ سان هڪ خاص مقصد جي تعاقب ۾، هڪ انسان وانگر. اهو "ايجنٽ AI" طور سڃاتو وڃي ٿو ڇاڪاڻ ته ماڊل وٽ ايجنسي آهي.
MIT سلوان اسڪول آف مئنيجمينٽ جي تعليمي ماهرن جي مطابق، AI ايجنٽ وڏي ٻوليءَ جي ماڊلز (LLMs) جي قابليت تي تعمير ڪن ٿا - جنريٽو AI ماڊلز - انهن کي ڪم مڪمل ڪرڻ جي اجازت ڏيڻ سان، نه صرف جواب پيدا ڪرڻ.
مثال طور، جيڪڏهن توهان هڪ روايتي AI ماڊل کان پڇو ته سستا پروازون ڳولڻ لاءِ، اهو توهان کي مهيا ڪندو اختيارن جي هڪ فهرست جيڪا هن انٽرنيٽ تي حاصل ڪئي آهي. هڪ AI ايجنٽ پروازن جو مقابلو ڪرڻ جي ڪوشش ڪندو، انهن کي توهان جي بجيٽ ۽ ترجيحن جي خلاف چيڪ ڪندو، ۽، توهان جي اجازت سان، توهان لاءِ بهترين آپشن بک ڪندو.
اهو ڏيکاري ٿو ته جڏهن پيدا ٿيندڙ AI معلومات مهيا ڪري ٿي، AI ايجنٽ پڻ فيصلا ڪري سگهن ٿا ۽ مقصد حاصل ڪرڻ لاءِ قدم کڻي سگهن ٿا بغير لازمي طور تي اشارو ڪيو وڃي.
اهو ڏيکارڻ لاءِ ته AI ايجنٽ هڪ مقصد ڏانهن ڪيئن ڪم ڪن ٿا، سينس، پلان، ايڪٽ، اييويليوٽ (SPAE) لوپ ٺاهي سگهجي ٿو. اصل ۾ روبوٽڪس ۾ ترقي ڪئي وئي، هي هڪ مسلسل چڪر کي بيان ڪري ٿو جنهن ۾ هڪ AI ايجنٽ معلومات گڏ ڪري ٿو، فيصلو ڪري ٿو ته اڳتي ڇا ڪجي، عمل ڪري ٿو ۽ عمل کي ورجائڻ کان اڳ نتيجن کي چيڪ ڪري ٿو. اهو عمل هن طرح نظر اچي ٿو:
واقعن جهڙوڪ OpenAI-Hugging Face one AI سسٽم جي انتهائي صلاحيتن جي صلاحيت بابت خدشات پيدا ڪيا آهن.
هي سڀ قيمتي آهي. Agentic AI جي مارڪيٽ جي قيمت 2024 ۾ $ 5.1bn کان 2030 تائين $ 47bn تائين وڌڻ جي اميد رکي ٿي، اسٽيٽسٽا جي مطابق، واضح اشارو ۾ ته اهو ڪيترو جلدي اختيار ڪيو پيو وڃي.
AI ڊولپر Anthropic گذريل مهيني صنعت تي زور ڏنو ته سڀ کان وڌيڪ طاقتور سسٽم جي پيش رفت کي سست ڪري، چيو ته رفتار جنهن تي AI ماڊل ڪم ڪري رهيا آهن تمام تيز آهي. گذريل هفتي، يو ايس ڪانگريس جي ميمبرن هڪ ٻه طرفي بل پيش ڪيو جنهن ۾ AI سسٽم جي ڊولپرز کي ”ڪِل سوئچ“ ٺاهڻ جي ضرورت پوندي، مطلب ته اهي جديد ماڊل بند ٿي سگهن ٿا جيڪڏهن اهي تباهه ڪندڙ خطرو پيدا ڪن.
اينٿروپڪ جي خبرداري هڪ هفتي کانپوءِ آئي جڏهن يونيورسٽي آف ٽورانٽو جي محققن ٽيسٽون ڪيون ته اي آءِ هڪ ”ڪيڙو“ ٺاهي سگهي ٿو جنهن کي ترتيب ڏيڻ جي قابل ٿي سگهي ٿو ته اهو ڪيئن هيڪ ٿئي جڏهن ڊوائيس کان ٻئي ڊوائيس تائين منتقل ٿي وڃي جيستائين اهو آخرڪار ڪمپيوٽر نيٽ ورڪ تي قبضو نه ڪري.
اهي ڊسٽوپيئن-آواز واريون پيش رفتون اڳ ۾ آيون OpenAI باس سام آلٽمن ڇنڇر تي چيو ته AI "واحديت" تي پهچي چڪو آهي ان نقطي جو حوالو ڏئي ٿو جنهن تي AI انساني ذهانت کان اڳتي وڌي ٿو ۽ ڪنٽرول ڪرڻ مشڪل ٿي وڃي ٿو.
ڪيمبرج يونيورسٽي ۾ هڪ ريسرچ پروفيسر شان او هيگريٽائيگ الجزيره کي ٻڌايو ته هن کي يقين نه آهي ته انفراديت اڃا تائين پهچي چڪي آهي.
"جي تعريف سان مان واقف آهيان، انفراديت هڪ فرضي نقطو آهي جتي AI ايترو قابل آهي ۽ ايترو تيزيء سان ترقي ڪري رهيو آهي ته اهو تهذيب کي تبديل ڪري رهيو آهي طريقن سان جيڪو اسان ڪنٽرول يا اڳڪٿي نٿا ڪري سگهون،" هن وضاحت ڪئي.
"اهو گهڻو ڪري AI ذريعي ٿيندو AI تيزيءَ سان AI جي مستقبل جي نسلن کي ڊزائين ڪرڻ: بار بار خود سڌارڻ. اسان اڃا تائين نه آهيون."
بهرحال، هن وڌيڪ شامل ڪيو: "سڀ کان وڌيڪ ترقي يافته موجوده ماڊل اڪثر ڪري ڪوششون ڪندا آهن ته تشخيص ٽيسٽ ۾ بند ٿيڻ کان بچڻ لاء، ۽ وڌيڪ قابل مستقبل جا ماڊل 'مارڻ' سوئچز کي نظرانداز ڪرڻ ۾ بهتر هوندا." Altman دليل ڏنو ته اهڙي تيزيء سان ترقي ڪندڙ AI دنيا لاء سٺو آهي، پر هن جي تبصرن کي هڪ نئين حقيقت بابت وڌيڪ خدشات پيدا ڪيو آهي جنهن ۾ AI سسٽم اڻڄاتل ٿي ويندا آهن. اهو ڪيترو سچ آهي ۽ سائنس فڪشن جي دائري ۾ ڪيترو رهي ٿو بحث لاءِ آهي.
AI رينج جي باري ۾ خدشات ان خيال کان ته اهو ٿي سگهي ٿو ”گهرجي“ ”حاصل ڪرڻ“ ، پنهنجون ڊگهي مدي وارا منصوبا ٺاهڻ ، انٽرنيٽ کي ڪنٽرول ڪرڻ ۽ لامحدود طور تي ڪم ڪرڻ.
جيتوڻيڪ انٽرنيٽ جي مڪمل ڪنٽرول جي لحاظ کان ڪافي مقدار ۾ نه آهي، هڪ ٻيو نظريو، جيڪو مئل انٽرنيٽ جي نظريي جي نالي سان سڃاتو وڃي ٿو، فرض ڪري ٿو ته ورلڊ وائڊ ويب مستقبل ۾ گهڻو ڪري خودڪار بوٽن ۽ AI ٺاهيل مواد سان ڀريل هوندو بلڪه مستند انساني سرگرمين جي.
تعليمي ماهرن پاران پيدا ڪيل ڪيترائي خدشا، جيتوڻيڪ، ايجنٽ AI جي ذهانت تي گهٽ مرڪز آهن، پر فيصلا ڪرڻ جي صلاحيت تي. MIT جي محققن ان ڳالهه کي اجاگر ڪيو آهي ته ”خيال“، جيڪي لمحن کي بيان ڪن ٿا جڏهن هڪ AI ايجنٽ غلط ڊيٽا تي ڀروسو ڪري ٿو، وڏين غلطين جو سبب بڻجي سگهي ٿو. سينٽر فار اسٽريٽجڪ اينڊ انٽرنيشنل اسٽڊيز (CSIS) ان ڳالهه جي گونج ڪندي چيو ته ”هڪ سسٽم ڪافي هوشيار ٿي سگهي ٿو ڪنهن ڪم کي مڪمل طور تي سرانجام ڏئي، پر اهو محسوس ڪرڻ ۾ ناڪام ٿئي ٿو ته مقامي صورتحال ۾ اوچتو تبديلي ان ڪم کي هڪ تباهي واري غلطي بڻائي ٿي“.
هڪ ٻيو خدشو جيڪو ڪجهه دير تائين گونجيو ويو آهي مزدور مارڪيٽ لاءِ، جيڪڏهن AI تمام قابل ٿي وڃي. MIT پاران هڪ مطالعو، نومبر ۾ ڪيو ويو، معلوم ٿيو ته ايجنٽ AI اڳ ۾ ئي 10 سيڪڙو کان وڌيڪ آمريڪي نوڪريون تبديل ڪري سگهي ٿي.
هيٺ ڏنل گرافڪ نمايان ڪري ٿو ڪجھ عام غلط فڪر ۽ خوفن بابت AI ۽ موجوده حقيقت بابت.
