گڏيل قومن جي ڪانگريس جي ٻن ميمبرن ٻه طرفي قانون سازي متعارف ڪرائي آهي جيڪا ملڪ جي سڀ کان وڌيڪ طاقتور مصنوعي ذهانت واري نظام جي ڊولپرز کي ”ڪِل سوئچ“ ۾ تعمير ڪرڻ جي ضرورت پوندي، ترقي يافته AI ماڊلز کي سست، معطل يا بند ڪرڻ جي اجازت ڏئي ٿي جيڪڏهن اهي تباهي جو خطرو پيدا ڪن.
تجويز ڪيل AI Kill Switch Act، جيڪو خميس تي ڊيموڪريٽڪ نمائندي ٽيڊ ليو ۽ ريپبلڪن جي نمائندي نٿانيل مورن پاران متعارف ڪرايو ويو، آمريڪي حڪومت کي اختيار ڏيندو ته ترقي يافته AI سسٽم ٺاهيندڙ ڪمپنين کي مداخلت ڪرڻ لاءِ جيڪڏهن انهن جا ماڊل انساني ڪنٽرول کان بچي وڃن يا انساني زندگي، نازڪ انفراسٽرڪچر يا معيشت کي خطرو ڪن.
اها تجويز ڪجهه ڏينهن بعد آئي جڏهن ChatGPT ٺاهيندڙ OpenAI ان ڳالهه کي ظاهر ڪيو ته اهو بيان ڪيو ويو آهي "بي مثال سائبر واقعو"، جنهن ۾ ان جا ٻه سڀ کان وڌيڪ ترقي يافته AI ماڊل هڪ ٽيسٽنگ ماحول کان بچي ويا ۽ اندروني سيڪيورٽي جي تشخيص دوران AI ڊولپمينٽ پليٽ فارم Hugging Face کي هيڪ ڪيو.
ظاهر ڪرڻ تي بحث تيز ٿي ويو آهي ته ڇا وڌندڙ طاقتور AI سسٽم کي مضبوط حفاظت جي ضرورت آهي.
"ڪانگريس کي جلدي ڪم ڪرڻ گهرجي ته جيئن انسانن کي روڪڻ جي قابل ٿي وڃي، ڪابه پرواهه ناهي ته اهي سسٽم ڪيترو طاقتور بڻجي وڃن،" برينڊن اسٽين هاوزر، الائنس فار سيڪيور اي آئي جي سربراهه چيو.
هتي آهي جيڪو اسان ڄاڻون ٿا:
قانون سازي جي ضرورت هوندي ته ڪمپنيون سڀ کان وڌيڪ ترقي يافته AI سسٽم ٺاهي رهيا آهن انهن جي ماڊل کي سست، معطل يا بند ڪرڻ جي ٽيڪنيڪل صلاحيت کي برقرار رکڻ لاء جيڪڏهن ضروري هجي.
اهو ڊپارٽمينٽ آف هوم لينڊ سيڪيورٽي (DHS) کي به اختيار ڏيندو، ڪامرس جي سيڪريٽري ۽ نيشنل انٽيليجنس جي ڊائريڪٽر سان صلاح مشوري سان، ڪمپنين کي حڪم ڏئي ته مداخلت ڪن جيڪڏهن هڪ AI سسٽم داخل ٿئي ٿو جيڪو بل بيان ڪري ٿو ”ڪنٽرول جي نقصان واري صورتحال“.
بل جي مطابق، اهو تڏهن ٿيندو جڏهن هڪ AI ماڊل ڪارناما انجام ڏئي ٿو جيڪي ان جي ڊولپر پاران ارادو نه هئا ۽ تباهي واري نقصان جو خطرو پيدا ڪري ٿو.
پروپوزل هڪ گريجوئيٽ جواب قائم ڪري ٿو، آفيسرن کي ڪنهن به شيء کي حڪم ڏيڻ جي اجازت ڏئي ٿو عارضي طور تي سسٽم جي آپريشن کي سست ڪرڻ لاء ان کي بند ڪرڻ جي ضرورت آهي، خطري جي شدت تي منحصر آهي.
اهو پڻ ڪمپنين کي گهربل AI سان لاڳاپيل واقعن جي حڪومت کي رپورٽ ڪرڻ ۽ ٽيڪنيڪل رڪارڊ کي محفوظ ڪرڻ جي ضرورت آهي ته جيئن تحقيق ڪندڙ جانچ ڪري سگهن ته ڇا غلط ٿيو.
في الحال، ڪيترن ئي معروف AI ڊولپرز رضاڪارانه طور تي نئين ماڊلز بابت معلومات جاري ڪرڻ کان اڳ آمريڪي حڪومتي ادارن سان شيئر ڪن ٿا. تنهن هوندي، ڪمپنين لاءِ ڪا به وفاقي گهرج نه آهي ته هو هڪ ميکانيزم کي برقرار رکي جيڪا هڪ جديد AI سسٽم کي غير فعال ٿيڻ جي اجازت ڏئي ٿي جيڪڏهن اهو غير متوقع طور تي عمل ڪرڻ شروع ڪري.
ليو چيو ته بل AI سسٽم مان شفٽ کي ظاهر ڪري ٿو. "اسان AI کان منتقل ٿي رهيا آهيون جيڪو AI جي سوالن جو جواب ڏئي ٿو جيڪو عمل ڪري ٿو، ڇا اهو مالي ٽرانزيڪشن تي عمل ڪرڻ يا ٽرانسپورٽ سسٽم کي ڪنٽرول ڪرڻ يا سائبر دفاع ۽ جرم ۾ ملوث هجڻ،" هن چيو.
"اهو ضروري آهي ته اهي AI سسٽم کي مارڻ وارا سوئچ آهن ان ڪري اسان هن ٽيڪنالاجي کي تباهي واري نقصان کان بچائي سگهون ٿا."
بل متعارف ڪرايو ويو هو الڳ الڳ ٻه طرفي قانون سازي جنهن جي ضرورت هوندي ته سڀ کان وڌيڪ طاقتور AI ماڊلز جي ڊولپرز کي انهن کي آزاد ٿيڻ کان پهريان آزاد سيڪيورٽي آڊٽ ۾ جمع ڪرايو وڃي. ان تجويز جي تحت، آڊيٽرز کي ڪامرس ڊپارٽمينٽ پاران تصديق ڪيو ويندو، جيڪو پڻ AI سيڪيورٽي جي نگراني لاء نئين آفيس قائم ڪندو.
قانون سازن بل کي انڪشاف ڪيو بل ڏينهن بعد OpenAI ظاهر ڪيو جيڪو ان کي بيان ڪيو ويو آهي "بي مثال سائبر واقعو" جنهن ۾ ان جا ٻه جديد ترين AI ماڊل شامل آهن.
OpenAI جي مطابق، ماڊل هڪ اندروني سائبر سيڪيورٽي جي تشخيص دوران انهن جي جاچ واري ماحول کان ڀڄي ويا جڏهن ڪمپني ٽيسٽ لاء معياري حفاظتي پابنديون هٽائي ڇڏيو. AI ايجنٽن هيگنگ فيس جي سسٽم ۾ ڪمزورين کي دريافت ڪيو، لاگ ان سندون حاصل ڪيون ۽ رازداري بينچ مارڪ ڊيٽا تائين رسائي حاصل ڪرڻ لاءِ AI ڊولپمينٽ پليٽ فارم ۾ هيڪ ڪيو.
OpenAI چيو ته ماڊل "انتهائي حد تائين ويا".
انڪشاف واشنگٽن ۾ ترقي يافته AI ترقي جي مضبوط حڪومتي نگراني لاءِ نئين ڪالن کي زور ڏنو.
Hugging Face چيو ته اهو OpenAI سان گڏيل تحقيق شروع ڪرڻ کان پهريان پنهنجي AI-مدد ڪيل حفاظتي سسٽم کي استعمال ڪندي ڀڃڪڙي کي ڳولي ۽ ان تي مشتمل آهي. ڪمپني شامل ڪئي ته اها "مضبوطي" يقين رکي ٿي ته OpenAI جي حصي تي "ڪوبه بدسلوڪي ارادو" نه هو. آمريڪي سينيٽر مارڪ وارنر، سينيٽ جي انٽيليجنس ڪميٽي تي اعليٰ جمهوريت پسند، چيو ته واقعو اهو ظاهر ڪري ٿو ته طاقتور اي آءِ سسٽم کي سرڪاري سيڪيورٽي ٽيسٽ ڪرڻ کان اڳ ڇو انهن کي عوامي طور تي دستياب ڪيو وڃي.
”اها ئي آهي ڇو ته اسان کي سرڪاري ايجنسين سان محفوظ جانچ جي ضرورت آهي مصروف ۽ پوري عمل ۾ ڏسڻ جي ،“ وارنر هڪ بيان ۾ چيو.
وائيٽ هائوس جي هڪ اهلڪار چيو ته صدر ڊونالڊ ٽرمپ جي ٽيڪنالاجي صلاحڪار مائيڪل ڪرٽسيوس کي بريفنگ ڏني وئي هئي OpenAI جي انڪشاف تي ۽ هو صورتحال جي نگراني ڪري رهيو هو.
