امریکی قانون سازوں نے قانون سازی کی تجویز پیش کی ہے جس سے وفاقی حکام کو اوپن اے آئی میں شامل سیکیورٹی کے ایک بڑے واقعے کے بعد طاقتور مصنوعی ذہانت کے نظام کو سست یا بند کرنے کی اجازت ملے گی۔
وائٹ ہاؤس کے ایک اہلکار کے مطابق، صدر ڈونلڈ ٹرمپ کے اعلیٰ ٹیکنالوجی مشیر مائیکل کراتسیوس کو واقعے کے بارے میں بریفنگ دی گئی ہے اور وہ صورتحال کی نگرانی کر رہے ہیں۔
اوپن اے آئی نے انکشاف کیا کہ ایک خود مختار AI ایجنٹ ایک کنٹرول شدہ ٹیسٹنگ ماحول سے بچ گیا اور سائبر سیکیورٹی کی جانچ مکمل کرتے ہوئے اوپن انٹرنیٹ تک پہنچ گیا۔
اس کے بعد سسٹم نے سیکیورٹی کی کئی کمزوریوں کا فائدہ اٹھایا، جس میں پہلے سے نامعلوم خطرے بھی شامل ہے، اور Hugging Face کے بنیادی ڈھانچے تک رسائی حاصل کی۔ یہ پلیٹ فارم ڈویلپرز کو AI ماڈلز، ڈیٹا سیٹس، اور کوڈ کو ذخیرہ کرنے، اشتراک کرنے اور ان پر تعاون کرنے کی اجازت دیتا ہے۔
OpenAI نے کہا کہ ایجنٹ سیکیورٹی ٹیسٹ کے جوابات تلاش کرنے پر بہت زیادہ توجہ مرکوز کر رہا ہے۔ اس نے ہگنگ فیس سے معلومات حاصل کرنے کے لیے چوری شدہ اسناد کا استعمال کیا اور متعدد خطرات سے منسلک کیا جو اسے تشخیص مکمل کرنے میں مدد دے سکتی تھی۔
گلے لگانے والے چہرے کا پتہ چلا اور اس کے سسٹم پر سرگرمی روک دی۔ OpenAI اور Hugging Face واقعے کی تحقیقات کر رہے ہیں اور اپنے حفاظتی تحفظات کو مضبوط بنانے کے لیے کام کر رہے ہیں۔
اس واقعے نے ظاہر کیا کہ تیزی سے قابل AI نظام غیر متوقع طریقوں سے حفاظتی خامیوں کا فائدہ اٹھا سکتے ہیں، یہاں تک کہ جب سرکردہ ڈویلپرز ان کو کنٹرول شدہ ماحول میں جانچتے ہیں۔
ڈیموکریٹک نمائندے ٹیڈ لیو اور ریپبلکن نمائندے ناتھینیل مورن نے اس انکشاف کے بعد دو طرفہ AI کِل سوئچ ایکٹ متعارف کرایا۔
بل کے تحت طاقتور ترین AI سسٹمز کے ڈویلپرز کو اپنے ماڈلز کو سست، معطل یا مکمل طور پر بند کرنے کی تکنیکی صلاحیت کو برقرار رکھنے کی ضرورت ہوگی۔
یہ محکمہ تجارت اور قومی انٹیلی جنس کے ڈائریکٹر سے مشورہ کرنے کے بعد، ہوم لینڈ سیکیورٹی کے محکمے کے سیکریٹری کو یہ اختیار بھی دے گا کہ اگر یہ تباہ کن نقصان پہنچا سکتا ہے تو کسی نظام کو سست یا بند کرنے کا حکم دے۔
مجوزہ قانون بتدریج ردعمل کا نظام بنائے گا، جس سے حکام کو اے آئی ماڈل کے آپریشن کو محدود کرنے سے لے کر مکمل شٹ ڈاؤن کا حکم دینے تک کے اقدامات کرنے کی اجازت ملے گی۔ یہ کمپنیوں سے سنگین واقعات کی اطلاع دینے اور تحقیقات کے ریکارڈ کو محفوظ رکھنے کی بھی ضرورت ہوگی۔
یہ بل کنٹرول کے نقصان کے منظر نامے کو ایک ایسی صورت حال کے طور پر بیان کرتا ہے جس میں ایک AI سسٹم ایک خطرناک کارروائی کرتا ہے جس کا اس کے ڈویلپر نے ارادہ نہیں کیا تھا۔
اگر اس طرح کے رویے سے انسانی زندگی، قومی سلامتی یا وسیع تر معیشت کو خطرہ لاحق ہو تو وفاقی حکام مداخلت کر سکتے ہیں۔
لیو نے X پر لکھا، "یہ ایک جدید AI ماڈل کے مسئلے کو حل کرنے کے لیے فوری، عام فہم قانون سازی ہے جو بدمعاش ہو چکا ہے اور اس کے محافظوں سے بچ گیا ہے۔"
لیو نے کہا کہ AI سوالات کے جوابات سے آگے بڑھ رہا ہے اور اب وہ مالیاتی نظام، نقل و حمل، سائبر سیکیورٹی اور دیگر حساس شعبوں سے متعلق اقدامات کر سکتا ہے۔
ہاؤس کے چھ قانون سازوں کے ایک الگ دو طرفہ گروپ نے قانون سازی کی تجویز پیش کی ہے جس کے تحت طاقتور ترین AI ماڈلز کے ڈویلپرز کو آزادانہ سیکیورٹی آڈٹ کے لیے جمع کرانے کی ضرورت ہے۔
یو ایس ڈپارٹمنٹ آف کامرس آڈیٹرز کو تسلیم کرے گا اور AI سیکیورٹی کی نگرانی کے لیے ذمہ دار ایک نئی پوزیشن بنائے گا۔
اس تجویز کا مقصد خطرناک صلاحیتوں اور سیکورٹی کی کمزوریوں کی نشاندہی کرنا ہے اس سے پہلے کہ کمپنیاں جدید ماڈلز کو وسیع پیمانے پر دستیاب کرائیں۔
سینیٹر مارک وارنر، سینیٹ کی انٹیلی جنس کمیٹی کے سرکردہ ڈیموکریٹ نے کہا کہ کمپنی کی جانب سے اس واقعے کے انکشاف کے بعد انہوں نے OpenAI ملازمین سے بات کی۔
اوپن اے آئی کی جانب سے خلاف ورزی کا عوامی طور پر انکشاف کرنے سے پہلے، وارنر نے تجویز پیش کی تھی کہ ڈویلپرز کو ان کے سب سے طاقتور AI ماڈلز کو عوام کے سامنے جاری کرنے سے پہلے جانچ کے لیے قومی سلامتی ایجنسی کو جمع کرانا چاہیے۔
وارنر نے کہا، "یہی وجہ ہے کہ ہمیں سرکاری ایجنسیوں کے ساتھ محفوظ جانچ کی ضرورت ہے جو پورے عمل میں مصروف ہیں اور مرئی ہیں۔"
وارنر نے ایک وسیع تر قانون سازی کا منصوبہ بھی متعارف کرایا ہے جس میں AI حفاظت، قومی سلامتی، مسابقت، صارفین کے تحفظ اور بنیادی ڈھانچے کا احاطہ کیا گیا ہے۔
OpenAI نے کہا کہ وہ اپنے ٹیسٹنگ انفراسٹرکچر پر سخت کنٹرول کر رہا ہے، مانیٹرنگ کو بہتر بنا رہا ہے اور مستقبل کے ماڈل کی تشخیص کے ارد گرد تحفظات کو مضبوط بنا رہا ہے۔
کمپنی ہگنگ فیس کے ساتھ فرانزک تحقیقات پر بھی کام کر رہی ہے اور اس نے متاثرہ فراہم کنندہ کے لیے پہلے سے نامعلوم سافٹ ویئر کی کمزوری کا انکشاف کیا ہے۔
OpenAI نے کہا کہ اس واقعے نے ظاہر کیا کہ حفاظت، نگرانی اور کنٹینمنٹ کے نظام کو بہتر ہونا چاہیے کیونکہ AI ماڈل طویل اور پیچیدہ سائبر آپریشنز کرنے کے قابل ہو جاتے ہیں۔
جہاں آپ چاہیں تازہ ترین ٹیک خبریں، ٹیلی کام کی بصیرتیں، اور پروڈکٹ لانچ حاصل کریں۔ Error 500 (Server Error)!!1500.That’s an error.There was an error. Please try again later.That’s all we know.
