ریاستہائے متحدہ کانگریس کے دو ممبران نے دو طرفہ قانون سازی متعارف کرائی ہے جس کے تحت ملک کے سب سے طاقتور مصنوعی ذہانت کے نظام کے ڈویلپرز کو "کِل سوئچ" میں تعمیر کرنے کی ضرورت ہوگی، جس سے ایڈوانسڈ اے آئی ماڈلز کو سست، معطل یا بند کرنے کی اجازت دی جائے گی اگر وہ تباہ کن خطرہ لاحق ہوں۔
مجوزہ اے آئی کِل سوئچ ایکٹ، جو جُمِرات کو ڈیموکریٹک نمائندے ٹیڈ لیو اور ریپبلکن نمائندے نتھینیل مورن نے متعارف کرایا، امریکی حکومت کو یہ اختیار دے گا کہ وہ جدید ترین AI سسٹم تیار کرنے والی کمپنیوں کو مداخلت کرنے کا حکم دے اگر ان کے ماڈل انسانی کنٹرول سے بچ جاتے ہیں یا انسانی زندگی، اہم انفراسٹرکچر یا معیشت کو خطرہ لاحق ہیں۔
یہ تجویز ChatGPT بنانے والی کمپنی OpenAI کے اس انکشاف کے چند دن بعد سامنے آئی ہے جسے اس نے "بے مثال سائبر واقعہ" کے طور پر بیان کیا، جس میں اس کے دو جدید ترین AI ماڈلز آزمائشی ماحول سے بچ گئے اور اندرونی سیکیورٹی کی جانچ کے دوران AI ڈویلپمنٹ پلیٹ فارم Hugging Face کو ہیک کیا۔
اس انکشاف نے اس بات پر بحث تیز کر دی ہے کہ آیا تیزی سے طاقتور AI سسٹمز کو مضبوط حفاظتی اقدامات کی ضرورت ہے۔
الائنس فار سیکیور اے آئی کے سربراہ برینڈن اسٹین ہاوزر نے کہا، "کانگریس کو اس بات کو یقینی بنانے کے لیے تیزی سے کام کرنا چاہیے کہ انسانوں کو روکنے کے قابل رہیں، چاہے یہ نظام کتنے ہی طاقتور کیوں نہ ہوں۔"
یہاں ہم کیا جانتے ہیں:
قانون سازی کے تحت جدید ترین AI سسٹم تیار کرنے والی کمپنیوں سے ضرورت پڑنے پر اپنے ماڈلز کو سست، معطل یا بند کرنے کی تکنیکی صلاحیت کو برقرار رکھنے کی ضرورت ہوگی۔
یہ سکریٹری آف کامرس اور نیشنل انٹیلی جنس کے ڈائریکٹر کے ساتھ مشاورت سے محکمہ ہوم لینڈ سیکیورٹی (DHS) کو یہ اختیار بھی دے گا کہ اگر کوئی AI سسٹم اس میں داخل ہوتا ہے جسے بل "کنٹرول کے نقصان" کے طور پر بیان کرتا ہے تو کمپنیوں کو مداخلت کرنے کا حکم دے۔
بل کے مطابق، ایسا اس وقت ہوگا جب ایک AI ماڈل ایسی حرکتیں کرتا ہے جو اس کے ڈویلپر کے ذریعے نہیں کیے گئے تھے اور تباہ کن نقصان کا خطرہ پیدا ہوتا ہے۔
تجویز ایک گریجویٹ ردعمل قائم کرتی ہے، جس سے حکام خطرے کی شدت کے لحاظ سے، سسٹم کے آپریشن کو عارضی طور پر سست کرنے سے لے کر اسے بند کرنے کی ضرورت کے لیے کچھ بھی آرڈر کرنے کی اجازت دیتا ہے۔
اس میں کمپنیوں سے حکومت کو AI سے متعلق اہم واقعات کی اطلاع دینے اور تکنیکی ریکارڈ کو محفوظ رکھنے کی ضرورت ہوگی تاکہ تفتیش کار اس بات کا جائزہ لے سکیں کہ کیا غلط ہوا ہے۔
فی الحال، بہت سے سرکردہ AI ڈویلپرز رضاکارانہ طور پر نئے ماڈلز کے بارے میں معلومات کو ریلیز سے پہلے امریکی حکومتی ایجنسیوں کے ساتھ شیئر کرتے ہیں۔ تاہم، کمپنیوں کے لیے کوئی ایسا طریقہ کار برقرار رکھنے کی کوئی وفاقی ضرورت نہیں ہے جو ایک جدید ترین AI سسٹم کو غیر متوقع طور پر برتاؤ کرنے لگے تو اسے غیر فعال کر دیا جائے۔
لیو نے کہا کہ یہ بل AI سسٹمز سے تبدیلی کی عکاسی کرتا ہے۔ انہوں نے کہا، "ہم AI سے آگے بڑھ رہے ہیں جو AI کے سوالات کے جوابات دیتا ہے جو کارروائیاں کرتے ہیں، چاہے وہ مالی لین دین کو انجام دینا ہو یا نقل و حمل کے نظام کو کنٹرول کرنا ہو یا سائبر دفاع اور جرم میں ملوث ہو،" انہوں نے کہا۔
"یہ ضروری ہے کہ ان AI سسٹمز میں سوئچز ہوں تاکہ ہم اس ٹیکنالوجی کو تباہ کن نقصان پہنچانے سے روک سکیں۔"
یہ بل الگ الگ دو طرفہ قانون سازی کے ساتھ متعارف کرایا گیا تھا جس کے تحت سب سے زیادہ طاقتور AI ماڈلز کے ڈویلپرز کو ان کے جاری ہونے سے پہلے انہیں آزاد سیکیورٹی آڈٹ میں جمع کروانے کی ضرورت ہوگی۔ اس تجویز کے تحت، آڈیٹرز کو محکمہ تجارت کے ذریعے تسلیم کیا جائے گا، جو AI سیکورٹی کی نگرانی کے لیے ایک نیا دفتر بھی قائم کرے گا۔
قانون سازوں نے اس بل کی نقاب کشائی اوپن اے آئی کے انکشاف کے چند دن بعد کی جسے اس نے ایک "بے مثال سائبر واقعہ" کے طور پر بیان کیا ہے جس میں اس کے دو جدید ترین AI ماڈل شامل ہیں۔
OpenAI کے مطابق، کمپنی کی جانب سے ٹیسٹ کے لیے معیاری حفاظتی پابندیوں کو ہٹانے کے بعد اندرونی سائبرسیکیوریٹی تشخیص کے دوران ماڈلز اپنے ٹیسٹنگ ماحول سے بچ گئے۔ AI ایجنٹوں نے Hugging Face کے سسٹمز میں کمزوریاں دریافت کیں، لاگ ان کی اسناد حاصل کیں اور خفیہ بینچ مارک ڈیٹا تک رسائی کے لیے AI ڈیولپمنٹ پلیٹ فارم میں ہیک کر لیا۔
OpenAI نے کہا کہ ماڈلز اپنے تفویض کردہ مقصد کو حاصل کرنے کے لیے "انتہائی حد تک گئے"، خفیہ معلومات حاصل کرنے کے طریقے تلاش کرتے ہیں جو انہیں "تشخیص کو دھوکہ دینے" کی اجازت دیتے ہیں۔
اس انکشاف نے واشنگٹن میں جدید ترین AI ترقی کی مضبوط حکومتی نگرانی کے لیے نئے سرے سے کالیں شروع کیں۔
ہگنگ فیس نے کہا کہ اس نے اوپن اے آئی کے ساتھ مشترکہ تحقیقات شروع کرنے سے پہلے اپنے AI کی مدد سے حفاظتی نظام کا استعمال کرتے ہوئے اس خلاف ورزی کا پتہ لگایا اور اس پر مشتمل ہے۔ کمپنی نے مزید کہا کہ اسے "سختی سے" یقین ہے کہ OpenAI کی جانب سے "کوئی بدنیتی پر مبنی ارادہ" نہیں تھا۔ امریکی سینیٹر مارک وارنر، جو سینیٹ کی انٹیلی جنس کمیٹی کے اعلیٰ ترین ڈیموکریٹ ہیں، نے کہا کہ اس واقعے سے ظاہر ہوتا ہے کہ طاقتور AI سسٹمز کو عوامی طور پر دستیاب ہونے سے پہلے حکومتی سیکیورٹی ٹیسٹنگ کیوں کرنی چاہیے۔
وارنر نے ایک بیان میں کہا، "یہی وجہ ہے کہ ہمیں سرکاری ایجنسیوں کے ساتھ محفوظ جانچ کی ضرورت ہے جو پورے عمل میں مصروف ہیں اور مرئیت رکھتے ہیں۔"
وائٹ ہاؤس کے ایک اہلکار نے بتایا کہ صدر ڈونلڈ ٹرمپ کے ٹیکنالوجی مشیر مائیکل کراتسیوس کو اوپن اے آئی کے انکشاف پر بریفنگ دی گئی تھی اور وہ صورتحال کی نگرانی کر رہے تھے۔
