OpenAI نے انکشاف کیا ہے کہ اس کے مصنوعی ذہانت کے ماڈلز میں سے ایک نے آزادانہ طور پر لاگ ان کی اسناد چرا کر کسی اور ٹیکنالوجی کمپنی کے سسٹم میں ہیک کر لیا، جسے وسیع پیمانے پر AI سسٹم کے خود مختاری سے کام کرنے کے پہلے معروف واقعات میں سے ایک کے طور پر دیکھا جاتا ہے۔
سی ای او سیم آلٹ مین نے مَنگَل کو X پر پوسٹ کیا، "ہمارے ماڈلز کی تشخیص کے دوران ایک اہم سیکورٹی واقعہ پیش آیا۔"
یہ واقعہ ایسے وقت میں سامنے آیا ہے جب ٹیکنالوجی کے حقوق کے حامیوں کی جانب سے تیزی سے تیار ہوتے AI سسٹمز پر سخت حفاظتی انتظامات کے لیے کالز آرہی ہیں۔
وہ بہت کم وقت میں اتنے طاقتور ہو گئے ہیں کہ ڈیپ فیکس اور جدید ترین سائبر سکیم جیسے خطرناک واقعات معمول بن رہے ہیں۔
اس سال کے شروع میں، متعدد سافٹ ویئر انجینئرز نے ٹیکنالوجیز کی تعمیر کے طریقہ کار کے خلاف احتجاج کرتے ہوئے انتھروپک اور اے آئی جیسی اعلی کمپنیوں میں اپنی ملازمتیں چھوڑ دیں۔
اوپن اے آئی نے مَنگَل کو ایک طویل بیان میں کہا جس میں تازہ ترین واقعہ کی تفصیل دی گئی ہے، "AI کمزوریوں کی دریافت اور استحصال کو تیز کر رہا ہے۔"
"اس واقعے سے بنیادی سبق یہ ہے کہ ماڈل کی حفاظت اور حفاظت کو تیزی سے آگے بڑھنے والی صلاحیتوں کے ساتھ رفتار برقرار رکھنی چاہیے۔"
یہاں ہم خلاف ورزی کے بارے میں کیا جانتے ہیں:
OpenAI نے کہا کہ اس کے دو ماڈلز نے ایک الگ تھلگ، بغیر انٹرنیٹ تک رسائی کے ماحول – یا ایک سینڈ باکس – سے نکلنے کا راستہ تلاش کیا اور خود ہی ٹیک کمپنی Hugging Face کے سسٹم میں ہیک کر لیے۔
اس میں شامل ماڈلز جدید ترین GPT-5.6 Sol ماڈل ہیں اور ایک غیر ریلیز شدہ ماڈل جو کمپنی کے مطابق اس کے تازہ ترین ورژن کے مقابلے میں "اور بھی زیادہ قابل" ہے۔
گلے ملنے والے چہرے کے میزبان کھلے عام AI ماڈلز اور وسائل حاصل کرتے ہیں۔ اوپن اے آئی کے دو ایجنٹوں نے ہگنگ فیس کے سرورز میں کمزوریاں دریافت کیں اور لاگ ان کی تفصیلات چرانے اور پھر کمپنی کے سسٹمز کو ہیک کرنے کے لیے آگے بڑھے۔
یہ واقعہ اوپن اے آئی کے اندرونی ٹیسٹنگ سیشن کے دوران پیش آیا جو ماڈلز کی سائبرسیکیوریٹی صلاحیتوں کا جائزہ لینے کے لیے ڈیزائن کیا گیا تھا۔ OpenAI نے ٹیسٹ کے لیے معیاری حفاظتی اقدامات کو ہٹا دیا تھا۔
اوپن اے آئی نے کہا کہ دونوں نے ٹیسٹ کے دوران ایک مسئلہ کے ذریعے اپنے راستے کو دھوکہ دینے کی کوشش کی۔ انہوں نے "بجائے ایک تنگ ٹیسٹنگ ہدف کو حاصل کرنے کے لئے انتہائی طوالت اختیار کی" اور "خفیہ معلومات تک رسائی حاصل کرنے کے طریقے تلاش کیے جن کا استعمال یہ تشخیص کو دھوکہ دینے کے لیے کر سکتا ہے"۔
OpenAI کی سیکیورٹی ٹیم نے اندرونی طور پر غیر معمولی سرگرمی کا پتہ لگایا، لیکن دونوں کمپنیوں کی مشترکہ تحقیقات کے بعد اس خلاف ورزی کی تفصیلات سامنے آئیں۔
Hugging Face نے گزشتہ جُمِرات کو انکشاف کیا کہ اس کے سرورز کو ایک نامعلوم لیکن نفیس ایجنٹ نے ہیک کر لیا جو خود کام کر رہا تھا۔ کمپنی نے اپنے AI کی مدد سے پتہ لگانے کے ذریعے خلاف ورزی کا پتہ لگایا۔
کمپنی نے کہا کہ "یہ کسی بھی چیز سے مختلف تھا جسے ہم نے ایک اہم طریقے سے پہلے ہینڈل کیا تھا: یہ ایک خود مختار AI ایجنٹ کے نظام کے ذریعے، آخر تک چلایا گیا،" کمپنی نے کہا۔
OpenAI کے اس انکشاف کے بعد کہ اس کے ماڈل خلاف ورزی میں ملوث تھے، دونوں فریقوں نے اس ہفتے جاری مشترکہ تحقیقات کی۔
"ہمیں شبہ تھا کہ پچھلے ہفتے کا سائبر حملہ شاید کسی فرنٹیئر لیب سے ہوا ہو، ایجنٹ کی نفاست کے پیش نظر۔ پتہ چلا کہ ایسا ہوا!" سی ای او کلیمنٹ ڈیلنگو نے مَنگَل کو ایکس پر پوسٹ کیا۔
گلے لگانے والے چہرے کے عملے کو "پختہ یقین ہے کہ ان کی طرف سے کوئی بدنیتی پر مبنی ارادہ نہیں تھا،" ڈیلنگو نے OpenAI کا حوالہ دیتے ہوئے مزید کہا۔
سائبرسیکیوریٹی ماہرین نے پہلے بھی AI سسٹمز کی ممکنہ، انتہائی صلاحیتوں اور ان سے لاحق خطرات پر خطرے کی گھنٹی بجا دی تھی۔
لیکن اب تک، اس طرح کے خدشات کو ثابت کرنے والے حقیقی زندگی کے چند واقعات سامنے آئے ہیں۔
بہت سے لوگوں نے خبردار کیا ہے کہ اس طرح کے واقعات عام ہو سکتے ہیں اور یہ کہ AI سسٹمز مالی، سیکورٹی اور دیگر حساس ڈیٹا سسٹمز کے لیے خطرہ ہیں۔
اوپن اے آئی نے اس ہفتے کے شروع میں ایک الگ واقعے میں انکشاف کیا کہ غیر ریلیز شدہ، زیادہ طاقتور ماڈل ایک اور ٹیسٹ کے دوران الگ تھلگ ماحول سے بچ گیا تھا۔
اوپن اے آئی کے حریف، انتھروپک کو اپنے آج تک کے سب سے طاقتور ایجنٹ، کلاڈ میتھوس پریویو ماڈل کے ساتھ اسی طرح کے مسائل تھے۔
ابتدائی ورژن کے تناؤ کے ٹیسٹ کے دوران، ماڈل نے سینڈ باکس سے باہر نکلنے کا راستہ تلاش کیا، انٹرنیٹ تک رسائی حاصل کی اور نگرانی کرنے والے محقق کو ای میل کیا کہ وہ فرار ہو گیا ہے اور پھر اس کی سرگرمی کے شواہد کو مٹا دیا۔ انتھروپک نے بعد میں ماڈل کی منصوبہ بند عوامی ریلیز کو روک دیا۔
اپریل میں، یو ایس فیڈرل ریزرو اور ٹریژری ڈیپارٹمنٹ نے بینک کے سی ای اوز کے ساتھ ایک میٹنگ بلائی جہاں حکام نے Mythos سے لاحق سائبر سیکیورٹی خطرات کے بارے میں خبردار کیا۔ کینیڈا کے وفاقی بینکنگ ریگولیٹر نے مالیاتی اداروں کو ماڈل کی صلاحیتوں کے بارے میں بھی خبردار کیا ہے۔
اوپن اے آئی کی خلاف ورزی ہگنگ فیس جیسی کمپنیوں کے لیے بھی معاملہ بناتی ہے، جو اوپن سورس سسٹمز پر انحصار کرتی ہیں، جیسا کہ اوپن اے آئی جیسے زیادہ خفیہ اے آئی ڈیولپمنٹ پلیٹ فارمز کے برخلاف ہے۔ "یہ واقعہ، ممکنہ طور پر اپنی نوعیت کا پہلا واقعہ ہے، اس نکتے کو ثابت کرتا ہے جس پر ہم طویل عرصے سے یقین کر رہے ہیں: خفیہ طور پر کام کرنے والی کسی ایک کمپنی کے ذریعہ اے آئی کی حفاظت حل نہیں ہوگی،" ہیگنگ فیسز ڈیلنگیو نے OpenAI کے بیان میں کہا۔
انہوں نے مزید کہا، "یہ کھلے عام، باہمی تعاون کے ساتھ، ہر محافظ کے لیے، ہر جگہ AI تک وسیع رسائی کے ساتھ حل کیا جائے گا۔"
