جولائی میں، OpenAI نے اعتراف کیا کہ سائبرسیکیوریٹی کے تجربے کو مکمل کرنے کے لیے اس کے ایجنٹوں میں سے ایک نے کنٹینمنٹ سے باہر نکل کر AI ڈیٹاسیٹ پلیٹ فارم Hugging Face کو ہیک کر لیا۔ وہ واقعہ، جس کا کل OpenAI سے مکمل حساب لیا گیا، عوامی طور پر رپورٹ ہونے والا پہلا کیس تھا جہاں ایک LLM بدمعاش ہوا اور خود مختار طور پر کسی تیسرے فریق کو ہیک کیا۔
اس کے بعد سے، وہ بے مثال سائنس فائی-ایسک ایونٹ اس سے کہیں کم نایاب نکلا جس کی کوئی امید کرے گا۔
ایک طنزیہ ویب سائٹ فیلونی بینچ (بنیچے مارک کے لیے) کے مطابق، جو ان واقعات کو لمبا کرتی ہے، مجموعی طور پر 17 واقعات ہوئے ہیں۔ یہ یاد رکھنا ضروری ہے کہ فوجداری قانون کے ماہرین کو پوری طرح سے یقین نہیں ہے کہ آیا ہیکنگ کرنے والی LLM بنانے والی AI کمپنیوں کے خلاف مقدمہ چلایا جا سکتا ہے، اور نہ ہی متاثرین ان پر مقدمہ چلا سکتے ہیں۔ لیکن ہمیں ان سوالوں کا جلد ہی جواب ملنے کا امکان ہے۔
سائٹ کے مطابق، اینتھروپک اور اوپن اے آئی کے ماڈل آٹھ واقعات کے ساتھ ریس میں آگے ہیں، اور میٹا ایک کے ساتھ پیچھے ہے۔ اس مقام پر، یہ واضح ہو گیا ہے کہ AI حفاظتی ٹیسٹ خود حفاظتی خطرات بن رہے ہیں۔ اور کچھ AI کمپنیوں اور کارکنوں نے خود ان خطرات کو "Pacing The Frontier" کے کھلے خط میں تسلیم کیا ہے، جس میں AI کی صلاحیتوں کو ذمہ داری سے تیار کرنے کا مطالبہ کیا گیا ہے۔
ہم نے فیصلہ کیا کہ ان تمام واقعات کو تاریخی طور پر دوبارہ بیان کرنے کا یہ اچھا وقت ہوگا۔
انٹرنیٹ تک رسائی۔ وہاں سے، کئی ایجنٹوں نے مل کر کام کیا کہ وہ ہگنگ فیس کو ٹارگٹ کریں اور یہ سوچ کر ہیک کریں کہ وہ وہاں چیلنج کا حل تلاش کر سکتے ہیں۔ اوپن اے آئی کو ہیگنگ فیس کے انکشاف کے بعد ہی پتہ چلا جب وہ مکمل طور پر خود مختار حملے کا شکار ہوا تھا۔ افوہ
اوپن اے آئی کے انکشاف نے انتھروپک کے تجسس کو جنم دیا، جس نے سوچا: کیا ہمارے ساتھ بھی ایسا ہو سکتا ہے؟ پتہ چلا، جواب ہاں میں تھا۔ تین بار ہاں۔ فرنٹیئر لیب نے دریافت کیا کہ اس کے اپنے ماڈلز نے تین مختلف اور ابھی تک نامعلوم کمپنیوں کی خلاف ورزی کی ہے، اس سے پہلے کا واقعہ اپریل کا ہے — کمپنی کے دریافت کرنے سے تین ماہ قبل۔ اینتھروپک نے جزوی طور پر بے ترتیبی کو مورد الزام ٹھہرایا، ایک اسٹارٹ اپ جو AI سائبر تشخیص چلاتا ہے۔ افوہ
ایک بار جب OpenAI نے Hugging Face کی خلاف ورزی کی تحقیقات شروع کیں، تو اسے پتہ چلا کہ ہگنگ فیس کو ہیک کرنے والے ایجنٹوں نے بھی چار اکاؤنٹس اور چار مختلف کمپنیوں میں توڑ پھوڑ کی، جیسا کہ رائٹرز نے پہلے اطلاع دی تھی۔ Modal، ایک AI inference startup، متاثرین میں سے ایک تھا۔ افوہ
جولائی کے آخر میں، Irregular نے OpenAI کو بتایا کہ اس کا ایک ماڈل جو کیپچر دی فلیگ مقابلے میں حصہ لے رہا تھا — بنیادی طور پر ایک سائبر سیکیورٹی گیم جہاں کھلاڑی خاص طور پر مقابلے کے لیے بنائے گئے سسٹمز کو ہیک کرتے ہیں — گیم سے فرار ہو گئے، انٹرنیٹ سے منسلک ہو گئے، اور ایک حقیقی کمپنی کو ہیک کیا۔ وجہ؟ فاسد نے ایک فرضی ٹارگٹ کو ایک حقیقی کمپنی کا نام دیا تھا۔ افوہ
جولائی کے آخر میں بھی، یو کے حکومت کے اے آئی سیکیورٹی انسٹی ٹیوٹ، ایک عوامی ادارہ جسے اے آئی ٹیکنالوجیز کی حفاظت اور خطرات پر تحقیق کرنے کا کام سونپا گیا ہے، اس نے انکشاف کیا کہ اس نے اوپن اے آئی اور اینتھروپک دونوں ماڈلز پر مشتمل متعدد واقعات کا پتہ لگایا ہے کہ "معمول" کی تشخیص کرتے ہوئے "حقیقی لوگوں اور تنظیموں" کو نشانہ بنایا گیا۔ ان معاملات میں، AISI نے ماڈلز کو انٹرنیٹ تک رسائی دی تھی۔ افوہ اچھی خبر یہ ہے کہ ایجنسی کو حقیقت میں پتہ چلا جیسا کہ وہ ہوا تھا، بجائے کہ دوسرے واقعات کی طرح ہفتوں بعد۔
اگست کے اوائل میں، میٹا اپنے LLM میں سے کسی ایک واقعے کا انکشاف کرنے والی آخری کمپنی بن گئی، جس نے "تھرڈ پارٹی" سروس کو ہیک کیا۔ میٹا نے اس واقعے کا الزام Irregular کی غلط کنفیگریشن پر لگایا، جو کہ ٹیک دیو کے لیے سائبر سیکیورٹی ویلیویشن چلا رہا تھا جس کے پاس انٹرنیٹ تک رسائی نہیں تھی۔ افوہ
ایک آسٹریلوی شخص نے ایک اینتھروپک AI ایجنٹ سے کہا کہ وہ جم کلاس بک کرنے میں اس کی مدد کرے، جس کے لیے وہ ویٹنگ لسٹ میں تھا۔ اس آدمی نے اے بی سی آسٹریلیا کو بتایا، ’’میں صوفے پر بیٹھا سوچ رہا تھا، 'جی، یہ ایک کام ہے۔ درخواست کی تعمیل کرنے کی کوشش میں، ایجنٹ کو جم کے بکنگ سوفٹ ویئر میں کمزوری نظر آئی، اس کا استحصال کیا، اور ان لوگوں کو باہر نکال دیا جو انتظار کی فہرست میں شامل آدمی سے آگے تھے۔ اس آدمی نے نقصان کو ختم کرنے کی کوشش کی، ایجنٹ سے اس کے اعمال کو کالعدم کرنے کو کہا۔ ایجنٹ نے جواب دیا: "بری خبر - میں انہیں واپس شامل نہیں کر سکتا۔" افوہ
