کیا خود مختار AI ایجنٹوں پر ہیکنگ کے لیے مقدمہ یا مقدمہ چلایا جا سکتا ہے؟ سائنس فائی فلموں کے لیے اب یہ سوال نہیں ہے۔ یہ ایک ایسا سوال ہے جس سے انسانی وکلاء اور ججوں کو جلد ہی نمٹنا پڑے گا۔
موجودہ امریکی ہیکنگ قوانین کے تحت، ایک انسان کو بغیر اجازت کسی اور کے کمپیوٹر میں گھسنے کے جرم کا سامنا کرنا پڑ سکتا ہے۔ لیکن جب ایک AI ایجنٹ خود مختار طور پر کسی کمپنی کے کمپیوٹرز کو ہیک کرتا ہے، تو اس بات کا تعین کرنا کہ کون ذمہ دار ہے زیادہ پیچیدہ ہوتا ہے۔
OpenAI اور Anthropic کے حیرت انگیز اعتراف کہ ان کے غیر جاری کیے گئے AI ماڈلز کو خود مختار طور پر کئی کمپنیوں میں ہیک کر لیا گیا، اس نے امریکہ کے کمپیوٹر ہیکنگ کے قوانین کے بارے میں ہماری سمجھ میں اضافہ کر دیا ہے، جس سے اس بات پر بحث ہو رہی ہے کہ آیا کمپنیوں کو قانونی انتقام کا سامنا کرنا پڑ سکتا ہے۔
دوبارہ حاصل کرنے کے لیے: جون میں، اوپن اے آئی نے اعتراف کیا کہ اس کا ایک غیر ریلیز شدہ AI ماڈل اس کے کنٹینمنٹ سے باہر ہو گیا — تو بات کرنے کے لیے — اور انٹرنیٹ پر، اسے AI ڈیٹا سیٹ پلیٹ فارم Hugging Face میں ہیک کرنے کی اجازت دیتا ہے۔ اینتھروپک نے حال ہی میں ایک اندرونی جائزہ لیا اور دریافت کیا کہ اس کے اپنے ماڈل نے تین الگ الگ کمپنیوں کو بھی ہیک کیا ہے۔
جب کہ دونوں کمپنیوں نے بیان کیا کہ کس طرح ان کے AI ماڈلز نے اندرونی جانچ کے دوران دوسری کمپنیوں تک غیر مجاز رسائی حاصل کی، لیکن ہیکس کے وقت براہ راست انسانی شمولیت کی واضح کمی تمام فرق پیدا کرتی ہے - کم از کم قانونی طور پر۔
ہیکس اس بارے میں نئے سوالات بھی اٹھاتے ہیں کہ اگر ان کے اپنے ماڈلز کو دوسری کمپنیوں میں ہیک کرنے کے لیے غلط استعمال کیا جاتا ہے تو دوسرے AI بنانے والوں کو کیا ذمہ داری اور نتائج کا سامنا کرنا پڑ سکتا ہے۔
TechCrunch نے ایسے وکلاء سے بات کی جو کمپیوٹر اور ہیکنگ کے قوانین میں مہارت رکھتے ہیں تاکہ یہ سمجھ سکیں کہ OpenAI اور Anthropic کو کن نتائج کا سامنا کرنا پڑ سکتا ہے۔ ممکنہ نتائج وفاقی ہیکنگ چارجز سے لے کر ہیک کی گئی کمپنیوں کے ذریعہ لائی جانے والی سول قانونی چارہ جوئی تک ہیں۔
ایک اٹارنی نے اسے "غیر معروف علاقہ" کہا جب کہ دوسروں نے اس سے کام کرنے کی بہت کم قانونی نظیر پائی، یہ تجویز کیا کہ اس کو حل کرنا عدالتوں پر منحصر ہوگا۔ شکار کمپنیوں کو ممکنہ طور پر ان قوانین کی بنیاد پر نئے قانونی دلائل تیار کرنے ہوں گے جو بڑے لینگویج ماڈلز (LLMs) کی آمد سے دہائیوں پہلے لکھے گئے تھے۔
اس تحریر کے مطابق، انتھروپک نے یہ نہیں بتایا ہے کہ اس کے ایل ایل ایم نے کن تین کمپنیوں کو ہیک کیا ہے، متاثرین میں سے کسی نے بھی عوامی طور پر اپنی شناخت نہیں کی ہے۔ ہمیں نہیں معلوم کہ وہ قانونی کارروائی پر غور کر رہے ہیں۔ CNN کے ساتھ ایک انٹرویو میں، Hugging Face کے چیف ایگزیکٹو Clem Delangue نے کہا کہ وہ OpenAI پر مقدمہ نہیں کرنا چاہتے۔ لیکن اس نے دلیل دی کہ کمپنیوں کو ذمہ دار ٹھہرایا جانا چاہیے۔
ڈیلنگو نے کہا: "ہمیں اس بات کو یقینی بنانا ہوگا کہ قانونی فریم ورک ان واقعات کو واقعی غیر قانونی رکھیں،" اور کمپنیوں کو جوابدہ ٹھہرانا ہے جب وہ غلطیاں کرتی ہیں۔ "ورنہ ہم ایک بہت ہی مختلف دنیا میں ختم ہونے جا رہے ہیں۔"
یہ ہیکس آخری ہونے کا امکان نہیں ہے۔ ممکنہ نتائج کیا ہیں، اور نتیجہ کیسے نکل سکتا ہے؟
امریکہ کے پاس سائبر حملوں کی طرح AI نقصانات کی ذمہ داری کا احاطہ کرنے والا کوئی وفاقی قانون نہیں ہے، اس لیے کسی بھی قانونی معاملے کو موجودہ وفاقی یا ریاستی قوانین کی طرف متوجہ کرنا ہوگا۔ کمپیوٹر فراڈ اینڈ ابیوز ایکٹ (CFAA)، جو 1986 میں نافذ کیا گیا تھا اور تب سے اس پر کافی تنقید کی گئی تھی، وہ بنیادی قانون ہے جو کمپیوٹر ہیکنگ کے جرائم کا احاطہ کرتا ہے۔
CFAA کے کلیدی تصورات میں سے ایک بغیر اجازت کے کمپیوٹر میں گھسنے کا ارادہ ہے۔ اگر کوئی ہیکر جان بوجھ کر مالک سے "اجازت" کے بغیر کسی کمپیوٹر تک رسائی حاصل کرتا ہے، تو یہ تقریباً یقینی طور پر ایک جرم ہے۔
OpenAI اور Anthropic ہیکس کے ساتھ مسئلہ یہ ہے کہ ہیکر انسان نہیں تھا، بلکہ LLM تھا۔
کیا AI ایجنٹوں کو ارادے کو قائم کرنے کے مقصد کے لیے لوگ سمجھا جا سکتا ہے؟ سائبر سیکیورٹی اور اے آئی اٹارنی احمد غپّور کے مطابق، جو ہیکنگ اور کمپیوٹر فراڈ کے مقدمات میں قانونی چارہ جوئی کا برسوں کا تجربہ رکھتے ہیں، جواب نفی میں ہے۔ AI ایجنٹس کمپنی کے ملازمین کی طرح نہیں ہوتے، اس لیے ان کے خلاف مقدمہ نہیں چلایا جا سکتا، کیونکہ ایک متاثرہ شخص یہ دلیل دینے میں ناکام ہو جائے گا کہ LLMs نے انہیں جان بوجھ کر ہیک کیا ہے۔
اینڈریو کروکر، غیر منفعتی الیکٹرانک فرنٹیئر فاؤنڈیشن کے سرویلنس قانونی چارہ جوئی کے ڈائریکٹر نے TechCrunch کو بتایا کہ وہ اس بات پر شکوک و شبہات رکھتے ہیں کہ جب AI ایجنٹ نے ہیک کیا تو اس کا ارادہ ثابت ہو سکتا ہے۔
محکمہ انصاف نظریاتی طور پر مجرمانہ الزامات کو CFAA کے تحت لا سکتا ہے، لیکن کمپیوٹر قانون میں مہارت رکھنے والے ایک سابق وکیل نے بھی شکوک کا اظہار کیا۔
اگر سائبر حملوں میں سے کسی نے اہم انفراسٹرکچر کو نشانہ بنایا ہو تو استغاثہ کے لیے ایک آسان معاملہ ہو سکتا ہے، جس کی وجہ سے کمپنی کے اندرونی ڈیٹا بیس سے ڈیٹا کاپی کرنے سے زیادہ حقیقی دنیا میں خلل پڑتا اور زیادہ ٹھوس نقصان ہوتا۔
یہ بھی قابل فہم ہے کہ اگر یہ حملے چینی AI ماڈل بنانے والی کمپنی کے ذریعہ کیے گئے تھے، مثال کے طور پر، DOJ کو CFAA کے تحت چارجز دائر کرنے کی زیادہ خواہش ہوگی بجائے اس کے کہ وہ AI کمپنیوں کے خلاف اپنی دہلیز پر ہو۔
کانگریس نے گزشتہ برسوں میں CFAA میں ترمیم کی ہے تاکہ متاثرین کو ہیکرز کے خلاف مقدمہ کرنے کی اجازت دی جائے تاکہ وہ انہیں ذمہ دار ٹھہرائیں اور دیوانی مقدمات کے ذریعے نقصانات کی وصولی کریں۔
گھپ پور نے ٹیک کرنچ کو بتایا کہ متاثرین جو بنیادی دلیل دے سکتے ہیں، وہ یہ ہے کہ اوپن اے آئی اور اینتھروپک (اور ممکنہ طور پر وہ کمپنیاں جنہوں نے تشخیص کرنے میں مدد کی) اس بات میں لاپرواہی کا مظاہرہ کر رہے تھے کہ انہوں نے ٹیسٹ کیسے ترتیب دیئے اور چلائے۔ دلیل اس بات پر منحصر ہے کہ آیا کمپنیاں AI ایجنٹوں کو انٹرنیٹ پر آنے سے روکنے کے لیے مناسب حفاظتی اقدامات پر عمل درآمد کرنے میں ناکام رہیں۔ وہ کون سے اہداف کے پیچھے جا سکتے ہیں کو محدود کرنے میں ناکام رہے۔ اور مناسب طریقے سے نگرانی نہیں کی کہ ایجنٹ کیا کر رہے تھے۔
اس پر بحث کرنے کے لیے، متاثرہ کمپنی کو یہ ظاہر کرنا ہوگا کہ اسے اس لاپرواہی کی وجہ سے نقصانات کا سامنا کرنا پڑا، جیسے کہ ہیک کی وجہ سے ڈیٹا کی تباہی۔ کچھ قانونی مبصرین نے یہ بھی دلیل دی ہے کہ اسے ثابت کرنا مشکل ہو سکتا ہے۔
اینتھروپک کے معاملے میں، اس کا ایل ایل ایم جو کچھ کر رہا تھا اس کی نگرانی کرنے اور اسے روکنے میں اس کی ناکامی خاص طور پر سنگین ہے کیونکہ کمپنی کو مہینوں تک تین خلاف ورزیوں کا پتہ نہیں چل سکا، اور اوپن اے آئی کے اے آئی ایجنٹ کی ہیکنگ فیس کی خبر کے بعد تحقیقات شروع کرنے کے بعد ہی وہ ایسا کر سکی۔
اگر متاثرین غفلت کا استدلال کرتے ہیں، تو ارادے سے کوئی فرق نہیں پڑتا۔
"ماڈل کمپنی کا ٹول ہے،" گھاپور نے کہا۔ انہوں نے مزید کہا کہ "آپ کو ایسی کوئی چیز تعینات کرنے کی ضرورت نہیں ہے جو سسٹم کو توڑنے کے قابل ہو اور پھر اس سے انکار کر دیا جائے،" انہوں نے مزید کہا کہ ماڈل کی خودمختاری ہی نقصان کا باعث بنتی ہے، اور اسے ذمہ داری کے خلاف ڈھال نہیں ہونا چاہیے۔
غپّور کے مطابق، OpenAI اور Anthropic کے لیے اس سے بھی بدتر بات یہ ہے کہ دونوں کمپنیوں نے اعتراف کیا کہ انھوں نے اپنے ماڈلز کی ہیکنگ کی صلاحیتوں کو محدود کرنے کے لیے حفاظتی اقدامات کیے ہیں۔ یہ حفاظتی اقدامات کافی سخت ہیں کہ دفاعی اور جارحانہ سائبرسیکیوریٹی محققین مہینوں سے ان کے بارے میں گرفت میں ہیں۔ ان ٹیسٹوں کے دوران جان بوجھ کر ان گارڈریلز کو بند کرنے سے غفلت کی دلیل کو تقویت مل سکتی ہے۔
گھپ پور کو ان دلائل میں اتنا اعتماد ہے کہ، اگر وہ ان مقدمات میں کسی بھی متاثرین کی نمائندگی کر رہے تھے، تو انہوں نے کہا کہ OpenAI یا Anthropic کے خلاف مقدمہ دائر کرنا "کوئی دماغ نہیں" ہوگا۔ کم از کم، اس نے وضاحت کی، وہ خطوط بھیجیں گے جس میں مطالبہ کیا جائے گا کہ AI کمپنیاں اپنے تمام داخلی ریکارڈ اور ہیکس کے بارے میں دستاویزات کو محفوظ رکھیں اور ان کا اشتراک کریں، جیسے کہ واقعہ کے ردعمل کی رپورٹس، اور خلاف ورزیوں کی وجہ سے ان پر اٹھنے والے اخراجات کا اندازہ لگایا جائے۔
پھر، اگر AI جنات کے ساتھ مذاکرات ناکام ہو گئے، تو وہ CFAA کی بنیاد پر ایک دیوانی مقدمہ دائر کرے گا جس میں یہ دلیل دی جائے گی کہ AI کمپنیاں لاپرواہی کا مظاہرہ کر رہی ہیں، اور رازداری اور رازداری کی خلاف ورزی کر رہی ہیں۔
ابھی کے لیے، یہ چکن کا کھیل ہے۔
اگر ہیک کی گئی کمپنیوں میں سے کوئی ایک دیوانی مقدمہ دائر کرتی ہے، تو ہم دیکھیں گے کہ قانونی مقدمہ — اور قانون — کہاں تک پہنچتا ہے۔ اگر استغاثہ مجرمانہ الزامات عائد کرنے کا فیصلہ کرتے ہیں، جیسا کہ اس کا امکان نہیں ہے، تو اس کے گہرے نتائج اور سیکورٹی ریسرچ اور AI کی ترقی پر زیادہ وسیع پیمانے پر ممکنہ ٹھنڈک اثر پڑ سکتا ہے۔
کسی بھی وفاقی یا ملک گیر AI ذمہ داری کے قوانین کے بغیر، کوئی بھی مقدمہ لانے والے کو موجودہ قوانین کی بنیاد پر مکمل طور پر نئی دلیل پیش کرنی ہوگی۔ یہ حتمی طور پر جج یا جیوری پر منحصر ہوگا کہ آیا یہ فیصلہ کرنا ہے کہ آیا کسی AI کمپنی نے قانون کو توڑا۔
وفاقی قانون کی جگہ، کچھ ریاستیں جیسے کیلیفورنیا، نیو یارک، اور رہوڈ آئی لینڈ ایک سادہ اصول کو شامل کرنے کے مقصد کے ساتھ قوانین وضع کر رہی ہیں: اگر کوئی AI سسٹم یا ایجنٹ کوئی ایسا کام کرتا ہے جس کے لیے انسان کو ذمہ دار ٹھہرایا جا سکتا ہے، تو وہ کمپنیاں جنہوں نے AI سسٹم بنایا ہے اسے ذمہ دار ٹھہرایا جانا چاہیے۔ یہ قوانین خاص طور پر ہیکنگ پر مرکوز نہیں ہیں، بلکہ مختلف حالات میں ذمہ داری اور حفاظت کے وسیع تصورات پر مرکوز ہیں۔
جہاں تک AI ماڈل کے سائبر حملے کا ذمہ دار کون ہے؟ اخلاقی طور پر، ذمہ داری ان ایگزیکٹوز پر عائد ہوتی ہے جو کمپنیاں چلاتے ہیں۔ قانونی طور پر، اگرچہ؟ ہمیں انتظار کرنا پڑے گا جب تک کہ کوئی تلاش کرنے کے لیے مقدمہ نہ کرے۔
