ڇا خودمختيار AI ايجنٽن کي هيڪنگ لاءِ مقدمو يا مقدمو هلائي سگهجي ٿو؟ اهو هاڻي سائنسي فلمن لاءِ سوال ناهي. اهو هڪ سوال آهي جيڪو انساني وڪيلن ۽ ججن کي جلد ئي منهن ڏيڻو پوندو.
موجوده آمريڪي هيڪنگ قانونن تحت، هڪ انسان بغير اجازت جي ڪنهن ٻئي جي ڪمپيوٽر کي ٽوڙڻ لاء مجرمانه الزامن کي منهن ڏئي سگهي ٿو. پر جڏهن هڪ AI ايجنٽ خودمختيار طور تي ڪمپني جي ڪمپيوٽرن ۾ هيڪ ڪري ٿو، اهو طئي ڪرڻ جو ذميوار ڪير آهي تمام گهڻو پريشان آهي.
OpenAI ۽ Anthropic پاران حيران ڪندڙ اعتراف ته انهن جا اڻ ڇپيل AI ماڊل خودمختاري طور تي ڪيترن ئي ڪمپنين ۾ هيڪ ڪيا ويا، آمريڪا جي ڪمپيوٽر هيڪنگ جي قانونن جي اسان جي سمجھ کي وڌايو آهي، انهي ڳالهه تي بحث ڪيو ته ڇا ڪمپنيون قانوني انتقام کي منهن ڏئي سگهن ٿيون.
ٻيهر حاصل ڪرڻ لاءِ: جون ۾، اوپن اي آءِ تسليم ڪيو ته ان جو هڪ اڻ ڇپيل اي آءِ ماڊل ان جي ڪنٽينمينٽ مان ڀڄي ويو - تنهنڪري ڳالهائڻ لاءِ - ۽ انٽرنيٽ تي ، ان کي اجازت ڏئي ٿو ته هو AI ڊيٽا سيٽ پليٽ فارم هگنگ فيس ۾ هيڪ ڪري. انٿروپڪ تازو ئي هڪ اندروني جائزو ورتو ۽ دريافت ڪيو ته ان جو پنهنجو ماڊل پڻ ٽن الڳ ڪمپنين کي هيڪ ڪيو.
جڏهن ته ٻنهي ڪمپنين بيان ڪيو ته ڪيئن انهن جي AI ماڊل ٻين ڪمپنين تائين غير مجاز رسائي حاصل ڪئي اندروني جاچ دوران خراب ٿي وئي، هيڪس جي وقت تي سڌي طرح انساني شموليت جي واضح گهٽتائي تمام فرق پيدا ڪري ٿي - قانوني طور تي ڳالهائڻ، گهٽ ۾ گهٽ.
هيڪس پڻ نوان سوال اٿارين ٿا ته ڪهڙي ذميواري ۽ نتيجن کي ٻين AI ٺاهيندڙن کي منهن ڏيڻو پوي ٿو جيڪڏهن انهن جا پنهنجا ماڊل ٻين ڪمپنين ۾ هيڪ ڪرڻ لاءِ غلط استعمال ڪيا وڃن.
TechCrunch وڪيلن سان ڳالهايو جيڪي ڪمپيوٽر ۽ هيڪنگ جي قانونن ۾ ماهر آهن اهو سمجهڻ لاءِ ته OpenAI ۽ Anthropic کي ڪهڙا نتيجا سامهون اچي سگهن ٿا. امڪاني نتيجو وفاقي هيڪنگ جي الزامن کان وٺي ديواني مقدمي جي حد تائين جيڪي ڪمپنين پاران هيڪ ڪيا ويا آهن.
هڪ وڪيل هن کي ”اڻڄاتل علائقو“ سڏيو ، جڏهن ته ٻين کي ڪم ڪرڻ لاءِ ٿورڙو قانوني مثال مليا ، تجويز ڪيو ته اهو ممڪن آهي ته عدالتن تي منحصر هجي ان کي ترتيب ڏيڻ. متاثر ٿيندڙ ڪمپنين کي قانونن جي بنياد تي نوان قانوني دليل تيار ڪرڻا پوندا جيڪي وڏي ٻوليءَ جي ماڊلز (LLMs) جي اچڻ کان ڏهاڪا اڳ لکيا ويا هئا.
هن لکڻين جي طور تي، انٿروپڪ ظاهر نه ڪيو آهي ته ڪهڙيون ٽي ڪمپنيون هن جي ايل ايل ايم هيڪ ڪيون آهن، متاثرين مان ڪنهن به پاڻ کي عوامي طور تي سڃاڻي نه سگهيو آهي. اسان کي خبر ناهي ته اهي قانوني ڪارروائي تي غور ڪري رهيا آهن. سي اين اين سان هڪ انٽرويو ۾، هگنگ فيس جي چيف ايگزيڪيوٽو ڪليم ڊيلنگو چيو ته هو OpenAI تي ڪيس ڪرڻ نٿو چاهي. پر هن دليل ڏنو ته ڪمپنين کي ذميوار قرار ڏنو وڃي.
ڊيلنگو چيو: ”اسان کي پڪ ڪرڻي آهي ته قانوني فريم ورڪ انهن واقعن کي واقعي غير قانوني طور تي برقرار رکندا آهن ،“ ۽ ڪمپنين کي احتساب ڪرڻ گهرجي جڏهن اهي غلطيون ڪن. "ٻي صورت ۾ اسان هڪ بلڪل مختلف دنيا ۾ ختم ٿيڻ وارا آهيون."
اهي هيڪس آخري نه هوندا آهن. امڪاني نتيجا ڇا آهن، ۽ ان کان پوء ڪيئن راند ٿي سگهي ٿي؟
آمريڪا وٽ AI نقصانن جي ذميواري کي ڍڪڻ وارو وفاقي قانون ناهي، سائبر حملن وانگر، تنهنڪري ڪنهن به قانوني ڪيس کي موجوده وفاقي يا رياستي قانونن تي ڌيان ڏيڻو پوندو. ڪمپيوٽر فراڊ اينڊ بيوس ايڪٽ (سي ايف اي اي)، جيڪو 1986 ۾ نافذ ڪيو ويو ۽ ان کان پوء گهڻو ڪري تنقيد ڪئي وئي، بنيادي قانون آهي جيڪو ڪمپيوٽر جي هيڪنگ جي ڏوهن کي ڍڪيندو آهي.
CFAA جي اهم تصورن مان هڪ آهي بغير اجازت جي ڪمپيوٽر ۾ ڀڃڻ جو ارادو. جيڪڏهن هڪ هيڪر ڄاڻي واڻي ڪمپيوٽر تائين رسائي ٿو بغير مالڪ کان "اجازت" جي، اهو تقريبا يقيني طور تي هڪ جرم آهي.
OpenAI ۽ Anthropic hacks سان مسئلو اهو آهي ته هيڪر هڪ انسان نه هو، پر هڪ ايل ايل ايم.
ڇا AI ايجنٽ ماڻهن کي ارادي قائم ڪرڻ جي مقصد لاء سمجهي سگهجي ٿو؟ احمد غپور جي مطابق، هڪ سائبر سيڪيورٽي ۽ اي اٽارني سان گڏ سالن جي تجربي سان هيڪنگ ۽ ڪمپيوٽر جي فراڊ جي ڪيسن ۾، جواب نه آهي. AI ايجنٽ ڪمپني جي ملازمن وانگر نه هوندا آهن، تنهن ڪري انهن تي ڪارروائي نه ٿي ڪري سگهجي، ڇاڪاڻ ته هڪ متاثر شايد اهو دليل ڏيڻ ۾ ناڪام ٿيندو ته LLMs انهن کي ڄاڻي واڻي هيڪ ڪيو.
اينڊريو ڪرڪر، غير منافع بخش اليڪٽرڪ فرنٽيئر فائونڊيشن جي نگراني جي مقدمي جي ڊائريڪٽر، TechCrunch کي ٻڌايو ته هو شڪي هو ته هڪ AI ايجنٽ ثابت ٿي سگهي ٿو ته هو ارادو هو جڏهن اهو هيڪ ڪيو.
انصاف جو کاتو نظرياتي طور تي CFAA تحت فوجداري الزام آڻي سگهي ٿو، پر ڪمپيوٽر جي قانون ۾ ماهر هڪ اڳوڻي وڪيل پڻ شڪ جو اظهار ڪيو.
پراسيڪيوٽرن لاءِ هڪ آسان ڪيس ٿي سگهي ٿو جيڪڏهن سائبر حملن مان ڪنهن به نازڪ انفراسٽرڪچر کي نشانو بڻايو هجي ها، جيڪو ڪمپني جي اندروني ڊيٽابيس مان ڊيٽا کي نقل ڪرڻ کان وڌيڪ حقيقي دنيا جي خلل ۽ وڌيڪ سخت نقصان جو سبب بڻجي ها. اهو پڻ قابل اطمينان آهي ته جيڪڏهن حملا هڪ چيني AI ماڊل ٺاهيندڙ طرفان ڪيا ويا آهن، مثال طور، DOJ کي پنهنجي دروازي تي AI ڪمپنين جي مقابلي ۾ CFAA تحت الزام داخل ڪرڻ جي وڏي خواهش هوندي.
ڪانگريس ڪيترن سالن کان CFAA ۾ ترميم ڪئي آهي ته جيئن متاثرين کي هيڪرز تي مقدمو ڪرڻ جي اجازت ڏني وڃي ته انهن کي ذميوار رکڻ ۽ سول ڪيسن ذريعي نقصان جي وصولي.
بنيادي دليل جيڪي متاثرين ٺاهي سگھن ٿا، گپپور TechCrunch کي ٻڌايو، اهو آهي ته OpenAI ۽ Anthropic (۽ ممڪن طور تي ڪمپنيون جيڪي تشخيص کي منظم ڪرڻ ۾ مدد ڪن ٿيون) غفلت ۾ هئا ته اهي ڪيئن سيٽ اپ ۽ ٽيسٽ کي هلائي رهيا آهن. دليل ان ڳالهه تي منحصر آهي ته ڇا ڪمپنيون AI ايجنٽن کي انٽرنيٽ تي اچڻ کان روڪڻ لاءِ مناسب حفاظتي اپاءَ تي عمل ڪرڻ ۾ ناڪام ٿي ويون. انهن مقصدن کي محدود ڪرڻ ۾ ناڪام ٿي جيڪي اهي اڳتي هلي سگهن ٿا؛ ۽ صحيح طور تي مانيٽر نه ڪيو ته ايجنٽ ڇا ڪري رهيا هئا.
هن کي بحث ڪرڻ لاء، هڪ قرباني ڪمپني کي اهو ظاهر ڪرڻو پوندو ته ان غفلت جي ڪري نقصان پهچايو، جهڙوڪ هيڪ جي ڪري ڊيٽا جي تباهي. ڪجهه قانوني مبصرن پڻ دليل ڏنو آهي ته اهو ثابت ڪرڻ ڏکيو ٿي سگهي ٿو.
انٿروپڪ جي صورت ۾، ان جي نگراني ڪرڻ ۽ روڪڻ ۾ ناڪامي ان جي ايل ايل ايم ڇا ڪري رهي هئي خاص طور تي سخت آهي ڇو ته ڪمپني مهينن تائين ٽن خلاف ورزين کي دريافت نه ڪيو، ۽ صرف اهو ڪرڻ جي قابل هئي جڏهن هن OpenAI جي AI ايجنٽ جي هيڪنگ هيڪنگ جي خبر جي پٺيان هڪ تحقيق شروع ڪئي.
جيڪڏهن متاثرين کي غفلت جو دليل ڏيڻو پوندو، ارادو گهڻو ڪجهه ناهي.
"ماڊل ڪمپني جو اوزار آهي،" غپپور چيو. ”توهان اهڙي شيءِ کي ترتيب ڏيڻ جي قابل نه آهيو جيڪو سسٽم ۾ ٽوڙڻ جي قابل هجي ۽ پوءِ اهو رد ڪيو وڃي ته اهو ڪٿي وڃي ٿو ،“ هن وڌيڪ شامل ڪيو ، وضاحت ڪندي ته ماڊل جي خودمختياري اهو آهي جيڪو نقصان جو سبب بڻجندو آهي ، ۽ اهو ذميواري جي خلاف ڍال نه هجڻ گهرجي.
OpenAI ۽ Anthropic لاءِ ڇا خراب ٿي سگهي ٿو، گپپور جي مطابق، اهو آهي ته ٻنهي ڪمپنين تسليم ڪيو آهي ته انهن انهن جي ماڊل جي هيڪنگ جي صلاحيتن کي محدود ڪرڻ لاء حفاظتي طريقا ٺاهيا آهن. اهي حفاظتون ڪافي سخت آهن ته ٻنهي دفاعي ۽ جارحتي سائبر سيڪيورٽي محقق انهن جي باري ۾ مهينن لاء گرفت ڪئي آهي. انهن تجربن دوران ارادي طور تي انهن گارڊن کي بند ڪرڻ غفلت جي دليل کي مضبوط ڪري سگهي ٿو.
گپپور انهن دليلن ۾ ايترو پر اعتماد آهي ته، جيڪڏهن هو انهن ڪيسن ۾ ڪنهن به متاثرين جي نمائندگي ڪري رهيا هئا، هن چيو ته اهو OpenAI يا Anthropic جي خلاف هڪ مقدمو داخل ڪرڻ لاء "ڪو به دماغ نه" هوندو. گهٽ ۾ گهٽ، هن وضاحت ڪئي، هو خط موڪليندو جنهن ۾ مطالبو ڪيو ويو ته AI ڪمپنيون محفوظ ڪن ۽ حصيداري ڪن انهن جا سڀئي اندروني رڪارڊ ۽ هيڪ بابت دستاويز، جهڙوڪ واقعن جي جوابي رپورٽون، ۽ انهن جي خرچن جو اندازو لڳايو جيڪي انهن جي خلاف ورزي جي ڪري.
پوءِ، جيڪڏهن AI ديوين سان ڳالهيون ناڪام ٿي ويون، ته هو CFAA جي بنياد تي هڪ سول مقدمو آڻيندو، اهو دليل ڏيندي ته AI ڪمپنيون لاپرواهي، ۽ رازداري ۽ رازداري جي ڀڃڪڙي ڪنديون هيون.
هينئر تائين، اها ڪڪڙ جي راند آهي.
جيڪڏهن هيڪ ٿيل ڪمپنين مان هڪ هڪ سول سوٽ فائل ڪري ٿي، اسان ڏسنداسين ته قانوني ڪيس ڪٿي آهي - ۽ قانون - اڳواڻي. جيڪڏهن پراسيڪيوٽرز مجرمانه الزام آڻڻ جو فيصلو ڪن ٿا، ممڪن ناهي ته اهو ٿي سگهي ٿو، نتيجو ٿي سگهي ٿو گہرا نتيجا ۽ سيڪيورٽي ريسرچ ۽ AI ترقي تي وڌيڪ وسيع طور تي هڪ امڪاني اثرائتو اثر.
ڪنهن به وفاقي يا ملڪ گير AI ذميواري قانونن کان سواءِ، هر ڪنهن کي مقدمو آڻڻو پوندو ته موجوده قانونن جي بنياد تي مڪمل طور تي نئون دليل ڏيڻو پوندو. اهو آخرڪار جج يا جوري تي هوندو ته اهو فيصلو ڪرڻ لاءِ ته ڇا هڪ AI ڪمپني قانون کي ٽوڙيو.
هڪ وفاقي قانون جي جاءِ تي، ڪي رياستون جهڙوڪ ڪيليفورنيا، نيو يارڪ، ۽ روڊ آئلينڊ هڪ سادي اصول کي شامل ڪرڻ جي مقصد سان قانون ٺاهي رهيا آهن: جيڪڏهن هڪ AI سسٽم يا ايجنٽ ڪجهه ڪري ٿو جيڪو انسان کي ذميوار قرار ڏئي سگهجي ٿو، پوءِ اهي ڪمپنيون جن AI سسٽم ٺاهيو انهن کي ذميوار قرار ڏنو وڃي. اهي قانون خاص طور تي هيڪنگ تي مرکوز نه آهن، پر مختلف حالتن ۾ ذميواري ۽ حفاظت جي وسيع مفهوم تي.
جيئن ته AI ماڊل جي سائبر حملي جو ذميوار ڪير آهي؟ اخلاقي طور تي ڳالهائڻ، ذميواري عملدارن سان گڏ آهي جيڪي ڪمپنيون هلائيندا آهن. قانوني طور ڳالهائڻ، جيتوڻيڪ؟ اسان کي انتظار ڪرڻو پوندو جيستائين ڪو ماڻهو ڳولڻ لاءِ ڪيس ڪري.
