مھينن لاءِ، AI جنات ٺاھيا آھن خاص جانچيل پروگرام ۽ سخت گارڊ ريلس انھن جي ماڊلز جي استعمال کي محدود ڪرڻ لاءِ بدسلوڪي ھيڪرز پاران. پر اهي حدون هاڻي قانوني نيٽ ورڪ جي محافظن جي ڪم کي روڪي رهيا آهن، انهي سان گڏ جارحتي سائبر سيڪيورٽي محققن جي.
جون ۾، يو ايس جي حڪومت اينٿروپڪ جي تمام گهڻي مشهور AI ماڊلز Mythos ۽ Fable تي ايڪسپورٽ ڪنٽرول پابنديون ختم ڪري ڇڏيون. اهو قدم گهٽ ۾ گهٽ هڪ رپورٽ جي ذريعي پيش ڪيو ويو جنهن ۾ دعويٰ ڪئي وئي ته اهو ممڪن آهي ته ماڊلز جي محافظن کي نظرانداز ڪرڻ لاءِ ٺاهيل استعمال ڪندڙن کي انهن کي استعمال ڪرڻ کان روڪڻ لاءِ بدسلوڪي سائبر حملن کي ٺاهڻ ۽ ان تي عمل ڪرڻ.
قطع نظر ته ڇا واقعي واقعي جيل برڪ جي خوف کان متاثر ٿيو هو، حقيقت اها آهي ته انٿروپڪ بار بار Mythos کي ڪجهه قسم جي قيامت واري سائبر مشين جي طور تي مارڪيٽ ڪيو آهي، جيڪا صرف احتياط سان جانچيل استعمال ڪندڙن کي ڏئي سگهجي ٿي، ۽ ان جي باوجود سخت گارڊن سان گڏ. (Fable 5 ۽ Mythos 5 تي ايڪسپورٽ ڪنٽرول ان کان پوءِ ختم ڪيا ويا آهن. Fable 5 1 جولاءِ تي عام رسائي ڏانهن موٽيو؛ Mythos 5 صرف حڪومت جي جائزي جي عمل جي حصي جي طور تي آمريڪي تنظيمن کي ٻيهر متعارف ڪرايو ويو آهي.)
انهي قسم جي دروازي جي سنڀال Mythos لاءِ منفرد ناهي. ٻئي Anthropic، ان جي ٻين ماڊلز سان گڏ، ۽ OpenAI پيش ڪري ٿو سائبر سيڪيورٽي محققن جا پروگرام جيڪي اهي لاڳو ڪري سگهن ٿا جاچ حاصل ڪرڻ لاءِ ۽ - جيڪڏهن منظور ٿيل آهن - رسائي ماڊلز سان گهٽ سائبر سيڪيورٽي پابنديون: OpenAI جي قابل اعتماد رسائي سائبر ۽ اينٿروپڪ جي سائبر تصديق پروگرام لاءِ.
انهن محافظن تي وڏي پئماني تي تنقيد ڪئي وئي آهي، خاص طور تي محققن پاران جن جو ڪم آهي سسٽم ۾ اڻڄاتل ڪمزورين کي ڳولڻ ۽ ڏوهن کان اڳ انهن کي استحصال ڪرڻ جا طريقا.
سائبر سيڪيورٽي پوڊ ڪاسٽ تي هڪ تازي ظهور دوران، مارڪ ڊوڊ، هڪ مشهور سيڪيورٽي محقق، چيو ته، "اهو واقعي مون لاء آرامده نه آهي ته اهي بي ترتيب وڏيون ڪمپنيون پاڻمرادو فيصلا ڪري رهيون آهن ته سيڪيورٽي ۾ ڇا محفوظ آهي ۽ ڇا ناهي."
ڊاؤڊ ڏهاڪن تائين ”صفر ڏينهن“ ڳولڻ ۽ وڪڻڻ ۾ گذاريو آهي - اڳ ۾ نامعلوم سافٽ ويئر جي خاميون ۽ استحصال جيڪي انهن مان فائدو وٺن ٿا - مغربي حڪومتن کي ، بجاءِ انهن کي سافٽ ويئر ٺاهيندڙن کي رپورٽ ڪرڻ جي ته جيئن اهي پيچ ٿي وڃن. حڪومتون خامين لاءِ پريميئم ادا ڪنديون آهن ڇاڪاڻ ته اهي کليل رهن ٿيون، جيڪو انٽيليجنس آپريشنز لاءِ ڪارآمد آهي.
داؤد تسليم ڪيو ته سندس ڪم کيس باصلاحيت بڻائي سگهي ٿو، پر هو اڪيلو نه آهي. ڪيترائي ماڻهو جيڪي جارحتي سائبر سيڪيورٽي ۾ ڪم ڪن ٿا - اهي ڪمزورين لاءِ سسٽم کي فعال طور تي جانچ ڪن ٿا - TechCrunch کي بيان ڪيو ويو آهي ته اهي AI اوزار ڪيئن استعمال ڪن ٿا ۽ انهن جي سرپرستي سان ڊيل ڪن ٿا.
ڪرس اينلي، سيڪيورٽي صلاحڪار ديو اين سي سي گروپ جي چيف سائنسدان، چيو آهي ته هڪ AI ماڊل کان پڇڻ جي ڪوشش ڪرڻ جي ڪوشش ڪرڻ لاء بگ جو استحصال ڪرڻ جي تصديق ڪرڻ ۾ هڪ اهم قدم آهي اهو درست ڪرڻ جي قابل حقيقي نقصان آهي. پر جيڪڏهن هڪ گارڊ ريل ماڊل کي اشارو ڏئي ٿو ته سوال جو جواب ڏيڻ کان انڪار ڪري، گارڊ ريل محافظن کي نقصان پهچائي، هن چيو.
"هي اهو آهي جتي مڪمل جارحيت بمقابله دفاعي ۽ محافظن جو حصو اچي ٿو، ڇاڪاڻ ته 'هن ڪوڊ کي درست ڪريو' هڪ فوري طور تي دفاع لاء هڪ لازمي ميکانيزم آهي پر ڪوڊ بيس ۾ نازڪ خطرات کي ڳولڻ لاء روڊ ميپ پڻ آهي،" اينلي چيو. "تنهنڪري ساڳئي وقت، ساڳيو اوزار هڪ جارحتي اوزار ۽ هڪ دفاعي اوزار آهي، ۽ ٻنهي کي حقيقت ۾ اڻڄاتل نه ٿو ڪري سگهجي."
اهو آهي ”هڪ هامر وانگر،“ هن جاري رکيو. "توهان هڪ گهر بغير هٿيارن جي تعمير نٿا ڪري سگهو. اهو ضرور هڪ اوزار آهي پر اهو پڻ ناقابل برداشت طور تي هڪ هٿيار پڻ آهي."
جڏهن هو ۽ هن جا ساٿي اهڙي روڊ بلاڪ ۾ هلندا آهن، اهي ڪڏهن ڪڏهن اوپن سورس اي آئي ماڊلز تي واپس ايندا آهن جيڪي ڪنهن به گارڊ سان گڏ ايندا آهن.
Paolo Stagno، CrowdFense ۾ چيف ٽيڪنالاجي آفيسر، هڪ مشهور ڪمپني جيڪا ترقي ڪري ٿي، حاصل ڪري ٿي ۽ اڻڄاتل ڪمزورين کي سرڪاري ايجنسين کي وڪرو ڪري ٿي، ڊاؤڊ سان اتفاق ڪيو، چيو ته AI ڪمپنيون "لازمي طور تي گراهڪ کي ٻارن وانگر علاج ڪن ٿيون جن کي ٻارن جي سار سنڀال جي ضرورت آهي" انهن جي جانچيل پروگرامن ۽ محافظن سان.
اسٽيگنو چيو ته هو ۽ هن جا ساٿي فرنٽيئر ماڊل استعمال ڪندا آهن - پر صرف ريورس انجنيئرنگ لاءِ. اهي AI استعمال ڪرڻ کان پاسو ڪن ٿا مدد ڪرڻ لاءِ ڪمزورين کي ڳولڻ يا استحصال پيدا ڪرڻ لاءِ ، هن چيو ، ڇاڪاڻ ته فيڊنگ جيڪو ڪم ڪلائوڊ بيسڊ ماڊل ۾ ڪري ٿو حساس خطري واري ڊيٽا کي ليڪ ڪرڻ يا ان کي مستقبل جي ٽريننگ رن ۾ جذب ٿيڻ جو خطرو. انهي قدم لاءِ ، هن چيو ، اهي استعمال ڪندا آهن اوپن سورس ماڊل مقامي طور تي هلندا آهن ، جيئن اهي ماڊل کان ٻاهر ڊيٽا شيئر ڪرڻ تي ڀروسو نٿا ڪن. Giuseppe Cali، هڪ سيڪيورٽي محقق جيڪو صفر ڏينهن ڳولي ٿو ۽ استحصال پيدا ڪري ٿو، چيو ته گارڊ ريل هن جي ڪم ۾ رڪاوٽ نه آهن. اهو ئي سبب آهي ته هو AI استعمال نه ڪندو آهي جارحتي ڪم لاء؛ ان جي بدران، هو ان کي استعمال ڪري ٿو شروعاتي ريورس انجنيئرنگ لاءِ، ان ڪوڊ کي سمجهڻ لاءِ جيڪو هو تجزيو ڪري رهيو آهي، ۽ مدد ڪندڙ اوزار ٺاهڻ لاءِ. ان لاءِ، هن چيو ته، AI اوزار عمل کي تيز ڪري سگهن ٿا ۽ هن کي اجازت ڏين ٿا ته هو نقصانن کي ڳولڻ تي ڌيان ڏئي.
"مان اڃا تائين حقيقي بگ دريافت ۽ هٿيارن جي مالڪ ٿيڻ چاهيان ٿو ۽ اهو تبديل نه ٿيندو جيڪڏهن سڀ گارڊز سڀاڻي ڪڍيا ويا،" ڪيلي چيو. "مان پنهنجي جيتن تي حسد آهيان، ۽ مون کي هن راند کي تمام گهڻو پسند آهي ته ماڊلز کي منهنجي لاءِ کيڏڻ ڏيو."
هڪ اسمارٽ فون-جزو ساز ٺاهيندڙ تي هڪ محقق، جنهن پنهنجو نالو ظاهر نه ڪرڻ جي شرط تي ڳالهايو ڇاڪاڻ ته هو پريس سان ڳالهائڻ جو مجاز نه آهي، چيو ته هن جو آجر انٿروپڪ جي سي وي پي پروگرام جو حصو ناهي ۽ نتيجي طور، ان جا اوزار ڪمزورين کي ڳولڻ لاءِ بمشڪل ڪارآمد آهن ڇاڪاڻ ته محافظ تمام سخت آهن.
”جيڪڏهن اهو واءُ پڪڙي ٿو ته اسان حفاظت سان لاڳاپيل ڪجهه ڪري رهيا آهيون ، اهو صرف بند ٿي وڃي ٿو ۽ استعمال لائق ناهي ،“ شخص چيو.
ڪرس ٿامپسن - سائبر سيڪيورٽي فرم RemoteThreat جو چيف ايگزيڪيوٽو ۽ Offensive AI Con جو باني، هڪ جارحتي سيڪيورٽي ۽ AI-مرڪوز واقعو - چيو ته هن جي تجربي ۾ فرنٽيئر اي آءِ ماڊل استعمال ڪندي ، گارڊز متضاد ٿي سگهن ٿا ۽ هر روز مختلف ڪم ڪري سگهن ٿا. اهو سچ آهي جيتوڻيڪ انٿروپڪ ۽ اوپن اي آئي جي تصديق ٿيل پروگرامن جي حدن جي اندر.
”منهنجو خيال آهي ته عملي اثر اهو آهي ته توهان بنيادي سيڪيورٽي پروگرام تي ڪم ڪرڻ بدران ماڊل سان ڳالهين ۾ گهڻو وقت گذاريو ،“ ٿامپسن چيو. "استحصال جي ذريعي ڪمزوري ۽ استدلال جو تجزيو ڪرڻ جي بدران، توهان اهو ڳولڻ جي ڪوشش ڪري رهيا آهيو ته توهان غير مطابقت وارا نتيجا ڇو حاصل ڪري رهيا آهيو يا ماڊل ڇو پيداوار کي وڌيڪ صاف ڪري رهيا آهن."
نتيجي طور، محقق تي ڀاڙين ٿا يا ان طرف ڌڪيو وڃي ٿو چيني اوپن سورس ماڊلز جهڙوڪ GLM - آزاد طور تي ڊائون لوڊ ڪرڻ جا ماڊل جيڪي مقامي طور تي هلائي سگهجن ٿا بغير ڪنهن جاچ يا استعمال جي پابنديون - ٿامپسن چيو.
”توهان وٽ اهي ذميوار محقق آهن جن کي آمريڪي حڪومتي نظامن کان پري ڪري پرڏيهي ملڪيت واري نظام ڏانهن ڌڪيو پيو وڃي ،“ هن چيو. ”منهنجو خيال آهي ته انهن گارڊن کي جاءِ تي رکڻ سٺي کان وڌيڪ نقصانڪار آهي.
پابندين کي وڌيڪ سخت ڪرڻ جي بجاءِ ، ٿامپسن AI فرنٽيئر ليبز کي مطالبو ڪيو ته هو پنهنجا پروگرام کولڻ ، ذميوار رسائي فراهم ڪن ، ۽ انهن کي به روڪين جيڪي انهن جي اوزارن جو غلط استعمال ڪن ٿا. ٻي صورت ۾، هن دليل ڏنو، محافظ AI نسل کي وڃائي ڇڏيندو.
”هتي هي وڏو طوفان اچي رهيو آهي. هتي حملن جي اها وڏي لهر آهي جيڪا رفتار ۽ پيماني تي ٿيڻ وارا آهن جيئن اڳ ڪڏهن به نه ٿيو،“ ٿامپسن چيو. "پر ساڳيا سيڪيورٽي صلاحڪار ڪمپنيون ۽ قانوني محقق جيڪي فرق ڪرڻ جي ڪوشش ڪري رهيا آهن انهن کي هن وقت دٻايو پيو وڃي."
