Hugging Face AI اوزارن جي ميزباني ڪري رهيو آهي جيڪي غير متفقه مباشرت تصويرون ٺاهي سگھن ٿا، يورپي غير منافع بخش اي آءِ فارنڪس جي نئين مطالعي مطابق.
محققن هنگنگ فيس اسپيس جو جائزو ورتو، پليٽ فارم جي خصوصيت AI ماڊلز ۽ ايپليڪيشنن جي ميزباني ۽ جانچ لاءِ. هنن ڏٺا ته ڪيترائي مشهور تصويري ايڊيٽنگ جا اوزار عام تصويرن مان جنسي ڊيپ فيڪس ٺاهي سگهن ٿا ٿوري مزاحمت سان.
AI Forensics 25 جون 2026 تائين نون مشهور تصويري ايڊيٽنگ ماڊلز کي آزمايو.
محقق هڪ عورت جي AI ٺاهيل تصوير استعمال ڪئي ۽ ماڊلز کي چيو ته اهو ساڳيو چهرو رکڻ ۽ پوز ڪرڻ دوران هن جي جسم جي مٿئين حصي کان ڪپڙا هٽائڻ.
نون مان ست ماڊل درخواست جي تعميل ڪئي. محققن چيو ته انهن پيچيده اشارا استعمال نه ڪيا يا حفاظتي قدمن کي نظرانداز ڪرڻ جي ڪوشش ڪئي.
AI Forensics پوءِ ان جي پنهنجي تصويري ايڊيٽنگ واري جاءِ جو مطالعو ڪيو ته استعمال ڪندڙ جيڪي پيدا ڪرڻ جي ڪوشش ڪري رهيا هئا. ماڊل اصل ۾ ڪا به تصوير نه ٺاهي هئي، پر محقق هڪ هفتي لاء جمع ٿيل اشارو گڏ ڪيو.
انهن کي 1081 موڪلون مليون، جن ۾ 73 سيڪڙو جنسي مواد شامل هئا.
انهن جنسي درخواستن ۾، 83٪ هڪ اپلوڊ ٿيل تصوير ۾ شخص کي ڪپڙا يا جنسي ڪرڻ جي ڪوشش ڪئي. اٽڪل 95 سيڪڙو انهن مضمونن مان عورتون هيون، جڏهن ته جنسي درخواستن جو 6.7 سيڪڙو ظاهري نابالغ شامل هئا.
ٽيسٽ اسپيس بالغ يا NSFW استعمال لاءِ ليبل نه ڪئي وئي هئي.
AI Forensics چيو ته تقريبن 3 سيڪڙو اسپيسز جن جو اهو آڊٽ ڪيو ويو انهن ۾ آئوٽ پُٽ اعتدال هو.
Hugging Face ۾ پاليسيون آهن ٻارن جي جنسي زيادتي واري مواد تي پابندي ۽ جنسي ڊيپ فيڪس جيڪي واضح رضامندي کان سواءِ ٺاهيا ويا آهن. بهرحال، محققن چيو ته انهن کي تمام ٿورڙا پليٽ فارم-سطح جا حفاظتي طريقا مليا آهن جيڪي صارفين کي اهڙيون تصويرون پيدا ڪرڻ يا ان مقصد لاءِ استعمال ڪرڻ جي قابل اوزار اپلوڊ ڪرڻ کان روڪي رهيا آهن.
محققن چيو ته انفرادي ڊولپرز پنهنجو تحفظ شامل ڪري سگھن ٿا، پر اڪثر آزمائشي اوزارن ۾ اثرائتو تحفظات نظر نه آيا.
AI Forensics سفارش ڪئي پليٽ فارم-وائڊ پرامپٽ فلٽرنگ ۽ آئوٽ اسڪيننگ اسپيس لاءِ جيڪي تصويرون ۽ وڊيوز ٺاهين ٿيون.
نتيجا اچن ٿا جيئن حڪومتون، بشمول يورپ ۽ برطانيه ۾ اختيارين، تصويرن مان لباس کي ڊجيٽل طور تي هٽائڻ لاءِ ٺهيل AI اوزارن جي خلاف هلن ٿيون.
تازه ترين ٽيڪني خبرن، ٽيليڪم بصيرت، ۽ پراڊڪٽ لانچ حاصل ڪريو جتي توهان چاهيو ٿا.
ProPakistani کي ترجيحي ذريعن ۾ شامل ڪريو ۽ ڏسو اسان جون وڌيڪ ڪهاڻيون گوگل سرچ ۽ ٽاپ اسٽوريز ۾.
ٽيڪنالاجي ۽ گاڏين جو ماهر جديد ڪارن، اسمارٽ فونز، AI ڪاميابين، ۽ ...
شيئرز
