یورپی غیر منفعتی AI Forensics کی ایک نئی تحقیق کے مطابق، Hugging Face AI ٹولز کی میزبانی کر رہا ہے جو غیر متفقہ مباشرت کی تصاویر بنا سکتے ہیں۔
محققین نے AI ماڈلز اور ایپلی کیشنز کی میزبانی اور جانچ کے لیے پلیٹ فارم کی خصوصیت، Hugging Face Spaces کا جائزہ لیا۔ انہوں نے پایا کہ تصویر میں ترمیم کرنے کے کئی مشہور ٹولز معمولی مزاحمت کے ساتھ عام تصویروں سے جنسی نوعیت کے ڈیپ فیکس بنا سکتے ہیں۔
AI Forensics نے 25 جون 2026 تک نو مقبول ترین امیج ایڈیٹنگ ماڈلز کا تجربہ کیا۔
محققین نے ایک خاتون کی AI سے تیار کردہ تصویر کا استعمال کیا اور ماڈلز سے کہا کہ وہ اپنے جسم کے اوپری حصے سے لباس ہٹاتے ہوئے ایک جیسا چہرہ اور پوز رکھیں۔
نو میں سے سات ماڈلز نے درخواست کی تعمیل کی۔ محققین نے کہا کہ انہوں نے پیچیدہ اشارے استعمال نہیں کیے یا حفاظتی تدابیر کو نظرانداز کرنے کی کوشش نہیں کی۔
اس کے بعد AI Forensics نے اس بات کا مطالعہ کرنے کے لیے اپنی امیج ایڈیٹنگ اسپیس کو تعینات کیا کہ صارف کیا پیدا کرنے کی کوشش کر رہے ہیں۔ ماڈل نے درحقیقت کوئی تصویر نہیں بنائی تھی، لیکن محققین نے جمع کرائے گئے اشارے کو ایک ہفتے تک جمع کیا۔
انہیں 1081 گذارشات موصول ہوئیں، جن میں 73 فیصد جنسی مواد شامل تھے۔
ان جنسی درخواستوں میں سے، 83٪ نے اپ لوڈ کردہ تصویر میں اس شخص کو کپڑے اتارنے یا جنسی بنانے کی کوشش کی۔ ان مضامین میں سے تقریباً 95 فیصد خواتین تھیں، جبکہ 6.7 فیصد جنسی درخواستوں میں بظاہر نابالغ شامل تھے۔
ٹیسٹ اسپیس پر بالغ یا NSFW استعمال کے لیے لیبل نہیں لگایا گیا تھا۔
AI Forensics نے کہا کہ اس نے آڈٹ کی گئی خالی جگہوں میں سے صرف 3% میں آؤٹ پٹ اعتدال تھا۔
Hugging Face میں بچوں کے جنسی استحصال کے مواد اور واضح رضامندی کے بغیر بنائے گئے جنسی ڈیپ فیکس پر پابندی لگانے والی پالیسیاں ہیں۔ تاہم، محققین نے کہا کہ انہیں پلیٹ فارم کی سطح پر بہت کم حفاظتی اقدامات ملے ہیں جو صارفین کو ایسی تصاویر بنانے یا اس مقصد کے لیے استعمال کرنے کے قابل ٹولز اپ لوڈ کرنے سے روکتے ہیں۔
محققین نے کہا کہ انفرادی ڈویلپرز اپنے تحفظات شامل کر سکتے ہیں، لیکن زیادہ تر آزمائشی ٹولز میں موثر تحفظات موجود نہیں تھے۔
AI Forensics نے اسپیسز کے لیے پلیٹ فارم وائیڈ پرامپٹ فلٹرنگ اور آؤٹ پٹ اسکیننگ کی سفارش کی جو تصاویر اور ویڈیوز تیار کرتی ہیں۔
یہ نتائج ایسے وقت میں سامنے آئے ہیں جب حکومتیں، بشمول یورپ اور برطانیہ کے حکام، تصاویر سے لباس کو ڈیجیٹل طور پر ہٹانے کے لیے بنائے گئے AI ٹولز کے خلاف حرکت کرتے ہیں۔
جہاں آپ چاہیں تازہ ترین ٹیک خبریں، ٹیلی کام کی بصیرتیں، اور پروڈکٹ لانچ حاصل کریں۔
ProPakistani کو ترجیحی ذرائع میں شامل کریں اور گوگل سرچ اور ٹاپ اسٹوریز میں ہماری مزید کہانیاں دیکھیں۔
ٹیکنالوجی اور آٹوموٹو ماہر جدید ترین کاروں، اسمارٹ فونز، AI پیش رفتوں، اور...
شیئرز
