Discord نے تسلیم کیا ہے کہ اس کے AI اعتدال کے نظام میں ایک بگ نے غلطی سے گزشتہ دو ماہ کے دوران 8000 سے زائد صارفین پر پابندی لگا دی، کیونکہ بے ضرر تصاویر بشمول اسپریڈ شیٹس، چیس بورڈز، گیم ٹیکسچرز، نیز سفید اور سرمئی شفاف پس منظر کو نقصان دہ مواد کے طور پر غلط طور پر نشان زد کیا گیا تھا۔
کمپنی نے تصدیق کی کہ یہ مسئلہ مئی سے اکاؤنٹس کو متاثر کر رہا تھا، اس کی ٹیم نے مسئلے کی نشاندہی کرنے اور اسے حل کرنے سے پہلے ہفتے کے آخر میں اضافی 200 صارفین پر پابندی لگا دی تھی۔ تمام متاثرہ اکاؤنٹس فی الحال بحال ہونے کے عمل میں ہیں۔
یہ واقعہ AI کی مدد سے اعتدال کے ارد گرد بڑھتے ہوئے چیلنجوں میں سے ایک کو اجاگر کرتا ہے کیونکہ بہت سے پلیٹ فارمز بڑے پیمانے پر غیر قانونی یا بدسلوکی والے مواد کی شناخت کے لیے خودکار نظاموں پر تیزی سے انحصار کرتے ہیں۔
X پر ایک تفصیلی دھاگے میں، Discord نے وضاحت کی کہ اس کا خودکار حفاظتی نظام معلوم نقصان دہ مواد کے ڈیٹا بیس کے خلاف اپ لوڈ کردہ مواد کو ملا کر کام کرتا ہے۔ اگرچہ ٹیکنالوجی کو غیر قانونی مواد کو پکڑنے کے لیے ڈیزائن کیا گیا ہے، کمپنی نے تسلیم کیا کہ یہ بعض اوقات غلط مثبتات بھی پیدا کر سکتی ہے۔ ایک انسانی ماڈریٹر مواد کا جائزہ لیتا ہے، لیکن ایک بگ کی وجہ سے سسٹم نے فوری طور پر متاثرہ اکاؤنٹس پر پابندی لگا دی۔
"ہم بہتر حفاظتی اقدامات پر کام کر رہے ہیں تاکہ ایسا دوبارہ نہ ہو،" کمپنی نے لکھا۔
ہمارے سسٹم مواد کو معلوم نقصان دہ مواد سے ملا کر پرچم لگاتے ہیں۔ اس قسم کی مماثلت غلط مثبت پیدا کر سکتی ہے، یہی وجہ ہے کہ ہماری ٹرسٹ اینڈ سیفٹی ٹیم کا ایک رکن کسی بھی کارروائی سے پہلے ہمیشہ جھنڈے والے مواد کا جائزہ لیتا ہے۔ مطلوبہ سلوک یہ ہے کہ… — ڈسکارڈ سپورٹ (@discord_support) 7 جولائی 2026
ہمارے سسٹم مواد کو معلوم نقصان دہ مواد سے ملا کر پرچم لگاتے ہیں۔ اس قسم کی مماثلت غلط مثبت پیدا کر سکتی ہے، یہی وجہ ہے کہ ہماری ٹرسٹ اینڈ سیفٹی ٹیم کا ایک رکن کسی بھی کارروائی سے پہلے ہمیشہ جھنڈے والے مواد کا جائزہ لیتا ہے۔ مطلوبہ سلوک یہ ہے کہ…
X اور Reddit میں، صارفین نے دعویٰ کیا ہے کہ انہیں صرف مربع گرڈ پیٹرن پر مشتمل تصاویر اپ لوڈ کرنے پر مستقل طور پر معطل کر دیا گیا تھا۔ کئی صارفین نے قیاس کیا کہ Discord کے AI اعتدال پسندی کے ٹولز گرڈ جیسے پیٹرن کے لیے تیزی سے حساس ہو گئے ہیں کیونکہ وہ پہلے خود کار پتہ لگانے والے نظاموں سے NSFW اور بچوں کے استحصال کے مواد کو غیر واضح یا چھپانے کی کوششوں میں استعمال ہوتے رہے ہیں۔
متاثرہ صارفین سوشل میڈیا پر مایوسی کا اظہار کر رہے ہیں، کچھ لوگ یہ دلیل دیتے ہیں کہ صرف خود کار طریقے سے پتہ لگانے کی بنیاد پر اکاؤنٹ پر مستقل پابندی کے سنگین نتائج ہو سکتے ہیں، خاص طور پر ان صارفین کے لیے جو کام، گیمنگ کمیونٹیز، یا لمبی دوری کے سماجی رابطوں کے لیے Discord پر انحصار کرتے ہیں۔
"Discord اکاؤنٹ کو کسی غیر منصفانہ چیز سے محروم کرنا انتہائی تباہ کن ہوسکتا ہے اور صارفین کو شدید متاثر کر سکتا ہے، اور ہر روز لاکھوں صارفین جھوٹے AI پابندیوں سے متاثر ہوتے ہیں۔ اسے روکنے کی ضرورت ہے،" ایک X صارف نے لکھا۔
میرے اکاؤنٹ کو آپ کے پلیٹ فارم سے غلط طریقے سے روک دیا گیا تھا کیونکہ آپ کے AI آٹو موڈ میں میرے گیم ٹیکسچرز کو CSAM کے طور پر پتہ چلا تھا۔ مجھے اپنا اکاؤنٹ واپس درکار ہے کیونکہ میں ایک گیم ڈائریکٹر ہوں اور اپنی تمام بات چیت کے لیے Discord استعمال کرتا ہوں۔ میں نے اپنی معطلی پر نظرثانی کی درخواست کی ہے۔ @discord @discord_support pic.twitter.com/QfAkCIJo6S — JDBRYANT 🎂 آج (@jdbryantdev) 4 جولائی 2026
میرے اکاؤنٹ کو آپ کے پلیٹ فارم سے غلط طریقے سے روک دیا گیا تھا کیونکہ آپ کے AI آٹو موڈ میں میرے گیم ٹیکسچرز کو CSAM کے طور پر پتہ چلا تھا۔ مجھے اپنا اکاؤنٹ واپس درکار ہے کیونکہ میں ایک گیم ڈائریکٹر ہوں اور اپنی تمام بات چیت کے لیے Discord استعمال کرتا ہوں۔ میں نے اپنی معطلی پر نظرثانی کی درخواست کی ہے۔ @discord @discord_support pic.twitter.com/QfAkCIJo6S
خودکار نظاموں کی وجہ سے اعتدال کی پریشانیوں کا سامنا کرنے میں ڈسکارڈ اکیلا نہیں ہے۔ پچھلے سال، انسٹاگرام اور فیس بک گروپس کے صارفین نے بڑے پیمانے پر غیر واضح اکاؤنٹس کی معطلی کی اطلاع دی تھی جس کے بارے میں بہت سے لوگوں کا خیال تھا کہ یہ AI اعتدال کے نظام کی وجہ سے ہوا ہے۔ اگرچہ صارفین نے ممکنہ مجرم کے طور پر آٹومیشن کی طرف اشارہ کیا، میٹا نے کبھی بھی عوامی طور پر اس بات کی تصدیق نہیں کی کہ آیا AI کی غلطیاں ذمہ دار تھیں۔ اب میٹا کا نگران بورڈ شفافیت کو بڑھانے پر زور دے رہا ہے۔
ٹمبلر کو پچھلے سال بھی صارفین کی شکایات کا سامنا کرنا پڑا جنہوں نے کہا کہ ان کے اکاؤنٹس کو واضح وضاحتوں کے بغیر بڑے پیمانے پر معطل کر دیا گیا تھا۔
