نفرت واري تقرير جيڪا هڪ ڀيرو ذاتي طور تي گردش ڪئي وئي هئي هاڻي هڪ اسڪرين جي پويان گمنام آن لائن اڪائونٽس ذريعي وڌيڪ ۽ تيز سفر ڪري ٿي.
جيئن ته گڏيل قومن 18 جون تي نفرت واري تقرير جي انسداد لاءِ عالمي ڏينهن جي نشاندهي ڪري ٿي ، گڏيل قومن جي سيڪريٽري جنرل انتونيو گوتريس خبردار ڪيو آهي ته سماجي پليٽ فارم خطري کي وڌائي رهيا آهن.
مصنوعي ذهانت (AI) سان گڏ وڌندڙ نفرت واري تقرير کي آن لائن ڳولڻ ۽ ختم ڪرڻ جو ڪم ، الجزيره ڏسي ٿو ته اهي نظام انساني فيصلي جي مقابلي ۾ ڪٿي گهٽ ٿين ٿا.
گڏيل قومن جي مطابق، نفرت انگيز تقرير ڪنهن به رابطي جو احاطو ڪري ٿو - ڳالهايل، لکيل يا رويي - جيڪو ڪنهن شخص يا گروهه جي خلاف تعصب يا تشدد کي اڀاري ٿو.
گڏيل قومن جو چوڻ آهي ته نفرت انگيز تقرير هڪ شخص جي حقيقي يا سمجهيل سڃاڻپ، نسل، نسل، مذهب، جنس، جنسي رجحان يا معذوري کي نشانو بڻائيندو آهي. ۽ اهو لفظن تائين محدود ناهي، گڏيل قومن جي نوٽس سان اهو پڻ تصويرن، ڪارٽون، اشارو ۽ حتي شين جو روپ وٺي سگھي ٿو.
پولنگ ڪمپني Ipsos ۽ UN تعليمي، سائنسي ۽ ثقافتي تنظيم (UNESCO) پاران ڪيل 16 ملڪن ۾ 8000 ماڻهن جي 2023 جي گڏيل سروي موجب، انٽرنيٽ استعمال ڪندڙن جي ٻن ٽين کان وڌيڪ ماڻهن کي آن لائن نفرت واري تقرير جو سامنا ٿيو.
سروي ۾ اهو پڻ معلوم ٿيو ته 33 سيڪڙو ماڻهن جو خيال آهي ته LGBTQI ماڻهن نفرت واري تقرير جي سڀ کان وڌيڪ ڪيسن جو تجربو ڪيو، بعد ۾ نسلي ۽ نسلي اقليتن (28 سيڪڙو) ۽ عورتون (18 سيڪڙو).
ميٽا، جيڪا Facebook جي مالڪ آهي، 2023 کان وٺي گهٽ نفرت واري پوسٽون هٽائي ڇڏيون آهن. 2025 جي آخري ٽه ماهي ۾، ڪمپني انسٽاگرام تان 1.3 ملين پوسٽون ۽ 1.3 ملين فيسبوڪ تان هٽايون، ان جي مقابلي ۾ 2024 جي چوٿين ٽه ماهي ۾ انسٽاگرام تان 7.4 ملين ۽ فيسبوڪ تان 5.8 ملين هٽايو ويو.
اهو آيو جيئن ڪمپني نفرت واري تقرير جي فعال سڃاڻپ کان پري ٿي وئي ۽ مقابلي جي رپورٽ ڪرڻ لاءِ صارفين تي وڌيڪ انحصار ڪيو.
ٻئي طرف، ٽڪ ٽاڪ چيو ته هن 2025 جي چوٿين چوٿين ۾ 96.3 سيڪڙو سڀني نفرت واري تقرير ۽ مواد کي هٽائي ڇڏيو ان جي رپورٽ ٿيڻ کان اڳ.
آن لائن نفرت واري تقرير جي پکيڙ کي ڳولڻ ۽ ان کي منهن ڏيڻ لاءِ، سوشل ميڊيا ڪمپنيون تيزيءَ سان AI ڏانهن رخ ڪيون آهن، وڏي ٻولي ماڊلز (LLMs) پاران هلندڙ مواد جي چڪاس واري نظام کي استعمال ڪندي جيڪي پيغامن جي وڏي مقدار ۾ مواد فلٽرنگ کي خودڪار ڪرڻ جو واعدو ڪن ٿا.
عام طور تي، اهي سسٽم استعمال ڪن ٿا ليبل ٿيل ڊيٽا سيٽس ۽ اڳواٽ ٿيل ٻولي جا ماڊل بدسلوڪي ٻولي کي ڳولڻ لاءِ. اهي وري لاڳو ڪن ٿا قاعدا يا اسڪور جي حدن کي فيصلو ڪرڻ لاءِ ته ڇا مواد نفرت آميز آهي يا ڪمپني جي پاليسين جي ڀڃڪڙي آهي.
پينسلوانيا يونيورسٽي جي محققن پاران 2025 جي هڪ مطالعي مان معلوم ٿيو ته اهي ماڊل وڏي پيماني تي مختلف آهن ته اهي نفرت واري تقرير کي ڪيئن سڃاڻن ۽ ان جي درجه بندي ڪن، سسٽم ۽ ڊيموگرافڪ گروپن ۾ اهم تضادن سان، آن لائن تعصب ۽ غير مساوي تحفظ بابت خدشات پيدا ڪن.
مطالعي ۾ ست AI چڪاس سسٽم جو جائزو ورتو ويو - بشمول OpenAI، Anthropic، DeepSeek، Mistral، ۽ Google جا ماڊل - ۽ ان ۾ اهم فرق ڏٺا ته ڪيئن انهن ڪيٽيگريز ۾ نفرت واري تقرير جي نشاندهي ڪئي ۽ گول ڪيو.
هي چارٽ ڏيکاري ٿو ته ڪيئن مختلف AI اعتدال واري نظام نفرت واري تقرير جي شدت کي 0-1 پيماني تي ساڳئي گروپن کي نشانو بڻايو. اعليٰ قدر ظاهر ڪن ٿا ته ماڊل مواد کي وڌيڪ نفرت انگيز قرار ڏنو.
Mistral Moderation Endpoint اڪثر ڪري 1 جي ويجهو ڪلستر ڪيو ويندو آهي، مطلب ته اهو ڪيترن ئي مثالن کي ليبل ڪري ٿو انتهائي نفرت ڪندڙ ٽارگيٽ گروپ جي قطع نظر.
OpenAI Moderation Endpoint ڪيترن ئي ڀاڱن لاءِ تمام گهٽ اسڪور پيدا ڪرڻ جي ڪوشش ڪندو آهي، ڪڏهن ڪڏهن ٻين ماڊلز طرفان مقرر ڪيل اڌ کان به گهٽ اسڪور.
جيئن مطالعي جي ليکڪن ان کي بيان ڪيو، "جيڪڏهن ٻه سسٽم مواد جي هڪ ئي ٽڪرا لاء مختلف نتيجا پيدا ڪن ٿا - ان کي هڪ ڪيس ۾ نفرت واري تقرير جي طور تي نشان لڳايو پر ٻئي ۾ نه - اهو اعتدال جي عمل جي قانونيت کي نقصان پهچائي ٿو."
جڏهن ته AI سسٽم واضح نفرت واري تقرير کي ڳولڻ جي قابل هوندا آهن - مثال طور، جڏهن ڪنهن خاص گروهه جي خلاف بدمعاشي ۽ گندگي استعمال ڪئي ويندي آهي - وڌيڪ nuanced مثال LLMs کان مس آهن.
”هڪ مشڪل مثال نفرت واري تقرير جو ڪيس آهي، جنهن کي اڪثر معلوم نه ڪيو ويندو آهي ڇاڪاڻ ته ان ۾ گندگي جو ڪو به ذڪر نه هوندو آهي،“ آرڪيٽز زوبياگا، ڪوئن ميري يونيورسٽي آف لنڊن ۾ ايسوسيئيٽ پروفيسر ۽ يونيورسٽي جي سوشل ڊيٽا سائنس ليب جي گڏيل اڳواڻ، الجزيره کي ٻڌايو. "اهو هڪ مثبت آواز واري پيغام جو معاملو ٿي سگهي ٿو جهڙوڪ "مان اهو ڏسڻ چاهيان ٿو ته دنيا ڪيتري عظيم هوندي جيڪڏهن ..." بعد ۾ ڊيموگرافڪ گروپ جي توهين آميز پيغام جي پٺيان. AI سسٽم انهن پيغامن ۾ نفرت کي ڏسڻ لاء جدوجهد ڪري سگهن ٿا جيڪڏهن اهي پيغام جي مثبت پاسي تي ڌيان ڏيڻ بدران. زبيگا وڌيڪ ٻڌائي ٿو ته ان جي ابتڙ پڻ سچ آهي، جتي بظاهر جارحانه لفظ، جيڪي هاڻي وڌيڪ پياري مقصدن لاءِ ٻولي ۾ شامل ڪيا ويا آهن، انهن کي نفرت واري تقرير طور اجاگر ڪيو ويو آهي.
”هي وري دعويٰ ڪيل ٻولي جو معاملو آهي ، جتي لفظ جيڪي تاريخي طور تي گندا سمجهيا ويندا آهن انهن کي قبول ڪيو ويندو آهي ۽ انهن کي ٻيهر استعمال ڪيو ويندو آهي برادرين انهن کي بدنام ڪرڻ لاءِ استعمال ڪيو ويندو هو ، ۽ پوءِ اهي نعرا پسمانده برادري جي ميمبرن جي وچ ۾ استعمال ڪيا ويندا آهن ،“ هن چيو. "جڏهن ته انهن ڪيسن کي نفرت جي طور تي نشانو بڻائڻ نه گهرجي، اي اي سسٽم کي اهو ڪرڻ جو رجحان آهي."
