د کرکې وړ وینا چې یو وخت په شخصی توګه خپره شوې وه اوس د پردې تر شا د نامعلوم آنلاین حسابونو له لارې لرې او ګړندی سفر کوي.
لکه څنګه چې ملګري ملتونه د جون په 18 د کرکې د بیانونو سره د مبارزې نړیواله ورځ لمانځي، د ملګرو ملتونو سرمنشي انتونیو ګوټریس خبرداری ورکړ چې ټولنیز پلیټونه ګواښ ته وده ورکوي.
د مصنوعي استخباراتو (AI) سره په زیاتیدونکي توګه د آنلاین نفرت بیانونو کشف او لرې کولو دنده په غاړه لري ، الجزیره ګوري چې چیرې دا سیسټمونه د انساني قضاوت په پرتله کم دي.
د ملګرو ملتونو په وینا، د کرکې وینا هر هغه ارتباط پوښي - ویل شوي، لیکلي یا چلند - چې د یو شخص یا ډلې په وړاندې تبعیض یا تاوتریخوالی هڅوي.
ملګري ملتونه وايي چې کرکې خبرې د یو شخص اصلي یا پیژندل شوي هویت، نژاد، توکم، مذهب، جنسیت، جنسي تمایل یا معلولیت په نښه کوي. او دا په کلمو پورې محدود نه دی، د ملګرو ملتونو په یادولو سره چې دا کولی شي د انځورونو، کارټونونو، اشارو او حتی شیانو بڼه هم واخلي.
د ۲۰۲۳ کال د یوې ګډې سروې له مخې چې په ۱۶ هېوادونو کې د ۸۰۰۰ کسانو په اړه د رایې ورکونې شرکت Ipsos او د ملګرو ملتونو د تعلیمي، علمي او کلتوري سازمان (UNESCO) له خوا ترسره شوې، له دوه پر درېیمه برخه انټرنیټ کاروونکي د انلاین کرکې له خبرو سره مخ شوي.
سروې دا هم وموندله چې 33 سلنه خلکو فکر کاوه چې د LGBTQI خلکو د کرکې د بیان ډیری قضیې تجربه کړې، ورپسې قومي او نژادي اقلیتونه (28 سلنه) او ښځې (18 سلنه).
میټا، چې د فیسبوک مالکیت لري، د 2023 راهیسې لږ نفرت لرونکي پوسټونه لرې کړي دي. د 2025 په وروستۍ ربع کې، شرکت 1.3 ملیون پوسټونه له انسټاګرام او 1.3 ملیون فیسبوک څخه لرې کړي، په پرتله چې د 2024 په څلورم ربع کې 7.4 ملیونه له انسټاګرام او 5.8 ملیون فیسبوک څخه لرې شوي.
دا په داسې حال کې راغله چې شرکت د کرکې د بیان د فعال کشف څخه لیرې شو او د مقابلې راپور ورکولو لپاره په کاروونکو باندې ډیر تکیه وکړه.
له بلې خوا، ټیک ټیک وویل چې دا د 2025 په څلورم ربع کې د راپور ورکولو دمخه د ټولو کرکې وینا او مینځپانګې 96.3 سلنه لرې کړې.
د انلاین د کرکې د بیان د خپریدو د کشف او مخنیوي لپاره، د ټولنیزو رسنیو شرکتونو په زیاتیدونکي توګه AI ته مخه کړې، د لوی ژبې ماډلونو (LLMs) لخوا پرمخ وړل شوي د مینځپانګې اعتدال سیسټمونو په کارولو سره چې د پیغامونو په لوی مقدار کې د مینځپانګې فلټر کولو اتومات کولو ژمنه کوي.
په عموم کې، دا سیسټمونه د ناوړه ژبې د موندلو لپاره لیبل شوي ډیټاسیټونه او مخکې له مخکې روزل شوي ژبې ماډلونه کاروي. دوی بیا قواعد پلي کوي یا د سکور حدونه پلي کوي ترڅو پریکړه وکړي چې ایا مینځپانګه کرکه ده یا د شرکت پالیسیو څخه سرغړونه کوي.
د پنسلوانیا پوهنتون د څیړونکو لخوا د 2025 مطالعې وموندله چې دا ماډلونه په پراخه کچه توپیر لري چې څنګه دوی د کرکې وینا پیژندلو او طبقه بندي کوي، په سیسټمونو او ډیموګرافیک ګروپونو کې د پام وړ توپیرونو سره، د آنلاین تعصب او غیر مساوي محافظت په اړه اندیښنې راپورته کوي.
مطالعې د اوه AI اعتدال سیسټمونه ارزولي - پشمول د OpenAI، Anthropic، DeepSeek، Mistral، او Google ماډلونه - او په کټګوریو کې د کرکې وینا پیژندلو او نمرو ورکولو کې لوی توپیرونه وموندل.
دا چارټ ښیي چې څنګه د AI اعتدال مختلف سیسټمونه د نفرت بیان شدت په 0-1 پیمانه ورته ډلې په نښه کوي. لوړ ارزښتونه ښیي چې ماډل د محتوياتو د ډیر نفرت په توګه قضاوت کړی.
د Mistral Moderation Endpoint اکثرا د 1 سره نږدې کلستر کیږي، پدې معنی چې دا ډیری مثالونه د هدف ګروپ په پام کې نیولو پرته د خورا کرکې په توګه لیبل کوي.
د OpenAI منځګړیتوب پای ټکی د ډیری کټګوریو لپاره خورا ټیټ نمرې تولیدوي، ځینې وختونه د نورو ماډلونو لخوا ټاکل شوي نیمایي څخه کم.
لکه څنګه چې د مطالعې لیکوالان دا بیانوي، "که دوه سیسټمونه د ورته محتوياتو لپاره مختلف پایلې تولید کړي - په یوه قضیه کې د نفرت بیان په توګه بیرغ کول مګر په بل کې نه - دا د اعتدال پروسې مشروعیت کمزوری کوي."
پداسې حال کې چې د AI سیسټمونه د دې وړتیا لري چې د کرکې څرګندونه کشف کړي - د بیلګې په توګه، کله چې د یوې ځانګړې ډلې په وړاندې سپکاوی او سپکاوی کارول کیږي - د LLMs لخوا ډیر مهم مثالونه له لاسه ورکوي.
"یوه ننګونکې بیلګه د منفي نفرت بیان قضیه ده ، کوم چې ډیری وختونه داسې نه پیژندل کیږي ځکه چې پدې کې د سپکاوی یادونه نشته ،" آرکیټز زوبیاګا ، د لندن د کوین میری پوهنتون همکار پروفیسور او د پوهنتون د ټولنیزو معلوماتو ساینس لابراتوار شریک مشر الجزیرې ته وویل. "دا د مثبت غږیز پیغام قضیه کیدی شي لکه "زه غواړم وګورم چې نړۍ به څومره عالي وي که ..." وروسته د توهین پیغام د ډیموګرافیک ګروپ ته سپکاوی کوي. د AI سیسټمونه کولی شي پدې پیغامونو کې د کرکې لیدلو لپاره مبارزه وکړي که چیرې دوی د پیغام په مثبت اړخ تمرکز وکړي. زوبیاګا زیاتوي چې برعکس هم ریښتیا ده، چیرې چې داسې ښکاري چې سپکې کلمې، چې اوس په ژبه کې د نورو زړه پورې موخو لپاره شامل شوي، د نفرت بیان په توګه روښانه شوي.
هغه وویل: "دا د بیا ترلاسه شوي ژبې قضیه ده، چیرې چې کلیدي کلمې چې په تاریخي ډول سپکې ګڼل کیږي د ټولنو لخوا منل شوي او بیا کارول کیږي چې دوی په پیل کې د بې عزتۍ لپاره کارول شوي، او بیا وروسته د محرومې ټولنې د غړو ترمنځ کارول کیږي." "پداسې حال کې چې دا قضیې باید د کرکې په توګه ونه پیژندل شي، د AI سیسټمونه د دې کولو تمایل لري."
