ايلون مسڪ جي xAI هڪ گروڪ صارف تي ڪيس ڪيو آهي، هن تي الزام لڳايو آهي ته چيٽ بوٽ استعمال ڪندي ٻارن جي جنسي بدسلوڪي واري مواد ۽ غير رضامندي واضح ڊيپ فيڪس ٺاهڻ لاء.
اهو مقدمو ٽيڪساس جي وفاقي عدالت ۾ ٽيري وين هارووڊ خلاف داخل ڪيو ويو، ڏکڻ ڪيرولينا جي هڪ شخص، جنهن کي هن سال جي شروعات ۾ نابالغ ٻارن جي جنسي استحصال جي الزام ۾ گرفتار ڪيو ويو هو. اهو ڪيس هڪ AI ڪمپني پاران پهرين ڄاڻايل مقدمن مان هڪ آهي هڪ صارف جي خلاف AI سسٽم سان غير قانوني واضح مواد ٺاهڻ جو الزام.
xAI الزام لڳايو ته هارووڊ ڪمپني جي سروس جي شرطن ۽ قابل قبول استعمال جي پاليسي جي ڀڃڪڙي ڪئي Grok استعمال ڪندي غير جنسي تصويرن کي جنسي طور تي واضح تصويرن ۾ تبديل ڪرڻ لاءِ مضمونن جي ڄاڻ يا رضامندي کانسواءِ.
ڪمپني جي دعويٰ آهي ته هاروڊ ڪيترن ئي xAI اڪائونٽ ٺاهيا ۽ غير قانوني يا بدسلوڪي مواد کي بلاڪ ڪرڻ لاءِ ٺهيل حفاظتي قدمن کي نظرانداز ڪرڻ لاءِ گمراهه ڪندڙ اشارا استعمال ڪيا. مقدمي جو چوڻ آهي ته مبينا مواد ۾ نابالغ ۽ بالغ شامل آهن.
xAI اهو پڻ دعوي ڪري ٿو ته هارووڊ جي مبينا ڪارناما ڪمپني کي قانوني خطري ۽ شهرت کي نقصان پهچايو.
مقدمي ۾، xAI جو چوڻ آهي ته اهو غير قانوني يا بدسلوڪي مواد سان ڳنڍيل اڪائونٽن جي وڏي انگ جي خلاف ڪارروائي ڪئي آهي.
ڪمپني دعويٰ ڪري ٿي ته هن 2026 ۾ 52000 کان وڌيڪ اڪائونٽس معطل ڪيا ۽ 73000 کان وڌيڪ رپورٽون نيشنل سينٽر فار مسنگ اينڊ ايڪسپلائيٽڊ چلڊرن کي ڏنيون. اهو پڻ چوي ٿو ته انهن رپورٽن ۾ گهٽ ۾ گهٽ 244 گرفتاريون ٿيون.
xAI نقصان جي طلب ڪري رهيو آهي ۽ هڪ عدالتي حڪم جيڪو هاروڊ کي مستقل طور تي گروڪ استعمال ڪرڻ کان روڪيندو ، رائٽرز جي مطابق.
اهو مقدمو آيو آهي جڏهن گروڪ کي AI جي ٺاهيل جنسي ڊيپ فيڪس تي تنقيد کي منهن ڏيڻو پيو.
هن سال جي شروعات ۾، نوجوانن ڪيليفورنيا ۾ xAI تي مقدمو ڪيو، الزام لڳايو ته گروڪ استعمال ڪيو ويو ته عام تصويرن مان نابالغ جي جنسي تصويرون ٺاهي. ڪيس AI اوزارن بابت وسيع خدشات پيدا ڪيو جيڪي تصويرون تبديل ڪري سگھن ٿا ۽ نقصانڪار ڊيپ فيڪ مواد ٺاهي سگھن ٿا.
xAI غير رضامندي واضح ڊيپ فيڪس جي رپورٽن کانپوءِ گروڪ جي تصويري اوزارن تي پڻ تنقيد جو سامنا ڪيو آهي. ڪمپني بعد ۾ ڪجهه تصويرن جي ترميم جي صلاحيتن کي محدود ڪري ڇڏيو ۽ چيو ته اها جنسي استحصال ۽ غير رضامندي جي عريانيت تي صفر رواداري پاليسي آهي.
ايلون مسڪ اڳ ۾ چيو هو ته صارف جيڪي Grok سان غير قانوني مواد ٺاهي رهيا آهن انهن کي ساڳيو نتيجن کي منهن ڏيڻو پوندو جيڪي غير قانوني مواد اپلوڊ ڪندا آهن.
xAI ان موقف جو حوالو ڏنو ان جي مقدمي ۾، دليل ڏنو ته هارووڊ جي گروڪ جي مبينا استعمال ڪمپني جي ضابطن کي ٽوڙيو ۽ متاثرين ۽ پليٽ فارم ٻنهي کي نقصان پهچايو.
اهو ڪيس هڪ اهم ابتدائي امتحان بڻجي سگهي ٿو ته AI ڪمپنيون ڪيئن جواب ڏين ٿيون جڏهن صارفين مبينا طور تي غير قانوني يا بدسلوڪي مواد ٺاهڻ لاءِ جنريٽو اي آئي ٽولز کي غلط استعمال ڪن ٿا.
تازه ترين ٽيڪني خبرن، ٽيليڪم بصيرت، ۽ پراڊڪٽ لانچ حاصل ڪريو جتي توهان چاهيو ٿا.
ProPakistani کي ترجيحي ذريعن ۾ شامل ڪريو ۽ ڏسو اسان جون وڌيڪ ڪهاڻيون گوگل سرچ ۽ ٽاپ اسٽوريز ۾.
شيئرز
