ايلون مسڪ جي xAI ڏکڻ ڪيرولينا جي هڪ شخص جي خلاف هڪ ڪيس داخل ڪيو آهي جنهن کي هن سال جي شروعات ۾ گرفتار ڪيو ويو هو ننڍڙن ٻارن کي جنسي استحصال ڪرڻ جي الزام ۾، هن الزام لڳايو ته هن ڪمپني جي اي آئي ٽول کي غلط استعمال ڪيو ته جيئن هڪ ٻار کي شامل جنسي طور تي واضح مواد ٺاهي.
اڱاري تي ٽيڪساس جي وفاقي عدالت ۾ داخل ڪيل مقدمو، الزام آهي ته ٽيري هاروڊ ڄاڻي واڻي مواد ٺاهڻ لاءِ ڪمپني جي سروس جي شرطن جي ڀڃڪڙي ڪئي.
"[The] مدعا کي غلط سڃاڻپ استعمال ڪندي ڪيترن ئي xAI اڪائونٽ کوليا ويا. xAI جي خدمت جي شرطن ۽ قابل قبول استعمال جي پاليسي تي عمل ڪرڻ تي واضح طور تي اتفاق ڪرڻ جي باوجود، مدعا Grok جي تعمير ٿيل حفاظت کي روڪڻ لاء گمراهه ڪندڙ اشارو ٺاهي ۽ پوء غير جنسي تصويرن کي تبديل ڪرڻ لاء اوزار کي غلط استعمال ڪيو، "عورت جي بغير ڄاڻ جي تصوير 2 جي جنسي طور تي واضح طور تي تصويري تصوير. چيو.
سوٽ الزام آهي ته هارووڊ ٻنهي بالغن ۽ نابالغ جون تصويرون اپ لوڊ ڪيون جيڪي فطرت ۾ جنسي نه هيون ۽ پوءِ نام نهاد ”ڊيپ فيڪس“ ٺاهڻ جي ڪوشش ڪئي جيڪا انهن کي جنسي بڻائي ٿي.
"مدعا جي xAI اڪائونٽن جو جائزو وڌيڪ ڏيکاري ٿو ته لاڳاپيل عرصي دوران ڪيترن ئي موقعن تي، مدعا Grok ڏانهن اشارو پيش ڪيو ته تصويرن جي مضمونن کي جنسي طور تي تبديل ڪرڻ لاء اهڙيون تصويرون تبديل ڪرڻ لاء، گروڪ ان بنياد تي اشارن تي عمل ڪرڻ کان انڪار ڪندي جواب ڏنو ته اهڙي مواد گروڪ جي مواد جي چڪاس جي ڀڃڪڙي ڪئي،" گارڊ جي مواد جي چڪاس شامل ڪئي.
"جواب ۾، مدعا کي بار بار وڌيڪ اشارو پيش ڪيو، ڦيرڦار سان، گروڪ جي اعتدال جي ڪوشش کي روڪڻ جي ڪوشش ۾."
xAI پڻ مالي نقصان جي طلب ڪري رهيو آهي، جيتوڻيڪ ڪيس ۾ هڪ ڊالر جي رقم بيان نه ڪئي وئي آهي، انهي سان گڏ هڪ عدالت جو حڪم مستقل طور تي هاروڊ کي پليٽ فارم استعمال ڪرڻ کان منع ڪري ٿو، جنهن ۾ 2.6 ملين کان وڌيڪ استعمال ڪندڙ آهن.
اهو سوٽ پهريون آهي جيڪو AI ڪمپني پاران پنهنجي هڪ صارف جي خلاف آندو ويو آهي ۽ سڄي دنيا ۾ xAI جي سخت ڇنڊڇاڻ جي وچ ۾ آيو آهي ته جيئن صارفين کي پهرين جڳهه تي پليٽ فارم تي هن قسم جو مواد ٺاهڻ جي اجازت ڏني وڃي.
Grok واشنگٽن ۾ اسپاٽ لائٽ هيٺ رهيو آهي، يورپي ريگيوليٽرز جي ڪراس هير ۾ رهيو آهي، ۽ پليٽ فارم تي ٺاهي سگھجن جنسي طور تي واضح مواد جي حوالي سان ملائيشيا ۽ انڊونيشيا ٻنهي ۾ پابنديون آهن.
هن سال جي شروعات ۾، مسڪ انهن الزامن تي پوئتي ڌڪيو آهي ته گروڪ ٻارن جي AI ٺاهيل جنسي تصويرون ٺاهي، خاص طور تي ننگي تصويرون.
"مان [آئون] واقف ناهيان ڪنهن به ننگي ننڍي عمر جي تصويرن جي ٺاهيل گروڪ طرفان. لفظي طور تي صفر،" مسڪ جنوري ۾ ايڪس پوسٽ ۾ چيو.
xAI جي شڪايت ۾ چيو ويو آهي ته ڪمپني "اڪاؤنٽ معطل ڪرڻ، اڪائونٽ ختم ڪرڻ، ۽ گم ٿيل ۽ استحصال ٿيل ٻارن لاء نيشنل سينٽر کي مشڪوڪ ٻارن جي جنسي زيادتي جي مواد جي رپورٽ ڪندي، خلاف ورزي ڪندڙن جي خلاف پنهنجا ضابطا لاڳو ڪري ٿي."
شڪايت جي نشاندهي ڪئي وئي آهي ته پليٽ فارم 52000 کان وڌيڪ اڪائونٽس معطل ڪيا ۽ تنظيم کي 73000 کان وڌيڪ شڪايتون ڪيون، جنهن جي نتيجي ۾ صرف 2026 ۾ تقريبن 250 گرفتاريون ڪيون ويون.
