ایلون مسک کے ایکس اے آئی نے جنوبی کیرولائنا کے ایک شخص کے خلاف مقدمہ دائر کیا ہے جسے اس سال کے شروع میں نابالغوں کے جنسی استحصال کے الزام میں گرفتار کیا گیا تھا، جس میں الزام لگایا گیا تھا کہ اس نے کمپنی کے اے آئی ٹول کا غلط استعمال کرتے ہوئے جنسی طور پر واضح مواد تیار کیا جس میں بچے شامل تھے۔
مَنگَل کو ٹیکساس کی ایک وفاقی عدالت میں دائر مقدمہ میں الزام لگایا گیا ہے کہ ٹیری ہاروڈ نے جان بوجھ کر مواد بنانے کے لیے کمپنی کی سروس کی شرائط کی خلاف ورزی کی۔
"[مدعا علیہ] نے جھوٹی شناخت کا استعمال کرتے ہوئے ایک سے زیادہ xAI اکاؤنٹس کھولے۔ xAI کی سروس کی شرائط اور قابل قبول استعمال کی پالیسی کی پابندی کرنے پر واضح طور پر رضامندی کے باوجود، مدعا علیہ نے Grok کے بلٹ ان حفاظتی اقدامات کو روکنے کے لیے گمراہ کن اشارے بنائے اور پھر غیر جنسی تصاویر کو تبدیل کرنے کے لیے ٹول کا غلط استعمال کیا"۔ کہا.
مقدمے میں الزام لگایا گیا ہے کہ ہاروڈ نے بالغوں اور نابالغوں دونوں کی ایسی تصاویر اپ لوڈ کیں جو جنسی نوعیت کی نہیں تھیں اور پھر نام نہاد "ڈیپ فیکس" بنانے کی کوشش کی جس نے انہیں جنسی زیادتی کا نشانہ بنایا۔
"مدعا علیہ کے xAI اکاؤنٹس کا جائزہ مزید ظاہر کرتا ہے کہ متعلقہ مدت کے دوران متعدد مواقع پر، مدعا علیہ نے Grok کو تصاویر کے مضامین کو جنسی بنانے کے لیے ایسی تصاویر میں ردوبدل کرنے کے لیے اشارے پیش کیے، جس کا جواب Grok نے اس بنیاد پر اشارے پر عمل کرنے سے انکار کرتے ہوئے کیا کہ اس طرح کے مواد نے Grokils کے مواد کی اعتدال کی خلاف ورزی کی ہے"۔
"جواب میں، مدعا علیہ نے بار بار گروک کی اعتدال پسندی کی کوششوں کو روکنے کی کوشش میں، تبدیلیوں کے ساتھ مزید اشارے جمع کرائے۔"
xAI مالیاتی ہرجانے کا بھی مطالبہ کر رہا ہے، حالانکہ کیس میں ایک ڈالر کی رقم کی وضاحت نہیں کی گئی، ساتھ ہی عدالتی حکم نے ہاروڈ کو پلیٹ فارم استعمال کرنے پر مستقل طور پر پابندی لگا دی، جس کے 2.6 ملین سے زیادہ صارفین ہیں۔
یہ سوٹ کسی AI کمپنی کی طرف سے اپنے کسی صارف کے خلاف لایا جانے والا پہلا سوٹ ہے اور یہ دنیا بھر میں xAI کی شدید جانچ پڑتال کے درمیان آتا ہے تاکہ صارفین کو پلیٹ فارم پر اس قسم کا مواد پہلے جگہ پر تخلیق کرنے کی اجازت دی جا سکے۔
Grok واشنگٹن میں توجہ کا مرکز رہا ہے، یورپی ریگولیٹرز کے دائرہ کار میں رہا ہے، اور پلیٹ فارم پر بنائے جانے والے جنسی طور پر واضح مواد کے حوالے سے ملائیشیا اور انڈونیشیا دونوں میں پابندی کا سامنا کرنا پڑا ہے۔
اس سال کے شروع میں، مسک نے ان الزامات کو پیچھے دھکیل دیا کہ گروک نے بچوں کی AI سے تیار کردہ جنسی تصاویر، خاص طور پر عریاں تصاویر تیار کیں۔
مسک نے جنوری میں ایک ایکس پوسٹ میں کہا کہ "میں [ہوں] گروک کی طرف سے تیار کی گئی کسی بھی ننگی کم عمری کی تصاویر سے واقف نہیں۔
xAI کی شکایت میں کہا گیا ہے کہ کمپنی "خلاف ورزی کرنے والوں کے خلاف اکاؤنٹ کی معطلی، اکاؤنٹ ختم کرنے، اور بچوں کے جنسی استحصال کے مشتبہ مواد کی اطلاع نیشنل سینٹر فار مسنگ اینڈ ایکسپلوئٹڈ چلڈرن کو دے کر اپنے قوانین کو نافذ کرتی ہے۔"
شکایت میں بتایا گیا ہے کہ پلیٹ فارم نے 52000 سے زیادہ اکاؤنٹس کو معطل کیا تھا اور تنظیم کو 73000 سے زیادہ شکایات کی تھیں، جس کے نتیجے میں صرف 2026 میں تقریباً 250 گرفتاریاں ہوئیں۔
