ایلون مسک کے ایکس اے آئی نے گروک صارف پر مقدمہ دائر کیا ہے، اس پر الزام لگایا ہے کہ وہ چیٹ بوٹ کو بچوں کے جنسی استحصال کے مواد اور غیر متفقہ واضح ڈیپ فیکس بنانے کے لیے استعمال کرتا ہے۔
یہ مقدمہ ٹیکساس کی وفاقی عدالت میں جنوبی کیرولائنا کے ایک شخص ٹیری وین ہاروڈ کے خلاف دائر کیا گیا تھا جسے اس سال کے شروع میں نابالغوں کے جنسی استحصال سے منسلک ہونے کے الزام میں گرفتار کیا گیا تھا۔ یہ کیس ایک AI کمپنی کی طرف سے ایک ایسے صارف کے خلاف پہلے مشہور مقدمہ میں سے ایک ہے جس پر AI سسٹم کے ساتھ غیر قانونی واضح مواد بنانے کا الزام ہے۔
xAI نے الزام لگایا ہے کہ ہاروڈ نے مضامین کی معلومات یا رضامندی کے بغیر غیر جنسی تصاویر کو جنسی طور پر واضح تصاویر میں تبدیل کرنے کے لیے Grok کا استعمال کرکے کمپنی کی سروس کی شرائط اور قابل قبول استعمال کی پالیسی کی خلاف ورزی کی۔
کمپنی کا دعویٰ ہے کہ ہاروڈ نے متعدد xAI اکاؤنٹس بنائے اور غیر قانونی یا بدسلوکی والے مواد کو بلاک کرنے کے لیے بنائے گئے حفاظتی اقدامات کو نظرانداز کرنے کے لیے گمراہ کن اشارے استعمال کیے۔ مقدمے میں کہا گیا ہے کہ مبینہ مواد میں نابالغ اور بالغ دونوں شامل تھے۔
xAI یہ بھی دعوی کرتا ہے کہ ہاروڈ کے مبینہ اقدامات نے کمپنی کو قانونی خطرے اور شہرت کو نقصان پہنچایا۔
مقدمے میں، xAI کا کہنا ہے کہ اس نے غیر قانونی یا بدسلوکی والے مواد سے منسلک بڑی تعداد میں اکاؤنٹس کے خلاف کارروائی کی ہے۔
کمپنی کا دعویٰ ہے کہ اس نے 2026 میں 52000 سے زیادہ اکاؤنٹس کو معطل کیا اور 73000 سے زیادہ رپورٹیں نیشنل سینٹر فار مسنگ اینڈ ایکسپلوئٹڈ چلڈرن کو دیں۔ اس کا یہ بھی کہنا ہے کہ ان رپورٹوں سے کم از کم 244 گرفتاریاں ہوئیں۔
رائٹرز کے مطابق، xAI ہرجانے اور عدالتی حکم کی تلاش کر رہا ہے جو ہاروڈ کو گروک کے استعمال سے مستقل طور پر روک دے گا۔
یہ مقدمہ اس وقت سامنے آیا جب گروک کو AI سے پیدا ہونے والی جنسی ڈیپ فیکس پر تنقید کا سامنا کرنا پڑا۔
اس سال کے شروع میں، نوعمروں نے کیلیفورنیا میں xAI پر مقدمہ دائر کیا، اور الزام لگایا کہ Grok کو عام تصاویر سے نابالغوں کی جنسی تصاویر بنانے کے لیے استعمال کیا گیا تھا۔ اس کیس نے AI ٹولز کے بارے میں وسیع تر خدشات کو جنم دیا جو تصاویر کو تبدیل کر سکتے ہیں اور نقصان دہ ڈیپ فیک مواد تخلیق کر سکتے ہیں۔
xAI کو غیر متفقہ واضح ڈیپ فیکس کی رپورٹس کے بعد گروک کے امیج ٹولز پر بھی تنقید کا سامنا کرنا پڑا ہے۔ کمپنی نے بعد میں تصویر میں ترمیم کرنے کی کچھ صلاحیتوں کو محدود کر دیا اور کہا کہ اس کے پاس جنسی استحصال اور غیر متفقہ عریانیت پر صفر رواداری کی پالیسی ہے۔
ایلون مسک نے پہلے کہا تھا کہ جو صارفین Grok کے ساتھ غیر قانونی مواد تخلیق کرتے ہیں انہیں وہی نتائج کا سامنا کرنا پڑے گا جو غیر قانونی مواد اپ لوڈ کرنے والوں کو بھگتنا پڑے گا۔
xAI نے اپنے مقدمے میں اس موقف کا حوالہ دیتے ہوئے کہا کہ ہاروڈ کے گروک کے مبینہ استعمال نے کمپنی کے قوانین کو توڑا اور متاثرین اور پلیٹ فارم دونوں کو نقصان پہنچایا۔
یہ کیس اس بات کا ایک اہم ابتدائی امتحان بن سکتا ہے کہ جب صارفین مبینہ طور پر غیر قانونی یا مکروہ مواد بنانے کے لیے جنریٹو AI ٹولز کا غلط استعمال کرتے ہیں تو AI کمپنیاں کیا جواب دیتی ہیں۔
جہاں آپ چاہیں تازہ ترین ٹیک خبریں، ٹیلی کام کی بصیرتیں، اور پروڈکٹ لانچ حاصل کریں۔
ProPakistani کو ترجیحی ذرائع میں شامل کریں اور گوگل سرچ اور ٹاپ اسٹوریز میں ہماری مزید کہانیاں دیکھیں۔
شیئرز
