xAI کے Grok نے کینیڈا کے رازداری کے قوانین کی خلاف ورزی کی ہے کیونکہ اس نے ایک ایسا امیج جنریٹر لانچ کیا ہے جو صارفین کی رضامندی کے بغیر جنسی نوعیت کی ڈیپ فیک تصاویر بنا اور شیئر کر سکتا ہے، جنوری کی تحقیقات کے بعد ملک کے پرائیویسی کمشنر کی ایک رپورٹ کے مطابق۔
سرکاری رپورٹ، جو جُمِرات کو جاری کی گئی، ایلون مسک کی ملکیت والے پلیٹ فارم کی جانب سے تبدیلیاں لانے کے بعد سامنے آئی ہے جو Grok کو صارفین کو لباس ظاہر کرنے میں حقیقی لوگوں کی تصاویر میں ترمیم کرنے کی اجازت دینے سے روکے گی۔
پرائیویسی کمشنر فلپ ڈوفریسن نے جُمِرات کو ایک پریس کانفرنس میں کہا، "xAI نے شروع سے مناسب حفاظتی اقدامات کو لاگو کیے بغیر Grok AI سے چلنے والے امیج جنریشن ٹول کو شروع کرکے کینیڈا کے وفاقی نجی شعبے کے رازداری کے قانون کی خلاف ورزی کی۔"
Dufresne، تاہم، اسپیس ایکس کے ذیلی ادارے xAI کے لیے جرمانے عائد کرنے یا پالیسی میں تبدیلی کا حکم دینے کا اختیار نہیں رکھتا، جو کہ جُمُعَہ کو ریاستہائے متحدہ کی مارکیٹوں میں عوام کے لیے تیار ہے، جو جدید تاریخ کی سب سے بڑی ابتدائی عوامی پیشکش کو نشان زد کرتا ہے۔
انہوں نے کہا کہ xAI نے کسی واقعے کی اطلاع دینے سے پہلے جنسی نوعیت کے گہرے نقائص کی باقاعدگی سے نگرانی کرنے کا عہد کیا ہے، نہ کہ صرف واقعات کے جواب میں۔
واچ ڈاگ کی رپورٹ بچوں کے لیے ایک نئے جاری کردہ ڈیجیٹل سیفٹی بل کے درمیان سامنے آئی ہے۔ بل منظور ہونے کی صورت میں 16 سال سے کم عمر بچوں کے لیے سوشل میڈیا کے استعمال پر پابندی عائد کر دی جائے گی، ان کمپنیوں کے استثناء کے ساتھ جو حفاظتی معیارات پر پورا اترتی ہیں۔
قانون سازی ایک ڈیجیٹل ریگولیٹر بنائے گی جو AI چیٹ بوٹس کے لیے حفاظتی معیارات قائم کرنے میں مدد کرے گی، جیسا کہ Grok کی طرح۔
xAI کو اس کے پلیٹ فارم پر جنسی تصاویر کے لیے پوری دنیا میں جانچ پڑتال کی گئی ہے۔
اس ماہ کے شروع میں، برطانوی قانون ساز جیس آساتو نے پلیٹ فارم پر اس کی بنائی گئی گہری جعلی جنسی تصاویر کے درمیان xAI پر مقدمہ دائر کیا۔
جنوری میں، یونائیٹڈ کنگڈم کے میڈیا ریگولیٹر آف کام نے اس پلیٹ فارم کی تحقیقات کا آغاز کیا تاکہ یہ دیکھا جا سکے کہ آیا یہ ڈیپ فیک جنسی تصاویر کی تخلیق کو مناسب طریقے سے روک رہا ہے۔
اس مہینے، یورپی کمیشن نے بھی X پر واضح مواد کے پھیلاؤ کی مذمت کی، ریگولیٹرز نے اسے "خوفناک" اور "ناگوار" قرار دیا، جس کے نتیجے میں تحقیقات شروع ہو گئیں۔
فروری میں، اسپین نے گروک کی تحقیقات کا آغاز کیا، اور مارچ میں، ایک ڈچ عدالت نے xAI کو حکم دیا کہ وہ ملک میں عریاں تصاویر بنانے کی اجازت بند کرے۔
دریں اثنا، امریکہ میں، مارچ میں بھی، تین نوعمر لڑکیوں نے ایک کلاس ایکشن مقدمہ دائر کیا جس میں الزام لگایا گیا کہ پلیٹ فارم ایسی تصاویر کی اجازت دیتا ہے جن میں بچوں کے جنسی استحصال کو دکھایا گیا ہو۔
تینوں نامعلوم متاثرین کے وکلاء نے کہا کہ xAI نے کیلیفورنیا کی عدالت میں دائر شکایت میں "واضح مواد کو گروک کے ڈی این اے کا حصہ بنایا ہے"۔
جنوری میں، امریکی سینیٹ نے ایک بل منظور کیا تھا جس کے تحت جنسی طور پر واضح تصاویر کے متاثرین تخلیق کاروں کے خلاف کم از کم $150000 کا مقدمہ کر سکتے ہیں۔
دریں اثنا، جنوری میں، انڈونیشیا اور ملائیشیا نے جنسی طور پر واضح AI تصاویر پر Grok کو مکمل طور پر بلاک کر دیا۔
