کینیڈا میں بڑے پیمانے پر فائرنگ میں ہلاک یا زخمی ہونے والوں کے سات خاندانوں نے OpenAI اور اس کے CEO سیم آلٹ مین کے خلاف کیلیفورنیا کی عدالت میں مقدمہ دائر کیا ہے، جس میں ان پر اور کمپنی پر الزام لگایا گیا ہے کہ وہ ChatGPT کے ساتھ شوٹر کے پریشان کن تعاملات کو نظر انداز کر رہا ہے۔
فروری میں برٹش کولمبیا کے ٹمبلر رج کے ایک سیکنڈری اسکول میں 18 سالہ جیسی وان روٹسلر نے فائرنگ کرکے چھ بچوں سمیت آٹھ افراد کو ہلاک کردیا تھا۔
اس کے بعد سے میڈیا رپورٹس نے انکشاف کیا ہے کہ وین روٹسیلار کی چیٹ جی پی ٹی سرگرمی کو اوپن اے آئی کی حفاظتی ٹیم نے حملے سے مہینوں قبل بندوق کے تشدد کے حوالے سے جھنڈا لگایا تھا، لیکن کمپنی نے مقامی پولیس کو آگاہ نہیں کیا۔
پچھلے ہفتے، آلٹ مین نے متاثرین کے اہل خانہ سے معافی مانگی تھی۔
"مجھے بہت افسوس ہے کہ ہم نے قانون نافذ کرنے والے اداروں کو الرٹ نہیں کیا،" آلٹ مین نے مقامی نیوز آؤٹ لیٹ ٹمبلر رج لائنز کے ذریعہ شائع کردہ ایک کھلے خط میں لکھا۔
"اگرچہ میں جانتا ہوں کہ الفاظ کبھی بھی کافی نہیں ہو سکتے، مجھے یقین ہے کہ آپ کی کمیونٹی کو پہنچنے والے نقصان اور ناقابل واپسی نقصان کو پہچاننے کے لیے معافی مانگنا ضروری ہے۔"
قانونی چارہ جوئی کا جواب دیتے ہوئے ایک بیان میں، OpenAI کے ترجمان نے کہا کہ کمپنی کی "تشدد کے ارتکاب میں مدد کے لیے ہمارے ٹولز کو استعمال کرنے کے لیے صفر رواداری کی پالیسی ہے۔"
ترجمان نے مزید کہا کہ OpenAI نے "پہلے سے ہی ہمارے تحفظات کو مضبوط کیا ہے" جس میں "تشدد کے ممکنہ خطرات" کا بہتر اندازہ اور اضافہ شامل ہے۔
کمپنی نے منگل کو ایک بلاگ بھی شائع کیا جس میں بتایا گیا کہ اوپن اے آئی ان صارفین کو کیسے جواب دیتا ہے جو ChatGPT پر ممکنہ طور پر خطرناک رویہ ظاہر کرتے ہیں۔
یہ نئی قانونی کارروائی بدھ کو کیلیفورنیا کی ایک عدالت میں امریکہ اور کینیڈا کی مشترکہ قانونی ٹیم نے دائر کی ہے۔
یہ ایک زندہ بچ جانے والی متاثرہ 12 سالہ مایا گیبالا کے خاندان کی طرف سے کینیڈا کی عدالت میں دائر کیے گئے پچھلے مقدمے کی جگہ لے گا، جسے رضاکارانہ طور پر واپس لیا جا رہا ہے۔
جیبالا سر، گردن اور گال میں تین گولیاں لگنے کے بعد ہسپتال میں زیر علاج ہیں۔
نئے مقدموں میں خاندانوں اور کمیونٹی کے ارکان کی نمائندگی کرنے والے وکیل جے ایڈلسن نے کہا کہ وہ اوپن اے آئی کے خلاف ٹمبلر رج کے متاثرین اور کمیونٹی ممبران کی جانب سے دو درجن سے زیادہ قانونی کارروائیاں دائر کرنے کی توقع رکھتے ہیں۔
انہوں نے مزید کہا کہ وہ ہر معاملے میں جیوری کے ذریعے ٹرائل کی درخواست کریں گے۔
انہوں نے بی بی سی کو بتایا کہ "ہم جیوری کے سامنے کیس بنانے میں بہت آرام محسوس کرتے ہیں۔"
مقدمے میں اوپن اے آئی اور اس کی سینئر قیادت پر الزام لگایا گیا ہے، جس میں آلٹ مین بھی شامل ہے، حملے سے قبل مشتبہ شخص کی چیٹ جی پی ٹی سرگرمیوں کے بارے میں قانون نافذ کرنے والے اداروں کو الرٹ کرنے میں ناکام ہو کر ٹمبلر رج کے بڑے پیمانے پر شوٹنگ میں لاپرواہی اور مدد اور مدد کرنے کا الزام لگاتے ہیں۔
گیبالا اور اس کے اہل خانہ کا نام لینے والے ایک مقدمے میں الزام لگایا گیا ہے کہ اوپن اے آئی کو ChatGPT کے ساتھ بات چیت کے ذریعے حملہ کرنے کے شوٹر کے ارادے کے بارے میں "حقیقی علم تھا"، جہاں شوٹر نے "بندوق کے تشدد سے متعلق منظرنامے" بیان کیے تھے۔
ایڈلسن نے کہا کہ بات چیت کو اوپن اے آئی میں 12 افراد کی حفاظتی ٹیم نے جھنڈا لگایا، جس نے مشتبہ شخص کو رائل کینیڈین ماؤنٹڈ پولیس (RCMP) کو رپورٹ کرنے کی سفارش کی۔
تاہم، OpenAI کی ایگزیکٹو قیادت نے اس فیصلے کو ویٹو کر دیا، مقدمہ کا الزام ہے۔
اس میں مزید الزام لگایا گیا ہے کہ OpenAI کی سینئر قیادت نے $850bn (£630bn) کمپنی کی قدر اور ساکھ کے تحفظ کے لیے پولیس کو الرٹ نہ کرنے کی کال کی۔
"انہوں نے ریاضی کی اور فیصلہ کیا کہ ٹمبلر رج کے بچوں کی حفاظت ایک قابل قبول خطرہ تھا،" مقدمہ میں کہا گیا ہے۔
اس میں یہ بھی الزام لگایا گیا ہے کہ اوپن اے آئی نے مشتبہ شخص کے بارے میں جھوٹ بولا کہ پریشان کن سرگرمی کو جھنڈا لگانے کے بعد پلیٹ فارم سے پابندی عائد کر دی گئی، یہ دلیل دی گئی کہ کمپنی صارفین کے لیے نئے اکاؤنٹس بنانا آسان بناتی ہے۔
مقدمے میں کہا گیا ہے کہ مشتبہ شخص نے اسی نام سے ایک اور اکاؤنٹ بنایا اور "حملے کی منصوبہ بندی کے لیے ChatGPT کا استعمال جاری رکھا"۔
بی بی سی کو دیے گئے ایک بیان میں، اوپن اے آئی نے اس کی تردید کی اور کہا کہ وہ ممنوعہ صارفین سے اپنی خدمات تک رسائی کو منسوخ کرتا ہے، جس میں ان کے اکاؤنٹ کو غیر فعال کرنا اور انہیں نئے اکاؤنٹ کھولنے سے روکنے کے لیے اقدامات کرنا شامل ہیں۔
مشتبہ شخص کی موت 10 فروری کو ہونے والے حملے میں خود کو گولی لگنے سے ہوئی تھی۔
ایڈلسن نے بی بی سی کو بتایا کہ اس نے اوپن اے آئی سے مشتبہ شخص کے چیٹ لاگز کی درخواست کی ہے لیکن اسے رسائی سے انکار کر دیا گیا، حالانکہ ان کا خیال ہے کہ انہیں قانونی چارہ جوئی کے ذریعے حاصل کیا جائے گا۔
ایڈلسن نے کہا، "جب کینیڈین حکام کو نہ بتانے کا فیصلہ کیا گیا تو ہم جیوری کو کمرے میں ڈالیں گے۔"
"ہم انہیں یہ دکھانے جا رہے ہیں کہ لوگ کس طرح اوپر نیچے کود رہے تھے کہ ہمیں اس شہر کی حفاظت کرنے کی ضرورت ہے، اور ہم انہیں یہ دکھانے جا رہے ہیں کہ کس طرح سیم آلٹ مین اور اوپن اے آئی معمول کے مطابق یہ فیصلے اپنے مفادات کو اولین ترجیح دیتے ہیں۔"
OpenAI نے پہلے کینیڈین حکام سے وعدہ کیا تھا کہ وہ ٹمبلر رج حملے کے جواب میں اپنے حفاظتی اقدامات کو مضبوط کرے گا۔ آلٹمین نے اپنے خط میں لکھا ہے کہ کمپنی "ہر سطح کی حکومت کے ساتھ مل کر کام کرنے پر توجہ مرکوز رکھے گی تاکہ اس بات کو یقینی بنانے میں مدد ملے کہ ایسا دوبارہ کبھی نہ ہو۔"
اوپن اے آئی کو فلوریڈا میں ایک ایسے شخص کے ذریعہ چیٹ جی پی ٹی کے استعمال سے متعلق مجرمانہ تحقیقات کا بھی سامنا ہے جس پر گزشتہ سال فلوریڈا اسٹیٹ یونیورسٹی میں فائرنگ کرنے کا الزام ہے۔ حملے میں دو افراد ہلاک اور متعدد زخمی ہو گئے۔
