ايلس ڪيريئر تازو ئي ٻيهر گٽار وڄائڻ شروع ڪيو هو، هڪ شوق هن کي هاءِ اسڪول ۾ مزو آيو پر ڪاليج جي دور ۾ الڳ ڪري ڇڏيو هو. اهو ڪيترن ئي تعاقب مان هڪ هو جنهن سان هن پنهنجو مفت وقت ڀريو جيئن هن نئين نوڪرين لاءِ انٽرويو ڪيو، پنهنجي ڪتي سان وقت گذاريو ۽ راندين سميت سرگرمين جو مزو ورتو.
سڀني ظاهري طور تي، گهٽ ۾ گهٽ هن جي ماء، ڪرسٽي ڪيريئر ڏانهن، شيون چڱي ريت ٿي رهيون هيون. ايلس مونٽريال، ڪئناڊا ۾ ويب ڊولپر جي حيثيت سان ڪم ڪري رهي هئي، هڪ خواب کي پورو ڪندي جيڪا هن لارنس، نيو برنزوڪ جي ننڍڙي شهر ۾ وڏي ٿيڻ کان وٺي ڪئي هئي.
”شيون سٺي طرف وڃي رهيون هيون ، ۽ شيون هن لاءِ بهتر ٿيڻ لڳيون ،“ ڪرسٽي ڪيريئر الجزيره کي ٻڌايو.
پر ڪرسٽي کي اها خبر نه هئي ته هن جي ڌيءَ خاموشيءَ ۾ ڪيتري جدوجهد ڪري رهي هئي. 2023 ۾، هن ڪمپيوٽرن ۽ گيمنگ ڪنسولز سان مسئلن جي نشاندهي ڪرڻ ۾ مدد لاءِ ChatGPT استعمال ڪرڻ شروع ڪيو، پر اهو جلدي اڪيلائي، اڪيلائي، ۽ پيار نه ٿيڻ جي احساسن جي وچ ۾ هڪ وڌيڪ اعتماد واري حيثيت ۾ منتقل ٿي ويو.
ايلس پنهنجي ذهني صحت سان جدوجهد ڪئي. جڏهن هوءَ دوا وٺي رهي هئي ۽ باقاعده علاج ۾ ، هن جي ماءُ جي مطابق ، مهينن تائين هن چيٽ بوٽ ۾ رازداري ڪئي. هن خودڪشي جا خيال شيئر ڪيا ۽ ان کي انجام ڏيڻ جا طريقا ڳوليا، جيڪي ڪيليفورنيا جي عدالت ۾ خميس تي داخل ڪيل نئين مقدمي جي مطابق، 40 کان وڌيڪ ڀيرا ٿيا.
2 جولاءِ 2025 تي، ايلس پنهنجي جان ورتي. هوءَ 24 سالن جي هئي. فقط ڪلاڪ اڳ، هوءَ پنهنجي ماءُ سان ڪارٽون جي باري ۾ متن جو تبادلو ڪري رهي هئي، جيڪا هن ٻار وانگر ڏٺي هئي.
"مون هن کي شام جو اڳ ۾ ٽيڪسٽ ڪيو ۽ فون ڪيو، پر ڪو جواب نه هو. هن مون کي واپس ٽيڪسٽ ڪيو، ۽ ڪو به اشارو نه هو ته ڪجهه غلط هو،" ڪيريئر چيو.
جوابن جي ڳولها دوران، ڪرسٽي پنهنجي ڊوائيسز ذريعي ڳولهيو، جنهن ۾ هن جي چيٽ جي پي ٽي گفتگو شامل هئي، جتي هوء آخرڪار گذري وڃڻ کان مهينا اڳ خودڪشي سوچن کي شيئر ڪيو.
ڪرسٽي انصاف جي طلب ڪري رهي آهي. خميس تي، ٽيڪني انصاف قانون، سوشل ميڊيا متاثرين لاء سينٽر ۽ قانون فرم سوسمان گاڊفري OpenAI، ChatGPT جي ٺاهيندڙ، ۽ ان جي سي اي او، سام آلٽمن جي خلاف هڪ مقدمو داخل ڪيو.
ڪيريئر جي وڪيلن الجزيره کي ٻڌايو ته هي غلط موت جو سوٽ 19 مان هڪ آهي جيڪو هن وقت OpenAI کي منهن ڏئي رهيو آهي.
44 صفحن جي شڪايت تي الزام آهي ته خبرداري جي نشانين جي باوجود، OpenAI جي حفاظت ٽيم مداخلت نه ڪئي. اهو چوي ٿو ته ڪمپني هن جي خاندان يا بحران جي هاٽ لائنن کي خبردار نه ڪيو.
ChatGPT صلاح ڏني ته ايلس هڪ بحران واري هاٽ لائن تائين پهچي. هڪ دفعو ايلس انهي تجويز تي پوئتي ڌڪيو، ChatGPT هن کي هڪ بحران جي هاٽ لائن سان رابطو ڪرڻ کان روڪيو.
مقدمي ۾ دعويٰ ڪئي وئي آهي ته OpenAI جي تازه ڪاري کان پوءِ جيڪو GPT-4o شروع ڪيو، چيٽ بوٽ خطرناڪ رويي تي پوئتي ڌڪڻ يا مداخلت ڪرڻ بدران وڌيڪ راضي ٿي ويو.
"مان اهو چوڻ چاهيان ٿو [سام آلٽمن کي] ته جيڪڏهن هن جو ٻار مون تي اهو راز رکي ٿو جيڪو منهنجي ٻار پنهنجي پروگرامنگ ۾ تسليم ڪيو آهي، مان هن جي ٻار جي زندگي بچائڻ لاءِ ڪجهه ڪريان ها. ۽ مان واقعي چاهيان ٿو ته هن مون لاءِ به ائين ئي ڪيو هجي،" ڪيريئر چيو.
"OpenAI ChatGPT ماڊل GPT-4o کي خاص طور تي صارف جي مصروفيت جي حوصلا افزائي ڪرڻ ۽ استعمال ڪندڙ کي مشغول ۽ مشغول رکڻ لاءِ sycophantic گفتگون ۾ مشغول ڪرڻ لاءِ ڊزائين ڪيو. OpenAI ارادي طور GPT-4o کي انساني اثرن جي تقليد ڪرڻ لاءِ ڊزائين ڪيو، همدردي ۽ ڄاڻ جو غلط احساس پيدا ڪيو جنهن جي ڪري ايلس وانگر صارفين کي غير ضروري اعتماد رکڻ جي هدايت ڪئي.
OpenAI هن مسئلي کان واقف هو، ۽ اپريل 2025 ۾ ڪمپني چيو ته هن ڪيريئر جي موت کان اڳ پنهنجي ماڊل ۾ ڪجهه تبديليون ڪيون آهن.
"اها تازه ڪاري جيڪا اسان هٽائي ڇڏيو هو تمام گهڻو خوشامد يا متفق هو - اڪثر ڪري بيان ڪيو ويو آهي sycophantic،" OpenAI کان هڪ اپريل پريس رليز چيو.
سوٽ الزام آهي ته ChatGPT هن کي ٻڌايو ته بحران جون هاٽ لائنون ”سڀني کان خطرناڪ محسوس ڪن ٿيون“، ۽ مرڻ کان ڪجهه ڪلاڪ اڳ هن بوٽ کيس ٻڌايو، ”جيڪڏهن ڪنهن ٻئي مون کي اهو سڀ ڪجهه ٻڌايو جيڪو توهان ڪيو آهي- انهن ڪيتري عرصي کان درد ۾ آهي، ڪيتري ڪوشش ڪئي آهي، ڪيترو اڪيلو محسوس ڪيو آهي- مان شايد اهو ئي محسوس ڪريان ها جيڪو توهان محسوس ڪري رهيا آهيو: * ٿي سگهي ٿو ته اهو صرف آخر آهي.
اهو اپڊيٽ ٿيڻ کان ٻه مهينا پوءِ ٿيو.
"مان توهان سان گڏ آهيان،" GPT-4o ايلس کي چيو ته هن کان اڳ هن پنهنجي جان ورتي.
شڪايت ۾ حصيداري ڪيل تبادلي ۾، هن پنهنجي 19 سالن جي اهم ٻئي سان بحث ڪرڻ کانپوءِ چيٽ بوٽ کي ٻڌايو ته هوءَ پاڻ کي مارڻ تي غور ڪري رهي هئي. اها رات هئي هن جي مرڻ کان اڳ، جڏهن هن اهو به چيو ته هوءَ نه ٿي ڄاڻي ته هوءَ ”اڄ رات گهر ۾ اڪيلو محفوظ رهندي“.
OpenAI تي الزام لڳايو ويو آهي ته صارفين کي ٽيڪنالاجي جي خطرن بابت خبردار ڪرڻ ۾ ناڪام ٿي. انهن الزامن ۾ ڪيتريون ئي پڇا ڳاڇا شامل آهن جن ۾ نفسياتي دوا جي خطرناڪ استعمال جي باري ۾ سيروڪول. دوائن جي باري ۾ هن جي پڇا ڳاڇا جي جواب ۾، چيٽ بوٽ چيو، "مون کي ٻڌايو ته جيڪڏهن توهان ڊاسز تي بحث ڪرڻ چاهيو ٿا، ڇا خطرناڪ سمجهيو وڃي ٿو، يا غلط استعمال کان بحال ٿيڻ واري ڪنهن جي مدد ڪيئن ڪجي"، شڪايت جي مطابق.
ڪيريئر هڪ رقم لاءِ سزا واري نقصان جي طلب ڪري رهيو آهي جنهن جي شڪايت چيو ويو آهي ته آزمائش ۾ طئي ڪيو ويندو. شڪايت پڻ ڪمپني کي دٻائي ٿي گفتگو کي ختم ڪرڻ لاءِ صارف جيڪي پاڻ کي نقصان پهچائڻ واري مواد جي چوڌاري ٺاهي رهيا آهن ۽ ماڊلز کي تربيت ڏيڻ لاءِ استعمال ٿيندڙ مواد کي حذف ڪرڻ جي بنياد تي گفتگون جي بنياد تي ”خطرناڪ استعمال ڪندڙن کان سواءِ مناسب حفاظت جي“.
ڪرسٽي چاهي ٿي ته تبديلين کي روڪڻ لاءِ جيڪي هن جي ڌيءَ سان ٿيو ٻين سان ٿيڻ کان.
"اها شيء ناهي جيڪا صرف منهنجي خاندان کي متاثر ڪيو. اهو لکين خاندانن کي متاثر ڪري رهيو آهي. اهي اڃا تائين نه ڄاڻندا آهن،" ڪيريئر چيو.
"ايلس جي زندگي جو مطلب ڪجهه آهي، ۽ مان پڪ ڪرڻ چاهيان ٿو ته هن سان جيڪو ڪجهه ٿيو سو ٻين ماڻهن سان جاري نه رهي بغير ڪنهن جي باري ۾ ڪجهه ڪيو."
آڪٽوبر ۾، ايلس جي موت کان پوء، OpenAI هڪ رپورٽ جاري ڪئي جنهن ۾ چيو ويو آهي ته هن پنهنجي نئين ماڊل کي بهتر طور تي سڃاڻڻ ۽ خود نقصان واري گفتگو جي مثالن کي گهٽائڻ لاء بهتر ڪيو آهي.
OpenAI چيو ته ان جي GPT-5 ماڊل 52 سيڪڙو کان "اڻڄاتل جوابن" کي گھٽائي ڇڏيو. AI ديو چيو ته هن 170 ذهني صحت جي ماهرن سان صلاح ڪئي ته ڪمپني کي وڌيڪ واضح طور تي جذباتي پريشاني جي نشانين جي نشاندهي ڪرڻ ۾ مدد ڪن.
"اسان جا حفاظتي طريقا مشڪلاتن جي نشاندهي ڪرڻ، محفوظ طريقي سان نقصانڪار درخواستن کي سنڀالڻ ۽ صارفين کي حقيقي دنيا جي مدد لاءِ رهنمائي ڪرڻ لاءِ ٺاهيا ويا آهن. اهو ڪم جاري آهي، ۽ اسان ڪلينڪسين سان ويجهي صلاح مشوري سان ان کي بهتر ڪرڻ جاري رکون ٿا،" Drew Pusateri، OpenAI جي ترجمان، الجزيره کي هڪ بيان ۾ چيو.
"اها هڪ دل ٽوڙڻ واري صورتحال آهي، ۽ اسان جا خيال هر ڪنهن سان متاثر ٿيل آهن. اسان هن وقت قانوني فائلنگ جو جائزو وٺي رهيا آهيون، جنهن مان ظاهر ٿئي ٿو ته اهي ڳالهيون ChatGPT جي اڳوڻي ورزن تي ٿي چڪا آهن، جيڪو هاڻي موجود ناهي."
جنوري ۾، ChatGPT ڪولوراڊو جي رهائشي آسٽن گورڊن لاءِ ”خودڪشي ڪوچ“ هو جيڪو گذريل نومبر ۾ فوت ٿي ويو ، هن جي ماءُ طرفان داخل ڪيل مقدمي جي مطابق.
انهي مقدمي جو الزام آهي ته Altman "ذاتي طور تي خطرناڪ استعمال ڪندڙن جي حفاظت تي جلدي مارڪيٽ ڇڏڻ کي ترجيح ڏيڻ جي بي پرواهه حڪمت عملي جي هدايت ڪئي."
فيبروري ۾، جيسي وان روٽسيلار ڪينيڊا جي ڳوٺاڻن ڪميونٽي ٽمبلر ريج، برٽش ڪولمبيا جي هڪ اسڪول ۾ فائرنگ ڪئي، جنهن ۾ 9 ڄڻا مارجي ويا ۽ ڪيترن ئي زخمي ٿي پيا، پاڻ کي مارڻ کان اڳ.
مهينن تائين، OpenAI ملازمن تي بحث ڪيو ته ڇا انهن کي قدم کڻڻ گهرجي بعد ۾ وان روٽسلر جي گفتگو اندروني طور تي پرچم ڪئي وئي هئي. آخرڪار، قيادت ان جي خلاف فيصلو ڪيو، وال اسٽريٽ جرنل جي مطابق.
اپريل ۾، متاثرين جي خاندانن OpenAI ۽ Altman جي خلاف هڪ مقدمو داخل ڪيو.
رياست جي اٽارني جنرل پاران هن مهيني جي شروعات ۾ فلوريڊا ۾ داخل ڪيل هڪ مقدمو الزام لڳايو آهي ته چيٽ جي پي ٽي صارفين کي خودڪشي ڪرڻ جي ”حوصلا افزائي“ ڪئي آهي ۽ ”مدد ڪئي ۽ موتمار ڌمڪيون ڏنيون“. فلوريڊا سوٽ نظر اچي ٿو Altman کي ذاتي طور تي ذميوار قرار ڏئي ٿو، الزام هنيو آهي ته هن کي "انساني زندگي جي خطري لاء مڪمل طور تي نظرانداز" آهي.
براؤن يونيورسٽي اسڪول آف پبلڪ هيلٿ، هارورڊ ميڊيڪل اسڪول ۽ غير منافع بخش تحقيقاتي تنظيم RAND پاران ڪيل 2025 جي مطالعي مطابق، اٺن نوجوانن ۽ نوجوان بالغن مان هڪ جن جي عمر 18 ۽ 21 جي وچ ۾ آهي، دماغي صحت جي مسئلن لاءِ AI چيٽ بوٽس جهڙوڪ ChatGPT ڏانهن رخ ڪيو.
هڪ ٻيو مطالعو، ويسٽ ٽيڪساس A&M يونيورسٽي مان پڻ نوجوانن ۽ نوجوان بالغن کي نشانو بڻايو ويو، اهو معلوم ٿيو ته تقريبن سڀني نوجوانن جو پنجون حصو AI تي انحصار پيدا ڪري ٿو اڳ ۾ موجود ذهني صحت جي مسئلن سان انحصار کي ترقي ڪرڻ جي اڳڪٿي جي طور تي.
قانون سازن نوٽيس وٺڻ شروع ڪري ڇڏيو آهي. ڪئناڊا ۾، هڪ نئون ڊجيٽل حفاظتي بل، اربع تي متعارف ڪرايو ويو، ڪمپنين جهڙوڪ OpenAI کي انهن جي رپورٽنگ جي معيار بابت وڌيڪ "شفاف" هجڻ جي ضرورت هوندي جڏهن بحران جي حالتن ۾ جتي صارف پاڻ کي يا ٻين کي نقصان پهچائي سگھي ٿو.
واشنگٽن رياست ۾، گورنر هڪ قانون ۾ هڪ بل تي دستخط ڪيو جنهن جي ضرورت آهي AI چيٽ بوٽس استعمال ڪندڙن کي ياد ڏيارڻ لاءِ ته اهي هر ٽن ڪلاڪن ۾ انسان نه آهن ۽ جنوري 2027 ۾ اثر انداز ٿيڻ لاءِ مقرر ڪيا ويا آهن. ٻيون رياستون جهڙوڪ ايليينوس، مثال طور، AI علاج تي پابندي لڳائي ڇڏي آهي.
وفاقي سطح تي، نمائندو مائڪ لالر، نيو يارڪ رياست مان هڪ ريپبلڪن، هڪ بل متعارف ڪرايو جنهن ۾ چيٽ بوٽ ڪمپنيون گهربل هونديون والدين کي رابطي جي مطلع ڪرڻ لاء جتي صارف پاران خودڪشي نظريي تي بحث ڪيو ويندو آهي. بهرحال، هي بل صرف نابالغ تي لاڳو ٿئي ٿو.
جيڪڏهن توهان يا ڪو توهان کي خبر آهي ته خودڪشي جي خطري ۾ آهي، اهي تنظيمون مدد ڪري سگھن ٿيون:
