جمعرات کو اوپن اے آئی نے ٹرسٹڈ کانٹیکٹ کے نام سے ایک نئی خصوصیت کا اعلان کیا، جو کسی قابل اعتماد تیسرے فریق کو خبردار کرنے کے لیے ڈیزائن کیا گیا ہے اگر بات چیت میں خود کو نقصان پہنچانے کا ذکر کیا جائے۔ یہ خصوصیت ایک بالغ ChatGPT صارف کو اپنے اکاؤنٹ میں کسی دوسرے شخص کو بطور قابل اعتماد رابطہ نامزد کرنے کی اجازت دیتی ہے، جیسے کہ کوئی دوست یا خاندان کا رکن۔ ایسے معاملات میں جہاں بات چیت خود کو نقصان پہنچا سکتی ہے، OpenAI اب صارف کو اس رابطے تک پہنچنے کی ترغیب دے گا۔ یہ رابطے کو ایک خودکار الرٹ بھی بھیجتا ہے، جو انہیں صارف کے ساتھ چیک ان کرنے کی ترغیب دیتا ہے۔
اوپن اے آئی کو اپنے چیٹ بوٹ سے بات کرنے کے بعد خودکشی کرنے والے لوگوں کے خاندانوں کی طرف سے مقدمات کی لہر کا سامنا کرنا پڑا ہے۔ متعدد معاملات میں، خاندانوں کا کہنا ہے کہ ChatGPT نے اپنے پیارے کو خود کو مارنے کی ترغیب دی — یا اس کی منصوبہ بندی کرنے میں ان کی مدد بھی کی۔
OpenAI فی الحال ممکنہ طور پر نقصان دہ واقعات سے نمٹنے کے لیے آٹومیشن اور انسانی جائزے کے امتزاج کا استعمال کرتا ہے۔ بعض گفتگو کے محرکات کمپنی کے نظام کو خودکشی کے خیالات سے آگاہ کرتے ہیں، جو اس کے بعد انسانی حفاظتی ٹیم کو معلومات فراہم کرتے ہیں۔ کمپنی کا دعویٰ ہے کہ جب بھی اسے اس قسم کی اطلاع موصول ہوتی ہے، اس واقعے کا ایک انسان جائزہ لیتا ہے۔ کمپنی کا کہنا ہے کہ "ہم ایک گھنٹے کے اندر ان حفاظتی اطلاعات کا جائزہ لینے کی کوشش کرتے ہیں۔"
اگر OpenAI کی داخلی ٹیم یہ فیصلہ کرتی ہے کہ صورت حال ایک سنگین حفاظتی خطرے کی نمائندگی کرتی ہے، تو ChatGPT قابل اعتماد رابطہ کو الرٹ بھیجنے کے لیے آگے بڑھتا ہے - یا تو ای میل، ٹیکسٹ میسج، یا ایپ میں اطلاع کے ذریعے۔ الرٹ کو مختصر ہونے اور زیر بحث شخص سے رابطہ کرنے کی ترغیب دینے کے لیے ڈیزائن کیا گیا ہے۔ کمپنی کا کہنا ہے کہ اس میں صارف کی رازداری کے تحفظ کے ایک ذریعہ کے طور پر اس بارے میں تفصیلی معلومات شامل نہیں ہے جس پر بات کی جا رہی تھی۔
ٹرسٹڈ کانٹیکٹ فیچر ان حفاظتی اقدامات کی پیروی کرتا ہے جو کمپنی نے گزشتہ ستمبر میں متعارف کرائے تھے جس نے والدین کو اپنے نوعمروں کے اکاؤنٹس کی کچھ نگرانی کرنے کا اختیار دیا، بشمول والدین کو خبردار کرنے کے لیے حفاظتی اطلاعات موصول کرنا اگر OpenAI کے سسٹم کو یقین ہے کہ ان کے بچے کو "سنگین حفاظتی خطرہ" کا سامنا ہے۔ اب کچھ عرصے سے، ChatGPT نے پیشہ ورانہ صحت کی خدمات حاصل کرنے کے لیے خودکار الرٹس بھی شامل کیے ہیں، کیا خود کو نقصان پہنچانے کے موضوع کی طرف گفتگو کا رجحان ہونا چاہیے۔
اہم طور پر، ٹرسٹ کانٹیکٹ اختیاری ہے اور، یہاں تک کہ اگر تحفظ کسی خاص اکاؤنٹ پر ایکٹیویٹ ہو، کسی بھی صارف کے پاس متعدد ChatGPT اکاؤنٹس ہو سکتے ہیں۔ OpenAI کے پیرنٹل کنٹرولز بھی اختیاری ہیں، اسی طرح کی حد پیش کرتے ہیں۔
کمپنی نے اعلان پوسٹ میں لکھا، "ٹرسٹڈ کانٹیکٹ اوپن اے آئی کی اے آئی سسٹمز بنانے کی وسیع تر کوششوں کا حصہ ہے جو مشکل لمحات میں لوگوں کی مدد کرتے ہیں۔" "ہم طبی ماہرین، محققین، اور پالیسی سازوں کے ساتھ کام کرتے رہیں گے تاکہ یہ بہتر بنایا جا سکے کہ جب لوگ پریشانی کا سامنا کر رہے ہوں تو AI سسٹم کس طرح ردعمل دیتے ہیں۔"
