میٹا نے جُمِرات کو اعلان کیا کہ اب وہ والدین کو مطلع کرے گا اگر ان کا نوعمر کمپنی کے میٹا اے آئی چیٹ بوٹ کے ساتھ خودکشی یا خود کو نقصان پہنچانے کے بارے میں بات کرتا ہے۔ میٹا کا کہنا ہے کہ یہ ہنگامی خدمات سے رابطہ کرنے کی صلاحیت پر بھی کام کر رہا ہے اگر کسی کی بات چیت سے پتہ چلتا ہے کہ وہ خود کو نقصان پہنچا سکتا ہے۔
یہ تبدیلیاں اس وقت آتی ہیں جب میٹا اور دیگر ٹیک کمپنیوں کو ریگولیٹرز اور والدین کی طرف سے جانچ پڑتال کا سامنا کرنا پڑتا ہے کہ کس طرح AI چیٹ بوٹس بحران میں صارفین، خاص طور پر نوعمروں کو جواب دیتے ہیں — ایک ذمہ داری کا سوال جو کہ AI کمپنیاں اپنی مصنوعات کو کس طرح ڈیزائن اور مارکیٹ کرتی ہیں۔
میٹا کا کہنا ہے کہ اس نے بات چیت کی نشاندہی کرنے کے لیے ایک سرشار AI نظام بنایا ہے جہاں ایک نوجوان خود کو تکلیف پہنچانے کا واضح حوالہ دیتا ہے۔
میٹا نے ایک بلاگ پوسٹ میں لکھا، "ہم سمجھتے ہیں کہ یہ انتباہات والدین کے لیے کتنے پریشان کن ہو سکتے ہیں۔" "اسی لیے، جیسا کہ ہم اپنی کھوج کو بہتر بناتے چلے جا رہے ہیں، الرٹ بھیجے جانے سے پہلے ہمارے AI کی طرف سے جھنڈا لگائی گئی تمام چیٹس کا دستی طور پر جائزہ لیا جائے گا۔ اگر کسی نوعمر کا ارادہ مبہم ہے، تو ہم احتیاط کی طرف سے غلطی کریں گے اور والدین کو متنبہ کریں گے۔ جب کہ اس کا مطلب ہے کہ ہم بعض اوقات والدین کو مطلع کر سکتے ہیں جب یہ تشویش کی حقیقی وجہ نہیں ہو سکتی ہے، ہم اس بات کو یقینی بنائیں گے کہ ہم اس بات کو یقینی بنائیں گے کہ ہم اس بات کی نگرانی کریں گے کہ یہ تشویش کی اصل وجہ نہیں ہے۔ ہم صحیح جگہ پر ہیں۔"
میٹا کا کہنا ہے کہ یہ انتباہات اب یو ایس، یو کے، آسٹریلیا اور کینیڈا میں انسٹاگرام پِیرنٹل سپرویژن کا استعمال کرنے والے والدین کے لیے لائیو ہیں اور سال کے آخر تک عالمی سطح پر نافذ ہو جائیں گے۔
یہ اپ ڈیٹ ان انتباہات پر بناتا ہے جو میٹا پہلے ہی والدین کو بھیجتا ہے جب ان کا نوعمر انسٹاگرام پر خودکشی یا خود کو نقصان پہنچانے والی اصطلاحات کو بار بار تلاش کرتا ہے۔ یہ ایک ایسی خصوصیت بھی بناتا ہے جو والدین کو ان موضوعات کو دیکھنے کی اجازت دیتا ہے جن پر ان کے نوعمروں نے گزشتہ ہفتے Meta AI کے ساتھ تبادلہ خیال کیا تھا۔
میٹا نے یہ بھی اعلان کیا کہ اس کی "محدود مواد" کی ترتیب — جو والدین کو انسٹاگرام پر اپنے نوعمروں کو زیادہ محدود تجربے میں رکھنے دیتی ہے — اب میٹا اے آئی پر بھی لاگو ہوتا ہے۔ Meta AI کو نوجوانوں کے ساتھ جنسی یا رومانوی گفتگو یا الکحل سے متعلق مباحثوں سے بچنے کے لیے پہلے سے ہی تربیت دی گئی ہے، اور محدود مواد کی ترتیب چیٹ بوٹ کی کمی کو پرامپٹس کی ایک وسیع رینج بنا کر ان حفاظتی تدابیر کو وسیع کرتی ہے۔ میٹا نے یہ واضح نہیں کیا کہ ان اضافی اشارے میں کیا شامل ہے، لیکن TechCrunch نے کمپنی سے مزید معلومات کے لیے کہا ہے۔
مزید برآں، میٹا کا کہنا ہے کہ وہ ہنگامی خدمات سے رابطہ کرے گا اگر میٹا اے آئی کے ساتھ کسی کی گفتگو، چاہے صارف بالغ ہو یا نوعمر، یہ بتاتا ہے کہ کسی کو خودکشی کا خطرہ ہے۔ یہ بات قابل غور ہے کہ میٹا پہلے ہی یہ قدم اٹھاتا ہے جب کوئی فیس بک یا انسٹاگرام پر کوئی ایسی پوسٹ کرتا ہے جس سے پتہ چلتا ہے کہ وہ خطرے میں ہیں، لہذا یہ اسی مشق کو اپنے چیٹ بوٹ کے ساتھ بات چیت تک بڑھا دیتا ہے۔
