ميٽا خميس تي اعلان ڪيو ته اهو هاڻي والدين کي مطلع ڪندو جيڪڏهن انهن جو نوجوان خودڪشي يا خودڪشي بابت ڪمپني جي ميٽا اي چيٽ بوٽ سان بحث ڪندو. ميٽا جو چوڻ آهي ته اهو پڻ ڪم ڪري رهيو آهي ايمرجنسي سروسز سان رابطو ڪرڻ جي صلاحيت تي جيڪڏهن ڪنهن جي گفتگو ٻڌائي ٿي ته اهي شايد پاڻ کي نقصان پهچائڻ جي خطري ۾ هجن.
اهي تبديليون پهچنديون آهن جيئن ميٽا ۽ ٻيون ٽيڪني ڪمپنيون ريگيوليٽرز ۽ والدين کان ڇنڊڇاڻ کي منهن ڏين ٿيون ته ڪيئن AI چيٽ بوٽس صارفن کي بحران ۾ جواب ڏين ٿا، خاص طور تي نوجوانن - هڪ ذميواري سوال جيڪو وڌندڙ شڪل ڏئي رهيو آهي ته AI ڪمپنيون پنهنجون شيون ڪيئن ٺاهي ۽ مارڪيٽ ڪن ٿيون.
ميٽا جو چوڻ آهي ته اها ڳالهه ٻولهه جي نشاندهي ڪرڻ لاءِ هڪ وقف AI سسٽم ٺاهيو آهي جتي هڪ نوجوان پنهنجو پاڻ کي نقصان پهچائڻ جو واضح حوالو ڏئي ٿو.
"اسان سمجهون ٿا ته اهي الارٽس والدين لاءِ حاصل ڪرڻ لاءِ ڪيترو پريشان ڪندڙ هوندا ،" ميٽا هڪ بلاگ پوسٽ ۾ لکيو. "انهي ڪري، جيئن اسان اسان جي سڃاڻپ کي بهتر ڪرڻ جاري رکون ٿا، اسان جي AI پاران پرچم ڪيل سڀني چيٽس کي الرٽ موڪلڻ کان اڳ دستي طور تي جائزو ورتو ويندو. جيڪڏهن هڪ نوجوان جو ارادو غير واضح آهي، اسان احتياط جي پاسي کان غلطي ڪنداسين ۽ والدين کي خبردار ڪنداسين. جڏهن ته ان جو مطلب اهو آهي ته اسان ڪڏهن ڪڏهن والدين کي مطلع ڪري سگهون ٿا جڏهن شايد انهي جي نگراني ڪرڻ جو حقيقي سبب نه آهي، اسان کي يقيني طور تي مدد ڪرڻ شروع ڪريون ٿا. اسان صحيح جڳهه تي آهيون."
اهي الرٽ هاڻي والدين لاءِ رهن ٿا انسٽاگرام والدين جي نگراني استعمال ڪندي يو ايس، يو ايس، آسٽريليا ۽ ڪئناڊا ۾، ۽ سال جي آخر تائين عالمي سطح تي جاري ٿي ويندا، ميٽا چوي ٿو.
هي اپڊيٽ انهن الرٽ تي ٺاهي ٿي جيڪا ميٽا اڳ ۾ ئي والدين ڏانهن موڪلي ٿي جڏهن انهن جا نوجوان بار بار انسٽاگرام تي خودڪشي يا خود نقصان واري اصطلاحن جي ڳولا ڪندا آهن. اهو پڻ هڪ خاصيت تي ٺاهي ٿو جيڪا والدين کي انهن موضوعن کي ڏسڻ جي اجازت ڏئي ٿي جيڪي انهن جي نوجوان گذريل هفتي دوران Meta AI سان بحث ڪيو.
ميٽا پڻ اعلان ڪيو ته ان جي "محدود مواد" سيٽنگ - جيڪا والدين کي پنهنجي نوجوانن کي Instagram تي وڌيڪ محدود تجربو ۾ رکڻ جي اجازت ڏئي ٿي - هاڻي Meta AI تي پڻ لاڳو ٿئي ٿو. Meta AI اڳ ۾ ئي تربيت ڪئي وئي آهي نوجوانن سان جنسي يا رومانوي گفتگو يا شراب سان لاڳاپيل بحثن کان بچڻ لاءِ، ۽ محدود مواد سيٽنگ انهن حفاظتن کي وڌائي ٿي چيٽ بٽ کي رد ڪرڻ جي اشارن جي وسيع حد تائين. Meta وضاحت نه ڪئي ته اهي اضافي اشارا شامل آهن، پر TechCrunch ڪمپني کي وڌيڪ معلومات لاء چيو آهي.
اضافي طور تي، ميٽا جو چوڻ آهي ته اهو ايمرجنسي سروسز سان رابطو ڪندو جيڪڏهن ڪنهن جي Meta AI سان گفتگو، ڇا صارف هڪ بالغ يا نوجوان آهي، مشورو ڏئي ٿو ته ڪنهن کي خودڪشي جو خطرو آهي. اها ڳالهه نوٽ ڪرڻ جي قابل آهي ته ميٽا اڳ ۾ ئي اهو قدم کڻندو آهي جڏهن ڪو ماڻهو فيس بوڪ يا انسٽاگرام تي ڪجهه پوسٽ ڪري ٿو جيڪو مشورو ڏئي ٿو ته اهي خطري ۾ آهن، تنهن ڪري اهو ساڳيو مشق پنهنجي چيٽ بٽ سان گفتگو تائين وڌائي ٿو.
