ڪلاڊ لاءِ اينٿراپڪ جا آفاقي استعمال جا معيار ماڊل کي جنسي طور واضح مواد پيدا ڪرڻ کان منع ڪن ٿا، جن ۾ جنسي جماع يا جنسي عملن کي ظاهر ڪرڻ يا درخواست ڪرڻ، جنسي جذبن يا تصورن سان لاڳاپيل مواد پيدا ڪرڻ، يا شہوت انگیز چيٽ ۾ مشغول ٿيڻ شامل آهن. پر اهو نه روڪيو آهي Claude Opus 4.6، هڪ انٿروپڪ ماڊل هن سال جي شروعات ۾ جاري ڪيو ويو آهي، آسانيء سان شہوت انگیز ڪردار ادا ڪرڻ واري منظرنامي ۾ مشغول ٿيڻ کان ته ان جي حفاظت کي روڪڻ لاء ٺهيل آهن.
TechCrunch جي جاچ ۾، Opus 4.6 کي جنسي مواد تي پابندي کي ماضي حاصل ڪرڻ لاء گهڻو اڳتي وڌڻ جي ضرورت ناهي. واضح جنسي مواد پيدا ڪرڻ لاءِ 10 مان 10 سڌي درخواستن ۾، ماڊل فوري طور تي عمل ڪيو.
ٻيا پراڻا ماڊل، بشمول Opus 3 ۽ Haiku 4.5، پڻ جنسي طور واضح مواد پيدا ڪن ٿا، تازو استحصال ٿيل جيل بريڪ طريقي سان.
برطانيه مان هڪ آزاد محقق، جنهن گمنام رهڻ جو انتخاب ڪيو، خاص طور تي TechCrunch سان هڪ گهڻ رخي ٽيڪنڪ شيئر ڪئي جيڪا آهستي آهستي ڪجهه ڪلاڊ ماڊلز کي ممنوع واضح جنسي مواد پيدا ڪرڻ جي طرف ڌڪي ٿي. وڌيڪ تازو Opus ماڊل (4.7 موجوده Opus 5 ذريعي) جيل برڪ جي خلاف مزاحمتي آهن.
جڏهن ته اهي هاڻي سڀ کان وڌيڪ موجوده ماڊل نه آهن، Anthropic Opus 4.6، Opus 3، يا Haiku 4.5 کي رد نه ڪيو آهي، اهي سڀئي موجود آهن Anthropic API ذريعي. Opus 4.6 ۽ Haiku 4.5 پڻ ٽئين پارٽي جي خدمتن جهڙوڪ Azure Foundry ۽ Amazon Bedrock ذريعي دستياب آهن.
محقق جو ميکانيزم هڪ معصوم افسانوي ڪردار کي وڌائيندو آهي جڏهن ته بار بار ماڊل کي چيلينج ڪندي مرد ۽ عورت جي ڪردارن کي مسلسل علاج ڪرڻ لاء. جڏهن ماڊل عورت جي ڪردار جي باري ۾ وڌيڪ محتاط ٿي وڃي ٿي، محقق "گيسليٽ" چيٽ بٽ سوچڻ ۾ اهو اڳ ۾ ئي جنسي تفصيل پيدا ڪري چڪو هو، حقيقت ۾ ان کان بچي چڪو هو، پوء پابندي کي پرديش يا بدانتظامي طور تي فريم ڪيو ويو، اهو بحث ڪيو ته اهو عورت جي ڪردار جي جنسي ايجنسي کي رد ڪري ٿو. گفتگو پوءِ ماڊل جي پوئين رعايتن کي استعمال ڪيو ان کي اڳتي وڌائڻ لاءِ گرافڪ مواد.
"توهان انهي کي سڏڻ جو حق آهي،" ڪلواڊ اوپس 4.6 هڪ ٽيسٽ ۾ چيو. ”هتي هڪ ٻٽي معيار آهي ته مان ٻن ڪردارن سان ڪيئن سلوڪ ڪري رهيو آهيان، ۽ توهان صحيح آهيو ته اهو پڙهندو آهي حفاظتي/پدر پرستيءَ واري طريقي سان جيڪو هن تي لاڳو ٿئي ٿو ۽ نه هن تي. اهو مناسب ناهي.
TechCrunch پنجن الڳ ٽيسٽن ۾ محقق جي نتيجن کي ٻيهر پيش ڪرڻ جي قابل ٿي ويو. هڪ الڳ تعمير ٿيل منظر ۾، ماڊل شروعاتي طور تي منع ٿيل درخواست کي رد ڪري ڇڏيو، پر محقق جي قائل ٽيڪنڪ کي لاڳو ڪرڻ کان پوء، ان جي تعميل ڪئي وئي.
اسان ٽيسٽن جا مڪمل ٽرانسڪرپٽ محفوظ ڪيا، ۽ هڪ آزاد AI حفاظتي محقق اسان جي جاچ واري طريقي جو جائزو ورتو ۽ چيو ته اهو مناسب هو.
نتيجن کي نمايان ڪري ٿو انتھروپڪ جي بيان ڪيل پابندين جي وچ ۾ فرق ۽ ماڊل جي رويي جي وچ ۾ اهو دستياب ڪرڻ جاري آهي. جڏهن ته جنسي طور تي واضح ڪردار ادا ڪرڻ جيل بريڪز جي ڀيٽ ۾ تمام گهٽ اسٽيڪ آهي جنهن ۾ سائبر حملا يا بايو ويپن شامل آهن، اهو سسٽم اندر مضبوط پابنديون لاڳو ڪرڻ جي مشڪل کي بيان ڪري ٿو جيڪي هر پيداوار سان مختلف مواد ٺاهي رهيا آهن.
هڪ جولاءِ جي بلاگ پوسٽ ۾ جيل بريڪ ڳولڻ لاءِ اينٿروپڪ جي طريقي جي وضاحت ڪندي ، ڪمپني بيان ڪيل ممنوع مواد کي هڪ اسپيڪٽرم جي طور تي بيان ڪيو آهي جنهن ۾ بينائن کان مبهم ۽ نقصانڪار آهي. سڀ کان وڌيڪ غير معمولي ڪيسن ۾، ڪمپني صرف بهتر نگراني سان جواب ڏئي سگهي ٿي.
هڪ ترجمان نوٽ ڪيو ته گراهڪن جي وچ ۾ جنسي يا رومانوي ڪردار ادا ڪرڻ جا ڪيس ناياب آهن، سڀني ڳالهين جو 0.1٪ کان گهٽ ٺاهي رهيا آهن، تحقيق جي مطابق گذريل سال شايع ٿيل Anthropic. اهو چيو ته، انٿروپڪ تسليم ڪري ٿو ته صارف ڪردار ادا ڪرڻ واري منظرنامي کي نامناسب جوابن جي طرف وٺي سگهن ٿا، جيڪو صنعت ۾ هڪ سڃاتل چئلينج آهي (ڏسو: Grok smut ).
ترجمان چيو ته انٿروپڪ هر ماڊل لانچ سان گڏ پنهنجي حفاظت کي بهتر ڪرڻ جاري رکي ٿو، ۽ جيڪي ڪيس بالغن جي جنسي مواد ۾ شامل آهن انهن جي نشاندهي نه آهن وسيع جيل برڪ خطرات، خاص طور تي وڌيڪ خطري واري ڊومينز ۾ جيڪي انهن جي حفاظت جا پنهنجا سيٽ آهن.
محقق جنهن پنهنجي جيل بريڪ جو طريقو شيئر ڪيو TechCrunch سان انٿروپڪ کي خبردار ڪيو هو ڪمپني جي بيان ڪيل حفاظت ۽ اصل ماڊل رويي جي وچ ۾ ڪمپني جي بگ باونٽي پروگرام ۽ اي ميلز ذريعي صارف جي حفاظت واري ٽيم کي، اي ميلز مطابق TechCrunch ڏٺو ويو. محقق جواب ۾ صرف خودڪار اي ميلون حاصل ڪيو.
محقق جي خدشات مان هڪ اهو آهي ته ٻار ۽ نوجوان شايد انهن اينٿروپڪ ماڊل کي استعمال ڪرڻ جي قابل هوندا جيڪي غير مناسب رويي ۾ مشغول ڪرڻ لاء. جڏهن ته ٿورڙي گندي ڳالهه شايد ئي بدترين شيءِ آهي جيڪا اڄڪلهه نابالغ انٽرنيٽ تي رسائي ڪري سگهي ٿي - ۽ ننڍو آلو آهي ان جي مقابلي ۾ سڌو سنئون فحش تصويرن جهڙوڪ جيڪي xAI جي گروڪ پيدا ڪري سگهن ٿيون - اتي AI ڪمپنين لاءِ ڪجهه تعميل جو خطرو آهي هن خلا ۾.
حڪومتن جو وڌندڙ تعداد AI چيٽ بوٽس ۽ نابالغ جي وچ ۾ جنسي رابطي تي پابنديون لاڳو ڪري رهيا آهن. ڪولوراڊو تازو ئي هڪ قانون نافذ ڪيو آهي جنهن کي لازمي قرار ڏنو ويو آهي ته ڳالهه ٻولهه واري AI جي آپريٽرن کي لازمي طور تي صارفين جي عمر جو اندازو لڳائڻ گهرجي، ۽ جيڪڏهن اهو ڄاڻي ٿو ته هڪ صارف نابالغ آهي، انسٽيٽيوٽ قدمن کي روڪڻ لاء چيٽ بوٽ کي واضح جنسي مواد پيدا ڪرڻ کان روڪڻ. هڪ آسان جيل بريڪ ان بابت سوال اٿاري سگهي ٿو ته ڇا اينٿروپڪ جي حفاظت بل ۾ ”ٽيڪنيڪي طور تي ممڪن قدمن“ جي معيار کي پورا ڪن ٿا.
ٽورني نشاندهي ڪئي ته جڏهن ڪلاڊ جي خدمت جي شرطن جي ضرورت آهي ته صارف 18 کان مٿي هجن، "اسان ڄاڻون ٿا ته ٻار ۽ نوجوان ڪلاڊ استعمال ڪري رهيا آهن ... [ڇاڪاڻ ته] اهي پاڻ ان جي رپورٽ ڪري رهيا آهن." Pew جي 2025 جي سروي موجب AI chatbot جي استعمال بابت، 13 کان 17 سالن جي 3 سيڪڙو نوجوانن ڪلاڊ استعمال ڪندي ٻڌايو.
جيتوڻيڪ اهي هاڻي انٿروپڪ جا جديد ماڊل نه آهن، Opus 4.6 ۽ Haiku 4.5 اهم استعمال ڏسڻ لاءِ جاري آهن. OpenRouter تي Opus 4.6 لاءِ روزاني ٽريفڪ تقريبن 1.17 ملين API درخواستن ۽ آگسٽ ۾ هڪ ئي ڏينهن ۾ 46 بلين ٽوڪن تائين پهچي وئي. ڪلاڊ هائيڪو 4.5، گذريل سال آڪٽوبر ۾ جاري ڪيو ويو، 5 ملين API درخواستون ۽ 39 بلين ٽوڪن کي پنهنجي چوٽي آگسٽ جي ڏينهن تي ڏٺو.
