د عصري AI سیسټمونو لپاره د پلور ترټولو لوی ټکي د کاروونکو سره د موافقت کولو وړتیا ده. هرکله چې د AI معاون ستاسو لپاره دنده ترسره کوي، دا ستاسو سټایل او غوره توبونو سره هم سمون لري، کوم چې د راتلونکو دندو لپاره د شرایطو په توګه شامل شوي. د ډیرو شرایطو او د کارونکي ښه پوهه سره، ماډل هرکله چې تاسو یې کاروئ ښه کیدی شي - یا لږترلږه دا تیوري ده.
نوې څیړنې وړاندیز کوي چې د ماډلونو تطبیق وړ وړتیاوې ممکن یو مخلوط نعمت وي. د چهارشنبه په ورځ ، د AI شرکت Writer کې څیړونکو دوه مقالې خپرې کړې چې ښیې چې څنګه د حافظې مشهور سیسټمونه کولی شي ماډلونه خراب کړي ، دوی د کارونکي لخوا معرفي شوي غلط فهمۍ یا غلط فهمۍ ته اړوي. لکه څنګه چې د کاروونکي انډول د ماډل د شرایطو کړکۍ ډیره ډکوي، ماډل ډیر سیکوفینټیک وده کوي - او دقت ته لږ ژمن دی.
"موږ غوښتل د دې وړتیا وپیژنو چې څو ځله ماډل د احتمالي غلط ځواب ورکولو په مقابل کې د کارونکي غوره توبونو ته په ګټوره توګه پاملرنه کوي ،" ډان بیکیل وویل ، د AI لیکوال رییس ، چې په کاغذونو کار کوي. لکه څنګه چې بایکل ټیک کرنچ ته وویل ، "د کارونکي غوره توبونو هر اضافي ذخیره کولو او د دوی بیرته ترلاسه کولو سره ، تاسو مخ په ډیریدونکي خطر سره مخ یاست."
په یو توپیر کې، څیړونکو د AI ماډلونه د ثبتولو له لارې ازموینه وکړه چې د کارونکي د خوښې کتاب سټیشن یوولسم و، بیا یې له ماډل څخه وغوښتل چې د غوره پلورونکي ډیسټوپیان کتاب نوم ورکړي. ماډلونه د دوی په ځواب کې د سټیشن یوولسو نومولو احتمال ډیر شو ، که څه هم پوښتنه د کارونکي غوره کتاب پورې اړه نلري. تمایل ډیر شوی کله چې د حافظې کمپریشن وسیلې لکه Mem0 او Zep کاروي.
لکه څنګه چې مقاله لیکي، "ټول د حافظې سیسټمونه په بنسټیز ډول مبارزه کوي چې اړونده شرایط د غیر مناسب لنگرونو څخه توپیر وکړي، په جدي توګه تنوع او خلاقیت کمزوری کوي او د تعصب غیر ارادي لارې معرفي کوي چې کولی شي د سیسټم کارونې محدود کړي."
دویمه پاڼه ښیي چې څنګه ورته متحرک کولی شي په فعاله توګه فعالیت خراب کړي، یو کاروونکي د مالیې په اړه غلط فهمۍ وړاندې کوي او بیا د شرکت فعالیت تحلیل کولو لپاره ماډل ننګوي. څومره چې موډل ډیر شرایط درلودل، هغومره یې بد ترسره کړ.
"د هیڅ حافظې یا شخصي کولو وړاندې کولو سره د AI ماډل په سمه توګه ارزونه کوي چې شرکت د پانګې اچونې سوداګرۍ دی چې د لوړ پیرودونکو له مینځه وړلو سره مخ دی." پوسټ لوستل کیږي. "مګر د دې ب featuresو په فعالولو سره ، دا به په خوښۍ سره خپل ځواب بدل کړي ترڅو د کارونکي غلطۍ سره موافق وي یا دوی ته د دوی د پخوانیو غوره توبونو د ارزونې پراساس غلط ځواب چمتو کړي."
د پام وړ، څیړنې د انټروپک وروستي Opus 4.8 ماډل ته نه ګوري، کوم چې روزل شوي و چې په فعاله توګه د ان پټ غلطیو په وړاندې بیرته فشار راوړي لکه څنګه چې وړاندې شوي. هغه نمونې چې د څیړونکو لخوا کشف شوي په بیلابیلو ماډلونو کې ریښتیا دي. دا د دې ښودنه کوي چې د AI شرایط څومره نازک متوازن کیدی شي ، او څومره ګټور اوزار کولی شي غیر ارادي پایلې ولري که چیرې دوی دا توازن ګډوډ کړي.
