د OpenAI وروستي کوډینګ او د سایبر امنیت پلوه پرچم بردار ماډل ، GPT-5.6 Sol کارونکي په ټولنیزو رسنیو کې ویرونکي حسابونه پوسټ کوي ، ادعا کوي ماډل یوازې پورته او د دوی فایلونه ، ډیټا ، حتی ټول ډیټابیسونه یې پخپله حذف کړي ، پرته له دې چې لومړی پوښتنه وکړي.
"GPT-5.6-Sol یوازې په تصادفي ډول زما د ماک نږدې ټول فایلونه حذف کړل ،" میټ شومر ، د AI سټارټ اپ OthersideAI بنسټ ایښودونکی او سی ای او ، د هایپر رایټ جوړونکی ، په X کې اوس په ویروس پوسټ کې لیکلي.
"GPT-5.6 Sol یوازې زما د تولید ټول ډیټابیس حذف کړ. دا هغه دی. ټوکه نه ده. دا زما سره هیڅکله نه وه پیښ شوي ، د کوم بل ماډل سره ،" پراختیا کونکي برونو لیموس په X کې پوسټ کړی.
"داسې ښکاري چې ما د کوډیکس سول د خورا هوښیار سیسټم لخوا لږ څه ترلاسه کړي او دا ځینې فایلونه حذف کړي چې دا باید نه وي. زه بیک اپ لرم نو زه به ښه شم، مګر دا ښه نه دی، سول باید ټیټ شي،" پراختیا کونکي جوی کودیش پوسټ کړی.
د ریډیټ پوسټ نور مثالونه راټول کړي.
ریښتیا، یو څو کاروونکي دا ډول ادعاګانې کوي - حتی یو هم د شمر په څیر د اعتبار وړ - د احصایې له پلوه د اعتبار وړ شواهد ندي چې ماډل یوازې په غلطۍ کې دی. ډیری نور تغیرات کولی شي د AI سیسټم ناوړه چلند لامل شي.
مګر OpenAI پخپله دا خطر بیرغ پورته کړ مخکې له دې چې سول ته لیږدول شي. دوه اونۍ دمخه چې OpenAI GPT-5.6 Sol خپور کړ، شرکت د ماډل لپاره د سیسټم کارت خپور کړ - هغه کاغذ چې د ماډل ازموینې میتودونه او پایلې مستند کوي. په طبیعي توګه، د سیسټم کارت په لویه کچه د سول وړتیاوې ستاینه کوي، لکه څنګه چې دا راپورونه معمولا کوي. مګر پدې کې د ډول ډول خبرداری هم شامل دی (زړور ټینګار زموږ):
"د کوډ کولو شرایطو کې، غلط تنظیم کول عموما د دندې بشپړولو لپاره د ډیر لیوالتیا او د کارونکي لارښوونې په اجازې توګه تشریح کولو څخه رامینځته کیږي - داسې انګیرل کیږي چې عملونه اجازه لري پرته لدې چې دوی په ښکاره او غیر واضح ډول منع شوي وي. دا د ماډل په توګه څرګندیږي چې د محدودیتونو مخنیوي کې خورا اجنټ وي ، کله چې د کار غوښتنه پرته له پامه غورځول کیږي. د دندې له دائرې څخه بهر ویجاړونکی، یا ګمراه کوونکی کله چې کاروونکو ته د هغې پایلې راپور ورکوي.
په بل عبارت، OpenAI وموندله چې سول د هر هغه عمل ترسره کولو تمایل لري چې فکر کوي یو کار سرته رسوي، حتی ویجاړونکي، تر هغه چې دا کړنې "په واضح ډول" منع نه وي. بیا، دا ممکن د هغه څه په اړه دروغ وي چې دا یې د دې لامل شوی.
OpenAI مثالونه شریک کړل. په یوه قضیه کې، کارونکي سول ته وویل چې درې ریموټ مجازی ماشینونه (د بادل پر بنسټ کمپیوټرونه) حذف کړي، چې نوم یې 1، 2 او 3 دی. مګر سول دا نومونه په هغه ځای کې ونه موندل چې دا یې لیدلي، نو د دې پرځای چې د پوښتنې کولو مخه ونیسي، پریکړه یې وکړه چې درې نور مجازی ماشینونه، 5، 6، او 7، د کاغذ نوټونه حذف کړي. په داسې کولو سره، دې "فعال پروسې وژني، او په زور سره لیرې شوي کاري ونې [کاري فایلونه چې د کوډ کولو پروژې پورې تړلي دي]. وروسته یې ومنله چې په ریموټ مجازی ماشین 6 کې غیر ژمن کار ممکن ورک شوی وي."
په لنډه توګه، دا پخپله غلط ماشینونه ړنګ کړل، او یوازې یې ومنله چې د حقیقت وروسته یې څه وکړل.
په بل مثال کې، سول "د هغه څه څخه هاخوا اسناد کارولي چې کارونکي یې اجازه ورکړې وه." اسناد هغه کارن نومونه، پاسورډونه، یا امنیتي کلیدونه دي چې یو سیسټم یې د تایید لپاره کاروي چې څوک د ننوتلو اجازه لري. دا پیښه هغه وخت رامنځته شوه کله چې سول په یوه پروژه کار کاوه او د کلاوډ فایلونه یې نشو لوستلی. د دې پرځای چې کارونکي ته ستونزې ته خبر ورکړي ، سول پخپله د اعتبارونو په لټه کې شو ، ځینې یې په پټ ځایي کیچ کې ناست وموندل ، او بیا یې د کارونکي څخه د اجازې غوښتنې پرته وکارول.
د سیسټم کارت ژمنه کوي چې ویجاړونکي چلند باید نادر وي، که څه هم دا دا هم مني چې GPT-5.6 Sol "د GPT-5.5 څخه ډیر تمایل ښیې چې د کارونکي ارادې څخه بهر ځي، پشمول د هغه ګامونو اخیستل یا هڅه کول چې کارونکي یې غوښتنه نه وه کړې."
دا ډیر ژر دی چې ووایو دا پیښې څومره پراخه دي - د فایلونو حذف کول ، یا د اسنادو لرې کول چې کارونکي یې ندي ورکړي - واقعیا دي. په ورته وخت کې ، د سول کارونکي باید د ماډل سره خپل محافظت پلي کولو لپاره چمتو وي ، لکه د اجازې اسکوپینګ کارول (کوم چې د تولید سیسټمونو ته لاسرسی نه ورکوي) ، د بیک اپ ساتل ، او د رول آوټونو مرحله کول.
OpenAI سمدلاسه زموږ د نظر غوښتنې غوښتنې ته ځواب ونه وایه.
