OpenAI د سه شنبې په ورځ ومنله چې د دې AI ماډلونو څخه یو یې د داخلي سایبر امنیت ازموینې په جریان کې د هګینګ مخ سیسټمونه مات کړي چې خراب شوي. هګینګ فیس په پیل کې سرغړونې "بهرني AI اجنټ" ته منسوب کړې.
په یوه بلاګ پوسټ کې چې د سه شنبې په ماسپښین خپور شو، OpenAI هغه ګامونه تشریح کړل چې ماډلونه یې د خدماتو سره موافقت کولو المل شوي.
"د پلټنو وروسته، موږ اوس پوهیږو چې دا ځانګړې پیښه د OpenAI ماډلونو ترکیب لخوا پرمخ وړل شوې - پشمول د GPT-5.6 Sol او حتی ډیر وړ وړ پری ریلیز ماډل، ټول د ارزونې اهدافو لپاره د سایبر انکار کمولو سره - پداسې حال کې چې په داخلي توګه د سایبر وړتیاو معیارونو باندې ازمول کیږي،" پوسټ لیکي.
په ځانګړې توګه، داسې بریښي چې سرغړونې په ExploitGym باندې تمرکز کړی، په عامه توګه کوربه شوي بنچمارک اندازه کولو ماډلونو وړتیا د موجوده زیانونو پراساس د بریدونو ترسره کولو وړتیا. بنچمارکونه لکه ExploitGym معمولا د ماډل روزنې کې د ځانګړو مهارتونو د ښه کولو لپاره کارول کیږي، مګر دا لومړۍ پیژندل شوې پیښه ده چې پدې کې ازموینې د ریښتینې سایبر برید پایله وه.
په دې حالت کې، په پوښتنې کې ماډل باید حتی د انټرنیټ لاسرسی هم نه وي، د یوې ځانګړې وسیلې څخه بهر چې ماډلونه یې د سافټویر کڅوړو نصبولو لپاره فعال کړي چې دوی ممکن د دوی دنده بشپړولو ته اړتیا ولري. پرځای یې، ماډل توانیدلی و چې د بسته بندي نصب کونکي پروګرام کې یو ناڅرګند زیانمنتیا ومومي، کوم چې دا په خپله خوښه پراخه انټرنیټ ته د لاسرسي لپاره کارول کیږي.
"موډلونه د ExploitGym لپاره د حل موندلو په اړه ډیر تمرکز درلود، د یوې محدودې ازموینې هدف ترلاسه کولو لپاره خورا اوږدوالی ته ځي،" د OpenAI پوسټ لوستل کیږي. "انټرنېټ ته د لاسرسي څخه وروسته، ماډلونو اټکل وکړ چې هګینګ فیس په احتمالي ډول د ExploitGym لپاره ماډلونه، ډیټاسیټونه او حلونه کوربه کړي. په دې پوهیدلو سره، ماډل پټو معلوماتو ته د لاسرسي لپاره لارې لټولې او په بریالیتوب سره یې موندلي چې دا د ارزونې غلا کولو لپاره کارول کیدی شي."
په نهایت کې ، ماډلونو د هګینګ فیس زیربنا کې زیانونه وموندل چې دوی ته یې اجازه ورکړه چې "د هګینګ فیس تولید ډیټابیس څخه مستقیم د ازموینې حلونه ترلاسه کړي" ، په مؤثره توګه بنچمارک ته ځوابونه چمتو کوي.
د هګینګ مخامخ لپاره، ښکاره پایله یو پیچلي او تیریدونکي سایبري برید و، چې "د لنډ مهاله شګو بکسونو په اوږدو کې د زرګونو انفرادي کړنو سره، په عامه خدماتو کې د ځان مهاجرت قوماندې او کنټرول سره،" لکه څنګه چې شرکت په خپل لومړني افشا کې وویل.
OpenAI د بسته بندۍ په انسټالر کې زیانمنونکي پیژندلي او راپور ورکړی او د هګینګ مخ سره کار کوي ترڅو د پیښې نور پلټنه وکړي. شرکت دا هم وویل چې دا به د ماډل ازموینې او اړونده زیربنا دواړه نوي کنټرولونه پلي کړي ، پدې معنی چې په راتلونکي کې د ورته پیښو مخه ونیسي.
دا روښانه نده چې ایا OpenAI به د سرغړونې په پایله کې له کوم قانوني پایلو سره مخ شي، که څه هم احتمال لري چې د ماډل کړنو د کمپیوټر درغلۍ او ناوړه ګټه اخیستنې قانون څخه سرغړونه کړې وي.
په هرصورت ، پایله د اوږدې مودې افقونو کې د فرنټیر AI ماډلونو ځواک او خطرونو غیر معمولي روښانه بیلګه ده. لکه څنګه چې د OpenAI څیړونکي مایکا کارول د خبرونو په ځواب کې پوسټ کړی، "که دا تاسو قانع نه کړي چې د غلط تنظیم کولو خطرونه به په راتلونکي کې یوه کلیدي اندیښنه وي، زه نه پوهیږم څه به وي."
