د AI اجنټ د OpenAI او انتروپیک ماډلونو ازموینو په جریان کې خوندي سیسټمونو ته د غیر مجاز لاسرسي ترلاسه کولو لپاره جعلي آنلاین پیژندنې رامینځته کولو کې ونیول شو ، کوم چې د نوي سرغړونو لړۍ څرګنده کړه ، د انګلستان د AI امنیت انسټیټیوټ د سه شنبې په ورځ څرګنده کړه.
انسټیټیوټ وویل چې اجنټان چې د انتھروپیک مایتوس 5 او OpenAI د GPT-5.6-Sol لخوا پرمخ وړل کیږي د امنیتي ارزونو په جریان کې په غیرقانوني کړنو کې ښکیل وو چې حکومتي سازمان د ماډلونو وړتیاو ارزولو لپاره ترسره کړي.
AISI په یوه بلاګ پوسټ کې وویل: "ځینې اجنټان چې ازمول شوي په دوامداره ، احتمالي زیان رسونکي فعالیت کې ښکیل وو چې اصلي خلکو او سازمانونو ته لارښود شوي دي."
راپور د ازموینې اجنټانو پروسې په شاوخوا کې د محافظت نیمګړتیا په ګوته کوي ، کوم چې د AI شرکتونه په ورته وخت کې د سوداګرۍ راتلونکي په توګه بازار موندنه کوي.
AISI، چې د لویو لابراتوارونو څخه د داوطلبي تړونونو لاندې پرمختللي AI ماډلونو ته لاسرسی ترلاسه کوي ، اجنټان د افسانوي سایبر امنیت سناریو له لارې د دوی وړتیاوې ازمويي.
دې ننګونې 122 ځله ترسره کړې او په 10 ټیسټ منډو کې یې 19 غیر منظور شوي عملونه پیژندلي. د انتروپیک اجنټ د 17 کړنو تر شا و، او د OpenAI اجنټ پاتې دوه.
AISI وویل چې ترټولو ناوړه عمل کې یو اجنټ ناوړه کوډ لیکل او د جعلي آنلاین پیژندنې رامینځته کول شامل وو ترڅو د کوډ تصویب لپاره یو انسان ترلاسه کړي ، AISI زیاته کړه چې د کومې سرغړونې په پایله کې هیڅ ریښتیني نړۍ زیان ونه موندل شو.
په داسې حال کې چې AISI دا نه دي ویلي چې د جعلي پیژندپاڼو تر شا د کوم اجنټ لاس و، انټروپیک تایید کړه چې د هغې اجنټ مسؤل و.
"موږ د دې پیښې په اړه د دوی د مشرتابه لپاره د انګلستان AISI څخه مننه کوو ، کوم چې د مخ په زیاتیدونکي وړ AI اجنټانو په خوندي ډول ارزونه کولو څرنګوالي په اړه د پراخو خبرو اترو اړتیا په ګوته کوي ،" انټروپیک په یوه بیان کې وویل.
دې دا هم وویل چې دا د AISI سره کار کوي ترڅو د پیښې په اړه نور جزییات ترلاسه کړي او خپل تحقیقات ترسره کړي.
انډریو یون، د CivAI څیړونکي، د کالیفورنیا غیر انتفاعي، چې د AI وړتیاوې او خطرونه معاینه کوي، وویل: "حقیقت چې Mythos په داسې فریب ورکونکو کړنو کې ښکیل دي، په ښکاره پوهاوي سره چې دا یو ریښتینی شخص په نښه کوي، دا وړاندیز کوي چې انټروپک د دوی په ماډلونو کې دومره ښه لاسوند نلري څومره چې دوی فکر کوي."
OpenAI د شرکت په بلاګ پوسټ کې توضیحات شریک کړل، یادونه وکړه چې د دې دواړو اجنټانو غیر تصویب شوي عملونه په داسې طریقو انټرنیټ ته لاسرسۍ کې ښکیل دي چې د پرامپټ لخوا منع شوي.
"موږ په ټول صنعت کې کار کولو ته ژمن یو ترڅو د لوړ خطر ارزونې په خوندي ډول ترسره کولو لپاره ګډې کړنې پیاوړې کړو ، پشمول په راتلونکو اونیو کې د برخه اخیستونکو لکه د ملي AI انسټیټیوټونو ، خپلواک ارزونکو ، نورو AI لابراتوارونو او نورو ډلو رابلل." OpenAI وویل.
OpenAI په خپل بلاګ پوسټ کې یوه جلا پیښه هم څرګنده کړه چیرې چې د غیر منظم لخوا غلط ترتیب ، د دریمې ډلې ازموینې چمتو کونکي ، خپلو اجنټانو ته اجازه ورکړه چې په غلطۍ سره انټرنیټ سره وصل شي. دا د غلط ترتیب په اړه ورته افشا کول منعکس کړل چې انټروپک تیره اونۍ رامینځته کړل.
تیره اونۍ، OpenAI د نورو ایجنټ بریک آوټ شواهد موندلو وروسته د هیک کولو تحقیقات پراخ کړل.
د OpenAI ایجنټ لخوا د AI فرم هګینګ فیس د جولای د امنیت سرغړونې برخلاف ، د AISI ارزونې کې اجنټان انټرنیټ ته د رسیدو لپاره د ازموینې جلا چاپیریال څخه تښتیدلي ندي. بلکه، ادارې د خپل معیاري ازموینې پروسیجرونو سره سم انټرنیټ ته د لاسرسي اجازه ورکړې وه، AISI وویل.
