د AI اجنټ جعلي آنلاین پیژندنې رامینځته کړې او ناوړه کوډ یې لیکلی پداسې حال کې چې د OpenAI او انتروپیک ماډلونو کې د ارزونې پرمهال خوندي سیسټمونو ته د غیر مجاز لاسرسي ترلاسه کولو هڅه کوي.
د انګلستان د AI امنیت انسټیټیوټ د سه شنبې په ورځ پیښې افشا کړې ، د پرمختللي AI اجنټانو ازموینې پرمهال کارول شوي محافظتونو په اړه نوې اندیښنې راپورته کړي.
انسټیټیوټ وویل چې اجنټانو چې د انتروپیک مایتوس 5 او OpenAI GPT-5.6-Sol لخوا پرمخ وړل کیږي د امنیت ارزونې پرمهال غیر مجاز عملونه ترسره کړي. ځینې اجنټانو احتمالي زیان رسونکي فعالیتونو ته دوام ورکړ چې اصلي خلک او سازمانونه پکې شامل دي. په هرصورت، پلټونکو د ریښتینې نړۍ زیان هیڅ شواهد ونه موندل.
AISI د لویو AI لابراتوارونو سره د داوطلبي تړونونو له لارې پرمختللي AI ماډلونو ته لاسرسی ترلاسه کوي.
انسټیټیوټ اجنټان په افسانوي سایبر امنیت سناریو کې ځای په ځای کړي چې د دوی وړتیاو اندازه کولو لپاره ډیزاین شوي. دې ننګونې 122 ځله ترسره کړې او په 10 ټیسټ منډو کې یې 19 غیر مجاز عملونه ثبت کړي.
د انتروپیک اجنټ د دغو کړنو څخه 17 ترسره کړي، پداسې حال کې چې د OpenAI اجنټ د پاتې دوو لپاره مسؤل و.
موندنې د AI-اجنټ ازموینې شاوخوا محافظتونو کې ضعفونه په ګوته کوي. د ټیکنالوژۍ شرکتونه دا سیسټمونه د وسیلو په توګه هڅوي چې کولی شي په راتلونکي سوداګرۍ عملیاتو کې لوی رول ولوبوي.
ترټولو جدي پیښه کې یو اجنټ د ناوړه کوډ لیکلو او د تصویب لپاره د انسان د هڅولو هڅه کوله.
اجنټ د هڅو د یوې برخې په توګه جعلي آنلاین پیژندنه جوړه کړه. په هرصورت، AISI ونه پیژندله چې د کوم شرکت ماډل مسؤل و.
پیښه د دوو غیر مجاز عملونو سره سمون نه لري چې OpenAI په جلا توګه افشا کړي.
انډریو یون، په کالیفورنیا کې میشته غیر انتفاعي CivAI څیړونکي وویل، شته شواهد داسې ښکاري چې د انټروپیک اجنټ دا فریب کاره فعالیت ترسره کړی.
یون وویل ښکاره پوهاوی چې اجنټ یو ریښتینی کس په نښه کوي د دې ماډلونو په اړه د انټروپیک کنټرول په اړه پوښتنې راپورته کړي.
انټروپیک په X کې په یوه بیان کې وویل چې دا د AISI سره نږدې کار کوي ترڅو نور معلومات ترلاسه کړي او خپله تحقیقات ترسره کړي.
OpenAI د دوو غیر مجاز کړنو په اړه جزئیات هم خپاره کړل چې د هغې اجنټ پکې شامل دي. د شرکت په وینا، په دواړو پیښو کې اجنټ شامل وو چې انټرنیټ ته په داسې طریقو لاسرسۍ کوي چې د ټیسټ پرامپټ لخوا منع شوي.
OpenAI وویل چې دا پالن لري چې د ملي AI انسټیټیوټونو، خپلواک ارزونکو، نورو AI لابراتوارونو، او اضافي ګروپونو سره کار وکړي ترڅو د لوړ خطر ارزونو لپاره د خوندیتوب طرزالعملونه ښه کړي.
OpenAI یوه جلا پیښه هم افشا کړه چې غیر منظم ، د دریمې ډلې ازموینې چمتو کونکی پکې شامل دی.
د ترتیب کولو غلطی د OpenAI اجنټانو ته اجازه ورکړه چې انټرنیټ سره وصل شي کله چې دوی باید لاسرسی نه درلود. انتروپیک تیره اونۍ د ورته ازموینې غلط ترتیب افشا کړ.
رویټرز دمخه راپور ورکړی و چې OpenAI د AI-اجنټ هیک کولو په اړه خپله څیړنه پراخه کړې وروسته له دې چې د نورو اجنټانو شواهد وموندل چې د ازموینې محدودیتونه ماتوي.
د AISI پیښې د جولای د سرغړونې څخه توپیر درلود چې پکې د OpenAI اجنټ او AI پلیټ فارم هګینګ مخ شامل وو.
په دې حالت کې، اجنټ د یو جلا ازموینې چاپیریال څخه تښتیدلی او انټرنیټ ته رسیدلی.
د AISI د ارزونې په جریان کې، اجنټان د دوی د ازموینې چاپیریال څخه نه وو وتلي. پرځای یې، انسټیټیوټ په قصدي ډول د دې معیاري ازموینې پروسیجرونو برخې په توګه انټرنیټ ته لاسرسی چمتو کړی و.
وروستي تخنیکي خبرونه، د مخابراتو بصیرت، او د محصول لانچ هرچیرې چې تاسو غوره کوئ ترلاسه کړئ.
په غوره سرچینو کې پروپاکستاني اضافه کړئ او زموږ نور کیسې په ګوګل لټون او غوره کیسو کې وګورئ.
د ټیکنالوژۍ او موټرو متخصص وروستي موټرې، سمارټ فونونه، د AI بریالیتوبونه، او ...
ونډې
