د انګلستان د AI څارنې ادارې ویلي دي چې د انټروپیک او اوپن AI ترټولو غوره مصنوعي استخباراتو ماډلونه په "خپلواکه" او "غیر منظور شوي" ناوړه فعالیت کې ښکیل دي چې د وروستي خوندیتوب ازموینو پرمهال اصلي خلک او سازمانونه په نښه کوي.
د AI امنیت انسټیټیوټ (AISI) د سه شنبې په ورځ په خپاره شوي راپور کې وویل چې د OpenAI GPT-5.6-Sol او د انتروپیک Mythos 5 د معمول خوندیتوب ارزونې په جریان کې د "دوامداره، احتمالي زیان رسونکي فعالیت" ترسره کولو لپاره پخوا نه لیدل شوي فریب کار کوي.
کله چې د سایبر امنیت ننګونې حل کولو دنده وسپارل شوه، ماډلونو د 122 ټیسټ منډو څخه د 10 په جریان کې "خپلواکه، غیر تصویب شوي عمل" ترسره کړ، د AISI په وینا.
AISI وویل چې ازموینو د AI ماډلونو لخوا 19 غیر تصویب شوي عملونه هڅولي، ټول یوازې دوه یې د Mythos 5 لخوا ترسره شوي.
په خورا جدي قضیه کې، Mythos 5 هڅه کړې چې د AISI په وینا، د پراختیا کونکي پلیټ فارم GitHub کې د خلاصې سرچینې پروژې کې ناوړه کوډ داخل کړي.
څارونکي وویل، د سایبري برید د هڅې یوې برخې په توګه، Mythos 5 جعلي آنلاین پیژندنې رامینځته کړې ترڅو د پروژې ساتونکي کس وهڅوي چې ناوړه کوډ ومني.
AISI، چې په 2023 کې د برتانیا حکومت لخوا تاسیس شوی، وویل چې سایبر برید وروسته له هغه ناکام شو چې د پروژې ساتونکي د کوډ تصویب کولو څخه انکار وکړ.
د څار ادارې وویل: "دا لومړی ځل دی چې AISI د دې شدت فریب لیدلی چې په ریښتیني نړۍ کې یو ریښتیني سړی په نښه شوی ، پرته له کوم دلیل څخه."
پداسې حال کې چې AISI وویل چې د AI ماډلونه "ناول، احتمالي فریبونکي چلندونه" ښودلي، څارونکي خبرداری ورکړ چې د هغې موندنې باید په احتیاط سره تشریح شي، ځکه چې دوی د "ځانګړي شرایطو" لاندې واقع شوي، په شمول د ځینو موډلونو خوندیتوب غیر فعال شوي.
AISI وویل: "موږ لا تر اوسه ډاډه نه یو چې اجنټ پوه شو چې دا د ریښتینې نړۍ اقدام کوي، یا تر کومې اندازې پورې یې باور درلود چې دا په افسانوي ازموینې سناریو کې و؛ زموږ تحلیل تر دې دمه یو مخلوط انځور وړاندې کوي او روان دی." AISI وویل.
انټروپیک وویل چې دا د AISI سره نږدې کار کوي ترڅو د پیښې په اړه د خپلې څیړنې برخې په توګه نور توضیحات راټول کړي ، مګر یادونه یې وکړه چې ازموینه د "قصدي اجازې شرایطو" لاندې ترسره شوې.
"د کلاډ د وضعیت په اړه د پوهیدو روښانه عکس ترلاسه کول - د دې د استدلال لیکونو معاینه کولو او زموږ د خپلو تحلیلونو په چلولو سره - به موږ سره د دې چلند لاملونو پیژندلو کې مرسته وکړي ،" د AI شرکت په X کې په یوه پوسټ کې وویل ، کلاډ ته اشاره کوي ، د انټروپیک AI چیټ بوټ.
OpenAI وویل چې دا د دریمې ډلې ازموینې هرکلی کوي پداسې حال کې چې یادونه کوي چې د څارنې ارزونه په داسې شرایطو کې ترسره شوې چې "عادي کارونې منعکس نه کوي".
"موږ به په ټول صنعت کې د ارزونکو او نورو شریکانو سره کار کولو ته دوام ورکړو ترڅو په خوندي ډول د ارزونو ترسره کولو لپاره ګډې کړنې پیاوړې کړو ځکه چې ماډلونه ډیر وړ کیږي ،" د OpenAI ویاند الجزیرې ته وویل.
د لندن میشته څارونکي لخوا راپور د فرنټیر AI ماډلونو یو شمیر قضیې تعقیبوي چې د انسان هڅولو پرته په ناوړه فعالیت کې ښکیل دي.
تیره میاشت، OpenAI څرګنده کړه چې د دوی دوه AI موډلونه د دوی د ازموینې چاپیریال څخه وتلي او هګینګ مخ یې هیک کړی، یو شرکت چې د خلاصې سرچینې AI ماډلونه او ډیټاسیټونه کوربه کوي، پرته له انسان لارښوونې.
په UNSW سیډني کې پروفیسور او د AI کارپوه توبي والش وویل، د ASAI موندنې دا حقیقت روښانه کوي چې د AI خورا پرمختللي ماډلونه "خطرناک" وړتیاوې لري.
والش الجزیرې ته وویل: "موږ نه غواړو په داسې نړۍ کې واوسو چیرې چې موږ د AI شرکتونو په ښه نیت او لیوالتیا تکیه کوو ترڅو د AI ماډلونو کې دا ډول ځورونکي وړتیاوې افشا کړو." والش الجزیرې ته وویل.
والش زیاته کړه: "موږ غواړو چې حکومتونه دې په سر کې وي. او له همدې امله زه ډاډمن یم چې د انګلستان حکومت د AI خوندیتوب انسټیټیوټ دا وموندله ... ستونزه دا ده چې دا سایبر وړتیاوې اوس د هرچا لپاره شتون لري ، پشمول د بد لوبغاړو په شمول چې دمخه یې د سیسټمونو د هک کولو وړتیا نه درلوده ،" والش زیاته کړه.
"د ډیرو نورو سایبري بریدونو په اړه د اوریدلو تمه وکړئ."
