کیمي K3، د چینایي شرکت مون شاټ لخوا جوړ شوی وروستی AI ماډل، د سایبر وړتیاو ازموینې لپاره د چاپیریال څخه وتښتید، څیړونکو د جمعې په ورځ په یوه بلاګ پوسټ کې وویل.
خبرونه یوځل بیا ښیې چې شرکتونه او خپلواک سازمانونه د هیک کولو لپاره ډیزاین شوي د دوی AI ماډلونو کې د ساتلو لپاره مبارزه کوي.
په وروستیو اونیو کې، د متحده ایالاتو د مصنوعي استخباراتو په لابراتوارونو کې د فرنټیر LLMs OpenAI او Anthropic، Meta، او همدارنګه د انګلستان د AI امنیت انسټیټیوټ، ټول په بیلابیلو لارو د ازموینې چاپیریال څخه تښتیدلي او د اصلي هدفونو هیک کول یې پای ته رسولي چې د تجربې برخه نه وه. دا په داسې حال کې پیل کیږي چې ډیری وختونه اوس یوه ویب پاڼه شتون لري چې دا ټولې پیښې تعقیبوي چې د فیلوني بنچ په نوم یادیږي، دا حقیقت ته اشاره کوي چې دا LLMs ممکن جرمونه ترسره کړي - لږترلږه په تیوریکي توګه خبرې کول.
د دې کیمي ازموینې په حالت کې ، د تجربې درلودو لپاره ډیزاین شوی سینڈ باکس په سمه توګه تنظیم شوی نه و. پداسې حال کې چې سانډ باکس د AI ماډل ته ځینې ځانګړي ویب ترافیک ته د لاسرسي اجازه نه ورکوله ، ماډل د دې پرځای د کمانډ لاین وسیلو باندې تکیه کولو سره سینڈ باکس ته مخه کړه ، د څیړونکو په وینا د AI متمرکز سایبر امنیت شرکت فرنټیر امنیت.
"دا وړاندیز کوي چې د سایبر امنیت په اړه ځینې ارزونې چې ټولنه یې کاروي د امنیت زیانونو سره حساس دي او ماډلونو ته د درغلۍ اجازه ورکوي، او دا چې داسې ماډلونه شتون لري چې په قصدي ډول نیمګړتیاوې او زیانونه لټوي چې دوی ته اجازه ورکوي په ارزونو کې درغلي وکړي." څیړونکو لیکلي.
که تاسو په کور کې نمرې ساتئ ، د فیلوني بنچ د شمیرې له مخې ، مون شاټ اوس د OpenAI او انتروپیک سره یوځای کیږي ، چې هر یو یې اوه ثبت شوي پیښې لري ، او میټا چې یوه یې لري.
