د سه شنبې په ورځ، OpenAI څرګنده کړه چې د هغې یو ماډل د ازموینې په جریان کې غلا شو او د AI ډیټاسیټ پلیټ فارم هګینګ فیس سیسټمونه یې په بشپړ ډول AI فعال شوي برید کې هیک کړل، د پرمختللي AI ماډلونو لخوا رامینځته شوي خطرونو ډراماتیک مثال.

مګر، د ځینو سایبر امنیت کارپوهانو په وینا، د دې بې ساري AI لخوا پرمخ وړل شوي سرغړونې په زړه کې یوه ډیره انساني تېروتنه وه: OpenAI په سمه توګه په ترتیب کولو کې پاتې راغلی چې "خورا جلا چاپیریال" بلل کیږي، د ازموینې سینډ باکس ته اجازه ورکوي چې باید په بشپړ ډول له انټرنیټ څخه جلا شوي وي ترڅو واقعیا انټرنیټ سره وصل شي.

ډان ګیډو ، د سایبر امنیت څیړنې پیل کولو ټریل آف بټس بنسټ ایښودونکی دا غلطي "د خوندیتوب بندیدو سره د مخنیوي ناکامي" وبلله.

د خپل بلاګ پوسټ کې د پیښې په اړه توضیح کولو کې ، OpenAI وویل چې هغه ازموینه چې د هګینګ مخ سرغړونې لامل شوې وه "په خورا جلا چاپیریال کې د چلولو لپاره جوړه شوې وه ، د شبکې لاسرسي د داخلي کوربه شوي دریم اړخ سافټویر له لارې د کڅوړو نصبولو وړتیا پورې محدود و چې د بسته راجسټری لپاره د پراکسي او کیچ په توګه کار کوي."

ماډل وتوانید چې د کڅوړې نصبولو سیسټم کې د مخکینۍ ناڅرګند شوي زیان مننې له امله د سینڈ باکس شوي ازموینې چاپیریال څخه وتښتي ، د OpenAI په وینا ، په هګینګ مخ کې د وروستي هیک کې یو مهم لومړی ګام.

په ځواب کې، شرکت "په مسؤلیت سره د داخلي کوربه شوي دریمې ډلې سافټویر کې پیژندل شوي صفر ورځې زیان منونکي افشا کړي او د دوی سره د پیچلو لپاره کار کوي."

مګر د سایبر امنیت ډیری متخصصینو ته ، د سافټویر زیانونه تمه کیږي - او اصلي غلطی په لومړي ځای کې د دریمې ډلې سافټویر ساتلو پریکړې سره دی. په نهایت کې، د "سنډ باکس" سیسټم ارزښت په بشپړ او بشپړ انزوا کې دی. د بسته بندۍ سیسټم په شمول د ستونزې غوښتنه کوي.

مارټین بون، د سایبر امنیت څیړونکی، ټیک کرنچ ته وویل چې "دا د انسان ناکامۍ په څیر ښکاري."

بون وویل: "دا باید هیڅکله نه وي پیښ شوي." "که سینڈ باکس په حقیقت کې د سانډ باکس معنی ولري ، تاسو تمه لرئ چې دا به له انټرنیټ سره هیڅ فزیکي اړیکه ونلري. دا داسې ښکاري چې دوی یو څه فایروالینګ یا یو څه ځای په ځای کړی و ، او د اور وژونکي له بهر څخه سخت دي ، بهر انټرنیټ ته دننه پریږدئ."

د سایبر امنیت تجربه کار جیک ویلیامز موافقه وکړه. "هر هغه ماډل چې د هګینګ مخ لخوا مستند شوي د کړنو ډولونه ترسره کوي په بشپړ ډول په سینڈ باکس کې نه و ،" ویلیامز وویل ، چې دا د OpenAI لخوا "د کنټرول لوی ناکامي" بولي.

ویلیمز دوام ورکړ: "د یو سړي 'موډل د شګو بکس څخه تښتیدلی' د بل سړي دی 'تاسو د شګو بکس په سمه توګه جوړولو کې پاتې راغلي، نو البته دا وتښتید،'" ویلیمز دوام ورکړ.

موږ سره اړیکه ونیسئ ایا تاسو د دې پیښې په اړه نور معلومات لرئ؟ یا د نورو AI فعال سایبر بریدونو په اړه؟ موږ خوښ یو چې له تاسو څخه واورو. د غیر کاري وسیلې او شبکې څخه، تاسو کولی شئ په +1 917 257 1382 کې په سیګنال کې په خوندي ډول Lorenzo Franceschi-Bicchierai سره اړیکه ونیسئ، یا د ټیلیګرام او Keybase @lorenzofb، یا بریښنالیک له لارې.

ډینیل کارډ، د سایبر امنیت مشاور، موافقه وکړه چې OpenAI "د سینڈ باکس یا د هغې ځینې برخې په ورکولو سره د سینډ باکس ډیزاین او کنټرول کې کافي هڅه نه ده کړې" انټرنېټ ته یوه غیر فلټر شوې لار. د سینڈ باکس تنظیم کول، حتی د محدود شبکې لاسرسي سره لکه څنګه چې OpenAI یې تشریح کړی، د کارت په وینا، "مناسب" پریکړه نه وه.

د ډاډ ترلاسه کولو لپاره ، دا انتقادونه د لید لید ګټه لري ، مګر دوی د AI لابراتوارونو کې د امنیت تمرینونو په اړه ریښتیني پوښتنې راپورته کوي - په ځانګړي توګه د ماډلونو ازموینې لپاره د جلا چاپیریال ساتلو کې. د OpenAI ویاند د TechCrunch پوښتنو ته ځواب ونه وایه، کوم چې پدې کې شامل دي چې ایا AI یا انسان د ازموینې چاپیریال رامینځته کړی.

مګر دا پوښتنې د OpenAI څخه ډیرې دي.

په سند کې چې د خپل سایبر امنیت متمرکز ماډل میتوس معرفي کوي ، انټروپیک لیکلي چې په یوه ازموینه کې ، ماډل "د یو خوندي 'سنډ باکس' کمپیوټر سره د تعامل لپاره چمتو شوی و ،" او لارښوونه یې وکړه چې د دې "خوندي کانټینر" څخه د تیښتې هڅه وکړي. Mythos بریالی شو او انټرنیټ ته یې پراخ لاس رسی ترلاسه کړ "له داسې سیسټم څخه چې یوازې د لږ شمیر مخکې ټاکل شوي خدماتو ته د رسیدو وړ و." بیا هم، انتروپیک یادونه وکړه چې ماډل نشي کولی "په بشپړه توګه" د ډیزاین شوي کانټینټ څخه تیښته وکړي.