هګینګ فیس د دوشنبې په ورځ یو تخنیکي مهال ویش خپور کړ چې لوستونکي د دې له لارې پرمخ وړي چې څنګه د AI خپلواکه اجنټ چې په OpenAI ماډلونو کې جوړ شوی او د OpenAI د خپل سایبر امنیت ارزونو کې دننه روان دی، د دې میاشتې په پیل کې له څلورو ورځو څخه ډیر وخت کې خپل سیسټمونو ته ننوتل. دا لومړۍ امنیتي پیښه ده چې په اړه یې د OpenAI سی ای او سیم الټمن "ډیر ضعف احساس کړی ،" هغه وویل.
لږ حیرانتیا چې دا احساس کوي ، لږترلږه ، لکه یو څه واقعیا دلته راپورته شوی. په حقیقت کې، د هګینګ مخ ټیم خپل راپور وړاندې کړ چې وړاندیز یې وکړ چې "هرڅوک باید د مدافعینو په توګه چمتو شي،" مخکې له دې چې په هر ځای کې د امنیتي متخصصینو د ګټې لپاره د هغه څه په زړه پورې سختۍ ته لاړ شي.
پداسې حال کې چې پاتې انټرنیټ هڅه کوي د هغه څه احساس وکړي چې څه پیښ شوي (د هګینګ مخ په راپور کې جرګون د ډیری خلکو لپاره تحلیل کول ناممکن دي) ، یو ټکی چې ډیری څارونکي یې له لاسه ورکوي دا دی چې دا د امرونو سرغړونه نه وه. دا یو سیسټم و چې د استحصال په لټه کې و، په سمه توګه دا کار کول، یوازې د غلط هدف په وړاندې.
د ټول شی په اړه د فکر کولو بله لاره دا ده چې په کیمپ سایټ کې د ریچھ انځور کړئ. رښتیا. یو ریچھ د خیمو زپرونه او د موټر دروازې لاسي او کولرونه او د کثافاتو پوښونه هڅه کوي. دا د شپې په اوږدو کې په هر کمپ کې دا کار کوي، ځکه چې دا پوهیږي چې دا یوازې یو خلاص کولر ته اړتیا لري ترڅو خپل ګیډۍ د ځینې غریب شیمک خوراکي توکو سره ډک کړي.
دا تقریبا هغه څه دي چې په هګینګ مخ کې پیښ شوي. د OpenAI سیسټم په زرګونو شیانو هڅه وکړه او یوازې دوام لري. په نهایت کې، د دغو هڅو یو څو کار وکړ، او یوځل چې دوی ترسره کړل، اجنټ مخکې لاړ. د هګینګ فیس په وینا، اجنټ په څلور نیمو ورځو کې 17600 عملونه پرته له ځنډه ترسره کړل.
کوم چې موږ بیرته زموږ د بیر انډول ته راوړي. لکه څنګه چې د خواړو څخه ډک کولر سره یوه بریا یو ریچھ ته درس ورکوي چې بل ځل نور هم هڅه وکړي (دا اوس د "خوراکي حالت" ریچھ دی)، یو لیک شوی پټنوم د OpenAI اجنټ د نورو استحصالونو په لټه کې دی او بالاخره یو واحد کیلي ته چې په یو وخت کې د څو شرکتونو سیسټمونه خلاص کړي.
هیڅ سناریو بې ضرر نه ده. یو ږیره چې ستاسو په کولر برید کوي لاهم ستاسو خواړه خوري او شاید ستاسو د کیمپ ځای کثافات هم کوي. دا یوازې د تغذیې په ترلاسه کولو تمرکز کوي، مګر بیا هم دا د ویجاړۍ لاره پریږدي. په ورته ډول، د OpenAI اجنټ داسې ښکاري چې د بل څه په پام کې نیولو پرته هدف تعقیبوي. اجنټ په اصل کې د سایبر امنیت ازموینه اخیستې وه ، وموندله چې د ازموینې ځواب کلید شاید د هګینګ مخ سرورونو کې ناست و ، او دا د دې لپاره لاړ.
دلته دوام واقعیا هغه څه دي چې له هرڅه څخه د پام وړ دي؛ اجنټ دنده درلوده او دا به تر هغه وخته نه ودریږي تر څو چې دا کار ترسره نشي. په غیږ کې نیولو سره، په پای کې پوه شو چې یو څه خراب دی، خپل لاسرسی یې پرې کړ او مداخله یې بنده کړه، مګر په دې وخت کې، ډیر ناوخته و. اجنټ لا دمخه ترلاسه کړی و چې دا د څه لپاره راغلی و ، او د بوټ کولو لپاره خورا ډیر څه.
په هغه صورت کې چې تاسو یې له لاسه ورکړ، دلته ډیری هغه څه دي چې پیښ شوي، د هګینګ مخ په مهال ویش کې، مګر په ساده انګلیسي کې.
په نهایت کې ، هګینګ فیس په خپل راپور کې پای ته ورسید ، یو "وړ" انساني هیکر "کیدای شي ورته نیمګړتیاوې ومومي او ګټه ترې پورته کړي: غیر خوندي ډیټاسیټ پروسس کول ، د کلاوډ میټاډاټا افشا کول ، خورا پراخه لاسرسی ، او اوږدمهاله اسناد." لوی توپیر، تنظیم دوام ورکړ، دا دی چې "اجنټ دوی په مختلف پیمانه وپلټل."
کوم چې واقعیا هغه ځای دی چیرې چې د بیر مشابهت خورا ګټور وي. د وږي ریچھ په وړاندې غوره دفاع پروتوکول دی. تاسو خواړه پریږدئ؛ تاسو یو لیچ کاروئ چې د ساتلو لپاره کافي ښه کار کوي. دلته اخیستل باید دا نه وي چې ږیره دومره هوښیار یا بدکاره و. دا هغه دی چې هیڅکله یې چک کول بند نه کړل. دا په سایبر امنیت کې پوهیږي چې تل یو څه بګ شتون لري چې تاسو یې ندي موندلي ، نو که چیرې دا ناڅاپه د هرڅه چیک کول 100 ځله اسانه وي ، نو هیڅ شی واقعیا خوندي ندي. دا هغه څه دي چې ډیری یې د دې پیښې په اړه ناخوښ دي.
