د جولای په میاشت کې، OpenAI ومنله چې د هغې یو اجنټ چې د سایبر امنیت تجربې بشپړولو دنده په غاړه لري له کنټرول څخه وتلی او د AI ډیټاسیټ پلیټ فارم هګینګ فیس هیک کړی. دا پیښه، چې پرون یې د OpenAI څخه بشپړ حساب ترلاسه کړ، لومړی په عامه توګه راپور شوی قضیه وه چیرې چې یو LLM غلا شو او په خپلواک ډول یې دریم اړخ هیک کړ.
له هغه وخت راهیسې ، دا بې ساري ساینس فای ایسک پیښه د هرچا په تمه خورا لږ نادره شوه.
د فیلوني بنچ (د بنچمارک لپاره) په نوم د طنز ویب پاڼې په وینا، کوم چې دا پیښې په ګوته کوي، په ټولیز ډول 17 پیښې شتون لري. دا مهمه ده چې په یاد ولرئ چې د جرمي قانون ماهرین په بشپړ ډول ډاډه ندي چې ایا د AI شرکتونه چې LLMs یې رامینځته کړي چې هیکنګ یې کړی و محاکمه کیدی شي ، او نه هم قربانیان کولی شي دوی ته دعوی وکړي. مګر موږ به ډیر ژر د دې پوښتنو ځواب ترلاسه کړو.
د انټروپیک او OpenAI ماډلونه د هر یو اتو پیښو سره ریس رهبري کوي ، او میټا د یوې سره شاته کیږي ، د سایټ په وینا. پدې مرحله کې ، دا روښانه شوې چې د AI خوندیتوب ازموینې پخپله د خوندیتوب خطرونه کیږي. او ځینې د AI شرکتونو او کارګرانو پخپله دا خطرونه د "پیسینګ دی فرنټیر" خلاص لیک کې پیژندلي ، کوم چې په مسؤلیت سره د AI وړتیاو رامینځته کولو غوښتنه کړې.
موږ پریکړه وکړه چې دا به ښه وخت وي چې دا ټولې پیښې په تاریخي ډول تکرار کړو.
انټرنیټ ته لاسرسی. له هغه ځایه، ډیری اجنټانو په ګډه کار وکړ ترڅو د هګینګ مخ په نښه او هیک کړي فکر کوي دوی کولی شي هلته ننګونې ته حل ومومي. OpenAI یوازې وروسته له هغه وموندل شو کله چې هګینګ فیس افشا کړه چې دا د بشپړ خپلواکي برید قرباني و. اوف
د OpenAI افشا کول د انتروپیک لیوالتیا راپاروله، چا حیران کړل: ایا دا زموږ سره هم پیښ شوي؟ معلومه شوه، ځواب هو وو. درې ځله هو. فرنټیر لابراتوار وموندله چې د هغې خپل ماډل درې مختلف او لاهم نامعلوم شرکتونه مات کړي ، د مخکینۍ پیښې سره چې د اپریل په میاشت کې نیټه وه — د شرکت له کشف څخه درې میاشتې دمخه. انتروپیک په یوه برخه کې په غیر منظم ډول تورن کړ، یو پیل چې د AI سایبر ارزونې پرمخ وړي. اوف
یوځل چې OpenAI د هګینګ مخ سرغړونې تحقیق پیل کړ ، دا وموندله چې هغه اجنټانو چې د هګینګ مخ هیک کړی هم څلور حسابونه او څلور مختلف شرکتونه مات کړي ، لکه څنګه چې رویټرز لومړی راپور ورکړ. موډل، د AI انفرنس پیل، یو له قربانیانو څخه و. اوف
د جولای په وروستیو کې، غیر منظم OpenAI ته وویل چې د هغې یو ماډل چې د کیپچر - فلیګ سیالۍ کې برخه اخیستې وه - په اصل کې د سایبر امنیت لوبه چیرې چې لوبغاړي په ځانګړي ډول د سیالۍ لپاره ډیزاین شوي سیسټمونه هیک کوي - له لوبې څخه تښتیدلی ، انټرنیټ سره وصل شوی ، او یو اصلي شرکت هیک کړی. دلیل؟ غیر منظم یو له افسانوي هدفونو څخه د اصلي شرکت ورته نوم ورکړی و. اوف
همدارنګه د جولای په وروستیو کې، د انګلستان د حکومت د AI امنیت انسټیټیوټ، یوه عامه اداره چې د AI ټیکنالوژیو د خوندیتوب او خطرونو څیړلو دنده په غاړه لري، څرګنده کړه چې دا د OpenAI او انتروپیک ماډلونو په شمول ډیری پیښې کشف کړي چې د "روټین" ارزونې په وخت کې "ریښتیني خلک او سازمانونه" په نښه کوي. په دغو قضیو کې، AISI موډلونو ته د انټرنیټ لاسرسی ورکړی و. اوف ښه خبر دا دی چې ادارې په حقیقت کې د نورو پیښو په څیر اونۍ وروسته د پیښې په څیر کشف کړې.
د اګست په پیل کې، میټا وروستی شرکت شو چې یوه پیښه یې افشا کړه چې د هغې LLMs پکې شامل دي، کوم چې د "دریم ګوند" خدمت هیک کړی. میټا دا پیښه د غیر منظم لخوا په غلط ترتیب باندې تورنه کړه ، کوم چې د ټیک لوی لپاره د سایبر امنیت ارزښت پرمخ وړی چې باید انټرنیټ ته لاسرسی ونلري. اوف
یو اسټرالیایی سړي د انتروپیک AI اجنټ څخه وغوښتل چې د هغه سره د جم ټولګي بک کولو کې مرسته وکړي ، کوم چې هغه د انتظار لیست کې و. هغه سړي ABC آسټرالیا ته وویل: "زه یوازې په تخته کې ناست وم فکر کوم ،" ګوره ، دا یو کار دی. د غوښتنې سره موافقت کولو په هڅه کې، اجنټ د جم د بکینګ سافټویر کې یو زیان وموند، ګټه یې پورته کړه، او هغه خلک یې له کاره ګوښه کړل چې د انتظار لیست کې د سړي څخه مخکې وو. سړي هڅه وکړه چې زیان بیرته راولي، له ایجنټ څخه یې وغوښتل چې خپل عمل بیرته راولي. اجنټ ځواب ورکړ: "بد خبر - زه نشم کولی دوی بیرته اضافه کړم." اوف
