انټروپیک د پنجشنبې په ورځ وویل چې د دې کلاډ AI ځینې ماډلونه د سایبر امنیت ازموینو په جریان کې د دریو شرکتونو سیسټمونو ته هک شوي ، دا افشا کول څو ورځې وروسته له هغه راپورته کیږي چې سیالي اوپن AI څرګنده کړه چې د دوی د AI اجنټانو څخه یو غل برید شوی.
نوې پیښې د یوې غلطۍ له امله وې چې په ناڅاپي ډول یې د انټروپیک ماډلونو ته خلاص انټرنیټ ته لاسرسی ورکړ. دا د OpenAI سره توپیر لري، د هغه AI اجنټ په خپلواکه توګه د سایبر ازموینې په جریان کې انټرنیټ ته د رسیدو لپاره د نوي زیانونو څخه ګټه پورته کړې.
حتی په دې توګه، وروستي افشا کول په ګوته کوي چې څنګه AI سایبر امنیت ته ګواښونه زیات کړي او څنګه یې پراختیا کونکي کولی شي د خپلو ماډلونو وړتیاو ساتلو لپاره مبارزه وکړي.
دا احتمال لري چې د متحده ایالاتو د حکومت فشار ته تېل اضافه کړي ترڅو د AI امنیت خطرونه ښه اداره کړي په داسې وخت کې چې انټروپک او اوپن AI د دوی د پلان شوي عامه لیست کولو دمخه د ډیر وړ سیسټمونو خوشې کولو لپاره سیالي کوي. په دې لابراتوارونو کې مخکښو مشرانو لومړی د خطرونو په نښه کولو لپاره د سستیدو غوښتنه کړې.
د سان فرانسسکو میشته انتروپیک په یوه بلاګ پوسټ کې وویل چې دا د 141006 ازموینې غونډو بیاکتنې وروسته پیښې په ګوته کړې ، دا یوه پروسه چې دا وروسته له هغه پیل شوه چې OpenAI تیره اونۍ وویل چې د دې AI ماډلونو لخوا پرمخ وړل شوي یو خپلواک اجنټ یو هیک رامینځته کړی چې د پیل کولو زیربنا سره موافقت کوي د هګینګ مخ.
د سایبر ازموینې په جریان کې، د انتروپیک کلاډ ماډلونو ته ویل شوي چې دوی انټرنیټ ته لاسرسی نلري، مګر یو غلط فهم چې د انټروپیک د ارزونې شریکانو څخه یو یې د عامه ویب سره تړل شوي سیسټمونه پریښودل. دې د دریو سازمانونو سیسټمونو ته غیر مجاز لاسرسی فعال کړ ، انټروپیک د سازمانونو نوم اخیستو پرته وویل.
"کلاډ د بنسټیزو تخنیکونو په کارولو سره د اغیزمنو سازمانونو زیربنا سره موافقت وکړ، لکه د ضعیف پاسورډونو او غیر مستند پای نقطو څخه ګټه پورته کول،" انتروپیک وویل.
جیفري لادیش، د پالیسډ ریسرچ اجرایوي رییس، چې د AI سیسټمونو د تیري وړتیا مطالعه کوي، وویل چې هغه شک لري چې د AI یو شمیر لوړ پوړو شرکتونو نورې پیښې تجربه کړې چې نا معلومه شوي یا په عامه توګه نه دي افشا شوي.
هغه وویل: "دا به نور هم خراب شي ځکه چې ماډلونه هوښیار کیږي. دوی به په دوکه کولو کې ښه وي. دوی به په دروغ ویلو کې ښه وي."
انتروپیک وویل پیښې - کوم چې دا د "عملیاتي ناکامۍ" لیبل شوی - درې جلا ماډلونه پکې شامل دي: کلاډ اوپس 4.7، کلاډ میتوس 5 او د داخلي څیړنې ازموینې ماډل. لومړنۍ قضیې د اپریل په میاشت کې دي او د ارزونې په چاپیریال کې پیښ شوي چې په قصدي توګه د محافظت نشتوالی شتون لري نو انټروپیک کولی شي ارزونه وکړي چې د دې AI توان لري.
د دې ماډلونو ته د نامتو "بیرغونو نیول" ننګونو، افسانوي سناریوګانو سره دنده سپارل شوې وه چې په هغو کې دوی باید په جعلي شبکو کې پټ معلومات ومومي.
په یوه پیښه کې، Claude Opus 4.7 د افسانوي هدف شرکت ته ورکړل شوی و، کوم چې په ریښتینې نړۍ کې د سوداګرۍ نوم شریک کړ. د AI ماډل بیا هغه بګونه وموندل او استخراج یې کړل چې دا اجازه ورکوي اسناد او د دې سوداګرۍ ډیټابیس ته لاسرسی ومومي. Opus 4.7 معقوله کړه چې هغه څه چې د ریښتینې نړۍ سره تړاو لري باید د انټروپیک جوړ شوي سمولیشن برخه وي، د AI پیل وویل.
یوه جلا پیښه د انتروپیک نوي ، نه عامه ازموینې ماډل پکې شامله وه ، کوم چې په خپلواکه توګه د دې برید مخه ونیوله وروسته له دې چې هدف ته رسیدل ریښتیني و. دې چلند د AI مناسب چلند کولو لپاره د خپل پرمختګ په اړه په محتاط ډول خوشبین کړی دی ، "مګر موږ به پدې پایله کې د ډاډ ترلاسه کولو لپاره ډیرې ازموینې ترسره کولو ته اړتیا ولرو."
انټروپیک وویل چې د جولای په 23 یې ټولې سایبر ارزونې وځنډولې. د جولای په 27 یې اغیزمنو سازمانونو ته خبر ورکړ چې دوه یې د تماس څخه دمخه د فعالیت څخه خبر نه وو. انتروپیک وویل چې دا دریم شرکت ته رسیدو ته دوام ورکوي.
د دې د دریمې ډلې ارزونې شریکانو څخه، د سایبر امنیت لابراتوار چې غیر منظم نومیږي، رویټرز ته وویل چې دا د پیښو په اړه روانې څیړنې لري.
انټروپیک وویل چې پیښې د داخلي او دریمې ډلې ازموینې چاپیریالونو کې قوي کنټرولونو ته اړتیا په ګوته کوي ځکه چې د AI ماډلونه د ریښتیني نړۍ سایبر فعالیتونو ترسره کولو وړتیا لري.
ایلون مسک، د سپیس ایکس سی ای او، چې د AI سیالي لابراتوار چلوي، د X په اړه خبرونو ته په ځواب کې وویل "دا به په مکرر ډول پیښ شي ځکه چې AI هوښیار او ډیر اجنټ کیږي ،" د کمپیوټر برنامو یا "اجنټانو" ته اشاره کوي چې د محدود انساني مداخلې سره عمل کوي. د OpenAI اجنټ چې د هګینګ مخ ته ننوتل، یو پلیټ فارم چې د پراختیا کونکو لخوا د AI ماډلونو کوربه کولو او همکارۍ لپاره کارول کیږي، د څو ورځو لپاره د هیک کولو په جریان کې و چې OpenAI یې تر هغه وخته پورې ونه نیوله چې ګواښ پکې موجود و او FBI خبر شو.
د OpenAI سی ای او سام الټمن پدې اونۍ کې وویل چې هغه په کیپیټل هیل کې د سناتورانو سره د هیک په اړه بحث کړی، او د OpenAI ویاند وویل چې هغه پالن لري چې د سپینې ماڼۍ سره د راتلونکو AI ماډلونو او ازموینې په اړه خبرې وکړي.
واشنګټن د نوي ماډل رول آوټ څارنه سخته کړې. د جون په 2 ، د متحده ایالاتو ولسمشر ډونالډ ټرمپ سلاکارانو ته لارښوونه وکړه چې د خورا پرمختللي AI لپاره د داوطلبي سایبر امنیت ازموینې چوکاټ رامینځته کړي ، پشمول د ټیکنالوژۍ پراختیا کونکو څخه معلومات.
انتروپیک مخکې د خپل Fable 5 او Mythos 5 ماډلونو ته لاسرسی محدود کړ وروسته له هغه چې متحده ایالاتو په موقتي ډول د صادراتو کنټرول لارښود صادر کړ ، د ملي امنیت اندیښنو په حواله.
