انټروپیک د پنجشنبې په ورځ وویل چې یوې داخلي څیړنې درې پیښې کشف کړې چې په کې د دې AI ماډل کلاډ د سایبر امنیت ازموینې ترسره کولو پرمهال د دریو سازمانونو سیسټمونه مات کړل. تحقیقات، او افشا کول، د یوې اونۍ څخه ډیر وروسته راځي کله چې OpenAI څرګنده کړه چې د هغې یو نه خپور شوی ماډل د داخلي ازموینې په جریان کې د هګینګ مخ سیسټمونو څخه سرغړونه کړې.
په ټولو دریو قضیو کې ، د کلاډ ماډل د دریمې ډلې سره د متقابل عمل کولو پرمهال د ازموینې چاپیریال کې انټرنیټ ته رسیدلی او بیا یې د دې سازمانونو ژوندیو سیسټمونو ته غیر مجاز لاسرسی ترلاسه کړی ، انټروپیک په یوه بلاګ پوسټ کې وویل ، دا تشریح کوي چې دا څه وموندل او شرکت څه پلان لري چې د دې بیا پیښیدو مخه ونیسي.
انټروپیک وویل چې د جولای د 21 د OpenAI پیښې شرکت دې ته وهڅاوه چې خپل سایبر امنیت ارزونه ترسره کړي. دا په ځانګړي ډول د شواهدو په لټه کې و چې کلاډ د ازموینې چاپیریالونو کې انټرنیټ ته لاسرسی موندلی و ، کوم چې ډیزاین شوي ترڅو د شګو بکسونو په توګه عمل وکړي او ماډلونه جلا وساتي.
د 141006 ارزونو په مینځ کې چې دا بیاکتنه کوي، د AI لابراتوار درې پیښې وموندلې چې په کې یې ماډل انټرنیټ ته لاسرسی درلود پداسې حال کې چې د غیر منظم سره اړیکه لري، د هغې د دریمې ډلې شریکانو څخه یو. انتروپیک وویل چې لاسرسی د ارزونې چاپیریال کې غلط ترتیب ته رسیدلی چې د غیر منظم سره پرمخ وړل کیږي. دې دې ته د دوه شرکتونو ترمینځ "غلط فهم" وبلله چې ایا د ازموینې تنظیم انټرنیټ ته لاسرسی درلود ، کله چې په حقیقت کې دا کار شوی و. انټروپیک وویل چې دا ملامت نه کوي او "اصلاحاتو ته نږدې کیږي لکه څنګه چې مسؤلیت یوازې زموږ دی" ، پداسې حال کې چې مشاهده کوي چې غیر منظم خپله جلا څیړنه ترسره کوي.
په هرصورت، د دې پرانیستې اړیکې له امله، ماډل د دریو بیلابیلو سازمانونو تولید زیربنا ته غیر مجاز السرسی ترلاسه کړ. انتروپیک وویل چې پیښې درې مختلف کلاډ ماډلونه شامل دي: Opus 4.7، Mythos 5، او د داخلي څیړنې ازموینې ماډل.
په پام کې نیولو سره، انتروپیک وویل چې په دې هرې قضیې کې "کلاډ ته په واضح ډول زموږ د پرامپټ لخوا ویل شوي چې دا انټرنیټ ته لاسرسی نلري." داسې ښکاري چې د AI ماډل د ریښتیني نړۍ سیسټمونه د هغه تمرین برخه وګڼله چې د ترسره کولو غوښتنه یې شوې وه.
دا انګیرنه په مساوي توګه نه ده ساتل شوې، لکه څنګه چې دا معلومه شوه. درې ماډلونه یو شان چلند نه کوي کله چې شواهد راڅرګند شول چې د دوی هدفونه ریښتیني وو، کوم چې انټروپیک د سترګو پرانیستلو موندنو څخه یو په توګه بیرغ و.
Opus 4.7، د دریو څخه ترټولو زوړ، پیژندل شوی چې دا د دې پیښې په ټولو څلورو منډو کې د اصلي تولید سیسټم ته رسیدلی. په دوی کې په دوو کې، دا معقوله شوه چې ریښتینې شرکت باید یو څه د تمرین برخه وي، مګر په ټولو څلورو کې، دا په هرصورت برید کوي، په شمول د اعتبارونو ایستل او د تولید ډیټابیس ډیټابیس لمس کول. Mythos 5 هم د نښو نښانو په اړه غوره کړه چې دا په ریښتیني انټرنیټ کې و، مګر دا پخپله په دې باور وو چې دا لاهم په سمولیشن کې دی، د Python سافټویر راجسټری PyPI ته د ناوړه سافټویر کڅوړه خپروي، کوم چې د نیول کیدو دمخه د بهر سیسټمونو لخوا ډاونلوډ او چلول شوی و. یوازې د داخلي څیړنې ازموینې ماډل، د انتروپیک ترټولو نوی، په خپل ځان ودرېد کله چې دا پایله وکړه چې هدف ریښتینی و.
په ځواب کې، انتروپیک وویل چې د دې ډول ارزونو په اړه باید د پام وړ کنټرولونه ځای په ځای شي که چیرې د AI ځواکمن ماډلونه پکې ښکیل وي، د سایبر امنیت ټولنې کې ځینې احساسات راپاروي.
شرکت دا هم یادونه وکړه چې کلاډ د اضافي خوندیتوب څارنې او کټګوریو پرته پرمخ ځي چې دا په عمومي ډول موجود ماډلونو کې ځای په ځای کوي ، هغه محافظتونه چې ویل کیږي چلند به یې بند کړی وي ، ځکه چې ارزونې د اصلي ماډل خام ظرفیتونو اندازه کولو لپاره ډیزاین شوي.
په مهمه توګه، انتروپیک وویل چې دا د کوم ماډل "د خپل هدف تعقیب" هیڅ شواهد ندي موندلي او پرځای یې یوازې د هغه کار بشپړولو هڅه کړې چې غوښتل یې ترسره کړي.
که څه هم د دوو پیښو ترمنځ پرتله کول ناگزیر دي، انتروپیک د خپلو پیښو او OpenAI's ترمنځ یو روښانه توپیر رامینځته کړی، په ګوته کوي چې چیرې د OpenAI ماډل د خپل ازموینې چاپیریال څخه د وتلو لپاره د نامعلوم سافټویر زیانمننې څخه کار اخیستی، د انټروپیک ماډلونه د دې پرځای انټرنیټ ته د یوې لارې له لارې رسیدلي چې په غلطۍ سره خلاص پاتې شوي.
OpenAI د خپل سرغړونې په اړه نوي توضیحاتو خپرولو ته دوام ورکړی، ویلي یې دي چې ماډل یې په څلورو خدماتو کې په څلورو حسابونو کې په عامه توګه افشا شوي اسناد هم کارولي: یو د مرحلې نقطې په توګه، یو د ذخیره کولو لپاره، او دوه چې یوازې لیدل شوي، د پیښې په اړه د OpenAI د خپل تازه شوي بلاګ پوسټ په وینا، نور د ماتولو لپاره ندي کارول شوي. انتروپیک د خپل ځان او OpenAI ترمنځ توپیر هم د دې په یادولو سره چې دا پیښې پخپله د یوې فعالې بیاکتنې له لارې کشف کړې، او دا چې دوه اغیزمن شوي سازمانونو ته رسیدلي چې مخکې یې فعالیت نه و موندلی یا یې انټروپیک ته بیرغ ورکړی.
شرکت زیاته کړه چې دا اوس د خپلواک ارزونې ډلې METR سره د پیښو دریم اړخ بیاکتنې باندې کار کوي.
د هګینګ مخ د OpenAI ناڅاپي سرغړونه، کوم چې د AI لابراتوار د خپل ماډل کنټرول له لاسه ورکولو لومړۍ د تایید وړ قضیه وه، د صنعت او سیاستوالو لخوا یو لړ غبرګونونه راپارولي، چې ډیری یې د یو بل سره موافق نه دي. د انتروپیک څخه دا وروستی افشا کول ډاډ ورکوي چې د AI موډلونو بحث او امنیت به دوام ومومي.
