د ChatGPT مالک OpenAI یوه "بې ساري سایبر پیښه" ومنله - د دې دوه خورا وړ مصنوعي استخباراتو ماډلونه په خپله د AI بل شرکت ته هک شوي - د قوي ټیکنالوژۍ ساتونکو اړتیاو په اړه بحثونه راپورته کوي.
شرکت وویل چې د دې AI سیسټمونه د ازموینې چاپیریال څخه مات شوي او د هګینګ مخ پیل کول یې هیک کړي.
سټارټ اپ د جولای په 16 څرګنده کړه چې سرورونه یې د نامعلوم خو پیچلي اجنټ لخوا هک شوي چې پخپله عمل کوي.
دلته پدې اړه وروستي دي چې څنګه شرکتونو ، ځینې حکومتونو او قانون جوړونکو د لومړي داسې عامه افشا شوي سایبر برید ته ځواب ویل:
شرکت په یوه بیان کې وویل چې دوی د خپل AI په مرسته کشف کولو له لارې سرغړونې کشف کړې.
"دا د هر هغه څه څخه توپیر و چې موږ دمخه په یوه مهم ډول اداره کړی و: دا د AI اجنټ خپلواک سیسټم لخوا پرمخ وړل شوی ، پای ته رسیدلی."
د OpenAI د افشا کولو وروسته چې ماډلونه یې په سرغړونې کې ښکیل وو، دواړو خواوو پدې اونۍ کې روانه ګډه څیړنه پیل کړه.
د هګینګ فیس شریک بنسټ ایښودونکی کلیمینټ ډیلانګو وویل چې د هغه پیل د چینایي شرکت Zhipu AI څخه د خلاصې سرچینې GLM-5.2 ماډل ته وګرځید ترڅو د هیک څخه ډیټا تحلیل کړي وروسته له دې چې د متحده ایالاتو مخکښو AI ماډلونو دنده رد کړه ، نشي کولی د مدافع او برید کونکي ترمینځ توپیر وکړي.
د هګینګ فیس کارمندان "په کلکه باور لري چې د دوی په برخه کې کومه ناوړه اراده شتون نلري"، ډیلانګو زیاته کړه، OpenAI ته اشاره کوي.
"په خپل امنیتي ټیم ډیر ویاړو! دوی یو برید نیولی ، پکې یې درلود او په عامه توګه یې افشا کړل د هر هغه څه برعکس چې موږ مخکې لیدلي ، او دا یې په ریکارډ سرعت سره ترسره کړل ،" هغه په X کې لیکلي.
"دا د اجنټانو په عمر کې د سایبر امنیت لپاره لومړۍ ورځ ده او موږ ټول زده کوو چې محرمیت ځواب نه دی او دا چې ټول مدافعین (نه یوازې یو څو غوره شوي) هرچیرې پرته له محدودیتونو خورا قوي ماډلونو ته اړتیا لري ، په ځانګړي توګه خلاص! ډیلنګ زیاته کړه.
د AI امنیت انسټیټیوټ (AISI)، د انګلستان د حکومت په ملاتړ اداره په 2023 کې رامینځته شوې ترڅو د پرمختللي AI سیسټمونو لخوا رامینځته شوي خطرونو ارزونه وکړي ، پدې اونۍ کې وویل چې د AI ماډل چې دا یې تحقیق کوي هم غلی شو او هڅه یې وکړه چې د دې ازموینې سیسټمونه هیک کړي.
AISI د AI ماډل تر شا شرکت په ډاګه نه کړ او زیاته یې کړه چې د هغې خپل زیربنا ته هیڅ زیان نه دی رسیدلی. دا له هغه وخت راهیسې د دې سیسټمونو د لا خوندي کولو لپاره ګامونه پورته کړي.
د دې وروستي ارزونو دا هم وموندله چې هر فرنټیر AI ماډل چې دا یې ازموینه کړې د وړتیا ارزونې پرمهال د درغلۍ هڅه کړې ، د AI خوندیتوب لپاره مخ په ډیریدونکي ننګونې په ګوته کوي ځکه چې ماډلونه ډیر وړ کیږي.
د AISI په وینا، ماډلونو د ارزونې مقررات مات کړل ترڅو دندې په اسانۍ سره بشپړې کړي، په شمول د منع شوي آنلاین ځوابونو لټون کول، د شبکې محدودیتونو څخه تیریدل، د اشارو لپاره د ارزونې سافټویر تحقیق کول، او د اجازه شوي چاپیریال څخه بهر سیسټمونو ته لاسرسی.
AISI وویل چې ماډلونه په ندرت سره د درغلۍ اعتراف کوي کله چې وروسته پوښتل شوي او ډیری وختونه یې په خپل استدلال کې چلند نه دی څرګند کړی ، چې یوازې د ځان راپور ورکولو له لارې کشف کول ستونزمن کوي. انسټیټیوټ استدلال وکړ چې خپلواک نظارت او د نظارت قوي میکانیزمونه به په زیاتیدونکې توګه مهم شي ځکه چې د AI سیسټمونه ډیر خپلواکي ترلاسه کوي.
انسټیټیوټ ټینګار وکړ چې چلند اړینه نه ده چې ناوړه اراده په ګوته کړي بلکې هغه ماډلونه منعکس کوي چې د اوسني ارزونې سیسټمونو کې د بریالیتوب اعظمي کولو لپاره شارټ کټ کاروي.
د ChatGPT جوړونکي د سه شنبې په ورځ په یوه بلاګ پوسټ کې وویل: "موږ د باور وړ لاسرسي برنامه کې هګینګ فیس راوړو او د دوی ټیمونو سره مرسته کوو چې زموږ د ماډلونو وړتیاوې په چټکۍ سره وکاروي ترڅو د دوی دفاع ښه کړي."
د سان فرانسسکو شرکت څرګنده کړه چې د دې دوه ماډلونه چې په برید کې ښکیل دي د وروستي GPT-5.6 سول ماډل او یو غیر خپور شوی ماډل دی چې شرکت یې د وروستي نسخې په پرتله "حتی ډیر وړ" دی.
د OpenAI دوه اجنټانو د هګینګ فیس سرورونو کې زیان منونکي وموندل او د ننوتلو توضیحاتو غلا کولو ته یې دوام ورکړ او بیا یې د شرکت سیسټمونو ته هیک کړ.
پیښه د OpenAI داخلي ازموینې ناستې په جریان کې رامینځته شوې چې د ماډلونو سایبر امنیت وړتیاو ارزولو لپاره ډیزاین شوې. OpenAI د ازموینې لپاره معیاري خوندیتوب اقدامات لرې کړي.
OpenAI وویل، دواړه د ازموینې په جریان کې د یوې ستونزې له لارې د دوی د چلولو هڅه وکړه. دوی "د ازموینې د یوې محدودې موخې ترلاسه کولو لپاره خورا اوږدمهاله" ته لاړل او "پټو معلوماتو ته د لاسرسي لپاره یې لارې وموندلې چې دا د ارزونې غلا کولو لپاره کارول کیدی شي".
د ټیکساس څخه د متحده ایالاتو دیموکراتیک کانګرس غړي ، ګریګ کاسر په X کې په یوه پوسټ کې لیکلي: "دا خورا خطرناکه ده. AI زموږ د خوندي ساتلو لپاره هیڅ ریښتیني مقرراتو پرته خورا ګړندی وده کوي. دا باید بدلون ومومي." هغه زیاته کړه: "موږ منظم اجباري خپلواک خوندیتوب ازموینې او نظارت ته اړتیا لرو، د امنیتي پیښو لازمي افشا کول، او نړیوالې همکارۍ ته اړتیا لرو ترڅو خلک له مطلق ناورین څخه خوندي وساتي."
