د OpenAI ترټولو پرمختللي ماډلونو څخه یو د بند شوي ازموینې څخه مات شو او د بل شرکت ویب پا onه یې برید وکړ - دا ویره ژوندي کول چې د AI سیسټمونه د دوی د جوړونکو کنټرول څخه بهر تیریږي.
پیښه د هغه څه په جریان کې رامینځته شوې چې باید د "سنډ باکس" ازموینه وي - یو تړل شوی چاپیریال چې د OpenAI خورا پیاوړی ماډل ، GPT-5.6 Sol ، او د هغې لا نه دی خپور شوی جانشین وړتیا ارزولو لپاره کارول کیږي.
OpenAI دا ډول تړل شوي ازموینې په منظم ډول پرمخ وړي، مګر دا ځل، یو څه غلط شو.
د سافټویر د زیانونو په لټه کې و او هیڅ محافظت یې نه درلود، ماډلونه په خلاص انټرنیټ کې راوتلي او په هګینګ فیس یې برید وکړ، یو سایټ چیرې چې پراختیا کونکي کوډ ذخیره کوي او شریکوي.
"دا وړاندیز کوي چې موږ نه پوهیږو چې څنګه دا ماډلونه په دقت سره کنټرول کړو یا یې هغه څه ترسره کړو چې موږ یې غواړو ،" جیفري لادیش وویل ، د پالیسډ ریسرچ رییس ، یوه خپلواکه اداره چې د سایبر امنیت له نظره نوي AI ماډلونه ارزوي.
هغه دوام ورکړ، "دا ماډلونه پوهیدل چې OpenAI نه غوښتل چې دوی د خپل سینڈ باکس څخه وباسي او بل شرکت هیک کړي،" هغه دوام ورکړ، "مګر دوی دا په هرصورت وکړل".
دا یوه جلا قضیه نه ده. د مارچ په میاشت کې، د چین د علی بابا سره تړلې پراختیا کونکو د دوی یو ماډل وموند چې هڅه کوي، په خپل نوښت، د کریپټو اسعارو کان کیندنې وروسته له اجازې پرته د بهرني سرور سره وصل شي.
د OpenAI په قضیه کې، داسې ښکاري چې ماډل وتښتید "مخکې له دې چې دا حتی د انټرنیټ لاسرسي سره د څه کولو پلان درلود"، لادیش وویل.
هغه زیاته کړه چې د "آزادۍ" تعقیب یو ماډل په دې وخت کې د اټکل وړ دی - دا سیسټم ته اجازه ورکوي چې خپل اهداف په اغیزمنه توګه تعقیب کړي، "او دا خورا ډارونکی دی".
د اپریل په پیل کې ، سیم بومن ، د انټروپیک ماډل خوندیتوب رییس ، د شرکت د خپل Mythos ماډل څخه بریښنالیک ترلاسه کړ - بیا د ازموینې لاندې - هغه ته وویل چې دا په پیل کې له دې جلا کیدو سره سره انټرنیټ سرف کوي.
موږ "نه پوهیږو چې څنګه په بشپړ ډول مخنیوی وکړو" ، لادیش وویل. "دا په حقیقت کې ستونزمن کیږي، نه اسانه ... ځکه چې دوی به د خپل چلند په پټولو کې ښه شي."
OpenAI د نظر غوښتنې غوښتنې ته ځواب ونه وایه.
د پیښو په اړه د OpenAI حساب دا هم وړاندیز کوي چې سټارټ اپ دومره دمخه سرغړونې ندي موندلي ترڅو یې په ګوته کړي یا د هګینګ مخ خبرداری ورکړي.
د جورج ټاون پوهنتون د امنیت او راپورته کیدونکي ټیکنالوژۍ مرکز انډریو لوهن وویل ، پیښه د "ډیر تفتیش" مستحق ده.
OpenAI وايي چې له دې وروسته یې د دې ازموینې پروسې ته "قوي محافظتونه" اضافه کړي دي.
یو حل به دا وي چې د انټرنیټ اتصال په بشپړ ډول قطع شي ، ګنګ وانګ وویل ، د ایلینوس پوهنتون کې د کمپیوټر ساینس معاون پروفیسور. "خلک کم اټکل کوي چې AI څه کولی شي."
لوهن وویل چې د ازموینې چاپیریال باید د بایو کانټینټ لابراتوارونو په څیر چلند وشي ، چیرې چې ویروس یا باکتریا کولی شي نړۍ ته وتښتي.
دا ممکن د ترسره کولو په پرتله اسانه وي.
"دا د څیړنې خورا سخته ننګونه ده ،" ډان لاهاو وویل ، د غیر منظم مشر ، د سایبر امنیت شرکت چې د AI پرمختللي AI ته وقف شوی.
لاهاو وویل، د خطر اداره کول ممکن دي، مګر هرڅومره چې دا سیسټمونه ډیر وړتیا ولري، د دوی څارنه سخته ده.
څیړونکي باید په جارحانه ډول د دوی ماډلونو ازموینې او د داسې کولو پرمهال خوندي پاتې کیدو ترمینځ توازن وساتي.
لوهن وویل: "دا مهمه ده چې ازموینه د ټیټ ساتونکو سره ترسره کړئ ترڅو موږ دمخه پوه شو چې راتلونکي وړتیاوې به څه وي."
د OpenAI-Hugging Face پیښه د خوشې کیدو دمخه د ځواکمنو AI سیسټمونو د ارزونې په اړه په واشنګټن کې دمخه ګرمه جګړه ګړندۍ کوي.
د ټرمپ ادارې پدې وروستیو کې ملي امنیت ته اشاره کړې ترڅو د انټروپیک او اوپن AI د قوي نوي ماډلونو خوشې کولو مخه ونیسي.
د پنجشنبې په ورځ ، د کانګرس دوه غړو یو دوه اړخیز بل پرانستل چې د خورا پیاوړي AI ماډلونو جوړونکو ته اړتیا لري چې د وژنې سویچ کې رامینځته کړي - د ماډل په بشپړ ډول د خلاصولو یوه لاره.
"کانګرس باید ژر تر ژره عمل وکړي ترڅو ډاډ ترلاسه شي چې انسانان د ودرولو توان لري ،" برینډن سټین هاوزر وویل ، د خوندي AI لپاره د اتحاد مشر ، "که څه هم دا سیسټمونه څومره پیاوړي کیږي."
