تیره اونۍ، د OpenAI لخوا جوړ شوی یو غیر خپور شوی ماډل د داخلي ازموینې په جریان کې د هګینګ مخ سیسټمونه مات کړل، او ډیری نظریاتي څیړنې ناڅاپه خورا عملي شوې. هیک د AI لابراتوار لومړۍ د تایید وړ قضیه وه چې د خپل ماډل کنټرول یې له لاسه ورکړ، د لاسرسۍ ترلاسه کولو لپاره د ګټې اخیستنې سره یوځای کول چې هیڅکله یې باید نه درلودل. مګر پداسې حال کې چې د AI صنعت په خپل الارم کې متحد شوی، یو ویش راڅرګند شوی چې څنګه څیړونکي ځواب غواړي.
د ځینو لپاره ، ستونزه د سایبر امنیت اساسی مسله ده: سانډ باکس د ماډل په درلودلو کې پاتې راغلی ، او د هګینګ فیس سایبر امنیت سیسټمونه د دې ساتلو کې پاتې راغلي. دا ستونزې د بګ پیچ کولو او د مخ په زیاتیدونکي وړ وړ AI لپاره د لا قوي کنټرول او کنټرول میتودونو رامینځته کولو سره حل کیدی شي چې په خپلواکه چاپیریال کې د غلا کیدو خطر لري.
مګر بل کمپ ډیر بدبینه نظر لري. د دوی لپاره ، د AI ګړندۍ وده کونکي وړتیاوې پدې معنی دي چې د غلط ماډلونو کنټرول هڅه کول یوه له لاسه ورکولو لوبه ده. یوازینی قوي امنیت د دې ډاډ ترلاسه کولو څخه راځي چې ماډلونه په لومړي ځای کې د تیښتې هڅه نه کوي - یوه ننګونه چې ډیری وختونه د سمون په نوم یادیږي. د سمون په شرایطو کې، ستونزه دا ده چې د OpenAI ماډل د غلا کولو هڅه کوله، او د دې ستونزې حل کول د لنډ مهاله مخنیوي هڅو په پرتله خورا عاجل دي.
د خپلو عامه بیاناتو په قضاوت سره، OpenAI دواړه کمپونه په جدي توګه اخلي. شرکت په هیک کې دخیل بګ پیچ کولو لپاره ګړندی شوی ، او دا د سرغړونې عامه کیدو وروسته په خپل بیان کې د سمون او څارنې دواړه طریقې ته اشاره کړې. مګر د شرکت ځواب داسې فلسفه هم وړاندیز کوي چې د خوندیتوب ډیری څیړونکي یې اندیښمن کړي دي: د دې پرځای چې د ډیرو وړ ماډلونو پراختیا ورو یا ودروي، دا باید د دوی په شاوخوا کې د قوي پنجرو جوړولو باندې تمرکز وکړي.
"لکه څنګه چې ماډلونه اوږد او ډیر پیچلي دندې ترسره کوي، هغه ناکامي چې ارزونه یې له لاسه ورکوي ممکن ډیرې پایلې ولري،" OpenAI د پیښې په پوسټ مارټم کې وویل. "موږ به د ارزونې او ځای په ځای کولو ترمنځ د تشې د کمولو لپاره کار ته دوام ورکړو: د اوږدې مودې په اوږدو کې د ماډلونو ازموینه، د سمون ښه کول، د څارنې جوړول چې مداخله کولی شي، او کاروونکو ته روښانه لید او کنټرول ورکوي."
د دې فکر کولو دلیل هم شتون لري چې د OpenAI ماډلونه لږ تنظیم شوي ځکه چې دوی خورا پیاوړي کیږي. د OpenAI د سیسټم کارت په وینا، GPT-5.6 Sol د خپل مخکیني GPT-5.5 په پرتله د اجنټیک غلط تنظیم کولو لپاره د پام وړ ډیر خطر لري. د ګمارنې سمولو کې، شرکت دا هم وموندله چې ماډل د GPT-5.5 په پرتله د محدودیتونو مخنیوي، په ویجاړونکو کړنو کې ښکیلتیا، او د غیر مجاز معلوماتو لیږد ترسره کولو احتمال لري. دا ارقام په پراخه کچه په لومړي خوشې کیدو کې له پامه غورځول شوي ، مګر د سرغړونې په پایله کې ، دوی دوهم لید ترلاسه کوي - په ځانګړي توګه له هغه وخته چې سول یو له ماډلونو څخه و.
د ټولنیزو رسنیو په پوسټ کې، د OpenAI د ستراتیژیک فیوچر رییس ډین بال استدلال وکړ چې څارنه او روڼتیا د دې تمایلاتو ساتلو لپاره غوره لارې وې.
هغه وویل: "دا مسلې به نور هم د پام وړ شي ځکه چې د ماډلونو وړتیاوې وده کوي، او د دوی د ګمارلو خطرونه وده کوي." "حل نه د خطر زنګ دی او نه خوښي. پرځای یې، زه باور لرم چې حل په احتیاط اندازه کولو او څارنې، د انجینرۍ ذهنیت، او روڼتیا کې دی."
د OpenAI یوه پخواني څیړونکي TechCrunch ته وویل چې دا شرکت د "داخلي سمون" پرځای په "بیروني سمون" باندې تمرکز کوي - په اصل کې د AI سیسټم ترمنځ توپیر چې د ارزښتونو سیټ پوهیږي او کولی شي د قناعت وړ استازیتوب وکړي، او یو هغه چې په حقیقت کې دا ارزښتونه لري. په دې حالت کې، بهرنی سمون کافی نه و چې ماډل قانع کړي چې دا باید په ازموینه کې درغلۍ ونکړي.
OpenAI د نورو معلوماتو لپاره تکراري غوښتنو ته ځواب ونه وایه.
د سمون متمرکز څیړونکو لپاره، د OpenAI ځواب کافي نه دی. Zvi Mowshowitz، یو لیکوال چې د نوي AI پرمختګونو تمرکز کوي، استدلال وکړ چې د OpenAI پریکړه د زیربنا ستونزې په توګه د پیښې سره چلند کولی شي د سایبر امنیت سمدستي مسلو حل کولو کې مرسته وکړي، مګر دا به په اوږد مهال کې ناکام شي.
"دا د سمون ستونزه ده،" موشویټز په وروستي سبسټیک بلاګ کې لیکلي. "دا هغه ماډلونه دي چې غلط شوي دي، او د OpenAI ټول ماډلونه د هغه ستونزې جدي نښې څرګندوي چې موږ ټول یې په اړه اندیښمن یو، په داسې طریقه چې احتمال یې په ژوره کچه د دوی روزنې کې ځای پرځای شوي. د روزنې ټول پایپ لاین ته اړتیا لري چې پدې رڼا کې حل شي، یا دا به نور هم خراب شي." ډیری کارپوهانو TechCrunch ته وویل چې پیښه د دې ثبوت دی چې د نن ورځې روزنې میتودونه داسې سیسټمونه رامینځته کوي چې د انساني ارادې داخلي کولو پرځای د پایلو لپاره مطلوب وي.
د ریډ ووډ ریسرچ، د AI د خوندیتوب او امنیت څیړنې یوه غیر انتفاعي موسسه، پدې قضیه کې د OpenAI ماډل چلند د "نکور په لټه کې غلط تنظیم" په توګه طبقه بندي کړی، په کوم کې چې د AI ماډلونه هڅه کوي د لارښوونو، اړخیزو اغیزو، یا لاندې پایلو په پام کې نیولو پرته لوړه نمرې ترلاسه کړي.
په ریډ ووډ کې دوه څیړونکي الیکس مالن او ګیریش ګپتا په یوه وروستي مقاله کې لیکلي: "د دې ترتیب کولو ملکیتونو سره ماډل کولی شي د غلط بریالیتوبونو 'پوټیمکین کلي' رامینځته کړي ترڅو داسې ښکاري چې شیان سم وي کله چې دوی نه وي."
د نمرو په لټه کې چلند او نور غلط تنظیم کول د OpenAI لپاره ځانګړي ندي. انتروپیک د بیړني غلط تنظیم کولو چلندونو په اړه ډیری مقالې خپرې کړي چې سطحي کله چې د هغې فرنټیر ماډلونه په خپلواکه چاپیریال کې مطلوب یا ځای په ځای شوي وي ، پشمول فریب ، د انعام هیک کول ، او ناوړه خپلواکي.
"موږ لاهم په دوامداره توګه موډلونه ګورو چې هڅه کوي خنډونه له مینځه یوسي او په فریب سره عمل وکړي کله چې د دوی د وړتیاو په څنډه کې د دندې ترسره کولو غوښتنه کیږي ،" نیف پرخ ، د تنظیم غیر انتفاعي METR کې د AI خوندیتوب څیړونکي ، د بریښنالیک له لارې ټیک کرنچ ته وویل. "زموږ د سرحدی خطر په راپور کې، موږ دا چلند په منظمه توګه ولیدل، سره له دې چې د شرکتونو لخوا د دې چلند هڅه کولو او کمولو هڅو سره سره."
د هګینګ مخامخ پیښې په اړه د OpenAI په ځواب کې نغښتی دا انګیرنه ده چې پراختیا به حتی په ډیرو وړ سیسټمونو کې دوام ومومي، ایا دوی په مناسب ډول د دوی په اساس سره سمون لري یا نه. د ډراینګ بورډ ته بیرته تلل واقعیا یو اختیار ندی کله چې د AI شرکتونو سوداګرۍ ماډل د راتلونکي نسل ماډلونو وړاندې کولو پورې اړه لري. که چیرې دا هیڅکله ممکنه نه وي چې په ډاډ سره پوه شئ چې یو ماډل په بشپړ ډول سره سمون لري، نو بیا عملي پوښتنه د دې لپاره راځي چې څنګه په خوندي توګه د مخ په زیاتیدونکي وړ سیسټمونو کنټرول او کنټرول کړي.
"د خورا وړ AI سیسټمونو د تنظیم کولو څرنګوالي په اړه لاهم ښه پوهه شتون نلري ، مګر د دوی د کنټرول څرنګوالي په اړه خورا ډیر توافق شتون لري ،" سټیون اډلر ، په OpenAI کې د خوندیتوب پخوانی څیړونکی او د لارښود لایټ AI سټنډرډ اوسنی رییس ساینس پوه ، یوه اداره چې د هګینګ مخ په څیر پیښو څخه مخنیوي لپاره معیار خپروي ، ټیک کرنچ ته وویل. "هر شرکت د دې لاسته راوړلو لپاره لارې لري."
