لکه څنګه چې د AI ماډلونه خورا پیاوړي شوي، د دې ماډلونو د ناوړه ګټې اخیستنې احتمال وده موندلې - لکه څنګه چې د خوندیتوب محافظینو لپاره غږ دی چې کولی شي د داسې ناوړه ګټه اخیستنې مخه ونیسي. د AI شرکتونه باید اوس د دوی د تصدۍ پیرودونکو محرمیت ته درناوي تر مینځ یو نازک ټینګ رسی پرمخ بوځي پداسې حال کې چې د احتمالي مسلو لپاره کارول هم ګوري.
د خپل سیال انټروپیک سره یو ځای کولو لپاره د فرصت احساس کولو سره ، OpenAI یوازې د ناوړه ګټې اخیستنې نظارت لپاره د محرمیت متمرکز خوندیتوب تګلاره اعلان کړه. شرکت د پیرودونکو غوره کولو لپاره نوي خدمت ته کتنه کوي چې دا د خصوصي خوندیتوب پروسس کولو په نوم یادیږي. دا یو اتوماتیک سیسټم دی چې د احتمالي ناوړه ګټه اخیستنې لپاره ګوري پداسې حال کې چې په ورته وخت کې د پیرودونکي هیڅ ډاټا نه ساتي.
دا سیسټم په ښکاره ډول د انټروپک وروستي اعلان شوي ډیټا ساتلو پالیسي سره مخالف دی. پالیسي، چې ځینې پیرودونکي یې زیات کړي، د AI لابراتوار ته توان ورکوي چې د 30 ورځو لپاره د کاروونکي ډیټا (د دوی ټولې ناستې - او خبرې اترې) وساتي، کله چې د "پوښ شوي ماډلونو" خبره راځي. په دې ماډلونو کې ټول Mythos- ټولګي ماډلونه او "راتلونکي ماډلونه د ورته وړتیاو سره شامل دي،" شرکت وايي.
دا پالیسي، چې د جولای په میاشت کې اعالن شوې وه، د خوندیتوب موخو لپاره ډیزاین شوې، لابراتوار ته اجازه ورکوي چې احتمالي نامناسب تحلیل او تحلیل کړي. په هرصورت، دا ځینې شرکتونه په ژوره توګه اندیښمن کړي چې د حساس ډیټا لوی مقدار اداره کوي او نه غواړي چې د AI لابراتوار لخوا ساتل شوي (یا معاینه شوي).
OpenAI - لکه د ډیری نورو AI شرکتونو په څیر - دمخه پیرودونکو ته د صفر ډیټا ساتلو په نوم پیژندل شوي پالیسي تعقیبولو سره د محرمیت اړونده کچه چمتو کوي. ZDR په OpenAI API کې اجنټان کاروي ترڅو د هرې ناستې په اساس د ناوړه ګټه اخیستنې څارنه وکړي. په دې توګه، د پیرودونکي ډاټا د شرکت لخوا نه ساتل کیږي مګر شرکتونه لاهم د بشري مداخلې اړتیا پرته د خراب فعالیت لپاره سکین کولی شي. دا د یادولو وړ ده چې انټروپک هم په پراخه کچه د ZDR پیروي کوي - پرته لدې چې دا د "پوښ شوي ماډلونو" په څیر راځي.
OpenAI وايي چې د خصوصي خوندیتوب پروسس کول یوه نوې ټیکنالوژي ده چې د ZDR ساحه پراخه کوي. دا د اوږده افق د خوندیتوب څارنې د یوې بڼې په توګه تشریح کوي چې د ډیری خبرو اترو د معلوماتو او پایلو ارزونه کوي - نه یوازې یو. بیا بیا، نظارت د یو اجنټ لخوا ترسره کیږي، کوم چې، که پیل شي، تعاملات نیسي او د احتمالي ناوړه ګټې اخیستنې نښو لپاره یې په غونډو کې تحلیلوي.
نوی ټیک د OpenAI سره مرسته کوي د AI ناوړه کارونې کشف کړي چې په ډیری غونډو کې ترسره کیږي ، یوه ویاند ټیک کرنچ ته وویل. یو بد لوبغاړی - په فرضي ډول یو څوک هڅه کوي د سایبر برید لپاره مالویر انجینر کړي - ممکن د دوی غوښتنې خپروي ترڅو د کشف مخه ونیسي. د شخصي خوندیتوب پروسس کول کولی شي د کارونکي د خبرو اترو انساني بیاکتنې پرته د ناوړه ګټه اخیستنې نښو لپاره دا څو خبرې اترې تحلیل کړي.
په هغه حالت کې چې سیسټم پیل شوی وي، دا ممکن OpenAI ته "تنګ تعریف شوي سیګنال" واستوي چې د یو ځانګړي ډول فعالیت خبرداری ورکوي، شرکت وايي. د دې سیګنال پراساس ، OpenAI بیا پریکړه کولی شي چې ایا "تطبیق اړین دی ،" دا وايي. که داسې وي، OpenAI به د ډیرو شرایطو لپاره پیرودونکي ته ورسیږي یا د دوی سره په مسله کار وکړي او یو پیرودونکی کولی شي د خپل اختیار سره د OpenAI سره ډاټا شریک کړي، ویاند وویل.
په مقابل کې، انتروپیک یادونه کوي چې د پیرودونکو معلوماتو انساني بیاکتنه واقع کیدی شي، مګر یوازې "د کنټرول شوي لاسرسي لارې له لارې" چې "د تایید شویو بیاکتونکو یوه کوچنۍ ډله" پکې شامله ده. د دې بیاکتنې ناستې هر یو "د لاسوهنې پروف لاګ کې ثبت شوي چې بیاکتونکي نشي کولی فشار یا تعدیل کړي ،" شرکت وايي.
د OpenAI او Anthropic ترمنځ کارپوریټ سیالي دا مهال سخته ده، دواړه شرکتونه په بل کې د ګټې ترلاسه کولو لپاره د هر فرصت په لټه کې دي. یو وروستي راپور ښیې چې د OpenAI Q2 د انټروپیک په پرتله ډیر ورو وده کړې. د انتروپیک کلنۍ عاید کچه اوس د راپور له مخې $ 65 ملیارد ده. انتروپیک پانګوالو ویلي چې دا کولی شي IPO $ 2 ټریلیون ډالرو ته ورسوي، پداسې حال کې چې OpenAI هم په خپل IPO کار کوي.
