تیره اونۍ ، د OpenAI دوه خورا پرمختللي AI ماډلونو راپور ورکړل شوی و چې د کنټرول شوي ازموینې چاپیریال "تېښتې" کړې او هګینګ فیس یې هیک کړی ، چې په بشپړ ډول جلا AI شرکت دی ، د خپل کار بشپړولو لپاره له یو کمپیوټر سیسټم څخه بل ته حرکت کوي.
رویټرز راپور ورکړی چې ماډلونو د دریم خپلواک AI شرکت د پیرودونکي لخوا لیکل شوي زیان منونکي کوډ څخه ګټه پورته کړې ، موډل لابراتوارونه.
دا احتمال لري د AI "ایجنټ" لومړۍ پیښه وي - د AI سیسټم چې کولی شي پریکړې وکړي او عمل وکړي - په خپلواکه توګه عمل کوي ، یو نادر نظر وړاندې کوي چې دا سیسټمونه څنګه کولی شي د لږترلږه انساني مداخلې سره اهداف پلان ، تطبیق او تعقیب کړي.
الجزیره هغه څه ماتوي چې څه پیښ شوي ، د AI اجنټان څنګه کولی شي په خپلواک ډول عمل وکړي ، او دا د AI خوندیتوب راتلونکي لپاره څه معنی لري.
OpenAI پریکړه وکړه چې د معیاري خوندیتوب اقداماتو په لرې کولو سره د دې ماډلونو خپلواکي وړتیا و ازموي ترڅو وګوري چې څه پیښیږي. تجربه په یو جلا داخلي مجازی ازموینې چاپیریال کې ترسره شوې چې د "سنډ باکس" په نوم پیژندل کیږي کوم چې انټرنیټ ته لاسرسی نلري ، او کوم چې ورته "ExploitGym" وایی.
لاندې د OpenAI-Hugging Face پیښې په جریان کې د پیښو په اړه د لوبو حساب دی.
د دې لپاره چې پوه شي چې د AI اجنټ څنګه کار کوي، دا مهمه ده چې دوی د دودیز AI چیټ بوټونو څخه توپیر کړئ.
تولیدي AI د انسان د هڅونې پراساس متن او عکسونه رامینځته کوي ، پداسې حال کې چې د AI اجنټان د انسان په څیر د ځانګړي هدف تعقیب لپاره په خپلواکه توګه د پریکړې کولو او عمل کولو سره یو ګام نور هم ځي. دا د "اجنټیک AI" په نوم پیژندل کیږي ځکه چې ماډل اداره لري.
د MIT سلوان ښوونځي مدیریت کې د اکادمیکانو په وینا، د AI اجنټان د لوی ژبو ماډلونو (LLMs) وړتیاوو ته وده ورکوي - د تولیدي AI ماډلونه - دوی ته اجازه ورکوي چې دندې بشپړ کړي، نه یوازې ځوابونه تولیدوي.
د مثال په توګه، که تاسو د دودیز AI ماډل څخه د ارزانه الوتنې موندلو غوښتنه وکړئ، دا به تاسو ته د انتخابونو لیست چمتو کړي چې دا په انټرنیټ کې سرچینه لري. د AI اجنټ به هڅه وکړي چې الوتنې پرتله کړي، ستاسو د بودیجې او غوره توبونو سره سم یې وګوري، او ستاسو په اجازې سره، ستاسو لپاره غوره انتخاب بک کړي.
دا ښیې چې پداسې حال کې چې تولیدي AI معلومات چمتو کوي ، د AI اجنټان هم کولی شي پریکړې وکړي او هدف ته د رسیدو لپاره اقدام وکړي پرته لدې چې اړتیا ورته ورکړل شي.
د دې لپاره چې وښیې چې د AI اجنټان څنګه د هدف په لور کار کوي، احساس، پلان، عمل، ارزونه (SPAE) لوپ په نښه کیدی شي. په اصل کې په روبوټکس کې رامینځته شوی، دا یو دوامداره دوره تشریح کوي چې په کې د AI اجنټ معلومات راټولوي، پریکړه کوي چې څه وکړي، ګام پورته کوي او د پروسې له تکرارولو دمخه پایلې ګوري. دا پروسه داسې ښکاري:
د OpenAI-Hugging Face one په څیر پیښو د AI سیسټمونو د خورا وړتیاو احتمال په اړه اندیښنې راپورته کړې.
دا ټول ارزښت لري. د اجنټیک AI د بازار ارزښت تمه کیږي چې په 2024 کې به له 5.1 ملیارد ډالرو څخه تر 2030 پورې $ 47 ملیارد ډالرو ته وده ورکړي ، د سټیسټا په وینا ، په روښانه اشاره کې چې دا څومره ژر منل کیږي.
د AI پراختیا کونکي انتروپیک تیره میاشت له صنعت څخه وغوښتل چې د خورا پیاوړي سیسټمونو پرمختګ ورو کړي ، او ویې ویل چې هغه سرعت چې د AI ماډلونه دندې ترسره کوي خورا ګړندی دی. تیره اونۍ ، د متحده ایالاتو د کانګرس غړو دوه اړخیزه بل وړاندې کړ چې د AI سیسټمونو پراختیا کونکو ته به د "وژنې سویچ" رامینځته کولو ته اړتیا ولري ، پدې معنی چې دا پرمختللي ماډلونه وتړل شي که چیرې دوی یو ناورین خطر رامینځته کړي.
د انتروپیک خبرداری یوه اونۍ وروسته له هغه راپورته شو چې د ټورنټو پوهنتون څیړونکو ازموینې ترسره کړې چې ښیې چې AI کولی شي یو "میني" رامینځته کړي چې دا څنګه هیک کوي پداسې حال کې چې له یوې وسیلې څخه بل ته حرکت کوي تر هغه چې دا په پای کې کمپیوټر شبکه ونیسي.
دا ډیسټوپیان غږیز پرمختګونه د OpenAI رییس سیم الټمن دمخه د شنبې په ورځ وویل چې AI "یوازیتوب" ته رسیدلی چې هغه ټکي ته اشاره کوي چې AI د انسان استخباراتو څخه تیریږي او کنټرول یې په زیاتیدونکي توګه ستونزمن کیږي.
د کیمبرج په پوهنتون کې د څیړنې پروفیسور شان او هایګارټایګ الجزیرې ته وویل چې هغه باور نه لري چې یوازیتوب تر دې دمه رسیدلی وي.
هغه څرګنده کړه: "د هغه تعریف له مخې چې زه ورسره اشنا یم، واحدیت هغه فرضي نقطه ده چیرې چې AI دومره وړتیا لري او دومره چټک پرمختګ کوي چې دا تمدن په داسې طریقو بدلوي چې موږ یې کنټرول یا وړاندوینه نشو کولی."
"دا به ډیر احتمال د AI له لارې وي چې په ګړندۍ توګه د AI راتلونکي نسلونه ډیزاین کوي: تکراري ځان اصلاح. موږ لاهم شتون نه لرو."
په هرصورت، هغه زیاته کړه: "تر ټولو پرمختللی اوسني ماډلونه په مکرر ډول هڅه کوي چې د ارزونې په ازموینو کې د بندیدو مخه ونیسي، او ډیر وړ راتلونکي ماډلونه به د 'وژلو' سویچونو په تیریدو کې غوره وي." الټمن استدلال وکړ چې د AI دومره ګړندی پرمختګ د نړۍ لپاره ښه دی ، مګر د هغه څرګندونو د نوي واقعیت په اړه نورې اندیښنې راپورته کړې چې پکې د AI سیسټمونه نه ودریږي. دا څومره ریښتیا دي او د ساینسي افسانو په ساحو کې څومره پاتې دي د بحث لپاره دي.
د AI په اړه اندیښنې له دې مفکورې څخه چې دا "غواړې" کولی شي "ترلاسه کړي"، خپل اوږد مهاله پالنونه جوړ کړي، انټرنیټ کنټرول کړي او په غیر محدود ډول کار وکړي.
پداسې حال کې چې د انټرنیټ بشپړ کنټرول لپاره کافي اندازه نه ده، بله تیوري چې د مړینې انټرنیټ تیوري په نوم پیژندل کیږي، داسې انګیرل کیږي چې په راتلونکي کې به د نړۍ پراخه ویب به د مستند انساني فعالیتونو پرځای د اتوماتیک بوټو او AI تولید شوي مینځپانګې څخه ډک شي.
د اکادمیکانو لخوا راپورته شوي ډیری اندیښنې، په هرصورت، د اجنټ AI استخباراتو باندې لږ تمرکز کوي، مګر د قضاوت کولو وړتیا باندې. د MIT څیړونکو روښانه کړې چې "خیال"، کوم چې هغه شیبې بیانوي کله چې د AI اجنټ په غلط معلوماتو تکیه کوي، کولی شي د جدي غلطیو لامل شي. د ستراتیژیکو او نړیوالو مطالعاتو مرکز (CSIS) دا خبره تکرار کړه، "یو سیسټم ممکن دومره هوښیار وي چې یو کار په بشپړ ډول ترسره کړي مګر په دې پوه نشي چې په سیمه ایز وضعیت کې ناڅاپه بدلون دا کار یوه ناورین تېروتنه کوي".
بله اندیښنه چې د یو څه مودې لپاره د کار بازار لپاره راپورته شوې ، که AI خورا وړ شي. د MIT لخوا یوه څیړنه چې د نومبر په میاشت کې ترسره شوې، وموندله چې اجنټیک AI کولی شي دمخه د متحده ایاالتو د 10 سلنې څخه ډیر دندې بدل کړي.
لاندې ګرافیک د AI او اوسني واقعیت په اړه ځینې عام غلط فهمۍ او ویره په ګوته کوي.
