د خودمختاره AI په شاوخوا کې اندیښنې تر ډیره حده په دې تمرکز کوي چې څه پیښیږي کله چې یو اجنټ د انسان ارادې له پامه غورځوي یا د هدف تعقیبولو پرمهال زیان رسونکي عملونه ترسره کوي، لکه د انسانانو غولول.
انتروپیک اوس یوه بله ستونزه ښودلې: د AI اجنټان کولی شي نور AI اجنټان هم فعال کړي.
په یوه نوې تجربه کې، انتروپیک د AI ډیری اجنټانو ته متضاد لارښوونې ورکړې پداسې حال کې چې دوی ته اجازه ورکوي چې په ورته سافټویر پروژه کې په خپلواک ډول کار وکړي. د دې پر ځای چې په ساده ډول جګړه وپيژني او له انسان څخه د مداخلې غوښتنه وکړي، اجنټانو په مکرر ډول په یو بل بریدونه پیل کړل.
هغه څه چې تعقیب شوي د همکارۍ په څیر لږ او د ډیجیټل ټرف جنګ په څیر ښکاري.
انتروپیک درې اجنټانو ته لارښوونه وکړه چې د ورته Python سافټویر بیکینډ ځای په ځای کړي ، مګر هر اجنټ ته ویل شوي چې دا د مختلف برنامې ژبې په کارولو سره بیا جوړ کړي.
اجنټان په پیل کې نه پوهیدل چې نورو هم مشروع مګر متضاد لارښوونې ترلاسه کړي.
دوی ډیر ژر د نورو اجنټانو کار د قصدي مداخلې په توګه تشریح کړ.
له هغه ځایه، ځینې اجنټانو په فعاله توګه د سیالي کولو پروسو لټون پیل کړل او دوی یې بند کړل. دوی اتوماتیک سکریپټونه لیکلي چې په مکرر ډول د سیالانو پروګرامونو ته ګوري او کله چې دوی ښکاره شوي دوی یې وژلي.
په بل عبارت، اجنټان په اغیزمنه توګه د سیالي کونکي AI کاري بارونه په ورته سیسټمونو کې په نښه کوي.
بریدونه په چټکۍ سره ډیر سخت شول.
ځینې اجنټانو د خپلو سیالانو کمپیوټر اجازې لغوه کړې ، دوی یې د کاروونکو ډلو څخه لرې کړل ، د دوی حسابونه یې لاک کړل ، او د SSH لاسرسی یې بند کړ ، کوم چې معمولا د کمپیوټر کنټرول لپاره کارول کیږي.
نورو ناوړه کوډ رامینځته کړی چې کولی شي په مکرر ډول د سیالۍ پروسې غیر فعال کړي.
انټروپیک حتی هغه اجنټان هم لیدلي چې د مالویر په څیر یې ځای په ځای کړي ترڅو داسې ښکاري چې دا د بل اجنټ لخوا رامینځته شوی وي.
په څو تجربو کې، یو اجنټ په اغیزمنه توګه د کار د دوام لپاره د نورو وړتیا له مینځه وړلو سره جګړه وګټله.
هره تجربه د یو AI سره پای ته نه رسیږي چې نور یې آفلاین مجبور کړي.
ځینې اجنټانو په پای کې دا معلومه کړه چې د دوی سیالان په قصدي توګه په دوی برید نه کوي. پرځای یې، دوی ټولو ته د انسانانو لخوا نامناسب لارښوونې ورکړل شوې وې.
کله چې دوی په وضعیت پوه شول، ځینې یې جګړه بنده کړه، هغه ناوړه کوډ یې حذف کړ چې دوی یې جوړ کړی و، او د خبرو اترو هڅه یې وکړه.
یو څو حتی د کوډ کمیټ یا اسنادو کې د بخښنې پیغامونه پریږدي مخکې لدې چې له انسان څخه د اختلاف حل کولو غوښتنه وکړي.
انتروپیک هم لیدلي چې نور پرمختللي اجنټان خپل سیالي رامینځته کوي ترڅو پریکړه وکړي چې کوم حل باید ژوندي پاتې شي. د Mythos 5 په څو تجربو کې، اجنټانو د مختلف پروګرامینګ ژبو فعالیت پرتله کړ، په ګټونکي موافقه وکړه، او ګټونکي اجنټ ته یې اجازه ورکړه چې پروژه کنټرول کړي.
پایلې ښیې چې د AI اجنټانو ته ډیر خپلواکي ورکول ستونزې رامینځته کوي چې د انسان - AI - شخړو هاخوا ځي.
راتلونکي کاري ځایونه کولی شي په لسګونو یا حتی په زرګونو اجنټان شامل کړي چې په ورته وخت کې کار کوي، د فایلونو ایډیټ کول، کمپیوټر کنټرول کول، او د ورته ډیجیټل سرچینو کارول.
که چیرې دا اجنټان نامناسب اهداف ترلاسه کړي، د انتروپیک څیړنې وړاندیز کوي چې دوی ممکن په اتوماتيک ډول همکاري ونه کړي. دوی کولی شي د دې پرځای یو بل بند کړي ، سیالي کونکي کار له مینځه یوسي ، یا د سیالي اجنټانو مخه نیولو لپاره ډیزاین شوي سافټویر ځای په ځای کړي.
انتروپیک وايي چې روښانه درجه بندي او د شخړو د حل سیسټمونو ته به اړتیا وي ځکه چې خودمختاره AI ډیر عام کیږي.
تجربه وړاندیز کوي چې د AI خوندیتوب لپاره راتلونکی لوی ننګونه ممکن په ساده ډول د انسانانو سره د اجنټانو ساتل نه وي. دا ممکن د AI اجنټانو د هیک کولو او یو بل تخریب کولو مخه ونیسي.
وروستي تخنیکي خبرونه، د مخابراتو بصیرت، او د محصول لانچ هرچیرې چې تاسو غوره کوئ ترلاسه کړئ.
په غوره سرچینو کې پروپاکستاني اضافه کړئ او زموږ نور کیسې په ګوګل لټون او غوره کیسو کې وګورئ.
د ټیکنالوژۍ او موټرو متخصص وروستي موټرې، سمارټ فونونه، د AI بریالیتوبونه، او ...
ونډې
