په 2014 کې د متحده ایالاتو فلم Transcendence یو مړ ساینس پوه تعقیبوي چې خپل ذهن یو سوپر کمپیوټر ته اپلوډ کوي او نږدې ټول ځواکمن استخبارات کیږي. یو کال وروسته، Ex Machina د یو هیومنایډ روبوټ کیسه وکړه چې د خپلو انسانانو لاس ته راوړو او پراخه نړۍ ته تښتي.
دا دواړه فلمونه، لکه د ساینسي افسانې له ډګر څخه د ډیرو نورو په څیر، هغه څه ته اشاره کوي چې د "واحدت" په نوم پیژندل کیږي، د وخت یوه شیبه کله چې ټیکنالوژي، په ځانګړې توګه AI، د انسان استخباراتو څخه تیریږي او کنټرول یې په زیاتیدونکي توګه ستونزمن کیږي.
د شنبې په ورځ، د OpenAI رییس سیم الټمن اعلان وکړ چې دا شیبه راغلې ده. AI "واحدت" ته رسیدلی دی، هغه وویل. پداسې حال کې چې الټمن ټینګار وکړ چې یوازیتوب د نړۍ لپاره ښه کیدی شي ، د هغه تبصرې اندیښنه راپورته کړې.
دلته هغه څه ته نږدې کتنه ده چې الټمن وویل ، او ایا دا د ډیر بې سیمه اتومات کولو یا د راتلونکي ناورین عذاب خطر معنی لري.
یوازیتوب په راتلونکي کې یو فرضي ټکي ته اشاره کوي کله چې AI په څیر ټیکنالوژي د انساني استخباراتو څخه تیریږي او په خپلواکه توګه د ځان لوړولو وړتیا لري. دا نظریه ده چې دا هغه نقطه ده چې د انسانانو لپاره به دا ستونزمنه وي چې کنټرول یا یې بیرته راګرځوي او په انساني تمدن باندې غیر متوقع اغیزې ولري.
تیوري وړاندیز کوي چې یوځل چې AI د خپل پرمختګ کنټرول ترلاسه کړي ، نو په ټیکنالوژۍ کې پرمختګ به دومره ګړندی پیښ شي چې انسانان نشي کولی دوام وکړي ، دا د انسان له کنټرول څخه بهر په مؤثره توګه پخپله وده کولو ته پریږدي.
لکه څنګه چې دا یوازې یوه تیوري ده، دا ستونزمنه ده چې ووایو چې د دې اغیز څه کیدی شي. ځینې کارپوهان خبرداری ورکوي چې یوازیتوب به د انسانیت لپاره ناورین وي، پداسې حال کې چې نور ډیر خوشبین دي، وړاندیز کوي چې دا د انسان نسل لپاره ګټور وي.
تر اوسه پورې، واحدیت د ساینسي افسانې په ساحه کې پاتې دی. یو له خورا مشهور مثالونو څخه د میټریکس تریولوژی (1999-2003) دی، کوم چې د یوازیتوب وروسته یو تیاره راتلونکی تصور کوي چې ماشینونه یې په انسانانو اداره کوي. بل د 2017 فلم واحدیت دی ، په کوم کې چې یو سوپر کمپیوټر په اصل کې د انساني جګړو پای ته رسولو لپاره رامینځته شوی دې پایلې ته رسیدلی چې انسانیت ریښتینی ګواښ دی او په بشپړ ډول د انسانانو د له مینځه وړو لپاره اپوکلپټیک برید پیل کوي.
Altman د OpenAI CEO دی، د هغه لاسلیک محصول ChatGPT د 900 ملیون څخه ډیر اوونیز فعال کاروونکو او شاوخوا 50 ملیون پیرودونکو سره د مصرف کونکي AI بازار باندې تسلط لري.
تیر کال، هغه وړاندوینه وکړه چې AI به تر 2030 پورې د بورډ په اوږدو کې د انساني استخباراتو څخه تیر شي.
بیا ، په دوامداره پوډکاسټ کې د ظهور په جریان کې - یو مستند لړۍ "د لرې پرتو نظرونو او غیر معمولي هیلو تعقیب په اړه" - د شنبې په ورځ ، الټمن وویل: "موږ اوس یو ، لکه په یوازیتوب کې."
هغه څرګنده کړه، د ټیکنالوژیکي پرمختګونو له مخې، موږ په تدریجي ډول د واحدیت په لور روان یو او دا بدلون به د نړۍ لپاره ښه وي.
هغه زیاته کړه: "اوس موږ واقعیا په هغه شیبه کې یو چې موږ به د غرمې په میز کې په خورا جدي ډول خبرې کولې.
"زه خپل ټول ژوند دې ته انتظار کوم، او زه فکر کوم چې دا به د نړۍ لپاره په زړه پورې، خورا مثبت، په زړه پورې وي."
وروسته د پوډکاسټ قسط کې ، الټمن د AI نورو مشرانو باندې د خبرداری لپاره انتقاد وکړ چې AI ممکن خطرناک وي. پداسې حال کې چې الټمن د OpenAI سیالي کونکي انټروپیک نوم نه دی اخیستی، د دې سی ای او ډاریو امودي د ورته اخطارونو لپاره پیژندل کیږي.
"زه هم فکر کوم چې ځینې بدیل لیدونه چې د نورو شرکتونو لخوا رنګ شوي خورا ویرونکي دي ،" الټمن وویل. "زه به ډاډ ترلاسه کړم چې دا په وړاندې فشار راوړل کیږي او هغه څه ندي چې پیښیږي."
تیره میاشت، انتروپیک، د کلاډ چیټ بوټ تر شا شرکت، د نړۍ په لوړ پوړو AI شرکتونو غږ وکړ چې د پرمختللي AI سیسټمونو پراختیا ته د مخنیوي لپاره همغږي لاره غوره کړي، خبرداری یې ورکړ چې ټیکنالوژي دومره چټکه وده کوي چې د دې خطر شتون لري چې انسانان به کنټرول له لاسه ورکړي.
د جون په 4 په یوه بلاګ پوسټ کې، انټروپیک، چې له اوږدې مودې راهیسې ځان د خوندیتوب متمرکز AI لابراتوار په توګه موقعیت لري، لیکلي چې څنګه چې AI ډیر پرمختللی کیږي "دا به د نړۍ لپاره ښه وي چې د دې پراختیا ورو یا لنډمهاله بندولو اختیار ولري".
د جولای په 23، د متحده ایالاتو د کانګرس دوو غړو د AI Kill Switch Act معرفي کړ، یو دوه اړخیز قانون چې د هیواد د AI پراختیا کونکو ته اړتیا لري ترڅو خپلو برنامو ته "وژونکي سویچ" رامینځته کړي ، چې انسانان د دې توان ورکوي چې پرمختللي AI ماډلونه ورو کړي ، تعلیق کړي یا بند کړي که چیرې دوی یو ناورین خطر رامینځته کړي. دا قانون څو ورځې وروسته له هغې معرفي شو چې OpenAI هغه څه افشا کړل چې دا یې د "بې ساري سایبر پیښې" په توګه تشریح کړل، چیرې چې د دې دوه خورا پرمختللي AI ماډلونه د ازموینې چاپیریال څخه تښتیدلي او د داخلي امنیت ارزونې په جریان کې د AI پراختیا پلیټ فارم هګینګ فیس هیک کړی.
د جولای په 13 ، په سلګونو کارپوهانو یو خلاص لیک لاسلیک کړ ، چې د سټینفورډ پوهنتون ډیجیټل اقتصاد لابراتوار لخوا تنظیم شوی ، غوښتنه کوي چې پالیسي جوړونکي او د ټیکنالوژۍ مشران باید "اوس عمل وکړي" ترڅو د AI اقتصادي اغیزو لپاره چمتووالی ونیسي.
لیک خبرداری ورکوي چې AI په راتلونکو لسیزو کې خورا ډیر وړتیا وده کولی شي ، د "صنعتي انقلاب څخه لوی" بدلون رامینځته کوي ، مګر په خورا لنډ وخت چوکاټ کې څرګندیږي.
لیک زیاته کړه: "دا کولی شي خطرونه راوړي ، پشمول په لویه کچه د کار بې ځایه کیدل ، او همدارنګه فرصتونه لکه د ژوند په معیارونو کې لوی لاسته راوړنې."
د جون په میاشت کې، د ټورنټو په پوهنتون کې د څیړونکو یوې ډلې وښودله چې د AI وسیلې د نوي ډول AI "کیم" رامینځته کولو لپاره کارول کیدی شي چې د هغې د هیک کولو ستراتیژي تطبیقوي ځکه چې دا له یوې وسیلې څخه بل ته خپریږي او پراخه کمپیوټري شبکه نیسي.
"زه فکر کوم چې دا واقعیا مهمه ده چې خلک پوه شي چې دا یوازې د ژبې ترټولو لوی ، خورا پیاوړي ماډلونه ندي چې امنیتي اندیښنې رامینځته کوي ،" مخکښ څیړونکی نیکولاس پیپرنټ په یوه مرکه کې وویل.
په وروستي کلونو کې، د AI څیړونکو د وقفې غوښتنه کړې چې د انټروپیک لخوا په دې وروستیو کې وړاندیز شوي. په هرصورت، دوی ته پام نه دی شوی.
ایلون مسک، چې د AI لابراتوار xAI مالک دی، د غیر انتفاعي فیوچر آف لائف انسټیټیوټ لخوا د 2023 فشار ملاتړ کونکو څخه و چې د شپږ میاشتو لپاره د AI پراختیا ودروي ترڅو د خوندیتوب محافظینو پراختیا ته وخت ورکړي.
