2014 جي يو ايس فلم Transcendence هڪ مرندڙ سائنسدان جي پيروي ڪري ٿو جيڪو پنهنجي دماغ کي سپر ڪمپيوٽر تي اپلوڊ ڪري ٿو ۽ هڪ تمام گهڻي ذهانت جي ويجهو بڻجي ٿو. هڪ سال بعد، Ex Machina هڪ انساني روبوٽ جي ڪهاڻي ٻڌائي، جيڪو پنهنجي انساني هٿيارن کي هٽائي ٿو ۽ وڏي دنيا ۾ فرار ٿي ويو آهي.
اهي ٻئي فلمون، سائنس فڪشن جي دائري مان ڪيترن ئي ٻين وانگر، حوالو ڏنو ويو آهي جنهن کي "سنگولرٽي" جي نالي سان سڃاتو وڃي ٿو، وقت ۾ هڪ لمحو جڏهن ٽيڪنالاجي، خاص طور تي AI، انساني ذهانت کان مٿانهون ٿي وڃي ٿي ۽ ڪنٽرول ڪرڻ مشڪل ٿي وڃي ٿي.
ڇنڇر تي، OpenAI باس سام Altman اعلان ڪيو ته اهو لمحو اچي چڪو آهي. AI پهچي چڪو آهي "واحدت"، هن چيو. جڏهن ته Altman زور ڀريو ته اڪيلو دنيا لاء سٺو ٿي سگهي ٿو، هن جو تبصرو خدشو پيدا ڪيو آهي.
هتي هڪ ويجهي نظر آهي ته Altman ڇا چيو، ۽ ڇا ان جو مطلب آهي وڌيڪ بيحد خودڪار طريقي سان يا ايندڙ تباهي واري عذاب جو خطرو.
انفراديت مستقبل ۾ هڪ فرضي نقطي ڏانهن اشارو ڪري ٿي جڏهن هڪ ٽيڪنالاجي جهڙوڪ AI انساني ذهانت کي ختم ڪري ٿي ۽ خودمختيار طور تي پاڻ کي وڌائڻ جي قابل ٿي وڃي ٿي. اهو نظريو آهي ته هي اهو نقطو آهي جنهن تي انسانن لاءِ ان کي ڪنٽرول ڪرڻ يا ان کي رد ڪرڻ ڏکيو ٿي ويندو ۽ انساني تمدن تي غير متوقع اثر پئجي سگهي ٿو.
نظريو پيش ڪري ٿو ته هڪ ڀيرو AI پنهنجي ترقي تي ڪنٽرول حاصل ڪري ٿو، ٽيڪنالاجي ۾ پيش رفت ايتري تيزيء سان ٿي سگهي ٿي جيڪا انسانن کي برقرار رکڻ جي قابل نه هوندا، ان کي انسان جي ڪنٽرول کان ٻاهر، مؤثر طور تي پنهنجو پاڻ تي ترقي ڪرڻ لاء ڇڏي.
جيئن ته هي صرف هڪ نظريو آهي، اهو چوڻ ڏکيو آهي ته ان جو اثر ڇا ٿي سگهي ٿو. ڪجهه ماهر خبردار ڪن ٿا ته انفراديت انسانيت لاءِ تباهي آڻيندي، جڏهن ته ٻيا وڌيڪ پراميد آهن، تجويز ڪن ٿا ته اهو انساني نسل لاءِ فائديمند ٿي سگهي ٿو.
هينئر تائين، واحديت سائنس فڪشن جي دائري ۾ رهي ٿي. سڀ کان وڌيڪ مشهور مثالن مان هڪ آهي The Matrix trilogy (1999-2003)، جيڪو تصور ڪري ٿو هڪ ٻرندڙ پوسٽ singularity مستقبل جنهن ۾ مشينون انسانن تي حڪومت ڪن ٿيون. ٻي آهي 2017 جي فلم Singularity، جنهن ۾ هڪ سپر ڪمپيوٽر اصل ۾ انساني جنگين کي ختم ڪرڻ لاءِ تيار ڪيو ويو آهي ان نتيجي تي پهچندو آهي ته انسانيت حقيقي خطرو آهي ۽ انسانن کي مڪمل طور تي ختم ڪرڻ لاءِ هڪ apocalyptic حملو شروع ڪري ٿو.
Altman OpenAI جو CEO آھي، جنھن جي دستخطي پراڊڪٽ ChatGPT 900 ملين ھفتيوار فعال استعمال ڪندڙن ۽ اٽڪل 50 ملين سبسڪرائبرز سان گڏ صارف AI مارڪيٽ تي ڇانيل آھي.
گذريل سال، هن اڳڪٿي ڪئي هئي ته AI 2030 تائين بورڊ ۾ انساني ذهانت کي ختم ڪري ڇڏيندو.
ان کان پوء، بيحد پوڊ ڪاسٽ تي هڪ ظهور دوران - هڪ دستاويزي سيريز "پريشان خيالن ۽ غير معمولي اميدن جي تعاقب بابت" - ڇنڇر تي، Altman چيو: "اسان هاڻي آهيون، جهڙوڪ، انفراديت ۾."
هن واضح ڪيو ته، ٽيڪنالاجي جي ترقي جي لحاظ کان، اسان آهستي آهستي هڪجهڙائي ۾ وڌي رهيا آهيون، ۽ اها تبديلي دنيا لاءِ سٺي هوندي.
هن وڌيڪ شامل ڪيو: ”هاڻي اسان اصل ۾ ان لمحي ۾ آهيون جنهن بابت اسان لنچ جي ٽيبل تي نهايت سنجيده انداز ۾ ڳالهائيندا هئاسين.
"مان پنهنجي سڄي زندگي ان جو انتظار ڪري رهيو آهيان، ۽ مان سمجهان ٿو ته اهو دنيا لاءِ ناقابل يقين، تمام گهڻو مثبت، خوفناڪ هوندو."
بعد ۾ پوڊ ڪاسٽ جي قسط ۾، Altman ٻين AI اڳواڻن تي تنقيد ڪئي ته خبردار ڪيو ويو ته AI خطرناڪ ٿي سگهي ٿو. جڏهن ته Altman OpenAI مقابلي واري اينٿروپڪ جو نالو نه ورتو، ان جي سي اي او ڊاريو امودي اهڙي ڊيڄاريندڙن لاء مشهور آهي.
”مان اهو پڻ سمجهان ٿو ته ٻين ڪمپنين پاران رنگيل ڪجهه متبادل نظارا ڪافي خوفناڪ آهن ،“ الٽمن چيو. "مان پڪ ڪرڻ وارو آهيان ته ان جي خلاف ڌڪيو وڃي ٿو ۽ اهو نه آهي جيڪو ٿئي ٿو."
گذريل مهيني، انٿروپڪ، ڪلاڊ چيٽ بوٽ جي پويان ڪمپني، دنيا جي اعلي AI ڪمپنين تي زور ڀريو ته ترقي يافته AI سسٽم جي ترقي کي روڪڻ لاء هڪ همراه طريقي سان اچي، خبردار ڪيو ته ٽيڪنالاجي ايتري تيزيء سان بهتر ٿي رهي آهي ته اهو خطرو آهي ته انسان ڪنٽرول وڃائي ڇڏي.
4 جون تي هڪ بلاگ پوسٽ ۾، اينٿروپڪ، جنهن ڊگهي عرصي کان پاڻ کي حفاظت تي مرکوز AI ليب جي حيثيت ۾ رکيو آهي، لکيو آهي ته جيئن AI وڌيڪ ترقي يافته ٿيندو وڃي ته ”دنيا لاءِ اهو سٺو هوندو ته ان جي ترقي کي سست يا عارضي طور تي روڪڻ جو اختيار هجي“.
23 جولاءِ تي، گڏيل قومن جي ڪانگريس جي ٻن ميمبرن AI Kill Switch Act متعارف ڪرايو، هڪ ٻه طرفي بل جنهن ۾ ملڪ جي AI ڊولپرز کي پنهنجي پروگرامن ۾ ”ڪِل سوئچ“ ٺاهڻ جي ضرورت پوندي، انسانن کي ترقي يافته AI ماڊلز کي سست، معطل يا بند ڪرڻ جي قابل بڻائي، جيڪڏهن اهي ڪڏهن تباهي جو خطرو پيدا ڪن. قانون سازي متعارف ڪرايو ويو ڪجهه ڏينهن بعد OpenAI ظاهر ڪيو ته اهو بيان ڪيو ويو آهي "بي مثال سائبر واقعو"، جتي هن جا ٻه سڀ کان وڌيڪ ترقي يافته AI ماڊل هڪ ٽيسٽنگ ماحول کان بچي ويا ۽ اندروني سيڪيورٽي جي تشخيص دوران AI ڊولپمينٽ پليٽ فارم Hugging Face کي هيڪ ڪيو.
13 جولاءِ تي، سوين ماهرن هڪ کليل خط تي دستخط ڪيا، اسٽينفورڊ يونيورسٽي جي ڊجيٽل معيشت جي ليبارٽري پاران منظم ڪيل، مطالبو ڪيو ته پاليسي ساز ۽ ٽيڪنالاجي اڳواڻن کي "هاڻي عمل ڪرڻ گهرجي" AI جي اقتصادي اثر لاء تيار ڪرڻ لاء.
خط خبردار ڪري ٿو ته AI ايندڙ ڏهاڪي ۾ تمام گهڻو وڌيڪ قابل ٿي سگهي ٿو، هڪ تبديلي کي هلائي رهيو آهي "صنعتي انقلاب کان وڏو، پر هڪ تمام مختصر وقت جي فريم تي ظاهر ٿيڻ".
"اهو خطرات آڻي سگهي ٿو، بشمول وڏي پيماني تي نوڪري بي گھرڻ، ۽ گڏوگڏ موقعا جهڙوڪ زندگين جي معيار ۾ وڏي حاصلات،" خط شامل ڪيو ويو.
جون ۾، يونيورسٽي آف ٽورانٽو ۾ محققن جي هڪ ٽيم ڏيکاريو ته AI اوزار استعمال ڪري سگهجن ٿا هڪ نئين قسم جي AI ”ڪيم“ ٺاهڻ لاءِ جيڪو پنهنجي هيڪنگ حڪمت عملي کي ترتيب ڏئي ٿو جيئن اهو ڊوائيس کان ڊوائيس تائين پکڙجي ٿو ۽ هڪ وسيع ڪمپيوٽنگ نيٽ ورڪ تي قبضو ڪري ٿو.
"منهنجو خيال آهي ته اهو واقعي اهم آهي ته ماڻهو سمجهن ٿا ته اهو صرف سڀ کان وڏو نه آهي، سڀ کان وڌيڪ طاقتور ٻولي ماڊل جيڪي سيڪيورٽي خدشات پيدا ڪن ٿا،" اڳواڻ محقق نڪولس پيپرنٽ هڪ انٽرويو ۾ چيو.
تازن سالن ۾، AI محققن تي زور ڀريو آهي ته جيئن انٿروپڪ طرفان تازو تجويز ڪيل هڪ جهڙيون رڪاوٽون. تنهن هوندي به انهن تي ڌيان نه ڏنو ويو آهي.
ايلون مسڪ، جيڪو AI ليب xAI جو مالڪ آهي، غير منافع بخش فيوچر آف لائف انسٽيٽيوٽ پاران 2023 جي پُش جي پٺاڻن ۾ شامل هو ته AI ترقي کي ڇهن مهينن لاءِ روڪيو ته جيئن حفاظتي گارڊن کي ترقي ڪرڻ لاءِ وقت ڏنو وڃي.
