اينٿراپڪ وڏي مصنوعي ذهانت (AI) ليبز تي سڏ ڪري رهيو آهي ترقي ۾ هڪ همراه ۽ قابل تصديق روڪ تي غور ڪرڻ لاءِ ، خبردار ڪيو ته ٽيڪنالاجي ۾ تيز ترقي جلد ئي اي آئي سسٽم کي اجازت ڏئي سگهي ٿي پاڻ کي وڌيڪ تيزيءَ سان بهتر بڻائي سگهي ٿو سماج جي خطرن کي منظم ڪري سگهي ٿو.
ڪلاڊ جي خالق چيو ته AI جي پنهنجي طور تي ڪم مڪمل ڪرڻ جي صلاحيت تقريباً هر چئن مهينن ۾ ٻيڻي ٿي رهي آهي ۽ ان کي ”بار بار خود سڌارڻ“ جي طرف وٺي ويو آهي، اهو نقطو جنهن تي ٽيڪنالاجي انساني مداخلت کان سواءِ بهتر ٿي سگهي ٿي.
"جيڪڏهن سسٽم مڪمل طور تي پنهنجي جانشين کي تعمير ڪرڻ جي قابل آهن، طريقا جيڪي اسان انهن کي محفوظ ڪريون ٿا، انهن جي نگراني ڪن ٿا، ۽ انهن جي رويي کي شڪل ڏين ٿا، سڀ کان وڌيڪ اهم آهن،" شروعاتي خميس تي هڪ ڊگهي بلاگ پوسٽ ۾ چيو، شامل ڪيو ته هڪ وقفو سماج کي اجازت ڏيندو "ان جي وڏي اثر سان معاملو ڪرڻ".
"اسان اڃا تائين اتي نه آهيون، ۽ ٻيهر خود بخود بهتري ناگزير نه آهي. پر اهو جلدي اچي سگهي ٿو ان کان سواء اڪثر ادارن لاء تيار آهن،" اينٿروپڪ ڪو باني جيڪ ڪلارڪ ۽ اينٿروپڪ انسٽيٽيوٽ جي اڳواڻي مارينا فاوارو پوسٽ ۾ لکيو.
خوف آهي ته ترقي يافته AI سسٽم انساني ڪنٽرول کان ٻاهر نڪري سگهن ٿا ۽ سماجي نقصان جو سبب بڻيا آهن جيئن ٽيڪنالاجي تيزيء سان قابل ٿي ويندي آهي.
انٿروپڪ جي پنهنجي Mythos ماڊل صنعتن ذريعي صدمو موڪليو، بشمول بينڪنگ ۽ سافٽ ويئر، هن سال جي شروعات ۾ موجوده ڪوڊ ۾ ڪمزورين کي ڳولڻ جي صلاحيت سان.
پر ضابطو سست ٿي چڪو آهي، خاص طور تي آمريڪا ۾ جتي سڀ کان وڌيڪ معروف AI ليبز ٻڌل آهن.
ٽرمپ انتظاميه جو ايگزيڪيوٽو آرڊر هن هفتي جي شروعات ۾ پاڻ کي ليبز تي رکي ٿو ، انهن کان مطالبو ڪيو ته رضاڪارانه طور تي سرڪاري سائبر سيڪيورٽي ٽيسٽنگ لاءِ پنهنجا سڀ کان وڌيڪ قابل ماڊل پبلڪ رليز ٿيڻ کان پهريان پيش ڪن.
اي آءِ جي محققن اڳي به هڪ وقفي تي زور ڏنو آهي پر ٿوري ڪاميابي هئي.
ايلون مسڪ، جيڪو AI ليب xAI جو مالڪ آهي، غير منافع بخش فيوچر آف لائف انسٽيٽيوٽ پاران 2023 جي پُش جي پٺاڻن ۾ شامل هو ته AI ترقي کي ڇهن مهينن لاءِ روڪيو وڃي ته جيئن حفاظتي گارڊن لاءِ وقت ڏنو وڃي.
انتھروپڪ ڊگھي عرصي کان پاڻ کي حفاظت تي ڌيان ڏيڻ واري AI ليب جي حيثيت ۾ رکيو آھي.
هن سال جي شروعات ۾، هن آمريڪي فوج کي گهريلو نگراني ۽ مڪمل طور تي خودمختيار هٿيارن لاءِ پنهنجا ماڊل استعمال ڪرڻ کان انڪار ڪري ڇڏيو، حڪومت کان ردعمل جو مظاهرو ڪيو جنهن ان کي قومي سلامتي بليڪ لسٽ ۾ رکيو، جيڪو بعد ۾ 2026 ۾ اثر انداز ٿيڻ لاءِ مقرر ڪيو ويو.
رائٽرز جمعي تي ٻڌايو ته تڪرار آمريڪي حڪومت جي حصن ۾ نرمي جا نشان ظاهر ڪري رهيو هو.
اڃا تائين، اينٿروپڪ مسلسل طاقتور ماڊلز جاري ڪرڻ جاري رکيا آهن ۽ فيبروري ۾ هڪ اهم حفاظتي واعدو واپس هليو ويو، چيو ته اهو هاڻي ممڪن طور تي خطرناڪ AI کي روڪي نه سگهندو جيڪڏهن حریف پنهنجي صلاحيتن کي ملائڻ جي ويجهو هوندا.
اهو تازو ئي وڏي پئماني تي 965 بلين ڊالر جي قيمت هئي ۽ سومر تي يو ايس جي ابتدائي عوامي پيشڪش لاءِ رازداري سان داخل ڪيو ويو ، ان کي قيمت ۽ اهم فنڊنگ کي محفوظ ڪرڻ جي ڊوڙ ۾ حریف OpenAI کان اڳتي وڌو.
اينٿروپڪ جي خميس پوسٽ خبردار ڪيو ته هڪ طرفي يا ناقص هموار ٿيل سست رفتار واپس اچي سگهي ٿي جيڪڏهن گهٽ محتاط اداڪار اڳتي وڌندا رهن ، ممڪن طور تي مجموعي حفاظت کي گهٽائي.
اهو چيو ته هڪ بامعني توقف جي ضرورت هوندي ”ڪيترن ئي چڱي طرح وسيلا ٿيل ليبز“ جي وچ ۾ ٽيڪنيڪي محاذ تي ڪم ڪندڙ ، ۽ انهي سان گڏ ضابطن تي ته ڪهڙيون حالتون اهڙي رڪاوٽ کي متحرڪ يا ختم ڪنديون ۽ ڪير ان جي نگراني ڪندو.
"هڪ ليبارٽري طرفان هڪ طرفي توقف، ان جي ابتڙ، فوري طور تي حاصل ڪري سگهجي ٿو، پر تمام گهٽ حاصل ڪري ٿو: اهو تبديل ڪندو ته ڪير اڳيان رنر آهي، پر اهو وسيع خيالي عمل پيدا نه ڪندو جيڪو هن وقت غائب آهي،" شروعاتي چيو.
ان جي تحقيقاتي بازو، اينٿروپڪ انسٽيٽيوٽ، سسٽم جو مطالعو ڪرڻ جو ارادو رکي ٿو سستي کي سپورٽ ڪرڻ لاءِ ۽ ايندڙ مهينن ۾ پاليسي سازن، محققن، سول سوسائٽي گروپن ۽ حريف AI فرمن کي گڏ ڪري خطرن جي انتظام تي بحث ڪرڻ لاءِ بحث ڪندو جيئن بار بار خود سڌارڻ.
OpenAI، xAI، Alphabet، Meta پليٽ فارمز ۽ فرانس جي Mistral فوري طور تي تبصري جي درخواستن جو جواب نه ڏنو ته ڇا اهي ڪال ۾ شامل ٿيندا.
