Error 500 (Server Error)!!1500.That’s an error.There was an error. Please try again later.That’s all we know. للي لي، هڪ رازداري ۽ AI وڪيل ۽ Metaverse قانون جي باني، TechCrunch کي ٻڌايو ته هوء يقين رکي ٿي ته ڪمپنيون شايد انهن جي ڪنٽرول پاليسين ۽ جائزي جي مڪمل دائري کي ظاهر ڪرڻ ۾ هچڪچ ڪن ٿيون ۽ جائزي جي عوام کي منهن ڏيڻ واري ويب سائيٽن تي قانوني، نه صرف مقابلي، سببن لاء.
”ڪمپني جي نقطه نظر کان تشويش اها آهي ته جيڪڏهن توهان انڪشاف کي تمام گهڻو مخصوص ڪيو ، ۽ توهان پنهنجي واعدن تي پورا نه رهيا آهيو ، اهو هڪ غير منصفانه ۽ فريب واري مارڪيٽنگ دعويٰ جو بنياد بڻجي سگهي ٿو ۽ توهان کي اڳتي وڌڻ جي وڌيڪ ذميواري ڏانهن بي نقاب ڪري سگهي ٿو ،“ لي چيو.
يقينا، گائيڊ لائٽ جي مطالعي جو نقطو گهڻو ڪري ڪمپنين کي انهن جي حفاظت جي منصوبن بابت وڌيڪ شفاف ٿيڻ جي حوصلا افزائي ڪرڻ آهي. ريگيوليٽر پڻ ان مسئلي کي زور ڏيڻ شروع ڪري رهيا آهن.
ڪيليفورنيا جو SB 53، جيڪو هن سال اثرائتو ٿيو، وڏي فرنٽيئر ڊولپرز کي فريم ورڪ شايع ڪرڻ جي ضرورت آهي ته اهي وضاحت ڪن ته ڪيئن اهي اهم حفاظتي واقعن جي نشاندهي ڪن ۽ جواب ڏين ۽ ماڊلز کان خطرن کي منظم ڪن جيڪي نگراني واري ميڪانيزم کي روڪيندا آهن. نيو يارڪ جو RAISE ايڪٽ، جيڪو ساڳيو معيار آهي، جنوري ۾ اثر انداز ٿئي ٿو.
گذريل مهيني، نمائندن متعارف ڪرايو AI Kill Switch Act، هڪ ٻه طرفي وفاقي بل جنهن جي ضرورت هوندي وڏن AI ڊولپرز کي ٽيڪنيڪل ميڪانيزم ٺاهڻ ۽ برقرار رکڻ لاءِ خراب AI ماڊلز کي بند ڪرڻ لاءِ.
"هڪ مارڻ وارو سوئچ اڄ جي ماڊلز لاءِ گهٽ ۾ گهٽ آهي ،" ڪنر ليهي چيو ، يو ايس ايگزيڪيوٽو ڊائريڪٽر غير منافع بخش ڪنٽرول اي. "جيڪڏهن گذريل ڪجهه هفتن ۾ ڪجهه ظاهر ڪيو ويو آهي، اهو اهو آهي ته اهي ڪمپنيون انهن سسٽم کي نه سمجهي رهيا آهن جيڪي اهي ٺاهي رهيا آهن، ۽ ماڊل هڪ نقطي ڏانهن وڌي رهيا آهن جتي انهن کي قابو ڪرڻ ڏکيو آهي جڏهن اهي بدمعاش ٿي ويندا آهن. موجوده خطرناڪ سسٽم کي بند ڪرڻ جي ڪنهن به طريقي جي بغير، ۽ سڀني ترغيب سان گڏ وڌيڪ غير ڪنٽرول سسٽم تعمير ڪرڻ جاري رکڻ لاء، اسان هڪ انتهائي خطرناڪ طرف وڃي رهيا آهيون.
بغير ڪنهن ڪنٽرول پلان جي جاءِ تي ، ايڊلر چيو ، ڪمپنيون شايد اڏام تي ايمرجنسي تي پنهنجا ردعمل ڳولي رهيون آهن ۽ ”ان کي وڌيڪ تيز مخالف جي جواب ۾ ونگنگ ڪري رهيون آهن.
Guidelight جي تشخيص ماپ ڪئي وئي ته ڇا هر ڪمپني ڇھ ترجيحي طريقا لاڳو ڪري ٿي پنھنجي ڪنٽرول معيار مان، صرف عوامي طور تي دستياب معلومات جي بنياد تي - تنھنڪري گھٽ اسڪور عوامي ظاهر جي گھٽتائي کي ظاهر ڪري ٿو، لازمي طور تي اندروني حفاظتن جي گھٽتائي.
ڪمپنيون جيڪي انهن جي ڪنٽينمينٽ پلان کي شايع ڪرڻ لاءِ گهٽ ۾ گهٽ اسڪور سان گڏ هيون ميٽا ۽ اينٿراپڪ - بعد ۾ شايد وڌيڪ حيرت انگيز ان کان وڌيڪ حيرت انگيز انتھروپڪ جي حفاظت تي بيان ڪيل بيان. گائيڊ لائٽ جو چوڻ آهي ته اينٿروپڪ جي آگسٽ جي خطري جي رپورٽ ۾ ذڪر نه ڪيو ويو آهي ته "ان جي هڪ ماڊل جي تعیناتي کي محدود ڪرڻ ان جي عمل جي ممڪن نتيجن مان هڪ جي طور تي تحقيق ڪرڻ ۽ غلط ترتيب ۽ ڪنٽرول واقعن جي جواب ڏيڻ لاء." اهڙي طرح، گائيڊ لائٽ ڪو به ثبوت ڳولڻ جي قابل نه هئي ته ميٽا وٽ ڪنٽرول جوابي منصوبو آهي يا ڪنهن کي اپنائڻ جو ڪو منصوبو آهي.
هڪ اينٿروپڪ جي ترجمان چيو ته جيڪڏهن ڪمپني هڪ ماڊل ڳولي ٿو جيڪو نگراني کان بچڻ جي ڪوشش ڪري ٿو يا ٻي صورت ۾ انساني ڪنٽرول کي ختم ڪري ٿو، اهو هڪ خطري جو جائزو وٺندو ته اهو طئي ڪرڻ تي ڌيان ڏئي ٿو ته ڇا ڪنٽرول مناسب جواب آهي.
OpenAI سڀ کان وڌيڪ اسڪور ڪيو (5 مان 3) ڇاڪاڻ ته ان ڪيترن ئي موقعن تي ڪم لوڊ کي روڪيو يا ختم ڪيو آهي، بشمول اندروني ماڊل ڊيپلائيشن ۽ ٽريننگ، حفاظتي واقعن کي دريافت ڪرڻ کان پوءِ. اهو پڻ بيان ڪيو آهي ته ڪم جي لوڊشيڊنگ کي ٻيهر شروع ڪرڻ کان پهريان ڪهڙا قدم کڻندا.
"جڏهن ته، اسان کي ڪو ثبوت نه مليو آهي ته [OpenAI] هڪ باضابطه منصوبو اختيار ڪيو آهي جڏهن ۽ ڪيئن مستقبل ۾ غلطي جي واقعن جو جواب ڏيڻ لاء،" رپورٽ پڙهي ٿي.
ايڊلر نوٽ ڪيو ته اوپن اي آءِ جو اعليٰ اسڪور نسبتا تازو ترقي آهي هگنگ فيس واقعي جي هيل تي (جنهن ۾ هڪ OpenAI ماڊل پنهنجي ٽيسٽنگ سينڊ باڪس مان ڀڄي ويو ۽ هيگنگ فيس جي سسٽم ۾ هيڪ ڪيو ويو جڏهن ته سائبر سيڪيورٽي جي تشخيص تي ٺڳي ڪرڻ جي ڪوشش ڪئي وئي). ان کان پوء، ڪمپني وڌيڪ تفصيل سان حصيداري ڪئي ته ڪيئن هن پنهنجي ڪجهه بدعنواني ماڊل کي بند ڪيو آهي.
اهو قسط صرف AI سسٽم جو هڪ مثال آهي جيڪو ڪمپني جي مقصدن جي خلاف ڪم ڪري ٿو جيڪو انهن کي ٺاهيو. هڪ الڳ ڪيس تي غور ڪريو جنهن ۾ اينٿروپڪ جا ماڊل شامل آهن، جنهن ۾ بنيادي طور تي هڪ اوپن سورس ڪوڊ بيس جي سنڀاليندڙن کي ڪمزورين سان ڪوڊ قبول ڪرڻ ۾ ڳالهائڻ جي ڪوشش ڪئي وئي آهي.
ايڊلر چيو ته اهڙي صورتحال آساني سان ٿي سگهي ٿي AI ڪمپني جي اندروني سسٽم اندر. انهي کي روڪڻ لاءِ، هو تجويز ڪري ٿو ته ڪمپنيون پنهنجي AI سسٽم جي سوچ جي زنجير کي اسڪين ڪن - ماڊل جو قدم قدم استدلال - فريب جي نشانين کي ڏسڻ لاءِ ، ڊگهي هلڻ واري سازش ، يا ڪوڊ ۾ ڪمزورين کي متعارف ڪرائڻ جو منصوبو جنهن جو اهي فائدو وٺي سگهن بعد ۾. گائيڊ لائٽ جيڪي طريقا پيش ڪري رهيا آهن انهن تي عمل ڪرڻ بلڪل سادو آهي، ايڊلر چوي ٿو، ۽ ڪيترن ئي ڪيسن ۾، انهن جا نسخا اڳ ۾ ئي موجود آهن. ”اها ڪمپني جي اندر فيصلو ڪرڻ بابت آهي ته هن خطري بابت ڪافي خيال رکڻ لاءِ دائري کي ٿورو وسيع ڪرڻ لاءِ ،“ ايڊلر چيو.
هڪ اهم چئلينج اهو آهي ته محقق پنهنجي AI سسٽم اندر لچڪدار طريقي سان هلائڻ جي قابل ٿيڻ چاهيندا آهن، ۽ حقيقي وقت متعارف ڪرائڻ، بچاء واري نگراني رگڙ پيدا ڪري سگهي ٿي. "محقق بنيادي طور تي پنهنجو ڪم ڪن ٿا، ۽ جيڪڏهن ڪو مسئلو آهي، ڪنهن ٻئي کي صاف ڪرڻ بعد ان کي صاف ڪرڻو پوندو، ۽ محققن کي ان دوران انهن جي ڪم جي فلو کي تبديل ڪرڻ جي ضرورت ناهي،" هن چيو.
”حقيقت کان پوءِ صفائي جي نگراني“ سان مسئلو اهو آهي ته اهو محققن کي مسئلن کي حل ڪرڻ جي چوڌاري ڇڪيندو آهي. ۽ ڪجهه قسمن جي واقعن لاء، اهو تمام دير سان ٿي سگهي ٿو. مثال طور، هڪ AI هڪ ڪمپني جي ڪنٽرول سسٽم کي بند ڪري سگهي ٿو، جنهن جو مطلب آهي ته محقق هاڻي بدانتظامي کي پڪڙڻ تي وڌيڪ ڳڻپ نٿا ڪري سگهن.
AI صنعت ۾ ڪيترائي شڪايت ڪندا ته بدعنواني کي سنڀالڻ لاءِ سيٽ منصوبا ٺاهڻ بنيادي طور تي مشڪل آهي ڇاڪاڻ ته اي آءِ تمام تيز هلندي آهي؛ اڄ جا منصوبا سڀاڻي بيڪار هوندا.
ايڊلر پراڻي چوڻي کي ظاهر ڪري ٿو ته منصوبا بيڪار آهن، پر منصوبابندي لازمي آهي.
"اسان بهتر ٿينداسين جيڪڏهن ڪمپنيون ان بابت وقت کان اڳ سوچين ها، ۽ مون کي اميد آهي ته اهي آهن، جيتوڻيڪ انهن هن بابت عوامي طور تي نه ڳالهايو آهي."
xAI تبصرو ڪرڻ جي وقت ۾ جواب نه ڏنو.
