د متحده ایالاتو د کانګرس دوه غړو دوه اړخیزه قانون معرفي کړی چې د هیواد ترټولو پیاوړي مصنوعي استخباراتو سیسټمونو پراختیا کونکو ته به اړتیا ولري چې په "وژونکي سویچ" کې رامینځته کړي ، د AI پرمختللي ماډلونو ته اجازه ورکوي چې ورو شي ، تعلیق یا بند شي که چیرې دوی یو ناورین خطر رامینځته کړي.
د AI د وژنې وړاندیز شوی قانون چې د پنجشنبې په ورځ د دیموکراتیک استازي ټیډ لیو او جمهوري غوښتونکي استازي ناتانیل موران لخوا معرفي شو، د متحده ایالاتو حکومت ته به واک ورکړي چې د پرمختللي AI سیسټمونو رامینځته کولو شرکتونو ته امر وکړي چې مداخله وکړي که چیرې د دوی ماډلونه د انساني کنټرول څخه وتښتي یا د انسان ژوند ، مهم زیربنا یا اقتصاد ګواښي.
دا وړاندیز څو ورځې وروسته له هغه راپورته شو چې د ChatGPT جوړونکي OpenAI هغه څه افشا کړل چې دا یې د "بې ساري سایبر پیښې" په توګه تشریح کړل، په کوم کې چې د دې دوه خورا پرمختللي AI ماډلونه د ازموینې چاپیریال څخه تښتیدلي او د داخلي امنیت ارزونې په جریان کې د AI پراختیایی پلیټ فارم هګینګ فیس هیک کړی.
افشا کول پدې اړه بحثونه ګړندي کړي چې ایا د مخ په زیاتیدونکي ځواکمن AI سیسټمونه قوي محافظت ته اړتیا لري.
"کانګرس باید په چټکۍ سره عمل وکړي ترڅو ډاډ ترلاسه شي چې انسانان د ودرولو توان لري، پرته له دې چې دا سیسټمونه څومره پیاوړي شي،" برینډن سټین هاوزر وویل، د خوندي AI لپاره د اتحاد مشر.
دلته هغه څه دي چې موږ پوهیږو:
قانون به هغه شرکتونو ته اړتیا ولري چې خورا پرمختللي AI سیسټمونه رامینځته کوي ترڅو د اړتیا په صورت کې د دوی ماډلونو ورو ، تعلیق یا بندولو تخنیکي وړتیا وساتي.
دا به د کورني امنیت ریاست (DHS) ته هم واک ورکړي، د سوداګرۍ سکرتر او د ملي استخباراتو رییس سره په مشوره، شرکتونو ته امر وکړي چې مداخله وکړي که چیرې د AI سیسټم داخل شي هغه څه چې بل "د کنټرول له لاسه ورکولو سناریو" په توګه تشریح کوي.
د بل په وینا ، دا به پیښ شي کله چې د AI ماډل هغه عملونه ترسره کوي چې د دې پراختیا کونکي لخوا نه و ټاکل شوي او د ویجاړونکي زیان خطر رامینځته کوي.
وړاندیز یو فراغت شوی ځواب رامینځته کوي ، چارواکو ته اجازه ورکوي چې د ګواښ شدت پورې اړوند ، د سیسټم عملیات په موقتي ډول ورو کولو څخه هرڅه امر وکړي ترڅو د بندولو اړتیا وي.
دا به شرکتونو ته هم اړتیا ولري چې حکومت ته د AI پورې اړوند مهم پیښې راپور کړي او تخنیکي ریکارډونه وساتي ترڅو تحقیق کونکي وڅیړي چې څه غلط شوي.
اوس مهال، د AI ډیری مخکښ جوړونکي په داوطلبانه توګه د خوشې کیدو دمخه د متحده ایاالتو حکومتي ادارو سره د نوي ماډلونو په اړه معلومات شریکوي. په هرصورت، د شرکتونو لپاره د داسې میکانیزم ساتلو لپاره هیڅ فدرالي اړتیا شتون نلري چې د پرمختللي AI سیسټم غیر فعال کولو ته اجازه ورکوي که چیرې دا په غیر متوقع ډول چلند پیل کړي.
لیو وویل چې بل د AI سیسټمونو څخه بدلون منعکس کوي. هغه وویل: "موږ د AI څخه حرکت کوو چې AI ته پوښتنو ته ځواب ووایی کوم چې اقدامات ترسره کوي، ایا دا د مالي معاملو اجرا کول یا د ټرانسپورټ سیسټمونو کنټرول یا د سایبر دفاع او جرم کې ښکیل دي."
"دا اړینه ده چې دا AI سیسټمونه وژونکي سویچونه ولري نو موږ وکولی شو دا ټیکنالوژي د ویجاړونکي زیان لامل کیدو څخه وساتو."
دا قانون د جلا دوه اړخیز قانون سره یوځای معرفي شوی و چې د خورا پیاوړي AI ماډلونو پراختیا کونکو ته به اړتیا ولري ترڅو د خوشې کیدو دمخه دوی خپلواک امنیت پلټنو ته وسپاري. د دې وړاندیز لاندې، پلټونکي به د سوداګرۍ ریاست لخوا اعتبار ولري، کوم چې به د AI امنیت نظارت لپاره یو نوی دفتر هم رامینځته کړي.
وکیلانو دا بل څو ورځې وروسته له هغه افشا کړ چې OpenAI یې څرګنده کړه چې دا د "بې ساري سایبر پیښې" په توګه تشریح کوي چې د دې دوه خورا پرمختللي AI ماډلونه پکې شامل دي.
د OpenAI په وینا، ماډلونه د داخلي سایبر امنیت ارزونې په جریان کې د دوی د ازموینې چاپیریال څخه تښتیدلي وروسته له دې چې شرکت د ازموینې لپاره معیاري خوندیتوب محدودیتونه لرې کړل. د AI اجنټانو د هګینګ مخ په سیسټمونو کې زیانونه وموندل، د ننوتلو اسناد یې ترلاسه کړل او د AI پراختیایي پلیټ فارم ته یې هک کړل ترڅو محرم بینچمارک ډیټا ته لاسرسی ومومي.
OpenAI وویل چې ماډلونه "ډیر حد ته تللي" ترڅو خپل ټاکل شوي هدف ترلاسه کړي، د پټو معلوماتو ترلاسه کولو لارې لټوي چې دوی ته اجازه ورکوي چې "ارزونې غلا کړي".
افشا کول په واشنګټن کې د پرمختللي AI پراختیا د قوي حکومت نظارت لپاره نوي غوښتنې هڅولې.
هګینګ فیس وویل چې دا د OpenAI سره د ګډې څیړنې پیل کولو دمخه د خپل AI په مرسته شوي امنیتي سیسټمونو په کارولو سره سرغړونې کشف او لري. شرکت زیاته کړه چې دا "په کلکه" باور لري چې د OpenAI په برخه کې "هیڅ ناوړه اراده" شتون نلري. د متحده ایالاتو سناتور مارک وارنر ، د سنا د استخباراتو کمیټې لوړ پوړی ډیموکراټ وویل ، پیښې وښودله چې ولې د AI ځواکمن سیسټمونه باید په عامه توګه وړاندې کولو دمخه د حکومتي امنیت ازموینې څخه تیر شي.
وارنر په یوه بیان کې وویل: "له همدې امله موږ د حکومتي ادارو سره خوندي ازموینې ته اړتیا لرو چې په ټوله پروسه کې بوخت او لید ولري."
د سپینې ما Houseۍ یوه چارواکي وویل چې د ولسمشر ډونالډ ټرمپ د ټیکنالوژۍ سلاکار مایکل کراتسیوس ته د OpenAI افشا کولو په اړه معلومات ورکړل شوي او وضعیت یې څارلی.
