انتروپیک په لوی مصنوعي استخباراتو (AI) لابراتوارونو غږ کوي چې په پرمختګ کې همغږي او د تایید وړ وقفې په پام کې ونیسي ، خبرداری ورکوي چې په ټیکنالوژۍ کې ګړندي پرمختګ کولی شي ډیر ژر د AI سیسټمونو ته اجازه ورکړي چې د ټولنې خطرونو اداره کولو په پرتله ګړندي ځان ته وده ورکړي.
د کلاډ جوړونکي وویل چې د AI وړتیا په خپله د کارونو بشپړولو لپاره نږدې په هرو څلورو میاشتو کې دوه چنده کیږي او دا د "تکراري ځان اصلاح" په لور روان و ، هغه نقطه چې ټیکنالوژي د انساني مداخلې پرته وده کولی شي.
"که سیسټمونه د دې وړتیا ولري چې په بشپړ ډول خپل جانشینان رامینځته کړي ، هغه لارې چې موږ یې خوندي کوو ، دوی یې څارو او د دوی چلند ته شکل ورکوو ټول خورا مهم کیږي ،" سټارټ اپ د پنجشنبې په ورځ په یوه اوږده بلاګ پوسټ کې وویل ، او زیاته یې کړه چې وقفه به ټولنې ته اجازه ورکړي چې "د دې لوی اغیزو سره معامله وکړي".
"موږ لا تر اوسه هلته نه یو، او د ځان بیا تکراري پرمختګ ناگزیر نه دی. مګر دا د ډیرو ادارو لپاره چمتو کیدی شي ډیر ژر راشي،" د انتروپیک شریک بنسټ ایښودونکی جیک کلارک او د انټروپیک انسټیټیوټ مشرې مارینا فاوارو په پوسټ کې لیکلي.
دا ویره چې د AI پرمختللي سیسټمونه ممکن د انسان کنټرول څخه بهر شي او ټولنیز زیان رامینځته کړي ځکه چې ټیکنالوژي په زیاتیدونکي توګه وړتیا لري.
د انتروپیک خپل Mythos ماډل د دې کال په پیل کې د بانکدارۍ او سافټویر په ګډون د صنعتونو له لارې شاک څپې واستولې، د دې وړتیا سره چې په موجوده کوډ کې زیانمننې ومومي.
مګر مقررات ورو و ، په ځانګړي توګه په متحده ایالاتو کې چیرې چې د AI ډیری مخکښ لابراتوارونه میشته دي.
د دې اونۍ په پیل کې د ټرمپ ادارې اجرایوي امر پخپله لابراتوارونو باندې مسؤلیت واچاوه او له دوی یې وغوښتل چې د عامه خوشې کیدو دمخه د دولتي سایبر امنیت ازموینې لپاره په داوطلبانه ډول خپل خورا وړ ماډلونه وسپاري.
د AI څیړونکو دمخه هم د وقفې غوښتنه کړې مګر لږ بریا یې درلوده.
ایلون مسک، چې د AI لابراتوار xAI مالک دی، د 2023 د غیر انتفاعي فیوچر آف لائف انسټیټیوټ لخوا د هڅو ملاتړ کونکو څخه و چې د شپږ میاشتو لپاره د AI پراختیا ودروي ترڅو د خوندیتوب محافظینو ته وخت ورکړي.
انتروپیک له اوږدې مودې راهیسې ځان د خوندیتوب متمرکز AI لابراتوار په توګه موقعیت لري.
د دې کال په پیل کې، دې د متحده ایالاتو اردو ته اجازه ورنکړه چې خپل ماډلونه د کورني څارنې او بشپړ خپلواکو وسلو لپاره وکاروي، د حکومت له غبرګون سره مخ شو چې دا یې د ملي امنیت په تور لیست کې واچاوه، ټاکل شوې چې وروسته په 2026 کې پلي شي.
رویټرز د جمعې په ورځ راپور ورکړ چې شخړه د متحده ایالاتو د حکومت په برخو کې د نرمیدو نښې ښیې.
بیا هم، انتروپیک په زیاتیدونکي توګه پیاوړي ماډلونو خوشې کولو ته دوام ورکړی او د فبروري په میاشت کې یې د خوندیتوب کلیدي ژمنې بیرته واخیستې، او ویې ویل چې دا به نور احتمالي خطرناک AI بیرته نه ساتي که چیرې سیالان د دې وړتیاوو سره سمون ته نږدې وي.
دا پدې وروستیو کې د 965 ملیارد ډالرو په ارزښت لوی تمویل پړاو کې و او د دوشنبې په ورځ د متحده ایالاتو لومړني عامه وړاندیز لپاره په محرم ډول ثبت شو ، چې دا د ارزښت او مهم تمویل خوندي کولو سیالۍ کې د سیال OpenAI څخه مخکې دی.
د انټروپک د پنجشنبې پوسټ خبرداری ورکړ چې یو اړخیز یا ضعیف همغږي سست کولی شي په شا شي که چیرې لږ محتاط لوبغاړي پرمختګ ته دوام ورکړي ، په بالقوه توګه عمومي خوندیتوب کم کړي.
دې وویل چې یو معنی لرونکی وقفه به د ټیکنالوژیک سرحد کې د "ډیری ښه سرچینو لرونکي لابراتوارونو" ترمینځ موافقې ته اړتیا ولري ، په بیله بیا د دې مقرراتو په اړه چې کوم شرایط به دا ډول وقفه رامینځته کړي یا پورته کړي او څوک به یې نظارت وکړي.
"په مقابل کې د یو لابراتوار لخوا یو اړخیز وقفه سمدلاسه د لاسته راوړلو وړ ده ، مګر ډیر لږ سرته رسوي: دا به بدل کړي چې مخکښ څوک دی ، مګر دا به پراخه عمدي پروسه رامینځته نه کړي چې اوس مهال ورکه ده ،" پیل وویل.
د دې څیړنیزه څانګه، انتروپیک انسټیټیوټ، پالن لري چې د سست مالتړ لپاره اړین سیسټمونه مطالعه کړي او په راتلونکو میاشتو کې به پالیسي جوړونکي، څیړونکي، د مدني ټولنې ګروپونه او سیالي AI شرکتونه راټول کړي ترڅو د خطرونو اداره کولو په اړه بحث وکړي لکه د ځان بیا رغونه.
OpenAI، xAI، Alphabet، Meta Platforms او د فرانسې Mistral سمدلاسه د نظر غوښتنې غوښتنو ته ځواب ونه وایه چې ایا دوی به په زنګ کې برخه واخلي.
