انتروپیک وړاندیز کوي چې د نړۍ لوړ مصنوعي استخباراتو شرکتونه د پرمختللي AI سیسټمونو پراختیا مخه نیولو لپاره همغږي لاره رامینځته کوي ، خبرداری ورکوي چې ټیکنالوژي دومره ژر وده کوي چې خطر شتون لري چې انسانان به کنټرول له لاسه ورکړي.
د کلاډ چیټبوټ شاته شرکت د پنجشنبې په ورځ په یوه بلاګ پوسټ کې وویل چې لکه څنګه چې د AI د کارونو په سرته رسولو کې خورا ګړندی کیږي ، "دا به د نړۍ لپاره ښه وي چې د دې پراختیا ورو یا لنډمهاله بندولو اختیار ولري".
انتروپیک وویل چې د دې داخلي څیړنې انسټیټیوټ پالن لري چې دا مسله د نورو سره په همکارۍ وپلټي او "اقدامات" وکړي ترڅو د اعتبار وړ سست یا وقفې لپاره د سیسټمونو په جوړولو کې مرسته وکړي، پرته له دې چې ډیر مشخص وي.
د انټروپیک سیال OpenAI د چهارشنبه په خپور شوي راپور کې د مختلف چلند لپاره استدلال وکړ او ویې ویل چې "دموکراتیک حکومتونه - نه خصوصي شرکتونه چې یوازې عمل کوي - باید په نهایت کې مقررات ، محافظتونه او د حساب ورکولو میکانیزمونه وټاکي".
"زموږ نظر دا دی چې د AI نوښت سرعت په اړه پریکړې باید هیڅ یو لابراتوار ، شرکت یا ځانګړي ګټو ډلې ته نه پریښودل شي."
د AI ماډلونه ګړندي کیږي ، د ګړندي زیاتوالي سره چې دوی کولی شي د سافټویر دندې لکه پخپله کوډینګ ترسره کړي ، انټروپیک په خپل پوسټ کې وویل. د اوسني رجحاناتو پراساس او د کافي کمپیوټري ځواک په پام کې نیولو سره، د AI سیسټم کولی شي د خپل ځای ناستي ډیزاین او وده وکړي، په کوم کې چې د "تکراري ځان اصلاح" په نوم پیژندل کیږي.
انټروپیک وویل، د ځان جوړونې AI به یو لوی ټیکنالوژیکي پړاو وي چې په ساینس، روغتیا پاملرنې او نورو برخو کې به ګټې راوړي، مګر دا "ممکن د AI سیسټمونو کنټرول له لاسه ورکولو سره د انسانانو خطرونه هم زیات کړي".
د تخنیکي صنعت ځینې شخصیتونو له اوږدې مودې راهیسې د ورته سناریو خبرداری ورکړی.
د انټروپیک پوسټ پدې اونۍ کې د ټورنټو پوهنتون د څیړونکو یوې ډلې لخوا د مختلف خبرداری وروسته راځي چې وښودله چې څنګه د AI وسیلې د نوي ډول AI "کیم" رامینځته کولو لپاره کارول کیدی شي چې د هغې د هیک کولو ستراتیژي تطابق کوي ځکه چې دا له یوې وسیلې څخه وسیلې ته خپریږي او پراخه کمپیوټري شبکه نیسي.
"زه فکر کوم چې دا واقعیا مهمه ده چې خلک پوه شي چې دا یوازې د ژبې ترټولو لوی ، خورا پیاوړي ماډلونه ندي چې امنیتي اندیښنې رامینځته کوي ،" مخکښ څیړونکی نیکولاس پیپرنټ په یوه مرکه کې وویل.
د انتروپیک پوسټ لیکوالان ، د شرکت شریک بنسټ ایښودونکی جیک کلارک او د دې څیړنې انسټیټیوټ رییس مارینا فاوارو وویل چې وقفه به د AI پرمختګونو سره ساتلو لپاره د "ټولنیز جوړښتونو او سمون څیړنې" وړولو لپاره وکارول شي. سمون د صنعت لنډیز دی ترڅو ډاډ ترلاسه کړي چې ټیکنالوژي د انساني ارزښتونو او ارادو سره سمون لري.
وړاندیز شوی همغږي به پرمختللي AI لابراتوارونو ته اجازه ورکړي چې تصدیق کړي چې نړیوال سیالانو واقعیا خپل کار ودروي یا ورو کړی ، "او دا چې یو بد لوبغاړی نشي کولی د همغږي شوي سستۍ څخه کار واخلي ترڅو په پټه مخکې لاړ شي".
شرکت وویل چې یو همغږي نړیوال میکانیزم ته اړتیا ده ځکه چې پرته له دې ، د AI پراختیا کې سست کولی شي "لږترلږه محتاط" لوبغاړي ونیسي او په شرکتونو او حکومتونو فشار راوړي ځکه چې دوی د AI خوندیتوب په اړه سخت انتخابونه کوي.
دا ویره چې د AI پرمختللي سیسټمونه ممکن د انسان کنټرول څخه بهر شي او ټولنیز زیان رامینځته کړي ځکه چې ټیکنالوژي په زیاتیدونکي توګه وړتیا لري. د انتروپیک خپل Mythos ماډل د دې کال په پیل کې د بانکدارۍ او سافټویر په ګډون د صنعتونو له لارې شاک څپې واستولې، د دې وړتیا سره چې په موجوده کوډ کې زیانمننې ومومي.
مګر مقررات ورو و ، په ځانګړي توګه په متحده ایالاتو کې ، چیرې چې د AI ډیری مخکښ لابراتوارونه میشته دي. د دې اونۍ په پیل کې د ټرمپ ادارې اجرایوي امر پخپله لابراتوارونو باندې مسؤلیت واچاوه او له دوی یې وغوښتل چې د عامه خوشې کیدو دمخه د دولتي سایبر امنیت ازموینې لپاره په داوطلبانه ډول خپل خورا وړ ماډلونه وسپاري.
د AI څیړونکو دمخه هم د وقفې غوښتنه کړې ، مګر لږ بریا یې درلوده. ایلون مسک، چې د AI لابراتوار xAI مالک دی، د غیر انتفاعي فیوچر آف لائف انسټیټیوټ لخوا د 2023 فشار ملاتړ کونکو څخه و چې د شپږ میاشتو لپاره د AI پراختیا ودروي ترڅو د خوندیتوب محافظینو ته وخت ورکړي.
انتروپیک له اوږدې مودې راهیسې ځان د خوندیتوب متمرکز AI لابراتوار په توګه موقعیت لري. د دې کال په پیل کې، دې د متحده ایالاتو اردو ته اجازه ورنکړه چې خپل ماډلونه د کورني څارنې او بشپړ خپلواکو وسلو لپاره وکاروي، د حکومت له غبرګون سره مخ شو، چې دا یې د ملي امنیت په تور لیست کې واچاوه، ټاکل شوې چې وروسته په 2026 کې پلي شي.
د انتروپیک پوسټ د شرکت او ChatGPT جوړونکي OpenAI ریس په توګه راځي چې د سټاک بازار کې ونډې پلوري، په یوه IPO کې چې کولی شي د انټروپیک ارزښت نږدې یو ټریلیون ډالرو ته ورسوي. Papernot د خپل راپور خپرولو دمخه د کاناډا سایبر امنیت چارواکو ته خبر ورکړ ، کوم چې دا ښیې چې څیړونکو څنګه د "خلاصې سرچینې" AI وسیلې په کارولو سره په لابراتوار کې کیم رامینځته کړی چې د سافټویر پراختیا کونکو لپاره په ارزانه توګه لاسرسی او ترمیم کول اسانه دي.
هغه وویل: "په تیرو وختونو کې، سایبر برید کونکي به په اهدافو تمرکز کاوه چې خورا لوړ ارزښت لري." "د بانکدارۍ سیسټمونه، روغتونونه، د بریښنا شبکې، د اوبو د درملنې سیسټمونه، ښوونځي."
Papernot موافقه وکړه چې د شرکتونو، دولتي ادارو او اکادمیک څیړونکو ترمنځ باید د مبارزې لپاره لا زیاتې همکارۍ شتون ولري ځکه چې د AI په واسطه د هیک کولو وسیلې د کمپیوټر د زیانونو په لټه کې دي.
هغه وویل: "هغه زوړ لیپ ټاپ چې تاسو یې په خپل بیسمینټ کې لرئ چې تاسو یې په منظمه توګه نه ګورئ د خورا لوړ ارزښت هدف په څیر نه بریښي ، مګر دا د دې لوړ ارزښت اهدافو برید کولو لپاره د لانچ پیډ په توګه کارول کیدی شي ،" هغه وویل. "هر څه چې له انټرنیټ سره وصل دي اوس د خطر سره مخ دي ځکه چې د دې سایبري بریدونو نصبولو لګښت څومره ټیټ شوی دی."
