د میاشتو لپاره، AI جنات ځانګړي ارزول شوي پروګرامونه او سخت ساتونکي جوړ کړي ترڅو د ناوړه هیکرانو لخوا د دوی ماډلونو کارول محدود کړي. مګر دا محدودیتونه اوس د مشروع شبکې مدافعینو او همدارنګه د برید کونکي سایبر امنیت څیړونکو کار مخه نیسي.
د جون په میاشت کې، د متحده ایالاتو حکومت د انتروپیک خورا مشهور AI ماډلونو Mythos and Fable باندې د صادراتو کنټرول محدودیتونه ولګول. دا اقدام لږترلږه د یوه راپور لخوا هڅول شوی و چې ادعا یې کړې وه چې دا ممکنه وه چې د ماډلونو ساتونکو څخه تیر شي چې د کاروونکو مخه ونیسي ترڅو د ناوړه سایبري بریدونو رامینځته کولو او اجرا کولو لپاره وکاروي.
دې ته په پام سره چې ایا پیښه واقعیا د جیل ماتیدو له ویرې هڅول شوې وه ، حقیقت دا دی چې انټروپیک په مکرر ډول Mythos د یو ډول قیامت سایبر ماشین په توګه بازار موندنه کړې چې یوازې په احتیاط سره ارزول شوي کاروونکو ته ورکول کیدی شي ، او حتی په ځای کې د سختو ساتونکو سره. (په Fable 5 او Mythos 5 باندې د صادراتو کنټرولونه وروسته له هغه لرې شوي دي. Fable 5 د جولای په 1 کې عمومي لاسرسي ته راستون شو؛ Mythos 5 یوازې د متحده ایاالتو سازمانونو ته د حکومت د بیاکتنې پروسې د یوې برخې په توګه بیا معرفي شوی.)
دا ډول د دروازې ساتنه د Mythos لپاره ځانګړې نه ده. دواړه انتروپیک، د دې نورو ماډلونو سره، او OpenAI د سایبر امنیت څیړونکو پروګرامونه وړاندیز کوي چې دوی کولی شي د ارزونې لپاره غوښتنه وکړي او - که تصویب شي - د سایبر امنیت محدودیتونو سره موډلونو ته لاسرسی: د سایبر او انټروپیک سایبر تصدیق پروګرام لپاره د OpenAI باوري لاسرسی.
دا ساتونکي په پراخه کچه نیوکه شوي، په ځانګړې توګه د څیړونکو لخوا چې دنده یې په سیسټمونو کې د نامعلومو زیانونو موندل دي او د مجرمینو د ترسره کولو دمخه د دوی د استخراج لپاره لارې چارې جوړوي.
د سایبر امنیت پوډکاسټ کې د وروستي څرګندیدو په جریان کې ، مارک ډوډ ، یو پیژندل شوی امنیت څیړونکی ، وویل چې "دا زما لپاره واقعیا راحته نه ده چې دا تصادفي لوی شرکتونه په دې اړه خپل سري پریکړې کوي چې په امنیت کې څه خوندي دي او څه ندي."
ډاؤډ لسیزې د "صفر ورځو" په موندلو او پلور کې تیرې کړې - پخوا د سافټویر نامعلوم نیمګړتیاوې او هغه کارونې چې له دوی څخه ګټه پورته کوي - لویدیځ حکومتونو ته ، د دې پرځای چې د سافټویر جوړونکو ته یې راپور کړي ترڅو دوی پیچلي شي. حکومتونه د زیان منونکو پیښو لپاره په سمه توګه پیسې ورکوي ځکه چې دوی خلاص پاتې کیږي، کوم چې د استخباراتي عملیاتو لپاره ګټور دی.
ډاوډ ومنله چې د هغه کار ممکن هغه متعصب کړي، مګر هغه یوازې نه دی. ډیری خلک چې په برید کونکي سایبر امنیت کې کار کوي - دوی په فعاله توګه د ضعیف سیسټمونو پلټنه کوي - ټیک کرنچ ته تشریح شوي چې دوی څنګه د AI وسیلې کاروي او د دوی ساتونکو سره معامله کوي.
کریس انلي ، د امنیت مشورتي لوی NCC ګروپ لوی ساینس پوه ، وویل چې د AI ماډل څخه غوښتنه کول د بګ کارولو هڅه کولو لپاره یو مهم ګام دی چې دا تایید کړي چې دا د فکس کولو ارزښت ریښتیني زیان منونکی دی. مګر که چیرې یو ساتونکی ماډل دې ته وهڅوي چې پوښتنې ته په سمدستي ډول ځواب ویلو څخه ډډه وکړي ، ساتونکي محافظینو ته زیان رسوي.
"دا هغه ځای دی چې د دفاعي او ساتونکو په مقابل کې ټول برید په کې راځي، ځکه چې 'دا کوډ درست کړئ' د سمدستي په توګه دواړه د دفاع لپاره یو اړین میکانیزم دی بلکې د کوډ بیس کې د جدي زیانونو موندلو لپاره د سړک نقشه هم ده،" انلي وویل. "نو په ورته وخت کې ، ورته وسیله دواړه برید کونکي وسیله او یوه دفاعي وسیله ده ، او دواړه واقعیا نشي غوره کیدی."
دا د "هتو په څیر دی،" هغه دوام ورکړ. "تاسو له هستوي پرته کور نشئ جوړولی. دا یقینا یوه وسیله ده، مګر دا د نه منلو وړ وسله هم ده."
کله چې هغه او د هغه همکاران د داسې سړک خنډ ګرځي، دوی ځینې وختونه د خلاصې سرچینې AI ماډلونو ته ځي چې هیڅ ډول ساتونکي نلري.
پاولو سټاګنو، په CrowdFense کې د ټیکنالوژۍ لوی افسر، یو مشهور شرکت چې دولتي ادارو ته نامعلوم زیانونه رامینځته کوي، ترلاسه کوي او پلوري، د ډاؤډ سره موافقه وکړه، وویل چې د AI شرکتونه "په اصل کې د پیرودونکو سره د ماشومانو په څیر چلند کوي چې د دوی د ارزول شوي برنامو او ساتونکو سره د ماشومانو پالنې ته اړتیا لري".
سټګنو وویل چې هغه او د هغه همکاران د فرنټیر ماډلونه کاروي - مګر یوازې د ریورس انجینرۍ لپاره. هغه وویل، دوی د AI کارولو څخه ډډه کوي ترڅو د زیانونو موندلو یا استخراج په جوړولو کې مرسته وکړي، ځکه چې هغه خواړه چې د بادل پر بنسټ ماډل کې کار کوي د حساس زیان مننې ډیټا لیک یا په راتلونکي روزنې کې جذب شوي خطر لري. د دې مرحلې لپاره، هغه وویل، دوی د خلاصې سرچینې ماډلونه کاروي چې په محلي توګه پرمخ ځي، ځکه چې دوی د ماډل څخه بهر د معلوماتو شریکولو باندې تکیه نه کوي. ګیوسیپ کالي ، یو امنیتي څیړونکی چې صفر ورځې لټوي او استحصال رامینځته کوي ، وویل چې ساتونکي د هغه کار خنډ نه کوي. دا ځکه چې هغه د تیري کونکي کار لپاره AI نه کاروي؛ پرځای یې، هغه دا د ابتدايي ریورس انجینرۍ لپاره کاروي، د هغه کوډ په پوهیدو لپاره چې هغه یې تحلیلوي، او د ملاتړ وسیلو جوړولو لپاره. د دې لپاره، هغه وویل، د AI وسیلې کولی شي پروسه ګړندۍ کړي او هغه ته اجازه ورکړي چې د زیانونو په موندلو تمرکز وکړي.
کالي وویل: "زه اوس هم غواړم د حقیقي بګ کشف او وسلې پخپله ولرم او دا به بدلون ونلري که سبا ټول ساتونکي پورته شي." کالي وویل. "زه د خپلو کیګونو سره حسد یم، او زه دا لوبه ډیره خوښوم ترڅو موډلونه زما لپاره دا لوبه وکړي."
د سمارټ فون اجزاو جوړونکي کې یو څیړونکي ، چې د نوم نه ښودلو په شرط یې خبرې وکړې ځکه چې هغه له مطبوعاتو سره د خبرو کولو اجازه نلري ، وویل چې د هغه کارمند د انټروپیک CVP برنامې برخه نه ده او د پایلې په توګه ، د دې وسیلې د زیانونو موندلو لپاره خورا ګټور دي ځکه چې ساتونکي خورا سخت دي.
هغه وویل: "که چیرې دا باد راشي موږ د امنیت اړوند هر څه کوو، دا یوازې ودریږي او د کارولو وړ ندي."
کریس تامپسن - د سایبر امنیت شرکت رییس اجراییوي رییس RemoteThreat او د برید کونکي AI Con بنسټ ایښودونکی ، یو برید کونکي امنیت او AI متمرکز پیښه - وویل چې د هغه په تجربه کې د فرنټیر AI ماډلونو کارولو سره ، ساتونکي کولی شي متناسب وي او هره ورځ په مختلف ډول کار وکړي. دا حتی ریښتیا ده د انتروپیک او OpenAI د ارزول شوي برنامو نرم حدونو کې.
"زه فکر کوم چې عملي اغیزه دا ده چې تاسو د اصلي امنیت برنامې کار کولو پرځای د ماډل سره په خبرو اترو کې ډیر وخت مصرف کوئ ،" تامپسن وویل. "د دې پرځای چې د زیان مننې تحلیل او د استثمار له لارې استدلال وکړئ ، تاسو هڅه کوئ چې ومومئ چې ولې متضاد پایلې ترلاسه کوئ یا موډلونه ولې محصول ډیر پاکوي."
د پایلې په توګه ، څیړونکي تکیه کوي یا د چینایي خلاصې سرچینې ماډلونو لکه GLM - په آزاده توګه د ډاونلوډ وړ ماډلونو باندې تکیه کوي چې په محلي ډول پرته له ارزونې یا کارولو محدودیتونو سره پرمخ وړل کیدی شي - تامپسن وویل.
هغه وویل: "تاسو دا مسؤل څیړونکي لرئ چې د متحده ایالاتو لخوا اداره شوي سیسټمونو څخه بهرني ملکیت سیسټمونو ته اړول کیږي." "زما په اند دا د ښه څخه ډیر زیانمن دی چې دا ساتونکي ځای په ځای کړي."
د دې پرځای چې محدودیتونه نور هم سخت کړي ، تامپسن د AI فرنټیر لابراتوارونو څخه وغوښتل چې خپل برنامې خلاص کړي ، مسؤل لاسرسی چمتو کړي ، او هغه کسان هم ونیسي چې د دوی له وسیلو ناوړه ګټه پورته کوي. که نه نو، هغه استدلال وکړ، مدافعین به د AI ریس له لاسه ورکړي.
تامپسن وویل: "دا لوی طوفان راځي. د بریدونو دا لوی څپې شتون لري چې په چټکۍ او پیمانه به پیښ شي لکه مخکې هیڅکله نه." "مګر ورته امنیتي مشورتي شرکتونه او قانوني څیړونکي چې هڅه کوي توپیر رامینځته کړي همدا اوس په ټپه دریدلي دي."
