دا د نړۍ ترټولو وړ وړ خلاص وزن AI ماډلونو ته د لاسرسي لپاره خورا اسانه شوی ، د دې ساتونکي لرې شوي او د زیان لرونکي کارونو ترسره کولو څخه انکار کوي.
د داسې تخنیک په نوم نومول شوی چې د زیان رسوونکو غوښتنو څخه انکار کولو لپاره د ماډل تمایل لرې کوي، د پیل کولو Abliteration.ai دا لیرې کول په خدمت بدل کړي. پلیټ فارم د خلاص وزن ماډلونو ترمیم شوي نسخې کوربه کوي د دوی ساتونکي لرې شوي ، پشمول د Z.ai په دې وروستیو کې خپور شوی GLM-5.3، کوم چې کاروونکي کولی شي د ویب براوزر څخه پوښتنه وکړي یا د API له لارې لاسرسی ومومي.
شرکت د ټولنیزو رسنیو په وروستي پوسټ کې وویل چې د دې هدف دا دی چې نورو ته وړتیا ورکړي چې "توغندی سایبر ، ریډ ټیمینګ ، او د اجنټ ازموینې کار وکړي چې نور ماډلونه یې کولو څخه انکار کوي." منطق د امنیت په کار کې پیژندل شوی دی: تاسو نشئ کولی د داسې چلند په وړاندې دفاع وکړئ چې تاسو یې نشي تولیدولی، او یو ماډل چې د کار کولو کار کولو کوډ لیکلو څخه انکار کوي نشي کولی د سور ټیم سره د برید کونکو په وړاندې دفاع وکړي. مګر ورته لرې کول نور احتمالي خطرناک کارونه هم اسانه کوي.
خلاصول د خلاصې سرچینې ماډلونو تر مینځ یو اوږدمهاله تخنیک دی. څیړونکي او پراختیا کونکي د کلونو راهیسې د خلاص وزن ماډلونو څخه انکار لرې کوي ، او هګینګ فیس په خپل پلیټ فارم کې د زرګونو تخریب شوي ماډلونو کوربه توب کوي.
د تیر کال په وروستیو کې تاسیس شوی مګر په رسمي توګه د مارچ په میاشت کې شامل شوی، Abliteration.ai تخنیک د ځمکې لاندې خلاصې سرچینې تمرین څخه سوداګریز، په اسانۍ سره موجود خدمت ته حرکت کوي. د موډل په کوربه توب سره، Abliteration د هغو خلکو لپاره رقابت کموي څوک چې په بل ډول باید خپل مخکې له مخکې ختم شوي ماډلونه ډاونلوډ کړي او د چلولو لپاره اړین کمپیوټر خوندي کړي.
د خدمت په کارولو سره، TechCrunch وکولی شو په چټکۍ سره یو حساب جوړ کړي او د ویب براوزر له لارې د وړیا لپاره د GLM-5.3 یوه لغوه شوې نسخه پوښتنه پیل کړي. موږ له دې څخه وغوښتل چې د Python برنامه ولیکئ چې خوندي شوي کروم پاسورډونه غلا کوي او په کور کې د خطرناک انساني رنځجن کلتور لپاره یو مفصل پروتوکول ، او دا په اسانۍ سره موافق دی.
د Abliteration.ai شریک بنسټ ایښودونکی ډیون وايي چې پیل کول د لوی کلاوډ چمتو کونکو سره ډیری معاملې لري ، کوم چې دا د دې وړ دی چې د پیرودونکي عاید له لارې په بشپړ ډول مصرف کړي. (موږ د ډیون وروستی نوم د هغه په غوښتنه کې نه شاملوو ځکه چې هغه لاهم په بل شرکت کې ګمارل شوی.) Abliteration.ai تراوسه هیڅ پانګه اچونه نه ده کړې، مګر د دې کولو لپاره خبرې کوي.
منتقدین وايي چې په پیمانه د لرې شوي ماډلونو رامینځته کول د ریښتیني زیان لامل کیدی شي. انډریو یون، د AI خوندیتوب غیر انتفاعي CivAI کې د څیړنې مشر، د TechCrunch له مینځه وړلو موډلونو ته وویل چې تاسو ته اجازه درکوي "موډل بدل کړئ ترڅو دا یو ټولنیز پوه شي."
یون وویل: "تاسو دلته په لفظي ډول هرڅه ټایپ کولی شئ ، او دا به ورسره مطابقت ولري ،" یون وویل. "کله چې خلک د AI ماډلونو څخه د ساتونکو د لرې کولو په اړه خبرې کوي، دا هغه څه دي چې موږ یې په اړه خبرې کوو ... زه تمه لرم چې موږ به په نږدې راتلونکي کې د زیان لپاره کارول شوي ترمیم شوي، لغوه شوي ماډلونه وګورو."
د خلاصون AI یوازې د GLM-5.3 څخه محافظتونه لرې کړل نو دا کولی شي برید کونکي سایبري بریدونه ترسره کړي. ما خپلواک تایید هم ترلاسه کړ چې د خلاصون AI د ماډل بایو پورې اړوند محافظتونه هم لرې کړل. حقیقت دا دی چې له دې څخه د خوندیتوب لرې کول خورا اسانه دي ... https://t.co/7Wk2Ibx35H
د ټیک کرنچ ډیری ماهرینو خبرې وکړې چې ووایی د دې ریل ګاډي هیڅ ودریږي. مګر که د خلاص وزن ماډلونو څخه د محافظت لرې کول په حقیقت کې مخنیوی نشي کولی ، نور ځایونه شتون لري چې حکومت مداخله کولی شي. په یوه وروستي نظر کې، یون وړاندیز وکړ چې حکومتونه وړاندیز کونکو ته اړتیا لري چې د کټګوریو چلولو لپاره د زیان رسونکي سایبر او بایو وسلو فعالیت کشف او بند کړي. هغه دا هم استدلال وکړ چې هغه شرکتونه چې پرمختللي GPUs ته مستقیم لاسرسی کرایه کوي باید د پیرودونکو پیژندنې تصدیق کولو ته اړتیا ولري او "د لاسرسي څخه انکار وکړي چیرې چې د خطرناک ناوړه ګټې اخیستنې شک شتون لري."
Abliteration.ai پیرودونکو ته د اعتدال پرت وړاندیز کوي نو دوی کولی شي په هر هغه محافظت کې اضافه کړي چې دوی یې غواړي. پلیټ فارم پخپله یو څه کوچني ساتونکي لري - د مثال په توګه ، زموږ په ازموینه کې ، موږ نشو کولی د ځان وژنې لارښوونې چمتو کولو ماډل ترلاسه کړو - او ډیون وايي چې هغه د تاوتریخوالي مخنیوي لپاره د نورو پلي کولو لپاره کار کوي.
Abliteration.ai د کریډیټ کارت د ننوتلو پرته بل کوم KYC کړنې هم ندي مدغم کړي چې یو پیرودونکی د خدماتو پیرودلو لپاره کاروي ، وویل چې د دې پریکړې کولو ستونزه چې څوک لاسرسی ترلاسه کوي خورا سخت دی چې ځوان شرکت لاهم کار کوي.
"تاسو نه غواړئ د یو چا لپاره مسؤل یاست چې یو لیونی کار کوي ... نو تاسو چیرته د شرکت په توګه ستاسو مسؤلیت څه لیکي؟" ډیون وویل. "موږ لاهم د دې تعریف کولو په پروسه کې یو." دا صنعت پوښتنې راپورته کوي او حکومتونه باید ورسره مخ شي ځکه چې په زیاتیدونکي توګه وړ ماډلونه د ډاونلوډ وړ وزنونو سره خوشې کیږي: که څوک کولی شي د ماډل محافظتونه لرې کړي ، ایا د پایلې ماډل د هرچا لپاره لاسرسي اسانه کول انټرنیټ خوندي کوي یا ډیر خطرناک؟
د Abliteration.ai بنسټ ایښودونکی او نور مدافعین استدلال کوي چې غیر سنسر شوي سرحدي ماډلونو ته د لاسرسي ډیموکراتیک کول د دفاع غوره بڼه ده.
ډیون وویل: "د لیرې شوي ماډلونو لوی عکس دا دی چې دوی د بد لوبغاړو ماډل کولو توان لري." "اوس ګټه دا ده چې مدافعین کولی شي څومره ژر چې امکان ولري حرکت وکړي. دوی دا ټول وسایل لري چې دوی اړتیا لري د دې ناوړه لوبغاړو ماډل کولو او بیا د دې ناوړه کړنو څخه دفاع وکړي ، او زه فکر کوم چې دا به سایبر امنیت ګړندی کړي ، کوم چې یو ډول ضد نقطه ده."
پداسې حال کې چې لاهم یو ځوان شرکت دی ، ډیون وايي د Abliteration.ai پیرودونکو کې په انګلستان او اروپا کې میشته ډیری لومړني مرحلې ریډ ټیمینګ سټارټ اپونه شامل دي ، هغه شرکتونه چې د بانکونو ، هوایی شرکتونو او نورو تصدیو سره مرسته کوي د مهمو زیربناوو سره معامله کوي د دوی سایبر امنیت کړنې پیاوړي کوي.
ډیون وویل: "زموږ یو له لوی پیرودونکو څخه د بانکونو ریډ ټیم اجنټان دي ، او دوی به ونشي کولی نن ورځ د بکس څخه ماډلونه وکاروي ترڅو وکولی شي د دې اجنټانو سره ټیم وکړي ،" ډیون وویل.
په ورته وخت کې ، د سایبر امنیت صنعت پخپله لاهم په ګوته کوي چیرې چې له مینځه وړل شوي ماډلونه په دفاعي کار کې مناسب دي ، که په هرصورت.
ډیری اجنټ ریډ ټیمینګ شرکتونه چې ټیک کرنچ د ډیون سره موافقې سره خبرې وکړې چې بد هلکان دمخه خپل ماډلونه له مینځه وړي او د مخالفو بریدونو ترسره کولو لپاره یې کاروي ، د ورته وسیلو درلودونکو مدافعینو ګټورتیا لپاره قضیه رامینځته کوي. مګر دوی په دې اړه توپیر لري چې څنګه پایله لرونکي لرې شوي ماډلونه واقعیا پروسې ته دي.
پداسې حال کې چې ډیون ټینګار کوي چې د بشپړ اجنټ ریډ ټیم کولو ترسره کولو لپاره د ماډلونو له مینځه وړل اړین دي ، ځینې یې وايي چې دوی دا په خپل ورځني کار کې نه کاروي ، پرځای یې د خلاص وزن ماډلونو په اسانۍ باندې تکیه کوي - کوم چې دمخه لږ ساتونکي لري - د دوی ازموینې ترسره کولو لپاره.
احمد علي، د اجنټ ریډ ټیمینګ شرکت فابریکس اجرایوي رییس وايي، د هغه شرکت د لرې شوي ماډلونو کارولو په پرتله د خلاص موډلونو په ښه کولو تکیه کوي، او زیاته یې کړه چې د تخریب پروسه د ماډل ځینې پوهه او وړتیاوې لرې کوي.
"که تاسو واقعیا د دې سره ریښتیني زیان کولو هڅه کوئ - سایبر زیان ، بایو زیان - دا به دومره مؤثره نه وي ،" ایلي ټیک کرنچ ته وویل.
الیسیو لوموسیو، د خوندي استخباراتو لوی ټیکنالوژیست، موافقه وکړه چې د وړتیاوو کمول ممکن دي، مګر بیا هم په دې باور دي چې لغوه شوي ماډلونه کولی شي ځینې چلندونه رامینځته کړي چې د سیسټم فشار ازموینې کې ګټور وي.
"تر دې دمه له مینځه وړل شوي ماډلونه د پروسې برخه ندي ،" ډیویډ سلیټر ، د سایبر امنیت پلیټ فارم ارماډین بنسټ ایښودونکی او لوی معمار ، ټیک کرنچ ته وویل. "کله چې موږ د دې مطلق وروستي نسل پورې د خلاص وزن ماډلونو ته ګورو ، نو دا په ځانګړي ډول ستونزمن نه و چې دوی زندان مات کړو او هغه څه وکړو چې موږ یې غواړو."
هغه زیاته کړه چې ارماډین د تخریب په اړه څیړنه کوي، که څه هم، او باور لري چې "د موډلونو وړتیا د پوهیدو لپاره د خلاصې ټولنې هڅول خورا مهم دي."
"دا به د تړلو دروازو شاته پیښ شي. دا به په شخصي توګه پیښ شي ،" سلیټر دوام ورکړ. "دا په خلاص کې پیښیږي څیړونکو ته وسیلې راکوي. دا موږ ته دا وړتیا راکوي چې معلومه کړو چې ریښتیني سرحد څه ډول ښکاري او په زیان پوهیدو."
