جيئن ته AI ماڊلز وڌيڪ طاقتور ٿي چڪا آهن، انهن ماڊلز جي غلط استعمال ٿيڻ جي صلاحيت وڌي وئي آهي - جيئن ته حفاظتي گارڊن لاءِ هڪ گوڙ آهي جيڪو اهڙي غلط استعمال کي ٿيڻ کان روڪي سگهي ٿو. AI ڪمپنيون هاڻي لازمي طور تي انهن جي ڪاروباري گراهڪن جي رازداري جي احترام جي وچ ۾ هڪ نازڪ تنگ رسي هلڻ گهرجي جڏهن ته ممڪن مسئلن لاءِ استعمال کي به ڏسندي.
هڪ موقعو محسوس ڪندي پنهنجي حریف اينٿروپڪ کي هڪ اپ ڪرڻ لاء، OpenAI صرف اعلان ڪيو هڪ رازداري-مرکزي حفاظت واري طريقي سان غلط استعمال جي نگراني لاء. ڪمپني هڪ نئين خدمت جو جائزو وٺي رهي آهي گراهڪن کي چونڊڻ لاءِ جنهن کي اهو سڏي ٿو پرائيويٽ سيفٽي پروسيسنگ. هي هڪ خودڪار نظام آهي جيڪو امڪاني غلط استعمال کي ڏسندو آهي جڏهن ته هڪ ئي وقت ۾ ڪنهن به گراهڪ جي ڊيٽا کي برقرار نه رکندو آهي.
اهو سسٽم واضح طور تي اينٿروپڪ جي تازي اعلان ڪيل ڊيٽا برقرار رکڻ واري پاليسي جي خلاف هلندو آهي. پاليسي، جنهن ڪجهه گراهڪن کي بگاڙيو آهي، AI ليب کي 30 ڏينهن جي عرصي تائين صارف جي ڊيٽا (سڀني سيشنز - ۽ ان ۾ گفتگو) رکڻ جي قابل بڻائي ٿي، جڏهن اهو اچي ٿو "ڍڪيل ماڊل". انهن ماڊلن ۾ شامل آهن سڀ Mythos-ڪلاس جا ماڊل ۽ ”مستقبل جا ماڊل ساڳين صلاحيتن سان،“ ڪمپني چوي ٿي.
اها پاليسي، جنهن جو اعلان جولاءِ ۾ ڪيو ويو هو، حفاظت جي مقصدن لاءِ ٺاهي وئي هئي، جيڪا ليبارٽري کي اجازت ڏني وئي ته هو امڪاني ناانصافي کي ڇڪي ۽ تجزيو ڪري. بهرحال، ان کي ڪجهه ادارن جي تمام گهڻي ڳڻتي آهي جيڪي حساس ڊيٽا جي وڏي مقدار کي سنڀاليندا آهن ۽ نٿا چاهين ته ان کي AI ليب طرفان محفوظ ڪيو وڃي (يا معائنو ڪيو وڃي).
OpenAI - اڪثر ٻين AI ڪمپنين وانگر - اڳ ۾ ئي گراهڪ کي برداشت ڪري رهيا آهن رازداري جي هڪ نسبتي سطح جي پاليسي تي عمل ڪندي Zero Data Retention. ZDR استعمال ڪري ٿو ايجنٽ OpenAI API اندر استعمال ڪري ٿو غلط استعمال جي نگراني ڪرڻ لاءِ في سيشن جي بنياد تي. انهي طريقي سان، ڪسٽمر ڊيٽا ڪمپني طرفان برقرار نه آهي پر ڪمپنيون اڃا تائين انساني مداخلت جي ضرورت کان سواء خراب سرگرمي لاء اسڪين ڪرڻ جي قابل آهن. اهو نوٽ ڪرڻ جي قابل آهي ته انٿروپڪ پڻ گهڻو ڪري ZDR جي پيروي ڪري ٿو - سواء جڏهن اهو اچي ٿو "ڍڪيل ماڊل"، جهڙوڪ Fable.
OpenAI چوي ٿو پرائيويٽ سيفٽي پروسيسنگ هڪ نئين ٽيڪنالاجي آهي جيڪا ZDR جي دائري کي وڌائي ٿي. اهو ان کي بيان ڪري ٿو هڪ ڊگهي-افق حفاظت جي نگراني جي طور تي جيڪو ڪيترن ئي ڳالهين جي انپٽس ۽ آئوٽ پُٽ جو جائزو وٺندو آهي - صرف هڪ نه. ٻيهر، مانيٽرنگ هڪ ايجنٽ طرفان ڪيو ويندو آهي، جيڪو، جيڪڏهن شروع ٿئي ٿو، ڳالهين کي پڪڙي ٿو ۽ انهن کي سيشن ۾ تجزيو ڪري ٿو امڪاني غلط استعمال جي نشانين لاءِ.
نئين ٽيڪنالاجي OpenAI کي AI جي بدسلوڪي استعمال کي ڳولڻ ۾ مدد ڪري ٿي جيڪا ڪيترن ئي سيشنن تي ٿيندي آهي، هڪ ترجمان TechCrunch کي ٻڌايو. هڪ خراب اداڪار - فرضي طور تي ڪو ماڻهو سائبر حملي لاءِ مالويئر انجنيئر ڪرڻ جي ڪوشش ڪري رهيو آهي - شايد انهن جي درخواستن کي پکڙيل آهي ڳولڻ کان بچڻ لاءِ. پرائيويٽ سيفٽي پروسيسنگ استعمال ڪندڙ جي گفتگو جي انساني جائزي کان سواءِ غلط استعمال جي نشانين لاءِ انهن ڪيترن ئي ڳالهين جو تجزيو ڪري سگهي ٿي.
ان صورت ۾ جتي سسٽم شروع ڪيو ويو آهي، اهو OpenAI ڏانهن "تنگ بيان ڪيل سگنل" موڪلي سگهي ٿو جيڪو هڪ مخصوص قسم جي سرگرمي کان خبردار ڪري ٿو، ڪمپني چوي ٿو. انهي سگنل جي بنياد تي، OpenAI پوء اهو فيصلو ڪري سگهي ٿو ته ڇا "نفاذ ضروري آهي،" اهو چوي ٿو. جيڪڏهن ائين آهي، OpenAI وڌيڪ حوالي سان صارف تائين پهچندو يا ان مسئلي تي ڪم ڪرڻ لاءِ ۽ هڪ گراهڪ پنهنجي صوابديد تي OpenAI سان ڊيٽا شيئر ڪرڻ جو انتخاب ڪري سگهي ٿو، ترجمان چيو.
ان جي ابتڙ، اينٿروپڪ نوٽس ته صارف جي ڊيٽا جو انساني جائزو ٿي سگھي ٿو، پر صرف "هڪ ڪنٽرول رسائي واري رستي ذريعي" جنهن ۾ "منظور ٿيل نظرثاني ڪندڙن جو هڪ ننڍڙو سيٽ" شامل آهي. انهن جائزي جي سيشنن مان هر هڪ "ٽمپپر پروف لاگ ۾ رڪارڊ ٿيل آهي جنهن کي نظرثاني ڪندڙ دٻائي نٿا سگهن يا تبديل ڪري سگهن ٿا،" ڪمپني چوي ٿي.
OpenAI ۽ Anthropic جي وچ ۾ ڪارپوريٽ مقابلو هن وقت سخت آهي، ٻنهي ڪمپنين سان گڏ هڪ ٻئي تي فائدو حاصل ڪرڻ جو موقعو ڳولي رهيو آهي. هڪ تازي رپورٽ ڏيکاري ٿي ته OpenAI جي Q2 انتھروپڪ کان وڌيڪ سست وڌي وئي. انتھروپڪ جي سالياني آمدني جي شرح ھاڻي 65 بلين ڊالر آھي. اينٿراپڪ سيڙپڪارن چيو آهي ته اهو $ 2 ٽريلين تي IPO ڪري سگهي ٿو، جڏهن ته OpenAI پڻ پنهنجي IPO تي ڪم ڪري رهيو آهي.
