جیسا کہ AI ماڈلز زیادہ طاقتور ہو گئے ہیں، ان ماڈلز کے غلط استعمال کی صلاحیت بڑھ گئی ہے - جیسا کہ حفاظتی محافظوں کے لیے شور ہے جو اس طرح کے غلط استعمال کو ہونے سے روک سکتا ہے۔ AI کمپنیوں کو اب اپنے انٹرپرائز صارفین کی پرائیویسی کا احترام کرنے کے ساتھ ساتھ ممکنہ مسائل کے لیے استعمال کو بھی دیکھتے ہوئے ایک نازک تنگ رسی پر چلنا چاہیے۔
اپنے حریف اینتھروپک کو یکجا کرنے کے موقع کو محسوس کرتے ہوئے، OpenAI نے غلط استعمال کی نگرانی کے لیے رازداری پر مبنی حفاظتی نقطہ نظر کا اعلان کیا۔ کمپنی صارفین کو منتخب کرنے کے لیے ایک نئی سروس کا جائزہ لے رہی ہے جسے وہ پرائیویٹ سیفٹی پروسیسنگ کہتے ہیں۔ یہ ایک خودکار نظام ہے جو ممکنہ بدسلوکی پر نظر رکھتا ہے جبکہ بیک وقت گاہک کے کسی بھی ڈیٹا کو برقرار نہیں رکھتا ہے۔
یہ سسٹم واضح طور پر انتھروپک کی حال ہی میں اعلان کردہ ڈیٹا برقرار رکھنے کی پالیسی کے خلاف ہے۔ پالیسی، جس نے کچھ صارفین کو پریشان کر دیا ہے، AI لیب کو صارف کے ڈیٹا (ان کے تمام سیشنز — اور اس میں ہونے والی گفتگو) کو 30 دنوں کے لیے رکھنے کے قابل بناتی ہے، جب بات "کور شدہ ماڈلز" کی ہو. کمپنی کا کہنا ہے کہ ان ماڈلز میں تمام Mythos-کلاس ماڈلز اور "مستقبل کے ماڈلز شامل ہیں"۔
یہ پالیسی، جس کا اعلان جولائی میں کیا گیا تھا، حفاظت کے مقاصد کے لیے ڈیزائن کیا گیا تھا، جس سے لیب کو ممکنہ نامناسبیت کو چھاننے اور تجزیہ کرنے کی اجازت دی گئی تھی۔ تاہم، اس نے کچھ کاروباری اداروں کو گہری تشویش میں مبتلا کیا ہے جو بڑی مقدار میں حساس ڈیٹا کو ہینڈل کرتے ہیں اور نہیں چاہتے کہ اسے AI لیب کے ذریعے محفوظ کیا جائے (یا معائنہ کیا جائے)۔
OpenAI — دیگر AI کمپنیوں کی طرح — پہلے سے ہی زیرو ڈیٹا ریٹینشن کے نام سے جانی جانے والی پالیسی پر عمل پِیرا ہو کر صارفین کو ایک رشتہ دار پرائیویسی فراہم کرتی ہے۔ ZDR ہر سیشن کی بنیاد پر غلط استعمال کی نگرانی کے لیے OpenAI API کے اندر ایجنٹوں کا استعمال کرتا ہے۔ اس طرح، کمپنی کے ذریعہ کسٹمر ڈیٹا کو برقرار نہیں رکھا جاتا ہے لیکن کمپنیاں اب بھی انسانی مداخلت کی ضرورت کے بغیر خراب سرگرمی کے لیے اسکین کرنے کے قابل ہیں۔ یہ بات قابل غور ہے کہ اینتھروپک بھی بڑی حد تک ZDR کی پابندی کرتا ہے - سوائے اس کے جب بات Fable جیسے "ڈھکے ہوئے ماڈلز" کی ہو۔
OpenAI کا کہنا ہے کہ پرائیویٹ سیفٹی پروسیسنگ ایک نئی ٹیکنالوجی ہے جو ZDR کے دائرہ کار کو وسیع کرتی ہے۔ یہ اسے طویل افق کی حفاظت کی نگرانی کی ایک شکل کے طور پر بیان کرتا ہے جو متعدد بات چیت کے ان پٹس اور آؤٹ پٹس کا جائزہ لیتا ہے — نہ صرف ایک۔ ایک بار پھر، مانیٹرنگ ایک ایجنٹ کے ذریعے کی جاتی ہے، جو، اگر متحرک ہو، تو بات چیت کو پکڑتا ہے اور ممکنہ غلط استعمال کی علامات کے لیے سیشنوں میں ان کا تجزیہ کرتا ہے۔
ایک ترجمان نے TechCrunch کو بتایا کہ نئی ٹیک OpenAI کو AI کے بدنیتی پر مبنی استعمال کا پتہ لگانے میں مدد کرتی ہے جو کہ متعدد سیشنز میں ہوتا ہے۔ ایک برا اداکار — فرضی طور پر کوئی سائبر اٹیک کے لیے میلویئر بنانے کی کوشش کر رہا ہے — پتہ لگانے سے بچنے کے لیے اپنی درخواستوں کو پھیلا سکتا ہے۔ پرائیویٹ سیفٹی پروسیسنگ کسی صارف کی گفتگو کا انسانی جائزہ لیے بغیر ان متعدد گفتگوؤں کا تجزیہ کر سکتی ہے جو بدسلوکی کے آثار ہیں۔
کمپنی کا کہنا ہے کہ ایسی صورت میں جہاں سسٹم ٹرگر ہوتا ہے، یہ OpenAI کو ایک "تختی سے وضاحت شدہ سگنل" بھیج سکتا ہے جو ایک مخصوص قسم کی سرگرمی سے خبردار کرتا ہے۔ اس سگنل کی بنیاد پر، OpenAI پھر فیصلہ کر سکتا ہے کہ آیا "نفاذ کرنا ضروری ہے،" یہ کہتا ہے۔ ترجمان نے کہا کہ اگر ایسا ہے تو، OpenAI گاہک تک مزید سیاق و سباق یا ان کے ساتھ کام کرنے کے لیے پہنچ جائے گا اور ایک صارف اپنی صوابدید پر OpenAI کے ساتھ ڈیٹا شیئر کرنے کا انتخاب کر سکتا ہے۔
اس کے برعکس، انتھروپک نوٹ کرتا ہے کہ صارف کے ڈیٹا کا انسانی جائزہ ہوسکتا ہے، لیکن صرف "ایک کنٹرول شدہ رسائی کے راستے کے ذریعے" جس میں "منظور شدہ جائزہ لینے والوں کا ایک چھوٹا سیٹ" شامل ہوتا ہے۔ کمپنی کا کہنا ہے کہ ان میں سے ہر ایک جائزہ سیشن "چھیڑ چھاڑ کے لاگ میں ریکارڈ کیا جاتا ہے جسے جائزہ لینے والے دبا نہیں سکتے اور نہ ہی اس میں ترمیم کر سکتے ہیں،" کمپنی کا کہنا ہے۔
OpenAI اور Anthropic کے درمیان کارپوریٹ مقابلہ اس وقت تناؤ کا شکار ہے، دونوں کمپنیاں ایک دوسرے پر فائدہ حاصل کرنے کے لیے کسی بھی موقع کی تلاش میں ہیں۔ ایک حالیہ رپورٹ سے پتہ چلتا ہے کہ OpenAI کی Q2 انتھروپک کے مقابلے میں زیادہ آہستہ آہستہ بڑھی ہے۔ اینتھروپک کی سالانہ آمدنی کی شرح اب مبینہ طور پر $65 بلین ہے۔ انتھروپک سرمایہ کاروں نے کہا ہے کہ وہ $2 ٹریلین کا IPO کر سکتا ہے، جبکہ OpenAI بھی اپنے IPO پر کام کر رہا ہے۔
