اوپن اے آئی کے سی ای او سیم آلٹ مین نے حال ہی میں کہا کہ یہ وقت ہے کہ "AI کی ترقی کی شرح کو تیز کیا جائے" تاکہ معاشرہ "ان میں سے کچھ نئی صلاحیت کی سطحوں کے ارد گرد سخت ہو سکے۔"
ٹیک کرنچ کے ایکویٹی پوڈ کاسٹ کے تازہ ترین ایپی سوڈ پر، کرسٹن کوروسیک، شان او کین، اور میں نے اس بات پر تبادلہ خیال کیا کہ کس طرح آلٹ مین کے تبصروں کو ممکنہ طور پر ایک حالیہ ہیک نے اشارہ کیا جس میں ایک OpenAI ایجنٹ نے Hugging Face کے نظام کی خلاف ورزی کی۔ شان نے نوٹ کیا کہ اگرچہ ایک AI ایجنٹ کے ذریعہ انجام دیا گیا ہیک ناول ہے، ہیک بذات خود "کوئی نئی جدید چیز" نہیں تھی۔
شان نے کہا، "یہ کچھ حقیقی چپکے سے سائبر آپ کے مقابلے میں نکسن کے لوگوں کے واٹر گیٹ میں داخل ہونے کی طرح تھا، کیونکہ اس کی ضرورت نہیں تھی، اور اسے ہونے کی ہدایت نہیں کی گئی تھی،" شان نے کہا۔ "امید ہے، یہ اس بات کی علامت ہے کہ یہ کمپنیاں اسے آگے بڑھائیں گی اور اس چیز کے بارے میں زیادہ محتاط رہیں گی۔"
آلٹ مین کے تبصروں نے مجھے پوری سرعت پسندی بمقابلہ سست روی کی بحث کی افادیت کے بارے میں سوچنے کا موقع بھی فراہم کیا، کیونکہ (ہاں، میں اپنے آپ کو حوالہ دینے ہی والا ہوں) فریمنگ "اس قسم کی تجویز کرتی ہے کہ صرف ایک راستہ ہے" اور "ہم سب کو فیصلہ کرنا پڑتا ہے - جیسا کہ ہم فیصلہ کرنا چاہتے ہیں - کیا ہم رفتار کم کرتے ہیں؟"
ہماری گفتگو کے پیش نظارہ کے لیے پڑھتے رہیں، طوالت اور وضاحت کے لیے ترمیم کی گئی ہے۔
شان او کین: شاید ہم نے آخر کار یہاں ایک انفلیکشن پوائنٹ کو مارا ہے۔ میرے خیال میں اس کا ایک بڑا ڈرائیور وہی ہونا چاہئے جس کے بارے میں ہم نے پچھلے ہفتے بات کی تھی، اوپن اے آئی کے ماڈلز میں سے ایک نے ہگنگ فیس کے ڈیٹا کو توڑا اور بظاہر انٹرنیٹ کے ارد گرد کچھ دوسری چیزوں کی بھی خلاف ورزی کی۔
[Altman's] توقف کا مطالبہ نہیں کررہے ہیں، جیسا کہ ہم نے ماضی میں ٹیک انڈسٹری کے کچھ لوگوں کو ایسا کرنے کی کوشش کرتے دیکھا ہے۔ وہ اپنے الفاظ کے ساتھ بہت محتاط تھا اور کہہ رہا تھا، "اسے تیز کرو۔" اور ہم دیکھیں گے کہ یہ کیسے ہوتا ہے۔ کوئی بھی احتیاط جو ہم دیکھتے ہیں کہ ان میں سے کچھ لیبز کو وہاں پھینک دیا جاتا ہے اکثر اس وقت الٹ جاتا ہے جب مراعات انہیں دوبارہ شروع کرنے کے لیے آگے بڑھاتے ہیں، پوری رفتار سے آگے۔ تو میں شکی رہتا ہوں، بڑا تعجب ہوتا ہے۔
کرسٹن کوروسیک: اب میں یہ کہوں گا — [آلٹ مین] اپنے الفاظ سے محتاط رہے ہوں گے، لیکن اوپن اے آئی اور اینتھروپک نے ایک درخواست کی [حمایت] کی جو اس کی عکاسی کرتی ہے جس کے بارے میں انہوں نے بات کی۔
اور میں آپ سے اتفاق کرتا ہوں، مجھے لگتا ہے کہ اس میں سے بہت کچھ ہیگنگ فیس کی وجہ سے ہوا تھا۔ اس نے شاید اسے اور یقینی طور پر انڈسٹری میں بہت سارے لوگوں کو ڈرایا۔ یہاں مشکل چیز یہ ہے کہ: آپ سوئی کو کیسے تھریڈ کرتے ہیں یا OpenAI کس طرح ریونیو پیدا کرنے، پیسہ اکٹھا کرنے، یا کامیاب IPO حاصل کرنے کی سوئی کو تھریڈ کرتا ہے، اور "پیس ڈیولپمنٹ" کا حوالہ دیتے ہیں۔
مجھے نہیں معلوم کہ وہ ایسا کر سکتے ہیں۔ میں یہ دیکھنے کے لئے متجسس ہوں گا کہ آیا وہ دونوں کا انتظام کرتے ہیں۔
انتھونی ہا: جن چیزوں کے ساتھ میں کشتی کر رہا ہوں ان میں سے ایک یہ سوال بھی ہے: کیا سرعت [بمقابلہ] کمی اس کے بارے میں سوچنے کے لیے صحیح فریم ورک ہے؟ کیونکہ اس طرح سے پتہ چلتا ہے کہ صرف ایک ہی راستہ ہے اور ہم سب اس راستے پر پھنس گئے ہیں۔ ہمیں صرف فیصلہ کرنا ہے - جیسا کہ ہمیں بالکل فیصلہ کرنا ہے - کیا ہم رفتار بڑھاتے ہیں یا ہم سست کرتے ہیں؟ اس کے برخلاف - ایک بار پھر، میں واقعی اس استعارے کو اذیت دینے جا رہا ہوں - لیکن کیا ہم مختلف گارڈریلز بناتے ہیں؟ کیا ہم مختلف راستے چنتے ہیں؟
میں صرف اس فریم ورک کے خلاف بہت مزاحم ہوں۔ یہ کہنے کے برعکس، "ٹھیک ہے، اگر ہم اس بارے میں خوش نہیں ہیں کہ ماڈل ابھی کیا کر رہے ہیں، تو ہم اور کیا کر سکتے ہیں؟ کیا سست روی، ایک وقفہ، ایک رکنا، واحد آپشن ہے؟" اور مجھے نہیں لگتا کہ یہ ہے۔
ایک چیز جس پر میں دوبارہ زور دینا چاہتا تھا، کیونکہ اس کے ارد گرد خطرے کی سطح کو دیکھنا واقعی دلچسپ رہا ہے - یہ احساس، "کیا ہوگا اگر ہمارے پاس یہ خود مختار ایجنٹ اور ماڈل صرف ایک دوسرے کو ہیک کرنے کے ارد گرد بھاگ رہے ہیں، ہیکس کو روکنے کی کوشش کر رہے ہیں، یہ سب ہمارے کنٹرول سے باہر ہو رہا ہے،" سیدھ کے بارے میں ان تمام وسیع بحثوں کا باعث بنتا ہے جو بیلان نے ریبیکا کے بارے میں کیا تھا۔
لیکن یہ ان نکات میں سے ایک پر واپس آنے کے قابل ہے جس کے بارے میں ہم نے TechCrunch میں بھی لکھا تھا، کہ یہ مخصوص ہیک — ہاں، یہ ایک OpenAI ماڈل کی وجہ سے ہوا تھا، لیکن ایسا لگتا ہے کہ انہوں نے ٹیسٹنگ سائٹ کو صحیح طریقے سے محفوظ نہیں کیا۔ نظریہ میں، اس ماڈل کو آن لائن حاصل کرنے کے قابل نہیں ہونا چاہیے تھا۔ اب، یقینا، اگر آپ کے پاس ایک طاقتور غلط طریقے سے AI ہے، تو اس انسانی غلطی کے خطرات ڈرامائی طور پر بڑھ جاتے ہیں۔ لیکن یہ صرف اس حقیقت سے شروع ہوتا ہے کہ انہوں نے چیزوں کو اس طرح محفوظ نہیں کیا جس طرح انہیں ہونا چاہئے۔ شان: میرے خیال میں یہ صحیح ہے۔ مجھے لگتا ہے کہ آپ کی بات کو اس معنی میں اچھی طرح سے لیا گیا ہے، ہمیں صرف اس کے بارے میں کچھ لکیری انداز میں نہیں سوچنا چاہئے اور آیا چیزیں تیز ہو رہی ہیں یا گھٹ رہی ہیں۔ یہ کمپنیاں کتنی ذمہ دار ہیں اس کے بارے میں بہت کچھ ہے اور کہا جانا چاہئے۔ ہمارے ساتھیوں میں سے ایک لورینزو نے بھی ایک بہت اچھی تحریر لکھی جس میں اس بات پر غور کیا گیا کہ سیکیورٹی کے سنجیدہ محققین جو اس چیز پر توجہ دیتے ہیں وہ سمجھتے ہیں کہ ہیک واقعی تھا۔ واقعی ایسا لگتا ہے کہ، اس ہیک کے دونوں اطراف، ایسے اقدامات تھے جو شاید اٹھائے جانے چاہیے تھے جو اسے روک سکتے تھے۔
اور ایک چیز جو مجھے اس کہانی میں سب سے زیادہ دلچسپ لگی وہ یہ تھی کہ کچھ محققین اس بات کی نشاندہی کر رہے تھے کہ اس ماڈل نے جو کچھ کیا وہ کوئی نئی جدید چیز نہیں تھی۔ یہ واقعی بہت ہی انسان تھا جس طرح سے اس نے کوشش کرنے کی کوشش کرنے کے بارے میں سوچا - بشرطیکہ کی شکل اختیار کرنے کے لئے نہیں، بلکہ جس طرح سے اس نے Hugging Face کو توڑنے کے بارے میں سوچا تھا، اور یہ کہ یہ بہت بلند اور گندا بھی تھا اور واقعی اس کی پٹریوں کو چھپانے کی کوشش نہیں کر رہا تھا۔ یہ کچھ حقیقی چپکے سے سائبر آپ کے مقابلے میں نکسن کے لوگوں کے واٹر گیٹ میں داخل ہونے کی طرح تھا، کیونکہ اسے ہونے کی ضرورت نہیں تھی، اور اسے ہونے کی ہدایت نہیں کی گئی تھی۔
اسے زیادہ آسانی سے روکا جانا چاہیے تھا۔ اور امید ہے کہ، یہ اس بات کی علامت ہے کہ یہ کمپنیاں اسے آگے لے جائیں گی اور اس چیز کے بارے میں زیادہ محتاط رہیں گی۔
میں accel بمقابلہ decel [debate.] پر ایک اور بات کہوں گا میں نہیں جانتا کہ کیا یہ محرک ہے، لیکن آپ نے IPO، کرسٹن کا ذکر کیا۔ میرے خیال میں یہ آلٹ مین کے لیے ہوشیار ہے کہ وہ اس فائدے کو آگے بڑھا سکے جو ان کے پاس ہے، جو کہ [اوپن اے آئی] اگلے مہینے، یا اب سے دو ماہ بعد مارکیٹوں میں نہیں جا رہا ہے۔ یہاں تک کہ اس نے 2027 میں جانے کا خیال پیش کیا اور یہ کہ انہوں نے صرف اپنی خفیہ فائلنگ کی تاکہ جب وہ تیار ہوں تو ان کے پاس آپشن تیار ہو۔
لہذا اگر آپ ان سب باتوں پر یقین رکھتے ہیں، تو وہ اس بات کو اس انداز میں بات کرنے کی صلاحیت رکھتا ہے جس طرح انتھروپک نہیں کر سکتا، کیونکہ اینتھروپک پہلے ہی بہت سارے بینکرز کے ساتھ بات چیت کر رہا ہے اور وہ ایک قریب ترین آئی پی او کی طرف گامزن ہے اور اس وجہ سے اس بات پر زیادہ پابندی ہے کہ وہ کیا کہہ سکتا ہے اور اسے کیسے کہنا چاہئے اور مارکیٹ اس پر کیا ردعمل ظاہر کرے گی۔
