نیویارک میں مقیم AI کا پتہ لگانے والا سٹارٹ اپ Pangram انٹرنیٹ پر پھیلنے والے AI سلوپ کے انفیکشن کا مقابلہ کرنے کے مشن پر ہے، اور اس نے صرف اس شرط پر $9 ملین اکٹھے کیے ہیں کہ ایسے اوزاروں کی مانگ جو AI سے تیار کردہ متن سے انسانی تخلیق کردہ مواد کو الگ کر سکیں۔

Pangram کا فنڈ ریزنگ - مینلو وینچرز کی قیادت میں، Haystack، ScOp، Script Capital، اور Cadenza کی شرکت کے ساتھ - اس وقت آتا ہے جب سٹارٹ اپ اپنا اگلی نسل کا AI ٹیکسٹ ڈیٹیکشن ماڈل، Pangram 4، اور AI امیج کا پتہ لگانے والا ماڈل، Pangram Image بھی لانچ کرتا ہے۔

پانگرام کا کہنا ہے کہ متن کا پتہ لگانے کا نیا ماڈل AI کی مدد سے تحریری اور مخلوط انسانی-AI مواد کو تلاش کرنے میں 99 فیصد سے زیادہ درست ہے، نیز یہ AI ہیومنائزر پروگراموں کا زیادہ آسانی سے پتہ لگا سکتا ہے۔ AI امیج ڈیٹیکٹر ابھی کے لیے صرف تحقیقی پیش نظارہ کے ذریعے دستیاب ہے۔ Pangram آنے والے ہفتوں میں اسے مزید وسیع پیمانے پر جاری کرنے کا ارادہ رکھتا ہے۔

اسٹینفورڈ AI اور مشین لرننگ گریڈز Max Spero اور Bradley Emi نے Pangram کا آغاز تقریباً دو سال قبل کیا، ChatGPT کے آغاز کے بعد بوٹس سے بھرے انٹرنیٹ کے لیے فلڈ گیٹس کھل گئے، AI سے تیار کردہ SEO سلوپ مواد، اور جسے Spero کہتے ہیں "LLM سے چلنے والی روسی ڈس انفارمیشن مہمات اور UAE سے متاثرہ مہمات ٹویٹر پر۔"

سپِیرو نے TechCrunch کو بتایا، "میرے خیال میں یہ جاننا انتہائی قابل قدر ہے کہ آیا آپ جو کچھ دیکھ رہے ہیں وہ AI سے تیار کردہ ہے یا نہیں۔" "خاص طور پر وہ متن جسے آپ پڑھ رہے ہیں، کیونکہ اس سے یہ بدل جاتا ہے کہ لوگ متن تک کیسے پہنچتے ہیں۔ کیا یہ ایسی چیز ہے جس کے بارے میں مجھے فریب نظروں کو تلاش کرنا پڑے گا اور شکوک و شبہات میں کودنا پڑے گا، یا یہ وہ چیز ہے جس پر مجھے یقین ہے کہ ایک حقیقی صحافی سے اچھی طرح سے تحقیق کی گئی تھی؟"

Pangram کا AI کا پتہ لگانے کا نظام بنیادی طور پر ایک بڑا مشین لرننگ ماڈل ہے جسے دسیوں لاکھوں معلوم انسانی دستاویزات پر تربیت دی گئی تھی۔ اس کے بعد اسٹارٹ اپ نے ہر دستاویز کے لیے ایک "مصنوعی آئینہ" بنایا، جس میں موضوع، لمبائی، اور آواز کے لہجے کو نقل کیا گیا، لیکن ایک فرنٹیئر ایل ایل ایم نے لکھا۔

سپِیرو نے کہا، "ہمارا ماڈل اسٹائلسٹک اختلافات اور ان انتخاب کو سیکھ رہا ہے جو AI مسلسل کرتا ہے اور اسے یہ جاننے کے لیے استعمال کرنے کے قابل ہے کہ اعلیٰ اعتماد کے ساتھ AI سے پیدا ہونے والی کوئی چیز کیا بناتی ہے،" سپِیرو نے مزید کہا کہ AI ڈیٹیکٹر کاپی پیسٹ میٹا ڈیٹا یا پوشیدہ واٹر مارکس پر انحصار نہیں کر رہا ہے۔

Pangram کے لیے، AI کا پتہ لگانا صرف اس بارے میں نہیں ہے کہ آیا متن کا ایک ٹکڑا مکمل طور پر AI نے لکھا تھا۔ یہ AI امداد کی سطحوں کے درمیان فرق کرنے کے بارے میں بھی ہے - جیسے کسی ایسے شخص کے معاملے میں جو خود کچھ لکھتا ہے، لیکن پھر AI سے اس میں ترمیم کرنے یا اسے صاف کرنے کو کہتا ہے۔ سپِیرو کا خیال ہے کہ AI کی مدد قابل قبول ہو سکتی ہے، جب تک مصنف اپنے AI کے استعمال کا انکشاف کرتا ہے۔

Pangram کا ظہور ایک ایسے وقت میں ہوا ہے جب AI کا استعمال عام ہوتا جا رہا ہے۔ کچھ معاملات میں، کینیڈا کے سیاست دان کی طرح جو قانون سازوں سے خطاب میں AI پرامپٹ کو بلند آواز سے پڑھتے ہیں، غلطیوں کا نتیجہ تضحیک کی صورت میں نکلتا ہے۔ دوسرے معاملات میں، جیسا کہ بعض وکلاء ChatGPT کے ذریعے بنائے گئے جعلی حوالہ جات کا استعمال کرتے ہوئے اپنا کیس بناتے ہیں، اس کے نتائج پابندیاں اور جرمانے ہو سکتے ہیں۔

اس ردعمل سے صرف افراد کو شرمندگی یا پابندیوں کا سامنا نہیں کرنا پڑ رہا ہے - یہ ادارہ جاتی قواعد میں بھی ظاہر ہونا شروع ہو رہا ہے۔

اوپن ایکسیس آرکائیو ARXiv نے اس سال ایک نئی نفاذ کی پالیسی متعارف کرائی، جس میں کہا گیا کہ گذارشات جن میں ثبوت موجود ہیں کہ مصنفین LLM آؤٹ پٹ کا جائزہ لینے میں ناکام رہے ہیں (جیسے کہ فریب شدہ حوالہ جات یا میٹا تبصرے جیسے، "کیا آپ چاہیں گے کہ میں کوئی تبدیلی کروں؟") جمع کرانے پر ایک سال کی پابندی کو متحرک کر سکتی ہے۔

Pangram واحد شرط نہیں ہے کہ AI کا پتہ لگانے کی زیادہ کوشش کی جائے گی۔ Winston AI، Originality.ai، Copyleaks، اور GPTZero جیسے حریف اسی مطالبے کا پیچھا کر رہے ہیں، ہر ایک اپنا اپنا ڈیٹیکٹر بنا رہا ہے۔

Pangram کی ٹکنالوجی، اگرچہ کامل نہیں ہے، انٹرنیٹ، کمرہ عدالت اور تعلیمی کاغذات میں AI سے تیار کردہ مواد کو قبول کرنے کے خلاف مزاحمت کو ہوا دے سکتی ہے۔

صارفین ویب پر $20-فی-ماہ سبسکرپشن کے ذریعے Pangram تک رسائی حاصل کر سکتے ہیں یا کروم ایکسٹینشن ڈاؤن لوڈ کر سکتے ہیں، جو X، LinkedIn، Substack، Reddit اور Medium پر خود بخود پوسٹس کو حقیقی وقت میں لیبل کرتا ہے۔ یہ آپ کی سکرین پر انسانی بمقابلہ AI مواد کے فیصد کی خرابی کے ساتھ فیڈ ہیلتھ سکور بھی فراہم کرتا ہے۔

Pangram API کے ذریعے اپنی ٹیکنالوجی بھی پیش کرتا ہے۔ خاص طور پر، Substack نے حال ہی میں Pangram کی ٹیکنالوجی کو اپنے پلیٹ فارم میں ضم کیا تاکہ قارئین کو یہ دکھایا جا سکے کہ ان کے پسندیدہ مصنفین میں سے کون سے AI کا استعمال کرتے ہوئے اپنے نیوز لیٹر لکھتے ہیں۔ دیگر API صارفین میں Quora، اسکول اور یونیورسٹیاں، پبلشرز اور ایجنٹس، اور بھرتی کرنے والے شامل ہیں، فی اسپِیرو۔ سپِیرو نے کہا کہ تقریباً 10000 انسانی دستاویزات میں سے ایک پر Pangram کے ماڈل کے ساتھ AI کا لیبل لگا ہوا ہے، اس لیے میں نے اسے جانچنے کا فیصلہ کیا۔ متن کا پتہ لگانے کا ماڈل بہت متاثر کن تھا لیکن کامل نہیں تھا۔ اس نے ChatGPT اور Claude دونوں کے ذریعہ لکھے گئے مکمل طور پر AI سے تیار کردہ خبروں کے مضامین کو آسانی سے جھنڈا لگایا، اور AI سے تیار کردہ متن کو زیادہ انسانی آواز میں ترمیم کرنے کی میری کوششوں سے شاذ و نادر ہی بے وقوف بنایا گیا۔ اسی وقت، پانگرام نے فلیگ جملے کیے جو میں نے مکمل طور پر AI تحریری طور پر دوبارہ لکھے۔ مواد تیار کرتے وقت ChatGPT اور Claude کو AI ڈیٹیکٹرز سے بچنے کے لیے میری کوششوں سے Pangram کو بالکل بھی بے وقوف نہیں بنایا گیا۔

میں نے ChatGPT اور Claude کو اپنا ایک مضمون بھی دیا اور ان سے کہا کہ وہ اسے چمکائیں۔ Pangram نے اسے 13% AI معاون سکور دیا، جو شاید درست کے قریب تھا، لیکن ماڈل نے کچھ جملوں میں لفظوں کے انتخاب کی باریک تبدیلیوں کا پتہ لگانے کے قابل تھا اور دوسروں میں انہیں نظر انداز کر دیا۔ اس نے کچھ جملوں کو AI کی مدد سے بھی نشان زد کیا جب وہ انسانی تحریر تھے۔ یہ قابل ذکر تھا کیونکہ جب میں نے پانگرام کو وہی مضمون مکمل طور پر دیا، جیسا کہ میں نے اسے لکھا تھا، اس نے 100% انسانی اسکور حاصل کیا۔

شاید مسئلہ یہ تھا کہ خبروں کے مضامین قدرے خشک ہوسکتے ہیں اور آسانی سے AI کی طرح لگ سکتے ہیں۔ تو میں نے ایک مختلف حربہ آزمایا۔ میں نے اپنے خود سے زیادہ آواز دار، ذاتی سب اسٹیک نیوز لیٹر کے مواد پر Pangram کا تجربہ کیا، متن کے پہلے نصف کو Pangram میں چسپاں کیا اور پھر ChatGPT اور Claude سے کہا کہ وہ میرے انداز کو کاپی کریں اور دوسرا نصف لکھیں۔ زیادہ تر حصے کے لیے، پانگرام نے آسانی سے انسانی تحریری متن بمقابلہ AI تحریری متن کا پتہ لگا لیا۔

پانگرام کے نئے امیج ڈیٹیکشن ماڈل کی میری محدود جانچ بھی اتنی ہی متاثر کن ثابت ہوئی۔

Pangram کا AI امیج ڈٹیکشن سسٹم AI ماڈلز میں AI سے تیار کردہ تصاویر کو تلاش کرنے کا وعدہ کرتا ہے، OpenAI's یا Google DeepMind کے واٹر مارک پر مبنی چیک کے برعکس، جو زیادہ تر اپنے آؤٹ پٹ کا پتہ لگاتے ہیں۔ یہ پکسل کی سطح کی تقسیم پر کام کرتا ہے، حقیقی تصاویر اور AI سے تیار کردہ تصاویر کے درمیان ٹھیک ٹھیک شماریاتی فرق سیکھتا ہے۔ سپِیرو کا کہنا ہے کہ ماڈل ایک ایسی AI تصویر کا بھی پتہ لگا سکتا ہے جو حقیقی دنیا کی تصویر کے اندر ظاہر ہوتی ہے۔

میری جانچ میں، ماڈل نے آسانی سے AI سے تیار کردہ امیجری کا پتہ لگا لیا، چاہے وہ فوٹو ریئلسٹک ہو یا کارٹونش۔ میں اس بات کی بھی تصدیق کر سکتا ہوں کہ ماڈل ایک حقیقی دنیا کی تصویر میں ظاہر ہونے والی AI تصویر کا پتہ لگا سکتا ہے - ہیٹ میپ Pangram واضح طور پر تصویر پر روشنی ڈالتا ہے - حالانکہ ایک مثال میں اس نے AI سے تیار کردہ تصویر کی تصویر کو انسانی مواد کے طور پر غلط طور پر لیبل کیا تھا۔

سپِیرو کا کہنا ہے کہ وہ نہیں چاہتے کہ ان کی ٹیکنالوجی لکھنے کے لیے AI کا استعمال کرنے والے لوگوں کے خلاف جادوگرنی کے شکار کو ہوا دے، لیکن یہ کہ ڈھلوان کے خلاف پیچھے ہٹنے کے لیے کسی قسم کا طریقہ کار ہونا چاہیے۔

سپِیرو نے کہا کہ "مستقبل جو میں دیکھ رہا ہوں وہ یہ ہے کہ AI مواد صرف پھیلتا ہی جا رہا ہے۔" "ہم نئے لوگوں کی پیدائش کے مقابلے میں تیزی سے نئے GPUs حاصل کر رہے ہیں۔ اگر ہم انسانی مواد کے حق میں فعال طور پر امتیازی سلوک نہیں کرتے ہیں، تو ہم صرف زیادہ سے زیادہ AI دیکھنے والے ہیں، اور یہ ہمارے پاس موجود کسی بھی انسانی سگنل کو ختم کر دے گا۔"