ایک نئی تحقیق سے پتا چلا ہے کہ اے آئی کا مشورہ لوگوں کو غیر یقینی صورتحال کو تسلیم کرنے کے لیے کم آمادہ کر سکتا ہے، یہاں تک کہ جب AI غلط ہو۔

École Normale Supérieure، Sapienza University of Rome اور University of Milano-Bicocca کے محققین نے پایا کہ AI مشورے تک رسائی نے لوگوں کی "مجھے نہیں معلوم" کہنے کی خواہش کو 44 فیصد سے کم کر کے 3 فیصد کر دیا۔ درستگی بھی 27 فیصد سے 9 فیصد تک گر گئی، جب کہ اعتماد 30 فیصد سے بڑھ کر 76 فیصد ہو گیا۔

مطالعہ Chiara Marcoccia، والٹر Quattrociocchi، اور Valerio Capraro کی طرف سے لکھا گیا تھا.

محققین نے ان سوالات کے ارد گرد ٹیسٹ ڈیزائن کیے جہاں AI ماڈل عام طور پر ناکام ہو جاتے ہیں۔ ان میں فلموں کی بصری تفصیلات شامل ہیں، جیسے بینڈ اٹ لائک بیکہم میں ٹیم کے یونیفارم کا رنگ۔ محققین نے مرحلہ 3.5 فلیش کا استعمال کیا کیونکہ یہ ان سوالات پر عام طور پر غلط تھا، جس سے یہ اندازہ لگانا آسان ہو گیا کہ آیا لوگ AI کے غلط مشوروں پر بھروسہ کر رہے ہیں۔

کچھ شرکاء جنہوں نے اپنے طور پر درست جواب دیا ہوگا، AI سے پوچھنے کے بعد اپنے جوابات بدل کر غلط ہوگئے۔

نتیجہ صرف کم درستگی نہیں تھا۔

شرکا بدتر جوابات دیتے ہوئے زیادہ پر اعتماد ہو گئے۔ کیپررو نے کہا کہ لوگ بہت زیادہ خراب ہو گئے، درستگی نو-AI سطح کے تقریباً ایک تہائی تک گر گئی، جبکہ اعتماد دوگنا سے بھی زیادہ ہو گیا۔

مطالعہ کا خلاصہ کہتا ہے کہ محققین نے 3132 شرکاء کے ساتھ پانچ تجربات کیے، جن میں چار پہلے سے رجسٹرڈ تجربات اور ایک براہ راست نقل شامل ہے۔ اس میں یہ بھی کہا گیا ہے کہ AI مشورے نے فیصلے کی معطلی کو کم کر دیا ہے چاہے مشورے کی فعال طور پر درخواست کی گئی ہو یا صارفین کو صرف دکھایا گیا ہو۔

محققین نے یہ بھی جانچا کہ آیا مالی مراعات لوگوں کو زیادہ محتاط بنائیں گی۔

جواب ہاں میں تھا، لیکن صرف تھوڑا سا۔ جب درستگی کو انعام دیا گیا، اور غلط جوابات پر جرمانہ عائد کیا گیا، تو غیر یقینی صورتحال کو تسلیم کرنے کی خواہش 3 فیصد سے بڑھ کر 8 فیصد ہوگئی۔ درستگی 9 فیصد سے 16 فیصد تک بہتر ہو گئی۔ تاہم، دونوں اعداد و شمار "میں نہیں جانتا" کہنے کے لیے 44 فیصد اور درستگی کے لیے 27 فیصد کی no-AI بیس لائن سے بالکل نیچے رہے۔

نتائج اس بارے میں بڑھتی ہوئی تشویش میں اضافہ کرتے ہیں جسے محققین نے "علمی ہتھیار ڈالنے" کہا ہے۔

اس سے قبل وارٹن کی تحقیق سے پتا چلا تھا کہ لوگوں نے 92.7 فیصد وقت میں AI کی سفارشات کو قبول کیا جب AI درست تھا اور 79.8 فیصد اس وقت بھی جب یہ جان بوجھ کر غلط تھا۔ اس مطالعہ میں 9593 استدلال کے کاموں میں 1372 شرکاء شامل تھے۔

نیا مطالعہ ایک اور انتباہ کا اضافہ کرتا ہے: AI صرف لوگوں کو غلط جوابات قبول کرنے پر مجبور نہیں کرتا ہے۔ جب وہ جواب دینے کے لیے کافی نہیں جانتے تو یہ پہچاننے کی عادت کو بھی کمزور کر سکتا ہے۔

Capraro نے کہا کہ "میں نہیں جانتا" کہنے کی صلاحیت اہمیت رکھتی ہے کیونکہ اس سے ظاہر ہوتا ہے کہ لوگ اپنے علم کی حدود کو سمجھتے ہیں۔

وہ خاص طور پر ان بچوں کے بارے میں فکر مند ہے، جو تنقیدی سوچ کی مہارت کو مکمل طور پر تیار کرنے سے پہلے AI ٹولز کے ساتھ بڑے ہو رہے ہیں۔ تشویش اس وقت سامنے آتی ہے جب AI سے تیار کردہ جوابات تلاش، تعلیم اور روزانہ فیصلہ سازی کے آلات میں زیادہ عام ہو جاتے ہیں۔

وسیع تر تشویش یہ ہے کہ زیادہ تر AI پروڈکٹس کو غیر یقینی صورتحال کی حوصلہ افزائی کرنے کے بجائے روانی سے جواب دینے کے لیے ڈیزائن کیا گیا ہے۔

جب ماڈل صحیح ہو تو یہ کارآمد ثابت ہوسکتا ہے۔ لیکن جب ماڈل غلط ہے، تب بھی صارف اس کے جواب کو قابل اعتماد سمجھ سکتے ہیں۔ مطالعہ سے پتہ چلتا ہے کہ AI مشورے کی محض دستیابی ہی بدل سکتی ہے کہ لوگ اپنے علم کا فیصلہ کیسے کرتے ہیں۔

اہم انتباہ آسان ہے: AI نہ صرف غلط جوابات دے سکتا ہے۔ یہ لوگوں کو روکنے، سوال کرنے اور یہ کہنے کے لیے بھی کم آمادہ کر سکتا ہے کہ وہ نہیں جانتے۔

جہاں آپ چاہیں تازہ ترین ٹیک خبریں، ٹیلی کام کی بصیرتیں، اور پروڈکٹ لانچ حاصل کریں۔

ProPakistani کو ترجیحی ذرائع میں شامل کریں اور گوگل سرچ اور ٹاپ اسٹوریز میں ہماری مزید کہانیاں دیکھیں۔

شیئرز