هڪ نئين مطالعي مان معلوم ٿئي ٿو ته AI مشوري ماڻهن کي غير يقيني صورتحال کي تسليم ڪرڻ لاء گهٽ راضي ڪري سگهي ٿي، جيتوڻيڪ جڏهن AI غلط آهي.
École Normale Supérieure، Sapienza University of Rome ۽ University of Milano-Bicocca جي محققن معلوم ڪيو ته AI مشوري تائين پھچڻ سان ماڻھن ۾ ”مون کي خبر ناھي“ چوڻ جي رضامندي 44 سيڪڙو کان 3 سيڪڙو تائين گھٽجي وئي. درستگي پڻ 27 سيڪڙو کان 9 سيڪڙو تائين گهٽجي وئي، جڏهن ته اعتماد 30 سيڪڙو کان 76 سيڪڙو تائين وڌي ويو.
اهو مطالعو چيارا مارڪوڪيا، والٽر ڪواتروڪيوچي، ۽ والريو ڪيپرارو طرفان لکيو ويو هو.
محقق سوالن جي چوڌاري ٽيسٽ ٺاهيا جتي AI ماڊل عام طور تي ناڪام ٿيندا آهن. انهن ۾ فلمن جا بصري تفصيل شامل هئا، جيئن بينڊ اٽ لائيڪ بيڪهم ۾ ٽيم جي يونيفارم جو رنگ. محققن اسٽيپ 3.5 فليش استعمال ڪيو ڇاڪاڻ ته اهو عام طور تي انهن سوالن تي غلط هو، اهو اندازو ڪرڻ آسان بڻائي ٿو ته ڇا ماڻهو خراب AI مشوري تي ڀروسو ڪري رهيا هئا.
ڪجھ شرڪت ڪندڙ جيڪي پنھنجي طور تي صحيح جواب ڏين ھا AI کان پڇڻ کان پوء پنھنجا جواب تبديل ڪيا ۽ غلط ٿي ويا.
نتيجو صرف گهٽ درستگی نه هئي.
شرڪت ڪندڙ وڌيڪ پر اعتماد ٿي ويا جڏهن ته بدترين جواب ڏنا ويا. ڪيپرارو چيو ته ماڻهو تمام گهڻو خراب ٿي ويا آهن، درستگي سان اين اي جي سطح جي تقريبا هڪ ٽئين تائين گهٽجي وئي، جڏهن ته اعتماد ٻيڻو کان وڌيڪ.
مطالعي جي خلاصي جو چوڻ آهي ته محقق 3132 شرڪت ڪندڙن سان پنج تجربا ڪيا، جن ۾ چار اڳ ۾ رجسٽر ٿيل تجربا ۽ هڪ سڌي نقل شامل آهن. اهو پڻ چوي ٿو AI مشوري فيصلي جي معطلي کي گهٽايو ته ڇا مشورو فعال طور تي درخواست ڪئي وئي هئي يا صرف صارفين کي ڏيکاريل هئي.
محقق پڻ جانچيو ته ڇا مالي ترغيب ماڻهن کي وڌيڪ محتاط بڻائي سگهندي.
جواب ها هو، پر صرف ٿورو. جڏهن درستگي کي انعام ڏنو ويو، ۽ غلط جوابن کي سزا ڏني وئي، غير يقيني صورتحال کي تسليم ڪرڻ جي رضامندي 3 سيڪڙو کان 8 سيڪڙو تائين وڌي وئي. درستگي 9 سيڪڙو کان 16 سيڪڙو تائين وڌي وئي. بهرحال، ٻئي انگ اکر 44 سيڪڙو جي no-AI بيس لائين کان هيٺ رهيا "مون کي خبر ناهي" ۽ 27 سيڪڙو درستگي لاءِ.
نتيجن جي باري ۾ وڌندڙ تشويش ۾ اضافو ٿيو آهي جنهن کي محقق سڏيو آهي "سڃاڻڻ واري تسليم."
Wharton جي اڳوڻي تحقيق مان معلوم ٿيو ته ماڻهن 92.7 سيڪڙو وقت AI جي سفارشن کي قبول ڪيو جڏهن AI صحيح هو ۽ 79.8 سيڪڙو وقت به جڏهن اهو ڄاڻي واڻي غلط هو. مطالعي ۾ 1372 شرڪت ڪندڙن 9593 دليلن جي ڪمن ۾ شامل ڪيو.
نئون مطالعو هڪ ٻيو ڊيڄاريندڙ شامل ڪري ٿو: AI صرف ماڻهن کي غلط جواب قبول نٿو ڪري. اهو پڻ سڃاڻڻ جي عادت کي ڪمزور ڪري سگهي ٿو جڏهن اهي جواب ڏيڻ لاء ڪافي نه ڄاڻندا آهن.
ڪيپرارو چيو ته ”مون کي خبر ناهي“ چوڻ جي صلاحيت اهميت رکي ٿي ڇاڪاڻ ته اهو ڏيکاري ٿو ته ماڻهو پنهنجي علم جي حدن کي سمجهن ٿا.
هو خاص طور تي ٻارن جي باري ۾ فڪرمند آهي، جيڪي مڪمل طور تي نازڪ سوچ جي صلاحيتن کي ترقي ڪرڻ کان اڳ AI اوزار سان وڌي رهيا آهن. تشويش اچي ٿي جيئن AI ٺاهيل جواب وڌيڪ عام ٿي ويندا آهن ڳولا، تعليم، ۽ روزاني فيصلي سازي جا اوزار.
وسيع تشويش اها آهي ته اڪثر AI پروڊڪٽس غير يقيني صورتحال کي حوصلا افزائي ڪرڻ بدران رواني جواب ڏيڻ لاءِ ٺهيل آهن.
اهو ڪارائتو ٿي سگهي ٿو جڏهن ماڊل صحيح آهي. پر جڏهن ماڊل غلط آهي، صارف اڃا تائين ان جي جواب کي قابل اعتماد سمجهي سگھن ٿا. مطالعي مان معلوم ٿئي ٿو ته صرف AI مشوري جي دستيابي کي تبديل ڪري سگھي ٿو ته ماڻهو ڪيئن پنهنجي ڄاڻ جو فيصلو ڪن ٿا.
مکيه ڊيڄاريندڙ سادو آهي: AI شايد نه رڳو غلط جواب ڏين. اهو شايد ماڻهن کي روڪڻ، سوال ڪرڻ، ۽ چون ٿا ته انهن کي خبر ناهي.
تازه ترين ٽيڪني خبرن، ٽيليڪم بصيرت، ۽ پراڊڪٽ لانچ حاصل ڪريو جتي توهان چاهيو ٿا.
ProPakistani کي ترجيحي ذريعن ۾ شامل ڪريو ۽ ڏسو اسان جون وڌيڪ ڪهاڻيون گوگل سرچ ۽ ٽاپ اسٽوريز ۾.
شيئرز
