مصنوعي ذهانت تبديل ڪري رهي آهي ته جنگ ڪيئن وڙهندا آهن. خودمختيار ڊرونز کان وٺي AI-طاقتور ڪمانڊ ۽ ڪنٽرول تائين، مشينون جنگ روم ۾ گهٽ فيصلا ڪندڙن لاء رستو ٺاهي رهيا آهن ۽ زمين تي بوٽ.
اها تبديلي اڳ ۾ ئي ڪيف، غزه ۽ تهران ۾ نئين ٽيڪنالاجي متعارف ڪرائڻ سان تڪرار کي تبديل ڪري رهي آهي. يوڪرين ۾ AI-طاقتور مداخلت ڪندڙ ڊرونز. اسرائيل جو AI-فعال ٽارگيٽ نسل غزه ۾ استعمال ڪيو ويو. ۽، سڀ کان تازو، Palantir جي Maven Smart System (MSS) ايران تي آمريڪي-اسرائيل جنگ دوران هزارين هدفن کي سڃاڻڻ ۽ هڙتال ڪرڻ لاء استعمال ڪيو ويو.
28 فيبروري تي، ايران تي آمريڪا-اسرائيل جنگ جي پهرين ڏينهن، ماون 1000 کان وڌيڪ هدفن کي نشانو بڻائڻ ۾ مدد ڪئي، انهن مان هڪ ايراني پرائمري اسڪول مناب ۾ جتي 150 کان وڌيڪ ماڻهو مارجي ويا، جن مان گهڻا ٻار هئا. چار مهينا بعد، پينٽاگون جي حملي جي تحقيقات رڪجي رهي آهي، سينيٽرن سان جوابن جو مطالبو ڪيو ۽ بلومبرگ رپورٽ ڪيو ته غلطي پراڻي سيٽلائيٽ انٽيليجنس ڏانهن واپس آئي.
جيئن ته AI مضبوط طور تي فوجين ۾ شامل ٿي وڃي ٿي، سوال صرف اهو ناهي ته ڇا اهي سسٽم صحيح فيصلا ڪرڻ تي ڀروسو ڪري سگهجن ٿا، پر ڇا اهي انهن فيصلن جي اخلاقي نتيجن سان مقابلو ڪري سگهن ٿا جيڪي اهي ڪندا آهن.
AI ۽ جنگ تي هڪ سيريز جي حصي جي طور تي، الجزيره جانچ ڪري ٿو ته اهو ڪاميابي سان انساني فيصلي سازن کي تبديل ڪري سگهي ٿو.
عالمي فوجي خرچ گذريل سال 2.9 سيڪڙو وڌي 2.87 ٽريلين ڊالر ٿي ويا. ان انگن اکرن جي اندر، فوجي ايپليڪيشنن لاءِ AI تي خرچ تيزيءَ سان ٿي رهيو آهي، صنعت جي رپورٽن مطابق، 11.7 بلين ڊالر کان 2030 تائين تقريبن 19.3 بلين ڊالر تائين وڌڻ جو اندازو لڳايو ويو آهي.
اپريل ۾، آمريڪي صدر ڊونالڊ ٽرمپ جي انتظاميه $ 1.5 ٽريلين دفاعي خرچن جي تجويز پيش ڪئي مالي سال لاءِ آڪٽوبر ۾ شروع ٿيندڙ هڪ ”خواب فوجي“ جي تعمير لاءِ ۽ هڪ روايتي فوجي-صنعتي ڪمپليڪس کان فوجي-ٽيڪنالاجي ڏانهن شفٽ کي تيز ڪرڻ.
يو ايس پينٽاگون ”AI-پهريون ويڙهاڪ قوت“ بڻجڻ تي پنهنجون نظرون مقرر ڪري ڇڏيون آهن، OODA لوپ کي دٻائيندي - هڪ فيصلو سازي جو ماڊل يو ايس ايئر فورس جي ڪرنل جان بوئڊ پاران 20 صدي جي آخر ۾ تيار ڪيو ويو، ان بنياد تي ٺاهيو ويو آهي ته جيڪو به فيصلن ذريعي تيزيءَ سان اڳتي وڌي ٿو اهو مٿي تي اچي ٿو.
مسلسل نئين معلومات سان گڏ، OODA لوپ - مشاهدو، رخ، فيصلو، عمل - ڪمانڊرن کي تازي ممڪن لمحن تي عملن جو فيصلو ڪرڻ جي اجازت ڏئي ٿو، رفتار ۽ موافقت لاءِ واپاري يقين.
رفتار لاءِ زور ڏيڻ آهي پروجيڪٽ Maven، Palantir جو پرچم بردار AI انٽيليجنس پليٽ فارم، جيڪو Anthropic’s Claude سان جوڙيو ويو آهي، جنگ جي ميدان جي حقيقي وقت واري تصوير پيش ڪرڻ لاءِ ٺهيل آهي.
OODA لوپ جو منطق اڳ ۾ ئي 2000s ۽ 2010s جي ڊرون جنگين ۾ ڪم ڪري چڪو هو، جڏهن الگورٿمڪ نموني جي سڃاڻپ انهن ماڻهن کي نشانو بڻايو جن جو رويو هڪ مشڪوڪ پروفائل سان ملندو هو، ڪمپيوٽر جي ٺاهيل فهرستن کي کارائڻ.
اهو ان وقت AI نه سڏيو ويندو هو، پر منطق اڄ جي ساڳي هئي: ڊيٽا ۾ نمونن کي ڳوليو انساني تجزيي کان تيز، ۽ انهن کي عمل ۾ تبديل ڪريو.
سمجھڻ لاءِ ته Maven ڇا ڪندو آھي، اھو سمجھڻ جي لائق آھي ته اھو ڇا بدليو آھي. اڳئين تڪرارن ۾، جهڙوڪ عراق ۽ افغانستان ۾ 2000 جي آمريڪي جنگين ۾، تجزيه نگارن ايڪسل اسپريڊ شيٽ ۽ پاور پوائنٽ سلائيڊز ۾ مخالف نيٽ ورڪن کي ٽريڪ ڪيو، نالا لاگ ان ڪرڻ ۽ ڪنيڪشن اسڪيچ ڪرڻ، جڏهن ته مار زنجيرن سينئر آفيسرن پاران تجزيو ڪيل پرنٽ ٿيل ڊاسيئرز تي انحصار ڪيو. انهن عملن وقت ورتو.
آپريشن Epic Fury جي دوران، جيئن ايران تي موجوده آمريڪي جنگ سڏيو وڃي ٿو، Maven کي منٽن ۾ هزارين حملن کي پروسيس ڪرڻ لاء استعمال ڪيو ويو آهي. يو ايس سينٽرل ڪمانڊ جي سربراهه ايڊمرل براد ڪوپر جي مطابق، ٽائيم لائنون جيڪي هڪ ڀيرو ڪلاڪ يا ڏينهن وٺن ٿيون انهن کي صرف سيڪنڊن تائين دٻايو ويو آهي.
پروجيڪٽ Maven 2017 ۾ شروع ڪيو ويو Algorithmic Warfare Cross-Functional Team (AWCFT)، AI ۽ مشين لرننگ کي استعمال ڪرڻ لاءِ پاڻمرادو ترتيب ڏيڻ لاءِ ڊرون ۽ نگراني فوٽيج جي وڏي پٺڀرائي کي پاڻمرادو ترتيب ڏيڻ لاءِ جيڪو فوجي گڏ ڪري رهيو هو پر مڪمل تجزيو نه ڪري سگهيو - ٽارگيٽ کي سڃاڻڻ ۽ ترجيح ڏيڻ کان وٺي جنگ جي مناسب طور تي اسان کي نقصان پهچائڻ لاءِ.
گوگل ڊرون فوٽيجز جو تجزيو ڪرڻ لاءِ ڪمپيوٽر ويزن ماڊلز ٺاهيا، جيستائين 2018 ۾ عملي جي احتجاج کان پوءِ واپس ورتا ويا جنهن ۾ 4000 کان وڌيڪ ملازمن هڪ درخواست تي دستخط ڪيو جنهن ۾ چيو ويو آهي ته ”گوگل کي جنگ جي ڪاروبار ۾ نه هئڻ گهرجي.
اڄ، 20000 کان وڌيڪ آمريڪي فوجي اهلڪار 35 فوجي سافٽ ويئر اوزار ۽ ٽن سيڪيورٽي درجي بندي ڊومينز تي Maven استعمال ڪن ٿا، وائيس ايڊمرل فرينڪ ويٽ ورٿ جي مطابق، ملڪ جي نيشنل جيوسپيٽل-انٽيليجنس ايجنسي جي ڊائريڪٽر.
سسٽم 150 کان وڌيڪ وسيلن مان ڊيٽا ڪڍندو آهي جهڙوڪ: هڪ دفعو سڃاڻپ ٿيڻ بعد، هڪ ٽارگيٽ هڪ ڊجيٽل پائيپ لائين ذريعي هلندو آهي، فوجي قتل جي زنجير جي ماڊل تي ماڊل ڳولڻ، درست ڪرڻ، ٽريڪ ڪرڻ، ٽارگيٽ ڪرڻ، مشغول ڪرڻ، جائزو وٺڻ (F2T2EA)، هر اسٽيج تي ڪوآرڊينيٽس، انٽيليجنس ذريعن، خطري جي تشخيص ۽ قانوني سائن آف.
هڪ AI سفارش ڪندڙ پيش ڪري ٿو هٿيار ۽ گولا بارود قربت ۽ مناسبت جي بنياد تي. Anthropic's Claude، Palantir جي پليٽ فارم ذريعي ضم ٿيل، آپريٽرز کي سسٽم کي قدرتي ٻولي ۾ سوال ڪرڻ جي اجازت ڏئي ٿو.
انٿروپڪ پهرين ”فرنٽيئر“ AI ڪمپني هئي جنهن جا ماڊل ڪلاسفائيڊ نيٽ ورڪن تي مقرر ڪيا ويا جن تي Maven هلندي آهي. بهرحال، تڪرار مارچ ۾ ختم ٿي ويو جڏهن پينٽاگون اينٿروپڪ کي بليڪ لسٽ ڪيو ۽ ان کي "سپلائي چين جو خطرو" نامزد ڪيو جڏهن ته هن کلاڊ جي خودمختيار هٿيارن ۽ نگراني تي پابنديون ختم ڪرڻ کان انڪار ڪيو، انٿروپڪ کي حڪومت تي مقدمو ڪرڻ لاء زور ڏنو.
يو ايس ڊپارٽمينٽ آف ڊفينس موجب، ڪو به AI هٿيار مڪمل طور تي خودمختيار نه هوندا، ۽ انهن کي هميشه انساني اختيار جي ضرورت پوندي.
ائڊمرل ڪوپر مارچ ۾ چيو هو ته ”انسان هميشه حتمي فيصلا ڪندو ته ڇا شوٽ ڪرڻ گهرجي ۽ ڇا نه گول ڪيو وڃي ۽ ڪڏهن شوٽ ڪيو وڃي، پر ترقي يافته AI اوزار ان عمل کي تبديل ڪري سگهن ٿا جيڪي ڪلاڪ ۽ ڪڏهن ڪڏهن ڏينهن کي سيڪنڊن ۾ وٺي ويندا هئا.
تنهن هوندي، ڪجهه تعليمي ماهرن کي هن سبب لاء گهٽ يقين ڏياريو ويو آهي. ڇا لڳي سگھي ٿو بي رغبتي واري ڪم جي فلوز، ٺهڪندڙ ٽائم لائنز ۽ "پري پيڪيج ٿيل" فيصلا پڻ انهن حالتن کي ختم ڪرڻ جو خطرو کڻندا آهن جن جي تحت بامعني انساني فيصلو ۽ اخلاقي فيصلو سازي ٿي سگهي ٿي.
”اخلاقي غور و فڪر لاءِ مينڊيٽ ۾ هڪ واضح ڇڪتاڻ آهي - اخلاقي غور ، قانوني غور ويچار - جيڪو وقت وٺندو آهي ۽ جنهن لاءِ عمل جي باري ۾ سوچڻ جي هڪ مختلف انداز جي ضرورت هوندي آهي ،“ ايلڪي شوارز ، ڪوئن ميري يونيورسٽي لنڊن ۾ سياسي نظريي جي پروفيسر ۽ ڪتاب جي مصنف ڊيٿ مشينز: دي ايٿڪس آف وائلنٽ ٽيڪنالوجيز کي ٻڌايو.
"توهان چئي رهيا آهيو: اسان رفتار ۽ پيماني جي فائدي ۾ هڪ وڌيڪ سخت عمدي عمل کي قربان ڪرڻ وارا آهيون."
اونهو سوال اهو آهي ته ڇا AI، اصولي طور تي، اخلاقي استدلال کي نقل ڪري سگهي ٿو.
Schwarz واضح آهي ته اهو نه ٿو ڪري سگهي، ۽ نه ئي نفيس وڏي ٻولي ماڊلز (LLMs) جي کوٽ جي ڪري، جيڪي سوالن کي هلائڻ لاءِ استعمال ڪيا ويندا آهن ۽ سادي قدرتي ٻولي ۾ ڊيٽا کي سمجهڻ ۾ مدد ڪندا آهن.
صرف جنگ جو نظريو ترقي ڪئي وئي ڇاڪاڻ ته موتمار طاقت استعمال ڪرڻ جي فيصلن ۾ ڇا آهي. فريم ورڪ موجود آهي تحمل کي مجبور ڪرڻ، جنگ جي حقيقي قيمتن جي سخت وڙهندڙ سمجھ مان پيدا ٿيو. Schwarz چوي ٿو ته اهو ڪڏهن به هڪ چيڪ باڪس مشق نه هوندو هو.
"اخلاقيات هڪ سماجي عمل آهي،" Schwarz چوي ٿو. ”اها حقيقت تي مبني آهي ته اسان هڪ ٻئي جي ڪمزوري کي تمام گهڻي سنجيدگيءَ سان وٺون ٿا، ۽ اهو ته اسان هڪ ٻئي تي ڀروسو رکون ٿا ته ان جي خلاف ورزي نه ڪنداسين جيستائين حالتون حڪم نه ڏين.
"هڪ سسٽم هڪ حسابي نظام آهي. ان ۾ انساني زندگيءَ جي معنيٰ جو ڪو به تصور ڪونهي. ان ۾ ماتم جو، ڏک جو ڪو تصور ناهي.
شوارز ايجنٽ AI جي ڳالهين کي رد ڪري ٿو - سسٽم محدود انساني نگراني سان نيم خودمختاري طور ڪمن جي تعاقب ڪرڻ جي قابل آهن - "ڊسپلي ڪرڻ" خوف يا جذبي کي مارڪيٽنگ چال جي طور تي، ان جي بدران زور ڀريو ته "اصولن سان وڙهڻ" ۽ شڪ، ۽ "وزن جو وزن ڪيترين زندگيون داء تي آهن" صرف هڪ سسٽم ۾ پروگرام نه ٿو ڪري سگهجي.
تجزيه نگارن جو چوڻ آهي ته فوجي AI ۾ هڪ حقيقي خطرو آهي، جتي نتيجو جيڪي مناسب آواز آهن غلط آهن، ڊيٽا تي ٺهيل آهن جيڪي نامڪمل، پراڻي يا خراب آهن - اهڙي قسم جي ناڪامي جيڪا رپورٽ ڪئي وئي آهي ته ايران ۾ ميناب پرائمري اسڪول تي ماون جي غلط هڙتال ڪئي. Maven جي حقيقي غلطي جي شرح ظاهر نه ڪئي وئي آهي، پر اندازو لڳايو ويو آهي هڪ سسٽم تي اشارو آهي جيڪو پينٽاگون پاران پيش ڪيل کان وڌيڪ قابل اعتماد آهي.
شوارز جو چوڻ آهي ته وڏي ٻولي جا ماڊل صرف ٽارگيٽ ڪرڻ لاءِ استعمال نه ٿيڻ گهرجن، ڇاڪاڻ ته اهي ناگزير طور تي مايوسي پيدا ڪندا ۽ شهري نقصان ۾ حصو وٺندا.
Intercept، هڪ آزاد تحقيقاتي دڪان، سومر تي ٻڌايو ته پينٽاگون پنهنجي سول پروٽيڪشن سينٽر آف ايڪسيلنس کي 40 اسٽاف مان صرف 9 تائين گھٽائي ڇڏيو جڏهن ته AI اوزار تي ڀاڙڻ، بشمول هڪ Maven Smart System تي ٺهيل، شهري نقصان جي تشخيص کي تيز ڪرڻ لاء.
ميڪس پلانڪ انسٽيٽيوٽ فار هيومن ڊولپمينٽ جي ريسرچ هڪ مطالعي ۾ نوٽ ڪيو ويو آهي ته AI کي ڪم سونپڻ هڪ اخلاقي فاصلو پيدا ڪري ٿو جيڪو ماڻهن کي وڌيڪ رضامند بڻائي ٿو رويي ۾ مشغول ٿيڻ لاءِ اهي ٻي صورت ۾ نه هجن ها، ڇاڪاڻ ته اي آءِ قانونيت جو ڏيک ڏئي سگهي ٿو، موجوده حفاظتي قدمن سان ان کي روڪڻ لاءِ ٿورو ڪم ڪري رهيا آهن.
ٽي سال اڳ ٻڌايو ته ايل ايل ايم 2026 تائين فوجي ٽارگيٽ ۾ استعمال ڪيا ويندا، شوارز چيو: ”مان چوان ها ته چريو آهي. ۽ مان اڄ به اهو ئي چوندس.” "اهو ظاهر ڪرڻ ته هڪ AI سسٽم اخلاقي فيصلو ڪندڙ ٿي سگهي ٿو، مون لاء، هن منفرد انساني ڪم کي ختم ڪرڻ - وزن ڪرڻ، وزن سمجهڻ، اخلاقي طور تي ڏکيو فيصلي جو وزن محسوس ڪرڻ، جنهن لاء هڪ ذميواري جو بار کڻندو."
ان جي ابتڙ، سوال پيدا ٿئي ٿو ته ڇا AI عملي طور تي گهٽ اخلاقي فوجين کي محدود ڪري سگهي ٿو مٿي کان پابندي لاڳو ڪندي.
2024 ۾، اسرائيلي-فلسطيني پبليڪيشن +972 ميگزين ۽ عبراني-ٻوليءَ جي ميڊيا آئوٽ ليٽ لوڪل ڪال ٻڌايو ته اسرائيلي فوج هزارين فلسطينين کي الڳ ڪري رهي آهي ۽ انهن جي سڃاڻپ ڪري رهي آهي امڪاني بمباري جي هدفن جي طور تي AI جي مدد سان ٽارگيٽنگ سسٽم استعمال ڪندي Lavender.
اهو اٽڪل 10 سيڪڙو جي اندازي مطابق غلطي جي شرح هئي. انساني حقن جي ماهرن ۽ قانوني اسڪالرن خبردار ڪيو ته عملي طور تي بين الاقوامي انسانيت جي قانون جي ڀڃڪڙي جو خطرو آهي، ڪجهه ڪيسن ۾ انساني نگراني سان هڙتال جي اجازت ڏيڻ کان پهريان سيڪنڊن جي معاملي تائين گهٽجي ويندي آهي.
Schwarz برابر طور تي شڪي آهي AI جو فوجين کي محدود ڪرڻ جي قابل آهي. ”جيڪڏهن هڪ فوجي وٽ اهڙو نظام آهي جيڪو تيز ڪري ٿو ۽ تشدد کي تيز ڪري ٿو جنهن کي هو نافذ ڪرڻ چاهين ٿا ، اهي ڪنهن اهڙي نظام کي ڇڏي ڏيڻ وارا نه آهن جيڪو چوي ٿو 'نه ، توهان کي اهو نه ڪرڻ گهرجي ،'" هن چيو. ”اڳ ۾ ئي هڪ مسئلو آهي جنهن کي اڳ ۾ ئي حل ڪرڻ جي ضرورت آهي.
"هڪ AI سسٽم هڪ غير اخلاقي انسان تي اخلاقي فيصلي ساز طور ڪم نه ڪندو."
