مصنوعی ذہانت جنگیں لڑنے کے طریقے کو نئی شکل دے رہی ہے۔ خود مختار ڈرونز سے لے کر AI سے چلنے والے کمانڈ اینڈ کنٹرول تک، مشینیں وار روم میں کم فیصلہ سازوں اور زمین پر جوتے رکھنے کی راہ ہموار کر رہی ہیں۔
یہ تبدیلی پہلے ہی کیف، غزہ اور تہران میں نئی ٹیکنالوجیز متعارف کروا کر تنازعات کو نئی شکل دے رہی ہے۔ یوکرین میں اے آئی سے چلنے والے انٹرسیپٹر ڈرون۔ اسرائیل کی AI سے چلنے والی ٹارگٹ جنریشن غزہ میں استعمال کی گئی۔ اور، حال ہی میں، Palantir's Maven Smart System (MSS) ایران پر امریکہ اسرائیل جنگ کے دوران ہزاروں اہداف کی شناخت اور ان پر حملہ کرنے کے لیے استعمال ہوتا تھا۔
28 فروری کو، ایران پر امریکہ اسرائیل جنگ کے پہلے دن، ماون نے 1000 سے زیادہ اہداف کو نشانہ بنانے میں مدد کی، ان میں مناب میں ایک ایرانی پرائمری اسکول جہاں 150 سے زیادہ لوگ مارے گئے، جن میں زیادہ تر بچے تھے۔ چار ماہ بعد، پینٹاگون کی اس حملے کی تحقیقات بدستور تعطل کا شکار ہے، سینیٹرز جوابات کا مطالبہ کر رہے ہیں اور بلومبرگ نے رپورٹ کیا ہے کہ غلطی پرانی سیٹلائٹ انٹیلی جنس سے ہوئی ہے۔
جیسا کہ AI مضبوطی سے ملٹریوں میں سرایت کر جاتا ہے، سوال صرف یہ نہیں ہے کہ کیا ان نظاموں پر درست فیصلے کرنے کے لیے بھروسہ کیا جا سکتا ہے، بلکہ یہ ہے کہ کیا وہ اپنے کیے گئے فیصلوں کے اخلاقی نتائج سے نمٹ سکتے ہیں۔
AI اور وارفیئر پر ایک سیریز کے حصے کے طور پر، الجزیرہ اس بات کا جائزہ لیتا ہے کہ آیا یہ انسانی فیصلہ سازوں کو کامیابی سے بدل سکتا ہے۔
عالمی فوجی اخراجات گزشتہ سال 2.9 فیصد بڑھ کر 2.87 ٹریلین ڈالر تک پہنچ گئے۔ صنعت کی رپورٹوں کے مطابق، اس اعداد و شمار کے اندر، فوجی ایپلی کیشنز کے لیے AI پر اخراجات میں تیزی سے اضافہ ہو رہا ہے، جس کا تخمینہ 2030 تک $11.7bn سے بڑھ کر تقریباً$19.3bn ہو جائے گا۔
اپریل میں، امریکی صدر ڈونلڈ ٹرمپ کی انتظامیہ نے اکتوبر میں شروع ہونے والے مالی سال کے لیے 1.5 ٹریلین ڈالر کے دفاعی اخراجات کی تجویز پیش کی تھی تاکہ "خوابوں کی فوج" کی تعمیر کی جا سکے اور روایتی ملٹری-صنعتی کمپلیکس سے ملٹری ٹیک کی طرف منتقلی کو تیز کیا جا سکے۔
امریکی پینٹاگون نے OODA لوپ کو کمپریس کرتے ہوئے "AI-پہلی جنگی قوت" بننے پر اپنی نگاہیں مرکوز کر رکھی ہیں - جو فیصلہ سازی کا ماڈل 20ویں صدی کے آخر میں امریکی فضائیہ کے کرنل جان بوئڈ نے تیار کیا تھا، اس بنیاد پر بنایا گیا تھا کہ جو بھی فیصلوں کے ذریعے تیزی سے آگے بڑھتا ہے وہ سب سے اوپر آتا ہے۔
نئی معلومات کے ساتھ مسلسل کھلایا جاتا ہے، OODA لوپ - مشاہدہ، سمت، فیصلہ، عمل - کمانڈرز کو تازہ ترین ممکنہ لمحے پر کارروائیوں کا فیصلہ کرنے دیتا ہے، رفتار اور موافقت کے لیے تجارتی یقین۔
رفتار کو آگے بڑھانا پروجیکٹ Maven ہے، Palantir کا فلیگ شپ AI انٹیلی جنس پلیٹ فارم، جو Anthropic's Claude کے ساتھ جوڑا بنایا گیا ہے، جو میدان جنگ کی حقیقی وقت کی تصویر پیش کرنے کے لیے بنایا گیا ہے۔
OODA لوپ کی منطق 2000 اور 2010 کی دہائیوں کی ڈرون جنگوں میں پہلے سے ہی کام کر رہی تھی، جب الگورتھمک پیٹرن کی شناخت نے ایسے افراد کو جھنڈا لگایا جن کا رویہ ایک مشکوک پروفائل سے مماثل تھا، کمپیوٹیشنل طور پر تیار کی گئی قتل کی فہرستوں کو کھانا کھلانا۔
اس وقت اسے AI نہیں کہا جاتا تھا، لیکن منطق آج کی طرح ہی تھی: ڈیٹا میں پیٹرن کو انسانی تجزیہ کار سے زیادہ تیزی سے تلاش کریں، اور انہیں عمل میں تبدیل کریں۔
یہ سمجھنے کے لیے کہ Maven کیا کرتا ہے، یہ غور کرنے کے قابل ہے کہ اس میں کیا تبدیلی آئی ہے۔ پچھلے تنازعات میں، جیسے کہ عراق اور افغانستان میں 2000 کی امریکی جنگوں میں، تجزیہ کاروں نے ایکسل اسپریڈ شیٹس اور پاورپوائنٹ سلائیڈز میں مخالف نیٹ ورکس کا پتہ لگایا، ناموں کو لاگ ان کرنا اور کنکشنز کا خاکہ بنانا، جبکہ قتل کی زنجیریں سینیئر حکام کے ذریعہ تجزیہ کردہ پرنٹ شدہ ڈوزیئر پر انحصار کرتی تھیں۔ ان عملوں میں وقت لگا۔
آپریشن ایپک فیوری کے دوران، جیسا کہ ایران کے خلاف موجودہ امریکی جنگ کہلاتی ہے، ماون کو منٹوں میں ہزاروں حملے کرنے کے لیے استعمال کیا گیا ہے۔ امریکی سنٹرل کمانڈ کے سربراہ ایڈمرل بریڈ کوپر کے مطابق، جو ٹائم لائنز ایک بار گھنٹوں یا دنوں میں لگتی تھیں، انہیں محض سیکنڈ تک سکیڑ دیا جاتا ہے۔
پروجیکٹ Maven کو 2017 میں الگورتھمک وارفیئر کراس فنکشنل ٹیم (AWCFT) کے طور پر شروع کیا گیا تھا، تاکہ AI اور مشین لرننگ کا استعمال کرتے ہوئے ڈرون اور نگرانی کی فوٹیج کے بڑے بیک لاگ کو خود بخود ترتیب دیا جا سکے جسے فوج جمع کر رہی تھی لیکن مکمل طور پر تجزیہ نہیں کر سکی — ہدف کی شناخت اور ترجیح دینے سے لے کر جنگ کے لیے مناسب طریقے سے نقصان کا انتخاب کرنے تک۔
گوگل نے ڈرون فوٹیج کا تجزیہ کرنے کے لیے کمپیوٹر وژن ماڈلز بنائے، یہاں تک کہ 2018 میں عملے کے احتجاج کے بعد اس نے دستبرداری اختیار کی جس میں 4000 سے زائد ملازمین نے ایک پٹیشن پر دستخط کیے جس میں کہا گیا تھا کہ "گوگل کو جنگ کے کاروبار میں نہیں ہونا چاہیے۔"
آج، 20000 سے زیادہ امریکی فوجی اہلکار Maven کو 35 فوجی سافٹ ویئر ٹولز اور تین سیکورٹی درجہ بندی کے ڈومینز میں استعمال کرتے ہیں، وائس ایڈمرل فرینک وائٹ ورتھ، ملک کی نیشنل جیو اسپیشل-انٹیلی جنس ایجنسی کے ڈائریکٹر کے مطابق۔
سسٹم 150 سے زیادہ وسائل سے ڈیٹا کھینچتا ہے جیسے: ایک بار شناخت ہوجانے کے بعد، ایک ہدف ایک ڈیجیٹل پائپ لائن کے ذریعے منتقل ہوتا ہے جو فوجی کِل چین کی ترتیب، تلاش، طے، ٹریک، ہدف، مشغولیت، تشخیص (F2T2EA) پر مشتمل ہوتا ہے، جس میں کوآرڈینیٹس، انٹیلی جنس ذرائع، خطرے کی تشخیص اور قانونی سائن آف ہر مرحلے پر ہوتے ہیں۔
ایک AI تجویز کنندہ قربت اور مناسبیت کی بنیاد پر ہتھیاروں اور گولہ بارود کی تجویز کرتا ہے۔ Anthropic's Claude، Palantir کے پلیٹ فارم کے ذریعے مربوط، آپریٹرز کو قدرتی زبان میں سسٹم سے استفسار کرنے دیتا ہے۔
Anthropic پہلی "فرنٹیئر" AI کمپنی تھی جس نے اپنے ماڈلز کو کلاسیفائیڈ نیٹ ورکس پر تعینات کیا جس پر Maven چلتا ہے۔ تاہم، مارچ میں تناؤ اس وقت پھوٹ پڑا جب پینٹاگون نے اینتھروپک کو بلیک لسٹ کیا اور اسے "سپلائی چین رسک" قرار دیا جب اس نے خود مختار ہتھیاروں اور نگرانی پر کلاڈ کی پابندیوں کو ڈھیل دینے سے انکار کر دیا، جس سے اینتھروپک کو حکومت پر مقدمہ کرنے کا اشارہ ہوا۔
امریکی محکمہ دفاع کے مطابق، کوئی بھی AI ہتھیار مکمل طور پر خود مختار نہیں ہوں گے، اور انہیں ہمیشہ انسانی اجازت کی ضرورت ہوگی۔
ایڈمرل کوپر نے مارچ میں کہا تھا کہ "انسان ہمیشہ حتمی فیصلے کرتے ہیں کہ کیا گولی مارنی ہے اور کیا نہیں اور کب گولی مارنی ہے، لیکن جدید ترین AI ٹولز ایسے عمل کو بدل سکتے ہیں جو گھنٹوں اور بعض اوقات دنوں کو سیکنڈوں میں لے جاتے تھے۔"
تاہم، کچھ ماہرین تعلیم اسی وجہ سے کم یقین رکھتے ہیں۔ جو کچھ رگڑ کے بغیر کام کے بہاؤ، کمپریسڈ ٹائم لائنز اور "پری پیکجڈ" فیصلوں کی طرح لگتا ہے وہ ان حالات کو ختم کرنے کا خطرہ بھی رکھتا ہے جن کے تحت بامعنی انسانی فیصلہ اور اخلاقی فیصلہ سازی ہو سکتی ہے۔
کوئین میری یونیورسٹی لندن میں پولیٹیکل تھیوری کے پروفیسر اور کتاب ڈیتھ مشینز: دی ایتھکس آف وائلنٹ ٹیکنالوجی کے مصنف ایلکے شوارز نے الجیرا کو بتایا کہ "اخلاقی غور و خوض کے مینڈیٹ میں ایک واضح تناؤ ہے - اخلاقی غور و خوض، قانونی غور و خوض - جس میں وقت لگتا ہے، اور جس کے لیے عمل کے بارے میں سوچنے کے ایک مختلف انداز کی ضرورت ہوتی ہے۔"
"آپ کہہ رہے ہیں: ہم رفتار اور پیمانے کے مفاد میں ایک زیادہ سخت جان بوجھ کر عمل کو قربان کرنے جا رہے ہیں۔"
گہرا سوال یہ ہے کہ کیا AI، اصولی طور پر بھی، اخلاقی استدلال کو نقل کر سکتا ہے۔
Schwarz واضح ہے کہ یہ نفیس بڑے لینگویج ماڈلز (LLMs) کی کمی کی وجہ سے نہیں کر سکتا ہے، جو سوالات کو چلانے اور سادہ فطری زبان میں ڈیٹا کو سمجھنے میں مدد کرنے کے لیے استعمال ہوتے ہیں۔
صرف جنگ کا نظریہ اس وجہ سے تیار کیا گیا تھا کہ مہلک طاقت کے استعمال کے فیصلوں میں کیا خطرہ ہے۔ یہ فریم ورک تحمل پر مجبور کرنے کے لیے موجود ہے، جو جنگ کے حقیقی اخراجات کے بارے میں مشکل سے حاصل شدہ سمجھ سے پیدا ہوا ہے۔ شوارز کا کہنا ہے کہ اس کا مطلب کبھی بھی چیک باکس مشق نہیں تھا۔
"اخلاقیات ایک سماجی عمل ہے،" شوارز کہتے ہیں۔ "یہ اس حقیقت پر منحصر ہے کہ ہم ایک دوسرے کی کمزوری کو بہت سنجیدگی سے لیتے ہیں، اور یہ کہ ہم ایک دوسرے پر بھروسہ کرتے ہیں کہ جب تک حالات حکم نہ دیں اس کی خلاف ورزی نہیں کریں گے۔
"ایک نظام ایک کمپیوٹیشنل نظام ہے۔ اس میں انسانی زندگی کے مفہوم کا کوئی تصور نہیں ہے۔ اس میں ماتم کا، مصائب کا کوئی تصور نہیں ہے۔‘‘
شوارز نے ایجنٹی AI کی بات کو مسترد کر دیا - ایسے نظام جو محدود انسانی نگرانی کے ساتھ نیم خودمختار طور پر کاموں کو انجام دینے کے قابل ہیں - خوف یا جذبات کو مارکیٹنگ کی چال کے طور پر "ظاہر" کرتے ہیں، بجائے اس کے کہ "اصولوں سے جوڑنا" اور شک، اور "کتنی زندگیاں داؤ پر لگی ہیں" کو صرف ایک نظام میں پروگرام نہیں کیا جا سکتا۔
تجزیہ کاروں کا کہنا ہے کہ فوجی AI میں ایک حقیقی خطرہ ہے، جہاں قابل فہم لگنے والے نتائج غلط ہیں، جو ڈیٹا پر بنائے گئے ہیں جو نامکمل، پرانے یا کرپٹ ہیں – اس قسم کی ناکامی جس کے بارے میں بتایا جاتا ہے کہ ایران میں مناب پرائمری اسکول پر ماوین کی غلط ہڑتال کی وجہ بنی۔ Maven کی اصل غلطی کی شرح کا انکشاف نہیں کیا گیا ہے، لیکن تخمینہ ایک ایسے نظام کی طرف اشارہ کرتا ہے جو پینٹاگون کی طرف سے پیش کردہ سے کہیں کم قابل اعتماد ہے۔
شوارز کا کہنا ہے کہ زبان کے بڑے ماڈلز کو صرف نشانہ بنانے کے لیے استعمال نہیں کیا جانا چاہیے، کیونکہ وہ ناگزیر طور پر فریب میں مبتلا ہوں گے اور شہریوں کو نقصان پہنچا سکتے ہیں۔
انٹرسیپٹ، ایک آزاد تحقیقاتی آؤٹ لیٹ نے پِیر کے روز اطلاع دی کہ پینٹاگون نے شہری نقصان کی تشخیص کو تیز کرنے کے لیے اپنے سول پروٹیکشن سنٹر آف ایکسیلنس کو 40 عملے سے گھٹا کر صرف نو کر دیا ہے جبکہ اے آئی ٹولز، بشمول ماون سمارٹ سسٹم پر بنایا گیا ایک ٹولز پر جھکاؤ رکھتے ہیں۔
میکس پلانک انسٹی ٹیوٹ فار ہیومن ڈویلپمنٹ کی تحقیق نے ایک مطالعہ میں بتایا کہ AI کو کوئی کام سونپنے سے ایک اخلاقی فاصلہ پیدا ہوتا ہے جو لوگوں کو اس طرز عمل میں شامل ہونے پر آمادہ کرتا ہے جو وہ خود نہیں کریں گے، کیونکہ AI قانونی حیثیت کا ایک سرقہ دے سکتا ہے، موجودہ حفاظتی اقدامات اسے روکنے کے لیے بہت کم کام کر رہے ہیں۔
تین سال پہلے بتایا تھا کہ ایل ایل ایم کو 2026 تک فوجی ہدف بنانے میں استعمال کیا جائے گا، شوارز نے کہا: "میں کہتا کہ یہ پاگل پن ہے۔ اور میں آج بھی یہی کہوں گا۔‘‘ "یہ دکھاوا کرنا کہ ایک AI نظام ایک اخلاقی فیصلہ ساز ہو سکتا ہے، میرے لیے، اس منفرد انسانی کام سے دستبردار ہونا - وزن کرنا، وزن کو سمجھنا، اخلاقی طور پر مشکل فیصلے کا وزن محسوس کرنا جس کے لیے کوئی ذمہ داری کا بوجھ اٹھا سکتا ہے۔"
اس کے برعکس، سوال یہ پیدا ہوتا ہے کہ کیا AI عملی طور پر کم اخلاقی فوجیوں کو اوپر سے پابندی لگا کر روک سکتا ہے۔
2024 میں، اسرائیلی-فلسطینی اشاعت +972 میگزین اور عبرانی زبان کے میڈیا آؤٹ لیٹ لوکل کال نے رپورٹ کیا کہ اسرائیلی فوج لیونڈر نامی AI کی مدد سے ہدف بنانے والے نظام کا استعمال کرتے ہوئے ہزاروں فلسطینیوں کو ممکنہ بمباری کے اہداف کے طور پر الگ تھلگ اور شناخت کر رہی ہے۔
اس میں غلطی کی شرح تقریباً 10 فیصد تھی۔ انسانی حقوق کے ماہرین اور قانونی ماہرین نے خبردار کیا کہ اس عمل سے بین الاقوامی انسانی قانون کی خلاف ورزی کا خطرہ ہے، بعض معاملات میں ہڑتال کی اجازت سے قبل انسانی نگرانی چند سیکنڈ تک کم ہو جاتی ہے۔
شوارز AI کے فوجیوں کو محدود کرنے کے قابل ہونے کے بارے میں اتنا ہی شکی ہے۔ "اگر کسی فوج کے پاس ایسا نظام ہے جو تشدد کو بڑھاتا ہے اور اسے تیز کرتا ہے، تو وہ ایسے نظام سے دستبردار نہیں ہوں گے جو کہے کہ 'نہیں، آپ کو ایسا نہیں کرنا چاہیے،'" انہوں نے کہا۔ "پہلے ہی ایک مسئلہ چل رہا ہے جسے پہلے ہی حل کرنے کی ضرورت ہے۔
"ایک AI نظام ایک غیر اخلاقی انسان پر اخلاقی فیصلہ ساز کے طور پر کام نہیں کرے گا۔"
