يناقش المجتمع العالمي بشكل حثيث الجانب الأخلاقي لقضية استخدام الروبوتات الحربية والتي هي، من الناحية النظرية، قادرة على الخروج من السيطرة والتحول إلى تهديد ضد صانعها.
لقد أصبحنا نواجه أكثر فأكثر حقائق تدل على التطور الملحوظ لأنظمة التحكم الذاتي القادرة على القتال دون مشاركة أو تدخل البشر. ويطلق الخبراء على مثل هذه الأنظمة بما يسمى LARS وتعني الروبوتات القاتلة المستقلة. ومن بين المجالات الواعدة، يذكر الخبراء العسكريون، تطوير أنظمة مراقبة بيوميمتيك تحت الماء والطائرات بدون طيار الصغيرة والمركبات البرية الثقيلة غير المأهولة... الخ.
وبرأي المحللون في البنتاغون فإن تطور المنتجات العسكرية هذه سوف يصل بحلول عام 2020 إلى مستوى "التحكم الذاتي الكامل" بدون تدخل من قبل الإنسان عند القيام بعمليات عسكرية، وبحلول عام 2030 سوف ينمو هذا المستوى ويتطور إلى حد أن الإنسان سيكون بمثابة العنصر الأضعف في هذه المنظومة.
المشكلة هي أنه لن تكون هناك مسؤولية قانونية مباشرة عن تصرفات هذه الآلات، هذا على الأقل ما أشار إليه البروفسور كريستوف هاينس ممثل المفوض السامي لحقوق الإنسان في الأمم المتحدة بالإضافة إلى عدد من الخبراء التابعين للجنة الدولية لمراقبة نشاط الروبوتات العسكرية. حتى أن منظمة حقوق الإنسان المعروفة "هيومن رايتس ووتش" أطلقت حملة خاصة بهذا الشأن تحت عنوان "أوقفوا الروبوتات القاتلة".
في حين أن المعارضين يردون على نشطاء حقوق الإنسان بالقول أن التقدم التقني لا يمكن إيقافه. وعلى العموم فإن ظهور الروبوتات القاتلة أمر مبرمج منذ نشوء البشر. وقد تميز عهد الجيوش الجرارة والحروب الشاملة بانخفاض كفاءة الجندي أثناء المعركة. ففي أثناء الحرب الروسية اليابانية كان المقاتل يصيب خصمه مرة واحدة بعد إطلاق عشرات الطلقات، وخلال الحرب العالمية الثانية تغيرت هذه النسبة وأصبحت، وفق بعض المعطيات، إصابة واحدة كل 10 آلاف طلقة.
أما الأمر يختلف تماماً بما يتعلق بالأنظمة الروبوتية التي قد بدأت تظهر نفسها على مستوى عال أثناء المعارك القتالية بالقدر الذي يسمح به هذا السلاح أو ذاك وجودة البرمجيات المرافقة وحالة الطقس. وكما يقولون "هدف واحد- طلقة واحدة"، وهذا سيؤدي إلى وقوع خسائر فادحة بين أفراد العدو، علماً أنه لن يشكل أي خطر على الجنود أنفسهم. وهنا لابد من الأخذ بعين الاعتبار إلى أن العيوب التقنية والعوامل البشرية يمكن أن تعتبر أسباباً محتملة لوقوع أعطال مأساوية. ولكن حتى في هذه الحالة فإن الدولة التي تتمتع بتطور تكنولوجي تحصل على ميزات هائلة وتفوق عسكري في أي مسرح للعمليات القتالية. ويعتقد الكثير من الخبراء أن هذه الميزة تحتاج إلى تنظيم قانوني، إليكم ما يقوله سيرغي موسكالوف المصمم والمهندس لبرامج Punto Swicher بهذا الشأن:
"علينا الاعتراف بقانونية ما هو موجود أصلاً. فإذا ما نظرنا فإننا سنجد بأنه هناك صواريخ موجهة تتخذ قراراتها الخاصة بنظام الطيران لوحدها وتتحكم بطريقة مواجهة منظومة الدفاع الصاروخية للعدو. كل هذه الصواريخ تعمل بشكل مستقل بعد إطلاقها".
في الحقيقة لا تزال هذه النظم بعيدة عن ما يسمى "بالذكاء الاصطناعي" ولكن الأمر أصبح خارج السيطرة وإن موضوع تصميم الروبوتات القاتلة المستقلة تماماً ليس إلاّ مسألة وقت. ولكن يحث الخبراء التركيز على القضايا ذات البعد الأخلاقي والفلسفي قبل أن يتم إنتاجها على نطاق واسع، وأن يسعى الإنسان جاهداً لإيجاد الأجوبة المنطقية على هذه القضايا من خلال إدراك وفهم ما يقوم به الإنسان نفسه.
فعلى سبيل المثال يشكك المحللون في أن النظام LARS قادر على تحديد هوية الشخص وجنسيته أثناء العمليات العسكرية ومعرفة فيما إذا كان هذا الشخص أو ذاك عسكرياً أم مدنياً، وهذا قلق طبيعي لأننا نحن البشر غالباً لا نكون قادرين على تقييم الأحداث بشكل صحيح. بالمناسبة لابد من أن نذكر هنا ازدياد الأعطال المأسوية أثناء استخدام الطائرات القتالية بدون طيار والتي سببها عدم تقييم وتقدير الحالة بشكل دقيق من قبل المشغلين لهذه الطائرات وتفسير المعلومات بشكل صحيح.
وهنا يعتقد مصممو الروبوتات المقاتلة أن استقلاليتهم الكاملة عن الإنسان هو أمر إيجابي وهدف رئيسي، وذلك لأن نظام LARS قادر على اتخاذ قرارات خلال مدة لا تتجاوز أجزاء من الثانية، في حين أن المشغل يحتاج إلى وقت أطول بكثير، وإن عدم وجود "العامل البشري" يقلل من احتمال حدوث أخطاء ويزيل أيضاً المشاعر الإنسانية كالخوف والكراهية. بعبارة أخرى فإن هذا النظام لن يعمل على تطبيق ما يسمى "بالسيناريو الأكثر ترجيحاً" كما يفعل الإنسان، وذلك لأنه وببساطة يتمتع بكمية من المعلومات تفوق بكثير المعلومات التي يتمتع بها الإنسان نفسه، ويبدو أن هذه هي الميزة الوحيدة لهذا النظام.
من ناحية أخرى في حال كان نظام LARS غير قادر على ارتكاب الأخطاء البشرية فإنه لن يتمتع بحرية الإرادة التي يتمتع بها الإنسان نفسه، فهذه الأنظمة المجردة من المشاعر الإنسانية هي أيضاً مجردة من الخبرة الإنسانية، والروبوتات مقيدة في إطار المعلومات التي تقدمها أجهزة الاستشعار الخاصة بها. ويعتقد البروفسور كريستوف هاينس قائلاً: "إن البشر حيوانات ضعيفة وغير كاملة ويمكنهم أن يتصرفوا بشكل غير إنساني، ولكنهم في الوقت نفسه قادرين أن الارتقاء عن الحد الأدنى المطلوب لتنفيذ الأوامر بالقتل، وأن الحرب بدون تردد هي عبارة عن مذبحة ميكانيكية".
الخطر الرئيسي من استخدام LARS هو انتهاك القواعد وأعراف الحرب. فعلى سبيل المثال لا يمكن للروبوتات توقع النتائج التي سيقوم بها الإنسان، وبالتالي سوف تفشل بالتعرف على التغير المحتمل في سلوك الخصم، فمثلاً إذا أراد الخصم خلال المعركة أن يستسلم، لن يفهم الروبوت هذا السلوك. والنتيجة هي أن الروبوتات سوف تقوم بقتل الجرحى وأولئك الذين استسلموا وسلموا أسلحتهم، ويجب علينا أن لا ننسى بأن هذه الآلات على الرغم من أنها خالية من مشاعر الكراهية إلا أنها خالية أيضاً من مشاعر الشفقة.
يسعى العلماء منذ فترة طويلة لغرس القيم الثقافية للحاسوب الآلي، ويحاولون إيجاد الجواب على سؤال حول إمكانية الآلة القيام بنشاط وتقييمه من وجهة النظر الأخلاقية، لكن دون جدوى. ويمكننا هنا أن نتذكر القوانين الثلاثة الشهيرة التي أصاغتها أيزيكا أزونوفا والتي تفرض في واقع الأمر شبكة من إحداثيات أخلاقية على سلوك الروبوتات، لكن المصممون هنا يواجهون تناقض أساسي وهو أن الإنسان نفسه حتى الآن لا يعرف نفسه تماماً.
فمنذ عدة سنوات نشرت المجلة الدولية للأنظمة الذكية المستندة على المنطق مقالة، لفت مؤلفيها انتباه الرأي العام إلى مسألة أطلق عليها اسم العربات. حيث قام العلماء بتصميم معضلة أخلاقية نموذجية تحاول ايجاد الجواب على سؤال وهو هل هناك إمكانية لإلحاق الضرر بشخص واحد أو عدة أشخاص لإنقاذ حياة الآخرين.
أطلق على إحدى هذه التجارب اسم "الشاهد"، وتحكي هذه التجربة أنه هناك عربة يتم سحبها إلى الأعلى من النفق عبر حبل آلي. وعندما تصل العربة إلى الحد الأقصى من المكان المراد الوصول إليه ينقطع الحبل وتعود العربة هابطة بسرعة فائقة، لكنها تواجه في طريقها خمسة أشخاص لا يمكنهم الهروب منها. ومع ذلك لكن هناك إمكانية تغيير مسار سكة العربة إلى سكة احتياطية، لكن في هذه الحالة سوف يلقى ستة أشخاص مصرعهم مع العلم أنهم لا يعرفون ماذا يحدث وليس لديهم الوقت لقراءة ما يجري. معظم المشاركين في هذا البحث أكدوا على ضرورة أن يتم تغيير مسار العربة مضحيين بأشخاص من أجل أشخاص آخرين.
أطلق على التجربة الثانية اسم "جسر المشاة"، وهي تحكي عن الحالة نفسها تماماً التي واجهتنا في تجربة "الشاهد"، والفارق هنا هو أنه لا يوجد طريق احتياطي، ووجود إنسان يقف على جسر فوق السكة التي تمر منها هذه العربة بسرعة. الحل هو إما في دفع الشخص إلى الأسفل ليصبح أمام العربة ويقوم بإيقافها. أو عدم القيام بذلك، وقتئذ تقوم العربة بدعس الأشخاص الخمسة. في هذه الحالة كان حكم الأغلبية العكس تماماً، فقد اعتبر المشاركون أن التضحية بشخص واحد أمر غير مقبول من أجل خمسة.
ويؤكد واضعو التجارب إلى أنه في حالات مماثلة وفي عدد مماثل من الضحايا والناجين يتخذ الإنسان قرارين متناقضين تماماً وذلك لأن العامل الأخلاقي والظروف المحيطة بالحدث هي التي تلعب الدور الرئيسي. لكن السؤال الذي يطرح نفسه هنا: كيف يمكن تدريس وتعليم وبرمجة الآلة لتفكر مثل الإنسان. إليكم ما يقوله ستيبان سولاكشين مدير عام المركز العملي للفكر السياسي العلمي:
"هذه القضية هي قبل كل شيء للإنسان فقط وهو الذي يقرر البعد الأخلاقي في قراره بشأن حرمان شخص ما من الحياة. أما الخطوة التالية تأتي باستخدام مجموعة متنوعة من الأجهزة التقنية، مع العلم أنه حتى الآن لم يتم تسوية بعض المسائل مثل الإجهاض وعقوبة الإعدام والموت الرحيم.
أعتقد أنه من السابق لأوانه أن نجد حلاً لتعليم الآلة القيم الأخلاقية وما تزال هذه القضية مجال للمناقشات، وهذه ليست المرة الأولى التي يتم فيها الجدل حول الجانب التقني لهذه المشكلة.
يبدو لنا أن النهج العام للمسألة يكمن في أن الإنسان ينبغي أن يكون أكثر إنسانية. فالتحدي الجديد الذي يواجه البشرية والذي يكمن في السماح للأجهزة التقنية الإيعاز بقرار العفو أو المعاقبة هو أمر في غاية الأهمية. والحل كما أعتقد في وضع سقف من المعايير الإنسانية حتى في قضايا الحدود والمسائل المثيرة للجدل".
الواضح أن معظم الأشياء مرتبطة بالإنسان نفسه، وعليه هو الاجابة على أسئلة عديدة منها كيف يمكن أن يكون شكل الروبوتات بشكل عام، والروبوتات العسكرية بشكل خاص، علماً أنها مثلها مثل أي سلاح آخر لا تشكل أي تهديد. الخطر ينبع من الشخص نفسه، وكل شيء يقوم بتصميمه بيده يمكن استخدامه بنفس الكفاءة، إما من أجل القتل والموت أو من أجل الحياة، والربوتات هنا ليست استثناء.
منقول من اذاعة صوت روسيا
موضوع: الروبوتات القاتلة - أبطال أم تهديد؟ 
الأربعاء 30 أكتوبر 2013 - 18:16
