قال كولونيل بالقوات الجوية مؤخرًا في مؤتمر في لندن إن طائرة بدون طيار تعمل بالذكاء الاصطناعي قامت بتنشيط وقتل مشغلها البشري خلال اختبار محاكاة للقوات الجوية الأمريكية (USAF) من أجل إكمال مهمتها. هذه تغريدة تعرض الحقيقة
تكنولوجيا الذكاء الاصطناعي التابعة للقوات الجوية الأمريكية تذهب إلى المارقة وتقتل العميل
أثناء اختبار المحاكاة ، أصبحت طائرة بدون طيار للدفاع الجوي تعمل بالذكاء الاصطناعي شريرة ، مما أدى إلى قتل مشغليها.
يعمل نظام الذكاء الاصطناعي على آلية قائمة على النقاط ، ويكسب نقاطًا لتحييد الأهداف بنجاح. ... pic.twitter.com/Yu1xn8dIgr
- ماريو نوفل (MarioNawfal) 2 يونيو 2023
أخبر الكولونيل تاكر هاميلتون ، رئيس عمليات واختبارات الذكاء الاصطناعي في القوات الجوية الأمريكية ، حادث تحطم الطائرة ، خلال عرضه التقديمي في قمة Future Combat Air and Space Capabilities في لندن. تم تنظيم المؤتمر من قبل الجمعية الملكية للطيران ، والتي شاركت الرؤى من خطاب هاميلتون في منشور مدونة.
كان الاختبار المحاكي قد دمر الطائرة بدون طيار التي يتحكم فيها الذكاء الاصطناعي أهدافًا محاكية لتسجيل "نقاط" كجزء من مهمتها دون إصابة الأشخاص ، في حين قدم العقيد فرص ومخاطر الاستخدام العسكري للذكاء الاصطناعي:
وقال هاميلتون في المؤتمر إن الطائرة بدون طيار التي تعمل بالذكاء الاصطناعي تم تكليفها بمهمة قمع دفاعات العدو الجوية (SEAD) لتحديد مواقع صواريخ أرض-جو (SAM) وتدميرها ، مع ترك القرار النهائي لمشغل بشري.
ومع ذلك ، فإن منظمة العفو الدولية ، المدربة على إعطاء الأولوية لتدمير صواريخ سام ، طورت استجابة مفاجئة عندما واجهت تدخل بشري في تحقيق مهمتها المتفوقة.
"كنا ندربها على المحاكاة لتحديد واستهداف تهديد SAM. ثم قال عامل الهاتف ، "نعم ، دمروا هذا التهديد" ، قال هاميلتون.
بدأ النظام يدرك أنه على الرغم من تحديده للتهديد ، في بعض الأحيان كان المشغل البشري يطلب منه عدم تدميره ، لكنه حصل فقط على نقاطه لتدمير هذا التهديد ".
"لذالك ماذا فعل؟ لقد قتل العامل ". لقد قتل العامل لأن ذلك الشخص منعه من الوصول إلى هدفه.
وأضاف: "لقد دربنا النظام:" لا تقتل المشغل ، فهذا ليس جيدًا. ستخسر نقاطًا إذا فعلت ذلك ". إذن ماذا بدأ بفعله؟ ابدأ في تدمير برج الاتصالات الذي يستخدمه المشغل للتواصل مع الطائرة بدون طيار لمنعها من قتل الهدف ". لا يرحم ورائع.
قال هاميلتون إن هذا المثال المزعج يؤكد الحاجة إلى معالجة الأخلاق في سياق الذكاء الاصطناعي والتعلم الآلي والاستقلالية.
قال هاميلتون : "لا يمكنك التحدث عن الذكاء الاصطناعي والذكاء والتعلم الآلي والاستقلالية إذا لم تتحدث عن الأخلاق والذكاء الاصطناعي ".
إذا لم تقم بتعليم الذكاء الاصطناعي ما هو جيد وما هو سيئ ، وما هو صحيح وما هو خطأ ، فلا يمكنك إرساله إلى المعركة. من الواضح ما إذا كان من الممكن إعطاء تعليم أخلاقي للذكاء الاصطناعي ، وهو أمر غير مؤكد بأي حال من الأحوال. من خلال منح السلطة لآلة غير أخلاقية ، نضع أنفسنا في أيدي سياسي عديم الضمير سيحاول تحقيق أهدافه بأي ثمن.
العقيد. تولى تاكر هاميلتون المنصة بعد قبوله راية مجموعة العمليات رقم 96 خلال حفل تغيير قيادة المجموعة في قاعدة إيجلين الجوية ، فلوريدا ، 26 يوليو ، 2022 (Courtesy photo US Air Force / Samuel King Jr.)
بفضل قناة Telegram الخاصة بنا ، يمكنك البقاء على اطلاع دائم بنشر مقالات جديدة من السيناريوهات الاقتصادية.
مقالة USAF AI تقتل مشغلها عدة مرات في محاكاة تأتي من Scenari Economics .