Pentagon Khawatir Tentang Robot Pembunuh Dari Cina dan Rusia

Bisakah kita memastikan keamanan nasional kita tanpa mengejar teknologi robot pembunuh? Pentagon tidak berpikir begitu.

Begitulah diskusi di Forum Keamanan Nasional Senin di Center for New American Security, sebuah think-tank D.C. yang berspesialisasi dalam masalah militer. Wakil Sekretaris Pertahanan Robert Work siap mengatakan bahwa umat manusia berada pada "titik belok" dengan kecerdasan buatan dan bahwa medan perang masa depan akan didominasi oleh pejuang mekanik otonom. Pekerjaan telah berbicara tentang perubahan teknologi besar yang terjadi di bawah kaki militer untuk sementara waktu sekarang. Dia tidak berbasa-basi.

"Kita tahu bahwa China sudah banyak berinvestasi dalam robotika dan otonomi dan Kepala Staf Umum Rusia Valery Vasilevich Gerasimov baru-baru ini mengatakan bahwa militer Rusia sedang bersiap untuk bertarung di medan perang yang dirampok dan dia berkata, dan saya kutip, 'Dalam waktu dekat, ada kemungkinan bahwa unit robot yang lengkap akan dibuat yang mampu melakukan operasi militer secara independen, '"Pekerjaan mengatakan kepada kerumunan yang semakin gugup. Info ini tidak banyak memadamkan rasa takut: Perusahaan di belakang tank Armata T-14 baru Rusia telah berjanji untuk menggelar pasukan prototipe robot tempur dalam dua tahun ke depan.

Pekerjaan yang diprediksi rezim otoriter secara alami akan condong ke arah desain otonom karena mereka secara filosofis memandang orang-orang dengan pemikiran independen sebagai mata rantai yang lemah. Logikanya tetap ada, tetapi pemikiran itu mengerikan, terutama dalam konteks setengah abad dari perang saudara yang bertempur dengan AK-47 buatan Rusia.

Ini bukan untuk mengatakan bahwa Amerika tidak tertarik untuk menambah senjatanya sendiri dengan AI. Pejabat Pentagon telah meramalkan beberapa pekerjaan yang mungkin akan lebih cocok untuk pembuat keputusan robot dalam waktu dekat, dari peperangan dunia maya dan lintas cakrawala -menangkap pertempuran di mana kecerdasan manusia akan terlalu lambat untuk bereaksi secara efektif, untuk memberi tahu pilot F-35 apa yang harus ditargetkan dan membantu operasi penerbangan dan pendaratan, hingga pemrograman drone dan kapal.

Terlepas dari cita-citanya yang demokratis, riset senjata otonom Amerika datang dengan serangkaian konsekuensi etika yang meresahkan yang membuat Elon Musk dan Stephen Hawking menyerukan larangan "robot pembunuh" musim panas ini. Pertanyaannya sangat besar Misalnya: Jika senjata otonom menerima perintah ilegal, akankah diprogram dengan etika untuk menolaknya? Itulah yang harus dipikirkan sebelum menjual bot yang dimuat.

Bisakah mesin melakukan kejahatan perang secara mandiri? Itu yang lain.

Pekerjaan menunjukkan perhatian nyata pada pertemuan tersebut, tetapi juga tidak memberikan wawasan tentang apakah rekan-rekan asingnya memiliki pendekatan moralistik yang sama atau tidak.