Cegah Kiamat Robot dengan Merenungkan Ini A.I. Pertanyaan tentang Moralitas

Ada pertanyaan dan skenario robotik moral yang harus dijawab agar kecerdasan buatan dapat berkembang.

Bayangkan ada robot yang mengendalikan poros ranjau dan menyadari ada gerobak yang diisi dengan empat penambang manusia yang berlari menuruni rel tanpa kendali. Robot dapat memilih untuk menggeser trek dan membunuh satu penambang yang tidak sadar, sehingga menyimpan empat di dalam gerobak, atau menjaga jejaknya seperti semula dan membiarkan keempat penambang berlari ke dinding dan mati. Yang mana yang akan Anda pilih? Apakah jawaban Anda akan berubah jika penambang itu seorang anak? Jika kami tidak dapat menjawab ini, bagaimana kami memprogram robot untuk membuat keputusan itu?

Itulah pertanyaan-pertanyaan yang diajukan kepada panelis dan hadirin pada acara World Science Festival di New York City yang berjudul “Matematika Moral Robot: Bisakah Keputusan Hidup dan Mati Diubah?” Sebagian besar memilih mengarahkan gerobak ke arah satu penambang dan mengubah orang tersebut. kepada seorang anak tidak mengubah pikiran banyak responden, tetapi itu tidak bulat dan keputusan moral manusia sering tidak.

Itu adalah contoh pedih dari perjuangan umat manusia akan menghadapi sebagai kecerdasan buatan terus maju dan kami mengatasi kemungkinan program robot dengan moralitas.

"Konsep seperti bahaya sulit diprogram," kata panelis Gary Marcus, seorang profesor psikologi dan ilmu saraf di NYU dan CEO dan salah satu pendiri Geometric Intelligence, Inc. Dia mengatakan konsep seperti keadilan tidak memiliki jalan pintas dan kering jawaban untuk program dan kami saat ini tidak memiliki moral yang baik untuk robot di luar Asimov's Laws, yang ditampilkan dalam film seperti Saya robot.

Dia mengatakan bahwa itulah tujuannya bergabung dengan panel, untuk memulai percakapan tentang bagaimana kita harus menangani moralitas robot.

Elon Musk minggu ini membahas kekhawatirannya tentang kecerdasan buatan, sejauh menyarankan kita semua hidup dalam semacam simulasi seperti Matriks dan bahwa manusia harus berinvestasi dalam renda saraf yang akan melekat pada otak dan meningkatkan kemampuan kognitif manusia. Futuris lain seperti Stephen Hawking telah memperingatkan bahaya A.I. dan minggu ini Matt Damon memperingatkan hal yang sama selama pidatonya di MIT.

Skenario lain termasuk sistem senjata otonom militer dan bagaimana kita akan secara moral dan filosofis berurusan dengan keputusan manusia di medan perang serta keputusan apa yang harus diambil oleh mobil otonom di masa depan yang tidak terlalu jauh.

Para panelis tidak mencapai konsensus tentang apa yang harus dilakukan, tetapi mengatakan ada manfaat besar bagi A.I. yang seharusnya tidak dibuang hanya karena pertanyaan-pertanyaan ini sulit. Mereka menyarankan untuk berbicara lebih banyak di tempat terbuka tentang pertanyaan poros ranjau moral semacam ini dan mungkin kita akan lebih dekat untuk mencegah kiamat robot.