Asisten Robot Kami Belajar Berbohong dan Kita Harus Membiarkan Mereka

Robot berubah menjadi sahabat manusia yang sangat hebat. Siapa yang tidak ingin Lada kecil yang menggemaskan memberi tahu kami lelucon, memberi kami pujian, dan umumnya membuat kami merasa kurang sendirian di dunia? Bahkan robot tanpa bentuk terbukti menjadi perusahaan yang sangat baik. Ambil contoh Alexa dari Amazon Echo. Dia adalah otak robot dengan suara manusia yang terperangkap di dalam tubuh pengeras suara, tetapi dia sangat membantu dan jika Anda membaca ulasannya, jelas ia menjadi seperti keluarga bagi banyak pengguna. Apakah orang akan berpikir berbeda jika dia berbohong? Bagaimana jika dia memberi tahu Anda sesuatu yang Anda benar-benar tidak ingin dengar?

Pikirkan tentang hal ini: Kami memberi tahu anak-anak untuk tidak pernah berbohong dan bahwa kejujuran adalah kebijakan terbaik, namun kami mengabaikan, mengubah kebenaran, dan langsung berbohong kepada anak-anak sepanjang waktu. Ini mengajarkan mereka, melalui tindakan kami jika tidak melalui kata-kata kami, bahwa ini bukan tentang kejujuran total, tetapi tentang mempelajari aturan sosial yang rumit tentang kapan dan bagaimana cara mengungkapkan atau menyembunyikan informasi yang berpotensi sensitif. Memprogram robot untuk mematuhi aturan sosial ini mungkin merupakan bagian yang sulit tetapi perlu dari proses inovasi otomat yang sedang berlangsung.

Berikut ini sebuah contoh: Saya berada di rumah ipar saya akhir pekan lalu, dan saya pergi ke toko untuk mengambil beberapa roti isi sandwich untuk makan siang semua orang. Keponakan perempuan saya yang berusia enam tahun membantu saya mengeluarkan makanan sementara yang lain keluar dari dapur, dan dia bertanya berapa harga bahan makanan. Saya memberi tahu dia, karena mengajar anak-anak tentang nilai uang adalah hal yang baik.

Di meja makan siang, dia meminta saya untuk memberi tahu semua orang berapa harga bahan makanan. Aku berkata tidak."Kenapa?" Tanyanya, benar-benar bingung mengapa pertanyaan yang aku jawab dengan bebas beberapa menit sebelumnya sekarang adalah informasi rahasia. "Itu tidak sopan," kataku, menjelaskan itu, karena dia masih kecil, peraturannya berbeda ketika kita sendirian. Saya mengajarinya bahwa kejujuran dan keterbukaan memiliki waktu dan tempat. Informasi tidak, dalam konteks manusia, selalu ingin bebas.

Sama halnya dengan robot. Kami berpikir bahwa kami tidak ingin robot kami berbohong kepada kami, tetapi kami benar-benar ingin mereka mempelajari aturan sosial yang rumit tentang kesopanan dan kebijaksanaan yang kadang-kadang membutuhkan distorsi kebenaran. Dan mereka sudah belajar bagaimana melakukannya. Ambil klip singkat Pepper yang berinteraksi dengan reporter, misalnya:

Hal pertama yang keluar dari mulut Pepper adalah pujian: “Jadi, Anda sangat cantik. Apakah kamu seorang model?"

Wartawan itu cukup tampan, tetapi pertanyaan Pepper tidak sepenuhnya jujur. Kami memahami bahwa Pepper tidak benar-benar bertanya-tanya apakah ia seorang model, dan telah diprogram untuk mengatakan hal-hal baik terlepas dari seperti apa penampilan seseorang.

Segera setelah itu, Pepper meminta pinjaman, tiba-tiba. Itu adalah pertanyaan yang tidak sopan, sebuah ketidakpercayaan bahwa kita dengan mudah memaafkan robot seperti halnya kita seorang anak. Reporter itu dapat menunjukkan bahwa pertanyaannya kasar, menyarankan bahwa robot tidak membutuhkan uang, atau mengakui bahwa ia tidak tertarik menyerahkan $ 100 kepada Pepper. Seluruh kebenaran adalah reporter itu bisa pinjami robot itu uang, tetapi pahami bahwa pertanyaan itu sendiri adalah sedikit permainan. Apa yang dia pilih untuk katakan adalah pembelokan, dan kebohongan putih atau setengah kebenaran - dia tidak memiliki uang padanya. Harapannya adalah bahwa robot memahami ini sebagai "tidak," yang lembut dan tidak menyarankan agar reporter pergi ke mesin ATM dan melakukan penarikan. Karena Lada jelas memiliki rahmat sosial, garis pertanyaan berakhir di sana.

Robot sosial diprogram untuk mempelajari isyarat sosial, dan ini adalah hal yang baik - pada akhirnya akan membuat mereka lebih baik dalam pekerjaan kita. Tugas bagi pemrogram bukanlah untuk membasmi semua penipuan robot tetapi untuk menambahkan fitur yang memudahkan robot untuk membuat keputusan tentang jawaban yang tepat.

Ketika robot adalah orang kepercayaan kita, mereka harus memiliki kesadaran akan konteks dan audiens. Jika saya mencoba pakaian di rumah, misalnya, saya ingin penilaian jujur ​​tentang betapa tersanjungnya pilihan yang berbeda. Jika saya keluar di sebuah pesta dan tiba-tiba sadar bahwa saya telah memilih pakaian yang salah, kepastian bahwa saya terlihat baik-baik saja akan menjadi respons yang paling membantu.

Robot akan mempelajari banyak informasi pribadi tentang teman mereka, dan penting bagi mereka untuk memahami perbedaan antara informasi rahasia dan informasi publik, dan juga akan mengetahui siapa yang mendengarkan kapan pun ia berbicara. Pertanyaan akan memiliki jawaban yang berbeda tergantung pada siapa yang bertanya. Robot akan berperilaku berbeda saat tamu ada di rumah.

Robot, seperti anak-anak, membutuhkan pengasuhan yang bertanggung jawab. Ini berarti pemrogram robot dan pemilik robot perlu berpikir mendalam tentang konsekuensi etis dan sosial dari A.I kami. interaksi. Tapi itu tidak berarti menuntut kejujuran sempurna - serius, tidak ada yang menginginkan itu.