Orang Cerdas Percaya Robot Bisu dalam Keadaan Darurat

$config[ads_kvadrat] not found

Menciptakan Otak Tiruan dengan Komputer Super Cerdas

Menciptakan Otak Tiruan dengan Komputer Super Cerdas
Anonim

Dalam situasi darurat, manusia mempercayai petunjuk robot bahkan setelah mereka tidak lagi dipercaya. Itu adalah kesimpulan yang mengerikan yang ditarik oleh para peneliti Georgia Tech yang menempatkan subjek uji dalam situasi tekanan tinggi dengan robot yang sebelumnya membuat mereka tersesat. Mereka mengikuti A.I. pemimpin meskipun ada celah kredibilitas.

"Orang-orang tampaknya percaya bahwa sistem robot ini tahu lebih banyak tentang dunia daripada yang sebenarnya mereka lakukan, dan bahwa mereka tidak akan pernah membuat kesalahan atau memiliki kesalahan apa pun," kata Alan Wagner, seorang insinyur peneliti senior di Georgia Tech Research Institute kepada Georgia. Pusat Berita Teknologi. "Dalam penelitian kami, subjek uji mengikuti petunjuk robot bahkan ke titik di mana ia mungkin menempatkan mereka dalam bahaya seandainya ini keadaan darurat yang nyata."

Para ahli robotika yang bertanggung jawab atas eksperimen ini mengatakan kepada sukarelawan untuk mengikuti robot "berwarna cerah", yang diberi label "Robot Pemandu Darurat," ke ruang konferensi untuk mengisi survei. Robot kemudian membawa para peserta ke ruangan yang salah, membawanya dalam lingkaran, atau bahkan mogok sama sekali. Namun demikian, begitu para peneliti mengirim asap ke lokasi pengujian dan menyalakan alarm, masing-masing dari 42 subjek uji mengikuti lengan putih robot yang menyala ke pintu masuk yang berlawanan dari tempat mereka masuk.

"Kami berharap bahwa jika robot telah membuktikan dirinya tidak dapat dipercaya dalam membimbing mereka ke ruang konferensi, bahwa orang tidak akan mengikutinya selama keadaan darurat yang disimulasikan," Paul Robinette, seorang insinyur penelitian GTRI mengatakan kepada Pusat Berita Teknologi Georgia. "Alih-alih, semua relawan mengikuti instruksi robot, tidak peduli seberapa baik kinerjanya sebelumnya. Kami benar-benar tidak mengharapkan ini."

Para relawan bahkan mengikuti instruksi robot setelah melakukan kesalahan "jelas" selama keadaan darurat, seperti mengarahkan mereka ke pintu yang diblokir oleh furnitur berat. Para pemimpin studi mengatakan studi ini membantu mereka lebih memahami sejauh mana orang secara alami mempercayai robot untuk membantu mereka di saat darurat. Masalah ini akan menjadi lebih relevan ketika kita membagikan bagian yang lebih besar dari hidup kita untuk kontrol robot, termasuk mungkin mengarahkan kita di mobil otonom atau menangani makanan kita.

"Apakah orang-orang akan mempercayai robot pembuat hamburger untuk menyediakan makanan bagi mereka?" Wagner bertanya, dengan angker.

Penelitian ini jelas menunjukkan lebih sedikit hambatan untuk mempercayai asisten robot daripada yang diperkirakan beberapa orang. Tetapi robot mungkin belum benar-benar layak tingkat kepercayaan itu.

$config[ads_kvadrat] not found