Robot Stereotip Georgia Tech Adalah Masa Depan AI, Bukan Rasisme

Bagi telinga yang peka dengan seminar khusus setelah sekolah dan keragaman, ini akan terdengar buruk, tapi kami ingin robot membuat penilaian cepat berdasarkan penampilan. Mengatasi prasangka adalah baik, tetapi ketidakmampuan untuk stereotip mengurangi kecerdasan - buatan dan sebaliknya. Alan Wagner, Ph.D., seorang ahli robotika di Georgia Tech, adalah pendukung utama teknologi stereotip. Dia berpendapat bahwa jenis logika ini tidak perlu diterapkan pada ras atau jenis kelamin, hanya situasi dan perilaku.

Dalam tes awal algoritma stereotipenya, Wagner melatih robot naif untuk membuat kesimpulan dari apa yang dilihatnya. Robot belajar dan menjadi perseptif, yang memungkinkan Wagner untuk mulai berpikir kritis tentang etika asumsi robot, terutama yang diprogram sebelumnya. Dia berbicara kepada Terbalik tentang pekerjaannya dan konsekuensinya.

Arahkan saya bagaimana eksperimen ini bekerja.

Robot berinteraksi dengan berbagai jenis individu - pemadam kebakaran, EMT, atau yang lainnya - tetapi tidak memiliki pengalaman sebelumnya dengan kategori individu ini. Pada dasarnya, ini adalah pengalaman belajar.

Idenya adalah untuk menunjukkan bahwa robot dapat menggunakan fitur persepsi dari individu untuk memprediksi kebutuhan mereka dalam hal penggunaan alat. Cara algoritma bekerja, kamera robot akan merasakan aspek berbeda dari apa yang tampak seperti individu - warna seragam mereka, misalnya, apakah mereka memiliki janggut, dan warna rambut mereka.

Ini juga akan mengajukan pertanyaan kepada mereka tentang seperti apa penampilan mereka. Tentu saja, mengajukan pertanyaan bukanlah yang ingin Anda lakukan di lapangan, tetapi persepsi robot sangat terbatas saat ini. Kami membutuhkan cara untuk memulai proses tentang belajar tentang seseorang. Orang tersebut akan memilih alat, dan kemudian robot akan memilih alat, dan seiring waktu robot akan mempelajari alat apa yang disukai setiap tipe orang.

Apakah Anda berharap robot mengetahui bahwa lencana berarti petugas polisi atau mantel reflektif yang berat berarti petugas pemadam kebakaran?

Kami agak mengharapkannya. Tetapi ada beberapa hal yang mengejutkan juga.Sebagai contoh, robot dengan salah mengenali bahwa janggut diprediksi dengan pemadam kebakaran - itu aneh, tetapi ketika Anda melihat data, itu tidak mengejutkan. Beberapa orang pertama yang berinteraksi dengannya adalah petugas pemadam kebakaran yang berjanggut. Jadi kami berpendapat perlunya keragaman persepsi, sebuah gagasan bahwa jika robot dapat melihat tipe individu yang besar dan sangat berbeda dalam suatu kategori, ia akan lebih baik mengembangkan dan memahami kategori tersebut.

Apakah Anda mengatakan robot otonom harus dilatih untuk mengatasi keanehan ini, jadi robot tidak akan berpikir jika orang ini memiliki janggut, ia pemadam kebakaran?

Benar. Sangat penting bagi kita untuk memperbaiki hal-hal ini. Sangat penting bahwa kita memiliki robot-robot ini yang bekerja dari beragam individu.

Seperti apa pembelajaran itu?

Itu akan memungkinkan robot untuk fokus pada hal-hal yang lebih baik menjadi ciri petugas pemadam kebakaran. Misalnya, seorang petugas pemadam kebakaran mungkin bahkan tidak mengenakan jaket. Robot kemudian akan melihat aspek-aspek lain dari pemadam kebakaran, mungkin sepatu bot, mungkin sarung tangan, mungkin helm. Itu akan berkata, “Baiklah orang ini aku s petugas pemadam kebakaran di lingkungan ini."

Jika Anda memiliki cukup banyak orang, itu mungkin bisa mengenali petugas pemadam kebakaran di api versus petugas pemadam kebakaran di pesta Halloween. Ini detail persepsi yang halus, seperti perbedaan antara kualitas jenis seragam, atau lingkungan kontekstual.

Selain mengasosiasikan jenggot dengan petugas pemadam kebakaran, seberapa sukses algoritma ini?

Ada dua hal yang kami benar-benar ingin lihat: Satu, apa yang dapat Anda lakukan dengannya? Jika robot dapat mengenali petugas pemadam kebakaran, apakah itu benar-benar membantu? Makalah menunjukkan bahwa itu memungkinkan Anda mempersempit pencarian Anda. Daripada melihat jenggot untuk warna rambut, mencari warna mata atau apa pun yang Anda cari, Anda bisa fokus pada fitur yang benar-benar penting. Apakah orang tersebut mengenakan mantel pemadam kebakaran? Itu bisa mempercepat proses.

Hal lain yang sangat kritis yang kami lihat adalah, bagaimana jika kategori yang diprediksi robot itu salah? Bagaimana hal itu berdampak pada Anda? Anda dapat membayangkan lingkungan pencarian dan penyelamatan bisa kacau balau: Anda mungkin bekerja dalam kondisi yang dipenuhi asap, robot mungkin tidak dapat memahami semuanya dengan sangat baik, mungkin ada kesalahan. Anda bisa membayangkan kasus yang lebih buruk, di mana robot berpikir orang itu adalah korban ketika dalam kenyataannya mereka adalah seorang pemadam kebakaran. Jadi ia mencoba menyelamatkan seorang pemadam kebakaran. Itu akan mengerikan. Kami ingin melihat di mana itu rusak, bagaimana itu rusak, fitur apa yang paling berdampak dan apa jenis kesalahan yang berbeda.

Anda dapat menggunakan pendekatan ini dengan cara yang berbeda - jika mereka tidak dapat melihat orang itu sama sekali, tetapi dapat melihat tindakan yang mereka lakukan. Jika saya dapat melihat orang yang memilih kapak, maka saya dapat memperkirakan mereka memiliki helm.

Bagaimana cara Anda mendekati robot untuk menilai konteks dan membuat prediksi?

Kami telah mencoba melihat beberapa jenis lingkungan yang berbeda - restoran, sekolah, dan panti jompo. Kami mencoba menangkap fitur tentang lingkungan dan objek apa yang ada di lingkungan, tindakan apa yang dipilih orang itu, dan seperti apa orang-orang di lingkungan itu, dan mencoba menggunakannya untuk membuat banyak prediksi sosial. Misalnya, di lingkungan sekolah, orang-orang mengangkat tangan sebelum berbicara. Jadi jika saya melihat aksi yang orang angkat tangan, objek apa yang akan saya lihat di lingkungan? Apakah saya berharap melihat papan tulis; apakah saya berharap melihat meja? Saya berharap melihat anak-anak.

Harapannya ada untuk menggunakan informasi ini. Jika robot melakukan prosedur evakuasi, ia akan melihat orang-orang seperti apa di sana dan di mana mereka berada.

Katakanlah ada robot yang datang ke pintu Anda dan berkata, "Tolong ikuti saya ke pintu keluar." Sesuatu yang tampaknya sederhana seperti itu sebenarnya sangat kompleks. Jika robot mengetuk pintu di gedung apartemen, Anda tidak tahu dengan siapa Anda akan berinteraksi. Bisa jadi anak berusia empat tahun, bisa jadi orang yang berusia 95 tahun. Kami senang robot menyesuaikan perilaku interaktifnya dengan tipe orang yang dilihatnya untuk menyelamatkan mereka. Kami mengambil beberapa pelajaran kontekstual ini dan mencoba mengembangkan aplikasi itu.

Apakah Anda menggunakan definisi serupa tentang "stereotip" untuk robot dan manusia, atau adakah yang lain terjadi?

Istilah stereotyping memiliki konteks negatif. Cara kami menggunakannya hanya untuk mengembangkan kategori orang, dan menggunakan informasi kategoris untuk memprediksi karakteristik seseorang. Saya tahu dalam psikologi, banyak pekerjaan yang berfokus pada stereotip wajah dan stereotip gender. Kami tidak melakukan hal seperti itu. Apakah prosesnya sama? Saya tidak tahu. Tidak ada ide.

Apakah Anda khawatir orang mungkin memiliki kesalahpahaman tentang pekerjaan Anda?

Beberapa tahun yang lalu, kami mengembangkan gagasan robot yang dapat menipu orang. Di media ada sedikit kesalahan persepsi bahwa ini akan menyebabkan robot mencuri dompet orang.

Saya ingin menggunakan situasi evakuasi darurat: Anda tidak selalu ingin sepenuhnya jujur ​​dengan seseorang dalam evakuasi, kan? Misalnya, jika seseorang bertanya kepada Anda, "Apakah keluarga saya baik-baik saja?" Bisa jadi mengerikan jika robot berkata, "Tidak, mereka semua mati. Tolong ikuti saya ke pintu keluar. ”Ada beberapa situasi di mana robot sebenarnya tidak jujur. Tetapi pengalaman saya adalah bahwa orang-orang merasa seperti kami berusaha untuk menuju akhir dunia.

Kami selalu tertarik pada aspek pro-sosial dari teknik robot-manusia ini. Kami berusaha membantu orang, bukan sesuatu yang buruk.