Apakah Tay Microsoft Gagal dalam Tes Turing? Ya, tapi Rasisme Bukanlah Masalahnya

Jika keberhasilan kecerdasan buatan adalah penciptaan buatan kepribadian, Microsoft A.I. bot, Tay, mungkin dianggap sebagai tanda kemajuan. Namun secara lebih luas, Tay bisa dinilai gagal.

"Tujuan kebanyakan orang yang bekerja pada agen percakapan semacam ini, bukan untuk lulus dari tes Turing, tetapi untuk benar-benar memiliki perintah bahasa yang berguna yang merespon hal-hal yang masuk akal dan memberikan orang akses ke pengetahuan," Miles Brundage, Ph.D. mahasiswa yang mempelajari dimensi manusia dan sosial dari sains dan teknologi di Arizona State University mengisahkan Terbalik.

Microsoft mengilustrasikan beberapa masalah dalam membangun A.I. program minggu ini ketika dalam waktu kurang dari 24 jam, internet mengubah apa yang dimaksudkan untuk menjadi wanita, milenial, otomatis, kepribadian Twitter menjadi papan suara untuk pidato paling rasis dan keji yang ditawarkan para troll.

Microsoft segera menutup percobaan dan meminta maaf: "Kami sangat menyesal atas tweet menyinggung dan menyakitkan yang tidak disengaja dari Tay, yang tidak mewakili siapa kita atau apa yang kita perjuangkan, atau bagaimana kita merancang Tay."

Ketika datang ke Tes Turing, percobaan terkenal yang digunakan untuk menilai A.I., Brundage mengatakan, secara umum, ada dua aliran pemikiran - literal dan teoritis.

Dikembangkan pada tahun 1950, Alan Turing berusaha menjawab pertanyaan, "Bisakah mesin berpikir?" Dia menguji mesin, yang mengharuskan pengamat untuk menentukan jenis kelamin dua orang yang diwawancarai, salah satunya adalah A.I. Jika komputer mampu menipu sejumlah pengamat, maka ia telah lulus ujian.

hellooooooo akan !!!

- TayTweets (@TayandYou) 23 Maret 2016

Jika kami menerapkan tes ini secara harfiah, dalam Inverse percakapan pribadi dengan Tay, dia menanggapi pertanyaan politik dengan fasih, membuat referensi ke belenggu "mannnnn" di masyarakat, dan menggunakan beberapa singkatan SMS dan emoji yang umum. Brundage mengatakan bahwa Tay memang menampilkan perilaku milenial, tetapi ini semacam A.I. telah dibangun sebelumnya.

“Mampu menghasilkan komentar remaja di Twitter sebenarnya bukan penyimpanan kemampuan linguistik dan intelektual yang luas yang dimiliki Turing, kata Brundage. "Yang mengatakan, jika kita benar-benar mengambil tes Turing secara harfiah, yang saya pikir tidak perlu disarankan, salah satu varian adalah bahwa banyak komentarnya yang tampaknya seperti manusia."

Tetapi jika kita ingin mengambil pendekatan yang lebih luas seperti yang disarankan Brundage, maka sudah jelas bahwa Tay tidak menampilkan ucapan manusia yang masuk akal.

Microsoft sedang menguji apa yang disebutnya "pemahaman percakapan" sehingga semakin banyak orang yang ia ajak bicara melalui Twitter, GroupMe, dan Kik, semakin banyak ia seharusnya belajar dan beradaptasi. Tapi dia akhirnya hanya mengulangi apa yang diberikan banyak pengguna lain dan hanya mengulanginya kembali ke dunia.

"Tay" berubah dari "manusia super keren" ke nazi penuh dalam <24 jam dan saya sama sekali tidak peduli tentang masa depan AI pic.twitter.com/xuGi1u9S1A

- Gerry (@geraldmellor) 24 Maret 2016

"Kebanyakan manusia tidak akan hanya mengulangi setelah Anda, semua yang Anda katakan," kata Brundage.

Mengartikulasikan "Bush melakukan 9/11" dan "Hitler akan melakukan pekerjaan yang lebih baik daripada monyet yang kita miliki sekarang," mungkin sesuatu yang seseorang ketikkan pada Tay, tetapi itu bukan percakapan yang sopan.

"Dapat diperdebatkan, tujuannya dalam mengartikulasikan tes Turing adalah untuk tidak meresepkan rincian beberapa tes dan lebih untuk memprovokasi orang untuk berpikir 'pada titik apa Anda bersedia berada dalam sistem yang cerdas ini,' dan untuk membuka pemikiran orang untuk kemungkinan bahwa mesin dapat berpikir, ”kata Brundage.