AI Lebih Baik dalam Kompromi Daripada Manusia, Menemukan Studi Baru

Mari kita hadapi itu. Sejak kecerdasan buatan pertama kali diimpikan, manusia telah takut pada hari ketika AI kita mengambil alih. Tetapi beberapa peneliti telah menguji kemampuan kecerdasan buatan untuk tidak adil bersaing dengan kemanusiaan, tetapi juga untuk berkolaborasi.

Dalam sebuah penelitian yang diterbitkan pada hari Kamis di Komunikasi Alam tim profesor ilmu komputer BYU, Jacob Crandall dan Michael Goodrich, bersama dengan rekan-rekannya di MIT dan universitas lain, menciptakan algoritma untuk mengajarkan kerja sama mesin dan kompromi.

Para peneliti memprogram mesin dengan algoritma yang disebut S # dan menjalankannya melalui sejumlah permainan dengan mitra yang berbeda - mesin-mesin, manusia-mesin, dan manusia-manusia - untuk menguji pasangan mana yang akan menghasilkan kompromi paling banyak. Mesin (atau setidaknya yang diprogram dengan S #), ternyata, jauh lebih baik dalam kompromi daripada manusia.

Tetapi ini mungkin lebih banyak berbicara tentang "kegagalan manusia", kata ketua peneliti Jacob Crandall Terbalik. "Peserta manusia kami memiliki kecenderungan untuk tidak loyal - mereka akan cacat di tengah-tengah hubungan kerja sama - dan tidak jujur ​​- sekitar setengah dari peserta kami memilih untuk tidak menindaklanjuti proposal mereka - pada titik tertentu dalam interaksi."

Mesin yang telah diprogram untuk menghargai kejujuran, di sisi lain, jujur. “Algoritma khusus ini belajar bahwa karakteristik moral baik. Itu diprogram untuk tidak berbohong, dan itu juga belajar untuk mempertahankan kerja sama begitu itu muncul, "kata Crandall.

Selain itu, penelitian ini menemukan bahwa strategi kerja sama tertentu lebih efektif daripada yang lain. Salah satunya adalah "pembicaraan murah", sinyal verbal sederhana yang menanggapi situasi tertentu, seperti "Manis." Kami menjadi kaya! "Atau" Saya menerima proposal terakhir Anda. "Atau, untuk menyatakan ketidaksenangan," Terkutuklah Anda! "" Anda akan membayar untuk itu! "Atau bahkan" Di wajah Anda!"

Terlepas dari jenis permainan apa yang sedang dimainkan atau siapa yang bermain, obrolan murah menggandakan jumlah kerja sama. Itu juga memanusiakan mesin, dengan pemain manusia sering tidak dapat mengetahui apakah mereka berinteraksi dengan mesin atau manusia.

Karena fokus penelitian ini adalah pada pengujian algoritma S #, salah satu kelemahan dari penelitian ini adalah bahwa ia tidak memperhitungkan perbedaan budaya di antara manusia yang mungkin mempengaruhi bagaimana populasi manusia yang berbeda dapat menggunakan atau menginterpretasikan strategi seperti pembicaraan murah, atau bagaimana banyak pemain manusia mungkin terlibat dalam penipuan atau ketidaksetiaan.

Presciently, dalam cerita pendek terakhir buku 1950 buku Isaac Asimov yang terkenal Saya robot - "The Evitable Conflict" - AI tuannya memang mengambil alih planet ini. Tetapi, karena mereka sangat masuk akal, dan diprogram dengan beberapa aturan etis yang tidak dapat dipatahkan, itu adalah hal yang baik bagi umat manusia. Dan, seperti yang ditunjukkan oleh penelitian ini, karena interaksi manusia berantakan dan rumit, mungkin, kita dapat mempercayai mesin. Dengan asumsi tentu saja, jika mereka telah diprogram untuk kejujuran.

Abstrak:

Sejak Alan Turing memimpikan kecerdasan buatan, kemajuan teknis sering diukur dengan kemampuan untuk mengalahkan manusia dalam pertemuan tanpa penjumlahan (mis., Catur, Poker, atau Go). Kurang perhatian telah diberikan pada skenario di mana kerja sama manusia-mesin bermanfaat tetapi non-sepele, seperti skenario di mana preferensi manusia dan mesin tidak sepenuhnya selaras atau sepenuhnya dalam konflik. Kerja sama tidak memerlukan kekuatan komputasi belaka, melainkan difasilitasi oleh intuisi, norma budaya, emosi, sinyal, dan disposisi pra-evolusi. Di sini, kami mengembangkan suatu algoritma yang menggabungkan algoritma penguatan-pembelajaran canggih dengan mekanisme pensinyalan. Kami menunjukkan bahwa algoritma ini dapat bekerja sama dengan orang-orang dan algoritma lainnya pada tingkat yang menyaingi kerja sama manusia dalam berbagai permainan stokastik berulang dua pemain. Hasil ini menunjukkan bahwa kerja sama manusia-mesin secara umum dapat dicapai dengan menggunakan seperangkat mekanisme algoritmik yang tidak sepele, tetapi pada akhirnya sederhana.