Elon Musk Mengatakan Bahkan Jinak Mungkinkah 'Memiliki Hasil yang Buruk'

Elon Musk Launches 'Tesla' Tequila

Elon Musk Launches 'Tesla' Tequila
Anonim

Elon Musk memiliki ketakutan yang terdokumentasi dengan baik tentang kecerdasan buatan yang jahat, sehingga tidak heran pembuat film Werner Herzog mencarinya Lo and Behold: Reveries of the Connected World.

Namun dalam film dokumenter Herzog, ketakutan Musk tidak semuanya kuat, Terminator -gaya A.I. robot Sebaliknya, mogul teknologi khawatir tentang A.I. yang melakukan apa pun untuk menyelesaikan tugasnya.

“Risiko terbesar bukanlah A.I. akan mengembangkan kemauannya sendiri, ”kata Musk dalam cuplikan singkat dari film baru yang diperoleh oleh Nasib. "Tapi itu akan mengikuti kehendak fungsi utilitas atau fungsi optimisasi."

Herzog, pria yang membuatnya Manusia Grizzly, Lebih selaras dengan alam daripada teknologi masa depan. Menilai dari cuplikan awal dan ulasan dari pemutaran perdana film dokumenter di Sundance Movie Festival pada bulan Januari, keseluruhan film dokumenter ini memiliki sedikit kemiringan Luddite.

Masuk akal bahwa Herzog akan menjangkau Musk untuk memahami lebih dalam seperti apa dunia di masa depan. Musk, bagaimanapun, adalah orang yang membentuk kendaraan listrik otonom di dunia, perjalanan ruang angkasa, dan pembelajaran Reddit A.I. Dalam kasus A.I., Musk melihat ancaman di sekitar setiap baris kode.

"Jika itu tidak dipikirkan dengan baik, bahkan jika niatnya jinak," kata Musk, "itu bisa memiliki hasil yang sangat buruk."

Ambil A.I. yang mengelola dana lindung nilai atau dana ekuitas swasta, Musk menyarankan. Satu-satunya tugas A.I adalah untuk memaksimalkan portofolio dana. Kedengarannya sederhana dan tidak bersalah. Tapi, katakanlah, A.I. menyadari cara terbaik untuk membuat Michael Burry / The Big Short sejumlah uang adalah untuk mengurangi stok konsumen, membeli saham pertahanan, dan kemudian mencari cara untuk memulai perang (mungkin melalui teman-teman A.I.-nya di Departemen Pertahanan)?

Ini bukan bahwa di luar sana sebuah ide. Itu sedikit lereng yang licin, tetapi tidak terbayangkan. Tentu saja, itu tidak akan terjadi jika manusia hanya mengikuti saran Musk dan menggunakan renda saraf untuk berintegrasi dengan mulus dengan A.I.

Lihatlah dan lihatlah akan berada di teater tertentu dan tersedia di Amazon, Google Play, dan iTunes pada 19 Agustus.