OpenAI Elon Musk Dapat Berotot untuk Penelitian Kecerdasan Buatan yang Aman

Selama akhir pekan, Elon Musk, Sam Altman, dan petinggi Silicon Valley lainnya secara tak terduga mengumumkan peluncuran OpenAI, sebuah perusahaan nirlaba yang menggambarkan tujuannya sebagai: "untuk memajukan kecerdasan digital dengan cara yang paling mungkin menguntungkan umat manusia secara keseluruhan, tidak dibatasi oleh kebutuhan untuk menghasilkan pengembalian keuangan."

“Karena penelitian kami bebas dari kewajiban finansial, kami dapat lebih fokus pada dampak positif manusia. Kami percaya A.I. harus menjadi perpanjangan dari kehendak manusia secara individu dan, dalam semangat kebebasan, seluas dan seterata mungkin. ”

Ada dua takeaways utama dari pengumuman ini. Yang pertama adalah Musk dan perusahaan melihat A.I. penelitian saat ini karena terlalu sempit berfokus pada pencapaian nilai praktis jangka pendek, dan mereka ingin membantu mendorong upaya yang mengambil pendekatan yang lebih luas, komprehensif untuk mengembangkan A.I. sistem. Yang kedua, takeaway terselubung adalah bahwa Musk masih khawatir tentang potensi A.I. untuk membahayakan jika kita mengembangkan dan memperkenalkan sistem setengah matang. Musk sebelumnya disebut A.I. "Ancaman eksistensial terbesar kami" dan menyarankan bahwa pengawasan regulasi mungkin diperlukan untuk mencegah potensi bahaya. OpenAI bisa menjadi cara menyediakan pengawasan itu tanpa perlu pengawas federal.

Apa yang dilakukan Musk dan rekan-rekannya itu berbeda dari apa yang dilakukan orang lain. Bagaimanapun, open source A.I. bukan hal yang baru. Google membuat A.I. mereka sendiri perangkat lunak open source bulan lalu dan ini telah menjadi prosedur yang cukup standar. Tetapi dengan dana abadi $ 1 miliar, OpenAI sudah menjadi salah satu organisasi terbesar yang mengerjakan A.I. penelitian, dan cukup mudah nirlaba terbesar. Tujuannya adalah untuk membuat hasilnya tersedia untuk umum dan semua patennya bebas royalti. Mereka memiliki wortel dan tongkat dan mereka bermaksud menggunakannya untuk mengendalikan suatu industri.

Idenya adalah untuk menggunakan OpenAI sebagai semacam penyeimbang untuk perusahaan besar, laboratorium penelitian swasta, dan bahkan pemerintah dunia yang memiliki jumlah uang dan sumber daya yang luar biasa untuk dituangkan ke dalam A.I. mereka sendiri. penelitian yang mungkin tidak ditujukan untuk tujuan ramah, dan malah bisa mengarah pada teknologi dengan aplikasi jahat. Para peneliti yang bekerja dengan OpenAI pada dasarnya akan mengejar A.I. ‘yang bersahabat, tanpa tekanan untuk menunjukkan hasil langsung. Mungkin ada pertimbangan yang lebih besar untuk fitur keselamatan dan desain yang cenderung diabaikan oleh bisnis swasta. Tidak akan ada menara putih di mana hanya beberapa pilih mengendalikan jalur A.I. pengembangan. Ini akan menjadi dunia sambutan bagi semua orang.

Dalam sebuah wawancara dengan Backchannel, Musk juga menekankan keinginan untuk membuat berbagai macam A.I. sistem. “Kami menginginkan A.I. untuk menyebar luas, ”katanya. "Kami pikir mungkin banyak yang baik."

Itu penting, karena mungkin menjadi alasan utama Musk dan Altman ingin mendemokratisasi A.I. Mereka percaya jenis A.I. terbaik. - jenis yang akan bermanfaat bagi umat manusia dengan cara yang positif tanpa membuat robot tuan - adalah jenis yang bertindak sebagai "perpanjangan dari kehendak individu manusia," seperti yang dikatakan Musk. Dia melanjutkan dengan mengatakan:

“Seperti dalam A.I. perpanjangan diri Anda, sehingga setiap orang pada dasarnya simbiosis dengan AI sebagai lawan dari AI yang menjadi pusat kecerdasan besar yang semacam lain. Jika Anda berpikir tentang bagaimana Anda menggunakan, katakanlah, aplikasi di internet, Anda punya email dan media sosial dan aplikasi di ponsel Anda - mereka secara efektif menjadikan Anda manusia super dan Anda tidak menganggapnya sebagai sebagai orang lain, Anda menganggap mereka sebagai perpanjangan dari diri Anda sendiri. Jadi sejauh kita dapat memandu AI ke arah itu, kita ingin melakukan itu. Dan kami telah menemukan sejumlah insinyur dan peneliti yang berpikiran sama di bidang AI yang merasakan hal yang sama."

Pada dasarnya, visi OpenAI untuk A.I. penelitian adalah komunitas terdesentralisasi yang membantu menghubungkan manusia satu sama lain dan dengan dunia itu sendiri.

Musk belum menguraikan bagaimana mereka akan mencegah penelitian di dalam OpenAI sendiri - atau digunakan kembali oleh kelompok-kelompok luar - agar tidak mengarah ke arah yang berbahaya. Dan ada hal lain yang patut dicatat di sini: Sistem open source hanya masuk akal jika data yang digunakan untuk membangun algoritma pembelajaran mesin dibagikan secara bebas. Harus ada sistem yang cerdas belajar bagaimana menjadi cerdas, dan untuk itu melakukannya, perlu belajar dari data dan pengalaman. Ini seperti membangun bendungan - Anda membutuhkan cetak biru (algoritme) dan bahan bangunan (data) untuk benar-benar membuat sesuatu yang akan menghentikan air.

Itu sebabnya orang masih terbatas dalam apa yang dapat mereka lakukan dengan Google TensorFlow - mereka belum memiliki data yang Google miliki. Dan kecuali jika kolaborasi yang dibangun dari OpenAI memungkinkan akses gratis ke data yang sama dengan yang sedang dilakukan oleh para peneliti in-house, visi Musk tidak perlu diwujudkan - atau setidaknya tidak dengan cara dia mempromosikannya.

Musk, Altman, dan pendiri OpenAI lainnya telah memulai sesuatu yang akan memiliki pengaruh luar biasa pada pertumbuhan A.I. mulai sekarang. Pada saat yang sama, mereka perlu terus terang dalam komitmen mereka untuk membina komunitas riset open source, yang berarti menjadi publik tentang rencana mereka untuk perusahaan nirlaba, dan bersedia untuk berbagi data. Kalau tidak, OpenAI tidak akan jauh berbeda dari perusahaan kawanan yang dirancang untuk digembalakan.