Proyek OpenAI Elon Musk Mengidentifikasi 4 Masalah Besar untuk AI

Sebagian besar masalah yang dapat dihasilkan dari kecerdasan buatan yang semakin canggih jauh lebih halus daripada SkyNet, tetapi itu tidak berarti A.I yang lebih pintar. tidak datang tanpa risiko.

Itulah sebabnya Elon Musk dan petinggi Lembah Silikon lainnya membentuk AI Terbuka, sebuah kelompok yang ditujukan untuk memecahkan masalah dengan A.I. sebelum mereka dapat menyebabkan kerusakan nyata. Grup itu disebut OpenAI, dan mereka mencari bantuan untuk masalah ini.

"OpenAI adalah perusahaan riset kecerdasan buatan nirlaba," kata kelompok itu di halaman Tentang. "Tujuan kami adalah untuk memajukan intelijen digital dengan cara yang paling mungkin bermanfaat bagi umat manusia secara keseluruhan, tidak dibatasi oleh kebutuhan untuk menghasilkan pengembalian finansial."

Sebuah posting pekerjaan yang disamarkan sebagai posting blog berjudul "Proyek khusus" menguraikan empat "proyek" seperti masalah yang memiliki "implikasi yang sangat luas" atau yang membahas "konsekuensi penting yang muncul dari pengembangan AI." Dan kemudian penulisnya - Ilya Sutskever, Dario Amodei, dan Sam Altman - mengundang ahli pembelajaran mesin yang kuat untuk "memulai upaya pada salah satu masalah ini di OpenAI." Cukup kirimkan aplikasi, mereka bertanya. Inilah empat masalah besar yang dihadapi kecerdasan buatan:

Menemukan sistem AI rahasia.

Apa yang lebih buruk dari A.I yang sangat pintar yang bisa digunakan untuk tujuan yang salah? A.I. yang sangat cerdas yang sudah digunakan untuk tujuan yang salah tanpa ada yang mengetahuinya. "Ketika jumlah organisasi dan sumber daya yang dialokasikan untuk penelitian AI meningkat, probabilitas meningkat bahwa organisasi akan membuat terobosan AI yang tidak diungkapkan dan menggunakan sistem untuk tujuan yang berpotensi berbahaya," tulis tim OpenAI dalam posting blognya. “Tampaknya penting untuk mendeteksi ini. Kita dapat membayangkan banyak cara untuk melakukan ini - melihat berita, pasar keuangan, game online, dll."

Membangun A.I. yang bisa memprogram.

Beberapa programmer terbaik malas. Jadi masuk akal jika OpenAI ingin membuat A.I. mampu membuat program sendiri. Lebih baik menghabiskan waktu membuat A.I. cukup pintar untuk mengkodekan apa pun yang mungkin Anda butuhkan di masa depan daripada mengkodekan semua hal itu sendiri. Ini tahun 2016, untuk menangis dengan suara keras, dan coders perlu istirahat!

Menggunakan A.I. untuk pertahanan dunia maya.

“Penggunaan awal AI adalah untuk membobol sistem komputer,” tulis OpenAI. "Kami ingin teknik AI untuk mempertahankan diri dari peretas canggih yang banyak menggunakan metode AI." Itu terdengar bagus, terutama karena MIT memperingatkan A.I. bergantung pada manusia untuk melindungi dari serangan siber.

Membuat simulasi yang sangat kompleks.

“Kami tertarik untuk membangun simulasi yang sangat besar dengan banyak agen berbeda di dalamnya yang dapat berinteraksi satu sama lain, belajar dalam jangka waktu yang lama, menemukan bahasa, dan mencapai beragam tujuan,” tulis tim OpenAI.

Oh ayolah. Sekarang kalian hanya mencoba membuktikan Musk benar tentang kita hidup dalam simulasi.