Emulasi Otak Mengemukakan Tiga Pertanyaan Moral Besar-besaran dan Yang Praktis

Ada sekelompok ilmuwan yang percaya bahwa ketika tubuh manusia melengkung dan tanda-tanda vital memudar, pelupaan masih bisa ditahan. Keabadian adalah hal-hal fiksi, tetapi emulasi otak - kadang-kadang disebut sebagai "pengunggahan pikiran" - adalah hal-hal dari ilmu super spekulatif. Gagasan bahwa sistem saraf dapat dimodelkan dalam perangkat lunak sehingga kepribadian dapat dinyalakan (atau dinyalakan kembali) dalam perangkat keras bukanlah hal yang baru, tetapi ini lebih mungkin daripada sebelumnya ketika Tron memulai debutnya pada tahun 1981. Beberapa ahli saraf berpikir ini bisa terjadi dalam 50 tahun ke depan dan bahwa teknologi mungkin tiba sebelum kecerdasan buatan berfungsi penuh.

Ketika hal itu tiba, itu akan membawa sejumlah pertentangan moral dengannya. Dan taruhannya terlalu tinggi untuk menunggu untuk mempertimbangkan etika.

"Kami tidak ingin naik ke langit dengan setumpukan mayat," kata ahli saraf komputasi Anders Sandberg, yang bisa dibilang tokoh paling umum tentang emulasi otak, di Kongres Internasional Global Future 2045.

Bisakah kesadaran direplikasi?

Inti dari emulasi otak adalah teori bahwa kesadaran akan ditransfer dari otak anatomi ke model perangkat lunak. Dalam laporan "Emulasi Otak Utuh: Peta Jalan" Sanderg dan rekan peneliti Universitas Oxford Nick Bostrom menulis bahwa emulator otak akan "cukup detail dan benar untuk menghasilkan efek fenomenologis pikiran" - itulah pengalaman dan kesadaran, yang terlihat lebih dari pandangan filosofis dari apa pun.

Secara ilmiah, kesadaran dibuktikan oleh pola aktivitas listrik. Tetapi pada akhirnya lebih rumit dari itu; ada elemen metafisik. Hewan dan manusia, dalam beberapa konteks, dianggap sadar jika mereka menampilkan indera seperti perasaan, bangun, dan kesadaran diri. Tetapi sulit untuk berdiskusi lebih lama tentang kesadaran tanpa berbicara tentang jiwa.

Alih-alih melompat ke lubang kelinci apakah kesadaran digital dapat memenuhi teori identitas biologis atau psikologis, Michael Cerullo dari Brain Preservation Foundation berpendapat bahwa emulasi otak akan memaksa kita untuk menciptakan definisi baru kesadaran. Dalam sebuah makalah 2015, ia menggambarkannya sebagai "identitas bercabang psikologis," sebuah keadaan di mana "kesadaran akan berlanjut selama ada kontinuitas dalam struktur psikologis."

“Kami terdorong untuk menerima kemungkinan bahwa identitas pribadi dapat bercabang menjadi banyak salinan, masing-masing mempertahankan kesinambungan kesadaran dengan yang asli,” tulis Cerullo dalam jurnal Pikiran dan Mesin. "Kita berada pada titik unik dalam sejarah di mana kita perlu membuat keputusan tentang masa depan umat manusia berdasarkan pemahaman terbaik kita tentang filosofi pikiran dan kesadaran."

Tetapi apakah emulasi akan mereplikasi atau menjadi tuan rumah replikator? Ketika Anda berkedip setelah postingan, apakah itu masih Anda? Tidak ada cara untuk mengetahuinya.

Apakah kita baik-baik saja dengan membunuh banyak hewan uji?

Mengembangkan emulasi otak pasti akan membutuhkan penggunaan hewan uji. Sandberg memperkirakan bahwa upaya paling awal akan dilakukan pada hewan dengan sistem saraf yang jelas, seperti siput kolam dan lalat buah, dan kemudian beralih ke hewan lab vertebrata, seperti tikus. Sebenarnya wajar untuk alasan bahwa tikus akan menjadi makhluk pertama yang ditiru otaknya: Uni Eropa telah menginvestasikan lebih dari satu miliar Euro ke dalam Proyek Otak Manusia, yang mencoba sepenuhnya meniru otak tikus dan bagian otak manusia. pada tahun 2023.

Beberapa berpendapat bahwa biaya menggunakan hewan dalam eksperimen jauh lebih besar dari hasil ilmiahnya. Tetapi berhenti sejenak untuk mempertimbangkan apakah itu layak ketika eksperimen mungkin tidak menghasilkan apa-apa, itu penting. Sandberg menulis: “Teori tidak langsung berpendapat bahwa hewan tidak pantas mendapat pertimbangan moral, tetapi efek dari tindakan manusia terhadap hewan itu penting…. Tugas kita terhadap mereka hanyalah tugas tidak langsung terhadap kemanusiaan. ”

Apakah emisinya sama?

Ada argumen bahwa akan berharga untuk belajar bagaimana meniru otak, jadi penelitian di masa depan bisa dilakukan pada otak yang ditiru sebagai gantinya. Tetapi ini menimbulkan pertanyaan: Apakah persaingan membawa beban moral yang sama dengan hewan atau manusia “nyata”? Sementara dalam beberapa skenario emulasi otak adalah cara untuk memajukan kesadaran seseorang, di lain skenario itu menciptakan sub-spesies makhluk hidup.

Di Menjadi Tidak Ada, ahli neuroethic Thomas Metzinger mempertanyakan bagaimana emulasi otak manusia dapat terjadi tanpa secara serius melewati batasan etika. Dia menulis:

“Apa yang tidak dilihat oleh komite etika hari ini adalah bagaimana mesin pertama yang memenuhi serangkaian kendala minimal yang memadai untuk pengalaman sadar bisa seperti bayi yang mengalami keterbelakangan mental. Mereka akan menderita semua jenis defisit fungsional dan representasional juga. Tetapi mereka sekarang juga akan mengalami defisit itu secara subyektif. Selain itu, mereka tidak akan memiliki lobi politik - tidak ada perwakilan di komite etika mana pun."

Dan jika kita melakukan berhasil membuat emulasi otak, kita secara hipotetis bisa memaksa mereka bekerja untuk kita. Carl Shulman dari Machine Intelligence Research Institute memperkirakan bahwa pengembangan perangkat lunak cerdas yang dilengkapi dengan otak yang ditiru akan menggantikan tenaga manusia - dua kali lipat ukuran ekonomi, tetapi juga menurunkan upah manusia. Ini juga dapat menyebabkan beberapa praktik yang kacau.

“Perangkat lunak emulasi otak dapat diubah untuk meniru efek obat, bedah saraf, perubahan genetik, dan intervensi lainnya,” tulis Shulman. "Eksperimen dengan perubahan seperti itu kemungkinan akan membuat emulasi terganggu secara kognitif atau sakit mental pada kebanyakan kasus, tetapi dalam beberapa kasus mungkin menghasilkan peningkatan produktivitas."

Bisakah kita mengambil risiko?

Emulasi otak bisa menjadi tuan kita alih-alih pelayan kita. Dalam makalahnya, Shulman juga mengusulkan masa depan bahwa, jika proses teknologi tidak dikontrol dengan hati-hati, “replikasi dan evolusi pikiran yang cepat dapat menyebabkan kepunahan manusia.” Ini akan menjadi superorganisme seperti Johnny Depp's Will Caster di Transendensi - hyper-intelligent dan omnipresent.

Itulah kemungkinan masa depan mengunggah otak untuk tujuan kekuatan - dan hadapi saja, orang-orang yang ingin hidup selamanya terdengar megalomaniakal dengan curiga. Pada konferensi Transhuman Visions 2014, ilmuwan saraf Randal Koene mengatakan kepada gagak bahwa sebagai spesies apa yang kita butuhkan adalah untuk "efektif dan berpengaruh dan kreatif dalam lingkup yang jauh lebih besar." Yang masih harus dilihat adalah apakah perangkat tambahan manusia yang ada di bidang ini akibatnya berarti akhir umat manusia.