Pencipta 'Orang Ini Tidak Ada' Mengungkapkan Cerita Asal Usul Situsnya yang Mengerikan

Phillip Wang adalah insinyur perangkat lunak berusia 33 tahun yang bertanggung jawab untuk membuat situs web yang didukung oleh kecerdasan buatan Orang Ini Tidak Ada yang baru-baru ini menjadi viral. Setiap kali halaman di-refresh, sebuah algoritma yang dikenal sebagai generative adversarial network (GAN) (awalnya diberi kode oleh Nvidia) membuat potret hyper-realistis dari orang yang benar-benar palsu.

Aksi ini dirancang untuk menarik perhatian pada kekuatan A.I yang terus meningkat untuk menghadirkan gambar nyata yang sepenuhnya buatan. Tapi seperti yang diceritakan Wang Terbalik, aksi ini memiliki percabangan yang menyebar jauh di luar, "hei, lihat orang palsu ini." Dalam masyarakat di mana gambar dan gambar adalah pengganti standar untuk "bukti," GAN - dengan mengotomatisasi pekerjaan yang dulu membutuhkan kerja keras bagian dari ahli pencitraan - akan segera memungkinkan siapa pun untuk memberikan "bukti" bahwa setiap orang yang dibayangkan melakukan hal yang dapat dibayangkan.

"Pada dasarnya saya pada titik dalam hidup saya di mana saya akan mengakui bahwa kecerdasan super akan nyata dan saya perlu mencurahkan sisa hidup saya untuk itu," jelasnya. "Reaksi itu berbicara pada seberapa banyak orang dalam kegelapan tentang A.I. dan potensinya."

Situs itu menyentuh akord. Mantan insinyur perangkat lunak Uber mengatakan bahwa sejak diluncurkan, Orang Ini Tidak Ada telah dikunjungi sekitar 4,2 juta kali, tidak buruk untuk situs sekali saja yang awalnya diposting ke Grup Facebook yang tertutup. Wang awalnya menggunakannya sebagai cara untuk meyakinkan beberapa teman untuk bergabung dengan A.I. penelitian yang sedang dikerjakannya. Tetapi dalam satu hari, ia memutuskan audiens yang lebih luas dapat mengambil manfaat dari belajar tentang potensi GAN. Dia mengatakan reaksi menggemakan betapa pentingnya untuk memberi tahu orang-orang tentang bagaimana jenis teknologi ini bisa revolusioner dan berbahaya.

Mengapa Wajah Palsu Merupakan Terobosan Menakutkan

Situs Wang memanfaatkan algoritma Nvidia StyleGAN yang diterbitkan pada bulan Desember tahun lalu. Potensi, dalam pandangannya, berkisar dari membantu-tetapi-duniawi (berpikir: merampingkan implantasi mahkota gigi) ke yang lebih jauh, misalnya memungkinkan imajinasi molekul yang sama sekali baru untuk digunakan dalam obat masa depan. Tetapi teknologi revolusioner ini juga akan membuat penipuan dan informasi yang salah lebih mudah daripada sebelumnya.

Alasan penggunaan case sangat beragam adalah ada banyak, banyak cara untuk menerapkan GAN, yang dilatih dengan mengadu dua jaringan satu sama lain: generator dan diskriminator. Generator diberikan gambar nyata yang mencoba dibuat ulang sebaik mungkin, sementara pembeda belajar untuk membedakan antara gambar palsu dan aslinya. Setelah jutaan sesi pelatihan, algoritma mengembangkan kemampuan manusia super untuk membuat salinan gambar yang dilatih.

Ini adalah metode yang sama yang menciptakan deepfake, atau gambar yang dihasilkan komputer ditumpangkan pada gambar atau video yang ada, dan yang sering digunakan untuk mendorong narasi berita palsu atau tipuan lainnya.

Dan sementara Wang terpesona oleh inovasi yang akan membawa banyak bisnis, dia juga ingin orang lebih sadar akan potensi kerusakan yang ditimbulkannya.

Sebagai contoh, aktor jahat dapat menyebarkan video atau gambar yang dihasilkan GAN yang menggambarkan peristiwa palsu untuk menghasut kerusuhan, protes, atau reaksi yang berpotensi kekerasan lainnya secara online.

Karena semua proses otomatis, semua orang akan memerlukan akses ke berbagai unit pemrosesan grafis (GPU) atau kartu grafis - yang pembelajaran mesin kuat - dan set data gambar untuk mulai membuat palsu seperti jam.

Dalam jangka panjang, sementara StyleGANs mampu menciptakan gambar diam dari orang-orang yang tidak pernah ada, membuat gambar-gambar ini berbicara dan bergerak secara alami hanya beberapa langkah di luar itu. Untungnya, Wang mencatat bahwa hanya dengan diberi tahu tentang GAN akan membuat orang lebih mudah tertipu oleh mereka. Kesadaran yang meningkat akan memudahkan kita semua menikmati peningkatan grafik 3D dan obat-obatan yang mungkin akan ditimbulkan oleh StyleGAN.

“Saya hanya berharap demonstrasi saya meningkatkan kesadaran. Mereka yang tidak sadar adalah yang paling rentan terhadap teknologi ini, ”kata Wang. “Di sisi lain, A.I. benar-benar akan membawa banyak kebaikan ke dunia ini."

Email penulis: [email protected]