Mengapa Kami Masih Memercayai Amazon? Bagaimana Raksasa Teknologi Besar Gagal Melindungi Masyarakat

Amazon mungkin telah mengharapkan banyak perhatian publik ketika mengumumkan di mana ia akan mendirikan kantor pusat baru - tetapi seperti banyak perusahaan teknologi baru-baru ini, mungkin tidak mengantisipasi seberapa negatif tanggapannya. Di wilayah Amazon yang dipilih di New York dan Virginia, politisi lokal menolak keras godaan yang didanai pembayar pajak yang dijanjikan kepada perusahaan. Para jurnalis di seluruh spektrum politik mendukung kesepakatan itu - dan media sosial dipenuhi dengan suara warga New York dan Virgin yang menjanjikan perlawanan.

Demikian pula, wahyu bahwa Facebook mengeksploitasi teori konspirasi anti-Semit untuk melemahkan legitimasi para pengritiknya menunjukkan bahwa alih-alih berubah, Facebook lebih suka menyerang. Bahkan ketika Amazon dan Apple melihat nilai pasar saham mereka secara singkat mencapai $ 1 triliun, para eksekutif teknologi diseret ke hadapan Kongres, berjuang untuk secara koheren mengambil sikap terhadap kebencian, terjebak menutupi kesalahan seksual, dan melihat karyawan mereka sendiri memprotes kesepakatan bisnis.

Di beberapa kalangan ini dipandang sebagai hilangnya kepercayaan publik terhadap perusahaan-perusahaan teknologi yang berjanji untuk membentuk kembali dunia - secara sosial, lingkungan, dan politik - atau setidaknya sebagai frustrasi dengan cara perusahaan-perusahaan ini mengubah dunia. Tetapi perusahaan teknologi perlu melakukan lebih dari sekadar mendapatkan kembali kepercayaan publik; mereka perlu membuktikan bahwa mereka layak mendapatkannya di tempat pertama - yang, ketika ditempatkan dalam konteks sejarah kritik teknologi dan skeptisisme, mereka tidak melakukannya.

Memalingkan Diri Dari Masalah

Perusahaan-perusahaan teknologi besar biasa membingkai proyek-proyek mereka dalam bahasa yang samar-samar utopis, terdengar positif yang mengaburkan politik dan kebijakan publik, melampaui keberpihakan dan - dengan mudah - menghindari pengawasan. Google dulu mengingatkan para pekerjanya: "Jangan jahat." Facebook bekerja untuk "membuat dunia lebih terbuka dan terhubung." Siapa yang bisa menolak idealisme itu?

Para sarjana memperingatkan tentang bahaya platform seperti ini, jauh sebelum banyak pendiri mereka bahkan lahir. Pada tahun 1970, kritik sosial dan sejarawan teknologi Lewis Mumford meramalkan bahwa tujuan dari apa yang disebutnya "komputer" adalah "untuk melengkapi dan memproses jumlah data yang tak terbatas, untuk memperluas peran dan memastikan dominasi sistem tenaga. ”Pada tahun yang sama esai mani oleh pemikir feminis Jo Freeman memperingatkan tentang ketidakseimbangan kekuatan yang melekat yang tetap ada dalam sistem yang tampaknya membuat semua orang setara.

Demikian pula, pada tahun 1976, ilmuwan komputer Joseph Weizenbaum meramalkan bahwa dalam beberapa dekade ke depan orang akan menemukan diri mereka dalam keadaan tertekan karena mereka menjadi semakin bergantung pada sistem teknis buram. Peringatan serupa yang tak terhitung jumlahnya telah dikeluarkan sejak itu, termasuk beasiswa penting baru-baru ini seperti eksplorasi informasi sarjana Safiya Noble tentang bagaimana pencarian Google mereplikasi bias ras dan gender dan sarjana media Siva Vaidhyanthan menyatakan bahwa "masalah dengan Facebook adalah Facebook."

Perusahaan-perusahaan teknologi itu kuat dan kaya, tetapi hari-hari mereka menghindari pengawasan mungkin berakhir. Publik Amerika tampaknya mulai curiga bahwa raksasa teknologi itu tidak siap, dan mungkin tidak mau, untuk memikul tanggung jawab atas alat yang mereka keluarkan ke dunia.

Setelah pemilihan presiden AS 2016, kekhawatiran tetap tinggi bahwa pemerintah Rusia dan asing lainnya menggunakan platform media sosial yang tersedia untuk menabur perselisihan dan ketidakpuasan dalam masyarakat di seluruh dunia.

Facebook masih belum menyelesaikan masalah dalam privasi data dan transparansi yang menyebabkan skandal Cambridge Analytica. Twitter adalah megafon pilihan untuk Presiden Donald Trump dan rumah bagi sejumlah pidato kebencian yang mengganggu. Masa depan kantor-kantor perusahaan Amazon membentuk menjadi perkelahian multi-sisi di antara pejabat terpilih dan orang-orang yang mereka wakili.

Apakah Itu Ketidaktahuan atau Kenaifan?

Melihat situasi saat ini dengan sejarah kritik teknologi dalam pikiran, sulit untuk tidak menyimpulkan bahwa perusahaan teknologi pantas menerima krisis yang mereka hadapi. Perusahaan-perusahaan ini meminta orang-orang untuk mempercayakan email, data pribadi, riwayat pencarian online, dan informasi keuangan kepada mereka, hingga banyak dari perusahaan-perusahaan ini dengan bangga mengatakan bahwa mereka mengenal individu lebih baik daripada yang mereka kenal. Mereka mempromosikan sistem terbaru mereka, termasuk "speaker pintar" dan "kamera pintar," berusaha untuk memastikan bahwa setiap momen pengguna - dan momen tidur juga - dapat dipantau, memasukkan lebih banyak data ke dalam algoritme penghasil uang mereka.

Namun nampaknya tak terhindarkan perusahaan-perusahaan ini terus menunjukkan betapa tidak layaknya kepercayaan mereka sebenarnya, membocorkan data, berbagi informasi pribadi, dan gagal mencegah peretasan, karena mereka perlahan-lahan mengisi dunia dengan techno-paranoia yang mengganggu yang pantas untuk episode “Black Mirror"

Tanggapan perusahaan teknologi untuk setiap wahyu baru sesuai dengan pola standar: Setelah skandal muncul, perusahaan yang terlibat menyatakan kekhawatiran bahwa ada yang tidak beres, berjanji untuk menyelidiki, dan berjanji untuk melakukan yang lebih baik di masa depan. Beberapa waktu - berhari-hari, berminggu-minggu, atau bahkan berbulan-bulan - kemudian, perusahaan mengungkapkan bahwa skandal itu adalah akibat langsung dari bagaimana sistem itu dirancang, dan mengeluarkan seorang eksekutif yang kecewa untuk mengungkapkan kemarahan pada penggunaan destruktif orang-orang jahat yang ditemukan dalam sistem mereka, tanpa mengakui bahwa masalahnya adalah sistem itu sendiri.

Zuckerberg sendiri mengatakan kepada Senat AS pada bulan April 2018 bahwa skandal Cambridge Analytica telah mengajarinya "kita memiliki tanggung jawab untuk tidak hanya memberikan alat kepada orang-orang, tetapi untuk memastikan bahwa alat-alat itu digunakan untuk kebaikan." Itu pelajaran yang cukup mendasar untuk dilewatkan keluar sambil menciptakan perusahaan multi-miliar dolar.

Membangun Kembali Dari Yang Tersisa

Menggunakan teknologi apa pun - dari pisau hingga komputer - membawa risiko, tetapi karena sistem teknologi meningkatkan ukuran dan kompleksitasnya, skala risiko ini cenderung meningkat juga. Sebuah teknologi hanya berguna jika orang dapat menggunakannya dengan aman, dengan cara di mana manfaatnya lebih besar daripada bahayanya, dan jika mereka dapat merasa yakin bahwa mereka memahami, dan menerima, potensi risiko. Beberapa tahun yang lalu, Facebook, Twitter, dan Google mungkin tampak bagi kebanyakan orang sebagai metode komunikasi jinak yang membawa lebih banyak ke masyarakat daripada yang mereka ambil. Tetapi dengan setiap skandal baru, dan tanggapan yang ceroboh, semakin banyak orang melihat bahwa perusahaan-perusahaan ini menimbulkan bahaya serius bagi masyarakat.

Meskipun menggoda untuk menunjuk ke tombol "off", tidak ada solusi yang mudah. Raksasa teknologi telah menjadikan diri mereka bagian dari jalinan kehidupan sehari-hari bagi ratusan juta orang. Menyarankan agar orang berhenti begitu saja itu sederhana, tetapi gagal untuk mengenali seberapa bergantung banyak orang pada platform ini - dan betapa terperangkapnya mereka dalam situasi yang semakin tidak dapat ditolerir.

Akibatnya, orang membeli buku tentang seberapa buruk Amazon - dengan memesannya di Amazon. Mereka melakukan pencarian Google untuk artikel tentang seberapa banyak informasi Google tahu tentang setiap pengguna individu. Mereka tweet tentang betapa mereka membenci Twitter dan memposting di artikel Facebook tentang skandal terbaru Facebook.

Perusahaan-perusahaan teknologi mungkin menemukan diri mereka memerintah atas basis pengguna yang semakin diperburuk, karena platform mereka menyebarkan ketidakpuasan lebih jauh dan lebih luas daripada yang mungkin terjadi di masa lalu. Atau mereka mungkin memilih untuk mengubah diri mereka sendiri secara dramatis, menghancurkan diri mereka sendiri, menyerahkan beberapa kendali pada keputusan demokratis para pengguna mereka, dan mengambil tanggung jawab atas kerusakan yang dialami platform dan produk mereka terhadap dunia. Namun, sejauh ini, tampaknya industri ini tidak sekadar menawarkan permintaan maaf setengah matang sambil terus menjalankan bisnis seperti biasa. Semoga itu akan berubah. Tetapi jika masa lalu adalah panduan apa pun, itu mungkin tidak akan.

Artikel ini awalnya diterbitkan di The Conversation oleh Zachary Loeb. Baca artikel asli di sini.