Teknologi Pengenalan Wajah FBI Mengabaikan Privasi dan Hak Anda

Siapa pengawasnya? Kantor Akuntabilitas Pemerintah, seperti judulnya. Laporan GAO baru-baru ini tentang penggunaan teknologi pengenalan wajah oleh pemerintah menemukan jalannya kepada publik pada hari Rabu. Pada dasarnya, kami mendapat situasi sendiri. Situasi yang buruk. Singkatnya: Dengan program pengenalan wajahnya, FBI melanggar privasi Anda dan tidak memberi tahu Anda tentang hal itu. Plus, FBI tidak menguji untuk memastikan bahwa program-program ini akurat dan dapat diandalkan.

FBI dan biometrik kembali - hubungan cinta dimulai dengan database sidik jari. Tapi itu jauh lebih jauh dari itu, sekarang. "Biometrik," untuk FBI dan menurut GAO, berarti "pengakuan otomatis individu berdasarkan karakteristik biologis dan perilaku mereka." Pada 2011, FBI meluncurkan pilot sistem "Next-Generation Identification" (NGI).; empat tahun kemudian, pada bulan April 2015, itu sepenuhnya operasional.

NGI sebagian menggunakan Interstate Photo System (IPS) untuk apa yang disebut biometrik ini. Basis data ini - di samping basis data eksternal dari perusahaan swasta - memberikan akses ke lebih dari 411 lembaga pemerintah juta foto wajah (populasi A.S. saat ini hanya 319 juta). Departemen Kehakiman mengklaim bahwa sebagian besar foto-foto ini berasal dari foto-foto mug - “Lebih dari 80 persen foto di NGI-IPS adalah kriminal” - tetapi mereka juga bekerja sama dengan banyak negara bagian untuk mendapatkan akses ke SIM dan foto paspor. GAO mengatakan bahwa saat ini a tersangka "dipesan untuk kejahatan," dia ada di buku - yaitu di NGI-IPS.

Apa yang tidak jelas dari laporan ini adalah seberapa banyak FBI bergurau dengan foto media sosial Anda. FBI mengklaim tidak memasukkannya ke dalam NGI-IPS, tetapi FBI menggunakannya:

"… foto yang diambil dari kamera keamanan atau foto media sosial tidak terdaftar dalam NGI-IPS … Menurut FBI, basis data foto eksternal tidak mengandung foto atau foto yang diperoleh secara pribadi dari media sosial, dan FBI tidak mempertahankan foto-foto ini; hanya mencari mereka."

Tetapi perlu dicatat seberapa banyak media sosial tambang emas. Aplikasi foto komputer Anda memiliki kemampuan untuk mengenali Anda dan teman Anda. Facebook juga melakukannya, dan sangat bagus dalam membuat katalog setiap orang dalam sebuah foto. Setiap kali Anda menggunakan lensa Snapchat, Snapchat memetakan kontur unik wajah Anda. Dan itu tidak berhenti sampai di situ - teknologi ini praktis ada di mana-mana.

Apa pun itu, FBI tidak hanya bersenang-senang dengan wajah Anda: akses meluas ke departemen kepolisian setempat. (Ada juga ini: "Sistem pengenalan wajah Departemen Pertahanan digunakan untuk mendukung pejuang di lapangan untuk mengidentifikasi pejuang musuh.") FBI adalah satu-satunya lembaga dengan langsung akses, tetapi semua orang hanya dapat meminta akses. Setelah akses diberikan, agensi yang bersangkutan mengirim foto ke FBI dan meminta sejumlah potensial yang cocok. (Foto itu mungkin beresolusi tinggi, tetapi, mengetahui kamera keamanan, kemungkinan besar tidak.) Sesampai di sana, NGI-IPS menjalankan foto melalui database-nya, dan kemudian, GAO mengatakan, "analisis manusia harus dilakukan." Sebuah tim dari "29 spesialis gambar biometrik yang terlatih di FACE Evaluasi Analisis Perbandingan Wajah Layanan" kemudian memberikan kata terakhir. Akhirnya, jumlah pertandingan potensial yang diperlukan menemukan jalan kembali ke agensi. Terserah kepada agensi itu untuk menentukan apakah tersangka ini benar-benar tersangka atau tidak.

Begini cara kerjanya:

“Secara khusus, teknologi mengekstraksi fitur dari wajah dan menempatkannya ke dalam format - sering disebut sebagai faceprint - yang dapat digunakan untuk verifikasi, antara lain. Setelah faceprint dibuat, teknologi dapat menggunakan algoritma pengenalan wajah untuk membandingkan faceprint satu sama lain untuk menghasilkan nilai skor tunggal yang mewakili tingkat kesamaan antara kedua wajah.

Tergantung pada keakraban Anda dengan fiksi ilmiah, yang mungkin atau mungkin tidak tampak seperti sistem yang andal dan dapat dipercaya. Ini bukan. Ini a bagian tajuk dalam laporan GAO:

"FBI Memiliki Informasi Terbatas tentang Keakuratan Kemampuan Teknologi Pengenalan Wajahnya."

Yang diketahui FBI adalah saat itu melakukan uji tingkat akurasi pencocokan potensi-50 program - yang dilakukannya, secara mengerikan, dengan basis data pengujian, dan bukan basis data sesungguhnya - itu akurat 86 persen. FBI telah "tidak menilai keakuratan pencarian pengenalan wajah NGI-IPS dalam pengaturan operasionalnya - pengaturan di mana foto yang terdaftar, bukan database uji coba foto - digunakan untuk melakukan pencarian untuk lead investigasi." peduli seberapa akurat sistem pengenalan wajah perusahaan swasta yang dipekerjakan: tidak ada audit.

Delapan puluh enam persen akurat. Dengan kata lain: sekitar empat dari lima bintang. Jika restoran sushi lokal Anda memiliki empat dari lima bintang, Anda dapat mempertimbangkan memesan takeout. Tetapi hanya karena jumlah ulasan yang rendah dapat membuat peringkat sebuah restoran menurun, demikian juga a tinggi sejumlah kecocokan potensial dapat condong keakuratan NGI-IPS. Lima puluh pencocokan potensial adalah yang dapat diminta agen maksimum; sistem dapat meludahkan sesedikit mungkin dua. GAO mengatakan bahwa semakin kecil daftar, semakin tidak akurat sistemnya.

Ada juga semua hal positif palsu sial. "Pejabat FBI menyatakan bahwa mereka belum menilai seberapa sering pencarian pengenalan wajah NGI-IPS keliru mencocokkan seseorang dengan database (tingkat positif palsu)." Positif palsu adalah - maafkan bahasa saya - persetan serius, karena mereka "dapat mengubah anggapan tradisional tidak bersalah dalam kasus-kasus kriminal dengan menempatkan lebih banyak beban pada terdakwa untuk menunjukkan bahwa dia bukan siapa sistem yang mengidentifikasi dirinya. "Sistem ini dapat rusak pada kedua ujung persamaan: jika foto berkualitas buruk, tingkat keberhasilan anjlok; jika kualitas perangkat lunak buruk, tingkat keberhasilan anjlok. Tingkat keberhasilan yang rendah berarti banyak kesalahan positif.

GAO, setelah menyelesaikan laporannya, memberikan Jaksa Agung AS Loretta Lynch dan Direktur FBI James Comey enam rekomendasi. Intinya: Departemen Kehakiman memiliki masalah opacity. Publik mungkin tahu bahwa privasinya dilanggar, tetapi publik tidak tahu secara spesifik bagaimana privasinya dilanggar. Juga, Departemen Kehakiman harus memperbaiki kekurangan pengawasan untuk memastikan bahwa ada pelanggaran privasi yang minimal. Akhirnya, Departemen Kehakiman harus memastikan - meskipun surut - bahwa program-program ini dapat diandalkan.

Departemen Kehakiman hanya setuju, secara penuh, dengan satu rekomendasi. Ini "sebagian setuju" dengan dua lagi, tetapi menolak tiga sisanya - dua di antaranya berusaha untuk membuat pedoman akurasi.