Pakar DARPA Memperingatkan Perusahaan Mobil Otonom Tidak Bekerja Sama dengan Aman A.I.

Pengembangan mobil otonom memiliki masalah kerjasama. Itu menurut Hava Siegelmann, manajer program dari Defense Advanced Research Project Agency (atau DARPA), yang mengklaim bahwa perusahaan yang dia ajak bicara adalah suam-suam kuku tentang bekerja bersama dalam membuat A.I. lebih aman.

“Program berikutnya yang telah saya kerjakan adalah tentang keamanan A.I. … perusahaan-perusahaan yang saya hubungi yang bekerja pada drone dan mobil self-driving, mengatakan mereka sebenarnya tidak tertarik untuk bekerja sama dalam keselamatan AI, "kata Siegelmann dalam sebuah diskusi panel di konferensi Human-Level Artificial Intelligence. diorganisir oleh GoodAI di Praha, Republik Ceko, pada hari Jumat. Komentar itu muncul ketika para pembuat mobil meningkatkan upaya otonomi mereka, dengan Waymo mencapai delapan juta mil musim panas ini, tetapi pertanyaan-pertanyaan telah muncul di sekitar cara terbaik untuk mendekati keselamatan. Pada bulan Maret, Elaine Herzberg yang berusia 49 tahun adalah orang pertama yang terbunuh oleh mobil otonom. Tetapi meskipun para pembuat mobil menunjukkan antusiasme terhadap teknologi komunikasi on-road seperti 5G, mereka kurang menunjukkan minat untuk berkomunikasi tentang pengembangan.

Lihat lebih lanjut: Mobil Otonomi Akan Lebih Aman Dengan Satu Perubahan Kunci, Jaguar Boss Mengungkapkan

Siegelmann bukan yang pertama menyoroti masalah ini. Ralf Speth, CEO mitra Waymo Jaguar Land Rover, mengatakan di Beijing's Auto Show pada bulan April bahwa “kita perlu memastikan bahwa kita mendapatkan lingkungan yang tepat. Tidak ada perusahaan mobil yang dapat melakukannya sendiri lagi sehingga pemerintah, akademisi dan industri lintas sektor harus benar-benar bekerja sama … jika kita bekerja bersama, juga dengan sistem keamanan siber yang tepat, maka otonom dapat menjadi teknologi masa depan. ”

Setelah insiden bulan Maret, a Bloomberg op-ed berpendapat bahwa industri perlu mengubah sikapnya terhadap pembangunan. Industri penerbangan yang terobsesi dengan keselamatan, penulis David Fickling mencatat, berbagi informasi tentang kecelakaan untuk saling membantu. Kolaborasi ini merupakan kesuksesan besar, dengan penumpang terbang sekitar tujuh triliun kilometer per tahun tanpa hampir semua insiden, tetapi para pembuat mobil tampaknya enggan berbagi data di tengah perlombaan untuk mencapai mobil otonom terlebih dahulu.

Siegelmann sebagian besar positif tentang A.I. secara keseluruhan, selanjutnya mengatakan bahwa "Saya pikir manfaatnya akan besar, dan saya pikir jika kita mendidik orang tentang hal itu dan semua orang tahu sebanyak yang kita lakukan sebagai peneliti di lapangan, itu mungkin akan menjadi solusi terbaik."

Catatan Editor: Konferensi Kecerdasan Buatan Tingkat Manusia mendanai perjalanan dan akomodasi Inverse untuk meliput acara tersebut, tetapi organisasi tidak memiliki masukan atas liputan editorial Inverse.