DARPA Memutuskan untuk Memahami A.I.

Pentagon ingin mencari tahu apa yang membuat kecerdasan buatan tergerak. Badan Proyek Penelitian Pertahanan Tingkat Lanjut (DARPA) mengumumkan pada hari Kamis bahwa pihaknya sangat tertarik pada A.I yang dapat dijelaskan. proyek, yang dikenal sebagai XAI. Berita itu adalah keberangkatan yang tajam untuk agensi yang sebelumnya memprioritaskan A.I. efektivitas, bukannya benar-benar memahami bagaimana sistem sampai pada keputusan.

DARPA ingin mendukung A.I. proyek yang akan menjelaskan kepada pengguna akhir mengapa sesuatu terjadi. Sebagai contoh, DARPA ingin analis intelijen untuk memahami mengapa rekomendasi mereka A.I. mengirim mereka telah dipilih. Jika seorang analis manusia melihat ke A.I. data yang dipilih, mereka harus mengerti mengapa komputer meletakkan data itu di depan mereka dan bukan sesuatu yang lain. A.I. seperti yang ada di Cyber ​​Grand Challenge yang didanai agensi perlu dirancang dengan cara yang lebih transparan, tetapi pengumuman DARPA mengatakan bahwa itu akan mempertimbangkan berbagai antarmuka pengguna (itu tidak membiarkan terlalu banyak detail tentang bagaimana proyek XAI seharusnya jelaskan sendiri.)

Abstrak untuk proyek-proyek potensial akan jatuh tempo pada 1 September, dan DARPA mengantisipasi pemberian beberapa penghargaan kepada para peneliti. Ini termasuk kontrak pengadaan dan perjanjian kerja sama, tetapi agen tidak akan membagikan hibah. Agensi juga mencari tim yang dapat melakukan penelitian bagaimana A.I. harus menjelaskan sendiri; dengan kata lain, peneliti perlu mempelajari A.I. dengan cara yang sama, para psikolog mempelajari bagaimana pikiran manusia memproses informasi dalam berbagai keadaan.