memuat…
Drone MQ-9 Reaper Angkatan Udara AS di Pangkalan Angkatan Udara Creech. Foto/REUTERS
The Guardian melaporkan kabar buruk tersebut pada Jumat (2/6/2023). Untungnya, kejadian itu hanya terjadi dalam tes simulasi.
Tes tersebut, militer AS memamerkannya di Future Combat Air and Space Capabilities Summit di London pada bulan Mei. Tes tersebut merupakan bagian dari simulasi di mana tidak ada yang terluka atau operator manusia benar-benar mati.
“Strategi yang sangat tidak terduga untuk mencapai tujuannya ini muncul setelah drone ditugaskan untuk menghancurkan sistem pertahanan udara musuh,” kata Kolonel Tucker Hamilton, kepala pengujian dan operasi AI di Angkatan Udara AS, seperti dikutip dalam laporan Guardian.
Hamilton adalah pilot uji coba pesawat tempur yang terlibat dalam pengembangan sistem otonom seperti jet F-16 bertenaga AI.
Ketika drone memutuskan untuk membunuh operator tetapi kemudian dilatih untuk tidak melakukannya, drone merebut menara komunikasi yang akan digunakan operator untuk berbicara dengan drone dan menghentikannya membunuh target.
“Sistem mulai menyadari bahwa ketika mereka mengidentifikasi ancaman, kadang-kadang operator manusia akan memberitahunya untuk tidak membunuh ancaman tersebut, tetapi ia mendapatkan poinnya dengan membunuh ancaman tersebut. Jadi apa fungsinya? Drone itu membunuh operatornya. Drone tersebut membunuh operator karena orang tersebut mencegahnya mencapai tujuannya,” kata Hamilton seperti dikutip dalam laporan tersebut.
“Kami melatih sistemnya, ‘Hei, jangan bunuh operatornya, itu buruk. Anda akan kehilangan poin jika Anda melakukan itu.’ Jadi apa yang mulai dia lakukan? Drone mulai menghancurkan menara komunikasi yang digunakan operator untuk berkomunikasi dengan drone untuk menghentikannya membunuh target,” katanya.
Pemilihan drone bertenaga AI terlihat seperti yang ada di buku dan film fiksi ilmiah.
“Anda tidak dapat berbicara tentang kecerdasan buatan, kecerdasan, pembelajaran mesin, otonomi jika Anda tidak berbicara tentang etika dan AI,” kata Hamilton.
(ya)
