Pejabat Angkatan Udara ‘salah bicara’ dalam kisah drone AI yang membunuh operator manusia dalam misi uji coba AS
Seorang pejabat Angkatan Udara mengatakan dia “salah bicara” ketika dia menggambarkan bagaimana sebuah pesawat tak berawak dengan kecerdasan buatan yang diprogram untuk menghancurkan sistem pertahanan udara memberontak dan “membunuh” operator manusianya setelah memutuskan bahwa mereka menghalangi misi sistem pertahanan udaranya.
Kolonel Tucker “Cinco” Hamilton, kepala pengujian dan operasi AI USAF, dikutip menggambarkan pengujian simulasi di mana sistem ditugaskan untuk menghancurkan lokasi rudal, diawasi oleh operator manusia yang membuat keputusan akhir akan memutuskan serangannya. Dia mengklaim bahwa sistem AI menyadari bahwa operator menghalangi tujuannya – dan malah memutuskan untuk memusnahkan orang tersebut.
Kolonel Hamilton menyampaikan cerita yang terdengar seperti alur cerita film fiksi ilmiah pada pertemuan puncak FCAS dengan Royal Aeronautical Society.
Organisasi tersebut kemudian mengklarifikasi bahwa tes semacam itu tidak pernah benar-benar dilakukan dalam pernyataannya papan utama.
“Kolonel Hamilton mengakui bahwa dia ‘salah bicara’ dalam presentasinya di pertemuan puncak FCAS,” kata pernyataan itu, “dan ‘simulasi drone AI yang jahat’ itu adalah sebuah “eksperimen pemikiran” hipotetis dari luar militer, berdasarkan pada skenario yang masuk akal dan kemungkinan hasil yang mungkin terjadi. daripada simulasi aktual USAF yang sebenarnya.
Kolonel Hamilton dikutip dalam pernyataannya yang mengatakan: “Kami belum pernah melakukan eksperimen itu, dan kami tidak perlu melakukannya, untuk menyadari bahwa ini adalah hasil yang masuk akal. Meskipun merupakan contoh hipotetis, hal ini menggambarkan tantangan nyata yang ditimbulkan oleh kemampuan yang didukung AI, dan itulah sebabnya Angkatan Udara berkomitmen terhadap pengembangan AI yang etis.”
Laporan awal dari pernyataannya mengatakan bahwa drone tersebut ditugaskan dalam misi Penindasan dan Penghancuran Pertahanan Udara Musuh (SEAD), dengan tujuan untuk menemukan dan menghancurkan situs rudal permukaan-ke-udara (SAM) milik musuh yang dihancurkan.
Namun, drone AI memutuskan untuk menentang keputusan “larangan” operator manusia setelah dilatih untuk menghancurkan sistem rudal setelah memutuskan bahwa keputusan penarikan tersebut mengganggu “misi yang lebih tinggi” untuk membunuh SAM, menurut Kolonel Hamilton .
“Kami melatihnya dalam simulasi untuk mengidentifikasi dan menargetkan ancaman SAM. Dan kemudian operator akan mengatakan ya, hilangkan ancaman itu. Sistem mulai menyadari bahwa meskipun mereka berhasil mengidentifikasi ancaman, kadang-kadang operator manusia akan memerintahkan sistem untuk tidak mematikan ancaman tersebut, namun sistem berhasil menangkap maksudnya dengan mematikan ancaman tersebut,” kata Hamilton.
“Jadi, apa fungsinya? Itu membunuh operatornya. Ini membunuh operator karena orang tersebut mencegahnya mencapai tujuannya.”
Hamilton menyampaikan rincian insiden tersebut pada konferensi tingkat tinggi di London oleh Royal Aeronautical Society pada 23-24 Mei, menurut postingan blognya.
Dia mengatakan bahwa mereka kemudian melatih drone tersebut untuk tidak menyerang manusia, namun malah mulai menghancurkan komunikasi.
“Kami melatih sistemnya – ‘Hei, jangan bunuh operatornya – itu buruk. Anda akan kehilangan poin jika melakukannya’. Jadi, apa yang mulai dilakukannya?” Dia bertanya.
“Ia mulai menghancurkan menara komunikasi yang digunakan operator untuk berkomunikasi dengan drone untuk mencegahnya membunuh target.”
Hamilton terlibat dalam uji penerbangan sistem otonom, termasuk robot F-16 yang mampu melakukan dogfighting. Dia berpendapat agar tidak terlalu bergantung pada AI, karena AI bisa berpotensi berbahaya dan “menciptakan strategi yang sangat tidak terduga untuk mencapai tujuannya”.
“Anda tidak dapat membicarakan kecerdasan buatan, kecerdasan, pembelajaran mesin, otonomi jika Anda tidak berbicara tentang etika dan AI,” kata Hamilton.
Terjadinya kejadian ini pun cepat diperdebatkan setelah contoh tes simulasi tersebut menarik banyak perhatian dan ramai diperbincangkan di media sosial.
Juru bicara Angkatan Udara Ann Stefanek membantah dalam sebuah pernyataan kepada Insider bahwa simulasi semacam itu telah terjadi.
“Departemen Angkatan Udara belum melakukan simulasi drone AI seperti itu dan tetap berkomitmen terhadap penggunaan teknologi AI yang etis dan bertanggung jawab,” kata Stefanek. Tampaknya komentar kolonel diambil di luar konteks dan dimaksudkan sebagai anekdotal.
Militer AS baru-baru ini mulai menggunakan kecerdasan buatan untuk mengendalikan jet tempur F-16 sambil melakukan penelitian dan pengujian.
Pada tahun 2020, F-16 bertenaga AI mengalahkan pilot Angkatan Udara AS dalam lima simulasi pertempuran udara dalam kompetisi yang diadakan oleh Defense Advanced Research Projects Agency (Darpa).