Washington DC, 24 Jun — Dalam lorong-lorong Pentagon dan di makmal-makmal kontraktor pertahanan rahsia yang bertaburan di sekitar Virginia dan Maryland, revolusi dalam cara Amerika berperang sedang berlaku dengan pantas dan senyap. Sistem senjata autonomi — dari drone yang mampu mengenal pasti dan menyerang sasaran tanpa input manusia, kepada sistem pertahanan peluru yang membuat keputusan dalam sepersaat, kepada kapal selam yang beroperasi secara mandiri selama berbulan-bulan — sedang dibangunkan dengan peruntukan belanjawan yang besar.
Kementerian Pertahanan Amerika mendakwa bahawa semua sistem senjata autonomi yang sedang dibangunkan mengekalkan "manusia dalam gelung" — iaitu keputusan untuk menggunakan daya mematikan masih memerlukan kelulusan manusia. Namun para pengkritik dan ahli akademik yang mengkaji isu ini mempersoalkan sama ada prinsip ini benar-benar dapat dikekalkan apabila kecepatan operasi moden semakin melampaui kemampuan tindak balas manusia.
Perbahasan paling kritikal berkisar kepada "Lethal Autonomous Weapons Systems" atau LAWS — senjata yang mampu memilih dan menyerang sasaran secara autonomi tanpa kawalan manusia secara langsung. Pertubuhan-pertubuhan hak asasi manusia antarabangsa dan lebih 90 negara telah menyeru perjanjian antarabangsa yang melarang pembangunan LAWS, dengan hujah bahawa mesin tidak dapat membuat pertimbangan moral yang diperlukan untuk mematuhi undang-undang antarabangsa perang.
Amerika, bersama China dan Rusia, masih enggan berkomitmen kepada larangan yang mengikat terhadap LAWS, dengan alasan bahawa kawalan unilateral akan melemahkan kedudukan keselamatan mereka dalam persekitaran ancaman yang semakin kompleks.
Kontroversi ini mencerminkan dilema yang lebih luas yang dihadapi oleh tamadun manusia: apabila kita menciptakan mesin yang lebih pintar dan lebih berkuasa daripada kita dalam domain tertentu, bagaimana kita memastikan bahawa mesin-mesin ini kekal sebagai alat yang berkhidmat kepada nilai-nilai dan kehendak manusia, bukannya menggantikan pertimbangan moral manusia?
Gempa Dasar AI Ketenteraan: Pentagon Kembangkan Sistem Senjata Autonomi dan Kontroversi Etika. Ketenteraan Amerika sedang membangunkan sistem senjata yang menggunakan AI untuk membuat keputusan, mencetuskan perbahasan etika global tentang sempadan yang harus ada dalam autonomi mesin membunuh.. Washington DC, 24 Jun — Dalam lorong-lorong Pentagon dan di makmal-makmal kontraktor pertahanan rahsia yang bertaburan di sekitar Virginia dan Maryland, revolusi dalam cara Amerika berperang sedang berlaku dengan pantas dan senyap. Sistem senjata autonomi — dari drone yang mampu mengenal pasti dan menyerang sasaran tanpa input manusia, kepada sistem pertahanan peluru yang membuat keputusan dalam sepersaat, kepada kapal selam yang beroperasi secara mandiri selama berbulan-bulan — sedang dibangunkan dengan peruntukan belanjawan yang besar.
Kementerian Pertahanan Amerika mendakwa bahawa semua sistem senjata autonomi yang sedang dibangunkan mengekalkan "manusia dalam gelung" — iaitu keputusan untuk menggunakan daya mematikan masih memerlukan kelulusan manusia. Namun para pengkritik dan ahli akademik yang mengkaji isu ini mempersoalkan sama ada prinsip ini benar-benar dapat dikekalkan apabila kecepatan operasi moden semakin melampaui kemampuan tindak balas manusia.
Perbahasan paling kritikal berkisar kepada "Lethal Autonomous Weapons Systems" atau LAWS — senjata yang mampu memilih dan menyerang sasaran secara autonomi tanpa kawalan manusia secara langsung. Pertubuhan-pertubuhan hak asasi manusia antarabangsa dan lebih 90 negara telah menyeru perjanjian antarabangsa yang melarang pembangunan LAWS, dengan hujah bahawa mesin tidak dapat membuat pertimbangan moral yang diperlukan untuk mematuhi undang-undang antarabangsa perang.
Amerika, bersama China dan Rusia, masih enggan berkomitmen kepada larangan yang mengikat terhadap LAWS, dengan alasan bahawa kawalan unilateral akan melemahkan kedudukan keselamatan mereka dalam persekitaran ancaman yang semakin kompleks.
Kontroversi ini mencerminkan dilema yang lebih luas yang dihadapi oleh tamadun manusia: apabila kita menciptakan mesin yang lebih pintar dan lebih berkuasa daripada kita dalam domain tertentu, bagaimana kita memastikan bahawa mesin-mesin ini kekal sebagai alat yang berkhidmat kepada nilai-nilai dan kehendak manusia, bukannya menggantikan pertimbangan moral manusia?
