This post has already been read 8 times!

INI  adalah tahun yang sibuk untuk disruptor industri otomotif favorit semua orang, penjelajah wisata ruang angkasa dan penjahat James Bond Elon Musk yang potensial. Tesla melampaui Ford dan General Motors dalam kapitalisasi pasar;

Gigafactory mulai mengaduk-aduk baterai lithium-ion; perusahaan atap lingkungannya mulai memasang panel surya, yang bukan merupakan “kejahatan” terhadap arsitektur; dia mengirim dua roket ke Mars; dia mulai menggali terowongan raksasa di bawah Los Angeles; dan dia membubarkan Presiden Donald Trump atas Persetujuan Iklim Paris. (Baiklah, dia juga sedikit merindukan, tanyakan siapa saja pada daftar tunggu Model 3.)

Dengan semua ini, Anda mungkin telah mengabaikan inisiatif Musk’s 2017 lainnya: menyelamatkan manusia. Musim panas yang lalu, dia dan sekelompok pengguna A-lister teknologi lainnya – termasuk pakar kecerdasan buatan buatan Google Mustafa Suleyman – menulis sebuah surat kepada Perserikatan Bangsa-Bangsa yang mendesak pelarangan robot pembunuh. Distrosi masa depan yang mereka antisipasi akan membuat Anda nostalgia untuk Skynet:

Senjata otonom mematikan mengancam akan menjadi revolusi ketiga dalam peperangan. Setelah dikembangkan, mereka akan mengizinkan konflik bersenjata diperjuangkan dalam skala yang lebih besar dari sebelumnya, dan pada rentang waktu lebih cepat dari yang dapat dipahami manusia. Ini bisa menjadi senjata teror, senjata yang dilakukan oleh lalim dan teroris melawan populasi yang tidak bersalah, dan senjata hacked untuk berperilaku dengan cara yang tidak diinginkan. Kami tidak punya waktu lama untuk bertindak. Setelah Kotak Pandora ini dibuka, akan sulit untuk ditutup.

Sementara itu, Pentagon juga menulis sebuah surat – permintaan anggaran 2018 yang meminta Kongres sebesar $ 13 miliar untuk dana sains dan teknologi dan $ 10 miliar untuk sistem berbasis tempat lainnya. Dengan segala hormat kepada  Hyperloop, dia akan menemukan kompleks industri militer sebagai musuh yang jauh lebih sulit daripada dinosaurus Detroit.

Click Here for New Product – Privacy War! Huge Niche With Plenty Of Buyers. !

Meskipun demikian, sebagai seseorang yang anak laki-laki yang gugup sendirian di rumah bersama Alexa, Tobin Harshaw mengaku ingin memikirkan ada orang yang terlibat dengan senjata otonom yang memiliki banyak perhatian Musk, jika bukan metafora mitologisnya yang lelah. Kolumnis Bloomberd ini, belum lama ini bertemu dengan  Robert H. Latiff, penulis “Future War: Mempersiapkan New Global Battlefield.”

Robert H. Latiff,

Latiff pensiun dari Angkatan Udara sebagai jenderal utama pada tahun 2006, terakhir menjabat sebagai direktur sistem dan teknologi maju di National Reconnaissance Office. Sejak saat itu, ia telah bekerja di industri pertahanan dan sebagai dosen di universitas Notre Dame dan George Mason. Berikut adalah transkrip diskusi yang diedit dengan ringan:

Tobin Harshaw: Jenderal, Anda meninggalkan militer lebih dari satu dekade yang lalu, jadi mengapa keluar dengan buku ini sekarang? Apakah pengalaman Anda di sektor swasta dan akademisi memberi tahu pandangan Anda tentang “medan perang global baru”?

Robert Latiff: Baiklah, saya benar-benar memikirkan hal ini sejak kembali sekitar waktu invasi ke Irak. Ketika saya melihat beberapa hal yang sedang terjadi, yang paling tidak adalah Abu Ghraib, mereka sangat menggangguku. Lalu saya pergi bekerja, seperti dugaan Anda, sebagai kontraktor pembela, dan itu bukan pekerjaan yang buruk. Tapi baik di sana maupun saat berada di militer, saya benar-benar mendengar ada yang bertanya apakah kita harus melakukan beberapa penelitian yang sedang kita lakukan. Anda tahu, beberapa di antaranya sedikit menakutkan – saya tidak tahu bahwa itu pasti tidak etis – tapi tidak ada yang mengajukan pertanyaan.

TH: Bisakah anda memberi satu atau dua contoh?

RL: Umumnya, beberapa hal yang berhubungan dengan biologi sedikit menakutkan, hal-hal seperti biologi sintetis dimana Anda tidak benar-benar mengetahui implikasi utamanya. Dan beberapa pekerjaan dengan elektromagnetik sedikit menakutkan, terutama karena berkaitan dengan manusia dan mematikan.

TH: mengerti Jadi Anda menghabiskan beberapa waktu di sektor swasta, dan …

RL: Ketika akhirnya saya pergi dan mulai mengajar dan melakukan konsultasi, saya memiliki beberapa waktu dan hal-hal ini masih mengganggu saya, dan saya menghubungi orang-orang di Notre Dame. Mereka melompat pada kesempatan untuk memiliki saya menyusun sebuah kursus, yang menjadi sangat populer. Akhirnya saya diminta untuk menulis buku secara nominal tapi tidak sepenuhnya berdasarkan kursus yang saya ajarkan.

TH: Dan bagaimana para siswa di Notre Dame bereaksi terhadap materi tersebut?

RL: Pertama-tama mereka sedikit takut. Saya pikir mereka mungkin lebih terkejut dari apa pun. Banyak dari mereka sama sekali tidak pernah memerhatikan militer.

Ketika Anda mulai berbicara dengan mereka tentang beberapa senjata baru, itu semacam meniup pikiran mereka. Bagi banyak dari mereka tanggapan pertama adalah, “Ya, kita harus melakukan ini.” Tetapi ketika saya mulai meminta mereka memikirkan implikasi etis, mereka mundur dari itu, dan saya pikir mereka benar-benar mendapat banyak hal. dari itu

TH: Selama ada peperangan, ada argumen tentang etika peperangan. Teori “perang hanya” Thomas Aquinas mungkin yang paling terkenal. Saat kita melihat teknologi saat ini, manakah yang mengajukan pertanyaan terbesar untuk Anda lihat dalam tradisi yang panjang itu?

RL: Saya pikir kecerdasan buatan dan otonomi mungkin merupakan pertanyaan paling banyak, dan itu terutama karena manusia tidak terlibat. Jadi jika Anda kembali ke Aquinas dan ke St. Augustine, mereka membicarakan hal-hal seperti “niat yang benar”. Apakah orang yang melakukan pembunuhan itu memiliki niat yang benar? Apakah dia bahkan diberi wewenang untuk melakukannya? Apakah kita melakukan sesuatu untuk melindungi orang yang tidak bersalah? Apakah kita melakukan sesuatu untuk mencegah penderitaan yang tidak perlu? Dan dengan otonomi dan kecerdasan buatan, saya tidak percaya ada orang dalam bisnis yang benar-benar dapat menunjukkan bahwa kita dapat mempercayai bahwa sistem tersebut melakukan apa yang seharusnya mereka lakukan.

 

TH: Baiklah, kita tahu bahwa banyak orang mengkhawatirkan hal ini. Tahun lalu sekelompok bigshots industri teknologi menulis sepucuk surat ke U.N. yang mendesak pelarangan robot pembunuh. Ada sebuah kelompok yang mengadakan pertemuan pada bulan November, di bawah kewenangan Konvensi Senjata Konvensional Tertentu yang mencoba membuat bola bergulir pada larangan global. Bagi saya, ini sejujurnya terdengar seperti banyak omong kosong belaka. Tapi menurut Anda, usaha internasional dapat dilakukan untuk membatasi jenis apokaliptik dari hal-hal yang orang khawatirkan?

RL: Saya pikir ada, dan seharusnya ada. Kebetulan, orang-orang yang mendukung larangan senjata ini benar-benar menghubungi saya pada satu titik. Dan tanggapan saya terhadap mereka adalah bahwa saya rasa itu tidak baik-omong kosong. Saya pikir itu niat yang benar tapi itu pendekatan yang salah. Dan saya jelaskan. Pertama, saya tidak berpikir bosan pernah bekerja. Dan kedua, saya tidak percaya negara maju akan berpartisipasi dalam pelarangan. Jadi, kapan pun Anda melarang sesuatu, cukup banyak yang terjadi di bawah tanah dan Anda tidak dapat mengatasinya karena dalam hukum internasional tidak ada kepolisian.

Saya adalah penggemar berat perjanjian kontrol senjata dan perjanjian nonproliferasi. Negara-negara seperti A.S. dan Rusia dan China, mereka akan melakukan ini tanpa menghiraukannya. Dan jika kita bisa membuat semacam perjanjian kontrol senjata di mana kita mungkin bisa membatasi hal-hal yang kita lakukan secara kolektif dan memiliki semacam rezim verifikasi – dan yang lebih penting lagi, setuju untuk mencoba setidaknya mengandung proliferasi – itu akan menjadi sebuah langkah maju Ya, tempat seperti Korea Utara dan negara nakal lainnya dan ISIS, mereka akhirnya akan mendapatkan beberapa barang ini. Tapi akan jauh lebih mudah bagi polisi dan memverifikasi kesepakatan pengendalian senjata daripada larangan.

TH: Saya juga penggemar berat perjanjian nonproliferasi nuklir. Tapi dengan itu, kita berbicara tentang perangkat keras utama dan basis industri yang luas yang Anda butuhkan untuk membangun barang, dan kemudian bahan nuklir aktual yang sulit diproduksi dan sulit disembunyikan. Sedangkan dengan senjata AI dan cyber, produksi cukup mudah disembunyikan. Bagaimana Anda melakukan verifikasi?

RL: Nah, itu pertanyaannya hari ini, dan saya tidak memiliki jawaban yang bernas, selain sejauh kita bisa membuat semacam perjanjian verifikasi. Kekuatan utama cukup bagus dalam hal itu. Dengan kesepakatan hari ini, kita memiliki banyak perhatian dari Rusia dan mereka akan melelahkan kita, dan kita akan membawa satelit ke sana dan mereka akan membawa satelit untuk melihat kita.

Jadi dengan teknologi baru, kita perlu mendapat kesempatan untuk masuk ke laboratorium ini dan melihat apa yang mereka lakukan, dan kita cukup bagus dalam memproyeksikan kemampuan nyata mereka. Saya tidak tahu persis seperti apa rezim itu, tapi jelas akan lebih baik daripada hanya memiliki larangan dan mencoba menemukan jarum di tumpukan jerami.

TH: Beberapa bulan yang lalu saya mewawancarai mantan Wakil Menteri Pertahanan Bob Work, yang mengawasi modernisasi Pentagon yang diputuskan Barack Obama. Dia menyebut prakarsa ini sebagai “offset ketiga,” dan mengatakan bahwa ini diperlukan karena pesaing besar kita, Rusia dan China, mencapai paritas dengan amunisi dipandu “kedua-offset” dan jaringan pertempuran terpadu. Apakah Anda melihat tantangan masa depan dengan cara yang sama?

RL: Saya dan saya setuju dengan sekretaris bahwa mereka benar-benar bertemu dengan kami. Lihat saja demonstrasi rudal jelajah Rusia baru-baru ini di Suriah – itu adalah rudal jelajah yang cukup bagus. Dengan hal-hal seperti otonomi dan kecerdasan buatan dan senjata hipersonik dan senjata elektromagnetik, jika mereka belum mencapai paritas, mereka akan datang dengan sangat cepat. Jadi kita tidak akan memiliki offset ketiga selama hampir sama dengan offset kedua.

TH: Benar – keuntungan dari dua offset pertama, pertama di teknologi nuklir dan kemudian di senjata presisi, berlangsung beberapa dekade. Yang satu ini mungkin lebih pendek sampai menengah. Jadi, mengingat itu, teknologi baru mana yang harus dipusatkan pada Pentagon?

RL: Saya pikir kita masih memiliki keuntungan dalam otonomi dan cyber. Saya pikir orang yang mengkhawatirkan saya lebih dari yang lain, dan tidak jelas bagi saya bahwa kita benar-benar memiliki keuntungan, adalah peperangan elektronik. Saya tidak harus berbicara tentang pulsa elektromagnetik nuklir besar, saya sedang membicarakan segala hal mulai dari peperangan elektronik yang sangat kecil hingga perang elektronik besar yang hebat.

TH: Seperti sistem jamming?

RL: Nah, sistem jamming adalah satu. Atau pulsa elektronik yang bisa menghancurkan atau mengganggu beberapa sistem elektronik kita. Ini sedikit seperti cyberwarfare, tapi menggunakan pulsa elektromagnetik. Dan kemudian senjata medan perang yang menggabungkan gelombang mikro dan hal-hal seperti balok energi terarah.

TH: Jadi, bukan hanya robot pembunuh, tapi juga pemalsu “Star Trek”. Omong-omong, kita tahu bahwa luar angkasa berada, di bawah perjanjian U.N, seharusnya tetap tidak terbagi. Tapi saya pikir itu hampir mendapatkan senjata dengan cukup cepat. China, Rusia dan bahkan negara-negara seperti India memasukkan banyak uang ke luar angkasa. Apakah Anda pikir kita membutuhkan usaha nonproliferasi ruang?

RL: Saya secara pribadi akan menyambut usaha nonproliferasi antariksa. Sekali lagi, saya pikir kekuatan utama mungkin tidak mendekati keinginan untuk melakukan itu. Bila Anda mengatakan “Star Wars” atau “Star Trek,” saya tidak terlalu khawatir tentang hal itu – pertempuran terjadi di luar angkasa. Aku bahkan tidak khawatir tentang penempatan senjata di ruang angkasa yang mungkin berpengaruh di Bumi. Jika Anda tahu sesuatu tentang fisika dan mekanika orbital, itu terlalu mahal.

Yang saya khawatirkan adalah bahwa A.S. – dan semakin China dan Rusia – sangat bergantung pada sistem ruang angkasa. Semua orang tahu itu. Jadi, sistem anti-satelit berbasis darat, atau laser atau elektromagnetik yang mungkin mengganggu fungsi sistem ruang kritis kita, atau bahkan sistem orbit yang mungkin mengganggu atau mungkin menghancurkan salah satu satelit kita – ini adalah semua sangat mengkhawatirkan

TH: Apa lagi yang membuatmu bangun di malam hari?

RL: Keseluruhan pendekatan yang didasari oleh Departemen Pertahanan terhadap otonomi membuat saya cemas. Saya akan menjelaskan: Mereka keluar dengan sebuah kebijakan pada tahun 2012 bahwa manusia sejati selalu berada dalam lingkaran. Mana yang bagus. Saya sangat menentang otonomi mematikan. Tapi tidak seperti kebanyakan kebijakan ini, tidak pernah ada panduan pelaksanaan. Tidak pernah ada tindak lanjut. Laporan Dewan Ilmu Pengetahuan Pertahanan akhir-akhir ini baru-baru ini tidak memberikan rekomendasi mengenai otonomi mematikan. Secara keseluruhan, mereka sangat pendiam tentang ini. Dan sejujurnya, saya pikir itu karena setiap orang berpikir menyadari bahwa otonomi akan menyelinap ke atas kita, dan apakah kita setuju bahwa itu terjadi atau tidak, itu akan terjadi. Saya memandangnya sebagai pendekatan langsung terhadap kebijakan seputar senjata otonom mematikan, dan ini menyerukan beberapa klarifikasi.

Tobin Harshaw di tharshaw@bloomberg.net