Perang algoritma

Apabila bercakap tentang penggunaan kecerdasan buatan dalam tentera, mimpi ngeri fiksyen sains segera bangun, AI yang memberontak dan maut yang bangkit menentang manusia untuk memusnahkannya. Malangnya, ketakutan tentera dan pemimpin bahawa "musuh akan mengejar kita" adalah sama kuat dalam pembangunan algoritma peperangan.

Peperangan Algoritmayang, menurut ramai, secara asasnya boleh mengubah wajah medan perang seperti yang kita tahu, terutamanya kerana peperangan akan menjadi lebih pantas, jauh mendahului keupayaan orang ramai untuk membuat keputusan. Jeneral Amerika Jack Shanahan (1), ketua Pusat Kepintaran Buatan AS, menekankan, bagaimanapun, bahawa sebelum memperkenalkan kecerdasan buatan ke dalam senjata, kita mesti memastikan bahawa sistem ini masih di bawah kawalan manusia dan tidak memulakan peperangan sendiri.

"Jika musuh mempunyai mesin dan algoritma, kita akan kehilangan konflik ini"

Kebolehan memandu peperangan algoritma adalah berdasarkan penggunaan kemajuan dalam teknologi komputer dalam tiga bidang utama. Pertama dekad pertumbuhan eksponen dalam kuasa pengkomputeranini telah meningkatkan prestasi pembelajaran mesin. Kedua pertumbuhan pesat sumber "Data besar", iaitu set data yang besar, biasanya automatik, terurus dan dibuat secara berterusan sesuai untuk pembelajaran mesin. Kebimbangan ketiga perkembangan pesat teknologi pengkomputeran awan, di mana komputer boleh mengakses sumber data dengan mudah dan memprosesnya untuk menyelesaikan masalah.

Algoritma Perangseperti yang ditakrifkan oleh pakar, ia mesti dinyatakan terlebih dahulu dengan kod komputer. Kedua, ia mestilah hasil daripada platform yang mampu mengumpul maklumat dan membuat pilihan, membuat keputusan yang, sekurang-kurangnya secara teori, tidak memerlukan campur tangan manusia. Ketiga, yang kelihatan jelas, tetapi tidak semestinya begitu, kerana hanya dalam tindakan ia menjadi jelas sama ada teknik yang dimaksudkan untuk sesuatu yang lain boleh berguna dalam peperangan dan sebaliknya, ia mesti dapat berfungsi dalam keadaan. konflik bersenjata.

Analisis arah di atas dan interaksi mereka menunjukkan bahawa peperangan algoritma ia bukan teknologi yang berasingan seperti, sebagai contoh. senjata tenaga atau peluru berpandu hipersonik. Kesannya adalah meluas dan secara beransur-ansur menjadi di mana-mana dalam permusuhan. Untuk kali pertama kenderaan tentera mereka menjadi pintar, berpotensi menjadikan pasukan pertahanan yang melaksanakannya lebih cekap dan berkesan. Mesin pintar sedemikian mempunyai batasan yang jelas yang perlu difahami dengan baik.

"" kata Shanahan pada musim gugur lalu dalam temu bual dengan bekas CEO Google Eric Schmidt dan naib presiden hal ehwal antarabangsa Google, Kent Walker. "".

Draf laporan Majlis Keselamatan Negara AS mengenai AI merujuk kepada China lebih 50 kali, menonjolkan matlamat rasmi China untuk menjadi peneraju dunia dalam AI menjelang 2030 (lihat juga: ).

Kata-kata ini diucapkan di Washington pada persidangan khas yang berlangsung selepas Pusat Shanakhan yang disebutkan di atas membentangkan laporan awalnya kepada Kongres, disediakan dengan kerjasama pakar terkenal dalam bidang kecerdasan buatan, termasuk Pengarah Penyelidikan Microsoft Eric Horwitz, Ketua Pegawai Eksekutif AWS Andy Jassa dan Penyelidik Utama Google Cloud Andrew Moore. Laporan akhir akan diterbitkan pada Oktober 2020.

Pekerja Google membantah

Beberapa tahun lalu, Pentagon terlibat. peperangan algoritma dan beberapa projek berkaitan AI di bawah projek Maven, berdasarkan kerjasama dengan syarikat teknologi, termasuk Google dan syarikat permulaan seperti Clarifai. Ia terutamanya mengenai kerja kecerdasan buatanuntuk memudahkan pengecaman objek pada.

Apabila diketahui tentang penyertaan Google dalam projek itu pada musim bunga 2018, beribu-ribu pekerja gergasi Mountain View menandatangani surat terbuka membantah penglibatan syarikat dalam permusuhan. Selepas berbulan-bulan pergolakan buruh Google telah menerima pakai set peraturannya sendiri untuk AIyang termasuk larangan penyertaan dalam acara.

Google juga telah komited untuk menyelesaikan kontrak Project Maven menjelang akhir tahun 2019. Keluar Google tidak menamatkan Project Maven. Ia telah dibeli oleh Palantir Peter Thiel. Tentera Udara dan Kor Marin AS merancang untuk menggunakan kenderaan udara tanpa pemandu khas, seperti Global Hawk, sebagai sebahagian daripada projek Maven, yang setiap satunya sepatutnya memantau secara visual sehingga 100 kilometer persegi.

Sehubungan dengan apa yang berlaku di sekitar Project Maven, menjadi jelas bahawa tentera AS memerlukan awannya sendiri dengan segera. Inilah yang dikatakan Shanahan semasa persidangan itu. Ini terbukti apabila rakaman video dan kemas kini sistem terpaksa dihantar ke pemasangan tentera yang tersebar di seluruh medan. Dalam bangunan pengkomputeran awan bersatu, yang akan membantu menyelesaikan masalah jenis ini, sebagai sebahagian daripada projek infrastruktur IT bersatu untuk tentera Jedi, Microsoft, Amazon, Oracle dan IBM. Google bukan kerana kod etika mereka.

Jelas daripada kenyataan Shanahan bahawa revolusi AI yang hebat dalam tentera baru sahaja bermula. Dan peranan pusatnya dalam angkatan tentera AS semakin berkembang. Ini jelas dilihat dalam anggaran belanjawan JAIC. Pada 2019, ia berjumlah hanya di bawah $90 juta. Pada 2020, ia sepatutnya menjadi $414 juta, atau kira-kira 10 peratus daripada bajet AI Pentagon bernilai $4 bilion.

Mesin itu mengenali seorang askar yang menyerah diri

Tentera AS sudah pun dilengkapi dengan sistem seperti Phalanx (2), iaitu sejenis senjata autonomi yang digunakan pada kapal Tentera Laut AS untuk menyerang peluru berpandu masuk. Apabila peluru berpandu dikesan, ia dihidupkan secara automatik dan memusnahkan segala-galanya di laluannya. Menurut Ford, dia boleh menyerang dengan empat atau lima peluru berpandu dalam masa setengah saat tanpa perlu melalui dan melihat setiap sasaran.

Contoh lain ialah Harpy separa autonomi (3), sebuah sistem tanpa pemandu komersial. Harpy digunakan untuk memusnahkan radar musuh. Sebagai contoh, pada tahun 2003, apabila AS melancarkan serangan ke atas Iraq yang mempunyai sistem pemintasan radar udara, dron buatan Israel membantu mencari dan memusnahkannya supaya Amerika dapat terbang dengan selamat ke ruang udara Iraq.

3. Pelancaran dron sistem IAI Harpy

Satu lagi contoh senjata autonomi yang terkenal ialah Sistem Samsung SGR-1 Korea, terletak di zon demilitarisasi antara Korea Utara dan Selatan, direka untuk mengenal pasti dan menembak penceroboh pada jarak sehingga empat kilometer. Menurut huraian, sistem itu "boleh membezakan antara orang yang menyerah diri dan orang yang tidak menyerah" berdasarkan kedudukan tangan mereka atau pengiktirafan kedudukan senjata di tangan mereka.

4. Demonstrasi pengesanan askar menyerah diri oleh sistem Samsung SGR-1

Orang Amerika takut ketinggalan

Pada masa ini, sekurang-kurangnya 30 negara di seluruh dunia menggunakan senjata automatik dengan tahap pembangunan dan penggunaan AI yang berbeza. China, Rusia dan Amerika Syarikat melihat kecerdasan buatan sebagai elemen yang amat diperlukan dalam membina kedudukan masa depan mereka di dunia. "Sesiapa yang memenangi perlumbaan AI akan memerintah dunia," kata Presiden Rusia Vladimir Putin kepada pelajar pada Ogos 2017. Presiden Republik Rakyat China, Xi Jinping, tidak membuat kenyataan berprofil tinggi sedemikian di media, tetapi beliau adalah pemacu utama arahan yang menyeru China untuk menjadi kuasa dominan dalam bidang AI menjelang 2030.

Terdapat kebimbangan yang semakin meningkat di AS tentang "kesan satelit", yang telah menunjukkan bahawa Amerika Syarikat sangat tidak lengkap untuk menghadapi cabaran baharu yang ditimbulkan oleh kecerdasan buatan. Dan ini boleh berbahaya untuk keamanan, jika hanya kerana negara yang diancam oleh penguasaan mungkin mahu menghapuskan kelebihan strategik musuh dengan cara lain, iaitu dengan peperangan.

Walaupun tujuan asal projek Maven adalah untuk membantu mencari pejuang ISIS Islam, kepentingannya untuk pembangunan selanjutnya sistem kecerdasan buatan tentera adalah sangat besar. Peperangan elektronik berdasarkan perakam, monitor dan penderia (termasuk mudah alih, terbang) dikaitkan dengan sejumlah besar aliran data heterogen, yang hanya boleh digunakan dengan berkesan dengan bantuan algoritma AI.

Medan perang hibrid telah menjadi versi tentera IoT, kaya dengan maklumat penting untuk menilai ancaman dan peluang taktikal dan strategik. Mampu mengurus data ini dalam masa nyata mempunyai faedah yang besar, tetapi kegagalan untuk belajar daripada maklumat ini boleh membawa bencana. Keupayaan untuk memproses aliran maklumat dengan cepat daripada pelbagai platform yang beroperasi di pelbagai kawasan memberikan dua kelebihan ketenteraan utama: kelajuan i kebolehcapaian. Kecerdasan buatan membolehkan anda menganalisis keadaan dinamik medan perang dalam masa nyata dan menyerang dengan cepat dan optimum, sambil meminimumkan risiko kepada pasukan anda sendiri.

Medan perang baru ini juga ada di mana-mana dan. AI berada di tengah-tengah apa yang dipanggil kawanan drone, yang telah mendapat banyak perhatian dalam beberapa tahun kebelakangan ini. Dengan bantuan penderia di mana-mana, bukan sahaja membenarkan dron untuk mengemudi kawasan yang bermusuhan, tetapi akhirnya boleh membenarkan pembentukan formasi kompleks pelbagai jenis kenderaan udara tanpa pemandu yang beroperasi di banyak kawasan, dengan senjata tambahan yang membolehkan taktik tempur yang canggih, serta-merta menyesuaikan diri dengan musuh. bergerak untuk memanfaatkan medan perang dan melaporkan keadaan yang berubah.

Kemajuan dalam penetapan sasaran dan navigasi bantuan AI juga meningkatkan prospek keberkesanan dalam pelbagai sistem pertahanan taktikal dan strategik, terutamanya pertahanan peluru berpandu, dengan menambah baik kaedah mengesan, menjejak dan mengenal pasti sasaran.

sentiasa meningkatkan kuasa simulasi dan alat permainan yang digunakan untuk menyelidik senjata nuklear dan konvensional. Pemodelan dan simulasi besar-besaran akan menjadi penting untuk membangunkan sistem berbilang domain yang komprehensif bagi sistem sasaran untuk kawalan pertempuran dan misi yang kompleks. AI juga memperkaya interaksi berbilang pihak (5). AI membolehkan pemain menambah dan mengubah suai pembolehubah permainan untuk meneroka bagaimana keadaan dinamik (senjata, penglibatan bersekutu, pasukan tambahan, dll.) boleh menjejaskan prestasi dan membuat keputusan.

Bagi tentera, pengenalan objek adalah titik permulaan semula jadi untuk AI. Pertama, analisis yang komprehensif dan pantas tentang peningkatan jumlah imej dan maklumat yang dikumpul daripada satelit dan dron diperlukan untuk mencari objek yang mempunyai kepentingan ketenteraan, seperti peluru berpandu, pergerakan tentera dan data berkaitan perisikan lain. Hari ini, medan perang merangkumi semua landskap—laut, darat, udara, angkasa dan ruang siber—pada skala global.

ruang sibersebagai domain yang sememangnya digital, ia secara semula jadi sesuai untuk aplikasi AI. Dari segi menyinggung perasaan, AI boleh membantu mencari dan menyasarkan nod rangkaian individu atau akaun individu untuk mengumpul, mengganggu atau salah maklumat. Serangan siber terhadap infrastruktur dalaman dan rangkaian perintah boleh membawa bencana. Setakat pertahanan, AI boleh membantu mengesan pencerobohan sedemikian dan mencari anomali yang merosakkan dalam sistem pengendalian awam dan tentera.

Kelajuan yang dijangka dan berbahaya

Walau bagaimanapun, membuat keputusan yang cepat dan pelaksanaan segera mungkin tidak memberi manfaat kepada anda. untuk pengurusan krisis yang berkesan. Kelebihan kecerdasan buatan dan sistem autonomi di medan perang mungkin tidak memberi masa untuk diplomasi, yang, seperti yang kita ketahui dari sejarah, selalunya berjaya sebagai cara untuk mencegah atau menguruskan krisis. Dalam amalan, kelembapan, jeda, dan masa untuk berunding boleh menjadi kunci kepada kemenangan, atau sekurang-kurangnya mengelakkan bencana, terutamanya apabila senjata nuklear dipertaruhkan.

Keputusan tentang perang dan keamanan tidak boleh diserahkan kepada analisis ramalan. Terdapat perbezaan asas dalam cara data digunakan untuk tujuan saintifik, ekonomi, logistik dan ramalan. kelakuan manusia.

Sesetengah mungkin menganggap AI sebagai kuasa yang melemahkan sensitiviti strategik bersama dan dengan itu meningkatkan risiko peperangan. Data yang rosak secara tidak sengaja atau sengaja boleh menyebabkan sistem AI melakukan tindakan yang tidak diingini, seperti salah mengenal pasti dan menyasarkan sasaran yang salah. Kepantasan tindakan yang didalilkan dalam kes pembangunan algoritma perang mungkin bermakna peningkatan pramatang atau bahkan tidak perlu yang menghalang pengurusan rasional krisis. Sebaliknya, algoritma juga tidak akan menunggu dan menjelaskan, kerana ia juga dijangka pantas.

Aspek yang mengganggu fungsi algoritma kecerdasan buatan juga disampaikan oleh kami baru-baru ini di MT. Malah pakar tidak tahu dengan tepat bagaimana AI membawa kepada hasil yang kita lihat dalam output.

Dalam kes algoritma perang, kita tidak boleh menanggung ketidaktahuan tentang alam semula jadi dan bagaimana mereka "memikirkannya". Kami tidak mahu bangun di tengah malam untuk suar nuklear kerana kecerdasan buatan "kita" atau "mereka" telah memutuskan sudah tiba masanya untuk menyelesaikan permainan.