Hantu pembunuh mesin itu berterusan. Apakah yang dipercayai oleh Presiden Putin?

Penyokong robot tentera (1) berpendapat bahawa senjata automatik menyediakan lebih banyak pilihan untuk melindungi kehidupan manusia. Mesin dapat mendekati musuh daripada tentera, dan menilai ancaman dengan betul. Dan emosi kadangkala melumpuhkan keupayaan untuk membuat keputusan yang betul.

Ramai penyokong menggunakan robot pembunuh sangat percaya bahawa mereka akan menjadikan peperangan kurang berdarah kerana lebih sedikit askar akan mati. Mereka perhatikan bahawa robot, walaupun tidak berasa kasihan, kebal terhadap emosi manusia yang negatif seperti panik, kemarahan, dan membalas dendam, yang sering membawa kepada jenayah perang.

Aktivis hak asasi manusia juga menggunakan hujah bahawa tentera telah membawa kepada pengurangan besar dalam kematian orang awam sepanjang setengah abad yang lalu, dan robotisasi tentera membolehkan mekanisme untuk menguatkuasakan undang-undang perang dengan lebih ketat. Mereka mendakwa bahawa mesin akan menjadi beretika apabila mereka dilengkapi dengan perisian yang akan memaksa mereka untuk mematuhi undang-undang perang.

Sudah tentu, sebilangan besar orang, termasuk yang sangat terkenal, tidak berkongsi pendapat ini selama bertahun-tahun. Pada April 2013, kempen antarabangsa telah dilancarkan di bawah slogan (2). Dalam rangka kerjanya, pertubuhan bukan kerajaan menuntut larangan sepenuhnya terhadap penggunaan senjata autonomi. Pakar dari banyak negara mula-mula duduk untuk membincangkan topik ini pada Persidangan PBB mengenai Perlucutan Senjata di Geneva pada Mei 2014. Laporan yang diterbitkan beberapa bulan kemudian oleh Human Rights Watch dan saintis dari Universiti Harvard berkata bahawa yang autonomi akan menjadi terlalu berbahaya - mereka memilih sasaran mereka sendiri dan membunuh orang. Pada masa yang sama, tidak begitu jelas siapa yang harus bertanggungjawab.

2. Demonstrasi sebagai sebahagian daripada kempen Hentikan Robot Pembunuh

Apa yang boleh dilakukan oleh sekumpulan dron kecil

Pertikaian mengenai robot pembunuh (ROU) telah berlaku selama bertahun-tahun dan tidak hilang. Beberapa bulan kebelakangan ini telah membawa percubaan baharu untuk menghentikan robot tentera dan gelombang laporan projek baharu jenis ini, malah sebahagian daripadanya sedang diuji dalam keadaan pertempuran sebenar.

Pada November 2017, tayangan video segerombolan maut mini-drone ., dalam aksi yang menakutkan. Penonton telah melihat bahawa kita tidak lagi memerlukan mesin perang berat, kereta kebal atau roket yang dilemparkan oleh Predator untuk membunuh secara beramai-ramai dan dengan mesingan. Pengarah utama Stuart Russell, profesor kecerdasan buatan di Berkeley, berkata:

-

Musim bunga lepas lima puluh profesor Universiti terkemuka dunia telah menandatangani rayuan kepada Institut Sains dan Teknologi Termaju Korea (KAIST) dan rakan kongsinya Hanwha Systems. mereka mengumumkan bahawa mereka tidak akan bekerjasama dengan universiti dan menjadi tuan rumah kepada tetamu KAIST. Sebabnya ialah pembinaan "senjata autonomi" yang dijalankan oleh kedua-dua institusi. KAIST menafikan laporan media.

Tidak lama selepas itu di AS lebih daripada 3 pekerja Google membantah kerja syarikat untuk tentera. Mereka bimbang bahawa Google bekerjasama dengan projek kerajaan yang diberi nama kod Maven yang bertujuan untuk menggunakan AI untuk mengecam objek dan wajah dalam video dron tentera. Pengurusan syarikat mengatakan bahawa matlamat Maven adalah untuk menyelamatkan nyawa dan menyelamatkan orang daripada kerja yang membosankan, bukan pencerobohan. Penunjuk perasaan tidak yakin.

Bahagian seterusnya pertempuran adalah pengisytiharan pakar kecerdasan buatan, termasuk. bekerja pada projek Google dan Elon Musk. Mereka berjanji tidak akan membangunkan robot. Mereka juga menyeru kerajaan untuk mempergiatkan usaha untuk mengawal dan mengehadkan senjata ini.

Kenyataan itu mengatakan, sebahagiannya, bahawa "keputusan untuk mengambil nyawa manusia tidak boleh diambil oleh mesin." Walaupun tentera dunia dilengkapi dengan banyak peranti automatik, kadangkala dengan tahap autonomi yang tinggi, ramai pakar bimbang bahawa pada masa hadapan teknologi ini mungkin menjadi autonomi sepenuhnya, membenarkan pembunuhan tanpa penglibatan pengendali dan komander manusia.

Pakar juga memberi amaran bahawa mesin pembunuh autonomi boleh menjadi lebih berbahaya daripada "senjata nuklear, kimia dan biologi" kerana ia mudah terlepas dari kawalan. Secara keseluruhan, pada Julai tahun lalu, sepucuk surat di bawah naungan Future of Life Institute (FGI) telah ditandatangani oleh 170 organisasi dan 2464 individu. Pada bulan-bulan awal 2019, sekumpulan saintis perubatan yang bergabung dengan FLI memanggil sekali lagi untuk mendapatkan surat baharu yang melarang pembangunan senjata terkawal kecerdasan buatan (AI).

Mesyuarat Ogos tahun lalu PBB di Gniewo mengenai kemungkinan peraturan undang-undang "robot pembunuh" tentera berakhir dengan kejayaan ... mesin. Sekumpulan negara, termasuk Amerika Syarikat, Rusia dan Israel, menyekat kerja lanjut mengenai pengenalan larangan antarabangsa terhadap senjata ini (draf Konvensyen mengenai Larangan atau Sekatan Penggunaan Senjata Konvensional Tertentu, CCW). Bukan kebetulan bahawa negara-negara ini terkenal dengan kerja mereka pada sistem canggih senjata autonomi dan robotik.

Rusia memberi tumpuan kepada robot tempur

Presiden Vladimir Putin sering dipetik sebagai berkata tentang sistem AI tentera dan robot tempur:

-.

bercakap secara terbuka tentang pembangunan senjata autonomi. Ketua Staf Am angkatan tenteranya, Jeneral Valery Gerasimov, baru-baru ini memberitahu agensi berita tentera Interfax-AVN bahawa penggunaan robot akan menjadi salah satu ciri utama peperangan masa depan. Dia menambah bahawa Rusia sedang mencuba mengautomasikan sepenuhnya medan perang. Komen yang sama dibuat oleh Timbalan Perdana Menteri Dmitry Rogozin dan Menteri Pertahanan Sergei Shoigu. Pengerusi Jawatankuasa Majlis Persekutuan mengenai Pertahanan dan Keselamatan Viktor Bondarev berkata bahawa Rusia sedang berusaha untuk membangun teknologi Rojuini akan membolehkan rangkaian dron berfungsi sebagai satu entiti.

Ini tidak menghairankan jika kita ingat bahawa teletank pertama dibangunkan di Kesatuan Soviet pada tahun 30-an. Mereka digunakan pada permulaan Perang Dunia II. Hari ini Rusia juga mencipta robot kereta kebal menjadi lebih dan lebih autonomi.

Negara Putin baru-baru ini menghantar negaranya ke Syria Kenderaan tempur tanpa pemandu Uran-9 (3). peranti itu terputus hubungan dengan titik kawalan darat, mempunyai masalah dengan sistem penggantungan, dan senjatanya tidak berfungsi dengan sempurna dan tidak mengenai sasaran yang bergerak. Bunyinya tidak begitu serius, tetapi ramai yang menganggap lap Syria sebagai ujian tempur yang baik yang akan membolehkan Rusia memperbaiki mesin itu.

Roscosmos telah meluluskan rancangan awal untuk menghantar dua robot ke Stesen Angkasa Antarabangsa menjelang Ogos tahun ini. Fedor (4) dalam Kesatuan tanpa pemandu. Bukan seperti beban, tetapi. Seperti dalam filem RoboCop, Fedor menggunakan senjata dan menunjukkan kemahiran menembak yang mematikan semasa latihan menembak.

Persoalannya, mengapa robot di angkasa akan bersenjata? Terdapat syak wasangka bahawa perkara itu bukan sahaja dalam permohonan tanah. Sementara itu di Bumi, pengeluar senjata Rusia Kalashnikov menunjukkan visualisasi robot Igorekyang, walaupun ia menyebabkan banyak ketawa, menandakan bahawa syarikat itu serius mengusahakan kenderaan tempur autonomi. Pada Julai 2018, Kalashnikov mengumumkan bahawa dia sedang membina senjata yang dia gunakan untuk membuat keputusan "menembak atau tidak menembak".

Untuk maklumat ini perlu ditambah laporan bahawa tukang senjata Rusia Digtyarev membangunkan kecil kereta kebal autonomi Nerekht yang boleh bergerak secara senyap ke arah sasarannya sendiri dan kemudian meletup dengan kekuatan yang kuat untuk memusnahkan bangunan lain atau keseluruhan. Serta Kereta kebal T14 Tentera , kebanggaan angkatan tentera Rusia, direka untuk kemungkinan kawalan jauh dan pemanduan tanpa pemandu. Sputnik mendakwa bahawa jurutera tentera Rusia sedang berusaha untuk menjadikan T-14 sebagai kenderaan berperisai autonomi sepenuhnya.

Arahan Bantahan

Tentera AS sendiri telah mengenakan had yang agak jelas pada tahap autonomi senjata mereka. Pada tahun 2012, Jabatan Pertahanan AS mengeluarkan Arahan 3000.09, yang menyatakan bahawa manusia harus mempunyai hak untuk membantah tindakan robot bersenjata. (walaupun mungkin terdapat beberapa pengecualian). Arahan ini kekal berkuat kuasa. Dasar Pentagon semasa ialah faktor penentu dalam penggunaan senjata hendaklah sentiasa seseorang, dan pertimbangan sedemikian sepatutnya. mematuhi undang-undang perang.

Walaupun rakyat Amerika telah menggunakan pesawat terbang, Predator, Reaper dan banyak mesin super lain selama beberapa dekad, mereka tidak dan bukan model autonomi. Mereka dikawal oleh pengendali dari jauh, kadangkala dari jarak beberapa ribu kilometer. Perbincangan hangat tentang autonomi mesin jenis ini bermula dengan tayangan perdana prototaip. dron X-47B (5), yang bukan sahaja terbang secara bebas, tetapi juga boleh berlepas dari kapal pengangkut pesawat, mendarat di atasnya dan mengisi minyak di udara. Maksudnya juga ialah menembak atau mengebom tanpa campur tangan manusia. Walau bagaimanapun, projek itu masih dalam ujian dan semakan.

5. Ujian X-47B tanpa pemandu pada kapal pengangkut pesawat Amerika

Pada tahun 2003, Jabatan Pertahanan mula bereksperimen dengan robot kecil seperti kereta kebal. SPOES dilengkapi dengan mesingan. Pada tahun 2007 dia dihantar ke Iraq. bagaimanapun, program itu tamat selepas robot itu mula berkelakuan tidak menentu, menggerakkan senapangnya secara tidak menentu. Akibatnya, tentera AS meninggalkan kajian robot darat bersenjata selama bertahun-tahun.

Pada masa yang sama, Tentera Darat AS telah meningkatkan perbelanjaannya untuk operasi daripada $20 juta pada 2014 kepada $156 juta pada 2018. Bajet ini telah melonjak kepada $2019 juta pada 327. Ini adalah peningkatan terkumpul sebanyak 1823% dalam beberapa tahun sahaja. Pakar mengatakan bahawa seawal 2025, tentera AS mungkin mempunyai medan perang lebih ramai askar robot daripada manusia.

Baru-baru ini, banyak kontroversi telah ditimbulkan dan diumumkan oleh Tentera AS projek ATLAS () - automatik. Dalam media, ini dianggap sebagai pelanggaran Arahan 3000.09 yang disebutkan di atas. Walau bagaimanapun, tentera AS menafikan dan memberi jaminan bahawa pengecualian seseorang daripada kitaran membuat keputusan adalah di luar persoalan.

AI mengiktiraf jerung dan orang awam

Walau bagaimanapun, pembela senjata autonomi mempunyai hujah baru. prof. Ronald Arkin, seorang pakar robotik di Institut Teknologi Georgia, menyatakan dalam penerbitannya bahawa Dalam peperangan moden, senjata pintar adalah penting untuk mengelakkan korban awam, kerana teknik pembelajaran mesin secara berkesan boleh membantu membezakan antara pejuang dan orang awam, dan sasaran penting dan tidak penting.

Contoh kemahiran AI tersebut ialah meronda pantai Australia. dron Little Ripperdilengkapi dengan sistem SharkSpotter yang dibangunkan oleh Universiti Teknologi Sydney. Sistem ini secara automatik mengimbas air untuk jerung dan memaklumkan pengendali apabila ia melihat sesuatu yang tidak selamat. (6) Ia boleh mengenal pasti manusia, ikan lumba-lumba, bot, papan luncur dan objek di dalam air untuk membezakannya daripada jerung. Ia boleh mengesan dan mengenal pasti kira-kira enam belas spesies berbeza dengan ketepatan yang tinggi.

6. Jerung yang diiktiraf dalam sistem SharkSpotter

Kaedah pembelajaran mesin lanjutan ini meningkatkan ketepatan peninjauan udara lebih daripada 90%. Sebagai perbandingan, pengendali manusia dalam situasi yang sama mengenali dengan tepat 20-30% objek dalam gambar udara. Selain itu, pengenalan masih disahkan oleh manusia sebelum penggera.

Di medan perang, pengendali, melihat imej di skrin, hampir tidak dapat menentukan sama ada orang di darat adalah pejuang dengan AK-47 di tangan mereka atau, sebagai contoh, petani dengan tombak. Arkin menyatakan bahawa orang cenderung untuk "melihat apa yang mereka mahu lihat," terutamanya dalam situasi yang tertekan. Kesan ini menyumbang kepada pesawat Iran yang jatuh secara tidak sengaja oleh USS Vincennes pada tahun 1987. Sudah tentu, pada pendapatnya, senjata yang dikawal AI akan lebih baik daripada "bom pintar" semasa, yang tidak benar-benar berasa. Ogos lalu, peluru berpandu laser Arab Saudi mengenai bas yang penuh dengan pelajar sekolah di Yaman, membunuh empat puluh kanak-kanak.

"Jika bas sekolah dilabelkan dengan betul, mengenal pastinya dalam sistem autonomi boleh menjadi agak mudah," kata Arkin dalam Popular Mechanics.

Bagaimanapun, hujah-hujah ini nampaknya tidak meyakinkan pihak yang berkempen menentang pembunuh automatik. Sebagai tambahan kepada ancaman robot pembunuh, satu lagi keadaan penting mesti diambil kira. Malah sistem "baik" dan "perhatian" boleh digodam dan diambil alih oleh orang yang sangat jahat. Kemudian semua hujah dalam mempertahankan peralatan ketenteraan kehilangan kekuatannya.