Kabinet Seram

Kebangkitan mesin dan rampasan kuasa oleh kecerdasan buatan. Dunia pengawasan penuh dan kawalan sosial. Perang nuklear dan kemerosotan tamadun. Banyak penglihatan gelap masa depan, yang dilukis bertahun-tahun yang lalu, sepatutnya berlaku hari ini. Dan sementara itu kita melihat ke belakang dan nampaknya mereka tidak berada di sana. Adakah anda pasti?

Terdapat repertoir yang agak stereotaip popular ramalan dystopian (tentang penglihatan hitam masa depan). Sebagai tambahan kepada yang paling biasa dikaitkan dengan kemusnahan alam sekitar dan sumber semula jadi, secara meluas dipercayai bahawa teknologi terkini merosakkan komunikasi interpersonal, perhubungan dan masyarakat.

Ruang maya akan secara menipu menggantikan penyertaan sebenar di dunia. Pandangan dystopian lain melihat pembangunan teknologi sebagai satu cara untuk meningkatkan ketidaksamaan sosial, menumpukan kuasa dan kekayaan di tangan kumpulan kecil. Tuntutan tinggi teknologi moden menumpukan pengetahuan dan kemahiran dalam kalangan sempit individu yang mempunyai keistimewaan, meningkatkan pengawasan orang dan memusnahkan privasi.

Menurut kebanyakan futuris, produktiviti yang lebih tinggi dan pilihan yang lebih ketara boleh menjejaskan kualiti hidup manusia dengan menyebabkan tekanan, membahayakan pekerjaan dan menjadikan kita semakin materialistik tentang dunia.

Salah satu "dystopian" teknologi terkenal, James Gleick, memberikan contoh yang kelihatan remeh tentang alat kawalan jauh TV sebagai ciptaan klasik yang tidak menyelesaikan satu masalah penting, menimbulkan banyak masalah baharu. Gleick, memetik seorang ahli sejarah teknikal Edward Tenner, menulis bahawa kemungkinan dan kesederhanaan menukar saluran menggunakan alat kawalan jauh terutamanya berfungsi untuk mengalih perhatian penonton lebih dan lebih.

Daripada kepuasan, orang ramai semakin tidak berpuas hati dengan saluran yang mereka tonton. Daripada memenuhi keperluan, terdapat perasaan kekecewaan yang tidak berkesudahan.

Adakah kereta akan membuat kami membuat tempahan?

Adakah kita dapat mengawal perkara yang tidak dapat dielakkan ini dan mungkin akan datang tidak lama lagi? Atas kecerdasan buatan? Jika ini berlaku, seperti yang dinyatakan oleh banyak penglihatan dystopian, maka tidak. (1).

Sukar untuk mengawal sesuatu yang berkali ganda lebih kuat daripada kita. dengan pertambahan bilangan tugas. Dua puluh tahun yang lalu, tiada siapa yang akan percaya bahawa mereka boleh membaca emosi dalam suara seseorang dan menghadapi dengan lebih tepat daripada kita sendiri. Sementara itu, algoritma yang dilatih pada masa ini sudah mampu melakukan ini, menganalisis ekspresi muka, timbre dan cara kita bercakap.

Komputer melukis gambar, mengarang muzik, dan salah seorang daripada mereka memenangi pertandingan puisi di Jepun. Mereka telah menewaskan orang di catur untuk masa yang lama, belajar permainan dari awal. Perkara yang sama berlaku untuk permainan Go yang jauh lebih kompleks.

ia mematuhi undang-undang pecutan yang lebih pantas. Apa yang telah dicapai oleh AI - dengan bantuan manusia - sepanjang dekad yang lalu akan berganda dalam beberapa tahun akan datang, mungkin hanya beberapa bulan, dan kemudian ia akan mengambil masa hanya beberapa minggu, hari, saat ...

Seperti yang ternyata baru-baru ini, algoritma yang digunakan dalam telefon pintar atau di lapangan terbang untuk menganalisis foto dari kamera di mana-mana bukan sahaja dapat mengenali seseorang dalam bingkai yang berbeza, tetapi juga menentukan ciri psikologi intim secara eksklusif. Untuk mengatakan bahawa ini adalah risiko privasi yang besar adalah seperti tidak berkata apa-apa. Ini bukan tentang pengawasan mudah, mengawasi setiap langkah, tetapi mengenai maklumat yang timbul akibat penampilan seseorang, tentang keinginan tersembunyi dan pilihan peribadinya. 

Algoritma boleh mempelajari perkara ini dengan cepat dengan menganalisis ratusan ribu kes, yang jauh lebih banyak daripada yang dapat dilihat oleh orang yang paling cerdik dalam seumur hidup. Berbekalkan banyak pengalaman, mereka dapat mengimbas seseorang dengan lebih tepat berbanding pakar psikologi, bahasa badan dan penganalisis gerak isyarat yang paling berpengalaman.

Jadi distopia yang menyeramkan sebenarnya bukanlah komputer bermain catur atau menentang kita, tetapi mereka dapat melihat jiwa kita lebih dalam daripada orang lain selain diri kita sendiri, penuh dengan larangan dan halangan dalam mengenali kecenderungan itu atau lain-lain.

Elon Musk percaya bahawa apabila sistem AI mula belajar dan menaakul pada skala yang semakin meningkat, "kepintaran" mungkin berkembang di suatu tempat jauh dalam lapisan web, tidak dapat dilihat oleh kita.

Menurut kajian Amerika yang diterbitkan pada 2016, dalam tempoh 45 tahun akan datang, kecerdasan buatan mempunyai peluang 50 peratus untuk mengatasi manusia dalam semua tugas. Peramal mengatakan bahawa ya, AI akan menyelesaikan masalah kanser, meningkatkan dan mempercepatkan ekonomi, menyediakan hiburan, meningkatkan kualiti dan tempoh hidup, mendidik kita supaya kita tidak boleh hidup tanpanya, tetapi mungkin suatu hari nanti, tanpa kebencian, hanya kerana berdasarkan pengiraan logik, ia hanya menghilangkan kita. Mungkin secara fizikal ia tidak akan berfungsi, kerana dalam setiap sistem ia bernilai menyimpan, mengarkibkan dan menyimpan sumber yang "mungkin berguna suatu hari nanti." Ya, inilah sumber yang kita boleh dapatkan untuk AI. Tenaga kerja yang dilindungi?

Optimis menghiburkan diri mereka dengan hakikat bahawa sentiasa ada peluang untuk menarik plag keluar dari soket. Walau bagaimanapun, semuanya tidak begitu mudah. Sudah, kehidupan manusia telah menjadi sangat bergantung kepada komputer bahawa langkah radikal terhadap mereka akan menjadi bencana bagi kita.

Lagipun, kami semakin mencipta sistem membuat keputusan berasaskan AI, memberi mereka hak untuk menerbangkan pesawat, menetapkan kadar faedah, menjalankan loji kuasa - kami tahu bahawa algoritma akan melakukannya dengan lebih baik daripada kami. Pada masa yang sama, kami tidak memahami sepenuhnya bagaimana keputusan digital ini dibuat.

Terdapat kebimbangan bahawa sistem arahan super-pintar seperti "Kurangkan Kesesakan" boleh menyebabkan mereka membuat kesimpulan bahawa satu-satunya cara yang berkesan untuk menyelesaikan kerja adalah dengan... mengurangkan populasi sebanyak satu pertiga atau separuh.

Ya, adalah berbaloi untuk memberi mesin arahan yang paling penting seperti "Pertama sekali, selamatkan nyawa manusia!". Walau bagaimanapun, siapa tahu sama ada logik digital itu akan membawa kepada pemenjaraan manusia atau di bawah bangsal, di mana kita mungkin selamat, tetapi sudah tentu tidak bebas.

Jenayah siber sebagai perkhidmatan

Pada masa lalu, distopia dan imej dunia pasca-apokaliptik dalam kesusasteraan dan pawagam biasanya ditetapkan dalam era pasca-nuklear. Hari ini, penghapusan nuklear nampaknya tidak diperlukan untuk malapetaka dan kemusnahan dunia seperti yang kita ketahui, walaupun tidak seperti yang kita bayangkan. , ia tidak mungkin memusnahkan dunia seperti dalam "Terminator", di mana ia digabungkan dengan pemusnahan nuklear. Jika dia melakukannya, dia tidak akan menjadi superintelligence, tetapi kuasa primitif. Lagipun, walaupun manusia masih belum menyedari senario global konflik nuklear yang dahsyat.

Apocalypse mesin sebenar boleh menjadi kurang menarik.

Peperangan siber, serangan virus, penggodaman sistem dan perisian tebusan, perisian tebusan (2) melumpuhkan dan memusnahkan dunia kita tidak kurang berkesan daripada bom. Jika skala mereka berkembang, kita mungkin memasuki fasa perang menyeluruh yang mana kita akan menjadi mangsa dan tebusan mesin, walaupun mereka tidak perlu bertindak secara autonomi, dan ada kemungkinan orang masih berada di belakang segala-galanya.

Musim panas lalu, Agensi Keselamatan Siber dan Infrastruktur (CISA) A.S. menamakan serangan perisian tebusan "ancaman keselamatan siber yang paling ketara."

CISA mendakwa bahawa banyak aktiviti di mana penjenayah siber memintas dan menyulitkan data seseorang atau organisasi dan kemudian memeras wang tebusan tidak pernah dilaporkan kerana mangsa membayar penjenayah siber dan tidak mahu menghebahkan masalah dengan sistem mereka yang tidak selamat. Pada peringkat mikro, penjenayah siber sering menyasarkan orang yang lebih tua yang menghadapi masalah membezakan antara kandungan jujur ​​dan tidak jujur ​​di Internet. Mereka melakukan ini dengan perisian hasad yang dibenamkan dalam lampiran e-mel atau pop timbul pada tapak web yang dijangkiti. Pada masa yang sama, serangan terhadap syarikat besar, hospital, agensi kerajaan dan kerajaan semakin meningkat.

Yang terakhir disasarkan terutamanya kerana data sensitif yang mereka pegang dan keupayaan untuk membayar wang tebusan yang besar.

Sesetengah maklumat, seperti maklumat kesihatan, jauh lebih berharga kepada pemilik daripada yang lain dan boleh membuat penjenayah lebih banyak wang. Pencuri boleh memintas atau mengkuarantin blok besar data klinikal yang penting untuk penjagaan pesakit, seperti keputusan ujian atau maklumat ubat. Apabila nyawa menjadi taruhan, tiada ruang untuk berunding di hospital. Salah satu hospital Amerika telah ditutup secara kekal pada November tahun lalu selepas serangan pengganas Ogos.

Ia mungkin hanya akan menjadi lebih teruk dari semasa ke semasa. Pada 2017, Jabatan Keselamatan Dalam Negeri AS mengumumkan bahawa serangan siber boleh menyasarkan infrastruktur kritikal seperti utiliti air. Dan alatan yang diperlukan untuk melaksanakan tindakan sedemikian semakin tersedia kepada pengendali yang lebih kecil, yang kepada mereka mereka menjual himpunan perisian tebusan seperti perisian Cerber dan Petya dan mengenakan bayaran tebusan selepas serangan berjaya. Berdasarkan jenayah siber sebagai perkhidmatan.

Gangguan berbahaya dalam genom

Salah satu topik popular dystopia ialah genetik, manipulasi DNA dan pembiakan orang - di samping itu, "diprogramkan" dengan cara yang betul (pihak berkuasa, syarikat, tentera).

Penjelmaan moden kebimbangan ini adalah kaedah popularisasi Penyuntingan gen CRISPR (3). Mekanisme yang terkandung di dalamnya amat membimbangkan. memaksa fungsi yang diingini pada generasi seterusnya dan potensinya merebak ke seluruh penduduk. Salah seorang pencipta teknik ini, Jennifer Doudna, malah baru-baru ini meminta moratorium ke atas teknik penyuntingan "garisan kuman" sedemikian kerana akibat yang berpotensi membawa bencana.

Ingat bahawa beberapa bulan yang lalu, seorang saintis Cina Dia Jiankui telah dikritik secara meluas kerana menyunting gen embrio manusia untuk mengimunkan mereka terhadap virus AIDS. Sebabnya, perubahan yang dilakukannya boleh diturunkan dari generasi ke generasi dengan akibat yang tidak dapat diramalkan.

Kebimbangan khusus ialah apa yang dipanggil d (penulisan semula gen, pemacu gen), i.e. mekanisme kejuruteraan genetik yang mengekod sistem penyuntingan dalam DNA individu tertentu Genom CRISPR/CAS9 dengan menetapkannya untuk mengedit varian gen yang tidak diingini ini. Disebabkan ini, keturunan secara automatik (tanpa penyertaan ahli genetik) menimpa varian gen yang tidak diingini dengan yang dikehendaki.

Walau bagaimanapun, varian gen yang tidak diingini boleh diterima oleh anak "sebagai hadiah" daripada induk lain yang tidak diubah suai. Jadi pemacu gen mari berbuka Undang-undang keturunan Mendelianyang mengatakan bahawa separuh daripada gen dominan pergi kepada anak daripada satu ibu bapa. Ringkasnya, ini akhirnya akan membawa kepada penyebaran varian gen yang dipersoalkan kepada seluruh populasi.

Ahli biologi di Universiti Stanford Christina Smolke, kembali pada panel kejuruteraan genetik pada 2016, memberi amaran bahawa mekanisme ini boleh mendatangkan bahaya dan, dalam kes yang melampau, akibat yang mengerikan. Pemacu gen mampu bermutasi kerana ia melalui generasi dan menyebabkan gangguan genetik seperti hemofilia atau hemofilia.

Seperti yang kita baca dalam artikel yang diterbitkan dalam Nature Reviews oleh penyelidik di University of California, Riverside, walaupun pemacu berfungsi seperti yang dimaksudkan dalam satu populasi organisma, sifat keturunan yang sama boleh memudaratkan jika ia dimasukkan ke dalam populasi yang lain. . rupa yang sama.

Terdapat juga bahaya bahawa saintis mencipta pemacu gen di sebalik pintu tertutup dan tanpa semakan rakan sebaya. Jika seseorang secara sengaja atau tidak sengaja memperkenalkan pemacu gen yang berbahaya ke dalam genom manusia, seperti yang memusnahkan daya tahan kita terhadap influenza, ia mungkin bermakna berakhirnya spesies homo sapiens…

Kapitalisme Pengawasan

Versi dystopia yang sukar dibayangkan oleh bekas penulis fiksyen sains ialah realiti Internet, dan terutamanya media sosial, dengan segala akibat yang diterangkan secara meluas yang memusnahkan privasi, perhubungan dan integriti psikologi orang ramai.

Dunia ini hanya dilukis dalam persembahan seni yang lebih baharu, seperti yang dapat kita lihat dalam siri Black Mirror dalam episod 2016 "The Diving" (4). Shoshana Zuboff, seorang ahli ekonomi Harvard, memanggil realiti ini bergantung sepenuhnya pada pengesahan diri sosial dan sepenuhnya "dilucutkan". kapitalisme pengawasan (), dan pada masa yang sama kerja menobatkan Google dan Facebook.

4. Adegan daripada "Black Mirror" - episod "Menyelam"

Menurut Zuboff, Google ialah pencipta pertama. Di samping itu, ia sentiasa mengembangkan aktiviti pengawasannya, contohnya melalui projek "bandar pintar" yang kelihatan tidak bersalah. Contohnya ialah projek Kejiranan Paling Inovatif di Dunia oleh Sidewalk Labs, anak syarikat Google. jeti di Toronto.

Google merancang untuk mengumpul semua data terkecil tentang kehidupan penduduk di tepi pantai, pergerakan mereka dan juga pernafasan dengan bantuan penderia pemantauan di mana-mana.

Sukar juga untuk memilih distopia internet yang tidak dibincangkan di Facebook. Kapitalisme pengawasan mungkin telah dicipta oleh Google, tetapi Facebooklah yang membawanya ke tahap yang baharu. Ini dilakukan melalui mekanisme viral sosial dan emosi dan penganiayaan kejam terhadap mereka yang bukan pengguna platform Zuckerberg.

AI yang dikawal, tenggelam dalam realiti maya, hidup dengan UBI

Menurut banyak futuris, masa depan dunia dan teknologi ditentukan oleh lima singkatan - AI, AR, VR, BC dan UBI.

Pembaca "MT" mungkin tahu apa itu dan apa yang terdiri daripada tiga yang pertama. Yang biasa juga ternyata menjadi yang keempat, "SM", apabila kita memahami tentangnya. Dan yang kelima? UBD adalah singkatan daripada konsep, yang bermaksud "pendapatan asas sejagat » (5). Ini adalah faedah awam, yang didalilkan dari semasa ke semasa, yang akan diberikan kepada setiap orang yang dilepaskan daripada kerja apabila teknologi lain berkembang, terutamanya AI.

5. Pendapatan Asas Sejagat - UBI

Switzerland malah meletakkan idea itu kepada referendum tahun lepas, tetapi rakyatnya menolaknya, bimbang pengenalan pendapatan terjamin akan membawa kepada kebanjiran pendatang. UBI juga membawa bersamanya beberapa bahaya lain, termasuk risiko mengekalkan ketidaksamaan sosial yang sedia ada.

Setiap revolusi teknologi di sebalik akronim (lihat juga:) - jika ia merebak dan berkembang ke arah yang diharapkan - mempunyai akibat yang besar untuk manusia dan dunia kita, termasuk, sudah tentu, dos dystopia yang besar. Sebagai contoh, dipercayai bahawa ia boleh menggantikan kitaran pilihan raya empat tahun dan membawa kepada pungutan suara mengenai banyak isu.

Realiti maya, seterusnya, mampu "mengecualikan" sebahagian daripada manusia dari dunia nyata. Seperti yang berlaku, sebagai contoh, dengan Jang Ji Sung dari Korea, yang, selepas kematian anak perempuannya pada tahun 2016 akibat penyakit yang tidak dapat diubati, telah bertemu dengan avatarnya dalam VR. Ruang maya juga mencipta jenis masalah baharu, atau sebenarnya memindahkan semua masalah lama yang diketahui ke dunia "baru", atau malah ke banyak dunia lain. Sedikit sebanyak, kita sudah boleh melihat ini dalam rangkaian sosial, di mana ia berlaku bahawa terlalu sedikit suka pada siaran membawa kepada kemurungan dan bunuh diri.

Kisah kenabian lebih kurang

Lagipun, sejarah penciptaan penglihatan dystopian juga mengajar berhati-hati dalam merumuskan ramalan.

6. Muka depan "Pulau dalam Jaring"

Difilemkan tahun lepas ialah karya agung sains fiksyen terkenal Ridley Scottpemburu android» Sejak 1982. Adalah mungkin untuk membincangkan pemenuhan atau tidak banyak elemen khusus, tetapi tidak dapat dipertikaikan bahawa nubuatan yang paling penting mengenai kewujudan pada zaman kita yang pintar, android humanoid, dalam banyak cara lebih tinggi daripada manusia, belum menjadi kenyataan.

Kami akan bersedia untuk bertolak ansur dengan lebih banyak serangan kenabian."Neuromancer»iaitu novel William Gibson sejak 1984, yang mempopularkan konsep "ruang siber".

Walau bagaimanapun, dalam dekad itu, sebuah buku yang kurang terkenal muncul (hampir sepenuhnya di negara kita, kerana ia tidak diterjemahkan ke dalam bahasa Poland), yang meramalkan masa hari ini dengan lebih tepat. Saya bercakap tentang percintaanPulau di Web"(6) Bruce Sterling sejak 1988, ditetapkan pada 2023. Ia membentangkan dunia yang tenggelam dalam sesuatu yang serupa dengan Internet, yang dikenali sebagai "web". Ia dikawal oleh syarikat antarabangsa yang besar. "Pulau di Net" adalah luar biasa kerana ia menyediakan kawalan, pengawasan dan monopoli Internet yang kononnya percuma.

Menarik juga untuk meramalkan operasi tempur yang dijalankan menggunakan kenderaan udara tanpa pemandu (drone) terhadap lanun/pengganas dalam talian. Pengendali beribu batu jauhnya dengan desktop selamat - bagaimana kita tahu perkara itu? Buku ini bukan tentang konflik yang tidak berkesudahan dengan keganasan Islam, tetapi tentang perjuangan menentang kuasa-kuasa yang menentang globalisasi. Dunia Islands in the Net juga dipenuhi dengan peranti pengguna yang kelihatan seperti jam tangan pintar dan kasut sukan pintar.

Terdapat satu lagi buku dari tahun 80-an yang, walaupun beberapa peristiwa kelihatan lebih hebat, berfungsi dengan baik untuk menggambarkan ketakutan dystopian zaman moden kita. ini"perisian Georadar", Cerita Rudy Rookerditetapkan pada tahun 2020. Dunia, keadaan masyarakat dan konfliknya kelihatan sangat serupa dengan apa yang kita hadapi hari ini. Terdapat juga robot yang dikenali sebagai boppers yang telah mendapat kesedaran diri dan melarikan diri ke bandar di bulan. Elemen ini belum menjadi kenyataan, tetapi pemberontakan mesin menjadi penahan berterusan ramalan hitam.

Penglihatan masa kita dalam buku juga sangat tepat dalam banyak cara. Octavia Butler, terutamanya dalamPerumpamaan Penabur» (1993). Tindakan itu bermula pada 2024 di Los Angeles dan berlaku di California, musnah akibat banjir, ribut dan kemarau yang disebabkan oleh perubahan iklim. Keluarga kelas pertengahan dan pekerja bertemu dalam komuniti berpagar ketika mereka cuba melarikan diri dari dunia luar dengan dadah ketagihan dan kit realiti maya. Agama baru dan teori konspirasi muncul. Karavan pelarian menuju ke utara untuk mengelakkan keruntuhan ekologi dan sosial. Seorang presiden berkuasa yang menggunakan slogan kempen "Make America Great Again" (ini adalah slogan Donald Trump) ...

Buku kedua Butler, "Perumpamaan Bakatmenceritakan bagaimana ahli kultus agama baru meninggalkan Bumi dengan kapal angkasa untuk menjajah Alpha Centauri.

***

Apakah pengajaran daripada tinjauan meluas ramalan dan penglihatan yang dibuat beberapa dekad yang lalu mengenai kehidupan seharian kita?

Mungkin, hakikatnya ialah dystopia sering berlaku, tetapi selalunya hanya sebahagian.